UPDATED. 2019-09-21 15:15 (토)
구글러가 쏜 공개서한, AI 시대 딜레마 보여주다
구글러가 쏜 공개서한, AI 시대 딜레마 보여주다
  • 임준수 micropr@gmail.com
  • 승인 2018.07.24 16:33
  • 댓글 0
이 기사를 공유합니다

[임준수의 캠페인 디코딩] 美 국방부와 맺은 ‘프로젝트 메이븐(Project Maven)’ 계약이 불러온 파장

구글과 미 국방부의 ‘프로젝트 메이븐(Project Maven)’ 프로젝트가 몰고온 파장은 인공지능(AI) 시대 윤리적 문제와 함께 기업의 사회적 책임, PR윤리 등의 다양한 함의를 담고 있습니다. 3회에 걸쳐 연재합니다. 
① 예고된 적색육 파장
② 구글식 위기관리
③ 교과서 벗어난 PR적 교훈

구글이 미 국방부와 맺은 프로젝트 계약이 뒤늦게 알려지며 인공지능(AI) 윤리 이슈에 직면했다. 뉴시스/AP
구글이 미 국방부와 맺은 프로젝트 계약이 뒤늦게 알려지며 인공지능(AI) 윤리 이슈에 직면했다. 사진은 캘리포니아에 위치한 구글 본사. 뉴시스/AP

[더피알=임준수] 구글이 펜타곤과 인공지능(AI)을 이용한 군사용 드론 시스템을 개발한다는 소식은 계약 체결 3개월 뒤 IT 전문 매체 기즈모도의 단독보도로 세상에 알려졌다. ‘프로젝트 메이븐(Project Maven)’으로 명명된 국방부와 구글이 맺은 계약의 정식 제목은 ‘무인항공시스템의 와해적 혁신: 알고리즘 전쟁의 다기능 팀(Disruption in UAS: The Algorithmic Warfare Cross-Functional Team)’이다.

이 프로젝트의 목표는 테러리스트 조직의 소재를 추적하고 이들이 기획하는 테러 기도를 사전에 탐지하는 감시용 드론 같은 첨단기술의 발전을 돕는 것으로 되어 있다. AI 활용으로는 구글이 미 국방부와 맺은 첫 번째 용역계약이다.

프로젝트 메이븐으로 구글이 얻을 용역비는 900만 달러(약 100억원)인데, 구글이 이 정도 금액을 보고 해당 프로젝트를 수주했다고 보는 사람은 아무도 없다. 이보다는 펜타곤이 향후 10년간 100억 달러를 쏟아 부어 클라우드 환경 하에 핵무기 기밀을 포함한 미군의 가장 중요한 기밀 데이터를 저장할 이른바 ‘공동엔터프라이즈방어시설(JEDI)’을 구축하는 프로젝트에서 테크놀로지 기업으로 입찰 받기 위한 사전 포석이라는 분석이 더 지배적이다. 현재로서는 아마존이 이 계약을 따낼 가능성이 가장 크지만, 구글의 클라우드 부문에서도 물러설 수 없는 거대한 사업이기 때문이다.

예고된 ‘적색육’ 파장

구글 경영진은 이 계약이 몰고 올 잠재적 파장에 대해 어느 정도 걱정한 흔적이 있다. 뉴욕타임스에 따르면, 작년 9월 구글 클라우드의 인공지능 부문 책임 연구자인 페이-페이 리(Fei-Fei Li) 교수(스탠퍼드대 인공지능랩)가 구글의 국방정보팀의 책임자인 스콧 프로만(Scott Frohman)에게 보낸 이메일에서 “어떤 비용이 들더라도 AI에 대한 언급이나 암시를 피하세요. 무기화 된 인공지능은 인공지능 중에서 가장 민감한 주제 중 하나일 겁니다. 이는 구글의 평판에 손상을 입힐 어떤 방법이라도 찾는 미디어에는 적색육(red meat)이 될 것입니다”라고 경고했다.

기즈모도의 특종에 이어 구글은 곧바로 PR적 위기에 직면했다. 무엇보다 구글의 가장 중요한 이해관계자인 직원들의 반응이 격렬했다. 12명의 직원이 항의 표시로 즉각 사직서를 던진 것으로 알려졌으며, 다른 직원들의 조직적 대응 역시 신속했다. 약 4000명의 직원이 해당 계약의 철회를 촉구하는 공개서한에 서명했다. 이 서한에서 구글러들은 구글이 ‘전쟁의 비즈니스’에 징집당해서는 안 된다고 촉구했다.

뒤늦게 알려진 일이지만 프로젝트 메이븐 이전인 올 초에도 구글러들의 보이콧이 있었다. ‘9명의 그룹’으로 알려진 구글 클라우드 팀의 소프트웨어 개발자들은 ‘에어갭(air gap)’이라는 첨단 보안 기술 개발 프로젝트에 참여하지 않겠다고 선언, 결국 프로젝트를 좌초시켰다고 블룸버그가 보도했다.

퇴사라는 초강수의 결정을 했던 직원들이나 서명을 통해 공개서한에 참여한 직원들 모두 AI의 군사적 활용에 반대의사를 드러냄과 동시에 자신이 몸담은 조직에 대한 신뢰 문제를 제기한 것으로 볼 수 있다. 사직서를 던진 직원들은 언론과의 인터뷰에서 논란 많은 사업 결정에 있어 사측이 예전보다 투명하지도 않고 직원들의 목소리를 귀담아듣지 않는 경향이 있음을 지적했다.

뉴욕타임스는 메이븐 프로젝트로 인해 구글의 노사는 분열됐으며, 회사는 순식간에 정체성에 대한 위기 상황에 빠지게 되었다는 분석기사를 냈다. 조직원의 의사를 무시하고 국방프로젝트 계약을 계속 추진하게 될 경우 우수한 두뇌를 잃을 수 있고, 그렇다고 이를 포기할 경우 잠재적으로 엄청난 규모의 사업을 놓칠 수 있다는 딜레마에 빠진 것이다.

펜타곤과 맺은 계약이 구글에 정체성 위기를 가져왔다는 뉴욕타임스 분석 기사 일부. 온라인판 화면 캡처
펜타곤과 맺은 계약이 구글에 정체성 위기를 가져왔다는 뉴욕타임스 분석 기사 일부. 온라인판 화면 캡처

이해관계자들의 반응

구글 메이븐 프로젝트에 반대하는 진영은 이 프로젝트가 방어적 시스템을 구축하기보다 공격에 사용돼 인류 평화를 해칠 가능성이 농후하다고 주장한다. 인터넷 책임을 위한 사람들(PFIR)의 공동창업자이자 활동가인 로렌 웨인스타인(Lauren Weinstein)은 구글이 처음에는 좋은 의도에서 프로젝트에 참여했을지 모르지만 결국 군대 산업의 마수에서 헤어 나오지 못하고, 결국 구글의 이미지에 돌이킬 수 없는 손상을 입힐 것이라 말했다. 일렉트로닉프런티어재단(EFF)은 첨단기술 기업들이 인명 피해나 지정학적 불안정에 기여할 수 있는 군사기관과 협력하는 것에 대해 매우 신중해야 한다는 성명을 냈다.

EFF처럼 기술 관련 제반 이슈에 반응하는 시민기구와는 별도로 인공지능과 로봇 시대에 대두될 군비 확장 경쟁과 그로 인해 나올 살인 로봇을 막기 위한 새로운 운동단체도 부상하고 있다. 지난해 제네바에서 열린 특정재래식무기금지협약(CCW) 컨퍼런스에서 얼굴 식별 기술 인공지능과 구글 지도를 결합한 드론이 가까운 미래에 가공할만한 대량살상무기가 될 위험이 있음을 영상 시뮬레이션으로 선보였던 ‘킬러 로봇 금지 캠페인(Campaign to Stop Killer Robots)’이라는 조직도 구글 직원들의 입장을 지원했다. 지메일과 구글 맵, 안드로이드 시스템을 이용해 온갖 종류의 개인 데이터를 수집하는 구글이 무기를 개발하는 어떤 작업에 참여해서는 안 된다는 입장이었다.

여론이 급속히 나빠지면서 난감해진 것은 구글 경영진뿐만이 아니다. 이 프로젝트 기획자인 로버트 워크(Robert Work) 전 미 국방부 부장관은 구글이 사태를 매듭짓는 방향이 다른 첨단기술 기업들이 국방 프로젝트에 관여하는 것에 영향을 미칠 수 있다고 경계하는 분위기였다. 즉, 직원들의 반발로 구글이 사업 참여를 포기할 경우 그것이 선례가 돼 향후 다른 기술 기업들도 참여를 꺼리게 될 수 있는 것이다. 워크 씨는 AI가 인명을 살상하기보다는 폭발물을 해체하는 등 위험 영역에서 병사들을 대체함으로써 오히려 인명을 구하는 용도로 사용될 수 있다는 반론도 펼쳤다.

피터 싱어(Peter Singer) 프린스턴대 석좌교수 역시 국방부 사업에 대한 우려를 표명했다. 그는 구글의 에릭 슈미트(Eric Schmidt) 전 회장이 이사장으로 있는 워싱턴 DC 소재 공공정책 싱크탱크 조직 뉴아메리카(New America)의 리서치 펠로우 자격으로 한 언론과 인터뷰에서 미 국방부가 실리콘밸리에 의존하려 했던 주된 이유는 인공지능 분야에 집중 투자하는 중국에 대한 두려움 때문이라고 분석했다. 그러면서 국방부가 하려던 일을 중국이 추진한다면 미 국방부에게는 타격이 될 것이라는 의견을 냈다. 

<계속>



댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.