UPDATED. 2018-08-16 09:04 (목)
‘AI 윤리’ 위기 맞은 구글, 이제 공은 아마존·MS로
‘AI 윤리’ 위기 맞은 구글, 이제 공은 아마존·MS로
  • 임준수 micropr@gmail.com
  • 승인 2018.07.26 14:22
  • 댓글 0
이 기사를 공유합니다

[임준수의 캠페인 디코딩] 공개적 원칙 제시로 직원 반발 가라앉혀…경쟁사 의문의 1패?

구글과 미 국방부의 ‘프로젝트 메이븐(Project Maven)’ 프로젝트가 몰고온 파장은 인공지능(AI) 시대 윤리적 문제와 함께 기업의 사회적 책임, PR윤리 등의 다양한 함의를 담고 있습니다. 3회에 걸쳐 연재합니다. 
① 예고된 적색육 파장
② 구글식 위기관리
③ 교과서 벗어난 PR적 교훈

인공지능(AI) 윤리 문제로 구글러들의 강한 반발을 산 구글은 전방위 위기관리에 나서야 했다. 사진은 순다르 피차이 구글 CEO 모습. 뉴시스/AP
인공지능(AI) 윤리 문제로 구글러들의 강한 반발을 산 구글은 전방위 위기관리에 나서야 했다. 사진은 순다르 피차이 구글 CEO 모습. 뉴시스/AP

[더피알=임준수] 구글의 군사용 드론 개발은 안팎에서 엄청난 파장을 불러왔다. 무엇보다 가장 중요한 이해관계자인 직원들이 공개서한을 발표하며 신뢰 문제를 공개적으로 지적하며 구글을 압박했다.

위기상황에 직면한 구글 경영진은 지난 6월 1일 직원들의 우려와 걱정, 그리고 분노를 달래기 위한 첫 번째 중요한 조처를 했다. 구글의 클라우드 분야 최고책임자인 다이앤 그린(Diane Greene)은 펜타곤과 이미 체결한 계약은 존중해야 하므로 내년 3월까지 수주한 일을 진행하겠지만, 계약이 끝나면 연장하거나 새로운 계약을 맺지 않을 것을 공언했다.

그리고 6월 7일 구글 CEO 피차이 씨는 블로그 글을 통해 AI기술 리더로서 구글은 이 기술을 올바르게 사용할 책임을 느낀다고 밝혔다. 또한 구글의 인공지능 연구개발과 사업 결정에 있어 구체적 기준이 될 7가지 원칙을 제시했다. 

(1)사회적으로 유익하자 (2)불공정한 편견을 만들거나 강화하는 것을 피하자 (3)안전하게 제작되고 성능 시험을 하자 (4)사람이 적절히 통제하고 사람에 책임을 다하자 (5)인공지능 개발과 활용에 있어 프라이버시 원칙을 견지하자 (6)과학적 탁월함의 추구에 있어 높은 기준을 견지하자. (7)잠재적으로 유해하거나 악의적인 활용을 제한하기 위해 개발과 활용의 주된 목적과 이용, 독창성과 일반적 활용 가능성, 의미 있는 영향의 규모, 고객용 도구의 통합 혹은 맞춤형 솔루션 개발을 포함한 범용 도구의 제공 여부 등을 고려하자.

이와 함께 구글은 자신들이 추구하지 않은 AI 활용 분야를 4가지로 요약했다.

(1)전반적인 해를 입히거나 일으킬 가능성이 있는 AI 기술 (2)인명 피해를 일으키거나 사람을 직접 해칠 수 있는 무기와 관련 기술 (3)국제적으로 용인된 규범을 어기는 감시를 위한 정보의 수집이나 그 정보를 이용하는 기술 (4)국제법 및 인권에 관해 널리 인정된 원칙에 어긋나는 기술이다.

구글 피차이 CEO가 자사 블로그를 통해 AI기술 관련 언급한 내용 일부.  화면 캡처
구글 피차이 CEO가 자사 블로그를 통해 AI기술 관련 원칙을 소개하며 언급한 내용. 화면 캡처

‘공허한 기업성명의 황금시대’ 비판

EFF는 일단 구글의 AI 개발 원칙을 환영하면서도 구글이 원칙을 견지하고 실천해 나가려면 독립적인 기관으로부터 투명한 감사를 받아야 할 필요가 있다고 지적했다. 또 ‘국제법 및 인권에 관해 널리 인정된 원칙’이라는 것이 모호해서 빠져나갈 소지가 있다고 비판했다. 특히 ‘감시 기술’과 관련해선 필수적이며 균형 잡힌 원칙이 있는데, 구글은 물론 다른 인터넷 기업들도 이를 따라야 한다고 강조했다.

블룸버그의 에릭 뉴커머(Eric Newcomer) 기자는 “우리는 알맹이 없는 성명이 마치 고매한 윤리적 저작물처럼 팔리는 공허한 기업성명의 황금시대에 살고 있다”고 일침을 놓았다.

그럼에도 불구하고 AI 개발 원칙 발표로 구글 직원들의 반발과 압력단체들의 비판은 일단 잠잠해진 듯 보인다. 그리고 이제 공은 인공지능 개발에서 구글과 경쟁하는 다른 주요 기술중심 기업들로 넘어갔다.

특히 아마존과 마이크로소프트, 애플, 페이스북의 직원들이 난감해졌다. 구글 직원들이 회사에 맞서서 윤리적인 인공지능 선언을 끌어내면서 경쟁사 직원들은 의문의 일패를 당한 격이 됐다. 이들도 똑같이 정부 용역으로 인공지능 기술 개발을 하거나, 개발된 인공지능 기술을 정부 기관에 팔고 있는데 여태껏 문제 제기를 하지 않았기 때문이다.

그런데 타이밍을 놓친 이들 경쟁사 직원들이 면을 세울 기회가 왔다. 트럼프 정부의 밀입국자 부모와 아이를 격리시키는 비인도적 조치에 대해 최근 비난여론이 끓으면서다.

부모로부터 격리된 아이가 울면서 아빠와 엄마를 찾는 녹음 파일과 텍사스주 임시 수용시설에서 은박지처럼 생긴 절연담요를 덮고 생활하는 아이들의 모습이 소셜미디어를 통해 급속히 퍼져나고 언론들이 가세해 대대적으로 보도했다. 조세희의 책 난쏘공(난장이가 쏘아올린 작은 공)에 나오는 표현처럼 사람들은 눈물 냄새를 가슴으로 맡았다. 오죽하면 영부인인 멜라니아 트럼프마저 “가슴으로 통치해야 한다”라고 성명을 냈을까.

‘트럼프 행정부 이민정책의 진앙’으로 불리는 텍사스주 맥엘런 수용시설의 비인도적인 상황을 찍은 사진. 출처: CNN
‘트럼프 행정부 이민정책의 진앙’으로 불리는 텍사스주 맥엘런 수용시설의 비인도적인 상황을 찍은 사진. 출처: CNN

트럼프 정부 이민정책의 여파 

비판 여론이 세지는 가운데 밀입국자 추방을 주도하고 집행하는 미국 이민세관단속국(ICE)은 공분의 대상이 됐다. 불법체류자와 밀입국자의 저승사자로 불리는 ICE는 미 국토산하부 산하 기관으로 수사와 구금, 체포, 추방 등의 법 집행이 모두 가능한 막강한 권력을 쥐고 있다. 구글의 피차이 회장을 비롯해 애플, 페이스북, 트위터, 우버 등 주요 IT기업들의 CEO들이 모두 성명을 내고 부모에게서 아이를 격리하는 트럼프 정부의 무차별 이민정책을 비판했다.

반면, 마이크로소프트와 아마존의 CEO는 침묵을 택했는데 직원들이 들고 일어났다. 지난 6월 21일 아마존 직원들은 제프 베조스(Jeff Bezos) 회장에게 보낸 공식서한에서 아마존이 레코그니션(REkognition)이라는 안면인식 기술을 경찰이나 사법당국에 판매하는 것에 우려의 목소리를 냈다.

그들은 아마존의 이 기술이 “감시 국가를 위한 또 하나의 강력한 도구가 될 것이며 궁극적으로 가장 소외된 사람들을 해치는 역할을 할 것”이라고 우려하면서 최근 밀입국 부모로부터 아이를 격리함으로써 일어난 것과 같은 ‘부도덕하고 비인간적인 난민과 이민자 정책’에도 이용될 수 있다고 주장했다.

아울러 “우리는 미국 ICE를 강화하는 플랫폼을 구축하는 것을 거부하며, 인권을 침해하는 도구에 아마존이 기여하는 것을 거부한다”고 주장하며 “역사는 우리에게 가르침을 준다. 1940년대에 IBM이 개발한 시스템은 히틀러를 돕는 데 이용됐다. IBM은 그때 책임을 지지 않았고, 나중에 그들의 역할을 이해할 즈음에는 이미 늦었다. 우리는 그런 일이 다시 일어나지 않도록 할 것이다. 행동할 시간이 되었다”고 밝혔다.

마이크로소프트 역시 같은 문제로 비판받고 있다. 특히 마이크로소프트가 자사 블로그에서 MS의 애저(Azure) 클라우드 서비스가 ICE의 현대화와 첨단기술을 지원하는 것을 자랑스럽게 여긴다고 홍보한 것을 문제 삼고 나섰다.

사티아 나델라(Satya Nadella) 최고경영자에게 보낸 공개서한에서 “마이크로소프트가 윤리적 태도를 보여야 한다. 이윤보다는 어린이와 가족을 배려해야한다”고 강조하면서 ICE와 맺은 1940만 달러의 인공지능 계약을 비판했다. 서명에 동참한 300여명의 프로그래머들은 ICE와 계약을 취소하지 않을 경우 회사를 떠나겠다는 견해를 밝히기도 했다.



댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.