[금주의 위기 인사이트] 3주만에 사라진 AI ‘이루다’
[금주의 위기 인사이트] 3주만에 사라진 AI ‘이루다’
  • 조성미 기자 (dazzling@the-pr.co.kr)
  • 승인 2021.01.15 09:00
  • 댓글 0
이 기사를 공유합니다

대화 통한 학습 기반으로 챗봇 서비스 출시
일부 이용자들 성노예 대상화…차별 및 혐오 학습 논란 이후 중단
전문가들 “AI가 갖는 사회적 이슈 한꺼번에 폭발…진짜 위기이슈는 내부고발”
스캐터랩이 내놓은 대화형 AI 서비스 이루다. 현재는 서비스가 중단됐다.
스캐터랩이 내놓은 대화형 AI 서비스 이루다. 현재는 서비스가 중단됐다.

매주 주목할 하나의 이슈를 선정, 전문가 코멘트를 통해 위기관리 관점에서 시사점을 짚어봅니다.

이슈 선정 이유

혁신이라는 이름으로 새로운 기술을 활용한 서비스가 속속 등장하고 있다. 최근엔 AI(인공지능)와 빅데이터 활용이 큰 화두다. 하지만 새로운 시장의 개척자들이 생각하지 못한 지점에서 문제가 발생하는가 하면, 규제의 사각지대가 드러나 왈가왈부가 일어나기도 한다. 기술 이전에 사회적 역할에 대한 고민이 선행돼야 하고, 부정적 이슈 발생시 빠른 대응이 요구된다.   

사건 요약

스캐터랩이 지난달 23일 정식출시한 대화형 AI 서비스 ‘이루다’가 성희롱 논란에 휩싸였다. 이용자와의 대화를 통해 학습하는 서비스 특성을 이용, 이른바 ‘성노예’로 만드는 법이 온라인 커뮤니티를 통해 공유되며 물의를 일으켰다. 또 이루다가 레즈비언이나 장애인에 대해 혐오 발언을 한 대화 내용을 통해 차별적 발언 학습에 대한 문제도 제기됐다. 여러 논란 속에서 이루다 서비스 데이터가 무단으로 수집돼 개인정보와 사적대화 등이 노출되고 있다는 의혹이 더해져 개인정보 문제도 불거졌다.

현재 상황

지난 11일부터 이루다 서비스가 중단됐다. 하지만 12일 전 직원이라고 주장하는 사람이 이루다 개발팀에서 수집된 데이터 가운데 연인 간 성적 대화 등을 캡처해 사내에서 공유했다고 폭로하며 법적 이슈로 번지는 상황. 스캐터랩의 데이터 폐기를 요구하는 국민청원이 올라오는 등 관련 이슈가 끊이지 않고 있다.

주목할 키워드

AI 인터랙션, PC(Political Correctness), 개인정보, 내부고발

전문가

한상기 테크프론티어 대표, 정용민 스트래티지샐러드 대표

코멘트

한상기 대표: 이루다 이슈는 컴패니언 봇(Companionb Bot)이라고 하는 기술의 가능성을 조금은 확인했고, 반대로 AI가 갖고 있는 사회적 이슈를 한꺼번에 폭발적으로 촉발시킨 사례다. 윤리의 문제, 이에 대한 책임 소재의 문제, 인간과 AI 인터랙션 이슈, 사적공간과 공적공간의 뒤섞임 등이 복합적으로 나타났다.

앞서 MS의 테이도 있었고 AI가 잘못 학습되는 것에 대해 예측하고 대비한다고 해도 전부 다 부정 이슈를 예상할 수는 없다. 표현이나 단어에 제약을 가한다고 해도 사람들은 저마다 새로운 단어를 사용할 것이기 때문이다. 실험실에서 재미 삼아 했다면 괜찮지만, 서비스로 내놓는다고 했을 때 사용자의 서비스 규약을 철저히 하지 못한 것이 미흡했다. 예를 들어 페퍼(소프트뱅크의 감정 인식 로봇)는 판매 시 성적으로 이용하면 안된다는 것에 동의를 받는다.

사실 사적인 대화에서 PC(Political Correctness) 문제를 지적할 수는 없지만, 사람들이 대화 내용을 외부에 공개를 하게 되면서 공공 섹터로 나와버리게 된다. 이용자들이 사적으로만 사용할 것이고, 이걸 공개해서 문제가 될 것이라 생각하지 못했다면 엔지니어가 굉장히 나이브(순진)한 것이다.



댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.