UPDATED. 2021-05-11 22:56 (화)
[금주의 위기 인사이트] 3주만에 사라진 AI ‘이루다’
[금주의 위기 인사이트] 3주만에 사라진 AI ‘이루다’
  • 조성미 기자 (dazzling@the-pr.co.kr)
  • 승인 2021.01.15 09:00
  • 댓글 0
이 기사를 공유합니다

대화 통한 학습 기반으로 챗봇 서비스 출시
일부 이용자들 성노예 대상화…차별 및 혐오 학습 논란 이후 중단
전문가들 “AI가 갖는 사회적 이슈 한꺼번에 폭발…진짜 위기이슈는 내부고발”
스캐터랩이 내놓은 대화형 AI 서비스 이루다. 현재는 서비스가 중단됐다.
스캐터랩이 내놓은 대화형 AI 서비스 이루다. 현재는 서비스가 중단됐다.

매주 주목할 하나의 이슈를 선정, 전문가 코멘트를 통해 위기관리 관점에서 시사점을 짚어봅니다.

이슈 선정 이유

혁신이라는 이름으로 새로운 기술을 활용한 서비스가 속속 등장하고 있다. 최근엔 AI(인공지능)와 빅데이터 활용이 큰 화두다. 하지만 새로운 시장의 개척자들이 생각하지 못한 지점에서 문제가 발생하는가 하면, 규제의 사각지대가 드러나 왈가왈부가 일어나기도 한다. 기술 이전에 사회적 역할에 대한 고민이 선행돼야 하고, 부정적 이슈 발생시 빠른 대응이 요구된다.   

사건 요약

스캐터랩이 지난달 23일 정식출시한 대화형 AI 서비스 ‘이루다’가 성희롱 논란에 휩싸였다. 이용자와의 대화를 통해 학습하는 서비스 특성을 이용, 이른바 ‘성노예’로 만드는 법이 온라인 커뮤니티를 통해 공유되며 물의를 일으켰다. 또 이루다가 레즈비언이나 장애인에 대해 혐오 발언을 한 대화 내용을 통해 차별적 발언 학습에 대한 문제도 제기됐다. 여러 논란 속에서 이루다 서비스 데이터가 무단으로 수집돼 개인정보와 사적대화 등이 노출되고 있다는 의혹이 더해져 개인정보 문제도 불거졌다.

현재 상황

지난 11일부터 이루다 서비스가 중단됐다. 하지만 12일 전 직원이라고 주장하는 사람이 이루다 개발팀에서 수집된 데이터 가운데 연인 간 성적 대화 등을 캡처해 사내에서 공유했다고 폭로하며 법적 이슈로 번지는 상황. 스캐터랩의 데이터 폐기를 요구하는 국민청원이 올라오는 등 관련 이슈가 끊이지 않고 있다.

주목할 키워드

AI 인터랙션, PC(Political Correctness), 개인정보, 내부고발

전문가

한상기 테크프론티어 대표, 정용민 스트래티지샐러드 대표

코멘트

한상기 대표: 이루다 이슈는 컴패니언 봇(Companionb Bot)이라고 하는 기술의 가능성을 조금은 확인했고, 반대로 AI가 갖고 있는 사회적 이슈를 한꺼번에 폭발적으로 촉발시킨 사례다. 윤리의 문제, 이에 대한 책임 소재의 문제, 인간과 AI 인터랙션 이슈, 사적공간과 공적공간의 뒤섞임 등이 복합적으로 나타났다.



댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.