더피알=최현준 기자｜인공지능(AI)이 일상 깊숙이 파고들면서 사회는 세 갈래의 숙제를 마주하고 있다.
청소년을 보호하기 위한 안전장치, 혁신의 토대가 되는 프라이버시 보장, 그리고 국민이 직접 참여하는 평가 시스템까지. AI의 미래는 기술 그 자체가 아니라 이를 둘러싼 사회적 선택에서 갈린다.
오픈AI, 부모 통제 챗GPT 도입...미성년자 보호 강화
미국 인공지능(AI) 스타트업 오픈AI가 18세 미만 사용자를 위한 부모 통제 기능이 포함된 챗GPT를 이달 말부터 제공한다고 밝혔다. 청소년 안전 보호 조치로, 선정적·폭력적 콘텐츠를 차단하고 심각한 위기 상황에서는 법 집행 기관과 연계할 수 있도록 설계됐다.
CNBC에 따르면 샘 올트먼 CEO(최고경영자)는 이날 블로그를 통해 "우리는 청소년의 프라이버시와 자유보다 안전을 우선시한다"며 "이 기술은 새롭고 강력하며, 미성년자는 상당한 보호가 필요하다고 믿는다"고 강조했다.
오픈AI는 지난달 부모 통제 기능이 도입된 챗GPT 출시 계획을 알린 바 있으며, 이번에 구체적인 세부 사항을 공개했다.
새 기능은 부모가 자신의 계정과 청소년 계정을 이메일로 연결해 사용 금지 시간을 설정하고, 특정 기능 제한·관리가 핵심이다. 챗봇의 응답 방식을 안내하고, 청소년이 심각한 위기 상황에 노출될 시 부모에게 알림을 전송하는 기능도 포함했다.
또한 오픈AI 측은 사용자의 연령을 더 정확히 예측하는 기술을 개발 중이나, 정보가 불확실하거나 불완전할 경우 기본적으로 18세 미만 전용 환경을 제공한다고 설명했다.
올트먼 CEO는 "이 결정들은 쉽지 않았지만, 전문가들과 논의한 끝에 최선이라고 판단했다"며 "우리의 의도를 투명하게 밝히고 싶다"라고 말했다.
이번 안전 강화 조치는 최근 미국 연방거래위원회(FTC)가 오픈AI를 포함한 여러 기술 기업에 AI 챗봇이 아동·청소년에게 미칠 잠재적 부정적 영향과 관련한 문의에 따랐다.
FTC는 보도자료에서 "이들 챗봇이 '동반자' 역할을 할 때의 안전성을 평가하기 위해 기업들이 어떤 조치를 취했는지 알고 싶다"고 밝혔다.
앞서 오픈AI는 지난달, 한 가족이 청소년 아들의 자살 책임을 챗봇에 돌리며 제기한 소송 이후 민감한 상황에 대한 챗GPT가 대응하는 방식을 공개한 바 있다.
휘태커 시그널 회장, ‘프라이버시 없는 혁신 없다’ 비판
메레디스 휘태커 시그널 재단 회장은 서울 그랜드하얏트에서 막을 올린 글로벌 프라이버시 총회(GPA) 기조연설을 통해 "프라이버시 없이는 혁신도, 지식재산도, 표현의 자유도 존재할 수 없다"고 강조했다.
메레디스 휘태커 회장은 인공지능(AI)과 개인정보 보호 분야에서 비영리 암호화 메신저 '시그널'을 운영하는 시그널 재단의 수장이자, AI와 기술 감시에 대한 비판적 담론을 이끌어 온 대표적인 기술 윤리 전문가다.
휘태커 회장은 뉴욕대에서 AI 나우(Now) 연구소를 공동 설립해 AI 기술의 사회적 영향과 윤리 문제를 집중 조명하고, 구글 재직 당시에는 직원들의 인권과 기술 투명성 확보를 요구하는 '구글 워크아웃' 시위를 주도한 바 있다. 또 미국 연방거래위원회(FTC) AI 자문위원으로도 활동하며 기술 기업의 책임성과 공공성 강화에 앞장서 왔다.
우선 휘태커 회장은 현재 우리가 두 방향에서 프라이버시 위기를 마주하고 있다고 진단했다. 하나는 정부가 '백도어' 방식으로 암호화 기술에 접근하는 전통적 방식, 다른 하나는 AI가 운영체제 수준까지 다가와 사용자 프라이버시의 근간을 뒤흔들고 있다.
특히 휘태커 회장은 AI가 작동하기 위해 훈련·추론·생성 단계마다 방대한 데이터를 요구하고 있으며, 운영체제 자체가 모든 앱의 정보를 들여다보고 이를 클라우드로 전송하도록 설계되고 있다고 경고했다. 대표적 사례로는 마이크로소프트 윈도11에 도입된 '리콜' 기능을 언급했다.
그는 "리콜은 몇 초마다 데스크톱의 스크린샷을 자동으로 찍고, 광학 문자 인식(OCR)을 이용해 화면에 표시된 텍스트를 추출한 뒤 이를 기기 내 데이터베이스에 저장한다"면서 "이 데이터는 악의적인 해커, 폭력적인 전 연인, 억압적인 정부 등에게 매력적인 표적이 될 수 있는 중앙 집중형 고가치 정보가 된다"고 지적했다.
휘태커 회장은 이 같은 위험에 대응하기 위해 AI 에이전트가 애플리케이션의 데이터를 무단으로 접근·처리·전송하지 못 하도록 '거부권(opt-out)' 보장, 운영체제가 어떤 데이터를 수집·활용하는지에 대한 투명성 확보, 기업이 프라이버시와 보안을 약화하지 않겠다는 명시적 약속과 코드 수준에서 검증 가능 형태로 제공할 것을 강조했다.
그러면서 "이러한 조치는 기술 시민사회와 전문가, 프라이버시 규제 당국이 함께 지속적으로 대응해 나갈 때 비로소 실현이 가능하다"고 덧붙였다.
국민이 직접 평가하는 한국형 소버린AI
보험연수원과 한국인공지능데이터과학협회(KAIDA)는 '소버린AI(독자 인공지능 파운데이션 모델) 국민평가 사이트'를 개설한다고 밝혔다.
해당 사이트는 국민이 직접 참여해 소버린AI를 평가하고 발전 방향을 제시하는 공간이다. 소버린AI 사업이 국민적 관심과 신뢰 속에 추진돼 대한민국이 AI 강국으로 도약하도록 적극 지원하기 위한 목적이다.
사이트는 국민이 소버린AI 사업에 참여하고 있는 5개사 AI에 직접 질문하고, 여기서 나온 AI의 답변을 비교·평가할 수 있도록 설계됐다. 챗GPT 같은 글로벌 생성형AI의 답변도 비교할 수 있도록 했다.
사이트는 소버린AI 프로젝트에서 경합 중인 5개 사 정예 팀의 공개된 오픈소스가 평가 대상이다. 향후 해당팀에서 개선된 시스템을 제공할 경우 사이트에 반영할 예정이다.
평가 결과는 모두에게 투명하게 공개된다. 질문과 답변 데이터는 소버린 AI의 품질과 올바른 정책 방향을 제시하는 국민제안 등에 활용될 예정이다.
또 보험연수원의 AI 교육 경험과 KAIDA의 데이터 과학 전문성이 결합해 한국형 파운데이션 모델 구축에 필요한 성능을 한국어 및 한국 문화 맥락에서 정밀하게 평가하는 자체 평가 기준도 평가 사이트에 적용할 계획이다.
만약 소버린AI의 원칙과 모순되는 답변을 하는 AI에 대해서는 국민에게 공개해 올바른 개선과 발전을 유도하는 등 공정한 참여 기반의 평가 체계를 구현한다.
소버린AI 국민 평가 사이트는 다음 달 1일 오픈한다. 국가대표 소버린AI 정예 팀이 최종 2개 팀으로 압축되는 2027년까지 상시적으로 운영될 예정이다.
하태경 보험연수원장은 "이번 국민 참여 운동은 우리 소버린AI 사업에 큰 발전을 가져올 것"이라며 "더 많은 국민들의 관심과 참여를 불러일으키겠다"고 말했다.
안전·자유·참여 세 축은 선택이 아니라 동시에 지켜야 할 가치다. 그 균형을 어떻게 잡느냐에 따라, 한국 사회가 맞이할 AI 시대 얼굴이 결정될 것이다.