사회윤리가 통하는 올바른 ICT 세계에 대한 꿈
사회윤리가 통하는 올바른 ICT 세계에 대한 꿈
  • 김영순 기자 (ys.kim@the-pr.co.kr)
  • 승인 2023.08.10 08:00
  • 댓글 0
이 기사를 공유합니다

[스페셜 인터뷰] 김범수 바른ICT연구소 소장

“사회와 소통하고 우리 연구와 고민을 공유하는 것이 중요합니다”
건전한 디지털 AI 연구의 프리미엄 승부수는?

더피알=김영순 기자| 팬데믹으로 비대면 활동이 활성화되면서 우리 삶에서 온라인 비중은 더욱 확대됐다. 그에 따라 자연스럽게 기존의 문제들이 더욱 심각해지기 시작했다. 무엇보다 온라인에서 벌어지는 폭력의 양상이 더욱 크게 세분화됐다.

기존에도 계속 존재했던 악성 댓글은 여전히 기승을 부리고 있거니와, 몰카와 같은 불법 영상은 산업화되어 비즈니스 수단으로 활용되기도 하고, 커뮤니티 게시판과 SNS, 심지어 언론사의 뉴스에서부터 시작되기도 하는 가짜 뉴스의 확산은 더욱 빨라졌다. 또한 올해 큰 이슈가 된 챗GPT의 등장은 그 화제성 만큼이나 가짜 정보와 왜곡된 여론 몰이 가능성을 근심하게 만든다.

더군다나 온라인의 정보 전달 편이성 때문에 사용자들의 문해력은 점점 약화되고 있다는 얘기도 나온다. 잘못된 정보 증가와 더불어 사람들이 정보를 비판적으로 습득할 수 있는 능력까지 취약해지고 있는 지금, 온라인 사회가 기술 발달이 불러온 위기의 시대를 본격적으로 맞이하고 있는지도 모른다.

김범수 소장은 “계속 변화하는 디지털 환경에서 새로운 문제를 미리 파악하고 이를 공론화하며 대응 방안을 제시하는 것입니다. 이는 바른ICT연구소가 해야 할 가장 중요한 과업이자 대한민국의 바른 ICT 문화 확산을 위한 가장 근본적인 방안이 될 것입니다”라고 밝혔다. 사진=전재현 포토그래퍼phototoday@naver.com
   김범수 소장은 “계속 변화하는 디지털 환경에서 새로운 문제를 미리 파악하고 이를 공론화하며 대응 방안을 제시하는 것입니다. 이는 바른ICT연구소가 해야 할 가장 중요한 과업이자 대한민국의 바른 ICT 문화 확산을 위한 가장 근본적인 방안이 될 것입니다”라고 밝혔다. 사진=전재현 포토그래퍼phototoday@naver.com

악성 댓글로 인한 경제적 문제, 최소 30조 원

바른ICT연구소는 이렇듯 악화되어가는 디지털 정보 환경을 개선하고자 2015년 연세대학교와 SKT가 협력하여 설립한 연구기관이다.

ICT 관련 사회현상 연구와 대안을 모색하는 바른ICT연구소 소장 김범수 연세대학교 정보대학원장은 단순히 학문적인 연구뿐만 아니라 문제의식과 연구 내용을 공동체적으로 공유하는 것이 중요하다고 밝혔다.

정보가 폐쇄적인 수준에 국한되는 현상 자체가 문제가 될 수 있다는 그의 지적은 사회 문제에 대한 저널리즘적 관점과도 일맥상통하는 바가 있다.

그가 우선적으로 생각하는 문제는 악성 댓글이다. 그는 악성 댓글로 인한 사회경제적 누수가 엄청나다는 점을 구체적인 숫자를 들어 지적했다.

“연구소에서 악성 댓글의 사회적 영향에 대한 연구를 진행했습니다. 그 결과에 따르면 악성 댓글로 인한 사회경제적 비용은 최소 30조 원에서 최대 35조 원에 이르는 것으로 추산됩니다. 불안이나 우울로 인한 기회비용은 약 28조 원에 달하며, 스트레스와 변호사 선임 비용 등이 포함됩니다.
올바른 디지털 사용과 윤리는 ICT 분야에서 매우 중요한 주제입니다. ICT 윤리와 관련된 악성 댓글, 개인정보보호, 암호화 기술, 사이버 보안 등은 바른ICT연구소의 전문성을 대표하는 연구 주제입니다.”

AI 발전은 사회윤리적 문제를 동반한다

김 소장은 생성형 AI, AI 딥페이크(Deep Fake), 딥보이스(Deep Voice), AI 환각 현상(Hallucinations) 등으로 인해 발생하는 사회경제적 문제에 대해서도 대처 방법을 강구하는 것이 중요한 현안이라고 밝혔다. 특히 AI 리터러시에 대한 주제가 주요 관심사다.

“초거대 AI의 등장은 우리가 이전에 며칠이나 몇 달 걸리던 작업을 신속하게 처리해 업무 효율성을 높입니다. 이와 동시에 디지털 사회는 고급화되고 접근하기 어려운 영역으로 진입했습니다.
따라서 AI 사용으로 인한 디지털 활용과 참여 격차가 얼마나 심각한지, 이러한 격차를 어떻게 해소할 수 있는지에 대한 논의가 지속적으로 이루어져야 합니다.
AI 윤리 연구도 연구소에서 주목하는 분야입니다. AI 발전은 사회윤리 문제를 동반합니다. 악의적 콘텐츠 생성이나 자해 방법 공유 등 이미 AI로 인한 사회윤리 문제는 여러 사례와 뉴스를 통해 반복적으로 보도되어왔습니다.
우리는 윤리적인 AI 사용 방안에 대한 연구가 필수라고 생각합니다. 연구소에서는 윤리적 AI 활용 방법 개발, AI와 관련된 법과 정책 제언에 대한 연구를 진행하고자 합니다.
여기에는 디지털 시대에 안전하고 윤리적인 AI 활용을 위한 가이드라인 제시와 교육 프로그램 개발도 포함됩니다.”

AI 기술의 복잡성과 그로 인한 사회 영향을 이해하고 적용하는 능력은 지금 같은 디지털 시대에 필수적이다. 그러나 AI 발전이 모든 사람에게 동등한 이점을 제공하지 않을 수도 있다. 사람에 따라 디지털 격차를 더 넓힐 수 있기에 이에 대한 인식 개선과 문제 해결을 위한 논의가 필요하다. 그는 이 또한 AI 리터러시 관점에서 고려되어야 할 중요한 이슈라고 설명했다.

김 소장은 악성 댓글의 사회적 영향을 계속 모니터링하고, 이를 줄이기 위해 탐지 및 차단 시스템 개발과 사회문화적 캠페인을 우선적으로 진행할 계획이다. 토픽 모델링 기법을 사용해 댓글을 분류하고 평가하는 기술에 대한 연구도 진행하고 있어, 인공지능을 활용하여 악성 댓글이 사회 및 경제에 미치는 부정적인 영향을 줄일 수 있다고 기대하고 있다. 사진 =전재현 포토그래퍼 phototoday@naver.com
김 소장은 악성 댓글의 사회적 영향을 계속 모니터링하고, 이를 줄이기 위해 탐지 및 차단 시스템 개발과 사회문화적 캠페인을 우선적으로 진행할 계획이다. 토픽 모델링 기법을 사용해 댓글을 분류하고 평가하는 기술에 대한 연구도 진행하고 있어, 인공지능을 활용하여 악성 댓글이 사회 및 경제에 미치는 부정적인 영향을 줄일 수 있다고 기대하고 있다. 사진 =전재현 포토그래퍼 phototoday@naver.com

AI를 통한 문제 발견 및 해소 추구

김 소장은 바른ICT연구소의 강점으로 연세대학교 구성원뿐만 아니라 국내외 교수, 학생, 연구원 등 모두가 연구소의 연구 구성원으로 참여할 수 있다는 점을 들었다.

이러한 특성은 바른ICT연구소가 지향하는 사회윤리적 관점에서의 연구를 지원하는 기능을 한다. 또한 양자 컴퓨팅 센터를 이용할 수 있다는 하드웨어적 강점이 있다.

“양자컴퓨팅은 AI 연구에서 핵심 중의 핵심이라고 할 수 있는데, 연세대학교가 세계 대학들 중에서 세 번째로, 국내에서는 첫 번째로 양자컴퓨팅 시스템이 구축된 랩을 운영하기 시작했습니다.
양자컴퓨팅은 양자암호와 같이 개인정보보호에서도 큰 역할을 할 것으로 기대되며, 이를 활용하여 양자 안전성 확보, 양자윤리 등의 연구가 가능할 것으로 보입니다.”

바른ICT연구소는 이와 같은 강점들을 바탕으로 중장기적으로 악성 댓글의 사회적 영향을 계속 모니터링하고, 이를 줄이기 위해 탐지 및 차단 시스템 개발과 사회문화적 캠페인을 우선적으로 진행할 계획이다.

연구소는 챗GPT와 같은 자연어 처리 기술과 기계학습 기술 발전이 악성 댓글 탐지에도 활용될 수 있다고 본다. 또한 최근에는 토픽 모델링 기법을 사용해 댓글을 분류하고 평가하는 기술에 대한 연구도 진행하고 있으며, 인공지능을 활용해 악성 댓글이 사회 및 경제에 미치는 부정적인 영향을 줄일 수 있다고 기대하고 있다.

“N번방 사건과 같이 개인정보 악용 사례가 우리 사회에 큰 영향을 미쳤습니다. 최근에도 계속해서 발생하는 다크웹, 피싱 사이트, 가짜 뉴스 등의 이슈는 우리가 해결해야 할 문제가 여전히 사회 전반에 퍼져 있음을 보여줍니다.
이러한 문제를 해결하기 위해서는 인공지능 기술을 적극적으로 활용하는 방안을 검토할 필요가 있습니다.
악성 댓글 탐지 시스템 개발과 마찬가지로, 인공지능을 활용해 작성되는 글 내용에서 특정 키워드, 감성 단어, 부적절한 표현 등을 탐지하고, 댓글 필터링이나 관련된 키워드 그리고 연결된 링크를 기반으로 악의적으로 사용되는 여러 불법 사이트를 점검하고 해결하는 방안을 도입할 수 있습니다.
그러나 이러한 과정에서 빅데이터 분석 및 자연어 처리에 대한 개인정보 활용과 익명성 이슈가 발생할 수 있습니다.
이를 해결하기 위해서 데이터 가명 정보 활용 방안에 대해 생각해볼 필요가 있습니다.”

​김범수 소장은 바른ICT연구소의 가장 큰 장점은 모두 참여할 수 있는 거대한 네트워크에 있다고 자신한다. 사진 =전재현 포토그래퍼 phototoday@naver.com​
​김범수 소장은 바른ICT연구소의 가장 큰 장점은 모두 참여할 수 있는 거대한 네트워크에 있다고 자신한다. 사진 =전재현 포토그래퍼 phototoday@naver.com​

지금이야말로 ESG를 연구해야 할 시간

바른ICT연구소는 AI 스피커 ‘누구’(NUGU)로 독거 어르신의 생활을 돌봐주는 민관 협력 인공지능 돌봄 서비스도 진행해왔다. 이처럼 연구소의 또 다른 사업은 ICT 분야의 사회적 약자를 위한 인공지능 기반 서비스 개발과 활용이다.

챗GPT와 같은 인공지능 기술은 등장한 지 반년이 넘었지만, 이제야 대학 교육에서부터 활용하는 방안에 대한 논의가 시작되고 있다.

실제로 전 세계적으로 챗GPT는 많은 사용자를 확보하고 있지만, 이를 자신의 업무에 활용하는 사람은 아직 많지 않다. 인공지능을 활용하는 능력은 향후 사회와 국가 경쟁력에 영향을 미칠 것이므로, 기술 발전과 함께 활용 교육도 이루어져야 한다는 것이 연구소의 생각이다.

그리고 다소 의외라고 생각할 수도 있지만, 연구소에서 중요한 방점을 두고 있는 연구 분야가 ESG다.

사실 우크라이나 전쟁과 코로나19 시기의 양적 완화 후유증으로 인해 전 세계적으로 불황 경제가 진행되는 지금, ESG의 가치가 ‘당장 먹고사는 게 중요하다’는 의식에 의해 다소 뒤로 밀려났다는 주장도 있다. 그러나 김 소장은 그렇기 때문에 지금이야말로 ESG를 연구해야 한다고 말한다.

그래서 7월 4일 진행된 디지털 기술을 활용한 탄소중립 정책과 ESG 성과 확산 방안에 대한 바른ICT연구소의 ESG 리서치 포럼은 정부와 학계, 산업 전반의 전문가를 모셔 넷제로(Net-Zero) 달성을 위해 논의하는 자리이기도 했다.

“연구소는 사회적 가치 성과 확산을 위해 환경보호와 거버넌스 이슈를 함께 논의하고 있으며, 이를 위해 디지털 기술이 적극적으로 활용될 수 있을 것입니다. 단기적인 정부의 관점을 중장기 과제로 이끌고 학계와 업계의 의견을 모으는 자리를 마련함해 대한민국의 ESG가 나아갈 방향을 제시하는 데 도움을 줄 수 있을 것으로 기대합니다.”

- “연구소는 학문적인 연구뿐만 아니라 사회와 소통하고, 우리 연구와 고민을 공유하는 것이 중요합니다. 거의 매달 리서치 콜로키움을 개최해 다양한 분야 전문가들과 학술적인 토론의 장을 마련하고 있습니다. 리서치 콜로키움은 정책 토론회, 북 콘서트 등 학계와 사회 만남을 지속적으로 추진하고 있으며, 거의 100회에 달하는 행사를 진행했습니다. 바로 워크숍, 세미나 등을 통해 다양한 분야 사람들이 모여 건전한 디지털 문화 환경 조성을 위한 노력을 이어가고 있습니다.”
 “연구소는 학문적인 연구뿐만 아니라 사회와 소통하고, 우리 연구와 고민을 공유하는 것이 중요합니다. 거의 매달 리서치 콜로키움을 개최해 다양한 분야 전문가들과 학술적인 토론의 장을 마련하고 있습니다. 리서치 콜로키움은 정책 토론회, 북 콘서트 등 학계와 사회 만남을 지속적으로 추진하고 있으며, 거의 100회에 달하는 행사를 진행했습니다. 이처럼 워크숍, 세미나 등을 통해 다양한 분야 사람들이 모여 건전한 디지털 문화 환경 조성을 위한 노력을 이어가고 있습니다.”

거버넌스에 대한 다양한 주제를 다루는 연구소로 거듭나겠다

김 소장은 바른ICT연구소를 국내뿐만 아니라 국제적으로 인정받는 선도적인 연구소로 발전시킨다는 목표를 갖고 있다.

하버드대학교의 버크만 클라인 센터(Berkman Klein Center for Internet & Society)처럼 공공정책, 법과 기술, 인터넷 안전성 강화, 정보 투명성 등 거버넌스에 대한 다양한 주제를 논의하는 연구소로 성장시키겠다는 것이다.

“ICT 기술 발전과 인터넷 공간의 확장은 인터넷 민주주의 프로젝트에 대한 관심을 높였습니다.
국내에서도 메타버스, 빅데이터, 인공지능, 양자컴퓨팅, 5G/6G 통신 등 다양한 분야의 기술이 발전하고 있어, 향후 개인정보보호를 비롯한 법률과 제도, 정책적 측면에서 융합 연구가 필요합니다.
또한 사회문화 측면에서는 바른 ICT 문화 확산을 위해 이용자의 동기와 욕구에 대한 이해, 인터넷 민주주의 문화 형성 등도 함께 연구되어야 합니다.
따라서 우리는 국내외 주요 연구기관과 협력해 바른 문화 확산을 위한 이슈를 공론화하고, 프로젝트 단위의 연구를 수행하며, 그 결과를 통해 사회 발전에 기여할 계획을 가지고 있습니다.
연구소는 이미 악성 댓글, 개인정보보호, 영유아 디지털 미디어 사용, 소외계층 보호 등 다양한 사회문화 이슈에 관한 연구를 수행해왔습니다.
앞으로도 연구소의 성과를 국내외 여러 분야에 알리고 성장할 수 있는 방안을 모색하고자 합니다.”



댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.