더피알 ｜ 챗GPT 개발사인 OpenAI 창업자 샘 알트먼이 6월 9일 오후 여의도 63컨벤션센터에서 A Fireside Chat (대담) 행사를 갖는다. 열풍이라 할 정도로 세계를 뜨겁게 달구고 있는 생성AI의 한계와 문제점, 위험성 등에 대한 문제제기가 다차원적으로 쏟아져 나오는 상황에서 진행중인 월드 투어의 일환이라 이 자리에서 어떤 이야기가 나올지 눈길이 쏠리고 있다.

더피알 필진이자 국내 인공지능 대표 과학자인 김진형 카이스트 명예교수는 앞서 5월 4일 한국공학한림원과 AI미래포럼이 주최한 ‘초거대AI 줌웨비나/유튜브 라이브 시리즈 3탄- 초거대 AI 한계극복을 위한 R&D’ 편 기조인사에서 아직 완성품이 아닌 챗GPT의 도덕적 문제와 그럼에도 불구하고 챗GPT를 잘 쓰기 위해 생각할 것들에 대해 말했다. 김진형 명예교수의 양해를 얻어 이날 인사말 전문을 정리했다.

정리 김경탁 기자

***

초거대 AI의 능력에 모두들 놀라고 있죠. 자연스러운 대화가 가능한 챗GPT의 사용자가 두 달 사이에 1억 명이 넘었다고 합니다. 간단한 제시어를 제공하면 그림을 그려주는 서비스의 수준이 매우 높아서 경진대회에 나가서 수상을 했다고 하죠. 모든 언론들이 챗GPT 등의 생성형 AI에 대한 이야기로 도배를 하고 있습니다.

능력이 놀랍습니다. 다양한 분야에서 컴퓨터와 자연스러운 대화가 가능하죠. 멋진 시도 써줍니다. 저도 노래 가사를 보여주면서 이와 같은 분위기에 시를 한번 부탁했더니 아주 멋지게 작성해 주더라고요. 아줌마들이 좋아하는 방송 드라마의 줄거리도 뚝딱 만들어주었다고 합니다.

특히 언어를 잘 구사합니다. 학생이 작성한 한국의 인구 문제에 대한 에세이를 아주 수려한 뉴욕타임스 사설 형식으로 바꿔주었다고 하고요. 이 글을 “Fellow Koreans”하고 시작하는 오바마 대통령 투의 감동적인 연설문으로 만들어줬습니다. 언어를 구사하고 글을 쓰는 것에서는 못하는 것이 없어 보입니다.

또 놀라운 것은 높은 수준의 문제 해결 능력과 창의성도 보여주고 있습니다. 지금까지 보였던 인공지능의 제한된 영역에서 제한된 능력을 보이는 것이 아니라 여러 영역에서 그럴 듯한 대화를 이끌어갑니다.

그렇기 때문에 이것이 범용 인공지능(Artificial General Intelligence=AGI)이 아니냐 하는 논란도 야기했죠. AI 연구자들이 꿈꾸는 범용 인공지능은 한참 멀었지만 지금까지 보았던 어떠한 인공지능보다도 범용인공지능에 가까이 간 것은 사실인 것 같습니다.

놀랍게도 챗GPT에 기반이 되는 대형 언어 모델(Large Language Model, 이하 LLM)의 크기가 커감에 따라서 여러 가지 창발적 능력을 보여주고 있습니다. 모델의 크기가 클수록 학습 능력이 증가하고 논리적 사고를 하며 문제 해결 능력을 가중합니다.

아직 이 창발적 메카니즘에 대해서 우리가 잘 모르고 있습니다. 어떤 상황에서 언제쯤 창발적 능력이 발생하는지 아직 명확히 밝혀지지 않았습니다. 이 분야를 더욱 연구해서 효과적으로 창발적 현상을 발현시키는 연구가 매우 중요하다고 생각합니다.

이러한 멋진 창발적 능력과 함께 LMM은 커다란 문제점도 안고 있습니다. 근거 없는 거짓말을 합니다. 학자들은 이를 헬리시네이션(hallucination)이라고 환각 작용이라 얘기하더군요.

어느 학자의 이름을 대면서 그분이 쓰지도 않은 논문을 거론하면서 엉뚱한 내용을 주장하기도 하고, 근거없이 고매한 법률가를 성추행범으로 지적하기도 했다고 합니다.

문장에서 앞에 단어를 보고 다음 단어가 어떤 것이 나올까를 예측하는 기술이 LLM 기술의 기본입니다. 따라서 확률적으로는 가능성이 있지만 의미로는 도저히 통하지 않는 문장도 생성할 수밖에 없습니다. 생성한 단어를 다시 이용해서 다음 문장을 만들기 때문에 첫 단추를 잘못 끼우면 엉뚱한 곳으로 가는 것이 아닌가 생각됩니다.

워낙 많은 파라미터를 사용하는 거대한 신경망이기 때문에 그 안에서 무슨 일이 벌어지고 있는지를 잘 파악할 수가 없습니다.

환각 작용이라고 부르는 것 이거 잘못된 거 아닌가요? 능력은 우수한데 간단한 질병으로 성능이 떨어져 있다 이런 것으로 좀 생각들 하시는 것 같아요.

사람의 개입으로 환각 장면이 줄었다고 자랑도 하고 며칠 전에는 구글의 CEO가 이런 환각 작용을 치석에 비유했더라고요. 간단히 제거할 수 있는 치석이라고 생각하는 것 같습니다.

저는 그렇지 않다고 생각합니다. 이건 굉장히 심각한 충치예요. 컴퓨터 프로그램이 잘못된 답을 낸다는 것은 명백한 오류죠. 컴퓨터 프로그램이 오락가락하면서 잘못된 결과를 낸다는 거를 저는 참을 수가 없어요.

이러한 환각 현상은 LMM을 기반으로 하는 AI의 타고난 약점입니다. 이런 오류가 있는 시스템을 공개하거나 서비스에 배치하는 것은 도덕적으로 옳지 않다고 생각합니다. 저는 챗GPT는 아직 완성품이 아니라고 생각합니다.

챗GPT 열풍을 보면서 증기기관의 발명으로 촉발된 산업혁명을 생각합니다. 증기기관은 물을 덥혀 증기의 힘으로 동력을 생산했습니다. 크고 무겁습니다. 작동을 시작하려면 예열해야 되기에 많은 시간이 걸립니다. 그래서 증기 기관차는 도심 골목을 누비고 다닐 수가 없었어요.

이런 문제를 해결하기 위해서 개발된 것이 가솔린 엔진이죠. 가볍고 시동을 빨리 할 수 있는 가솔린 엔진을 장착한 자동차는 우리 도심에 구석구석을 다닐 수 있습니다.

그러나 가솔린 엔진도 약점이 있죠. 엔진에서 열이 나는 겁니다. 엔진의 열을 식히기 위해서는 새로운 장치가 필요했어요. 그것이 바로 냉각 시스템입니다. 냉각 시스템이 부착되어서 열을 낮출 수 있기 때문에 자동차는 계속 달릴 수가 있었죠.

이제 자동차는 우리 일상의 필수품이 됐습니다. 자동차는 이후 운송업, 관광업, 보험업 등 많은 새로운 산업을 창출했습니다. 현재 LMM 기술은 환각 현상을 해결할 수 있는 장치, 엔진의 열을 식힐 수 있는 것과 같은 그런 장치가 필요하다고 주장합니다.

이외에도 데이터를 기반으로 하는 인공지능에는 많은 약점이 있습니다. 기계 학습을 위해서는 엄청난 양의 전기를 사용해야 되고요. 그래서 일부에서는 이런 연구를 하다가 지구 온난화로 인류가 멸망하는 거 아닌가 걱정이 나올 정도입니다.

많지 않은 데이터를 잘 배우는 그래서 일반화도 아주 잘하는 기계 학습 알고리즘에 대한 연구가 필요합니다.

사람은 세상의 모든 책을 읽지 않아도 높은 지적 능력을 보여주고 있습니다. 필요할 때 필요한 서적을 읽어서 필요한 전문성을 쌓아갑니다. 이러한 효율적인 인공지능 시스템을 연구해야 됩니다.

인공지능이 대신하는 의사결정이 빈번해지자 인공지능의 연구 개발을 규제하자는 목소리가 점점 높아지고 있습니다. 저는 규제 이야기가 나오기 이전에 AI 연구자들과 개발자들이 다음과 같은 인공지능을 만들기 위해서 스스로 소명을 다해야 한다고 생각합니다.

제가 꿈꾸는 인공지능은 합리적, 윤리적, 도덕적으로 행동하고 편견이 없고 공정하며 투명하고 설명 가능하고, 도출하는 결과는 해석 가능해야 합니다. 행동은 예측 가능해야 되고 안전하고 믿을 수 있으며 적절하게 관리되고 개인 정보는 보호해야 됩니다.

인공지능이 법적 책임을 져야 되겠죠. 또 죽으라면 죽어야 합니다. 그런 인공지능을 우리는 만들어야 됩니다.

이런 연구에서 우리나라의 기업과 연구자들이 큰 성과를 낼 수 있을 것을 기대합니다. 이런 연구에 많은 투자가 필요한 것은 알지만 지금 우리 기업들과 국가의 인공지능 인력과 연구의 지원은 특별합니다.

연구 지원하는 국가와 국민의 염원에 부응해서 좋은 성과가 나오기를 기다려봅니다. 이런 근본적인 문제점을 해결하기 위한 노력과 함께 이러한 기술을 적절하게 활용하기 위한 노력도 필요하다고 생각합니다.

시차가 있을지 모르지만 이런 기술이 우리의 일상으로 들어오는 거는 당연합니다. 이를 위해서는 우리 사회가 준비되어 있어야 합니다. 어쩌면 지금 챗GPT가 약점을 보이는 게 다행일 수도 있어요. 우리에게 준비할 시간을 주기 때문에.

사회 혼란을 막기 위해서는 적절한 규제도 필요합니다.

저는 규제를 주장하는 사람은 아닙니다만 너무 요즘에 인공지능의 현상이 충격적이기 때문에 적절한 규제가 필요하지 않은가 하는 생각을 하게 됐습니다.

인공지능이 만들어내는 가짜 뉴스를 찾아내기 위해서는 당분간 ‘인공지능이 만드는 어떠한 선언에는 컨센서스를 만들어서 갖고 와라’ 그런 정도의 규제도 가능하지 않은가 하고 망상을 해봅니다.

저는 사회 전반에서 이러한 기술의 활용에 대해서 중지를 모으기를 기대합니다.

새로운 기술이기 때문에 이것에 대해서 아시는 분이 많지가 않습니다. 특히 사회에 미치는 영향에 대해서는 어느 한 두 분이 다 알고 있을 수가 없어요. 전문가라 하더라도 특히 일부분만 알 수밖에 없는 그런 상황입니다. 그런 분들이 같이 모여서 서로 아는 것을 공유하고 인공지능과 공생하는 미래에 대해서 같이 고민해 보기를 기대합니다.

챗GPT에서 보듯이 인공지능은 매우 빠른 속도로 발전하고 있습니다. 우리 사회는 AI의 본질 능력과 한계를 이해하고 도구로서 잘 활용하는 능력이 필요합니다. 여러분의 분발을 기대합니다.