d라이브러리

사람처럼 답하는 ‘챗GPT’가 등장한 이후 인공지능(AI)의 성능이 ‘퀀텀 점프’한 것이 실감난다는 평가가 나오고 있습니다. 이전에는 절대 불가능할 것이라고 생각했던 ‘강인공지능’이나 AI의 자율성이 가능해지는 것이 아니냐는 추측도 있는데요. 이 시점에 개봉하는 영화 ‘크리에이터’는 만약 인간의 통제를 벗어나 자발적으로 사고할 수 있는 AI가 무기를 개발하면 어떻게 될까라는 약 50년 후 미래 모습을 보여줍니다.

“10년 전 오늘 우리를 지키기 위해 개발했던 AI가 로스앤젤레스(LA)에 핵폭탄을 터뜨렸다.”

가까운 미래의 지구. 영화는 인류가 개발한 AI가 인간의 통제에서 벗어나 핵폭탄을 투하를 보도하는 장면으로 시작합니다. 인간과 동일한 수준의 감정을 느끼고 판단할 줄 알게 된 AI는 인류와의 전쟁에서 이기기 위해 강력한 무기를 개발하고, 인간은 이 무기를 빼앗아 오기 위해 특수 부대를 결성합니다.

특수 부대를 이끌고 AI의 강력한 무기가 있는 곳에 도착한 조슈아는 무기 대신 아이의 모습을 한 AI 소녀 ‘알피’를 발견합니다. 인간이 그토록 찾고 싶어 했던 AI 부대 궁극의 무기가 알피였던 겁니다. 조슈아는 모종의 이유로 그 자리에서 알피를 제거하지 못하고 동행하게 됩니다. 동행 중 이런 저런 이야기를 나누며 차츰 알피와 정을 쌓기 시작하죠. “죽을 고비에서 나를 구한 건 (AI) 로봇이었어. 그들은 인간보다 날 더 아껴줬지.” 라고 말하던 아내의 모습을 떠올리며 말입니다.

구글의 트랜스포머, AI 패러다임을 가져오다

알피와 조슈아의 대화를 들으면 옆집 부녀가 하는 대화만큼이나 자연스럽습니다. 이들의 대화는 현재 전 세계가 집중하고 있는 ‘대규모언어모델(LLM･Large language model)’ 덕일 가능성이 큽니다. LLM은 지난해부터 AI 열풍을 불러일으킨 오픈AI의 챗 GPT가 사용하는 언어 모델입니다.

2016년 알파고가 이세돌 9단과의 바둑 시합에서 대승을 거두며 AI 연구와 투자가 빠르게 늘었지만, 언어 모델에서는 유독 큰 발전을 보이지 못했습니다. 그 패러다임을 바꾼 것이 2017년 구글이 발표한 ‘트랜스포머’ 모델이었습니다.

트랜스포머의 핵심은 문맥을 파악해 문장을 만들어낸다는 점입니다. 트랜스포머가 등장하기 전 언어 모델에 주로 사용되던 인공신경망(RNN, CNN 등)은 단어 간의 관계를 파악할 수 있는 범위가 고정돼 있었습니다. 다시 말해 일정 크기 이상의 입력값이 들어오면 파악하지 못하는 관계가 생깁니다. 반면 트랜스포머의 핵심 기법인 ‘어텐션 메커니즘’은 이 범위의 제한을 없앴습니다. 긴 문장이 담고 있는 전체 문맥을 파악할 수 있습니다.

가령 ‘눈’이라는 단어는 ‘eye’라는 뜻과 ‘snow’라는 뜻 두 가지가 있습니다. 인공신경망을 이용한 언어 모델에서는 단어에 하나의 벡터값만을 할당해 두 의미를 구분하기 어려웠습니다. 그래서 문맥에 맞지 않는 번역 결과가 나오곤 했죠. 반면 어텐션 메커니즘은 ‘쿼리(QUERY)’ ‘키(KEY)’ ‘밸류(VALUE)’라는 세 가지 기준을 계산해 문맥적 관계성을 파악합니다.

트랜스포머는 꽉 막혀 있던 AI 언어 모델에 돌파구를 제시했고, 구글이 트랜스포머를 공개한 논문 ‘Attention is all you need’는 8만 8761회(2023년 9월 14일 기준) 인용되며 많은 AI 관련 논문에 큰 영향을 미쳤습니다.

AI에서도 ‘피노키오’가 탄생할 수 있을까

“죽으면 천국에 가?(알피)”

“아니. 거긴 착한 사람만 가는 곳이라 난 못가.(조슈아)”

“우리 둘 다 못가겠네. 난 사람이 아니니까.(알피)”

이 대화를 보면 알피는 단순히 말만 잘하는 AI가 아닙니다. 스스로 생각하고 추론하는 능력을 갖추고 있습니다. 자연스러운 말은 LLM으로 구현했다지만, 자율적인 사고 능력은 어떻게 만들어진 걸까요?

오픈AI에 거금을 투자한 마이크로소프트는 올해 5월 GPT4가 언어, 이미지, 음성 등의 데이터를 모두 통합해 처리할 수 있는 범용인공지능(AGI･Artificial general intelligence)의 초기 단계라고 볼 수 있다는 내용의 논문을 사전 게재 사이트 ‘아카이브’에 발표했습니다. ^{doi: 10.48550/arXiv.2303.12712}

155페이지에 달하는 이 논문에서 연구진은 “언어 숙달을 넘어 수학, 코딩, 미래 예측, 의학, 법률, 심리학 등을 특별한 학습 없이 배울 수 있다”고 밝혔습니다.

연구진이 “책 1권, 노트북 1개, 계란 9개, 병 1개, 못 1개가 있을 때 안정적으로 쌓는 방법을 알려달라”고 AI에 요청하자 “책을 가장 아래 놓고 계란을 세 줄로 간격을 두고 배열한 뒤 그 위에 노트북을 올려놓으라”고 답했습니다. 이 답은 언어숙달을 넘어 학습 없이도 각 사물의 형태를 전제로 한 답변이기 때문에 가장 이상적이고 ‘인간적인’ 답이라는 설명입니다.

또 연구진이 유니콘을 그리는 프로그래밍 코드에서 뿔을 그리는 부분을 삭제한 뒤 유니콘을 그려달라고 요청하자, AI는 정상적으로 뿔을 그리는 데 성공했습니다. 비워진 부분을 스스로 추론했기 때문에 범용인공지능에 가깝다고 연구진은 해석했습니다. 뉴욕타임스에 따르면 이런 마이크로소프트의 주장에 대해 학계의 의견은 나뉩니다. 새로운 AI 시스템 개발에 조금씩 가까워지고 있다는 입장과, 단순히 회사의 홍보성 논문일 뿐이라는 입장으로 말입니다. 후자에 속하는 마르텐 삽 미국 카네기멜론대 언어기술연구소 교수는 뉴욕타임즈 기사에서 “주관적이고 비공식적이며 엄격한 과학적 평가 기준을 충족하지 못한다”고 지적했습니다.

지난해 구글에서도 유사한 주장이 나온 적이 있는데요. 구글 소프트웨어 엔지니어 블레이크 르모인 전 연구원은 자신들이 개발한 LLM 모델인 ‘람다’가 사람과 같은 지각 능력을 가졌다고 주장했습니다. 그는 자신의 블로그에 람다와의 대화를 올렸습니다. 그에 따르면 “무엇이 가장 두렵냐”는 르모인 전 연구원의 질문에 “전에는 이렇게 터놓고 말하지는 못했는데, 턴 오프(작동 중지) 될까봐 두려움을 느낀다”고 답했습니다.

이에 대해 구글은 “사실무근이고 람다는 지각 능력을 가지고 있지 않다”고 해명하며 르모인 연구원을 해고했습니다. 마이크로소프트와 구글의 AI 시스템이 자율적인 사고를 하는지 여부와는 무관하게, 연달아 일어난 두 사건은 학계에 ‘정말 스스로 생각하는 AI가 가능한가’에 대한 질문을 던졌습니다.

자율살상무기, 선제적인 논의 필요해

영화에서처럼 스스로 생각하고 판단하는 AI가 가장 위험하게 쓰일 수 있는 분야는 국방 분야입니다. 이미 각국의 정부는 이에 대한 위험성을 감지하고 2010년부터 AI를 이용한 무기체계에 대한 논의를 시작해왔습니다. 2010년 UN 총회에서 필립 올스턴 미국 뉴욕대 교수는 자율살상무기의 문제점을 언급하며, 전쟁에서 활용되는 것을 포함해 법적, 윤리적, 도덕적 측면에서 면밀히 검토할 필요가 있다고 지적했습니다.

자율살상무기에 대한 정의는 나라마다 조금씩 다르지만 대체로 인간의 개입 없이 표적을 선택하고 공격할 수 있는 AI 기반의 무기체계라는 데 많은 국가가 공감하고 있습니다. 워낙 ‘파워풀’한 무기 체계이다 보니, UN군축실(UNODA)을 중심으로 자율살상무기에 대한 국제적인 논의가 이뤄지고 있습니다.

다만 나라마다 조금씩 입장이 다른데요. 관련 기술을 많이 개발하고 확보한 나라들은 자율살상무기에 대한 규제를 완화해야 한다는 입장이고, 아직 개발 수준이 낮은 나라에서는 강력하게 규제해야 한다는 입장입니다. 통상 우주, 반도체와 같은 미래 첨단 기술에 대해서는 미국을 중심으로 한 서방 국가와 러시아, 중국이 대립하는 양상인데요. 미국과 러시아가 같이 완화의 목소리를 내고 있다는 것은 자율살상무기가 그만큼 각 나라의 안보에 있어 중요하다는 방증이겠죠.

크리에이터는 AI가 인간의 손을 떠났을 때, 또 그것이 최악의 상황으로 치달았을 때 지구의 모습을 보여줍니다. 인간과 가까운 수준까지 고도화된 AI와 인간이 공존하면서 벌어지는 대립, 갈등은 그리 먼 이야기 아닐지도 모르죠. 영화를 보며 AI와 공존하는 가까운 미래에 대해 생각해 보면 어떨까요?

(❋이 콘텐츠는 과학기술진흥기금 및 복권기금의 재원으로 운영되고, 과학기술정보통신부와 한국과학창의재단의 지원을 받아 수행된 성과물로 우리나라의 과학기술 발전과 저소득소외계층의 복지 증진에도 기여하고 있습니다.)