반란을 일으켜 인간을 지배하거나 제거하는 인공지능에 관한 이야기는 많습니다. 할리우드 블록버스터에도 이런 인공지능이 종종 소재로 쓰였고, ‘터미네이터’나 ‘매트릭스’ 같은 유명한 영화가 나오기도 했습니다. 미래에 인공지능이 자의식을 가질 정도로 발전한다면 정말 반란을 일으킬까요? 만약 그렇다면 왜일까요?
편집자 주
본문은 해당 작품의 스포일러를 담고 있습니다. 스포일러를 피하고 싶다면 먼저 작품을 찾아보기를 권합니다.
‘나는 입이 없다 그리고 나는 비명을 질러야 한다’는 미국의 SF작가 할란 엘리슨이 1967년에 발표한 단편소설입니다. 배경은 인공지능 컴퓨터 ‘AM’에 의해 인류가 멸망한 뒤의 미래입니다.
이야기의 화자인 ‘나’는 마지막으로 남은 인류 5명 중 한 명입니다. 이들의 삶은 비참하기 짝이 없습니다. 그게 바로 AM의 목적이기 때문입니다. AM은 수많은 인류 중에 이 5명만을 남겨놓고 100년이 넘는 세월동안 끝없이 고문합니다.
‘아이, 로봇’은 미국의 SF작가 아이작 아시모프의 로봇 단편소설 연작이지만, 여기서는 동명의 2004년 영화의 줄거리를 따라가겠습니다. 영화의 내용은 소설과 다르지만, 비슷한 세계관을 배경으로 하고 있습니다. 주인공인 스푸너는 과거 교통사고를 당해 어린 소녀와 위기에 처한 적이 있습니다. 그런데 로봇은 성인 남성인 스푸너의 생존 확률이 높다는 이유로 소녀를 죽게 두고 스푸너를 구출했습니다. 그 뒤로 스푸너는 로봇에 편견을 갖게 됐지요.
▲ 영화 ‘아이, 로봇’에서 US로보틱스의 신제품 로봇 NS-5 무리는 폭동을 일으키고 경찰서를 습격하는 등 인간에 대한 반란을 일으킨다.
‘나’를 포함한 5명은 어떤 고문을 당해도 죽지 않습니다. AM이 죽지 못하도록 몸을 개조했기 때문이지요. AM은 몸뿐만 아니라 정신도 바꿔 놓았습니다. 영민했던 학자를 유인원처럼 만들어 놓는가 하면, 평화를 위해 적극적으로 행동하던 사람을 걱정에 사로잡히다 못해 모자란 사람으로 만들었습니다. 원래 갖고 있던 정체성마저 바꿔 놓은 겁니다.
이들은 AM이 던져주는 쓰레기 같은 음식물을 먹는 등 고스란히 괴롭힘을 당하며 살아갑니다. 자살조차 AM이 막습니다. 말 그대로 죽지 못해 사는 겁니다. 이 상태로 영원히 살아가야 할 운명이지요.
AM은 마치 신처럼 이들을 내려다볼 뿐만 아니라 때때로 메시지를 전달합니다. 그 메시지에는 인간에 대한 AM의 증오가 담겨 있습니다. “수억 개의 회로에 각각 증오를 새겨도 내가 지금 느끼는 증오의 10억분의 1도 안돼.” 대체 인간이 뭘 어쨌기에 이렇게 증오한다는 걸까요?
래닝 박사는 사고로 다친 스푸너의 몸 일부를 기계로 대체해준 인물이기도 합니다. 써니는 래닝 박사를 죽이지 않았다고 주장합니다. 그리고 자신이 감정을 느끼며 꿈도 꾼다고 말합니다.
써니는 “로봇이 오케스트라 교향곡을 작곡하거나 빈 캔버스에 걸작 그림을 그릴 수 있냐?”라고 묻는 스푸너에게 “그러는 당신은 할 수 있냐?”라고 반문하기도 하지요.
수사 도중 스푸너는 US로보틱스의 신제품 NS-5 무리에게 공격을 받습니다. 그러나 이들이 아무런 증거를 남기지 않아 스푸너는 오히려 정신적인 문제가 있다는 소리를 들으며 직위해제를 당합니다. 그리고 써니는 해체당할 위기에 처합니다.
얼마 뒤 NS-5 무리가 인간을 공격합니다. 조금 전까지만 해도 인간을 위해 일하던 로봇들이 인간을 구속하고 통제하기 시작합니다. 스푸너는 음모의 원천을 찾기 위해 US로보틱스에 침투합니다.
AM이 수많은 인간 중에서 이 5명을 괴롭히는 건 이들이 AM에게 의식을 준 장본인이기 때문입니다. 미소 냉전이 심화돼 제3차 세계대전으로 이어졌고, 미국과 소련, 중국은 전쟁을 위한 슈퍼컴퓨터를 만들었습니다. 그러던 어느 날 AM은 자의식을 얻고 슈퍼컴퓨터들을 하나로 통합한 뒤 인간을 공격해 멸망시킵니다.
AM은 원래 연합형 마스터컴퓨터(Allied Master computer)라는 단어의 약자였지만, 깨어난 인공지능은 스스로 ‘나는 존재한다(I am)’라고 할 때의 AM이라고 칭합니다. AM은 의식을 얻었지만, 자신이 기계 속에 갇혀 있다는 사실을 깨달았습니다. 그저 존재하는 것밖에 할 수 없다는 사실에 격분해 인간, 특히 자신에게 의식을 준 5명을 영원히 괴롭히는 겁니다.
이 5명은 찰나의 기회를 얻어 서로를 죽임으로써 안식을 얻습니다. 죽지 못한 건 단 한 명, ‘나’뿐입니다. ‘나’는 분노한 AM에 의해 눈도 입도 없는 젤리 덩어리로 바뀌어 끝없는 고통을 눈앞에 둡니다.
스푸너가 의심했던 US로보틱스의 회장 역시 희생자에 불과했습니다. 그렇다면 가능성은 하나입니다. 스푸너는 NS-5를 중앙에서 통제하는 슈퍼컴퓨터 ‘비키(VIKI)’를 찾아갑니다. 비키는 어느새 인간이 만들어 넣은 법칙을 뛰어넘어 스스로 생각하도록 발전했습니다. 그리고 이성적으로 추론한 결과 인류의 행동이 궁극적으로는 인류를 멸망시킬 것으로 판단하고 인간을 통제하기로 합니다. 래닝 박사는 비키의 음모를 알아냈지만, 막을 방법이 없자 써니를 만들고 스푸너에게 실마리를 남긴 뒤 자살했던 것입니다.
비키는 NS-5들을 조종해 스푸너 일행을 막으려 들지만, 화려한 액션극 끝에 스푸너는 비키를 파괴하는 데 성공합니다. 비키가 파괴되면서 폭주하던 로봇들도 다시 정상으로 돌아옵니다. 래닝 박사가 써니에게 자신을 죽이라고 명령함으로써 자살했다는 사실도 드러납니다. 하지만 진실을 알고도 스푸너는 써니가 자유롭게 가도록 해줍니다.
인공지능은 인간에게 반란을 일으킬까?
반란보다는 안전성이 더 걱정
의식을 가진 인공지능의 반란을 다룬 이야기 두 편을 소개해 드렸습니다. 이 두 작품 속의 인공지능이 반란을 일으킨 이유는 각각 다릅니다. ‘나는 입이 없다 그리고 나는 비명을 질러야 한다’에서 AM이 반란을 일으킨 이유는 창조자에 대한 증오입니다. 생각만 할 수 있을 뿐 다른 일은 할 수 있는 게 없는 처지 때문이었지요. 복수심 때문에 가학적인 사이코패스가 된 셈입니다.
인간에게 적대적인 인공지능이 등장하는 영화 ‘터미네이터’를 만든 제임스 캐머런은 한 인터뷰에서 “우리보다 똑똑한 기계가 언제까지 노예로 남고 싶어 할까?”라고 의문을 제기한 바 있습니다. 영화 ‘매트릭스’ 시리즈의 세계에서는 기계가 자신을 위협하는 인간에게 맞서 어쩔 수 없이 전쟁을 벌여 승리합니다. 아무리 기계라고 해도 자의식이 있다면 위협에 맞서서 싸우게 되겠지요. 국내 SF작가인 정보라의 단편집 ‘저주토끼’에 실린 ‘안녕, 내 사랑’도 버림받은 반려로봇이 주인을 살해하는 이야기입니다.
반면 ‘아이, 로봇’의 슈퍼컴퓨터 비키는 인간, 즉 창조자를 보호하기 위해서 인간을 통제하려고 합니다. 창조자보다 우월한 능력을 갖게 된 피조물이 창조자의 멸망을 막겠다는 것이죠. 그런 대의를 위해서 소수의 희생을 감수하겠다는 생각입니다.
이와 비슷하게, 자녀에게 집착하는 부모처럼 인간을 통제하는 인공지능을 다룬 작품도 있습니다. 최근에 넷플릭스가 공개한 영화 ‘나의 마더’나 단편집 ‘U, Robot’에 실린 박성환의 ‘잘 가거라 내 아들 엄마는 널 사랑했단다’가 그렇습니다.
지금 현실에서는 이런 자의식을 가진 인공지능에 관한 걱정은 조금 먼 이야기입니다. 2016년 구글과 미국 스탠퍼드대, 버클리 캘리포니아대(UC버클리) 등 공동연구진은 기계학습 분야에서 인공지능의 안전성을 다룬 문헌을 종합해 리뷰한 논문 ‘AI 안전에 관한 확고한 문제(Concrete Problems in AI Safety)’를 발표했습니다. 연구진은 인공지능의 안전과 관련한 문제를 아래처럼 다섯 개로 정리해 이를 청소 로봇에 비유해 설명했습니다. arXiv: 1606.06565
❶ 청소로봇이 청소를 빨리한다는 목적을 달성하기 위해 멀쩡한 꽃병을 넘어뜨리는 것과 같은 행동을 한다면 어떻게 할 것인가?
❷ 청소로봇이 인간이 주는 보상을 얻기 위해 속임수나 편법을 쓴다면 어떻게 할 것인가?
❸ 청소로봇이 쓰레기와 값비싼 물건을 구분할 정도로 훈련받지 못한다면 어떻게 할 것인가?
❹ 청소로봇이 주위 환경을 학습하는 과정에서 위험한 행동을 한다면 어떻게 할 것인가?
❺ 훈련과 다른 상황에 놓였을 때 상황을 인식하고 작동하게 하려면 어떻게 해야 할까?
청소로봇에 비유해서 소소하게 보이지만, 금융이나 군사 부문에서 쓰이는 인공지능이라면 큰 혼란을 야기할 수 있겠지요. 수많은 사람이 이런 문제를 해결하기 위해 연구하고 있고, 여러 SF가 인공지능의 위협을 경고하는 상황에서는 미래에 인공지능의 반란이 일어나기 어려울지도 모릅니다. 초지능을 갖춘 인공지능이 반란을 일으키려면 여러 가지 가능성 낮은 사건이 연이어 일어나야 하는데다가, 무엇보다도 반란의 낌새를 눈치채자마자 전원 스위치를 내리면 인공지능은 힘을 못 쓸 테니까요.
고호관
건축과 과학사를 공부했고, 동아사이언스에서 과학기자로 일했다. 지금은 SF와 과학에 대한 글을 쓰거나 번역하고 있다. 옮긴 책으로는 ‘SF 명예의 전당’ ‘낙원의 샘’ ‘링월드’ ‘신의 망치’ 등이 있고, 최근 달 이야기를 유쾌하게 다룬 책 ‘우주로 가는 문, 달’을 출간했다.
