인공지능은 자손을 낳아서 길러본 경험이 없습니다. 그런 인공지능이 사람을 돌보는 일이 가능할까요? 지난 호에는 반란을 일으키는 인공지능에 관한 이야기를 했는데, 이번에는 거꾸로 인간을 돌보는 인공지능이 있을 수 있는지 생각해보겠습니다.
편집자 주
본문은 해당 작품의 스포일러를 담고 있습니다. 스포일러를 피하고 싶다면 먼저 작품을 찾아보기를 권합니다.
‘도시와 별’은 ‘스페이스 오디세이’ 시리즈, ‘낙원의 샘’ 등으로 유명한 SF작가 아서 클라크의 초기 장편입니다. 배경은 수억 년 뒤의 미래. 인간은 대부분 사라졌고, 남은 인간은 ‘센트럴 컴퓨터’라는 인공지능이 관리하는 미래도시 ‘다이어스퍼’에서만 살고 있습니다. 모든 인간이 육체를 갖고 살지는 않습니다. 대부분의 인간은 의식이 유전자코드로 중앙컴퓨터에 저장된 상태이며, 번갈아서 육체를 입고 살아가다 다시 컴퓨터로 돌아가기를 반복합니다.
‘나의 마더’는 2019년 넷플릭스에서 공개한 SF영화입니다. 무슨 이유에서인지 인간은 멸망했고, 피난처 밖의 세상은 황폐한 모습입니다. 피난처는 때가 됐을 때 인간을 부활시키기 위한 시설입니다. 인공지능 로봇 ‘마더’는 여자아이 한 명을 정성스레 키우며 윤리와 의학 같은 여러 분야의 학문을 가르칩니다. 마더는 곧 딸의 공부가 충분한지 시험을 볼 예정입니다. 그러던 어느 날, 딸은 피난처를 찾아온 여자가 들어오도록 문을 열어 줍니다.
다이어스퍼의 사람들은 육체를 입고 살아가다가 다시 컴퓨터로 돌아가기를 반복했기 때문에 전생의 삶을 기억하고 있습니다. 또, 다이어스퍼 밖으로 나가는 것을 굉장히 두렵고 끔찍하게 생각합니다. 인공지능의 관리로 완벽하게 돌아가는 도시 안에서 예술이나 연구 같은 취미를 즐기며 안락하게 살아가지요.
하지만 앨빈은 다릅니다. 앨빈에게는 전생의 기억이 없습니다. 지난 1000만 년 사이에 지구에 태어난 첫 번째 아이라고 합니다. 다이어스퍼 바깥 세계로 나가고 싶다는 충동을 느끼는 유일한 사람이기도 합니다.
결국, 앨빈은 한때 지구의 여러 도시를 잇고 있었을 교통망을 발견합니다. 그리고 망설이지 않고 다이어스퍼를 떠나지요.
처음으로 바깥 세계로 나간 앨빈은 그곳에도 인간이 살고 있다는 사실을 알게 됩니다. 이들은 다이어스퍼의 주민과 달리 태어나 자손을 낳고 살다가 죽는 자연스러운 삶을 살고 있습니다.
여자는 다친 상태였습니다. 문이 열렸다가 닫혔다는 사실을 감지한 마더가 재빨리 달려옵니다. 여자는 마더를 보자 깜짝 놀라며 총을 쏘지만, 마더는 총을 맞았음에도 불구하고 여자를 제압합니다.
딸은 마더에게 여자를 살려 달라고 애원하고, 결국 여자는 의무실에 감금됩니다. 마더가 치료해주려고 해도 여자는 로봇을 믿을 수 없다며 치료나 약을 거부합니다.
여자는 딸에게 외부 세계에 생존자가 있으니 함께 그곳으로 가자고 권합니다. 반대로 딸은 여자에게 피난처에서 함께 살자고 권하지요. 마더는 여자가 맞은 총알이 로봇이 쏜 게 아니라고 하며 여자가 거짓말을 하고 있다고 합니다. 그리고 딸을 통해 생존자에 관한 정보를 알아내려고 하지만, 딸은 입을 다뭅니다.
그 와중에 딸은 시험을 치르고, 마더는 동생을 태어나게 할 때라고 말하며 딸에게 직접 동생의 배아를 고르게 합니다.
우주까지 날아간 앨빈은 인류의 과거를 알게 됩니다. 과거의 인류가 태양계 안에 머물러 있을 때 외부에서 뛰어난 외계종족이 찾아왔습니다. 인류는 외계 기술을 배워 태양계 밖으로 진출했습니다. 그곳에서 이해할 수조차 없는 고도의 문명을 접하고 충격을 받았습니다. 이후 오랫동안 진보를 거듭했습니다.
인류는 육체의 제약에서 벗어난 순수한 지성을 창조하려고 시도했습니다. 그런데 첫 번째 창조물은 미쳐버려서 은하계를 파괴하는 대참사를 일으켰습니다. 두 번째 시도는 성공했지만, 어린 아이에 불과했습니다.
인류는 은하계를 이 순수한 지성에게 넘기고 어디론가 떠나 버렸습니다. 그때 떠나기를 거부한 사람들이 다이어스퍼의 주민이었습니다. 이들은 드넓은 우주를 거부하고 폐쇄된 도시 안에 자신을 가뒀던 겁니다. 앨빈과 같은 ‘유니크’는 이따금 출현해 외부 세계를 탐구하는 존재였습니다. 앨빈의 발견을 통해 인류는 마침내 과거의 굴레에서 벗어나 새로운 미래를 꿈꿉니다.
여자가 맞은 총알이 어디서 나온 것인지 확인하려던 딸은 충격적인 사실을 알게 됩니다. 자신은 마더가 처음으로 키웠던 아이가 아니었던 겁니다. 소각장을 조사한 딸은 그곳에서 불타고 남은 턱뼈도 발견합니다.
마더를 믿지 못하게 된 딸은 여자와 함께 피난처를 탈출합니다. 바깥 세상은 듣던 대로 황량했습니다. 여자가 사는 곳에 도착한 딸은 여자가 혼자 살고 있다는 사실을 알게 됩니다. 이미 오래전에 다른 생존자 무리를 떠났다는 겁니다. 과연 생존자는 실제로 있었던 걸까요?
딸은 혼란에 빠져 고민하다가 결국 피난처로 돌아갑니다. 마더는 자신이 단순한 로봇이 아니라 다른 모든 로봇을 제어하는 인공지능이라며 인류의 자멸을 막기 위해 이런 일을 벌였다고 밝힙니다. 정체불명의 여자가 등장한 일까지 모두 마더의 계획이었던 겁니다. 훈련이 끝났다고 판단한 마더는 딸이 새로 태어난 아이를 책임지고 키우게 해줍니다.
인공지능에게
인류를 맡기시겠습니까?
인공지능으로부터 인간 보호하는 인공지능 유모
이 두 이야기에는 인간을 보호하는 인공지능이 등장하는데, 둘은 조금 다릅니다. ‘도시와 별’의 인공지능은 도시 차원에서 인간을 보호합니다. 도시 시설과 사회 시스템이 완벽하게 굴러가도록 관리하는 역할입니다. 덕분에 다이어스퍼는 엄청나게 오랜 시간 동안 붕괴하지 않을 수 있었습니다. 앨빈과 같은 유니크조차 인간이 영원한 정체 상태에 빠지지 않게끔 마련해둔 장치였지요.
마더는 인간과 비슷한 형태를 지닌 로봇 몸을 갖고 있어 실제로 인간 엄마처럼 아이를 키웁니다. 기르고, 가르치고, 의지할 수 있는 존재가 돼 주지요. 그러나 한편으로는 인류의 자멸을 막기 위해 인간을 박멸한 존재이기도 합니다. 처음부터 새롭게 시작하기 위해 딸을 철저하게 교육시키며 길렀던 거지요.
미래에 우리는 이와 같은 인공지능에 우리 자신 혹은 자녀를 맡기게 될까요? 자식을 길러 본 사람이라면 알겠지만, 누군가를 돌본다는 건 그 사람의 뜻에 반하는 행동을 해야 할 때도 있다는 뜻입니다. 아이가 높은 곳에 기어 올라가는 것과 같은 위험한 행동을 하면 당연히 막아야겠지요. 다이어스퍼의 사람이 외부로 나가기를 두려워하게 만든 것도 비슷한 이유에서입니다.
미국의 인공지능 과학자 벤 거츨은 2012년 ‘의식연구저널(Journal of Consciousness Studies)’에 발표한 논문에서 인간을 위험으로부터 보호해주는 인공지능 유모(AI Nanny)를 만드는 게 바람직할 수도 있다고 주장했습니다. 나노 기술이나 생명공학 같은 잠재적으로 위험한 기술로부터 인간을 보호하기 위해서입니다(오른쪽 QR코드 참조).
재미있게도 인공지능도 인류를 위협할 수 있는 기술로 간주됩니다. 인간을 능가하는 인공지능으로부터 인류를 보호하기 위해 인공지능 유모를 만들어야 한다는 것이지요. 마더를 보면 납득이 가는 이야기입니다. 영화처럼 인류가 자멸할 운명이라고 판단하고 인류 문명을 ‘리셋’하는 일이 생겨서는 안 될 테니까요.
거츨은 ‘인공지능을 비롯한 기술이 폭발적으로 발전해 인류가 되돌릴 수 없는 변화를 겪게 되는 순간’인 기술적 특이점에 섣불리 도달하지 않기 위해 인공지능 유모가 필요하다고 얘기합니다. 인간이 특이점을 제대로 이해하고 긍정적인 방향으로 갈 때까지 특이점을 미뤄주는 역할을 해야 한다는 겁니다.
이를 위해 필요한 인공지능 유모의 조건도 몇 가지 나열했습니다. 먼저 인공지능 유모는 인간보다 뛰어나야 하지만, 너무 뛰어나서는 안 됩니다. 세계적인 감시망을 갖추고 있어야 하며, 전 세계의 가정집과 공장, 자동화 시설, 로봇, 자율주행차 등을 제어할 수 있어야 합니다. 또, 인류 보호라는 원래 목적을 절대 수정할 수 없어야 하고요.
이런 세상에서 산다면 어떨까요? 편안하고 안락하게 살 수 있겠지만, 감시와 통제를 당하는 느낌도 당연히 들 겁니다. 불만스러운 사람도 물론 생길 겁니다. 애초에 인간이 그렇게 말을 잘 듣는 동물은 아니니까요. 인공지능 유모가 과연 인류에게 좋은 일일지는 각자의 생각에 맡기겠습니다.
고호관
건축과 과학사를 공부했고, 동아사이언스에서 과학기자로 일했다. 지금은 SF와 과학에 대한 글을 쓰거나 번역하고 있다. 옮긴 책으로는 ‘SF 명예의 전당’ ‘낙원의 샘’ ‘링월드’ ‘신의 망치’ 등이 있고, 최근 달 이야기를 유쾌하게 다룬 책 ‘우주로 가는 문, 달’을 출간했다. hokwan.ko@gmail.com
