d라이브러리

 인공지능이 발전하면 스스로 인간을 장악해 통제할지도 모릅니다. 혹은 인간이 다른 인간을 통제하는 데 인공지능을 활용할 수도 있고요. 어쨌든 인공지능이 인간을 통제한다고 하면, 왠지 지금과는 사뭇 다른 세상이 될 것 같습니다. 그런 쪽으로 상상력을 발휘해 본 작품을 살펴보겠습니다. 

(※편집자 주.본문은 해당 작품의 스포일러를 담고 있습니다. 스포일러를 피하고 싶다면 먼저 작품을 찾아보기를 권합니다.) 

● 매트릭스

#1. 앤더슨은 평범한 프로그래머로 일하는 회사원이다. 그러나 사실 네오라는 이름의 해커로도 활동하는 이중생활을 하고 있다. 어느 날 네오에게 트리니티라는 정체불명의 여자가 접근하고, 네오는 다음날 경찰과 나타난 요원들에게 영문도 모르는 채 잡혀간다.

매트릭스는 1999년에 개봉한 SF영화입니다. 독특한 액션과 사이버펑크(첨단 기술과 반체제적인 대중문화의 결합) 분위기로 인기를 끌었었죠. 
요원들에게 잡혀갔던 네오는 다시 풀려나지만, 계속 감시를 받고 있습니다. 자신이 겪은 일이 꿈인지 현실인지 갈팡질팡하던 네오는 모피어스라는 사람을 만나게 되고, 모피어스는 네오에게 진짜 현실을 보여주겠다며 스스로 선택하라고 합니다. 고민하던 네오는 진실을 마주하기로 마음먹습니다.

#2. 돌아가는 길에 네오는 뭔가 이상한 점을 발견하고, 모피어스 일행은 요원들의 습격을 받는다. 모피어스는 동료를 구하기 위해 요원에게 맞서 싸우다가 붙잡히고 만다. 간신히 현실로 돌아온 네오는 트리니티와 함께 다시 매트릭스로 돌아가 모피어스를 구출하려 한다.

매트릭스는 1999년에 개봉한 SF영화입니다. 독특한 액션과 사이버펑크(첨단 기술과 반체제적인 대중문화의 결합) 분위기로 인기를 끌었었죠. 
요원들에게 잡혀갔던 네오는 다시 풀려나지만, 계속 감시를 받고 있습니다. 자신이 겪은 일이 꿈인지 현실인지 갈팡질팡하던 네오는 모피어스라는 사람을 만나게 되고, 모피어스는 네오에게 진짜 현실을 보여주겠다며 스스로 선택하라고 합니다. 고민하던 네오는 진실을 마주하기로 마음먹습니다.

#3. 다시 눈을 뜬 네오 앞에는 충격적인 광경이 펼쳐진다. 자신이 있는 곳은 액체가 담긴 작은 통 속이었고, 주위에는 그렇게 사람이 하나씩 들어 있는 통이 엄청나게 많이 쌓여 있다. 네오는 이상을 감지한 로봇에 의해 어디론가 배출된다.

통에서 빠져나온 네오는 모피어스 일행에게 구출됩니다. 그리고 이들로부터 현실 세계에 관한 이야기를 듣습니다. 지금까지 네오가 현실이라고 생각했던 곳은 사실 인간을 지배하는 인공지능이 만든 가상현실이었습니다. 실제로는 모든 인간이 통 속에서 생명을 유지한 채 매트릭스라는 가상현실에 접속해 있었던 것이죠. 모피어스는 인공지능이 인간을 사육하며 에너지원으로 사용한다고 말합니다. 
모피어스가 네오를 구출한 이유는 그가 예언에 나오는, 인류를 구원할 영웅이기 때문입니다. 매트릭스에 장악당하지 않은 소수의 인간은 시온이라는 도시에 모여서 게릴라처럼 맞서 싸우고 있습니다. 하지만 네오는 자신이 그 영웅이라는 확신이 없습니다. 
네오는 가상현실에서 자신을 통제하는 법을 배우며 새로운 생활에 조금씩 익숙해집니다. 어느 날 모피어스는 네오를 예언자에게 데리고 가고, 예언자는 네오가 예언 속의 인물이 아니라고 합니다.

● 사이코패스

#1. 공안국 신참 감시관인 츠네모리 아카네는 시빌라 시스템에 의해 다양한 직업에 적성이 잘 맞는다며 엘리트 판정을 받는다. 아카네는 훈련소를 수석으로 졸업한 뒤 현장에 배속돼 잠재적으로 범죄를 일으킬 가능성이 있는 잠재범을 추적하며 활동을 시작한다.

사이코 패스는 일본의 SF애니메이션으로, 인간의 심리 상태를 측정해 범죄 가능성이나 적성 등을 파악하는 ‘시빌라 시스템’을 이용해 운영하는, 대공황으로 몰락한 일본 사회를 배경으로 합니다. 
주인공인 츠네모리 아카네는 공안국 형사과 1계에 배치받은 신참 감시관입니다. 이들은 상대를 스캔해 범죄 계수를 측정할 수 있는 도미네이터라는 장치로 잠재범(시빌라 시스템 측정 결과 범죄 계수가 높은 사람)을 체포하거나 사살하며 사건을 수사합니다.

#2. 체포됐던 쇼고는 호송되던 도중 탈출한다. 한편 아카네는 시빌라 시스템의 충격적인 실체에 관해 알게 된다. 그러나 동료를 보호하기 위해 내키지 않지만 시빌라 시스템과 거래를 하고 계속해서 쇼고를 추적해 나간다.

깨어난 쇼고는 공안국 국장 카세이 조슈를 만나게 됩니다. 그리고 시빌라 시스템의 정체를 알게 됩니다. 시빌라 시스템은 단순한 슈퍼컴퓨터가 아니었습니다. 바로 사람의 뇌 247개로 이뤄진 생체컴퓨터였죠. 많은 뇌를 연결해 범죄 계수를 측정하는 데 필요한 연산 능력을 확보한 겁니다. 특이한 점은 각각의 뇌가 자아를 계속 유지하고 있다는 사실입니다.
그리고 그 뇌는 모두 면죄체질자의 뇌였습니다! 국장은 쇼고에게 시빌라 시스템에 합류하라고 권합니다. 쇼고는 빈틈을 노려 국장을 공격해 죽입니다. 그런데 국장은 인간이 아닌 로봇이었습니다. 그 로봇을 움직이는 것은 시빌라 시스템. 결국 사회는 시빌라 시스템의 지배를 받고 있었던 겁니다. 
아카네 역시 시빌라 시스템의 정체를 알게 됩니다. 그러나 혼자서 세상을 뒤집을 수는 없죠. 쇼고의 죽음으로 추격전이 끝난 뒤에도 아카네는 언젠가 시빌라 시스템을 무너뜨리는 사람이 나올 거라며 경고합니다. 

#3. 감시관으로 활동하던 아카네는 마키시마 쇼고라는 인물에 관해 알게 된다. 쇼고는 여러 사건의 배후에 있는 악명 높은 범죄자다. 아카네는 친구를 납치한 쇼고를 쫓지만, 도미네이터가 작동하지 않아 눈앞에서 친구를 잃고 만다.

아카네가 쇼고를 잡지 못했던 건 도미네이터가 작동하지 않았기 때문입니다. 쇼고가 친구를 살해하려는 마음을 먹는다면 범죄 계수가 높아지는 게 당연한데, 어째서인지 그러지 않았던 겁니다. 아카네는 자신의 눈앞에서 친구가 살해당했다는 데 큰 충격을 받지만, 포기하지 않고 쇼고를 끈질기게 추적합니다. 
얼마 뒤, 쇼고는 시빌라 시스템으로 범죄 계수를 측정할 수 없는 면죄체질자라는 사실이 드러납니다. 그래서 도미네이터가 반응을 하지 않았고, 결과적으로 아카네가 친구를 구할 수 없었던 것이죠. 이 면죄체질자는 200만 명 중 한 명 꼴로 나타나는 희귀한 사람이었습니다. 
쇼고는 범죄 계수를 속일 수 있는 헬멧을 범죄자들에게 제공해 여러 곳에서 폭동을 일으킵니다. 그리고 그 틈을 타 시빌라 시스템이 있는 곳으로 향합니다. 아카네는 쇼고를 추적하다가 마침내 현장을 기습해 체포에 성공합니다.

●인공지능이 통제하는 사회는 어떤 모습일까?

효율적이기만 한 디스토피아가 될지도 요즘 심심찮게 들리는 말이 있습니다. 
“하루빨리 판사를 인공지능으로 바꿔야 해.” 
재판 결과를 납득하기 어려울 때, 중범죄를 저지른 사람이 권력자나 부유층의 가족이라는 이유로 가벼운 형을 받은 것 같을 때 사람들은 분개해서 이렇게 말하곤 합니다. 인공지능이 판사라면 사람과 달리 공정하게 재판할 거라는 생각에서 하는 소리겠죠.
그런데 정말 그럴까요? 재판에서 훨씬 더 나아가 인공지능이 사회를 통제하게 된다면, 그 사회는 기대처럼 공정할까요? 
사이코 패스의 시빌라 시스템은 그런 역할을 합니다. 사람의 심리 상태를 실시간으로 분석해 데이터를 쌓으며 적성을 판단하고 범죄 가능성을 측정합니다. 모든 사람이 자신에게 적합한 직업에 종사하고, 범죄도 사전에 차단해 살기 좋은 사회를 만든다는 개념이죠. 물론 사이코 패스에서는 체질이 특이한 사람의 뇌를 이용해 만든 생체컴퓨터였기 때문에 우리가 흔히 생각하는 인공지능과는 조금 다를 수 있습니다. 
그러면 앞으로 시빌라 시스템과 같은 인공지능을 실제로 만들 수 있을지 궁금해집니다. 빅데이터를 이용해 사람의 행동을 분석하고 그다음 행동을 예상하는 식으로 어떤 사람이 범죄를 저지를 가능성을 계산하는 겁니다. 표정이나 심장박동, 땀 같은 생체 정보도 계산에 반영할 수 있겠죠. 데이터를 충분히 쌓아서 정확도가 높아진다면, 사이코 패스에서처럼 범죄를 저지를 것 같은 사람을 사전에 억류할 수 있습니다. 
사실 현실에서도 비슷한 연구가 이뤄지고 있습니다. 폐쇄회로(CC)TV 영상을 분석해 그 안에서 수상한 행동을 찾아내는 연구입니다. 보이스피싱 범죄자가 쓰는 전형적인 언어 패턴을 분석해 보이스피싱을 예방하려는 연구도 있고요.
자, 그런데 정말로 인공지능이 범죄 가능성까지 예측해서 누군가를 체포 또는 억류한다고 하면, 사람들이 수긍할 수 있을까요? 사이코 패스에서 보여줬듯이 공정한 사회시스템이라고 생각했던 것이 알고 보면 겉으로만 그럴듯해 보일 뿐인 통제에 불과할 수도 있습니다. 자세히 보면 허점투성이고요. 
또 만약에 인공지능이 사회를 통제한다면, 우리의 소망과 달리 극도로 효율적이기만 한 세상을 만들지도 모릅니다. 매트릭스의 인공지능처럼 사람을 모조리 가상현실에 집어넣는 거죠. 이 경우에는 기계와 싸워서 패배한 인간들을 살려 놓기 위해 그렇게 한 것이지만, 그렇지 않더라도 인공지능이라면 그런 선택을 할 수 있을 것 같습니다. 복잡한 세상을 건설할 필요도 없고, 에너지도 더 효율적으로 쓸 수 있으니까요. 사회가 어지러워지더라도 어차피 가상현실이니 고치거나 싹 지우고 다시 만들기도 훨씬 더 쉬울 겁니다. 
이번에 다룬 작품 속 세상은 디스토피아라고 할 수 있지만, 지난 4화(2019년 11월호)에서 다뤘던 ‘도시와 별’처럼 인간이 안락하게 살 수 있는 유토피아를 만들 가능성도 있습니다. 하지만 그곳도 사회를 유지하기 위해 인구수에 제한을 뒀습니다. 
남의 통제를 받는다는 건 어떤 식으로든 자유를 잃는 겁니다. 아무래도 매트릭스처럼 전쟁에서 지는 일이 생기지 않는 한 자발적으로 인공지능에게 통제를 맡기는 일은 일어나기 쉽지 않아 보입니다.