d라이브러리

만약 미래에 로봇이 인간의 안위보다 자신의 안위를 더 생각하면 어떻게 될까? 로봇이 우리를 통치하면 어떤 일이 벌어질까?

 

이런 일들을 막고자 SF소설 <아이, 로봇>에서는 로봇공학의 3원칙을 설정한다. 소설 속 로봇은 모두 이 로봇공학의 3원칙이 심어져 있고, 이 원칙을 절대 거스를 수 없다. 그러나 인위적으로 만든 이 원칙은 여러 문제를 일으킨다.

 

<아이, 로봇>은 미국의 SF 작가 아이작 아시모프가 쓴 로봇에 관한 단편 소설을 엮은 책으로, 21세기를 배경으로 양전자 두뇌를 갖추고 사람처럼 생각하는 로봇이 등장한다.

 

 

단편 <스피디 : 술래잡기 로봇>은 수성 기지에서 일하는 로봇 스피디에 관한 이야기이다. 우주선 기술자인 그레고리 파웰과 마이클 도노반은 스피디에게 셀레늄을 구해오라는 명령을 내린다. 셀레늄은 너무 뜨겁게 내리쬐는 태양광선으로부터 인간을 보호하는 광전지의 연료로, 이것이 없으면 인간은 서서히 타 죽는다. 

 

그런데 5시간이 지나도록 스피디가 돌아오지 않자 파웰과 도노반은 직접 스피디를 찾으러 간다. 셀레늄 웅덩이에서 발견된 스피디는 이상하게 셀레늄 웅덩이를 향해 갔다가 다시 돌아왔다가를 반복하기만 한다.

 

제2원칙에 따르면 로봇은 인간의 명령에 복종해야 하고, 제3원칙에 따르면 로봇은 자신을 스스로 보호해야 한다. 보통 상위 원칙이 하위 원칙보다 우선한다. 즉, 제2원칙이 제3원칙보다 강력하기 때문에 일반 로봇은 인간의 명령에 따르는 일을 더 중요하게 여긴다. 하지만 스피디는 최신 모델이라 제3원칙이 강하게 주입돼 버린다. 여기서 문제가 생긴다.

 

스피디는 제2원칙에 따라 셀레늄 웅덩이로 향한다. 그런데 웅덩이에 가까이 다가갔을 때 그곳이 자신에게 위험하다는 사실을 알게 되고, 제3원칙에 따라 스피디는 웅덩이에서 멀어진다. 그렇게 웅덩이에서 멀어지면 제2원칙에 따라 다시 웅덩이 가까이로 다가가고, 웅덩이에 가까워지면 제3원칙에 따라 다시 웅덩이에서 멀어지는 일이 반복된다. 결국 스피디는 웅덩이 주위를 빙글빙글 돌기만 한다.

 

이런 상황을 수학에서는 ‘역설’이라고 한다. 수학에서 역설은 문제가 없어 보이는 전제들로부터 논리적으로 이치에 맞지 않는 결론이나 전혀 예상하지 못했던 결론이 도출되는 상황을 말한다. 제2원칙과 제3원칙은 각각 문제가 없었지만, 이 둘이 충돌하면서 스피디가 예상치 못하게 뱅뱅 돈 것이다.

 

결국 파웰과 도노반은 최후의 수단으로 제1원칙을 이용하기로 한다. 파웰이 뜨거운 태양이 내리쬐는 곳으로 걸어가자 스피디가 정신을 차리고 그를 구조하러 온다. 파웰과 도노반은 모든 원칙 중에서 가장 중요한 제1원칙을 이용해 스피디를 되찾을 수 있었다.

 

또 다른 단편인 <바이어리 : 대도시 시장이 된 로봇>에서는 정치가 스테판 바이어리가 사람이 아닌 로봇이라는 소문이 퍼진다. 소문의 근원지인 라이벌 정치가 프랜시스 퀸이 말하길, 그 정치가가 잠을 자는 모습, 밥이나 물을 먹는 모습을 본 사람이 아무도 없다. 3년 전까지 평범한 삶을 살다 갑자기 유명 인사가 된 점도 이상하다고 지적한다. 몸을 검사해볼 수 없는 상황에서 그가 사람인지 로봇인지를 알고자 할 때, 로봇공학의 3원칙을 이용할 수 있다.

 

제1원칙에 따라 로봇은 사람에게 해를 입힐 수 없으며 인간을 보호해야 한다. 만약 사람에게 해를 입힐 수 있다면 그건 로봇이 아니라는 증거가 된다.

 

하지만 누군가가 주인에게 해를 입히려는 상황을 마주한다면 로봇은 어떻게 해야 할까? 당연히 주인을 지켜야 하지만, 그러려면 주인을 해치려는 악당에게 해를 입히게 된다. 인간을 보호하기 위해 인간에게 해를 입혀야 하는, 즉 제1원칙을 지키기 위해 동시에 제1원칙을 어겨야 하는 상황이 되는 것이다. 로봇은 또다시 역설적 상황에 놓이게 된다.