d라이브러리

 암호해독의 달인

알란 튜링은 1912년에 영국 런던에서 태어나 1954년 42세의 젊은 나이로 요절했다. 20세기 초반을 살다간 불세출의 천재 수학자이고, 이론전산학의 아버지로 불린다. 또 위대한 논리학자였으며, 2차 세계대전의 방향을 바꾼 경이로운 암호해독가였다.

튜링은 어린 시절부터 수학적 엄밀함에 정통했고, 천재적 재능을 보였다. 16세에 아인슈타인의 논문을 읽고 즉시 이해했으며, 그 논문의 결과로 뉴턴 역학이 수정되어야 할 부분을 스스로 추론해 내었다고 한다. 물론 이 부분은 그가 읽은 아인슈타인의 논문에는 나오지 않았다.

흔히 전쟁의 승패는 정보의 획득에 달려 있다고 말한다. 1차 세계대전 중에 독일은 ‘애니그마 기계’라는 암호장치를 개발해 군사 통신의 목적으로 사용했는데, 당시에는 난공불락의 암호로 여겨졌다. 1938년에 폴란드 암호국이 처음으로 애니그마 암호를 해독하는 데 성공하자, 독일은 더욱 개량된 애니그마를 개발해 사용하기 시작했다. 이러한 암호전에는 수학자들의 역할이 컸다.

2차 세계대전이 터지자 영국은 ‘블레츨리 파크’라는 곳에 암호 해독을 전문적으로 다루는 비밀 연구소를 세웠다. 튜링은 이곳에서 주요 역할을 담당하며, 전기장치와 기계 장치의 혼합으로 수학적 방식을 사용해 암호를 해독하는 장치를 개발했다. 이 장치를 이용해 독일군의 유보트 관련 암호통신 내용을 해독해 대서양 전에서 연합군의 승리를 이끌어 냈다.

실제로 전쟁 종료 후에 당시 영국 수상이었던 처칠은, 영국의 암호해독 프로젝트인 ‘울트라’가 없었더라면 영국이 전쟁에서 승리할 수 없었을 것이라고 말한 바 있다. 이 일은 지금도 수학자가 전쟁을 바꾼 일화로 회자되곤 한다.
 
컴퓨터의 발명을 이끈 수리논리학자

수학자로서 튜링의 가장 큰 업적은 힐베르트가 제시했던 결정가능성 문제에 답을 준 것이다. 결정가능성 문제란, ‘명제들의 참과 거짓을 판별하는 판별방법이 존재하는가’라는 논리학적 질문이다. 튜링은 힐베르트의 예상과 달리 그러한 판별방법이 존재하지 않음을 증명했다. 이 과정에서 판별방법이 무엇인지 그 개념을 분명히 하기 위해 ‘튜링기계’라는 개념을 도입했다. 이를 통해 그는 판별방법, 즉 알고리즘의 개념을 분명히 하고, 알고리즘으로 표현될 수 있는 문제는 계산이 가능하다는 걸 보였다.

또한 튜링은 임의의 알고리즘이 정해진 시간 안에 종료되는지를 결정하는 문제는 계산 불가능한 예임을 증명했는데, 이는 ‘튜링의 홀팅 문제’라고 불리게 되었다. 이것은 결국 힐베르트의 문제에 대한 반례가 된다. 지금은 힐베르트의 결정가능성 문제에 대한 답을 준 것보다 오히려 튜링기계 개념의 창안 자체를 더 중요한 업적으로 보기도 한다.

튜링은 유년기부터 생명현상이나 뇌 문제에 관심이 많았다. 인간의 사고과정을 이해하고자 하는 대담한 꿈을 가졌고, 기계가 그 과정을 모방할 수 있는 단계까지 갈 수 있는지를 연구하고 싶어 했다. 그 결과 불과 20대의 청년이던 1930년대에 이미 이론적으로 컴퓨터의 개념을 만들어 냈는데, 당시는 아직 하드웨어적인 컴퓨터가 출현하기도 전이었다. 약관의 나이였던 그는, ‘튜링기계’라는 개념을 통해 인간의 사고 영역에 속하는 문제들을 기계가 수행하는 새로운 방식을 제시한 것이다.

이제는 대학교에서 전산학을 배우는 학생은 모두 튜링기계라는 개념을 배운다. 현대 문명에 끼친 영향만으로 보자면 튜링은 지성사에 길이 남을 사람이 되었다.
 
생명현상의 수학적 질서

튜링은 청년기에는 이론 컴퓨터의 개념을 만들어 내는 데 몰두했지만, 말년에는 생명 현상을 수학적으로 설명하는 것에 집중했다. 특히 피보나치수열과 같이 생명현상에 나타나는 수학적 질서에 많은 관심을 가졌다.

그는 동물의 표피에 있는 무늬에 다양성에도 관심을 갖고, 그것을 수학적으로 설명하고자 했다. 즉, 점무늬를 가진 치타나 띠 무늬를 가진 얼룩말, 무늬가 없는 코끼리 같이 얼핏 혼란스러워 보이는 다양성을 하나의 이론으로 설명하고자 했던 것이다.

다윈의 자연선택이라는 개념이 거대원칙의 역할을 할 순 있겠지만, 튜링은 털 색깔을 결정하는 화학물질과 억제하는 물질이 있을 거라는 가정 하에서 이 두 물질의 반응 -확산 방정식을 만들어 다양한 무늬를 설명하려 했다. 진화론의 관점으로 본다면, 진화의 구체적인 메커니즘을 수학적으로 설명하려 한 것으로 볼 수 있겠다.

튜링의 이러한 발상은 옥스퍼드의 수학자 제임스 머레이에 의해 구체화되어, 태아의 크기에 따라 점무늬나 띠무늬가 다르게 만들어진다는 것이 증명되었다. 동물의 임신기간 초반에 화학반응이 일어나면 무늬가 생기지 않고, 태아가 조금 자랐을 때 화학반응이 일어나면 줄무늬가 생기고 더 커지면 점무늬가 된다.

2006년에는 독일 막스플랑크의 생물학자들과 수학자들의 공동연구에서 쥐의 털 색깔을 결정하는 화학물질이 발견되었다. 이 화학물질에 튜링의 반응-확산 방정식을 적용해 털 색깔을 설명하는 데 성공했다.

생명현상에 대한 수학적인 통찰과 접근이 확대된 오늘날, 수리생물학은 이제 현대수학의 한 분야로 여겨지게 되었다. 현대수학의 주요 분야인 대수기하학이 계통발생학의 문제에 사용되기도 하고, 통계학적 개념은 보편적 연구 도구로 간주된다.

컴퓨터의 선구자였던 비운의 천재 수학자 튜링은 아쉽게도 42세의 젊은 나이에 세상을 떠났다. 그는 먹다 만 사과와 함께 발견됐는데, 아마도 동성애자였던 그가 혼돈과 세상의 핍박을 감당하지 못해 자살했다는 추측이 일반적이다.

그가 더 오래 살아 그의 대담한 꿈을 펼쳤더라면, 인공 지능의 문제에 큰 진전을 이루었을 거라는 추측도 있다. 아마 그랬더라면 20세기 문명의 모습이 달라졌을지도 모르겠다.

만약 컴퓨터가 인간을 속여 자신을 마치 인간인 것처럼 믿게 할 수 있다면, 컴퓨터를 ‘인텔리전트하다’고 부를 만한 가치가 충분히 있다.