수학 괴담 소수와 관련 있다?
악마의 문제
수학계에 소문난 무서운 이야기가 있다. 천재 수학자의 정신을 앗아갔다고 알려진 문제에 관한 것으로, 문제의 별칭도 ‘악마의 문제’다.
이 이야기의 주인공은 미국 수학자 존 내시다. 그는 수학적 업적이 경제학에 미친 영향력을 인정받아 66세가 되던 1994년 노벨 경제학상을 받은 위대한 수학자다. 하지만 평생을 조현병으로 고생했다. 그의 삶은 영화 ‘뷰티풀 마인드’로 만들어지기도 했다.
내시에게 노벨 경제학상의 영예를 안겨준 대표 업적은 그가 22세 때 미국 프린스턴대학교에서 박사학위 논문으로 쓴 연구다. 다른 사람과의 경쟁에서 자신의 이익을 최대화하기 위해 가장 좋은 선택을 하는 방법을 수학적으로 분석한 ‘게임 이론’을 다뤘다. 이 밖에 내시는 미분기하학, 편미분방정식 등에서 많은 업적을 남겼다.
그런 내시가 1950년대에 관심을 둔 문제는 수학계 최대 난제 ‘리만 가설’이다. 1959년 미국수학회가 리만 가설 발표 100주년을 기념해 연 강연에서 그는 연구 중인 리만 가설 관련 내용을 발표했다.
그런데 발표 도중 말을 더듬거리더니, 결국 논리에 맞지 않은 말을 하기 시작했다. 그는 자신이 무슨 말을 하고 있는지도 모른 채 이상한 말을 내뱉었다. 강연 직후 내시가 리만 가설을 풀다 조현병을 앓게 됐다는 소문이 퍼졌다. 이후 30년 동안 그를 괴롭힌 조현병이 발병한 것이다.
이 리만 가설이 바로 160여 년 동안 풀리지 않은 소수 관련 난제다. 리만 가설이 내시가 앓은 병의 직접적인 원인이었는지는 정확히 알 수 없지만, 당시 내시가 소수 연구에 몰입했던 건 사실이다.
물론 리만 가설을 비롯한 소수 연구를 내시만 한 건 아니다. 수많은 수학자가 소수의 비밀을 풀기 위해 도전해왔다. 그중에서도 소수의 규칙을 밝히기 위해 구슬 땀을 흘렸다. 그리고 그 도전은 현재 진행 중이다.
소수의 비밀에 한 걸음 다가가려던 천재 수학자들의 이야기를 지금 시작한다.
