한국에서도 개봉됐던 영화 ‘뷰티풀 마인드’는 이젠 꽤 알려진 영화다. 영화 속에서 정신분열증에 걸려 평생을 괴로워한 한 천재는 노인이 돼서야 평화를 얻게 된다. 그의 수학적 업적이 경제학에 미친 영향력을 인정받아 66세가 되던 1994년 노벨경제학상을 수상하는 대목은 눈시울을 적신다.
이 영화의 주인공은 실존 인물인 존 내쉬 박사다. 이 영화에서 내쉬의 역할을 맡아 연기했던 배우 러셀 크로우는 내쉬의 사망 소식을 접하고 “아름다운 정신, 아름다운 마음”이라고 그를 애도했다.
사실과 허구가 섞여 있긴 하지만, 이 영화의 큰 틀은 실제와 가깝다. 그의 아들인 존 찰스 내쉬도 아버지의 재능을 물려받아 수학 박사학위를 받았으나, 안타깝게도 아버지의 정신분열증까지 물려받았다. 내쉬의 아내 앨리샤의 삶도 정말 고달팠다. 미국 매사추세츠공대(MIT)에서 물리학을 전공하던 앨리샤는, 결혼하고 2년도 되기 전에 만삭의 몸으로 남편인 존 내쉬를 정신병원에 입원시켜야 했다. 법적으로는 중간에 이혼한 뒤 재결합했지만, 평생을 남편과 아들을 돌봤다. 남편의 아벨상 수상을 보기 위해 노르웨이에 동행했다가 비운의 교통사고로 한날한시에 운명했다.
노벨경제학상을 안겨 준 게임이론
내쉬는 대학을 졸업하고 미국 해군 연구 프로젝트에 여름방학 인턴으로 참여했다. 이 과정에서 암호해독 능력을 인정받아서 그 뒤에도 틈틈이 참여하며 중요한 역할을 수행했다. 2011년 미국 국가보안국(NSA)이 공개한 자료에는 내쉬가 1950년대에 NSA에 보낸 서신이 들어 있다. 이 서신에서 내쉬는 새로운 암호해독 기계를 제안했을 뿐 아니라, 계산난해성에 기초한 현대 암호론의 여러 개념을 이미 예상하고 있었다. 그러고 보면 암호해독이나 새로운 암호설계, 인터넷 시대의 정보보안 등에 수학자가 기여한 사례는 역사가 길다.
내쉬에게 노벨경제학상의 영예를 안겨준 업적은 22살 때 프린스턴대에서 박사학위를 받기 위해 쓴 28쪽짜리 학위논문에 바탕을 두고 있다. 이 논문에서 그는 ‘내쉬 평형’이라는 개념을 제안했다. ‘게임이론’이 20세기에 미친 영향력은 심대하다. 게임이론 연구자가 받은 노벨경제학상이 모두 10개나 되니, 우리가 체감하는 것보다 그 영향력이 더 큰 셈이다.
현대 게임이론은 존 폰 노이만의 연구에서 시작된 것으로 보는 게 일반적이다. 폰 노이만만큼 많은 분야에 최고 수준의 업적을 남긴 사람은 정말 흔치 않다. 순수수학에서부터 수치해석, 양자역학 등에 방대한 영향을 끼친 이 사람은, 최초의 원자폭탄을 만들어낸 맨하탄 프로젝트의 주요멤버이기도 했다.
폰 노이만의 게임이론은 협력관계에 있는 개인 사이의 게임을 다룬다. 상호 의견교환이 가능하거나 공통의 규범을 지킬 뜻이 있는 경우다. 이들 사이의 게임에서 승리 전략을 수학적으로 다룬다. 많은 사회 현상이나 경제 현상을 이런 게임으로 볼 수 있으므로 응용가능성이 크다.
사회 현상에서 흔히 볼 수 있는 내쉬 평형
비협력관계에 있는 개인 사이의 게임은 더 복잡하다. 예를 들어 한 여자를 사이에 두고 경쟁하는 두 남자가 있다면, 이들 사이에서 게임의 규칙을 기대하기는 힘들다. 존 내쉬는 이 비협력관계 게임이론에서 중요한 업적을 남겼다. 영화에도 이와 관련된 장면이 등장한다.
한 명의 여자를 두고 경쟁하는 두 남자의 경우를 생각해 보자. 재력이나 외모 등의 장단점 때문에 여자가 선택을 망설이는 일종의 균형이 성립되어 있는 셈이다. 한 남자는 아무 변화도 시도하지 않는데 다른 남자가 어떤 변화를 시도하면, 균형이 무너지고 여자의 마음이 반대쪽 사람에게 가게 돼서 게임에서 질 수 있다. 선물을 많이 주면 천박해 보일 수 있고, 너무 싸늘하게 대하면 어려운 사람으로 비칠 테니까.
이렇게 꼼짝달싹 못하는 상황은 반대편 남자도 마찬가지다. 이런 상황을 내쉬 평형이라고 한다. 설탕 회사가 가격을 정할 때도, 내쉬 평형 상태가 될 수 있다. 이 경우 공동의 이익을 위해 가격을 담합하곤 한다. 내쉬 평형 개념은 이에 대한 수학적 설명을 제공한다.
해석학 분야에 마지막 업적을 남기다
내쉬가 1950년의 박사학위 논문에서 게임이론을 다룬 뒤에 집중한 문제는 대수기하학 문제였다. 이 결과는 ‘내쉬 임베딩 정리’로 불리는데, 리만다양체는 모두 유클리드 공간의 부분 다양체로 볼 수 있다는 획기적인 결과였다. 내쉬 본인은 이 결과에 가장 자부심이 컸다고 한다.
그 뒤 내쉬는 해석학의 편미분방정식 문제에도 관심을 가져 1956년에는 당시 유명한 미해결 문제이던 힐버트의 19번째 문제를 해결해냈다. 안타깝게도 그 몇 달 전에 이탈리아 수학자 엔니오 드 기오르기도 같은 문제를 해결하는 바람에 내쉬의 최대 수학적 업적일 수도 있었던 이 결과는 크게 주목 받지 못했다.
영화 ‘뷰티풀 마인드’의 극본을 쓴 실비아 나사르는 내쉬가 자신의 최고 업적이 묻히면서 큰 정신적 충격을 받았다고 추측한다. 당시 내쉬가 이 업적을 인정받았다면 수학 분야의 최고상인 필즈상을 받았을 것이라고 아쉬워하는 이들도 많았다. 그가 정신분열증과 벌인 긴 사투는 이런 좌절감 속에서 출발했던 것 같다.
긴 시간이 지나서 2015년이 되었고, 노르웨이 아벨위원회는 내쉬와 미국 수학자 루이스 니렌버그의 아벨상 공동 수상을 발표했다. 노르웨이 왕가가 2003년부터 시상해 온 아벨상은 상금이 노벨상과 비슷한 수학 분야의 상으로, 최고의 수학자들이 받아왔다. 필즈상과 달리 나이 제한도 없다. 필즈상과 아벨상을 모두 받은 학자는 세 명이지만, 노벨상과 아벨상을 모두 받은 사람은 내쉬가 유일하다. 아마 앞으로도 이 기록은 쉽게 깨질 것 같지 않다.
그에게 아벨상의 영예를 안겨준 건 해석학 분야에서 이룩한 초기 업적이었다. 1994년 노벨경제학상은 그에게 학문의 세계로 복귀하는 의미였고 경제적 어려움을 탈출하는 계기가 되었다. 2015년 아벨상은 정말로 본인이 애착을 갖는 수학적 업적으로 받았기에 더욱 큰 기쁨이지 않았을까? 위대한 수학자의 마지막을 애도한다.
