d라이브러리

영화나 드라마에 나오는 수학 천재들은 이해하기조차 어려운 문제를 알 수 없는 수식을 써가며 쉽게풀어 주위 사람들을 놀라게 한다. 존 밀너 역시 그런 천재다.

대학교 1학년 2학기 밀너는 내쉬의 지도교수로 유명한 앨버트 터커의 미분기하학 강의를 들었다. 하루는 강의에 늦은 밀너가 칠판에 적힌 문제가 숙제인 줄 알고 받아 적었다. 그리고 며칠 뒤 밀너는 터커의 사무실로 찾아가 이렇게 말했다.“지난 시간에 내주신 숙제를 했습니다. 증명에서 오류를 찾아주세요. 저는 찾을 수가 없네요.”터커는 밀너가 푼 증명을 검토한 뒤 경악을 금치 못했다. 대학교 1학년생이 미해결 난제를 해결한 것이다.

터커는 나중에 박사과정에서 밀너를 지도하는 랠프 폭스와 미분기하학의 대부로 불리는 천성선에게도 밀너의 증명을 보여주며 오류가 없는지 검토해 달라고 요청했다. 그 결과 터커를 비롯한 3명의 수학자는 아무런 오류를 찾지 못했고 터커는 밀너에게 프린스턴대 수학과에서 발행하는, 세계에서 가장인정받는 저널인 ‘수학연보’에 이 증명을 내보라고 권했다. 1950년, 밀너는 미해결 문제의 증명을 바탕으로 매듭곡선의 곡률에 관한 논문을 써서 수학연보에 발표했다.

존 밀너가 대학교 1학년 때 증명한 페어리-밀너 정리.
 

밀너가 해결한 문제는 폴란드의 위상수학자 카롤 보숙이 제시한 증명되지 않은 추측으로 매듭이론 분야의 대표적인 미해결 난제였다. 실뜨기 놀이를 할 때 아무리 복잡한 모양을 만들어도 결국엔 하나의 고리로 풀어져 버리는데, 이런 성질을 수학적으로 연구하는 것이 매듭이론이다. 밀너가 해결한 문제는 ‘페어리-밀너 정리’라고 불린다.

영화에서나 나올 법한 이 사건으로 인해 밀너는 프린스턴이 낳은 최고의 천재로 불렸다.



“저 사람은 푸트남상 받았냐?”

천재는 천재를 알아보는 법. 프린스턴대의 또 한 명의 천재, 존 내쉬는 수학 이야기를 할 상대를 까다롭게 고르기로 유명했다. 내쉬와 함께 미국의 지식집단인 랜드 코퍼레이션에서 일했던 멜빈 페이사코프는 내쉬에 대해 이렇게 말했다.“내쉬와는 긴 이야기를 할 수 없어요. 이야기 도중에 나가버리니까요. 수학에 대한 이야기를 나누는 것조차 본 적이 없어요. 교수들이 자신이 연구한 것에 대해 의논해도 이야기에 참여하지 않았죠.”

이런 존 내쉬의 마음을 프린스턴대에서 가장 먼저 사로잡은 건 밀너였다. 밀너가 대학생으로 입학하던 1948년, 내쉬는 대학원에 박사과정생으로 입학했다.

프린스턴대 수학과는 매일 오후 3시부터 4시 사이에 다과회를 열었는데, 이 모임은 단순히 차와 쿠키를 먹는 자리가 아니라 대학생과 대학원생, 교수가 모여 수학문제를 토론하고 최근의 수학논문을 읽고 소감을 주고받는 자리였다. 내쉬와 밀너도 이 다과회를 통해 알게 됐다.

운동선수를 연상케 하는 큰 키와 몸집을 가지고 있었지만 수줍음 많고 붙임성 없는 밀너와 무엇이든 자신감에 차 있지만 사람들과 어울리기에는 상당히 까칠한 내쉬. 어울리지 않는 두 사람은 수학계의 미해결 난제를 이야기하며 가까워졌다. 둘은 내기 바둑을 두며, 경쟁심을 불태우기도 했는데, 밀너가푸트남 수학경시대회에서 상을 타자 내쉬는 밀너를 라이벌로 여기기 시작했다.

매년 12월 첫째 주 토요일에는 미국의 변호사 윌리엄 로웰 푸트남이 만든 푸트남 수학경시대회가 열린다. 미국 대학생을 대상으로 한 이 수학경시대회는 문제가 어렵기로 유명하다. 5등 안에 들면 상과함께 하버드 장학금이 주어지고 수학계에서 인정받는 것은 물론 명문대학원 입학이 보장된다.

밀너는 1949년과 1950년 2년 연속으로 이 대회에서 5등 안에 들었는데, 이 소식은 프린스턴대 수학과로서도 자랑거리였고 존 내쉬를 자극했다. 사실 내쉬는 대학생 때 이 대회에 2번 응시했지만 모두 5등 안에 들지 못했다. 첫 번째 응시 때는 10등 안에도 못 들었고, 두 번째 때야 겨우 10등 안에 들었다. 당연히 상을 탈 줄 알았던 내쉬에게 이 일은 큰 충격이었다.

내쉬는 다른 수학자가 자신 앞에서 아는 체하면 저 수학자가 푸트남상을 받았냐고 묻고는 받았다고 하면 푸트남상을 받아서 잘하는 거구나라고 비꼴 정도로 자신이 푸트남상을 받지 못한 것을 마음에 걸려 했다. 그런데 밀너가 2년 연속으로 상을 타자 내쉬는 내심 부러우면서도 이때부터 밀너를 이기고 싶다고 생각했다.

밀너는 프린스턴대에서 박사학위까지 받았다. 당시로서는 이례적인 일이었다. 1950년대 미국대학에선 모교의 학사졸업생을 대학원생으로 받아주지 않았다. 그래서 대학교와 대학원을 서로 다르게 가는것이 일반적이었다. 하지만 밀너는 예외였다. 프린스턴대는 뛰어난 수학적 재능을 가진 밀너를 다른학교에 뺏기고 싶지 않았던 것이다. 결국 밀너는 프린스턴대 대학원에 입학한 지 4년 만인 1954년에 석사학위를 건너뛰고 박사학위를 받았다. 석사학위를 받지 않고 박사학위를 받는 바람에 밀너의 학력을 석사라고 잘못 표기한 사례가 더러 있다. 밀너는 박사학위를 받은 뒤에도 계속해서 프린스턴대에서 일했으며 1960년 30세가 되던 해 이 대학 교수가 됐다.
 

내쉬를 제치고 필즈상 수상

1962년, 밀너와 내쉬는 함께 필즈상 후보로 거론됐다. 내쉬는 1958년에도 후보에 올랐지만 젊다는 이유로 받지 못했기 때문에 이번에야말로 자신이 필즈상을 받을 것이라고 굳게 믿었다. 하지만 5월, 국제수학자대회를 3개월 앞두고 밀너에게만 필즈상 수상 통보가 갔다. 수상자가 대회에 꼭 참석해야 하기 때문에 수상자에게 미리 수상소식을 알려주지만 국제수학자대회 원칙상 시상식이 있는 그날까지아무에게도 이 사실을 알려선 안 된다. 그래서인지 내쉬는 1962년 8월 셋째 주, 스웨덴의 수도 스톡홀름에서 국제수학자대회가 열리는 그날까지 자신이 수상자가 아님을 몰랐다.

내쉬는 자신이 수상할 것을 확신했지만 스톡홀름에 가지는 않았다. 1959년 매사추세츠공대(MIT) 정교수로 임명되기 직전 정신분열증 판정을 받고 정신병원에서 치료를 받아야 했기 때문이다. 아마도 이런 이유로 내쉬가 상을 받지 못한 것 같다.

떠도는 소문에 의하면 내쉬는 푸트남상에 이어 필즈상까지 밀너가 받자, 밀너를 이겨야 한다는 초조함 때문에 병이 악화됐다고 한다. 진실은 내쉬만 알겠지만 확실한 건 내쉬가 밀너에게 열등감을 가진것 같다. 30년 동안 앓았던 병에서 회복하고 난 존 내쉬는 학창시절 밀너의 수학적 재능이 부러웠던 적이 있었다고 인터뷰하기도 했다.

밀너는 7차원 공간에 대한 연구로 미분 위상수학이라는 새로운 분야를 만든 업적을 인정받아 필즈상을 수상했다. 그는 7차원 공간에서 다양체의 성질을 연구했는데, 다른 차원과 달리 7차원에선 미분가능한 구조를 가진 다양한 다양체가 존재한다고 밝혀냈다. 어떤 함수를 그래프로 그렸을 때 끊어지는 점이 없이 모두 연결돼 있으며, 그래프를 아주 크게 확대했을 때 모든 부분이 직선으로 보여야 미분가능하다.

다양체란 1960년대 당시 수학자들도 어려워했던 개념인데, 수학자들은 다양체 연구를 통해 세상을 새롭게 바라볼 수 있다고 말했다. 1차원에서는 직선을 다양체라고 말하고, 2차원에서는 평면 또는 도넛의 표면을 다양체라고 말한다. 사람이 하나의 점처럼 보일 만큼 아주 큰 도넛 위에 앉아서 주위를 둘러보면 원판 위에 앉아 있는 것처럼 느낄 것이다. 이번엔 아주 큰 곡선 위에 앉아서 주위를 둘러보면 직선 위에 앉아 있는 것처럼 느낄 것이다. 이처럼 보는 방식에 따라서 달라지는 모든 대상을 연구하는 것이 다양체 연구다.
 

1994년 프린스턴대 박사학위논문으로 노벨경제학상을 받은 존 내쉬(1928~).

수학계 3관왕에 오르다

필즈상 이후 밀너는 여러 단체에서 상을 받았다. 그리고 올해 3월 23일, 밀너는 노르웨이 과학원으로부터 아벨상 수상 소식을 들었다. 아벨상은 노르웨이의 수학자 아벨을 기려 만든 상으로 노벨상처럼, 어떤 한 업적에 대해 상을 주는 것이 아니라 지금까지 이룬 모든 업적에 대한 공로로 주는 상이다. 11억 3000만 원으로 상금의 액수도 비슷해‘수학계의 노벨상’이라도 부른다. 특히 아벨상은 노르웨이 국왕이 직접 시상하는 것으로 유명하다. 올해 시상식은 5월 24일 노르웨이의 수도 오슬로에서열린다.

밀너가 아벨상까지 수상하자 눈에 띄는 점이 있다. 수학계에서 가장 큰 세 상인 필즈상(1962년), 울프상(1989년), 아벨상(2011년)을 모두 받았다는 점이다.이 세 상을 모두 받은 수학자는 밀너를 비롯해 콜라주 드 프랑스의 장 피에르 세르 교수와 미국 플로리다대의 존 톰프슨 교수 단 3명뿐이다. 필즈상은 국제수학연맹에서 40세 이하의 젊은 수학자에게 주는 상이고, 울프상은 이스라엘의 발명가인 리카르도 울프가 설립한 울프 재단에서 주는 상이다. 수학자와 과학자, 예술가에게 매년 시상하는 울프상은 과학계에선 노벨상 다음으로 권위 있는 상으로 평가한다.