지난 3월 25일, 수학계의 노벨상인 ‘2015 아벨상’ 수상자가 발표됐다. 올해의 아벨상은 수학자 존 내시 교수와 루이스 니렌버그 교수에게 돌아갔다. 평생을 수학자로 걸어 온 이들은 세상에 어떤 역사적 업적을 남겼을까.

아벨상은 노르웨이학술원이 노르웨이의 유명 수학자 닐스 헨리크 아벨의 탄생 200주년을 기념해 만든 ‘수학계의 노벨상’이다. 평생의 연구 업적을 인정받은 수학자에게 매년 노르웨이 국왕이 직접 수여한다. 2003년 이래 지난해까지 총 12명의 세계적인 수학자가 이 상을 받았다. 수상자는 여러 국적의 수학자 5명으로 이뤄진 아벨상 위원회의 추천을 바탕으로 선정한다. 올해는 프랑스의 스타 수학자 세드릭 빌라니도 수상자 선정에 참여했다.

이번 ‘2015 아벨상’은 보통 때와 달리 두 수학자가 함께 수상의 기쁨을 안았다. 그 영광의 주인공은 존 내시 미국 프린스턴대 명예교수와 캐나다 출신의 루이스 니렌버그 뉴욕대 석좌교수다. 내시 교수와 니렌버그 교수는 20세기를 빛낸 수학계의 거장이다. 두 사람 모두 지금까지 수학계에서 권위 있는 상을 여러 차례 받았다. 내시 교수는 게임 이론의 표준이 된 ‘내시 균형 이론’으로 1994년 노벨경제학상을 받기도 했다. 정신분열증을 앓는 천재 수학자를 다룬 영화 ‘뷰티풀 마인드’의 실제 주인공으로도 유명하다.

지난해 한국에서 열린 ‘2014 서울세계수학자대회’ 덕분에 필즈상이 널리 알려지긴 했지만, 수학자에게 아벨상은 필즈상보다 더 권위 있는 상으로 통한다. 필즈상은 앞으로의 활약이 기대되는 만 40세 이하의 젊은 수학자를 위한 상이지만, 아벨상은 수학자가 평생 동안 쌓아온 업적을 인정해 주는 상이기 때문이다. 그래서 아벨상 수상자는 대부분 나이가 많다. 내시 교수는 만 86세, 니렌버그 교수는 만 90세다.

정신분열증과 맞서 싸운 천재 수학자, 존 내시

존 내시는 게임 이론과 미분기하학, 편미분방정식을 연구한 미국의 수학자다. 1948년 프린스턴대 수학과 대학원에 역대 최고의 장학금을 받고 입학했다. 지도 교수가 추천서에 “이 사람은 천재다”라는 한 문장만 적은 것으로도 유명하다.

1950년 프린스턴대 박사 학위 논문으로 제출한 게임 이론에 관한 연구 결과로 1994년 노벨 경제학상을 받았다. 논문 발표 후 노벨상을 받기까지 무려 40여 년이나 걸린 건 내시가 그 기간 동안 정신분열증을 앓았기 때문이다. 오랜 투병으로 그가 상보다 상금을 더 반가워했다는 일화도 있다.

30세 때 필즈상 수상 후보에 오르기도 했지만, 나이가 너무 어려 기회가 많다는 이유로 상을 받지는 못했다. 명예욕이 컸던 내시는 당시 크게 좌절했다고 한다. 내시는 미국 프린스턴대와 매사추세츠공대(MIT)에서 연구했고, 지금은 프린스턴대 명예교수로 있다.

공동연구로 새로운 연구 분야를 개척한 루이스 니렌버그

캐나다 출신인 루이스 니렌버그는 평생에 걸쳐 수학을 연구해온 ‘장수 수학자’ 중 한 명이다. 거의 반 세기가 넘는 긴 세월 동안 오로지 편미분방정식에 몰두해 다양한 업적을 남겼다.

니렌버그는 캐나다 몬트리올의 맥길대에서 수학과 물리학을 공부했다. 뉴욕대 쿠란트 수학연구소에서 1949년 교수 직위를 받고 1999년까지 일했다. 그는 이번에 공동으로 상을 받는 존 내시를 ‘천재’라고 표현하며 평소 부러워했다고 한다.

대신에 니렌버그가 가진 탁월함은 바로 융화력이었다. 혼자 연구하고 논문을 쓰는 내시와 달리 니렌버그는 거의 항상 동료 수학자과 함께 연구했다. 논문 중 90%가 협동 연구 결과일 정도다. 그는 편미분방정식을 통해 새로운 연구 분야를 개척한 수학자로 평가 받는다. 니렌버그는 현재 뉴욕대 석좌 교수로 있다.

복잡한 현상이 수학으로 보인다

아벨상 위원회에 따르면, 존 내시 교수와 루이스 니렌버그 교수는 비선형 편미분방정식 분야의 발전에 크게 기여했다. 물리학, 화학, 생물학 같은 자연과학에서는 변수가 여러 개인 변화를 수학적으로 표현할 때 편미분방정식을 사용한다. 최근에 들어서는 경제 현상 같은 사회 현상을 설명하는 데도 쓰인다. 이때 ‘비선형’은 어떤 함수가 $y=x$처럼 단순한 선 모양이 아니라는 뜻이다.

복잡한 자연현상이나 사회현상을 수학으로 설명하는 건 어렵다. 이런 현상이 비선형적이기 때문이다. 내시 교수는 이런 대상을 우리가 눈으로 볼 수 있는 공간으로 가져와 편미분방정식으로 표현할 수 있도록 만들었다. 덕분에 직접 나타낼 수 없는 대상물을 우리가 알고 있는 도형 방정식을 활용해 간접적으로 나타내서 해를 찾을 수 있게 됐다. 별의 이동 방향을 관측해 간접적으로 우주 공간이 어떻게 휘어 있을지 상상해내는 것과 비슷하다. 이때 우주는 추상적인 공간이고, 별은 우리가 눈으로 볼 수 있는 도형이라고 할 수 있다.

니렌버그 교수도 비선형 편미분방정식의 해를 구할 때 중요한 역할을 하는 기하학적 성질을 밝혔다. 바실리스 기다스 미국 브라운대 교수, 웨이 밍 니 미국 미네소타대 교수와 함께 비선형 타원방정식의 해가 대칭의 성질을 갖는다는 것을 증명한 게 대표적이다. 또한 기하학과 같은 수학의 다른 분야로 편미분방정식의 가능성을 넓혔다. 다른 문제의 연구 과정을 편미분방정식으로 해석한 것이다.

섬세한 도구, 편미분방정식

니렌버그 교수의 제자이기도 한 이기암 서울대 수리과학부 교수는 “기하학과 위상기하학의 주요 문제에서 편미분방정식이 중요한 역할을 하고 있는데, 초창기에 가장 크게 기여한 사람들이 바로 내시 교수와 니렌버그 교수”라고 설명했다.

이 교수는 또 “섬세한 이야기를 하려면 섬세한 관계식으로 추적해나가야 하는데, 그게 바로 편미분방정식의 역할”이라며, “수학계 최대 난제 중 하나인 ‘7개의 밀레니엄 문제’ 중에서 유일하게 해결된 푸앵카레 추측도 편미분방정식 덕분에 풀 수 있었다”고 설명했다. 아벨상 위원회는 “이들의 업적은 후대에 이르러 훨씬 다양한 목적에 활용 가능하도록 발전했다”며, “비선형 편미분방정식 분야의 모든 연구에 이들이 영향을 미친 셈”이라고 밝혔다.

2015 아벨상 시상식은 오는 5월 19일 노르웨이의 수도 오슬로에서 열린다. 내시 교수와 니렌버그 교수는 상패와 함께 상금 600만 크로네(약 8억 4000만 원)를 나눠 받게 된다.