d라이브러리

 늦게 꽃 피운 천재성

스메일을 특별한 수학자로 꼽는 데에는 두 가지 이유가 있다. 먼저 그는 어린 시절부터 영특함을 드러내는 통상적인 천재가 아니었다. 공부는 잘하는 편에 속해 미시간대에 입학했지만, 대학성적은 신통치 않아서 주위에 걱정을 끼쳤다고 한다.

미국의 주요 대학원에서는 성적만을 보지 않고 미래의 가능성에 대한 투자의 의미로 소수의 대학원생을 뽑아 기회를 주는 경우가 있다. 스메일은 운이 좋게도 여기에 뽑혀 대학원에 입학할 수 있었다.

하지만 역시나일까. 그는 대학원 입학 후에도 낙제점을 받으며 퇴학 직전까지 몰렸다. 수학과 학과장에게 불려가서 퇴학 경고까지 받고서야 비로소 마음을 가다듬고 심각하게 공부를 하기 시작했다고 한다.

하지만 세상일엔 늘 반전이 있다. 스메일은 우여곡절 끝에 27세의 나이에 겨우 박사학위를 받았다. 하지만 이후 31세에 대학 강사를 하면서, 당시 괴물과도 같이 수학자들을 괴롭히던 문제인 ‘푸앵카레 추측’ 문제를 5차원 이상에서 완벽히 해결하는 기념비적인 논문을 내 수학계를 충격에 빠뜨렸다.

푸앵카레 추측은 ‘위상공간의 국지적 성질로부터 대역적 성질을 유추할 수 있는가?’라는 질문을 다룬다. 쉽게 말하자면 ‘큰 풍선 위를 기어가는 개미가 자기 주변에서 폐곡선을 그린 후에 줄여나가서 점으로 줄일 수 있음을 관찰한다면, 전체 풍선의 모양이 구와 같다’고 말할 수 있는데 이를 일반화할 수 있는지를 묻고 있는 것이다.

만약 이 풍선이 도넛 모양이어서 가운데에 큰 구멍이 있다면, 개미가 구멍을 이용해서 폐곡선을 그렸을 때 절대로 점으로 줄일 수 없는 경우가 생긴다. 이런 경우는 당연히 전체 모양이 구와 다름을 알 수 있지 않은가? 2차원 평면에서는 당연한 이 사실이 고차원에서도 성립하는지를 묻는 것은 참 난해하기 그지없다.

스메일의 업적 이후에 마이클 프리드먼이 4차원의 경우를 해결해 1982년에 필즈상을 받았다. 2006년에 필즈상 수상자로 선정된 그레고리 페렐만까지 포함하면, 하나의 문제에서 3명의 필즈상 수상자가 배출된 것이다. 가히 괴물 같은 문제가 아닐 수 없다.

푸앵카레 문제의 최초 단서를 푼 스메일은 이 업적으로 버클리대 교수가 되었으며, 1966년 필즈상을 수상했다.


수학의 여러 분야를 주유한 자유로움

스메일을 특별한 수학자로 꼽는 두 번째 요소는 그의 연구 분야가 자유로웠다는 것이다. 위상수학 분야의 대업적으로 필즈상까지 받았지만, 그는 곧 관심을 동역학계로 돌렸다. 그 결과 동역학계 분야에서도 괄목할 만한 업적을 이뤘고, 이는 많은 연구자들의 후속연구로 이어졌다. 이 분야에서 그가 키운 제자들 중에는 지금도 동역학계를 주도하는 이들도 있고, 그의 학문적 손자뻘인 어떤 젊은 수학자는 필즈상 후보로 거론되고 있기도 하다.

한 수학자의 일생에서 두 가지 이상 서로 다른 분야의 최고봉으로 꼽히는 것도 드문 일인데, 그는 50대 후반의 나이에 또 다시 연구 분야를 바꾼다. 이번에는 응용의 속성이 강한 계산이론 및 복잡도 이론이었다.

1980년대 후반에 이미 그의 관심은 계산 이론으로 옮겨가 있었다. 그리고 당시 버클리 대학원에 ‘복잡도 이론’이라는 강좌를 개설해 새로운 영역을 개척하고 있었다. 당시 필자는 이 강좌를 수강한 인연이 있다. 항상 수줍은 얼굴로 칠판 앞에서 생각을 많이 하던 그의 강의는 명강의라고 할 수는 없었지만, 깊이 있는 사고의 중요성을 일깨워 주기에는 부족함이 없었다.

현대수학의 여러 분야를 섭렵했고 순수 수학과 응용수학에 대한 구분도 괘념치 않았던 그는, 1998년에 버클리대에서 ‘21세기에 풀어야 할 수학난제’를 정리해 발표한다. 여러 해 전에 이미 은퇴했지만, 30년 이상을 연구했던 학문적 고향에 돌아가서 후대의 젊은 수학자들에게 영감을 주고 싶었던 이유일 것이다.

당시 그의 강연을 듣기 위해 청중이 운집하는 바람에 강연 장소 밖으로 사람들이 늘어서 있는 진풍경이 일어났다. 근처의 700명을 수용할 수 있는 강당으로 장소를 바꾸는 등의 혼란이 일어났는데, 우연히 버클리대를 방문 중이었던 필자도 어렵게 자리를 얻어 이 강연을 들을 수 있었다. 이날 그가 발표한 문제 중 여러 개는 2000년에 클레이 재단이 선정한 밀레니엄 문제로 다시 선정되기도 했다.


세상의 문제에 대한 열린 관심

스메일이 필즈상을 받은 것은 1966년 모스크바 세계수학자대회의 개막식에서였다. 36세의 나이에 수학자 최고의 영예를 안은 그에게서 번뜩이는 수학적 영감을 듣고자 모인 수천 명의 수학자들 앞에서, 그는 수학 강의 대신에 당시 소련의 인권문제를 규탄하는 연설을 했다. 수학계뿐 아니라 소련이 발칵 뒤집힌 건 물론이다. 그는 강연 직후에 소련 정부에 체포되어 연행되었는데, 미국 정부가 적극적으로 나선 후에야 추방의 형태로 풀려날 수 있었다.

미국 내에서도 그는 표현의 자유를 옹호하는 운동에 적극적이었고, 당시 미국을 휩쓸던 반전운동의 성지였던 버클리에서 이런 입장을 거침없이 밝히곤 했다. 이런 이유로 한때 곤란한 처지가 되기도 했던 그는 브라질 리오데자네이로에 있는 수학연구소인 IMPA에 피신해 여러 해를 보내게 된다.

스메일은 브라질 체류 기간 동안 유망한 젊은 수학자 발굴과 교육을 위해 헌신적인 노력을 했다. 그의 지원과 영향력으로 수학 낙후지역인 남미에서 IMPA★는 드물게 세계적인 명성을 가진 수학연구소로 자리잡게 되었다. 이 당시 스메일은 동역학계 연구에 몰두하고 있었는데, 그 인연으로 키운 제자인 브라질의 수학자 제이콥 팰리스는 동역학계의 뛰어난 학자가 되었다.

이뿐만이 아니라, 스메일은 국제수학연맹의 최장기 임원으로 사무총장을 두 번이나 역임하고 회장이 되어 2002년 베이징 세계수학자대회를 주관하기도 했다.

브라질의 전체적인 수학연구 수준은 한국에 비해 떨어지는 것으로 평가된다. 하지만 이미 강력한 필즈상 후보자를 배출하는 등 국제적인 네트워크나 최상위 수학연구자를 배출한 부분에 있어서는 오히려 우리를 앞서는 면도 있다.

이런 이유로 스메일은 자신의 최고 수학 업적은 브라질 리오의 해변에서 이뤄졌다고 농담하기도 했다. 실험실 안에서보다는 사람들을 만나고 문제를 토론하면서 발전하는 수학의 속성을 강조한 것으로 해석된다.

36세의 나이에 수학계의 최고의 상인 필즈상을 받고서도 안주하지 않고 전혀 다른 분야에서 최고의 업적을 이뤘으며, 수학뿐 아니라 세상의 여러 문제에도 관심을 가졌던 스메일. 그는 진정 편견을 뛰어넘은 위대한 수학자가 아닐까.

IMPA★ 브라질 리오데자네이루에 있는 세계적인 수학 연구소.


"스메일은 통상 해오던 방식에 구속되지 않은 담대함으로 새로운 방식과 틀을 만들어 수학문제에 접근한다." _미국수학회 소식지 중