“이번 수상이 새로운 세대의 여성들이 수학의 길로 가는데 용기를 북돋우길 바랍니다.” 거침없고 당당한 모습은 필자가 기억하는 수십 년 전 카렌 울렌백 교수의 모습 그대로였다. 변한 게 있다면 오랫동안 연구에 공헌한 세월로 더 강인해진 눈빛과 여성 수학자로 대면해야 했던 상황에서 단단해진 심지와 기세다.
그런 울렌백 교수의 모습을 보니 약 30년 전 필자가 미국 시카고대학교에서 울렌백 교수의 제자로 있던 시절이 새록새록 떠올랐다. 1984년 필자는 미국 시카고대학교 수학과에서 박사 과정을 시작했다. 그곳에 필자의 전공인 게이지 이론의 대가 울렌백 교수가 있었다. 그렇게 필자와 울렌백 교수와의 인연이 시작됐다.
무한 차원의 특징 찾는 게이지 이론
울렌백 교수는 1966년 필즈상 수상자인 영국 수학자 마이클 아티야 교수에게 영향을 받아 게이지 이론에 매료됐다. 게이지 이론은 고차원을 저차원으로 자르는 칼과 같아서 고차원 문제를 이해하기 쉽게 만드는 재주가 있다. 울렌백 교수는 무한 차원에서 변분법을 이용한 비누거품 연구에 게이지 이론을 도입해 에너지를 최소로 하는 방정식의 해를 구했다.
먼저 고차원의 문제가 왜 어려운지 살펴보자. 2차원 평면에서 두 점을 잇는 길을 찾는다고 하자. 위로 볼록한 곡선부터 구불구불한 길, 두 점과 멀리 떨어진 곳까지 갔다가 돌아오는 길까지 다양한 길이 있다. 그러나 우리는 가장 짧은 길은 두 점을 잇는 선분이라는 것을 쉽게 알 수 있다.
그럼 2차원 구면에서는 어떨까? 지구본 위에서 우리나라의 서울과 유럽의 스페인을 잇는 최단거리를 찾는 건 조금 더 어려운 문제다. 왜냐하면 지구는 거의 구에 가까운 형태로, 표면이 휘어져 있어 두 점을 잇는 최단거리 중에는 직선은 존재하지 않기 때문이다. 하지만 수학자들은 이 문제를 해결하고자 했고, 그 결과 구의 중심을 지나는 ‘대원’이 최단거리라는 사실을 밝혔다. 3차원까지는 우리가 사는 세상이기 때문에 어느 정도 이해하기 쉽다. 문제는 그다음 차원이다. 그 이상은 추상적인 차원이기 때문에 해석하기 쉽지 않다.
한편 수학자는 에너지 최소화에도 관심이 많다. 강물은 높은 곳에서 낮은 곳으로 흐르고, 벌들은 가장 효율적으로 집을 짓기 위해 육각형 모양으로 벌집을 만든다. 이처럼 자연은 모두 에너지, 혹은 물질을 적게 쓰는 방향으로 움직인다. 이런 현상을 보고 수학자나 과학자는 모든 공간에서 에너지를 최소화하는 방법을 찾는다. 그중에서도 울렌백 교수는 비눗방울의 최소화를 연구했다.
철사로 틀을 만든 뒤 비눗물에 틀을 담갔다가 빼보면 모서리를 경계로 얇은 비누막이 생긴다. 비누막은 표면적을 최소화하는 형태로 만들어진다. 틀의 모양이 달라져도 상관없다. 비누막과 비눗방울은 언제나 에너지를 최소화한다.
그런데 문제는 여러 비눗방울이 접촉해 있는 부분에서 발생한다. 얼핏 보기에 이 부분은 표면적을 최소화한 형태가 아니다. 울렌백 교수는 비눗방울이 여러 개 합쳐진 비누거품 연구를 게이지 이론에 적용해 에너지를 최소로 하는 편미분방정식의 해의 존재성을 밝혀 비누거품의 형성 원리를 규명했다. 이 연구는 이후 영국 수학자 사이먼 도널드슨이 필즈상을 받게 한 연구의 기초가 됐다.
당차고 강단 있는 수학자
울렌백 교수가 어떤 사람이냐고 물으면 강인하지만 세심한 사람이라 답할 수 있다. 필자가 박사 과정을 밟을 당시 울렌백 교수는 이미 뛰어난 교수였기에 대중 앞에서 자주 강의했다. 언제나 강의할 때는 청중을 휘어잡을 정도로 당당하고 자신만만했다. 본인 연구에 대한 자신감에서 나온 에너지였을 것이다. 학생 입장에서 스승의 이런 모습은 종종 감동으로 다가왔다.
그러나 막상 청중 앞에 나서기 직전까지 울렌백 교수는 긴장한 모습을 숨기지 못하고 커피를 연신 마시는 인간적인 모습을 보였다. 아마 본인의 연구와 생각을 완벽하게 전달하고 싶은 마음이었을 거라 짐작된다.
울렌백 교수의 세심하고 다정한 면모를 엿볼 수 있는 필자와의 일화도 있다. 필자가 시카고대학교에서 박사학위를 받으며 성공적으로 공부를 마치게 됐을 때였다. 울렌백 교수는 직접 제자인 필자의 축하 파티를 열겠다며, 시카고 북쪽 에번스턴에 있는 본인의 자택으로 필자와 아내를 초대했다. 그날 시카고대 수학과 교수들과 다른 대학원생들도 축하 파티에 불러 모은 덕분에 필자는 보다 많은 사람의 축하를 받을 수 있었다. 수십 년이 지난 지금까지 울렌백 교수의 호의에 감사하며 그 고마움을 여전히 마음속에 간직하고 있다.
운이 좋게 필자는 이런 교수를 만난 덕분에 게이지 이론에 관한 논문을 완성하는데 큰 도움을 받았다. 학생들이 연구에 어려움을 겪을 때마다 기꺼이 도움을 줬던 울렌백 교수의 모습을 생각하면 아벨상 위원회가 울렌백 교수를 과학계와 수학계의 성평등 롤모델이자 강력한 지지자로 평가한 건 당연한 일이다.
수학계 여성 인재 양성에 앞장서다
울렌백 교수는 현재 미국 프린스턴대학교 고등연구소 방문 교수로 있으면서 그 안에서 ‘여성과 수학’ 멘토링프로그램(WAM)을 만들어 여성이 수학 연구 경력을 쌓고 분야를 이끌어 나갈 수 있도록 돕고 있다.
본인 같은 여성 수학자 양성에 힘쓰는 이유는 울렌백 교수의 경험과 무관하지 않다. 미국 브랜다이스대학교에서 박사학위를 받은 이후 첫 직장을 구하는 시기에 울렌백 교수는 여자라는 이유로 원하는 대학에서 직장 잡기가 쉽지 않았기 때문이다. 여성이라는 이유로 비주류 기관에서만 연구를 이어갔다.
그러나 1980년대 초 비누막 문제를 해결하고 주목을 받으며, 마침내 1983년 시카고대학교 교수로 자리를 잡게 된다. 이후 1988년에는 정년을 보장받는 조건으로 텍사스대 오스틴캠퍼스 수학과 석좌교수가 된다. 1990년에는 일본 도쿄에서 열린 세계수학자대회에서 여성으로는 두 번째로 기조 강연을 했다. 58년 만의 일이었다. 첫 번째는 1932년에 기조강연을 했던 독일 수학자 에미 뇌터다.
울렌백 교수는 어려서부터 취미가 과학책 읽기였다고 한다. 12세 때는 책을 읽다 혼자 무한대가 공간과 수 두 종류로 나뉜다는 사실을 깨닫고 흥분을 감출 수 없었다 하니, 연구만 하는 천상 수학자라 생각할 수 있다. 그런데 또 울렌백 교수의 평생 취미는 하이킹과 트랙킹, 사이클링이다. 타고난 수학자가 활동적인 성향까지 갖추니, 수학계에서 다양한 활동을 하며 그 능력을 떨치고 결과적으로 수학 발전까지 이끌 수 있었다고 생각한다.
‘나는 수학자다’라고 말하는 울렌백 교수는 당당하게 여성 수학자로서의 길을 개척했고, 그 길에 학술적 업적으로 커다란 영광을 줬다. 또한 많은 동료 수학자들과 후학들에게 영감과 위로를 주는 천재적 재능의 수학자다. 아벨상 수상에 울렌백 교수만큼 잘 어울리는 사람도 흔치 않으리라 생각한다.