d라이브러리

수학을 포함한 거의 모든 분야의 연구는 장님이 코끼리를 만지는 것과 비슷합니다. 연구 방향을 잘못 잡아 허탕을 치기도 하고, 나중에 알고 보면 쉽게 얻을 수 있는 결과를 어렵게 얻어내기도 합니다. 그렇게 노력을 거듭해 얻은 결과도 ‘전체 그림’의 일부분에 지나지 않습니다.

다만 아주 드물게, ‘전체 그림’에 관한 밑그림을 제시하며 연구의 패러다임을 바꾸는 선각자 같은 존재가 나타나기도 합니다. 이번에 2018년 아벨상 수상자로 선정된 랭글랜즈 역시 이런 ‘선각자’라고 할 수 있습니다.

코끼리의 몸통을 찾아

노르웨이 왕립과학문학학회는 “표현론과 정수론을 연결하는 선견적 프로그램”을 제시한 공로로 랭글랜즈를 2018년 아벨상 수상자로 선정했습니다. 이 공로란 랭글랜즈가 1960년대부터 구상한 ‘랭글랜즈 프로그램’입니다. 간단히 설명하자면, 그 이전까지 별개로 생각했던 정수론과 표현론 사이에 상관관계를 만드는 게 목표입니다. 코끼리의 몸통을 보지 못하고 있는 사람에게 다리와 꼬리를 잇는 몸통이 있다고 알려주는 데 비유할 수 있습니다.

랭글랜즈 프로그램은 1801년 가우스가 증명한 이차 상호법칙, 그리고 20세기 초반에 이를 일반화 한 에밀 아르틴의 상호법칙을 더욱 일반화한 ‘상호법칙’을 얻으려는 시도에서 출발했습니다. 이 ‘상호법칙’을 기초적인 수학 언어로 이해하기 위해서 예를 들어 봅시다.

소일거리에서 시작된 랭글랜즈 프로그램

랭글랜즈는 1938년 10월 캐나다의 브리티시컬럼비아주에서 태어나 평범한 유년기와 학창시절을 보내고 브리티시컬럼비아대학교에 진학했습니다. 학부적성검사에서 수학과 물리에 매우 높은 점수를 받았으며, 이후 진로상담에서 수학이나 물리를 전공하기로 했습니다.

원래는 회계 전공을 권유받았지만 흥미가 없었다고 합니다. 그리고 공부를 해나가면서 물리보다 수학에서 재능을 발견했습니다. 이 때 한국 수학의 대부인 이임학 교수에게 배우기도 했습니다.

예일대에 박사과정으로 진학한 뒤 1년 만에 박사학위 논문에 필요한 연구를 모두 완성했고, 2년만에 박사과정을 수료했습니다. 졸업 직후인 1960년부터는 미국 프린스턴대학교에 연구원으로 재직하며, 이후 몇 년 동안 표현론과 조화해석학 연구에서 두각을 나타냈습니다.

1964년부터는 연구에 진척이 조금 느려졌고, 1965년부터는 아르틴의 상호법칙을 일반화하는 문제에 야심차게 도전했지만 크게 진전이 없었습니다. 좌절하며 수학을 그만두는 것도 심각하게 고려했지요. 그런데 1966년 가을, 단순한 소일거리로 시작한 계산에서 아르틴의 상호법칙을 일반화하기 위한 프로젝트의 ‘청사진’을 발견했고, 이것이 랭글랜즈 프로그램의 시초가 됐습니다.

1967년 1월, 랭글랜즈는 우연히 프린스턴대에서 정수론의 대가였던 앙드레 베유에게 아르틴의 상호법칙을 일반화하는 프로그램을 설명했습니다. 베유는 랭글랜즈에게 생각을 정리해서 편지로 보내달라고 부탁했고, 랭글랜즈는 17쪽짜리 손글씨 편지에 자신의 아이디어를 정리해서 보냈습니다. 이것이 랭글란즈 프로그램에 관한 최초의 문헌입니다.

사실 베유가 랭글랜즈 프로그램의 중요성을 깊이 이해했던 것 같지는 않습니다. 1960~1970년대만 하더라도 정수론을 연구하는 수학자는 랭글랜즈 프로그램을 이해하는 데 필요한 표현론과 조화 해석학을 접하지 못한 경우가 대부분이었습니다. 그렇지만 베유는 랭글랜즈의 편지를 배포하기 쉽도록 타자기로 타이핑했고, 덕분에 랭글랜즈 프로그램이 세상에 알려지게 됩니다.

랭글랜즈 프로그램이 처음 등장했을 때 반응은 다양했습니다. 중요성을 단번에 알아본 대가도 있었던 반면에, 시큰둥한 반응을 보이거나 관망하는 자세를 보였던 대가도 있었습니다. 하지만 와일즈의 ‘페르마의 마지막 정리’ 증명을 계기로 정수론에서 랭글랜즈 프로그램의 위상이 달라지기 시작했으며, 현재는 흔들림 없이 정수론의 주류로 확실히 자리매김했습니다.

랭글랜즈 프로그램이 제시하는 수학의 미래

랭글랜즈 프로그램을 이해하기 위해서는 다양한 분야에 관해 많이 알고 있어야 합니다. 랭글랜즈 프로그램 중 현실화된 것은 아직 일부에 불과하며, 특정한 경우에 부분적인 결과를 증명하는 일도 매우 어렵습니다. 하지만 특수한 경우라도 랭글랜즈 상관관계를 증명하는 순간 난제를 다른 분야에서 접근해 볼 수 있는 문제로 만들 수 있습니다.

랭글랜즈 프로그램이 등장한 뒤 약 50여 년 동안 아직 일부분이기는 하지만 놀라울 정도로 진전이 있었습니다. 그 결과 이전의 방법으로는 불가능 했던 정수론의 여러 난제를 해결하는 데 중요한 도구로 쓰이고 있습니다. 와일즈의 페르마 마지막 정리의 증명, 타원 곡선에 대한 사토-테이트 가설의 증명이 유명한 사례입니다.

또한 표현론, 조화해석학, 군이론, 정수론과 대수기하 같은 여러 분야에서 랭글랜즈 프로그램은 ‘거시적인 관점’을 바탕으로 다양한 연구 방향을 제시했고, 중요한 연구 결과도 나오고 있습니다. 지금까지 랭글랜즈 프로그램과 관련된 업적으로 필즈 메달을 받은 수학자가 세 명이라는 점이 그 영향력을 보여줍니다.

그럼에도 아직 랭글랜즈 프로그램이 예측한 상관관계는 대부분 미지의 영역으로 남아 있습니다. 랭글랜즈 프로그램 자체도 끊임없이 발전하며 영역을 확장하고 있습니다. 약 20여 년 전에는 알렉산드르베일린손과 블라디미르 드린펠트가 원래 랭글랜즈 프로그램와 전혀 다른 ‘기하학적’ 맥락에서 랭글랜즈 상관관계와 비슷한 상관관계를 예측했습니다.

이 ‘기하 랭글랜즈 프로그램’ 역시 지금은 수학의 주류 연구 분야이며, 이론물리학의 끈 이론으로 유명한 에드워드 위튼과 안톤 카푸스틴이 위상 양자장론에 응용하기도 합니다. 기하 랭글란즈 프로그램을 포함하면, 랭글란즈 프로그램은 다양한 순수수학은 물론 수리물리까지 광범위한 분야를 아우릅니다.

랭글랜즈 프로그램은 수학 연구에서 매우 중요한 역할을 하고 있으며, 미래에 연구해야 할 과제를 끊임없이 제시하고 있습니다. 랭글랜즈 프로그램에 관해 더 많은 것을 이해하고 증명할수록 더 많은 수학의 근본적인 난제에 접근할 수 있을 겁니다.

김완수  - 고등과학원 연구원은 서울대학교에서 학부(물리학)를 마치고, 앤아버 소재 미시간 주립대학교에서 브라이언 콘래드 교수의 지도 아래 박사과정을 수료했습니다. 영국의 임페리얼 칼리지 런던, 케임브리지대학, 킹스칼리지 런던에서 연구원으로 재직했으며, 현재는 고등과학원 수학부에서 연구원으로 재직하고 있습니다. 랭글랜즈 프로그램에 응용되는 산술기하 연구를 포함하여, 정수론에 응용되는 다양한 산술기하 분야를 연구하고 있습니다.