d라이브러리

1970년대 미국 UC버클리 캘리포니아대의 한 강의실. 수학밖에 모르던 한 대학원생은 우연히 듣게 된 일반상대성이론 강의에서 깨달음을 얻는다. 수학으로 우주를 설명할 수 있다는 것. 그 경험은 그를 끈 이론의 토대를 세운 수학자, 블랙홀의 존재를 최초로 증명한 이론가, 그리고 필즈상 수상자로 이끌었다. 바로 야우 싱퉁 미국 하버드대 수학과 교수의 이야기다. 수학과 물리학의 경계를 허물며 우주의 구조를 수학으로 밝혀온 야우 교수와 e-메일로 인터뷰를 진행했다. 

1979년, 물리학계를 뒤흔든 한 연구가 발표됐다. 일반 상대성이론 아래에서 블랙홀이 반드시 형성될 수밖에 없다는 수학적 증명이었다. 놀라운 것은 이 논문의 주인공이 물리학자가 아닌, 두 명의 수학자였다는 점이다. 

1965년 ‘중력이 충분히 강한 상황에서 시공간이 무한히 휘어지는 특이점, 블랙홀이 필연적으로 형성된다’는 사실은 영국 수학자 로저 펜로즈에 의해 알려진 사실이었다. 하지만 이 증명은 블랙홀이 실제 우리 우주 속에서 얼마나 일반적으로 성립하는가에 대한 답이 되지는 못했다. 때문에 블랙홀은 이론 속 존재에 가까웠다. 그러던 중 두 수학자의 증명은 실제 우리 우주에서 블랙홀은 어렵지 않게 발생할 수 있는 일이라는 것을 입증했다. 증명은 학계의 큰 주목을 받았지만 블랙홀은 한 번도 관측된 적이 없던 존재였기에, 동시에 많은 의심도 불러일으켰다. 그러나 시간이 흐르며 블랙홀이 실제 우주에서 하나씩 확인됐고, 결국 블랙홀은 실재하는 천체로 받아들여지게 됐다.
이 증명의 중심에는 야우 싱퉁 미국 하버드대 수학과 교수(겸 중국 칭화대 교수)가 있다. 그는 수학과 물리학의 경계를 넘나들며, 물리학이 아직 닿지 못한 세계를 수학으로 먼저 그려낸 인물로 평가받는다. 이 업적을 비롯한 기하학 연구 성과로 그는 1982년, 수학계 최고 권위의 상인 필즈상을 수상했다.

그가 물리학에 관심을 두게 된 건 순전히 우연이었다. 미국 UC버클리 캘리포니아대에서 대학원 과정을 밟던 시절, 그는 가장 추상적인 분야가 가장 도전적이라는 믿음 아래 기하학에 몰두하고 있었다. “그러다 우연히 듣게 된 아인슈타인의 중력 이론 강의에서 큰 충격을 받았습니다. 중력은 힘이 아니라 시공간의 곡률이라는 겁니다. 이 말을 듣는 순간, 수학이 단순한 계산이 아니라 우주의 구조를 설명할 수 있는 도구라는 걸 깨달았습니다.” 그는 수학이 자연의 본질을 해석하는 새로운 언어가 될 수 있음을 실감했다.

“누구나 할 수 있는 일에는 큰 흥미를 느끼지 못했어요. 어린 시절의 패기였는지 모르겠지만, 남들이 불가능하다고 여기는 문제에 도전하는 것이야말로 진정 멋진 일이라 믿었죠.”

과연 수학으로 우주의 구조를 설명할 수 있을까. 많은 사람들이 불가능하다고 생각한 이 질문에 야우 교수는 기꺼이 도전장을 던졌다. 그의 대표적인 연구 성과 중 하나는 1953년 제안된 ‘칼라비 추측’을 23년 만에 증명해 낸 일이다.

칼라비 추측은 복소기하학의 난제였다. 특정 곡률 조건을 만족하는 ‘켈러 다양체’가 실제로 존재할 수 있는지를 묻는다. 쉽게 말해, 복잡한 공간 속에서 대칭성과 특정 곡률을 지닌 기하학적 구조가 실제로 가능한지를 밝히려는 시도였다. 이 구조는 너무 정교하고 이상적이어서 많은 수학자들이 그 존재 자체를 의심했다.

야우 교수는 몇 년간 이 문제에 몰두했고, 1973년 결국 이 추측이 성립하지 않는다는 결론을 발표한다. 하지만 이내 추측을 처음으로 제안한 수학자 에우제니오 칼라비가 논문을 검토하며 몇 가지 논리적 의문을 제기했다.

“그의 지적은 타당했어요. 제 논증을 더 탄탄하게 만들기 위해 밤낮없이 매달렸죠. 잠도 거의 자지 않고, 식사도 거르며 몰두했어요. 결국 제 주장이 틀렸다는 걸 깨달았고, 이후 3년 동안 다시 매달린 끝에 칼라비 추측이 옳다는 걸 증명해 냈습니다.” 칼라비 추측이 참이라는 증명은 이후 끈 이론에서 핵심적으로 사용되는 ‘칼라비–야우 다양체’의 수학적 존재를 확립하는 기반이 됐다.

야우 교수는 이후에도 도전을 멈추지 않았다. 1979년, 그는 미국 수학자 리처드 션과 함께 또 하나의 중대한 성과를 내놓는다. 우주 전체 질량은 음수가 될 수 없다는 ‘양의 질량 정리’를 수학적으로 증명한 것이다. 이는 블랙홀이 실존할 수학적 가능성을 물리학자들보다 먼저 논리적으로 정리한 작업이었다. 그는 이 증명에 대해 “수학이 자연과학보다 먼저 미지의 우주를 예측하고 증명할 수 있다는 걸 보여주는 좋은 사례”라고 설명했다.

야우 교수는 수학을 본질적으로 ‘연결의 학문’이라고 정의한다. 그렇기에 오늘날 수학이 나아가야 할 방향 역시 ‘고립’이 아닌 ‘개방과 교류’에 있다고 강조한다. 이 철학은 그의 뿌리인 중국 수학계의 성장 배경과도 맞닿아 있다. “1970년대까지만 해도 중국은 사실상 세계와 단절돼 있었습니다. 하지만 문화대혁명 이후, 점차 개방의 문이 열리면서 분위기가 완전히 달라졌죠.”

야우 교수에 따르면, 단절을 극복한 순간부터 변화는 시작됐다. 문화대혁명 이후 중국 정부는 수학을 기초 학문으로 육성하기 위해 유학생들을 미국과 유럽의 명문 대학으로 파견했고, 이들은 선진 연구 환경에서 세계적인 수학자들과 함께 학문을 익혔다. 야우 교수도 그 시대의 중심 인물로 UC버클리 캘리포니아대에서 수학을 공부할 수 있었다. 

이후 이들은 다시 중국으로 돌아와 교육과 연구를 혁신하며 질적 도약을 가능케 했다. 이 도약은 단순히 인재가 많아졌기 때문이 아니다. 야우 교수는 “지식은 고립 속에서 자라지 않는다”고 말한다. 닫혀 있던 문을 열고, 세계와 연결된 순간부터 수학적 사고의 지평이 넓어졌다는 것이다.

이런 변화는 여성 수학자의 부상에서도 확인된다. 비교적 늦게 여성에게 학문적 기회를 열어준 중국이지만, 짧은 시간 안에 인상적인 성과들이 나타나고 있다. 카케야 집합 문제라는 난제를 해결하며 필즈상에 근접한 연구 성과를 보인 왕훙 미국 뉴욕대 교수, 수학 기반 검색 기술 딥시크를 개발한 뤄푸리 엔지니어 같은 인물들이 대표적인 사례다. 야우 교수는 여성 연구자들이 빠르게 두각을 나타낸 배경 역시, 빠르게 열린 기회의 문과 국제적 교류 환경이라고 분석한다. 

동시에 그는 현재 수학계가 아직 충분히 평등하지 않다는 현실도 냉정하게 짚는다. “여전히 수학계에서 여성의 비율은 낮습니다. 정교수 가운데 여성은 20%도 안 되죠. 이는 중국만의 문제가 아닙니다. 다만 희망적인 건, 변화가 시작됐다는 겁니다. 마리암 미르자카니, 마리나 비아조프스카처럼 뛰어난 연구로 필즈상을 수상한 이들도 이미 나왔습니다.”

그러면서도 그는 단호하게 덧붙인다. 여성 수학자는 단지 ‘여성’이라는 이유 때문이 아니라, 연구와 창의성으로 평가받아야 한다고, 오히려 젊은 여성들에게 수학을 매력적인 선택지로 만들기 위해 훨씬 더 큰 노력을 기울여야 한다고 말이다. 

영국의 물리학자 스티븐 호킹(왼쪽)과 야우 싱퉁 미국 하버드대 수학과 교수.
두 사람은 끈 이론이라는 공통 관심사로 인연을 맺고 30년 가까운 우정을 유지했다. 1988년에는 수학계의 노벨상이라 불리는 울프상을 공동 수상하기도 했다.

수많은 수학적 난제를 해결하며 현대 수학사의 방향을 바꿔온 야우 교수. 칼라비 추측의 증명, 양의 질량 정리 등 그의 이름이 담긴 연구들은 이젠 수학을 넘어 현대 이론물리학의 뼈대가 됐다. 그런 그가 지금 가장 집중하는 일은, 다음 세대의 수학자를 키워내는 것이다.
미래의 수학자에게 꼭 전하고 싶은 말이 있다면 무엇일까. 야우 교수는 망설임 없이 이렇게 말했다. “수학에서 성공의 길은 쉽지 않습니다. 그래서 세 가지가 꼭 필요합니다. 호기심과 사람들, 그리고 끈기입니다.”

그가 말하는 첫 번째 덕목은 호기심이다. 대학원 시절 그는 손에 잡히는 모든 수학 서적과 저널을 읽었다. 전공은 빠르게 기하학으로 좁혀졌지만, 다양한 분야를 넘나들며 ‘왜?’를 놓지 않았던 그 시절의 탐구심이 지금의 자신을 만들었다고 그는 말한다.

두 번째는 사람이다. 야우 교수는 “수학은 혼자서 몰입하는 작업이라고 생각하기 쉽지만 결코 혼자만으로는 완성되지 않는다”고 말한다. 다양한 사람들과 아이디어를 주고받는 시간을 즐기는 것. 공동 논문이 아니더라도, 생각을 자유롭게 나눌 수 있는 지적 공동체 안에 있는 것. 이것들이 오히려 더 오래가는 수학의 힘이 된다고 믿는다. 

그는 마지막으로 끈기를 강조했다. “수학을 하다 보면 벽에 부딪히는 일이 정말 많습니다. 어디서부터 다시 시작해야 할지조차 모를 때도 있죠. 그럴 때 멈추지 않고 계속 나아가는 의지가 필요합니다. 실패하더라도, 끝까지 가보면 결국 어떤 순간에는 해답에 다다릅니다. 그리고 그렇게 얻은 결과는 정말 깊고 값진 보람을 줘요.”

야우 교수는 말한다. 수학은 정답을 맞히는 기술이 아니라, 질문을 포기하지 않는 태도에서 나온다고. 그리고 그는 조용히 덧붙였다. “포기하지 마세요. 수학은 언제나, 가장 끈질긴 질문을 기다리고 있으니까요.”