‘세계적으로 인정받는 젊은 수학자는 누가 있을까요?’라고 우리나라 수학자에게 질문하면 반드시 거론되는 분이 있습니다. 우리나라 최초로 1995 국제수학올림피아드(IMO)에서 만점을 받은 것으로 유명한 신석우 미국 캘리포니아대학교 버클리캠퍼스(UC 버클리) 수학과 교수입니다. 2022 러시아 상트페테르부르크 세계수학자대회(ICM)에 초청 강연자로 선정된 신 교수님을 1월 12일 서울 고등과학원에서 만났습니다.
Q 교수님께서 본격적으로 수학자의 길을 걷게 된 게 언제였나요?
고등학생 때 ‘앞으로 뭘 할까?’라며, 막연한 상상의 나래를 펼쳤어요. 곧 제가 좋아하고 잘하는 수학을 해야겠다는 결론에 이르렀지요. 지금 돌이켜 보면 수학자가 구체적으로 무슨 일을 하는지는 잘 몰랐지만, 수학 말고는 내세울 만한 게 없었고, 또 수학을 즐기고 있던지라 수학자가 되기로 마음먹었습니다. 나중에 유학을 결심하는 과정에서 이 길에 대해 한 번 더 고민해 봤는데, 혹시 좋은 연구자가 되지 못하더라도 어디선가 수학을 가르치면서 먹고살 수만 있으면 후회하지 않을 거란 확신이 생겨 주저하지 않게 됐지요.
Q 교수님의 연구 분야를 소개해 주세요!
수의 성질을 연구하는 ‘정수론’의 주요 관심사 중 하나는 변수가 여러 개 있는 방정식이 있을 때 정수로 이뤄진 해 또는 유리수로 이뤄진 해를 구하는 것이지요. 하지만 수의 범위를 정수나 유리수로 제한하지는 않습니다. 수의 체계를 확장하는 것이 유용하거든요.
예를 들어 자연수 n에 대한 디오판토스 방정식 x2 - ny2 = 1에서 유리수의 범위에 n의 제곱근을 추가하면 좌변을 (x + √ ny)(x - √ ny)로 분해할 수 있어요. 따라서 유리수에 n의 제곱근을 추가한 새로운 수의 체계에서 ‘1을 두 수의 곱으로 표현하는 문제’로 바뀝니다. 즉 수의 범위를 넓혀 방정식을 새로운 구조로 바꾸면 답을 찾기 쉬워지지요. 그 밖에도 컴퓨터가 0과 1의 두 숫자만 가지고 연산을 하듯 유한 개의 수로만 이뤄진 수의 체계(유한체)도 생각할 수 있습니다.
이때 해집합에 나타나는 패턴을 ‘랭글랜즈 프로그램’을 통해 다각도로 이해합니다. 이를 위한 대표적인 과제로 기하학적 대상인 ‘시무라 다양체’와 산술적 함수인 ‘보형 형식’ 사이의 관계를 밝히는 작업이 있습니다. 낯선 수학 용어라 어렵게 느껴지지요. 간단하게 말하면 방정식의 해를 구하기 위해 여러 방법을 찾는 연구입니다.
Q 어려운 수학 문제가 풀리지 않을 땐 어떻게 하나요?
그 문제와 관련한 간단한 예라든가 연구 결과, 전반적인 문제의 배경을 이해하려고 합니다. 정말 어떤 실마리도 보이지 않을 때는 제가 어떤 지식이 모자라거나 해결 경험이 부족해서 그런 건 아닌지 자가 진단을 해 보기도 해요.
만약 제가 부족하다고 판단되면 문제에 매달리기보다는 부족한 부분을 공부하고 다시 문제를 풀어 봅니다. 어느 정도 노력을 해도 성과가 전혀 없으면, 며칠에서 몇 달이고 다른 문제에 시선을 돌렸다가 다시 돌아가기를 반복하기도 합니다.
이외에 특히 도움 된다고 여기는 것은 ‘공동 연구’입니다. 같은 문제에 대해 깊이 있는 대화를 나눌 수 있는 사람이 있다는 것만으로도 힘이 되고 즐겁거든요. 대개 수학자마다 특기와 접근법이 달라 서로 도움을 줄 수 있어요.
Q ICM 초청 강연자로 선정된 소감이 궁금해요.
‘불러 주셔서 감사합니다’라는 생각뿐이에요. 전 세계의 수학자가 모이는 자리라 기대도 되고요. 하지만 부담스럽지는 않아요. 규모가 큰 학회이지만 강연 분위기는 매우 자유롭거든요. 서로의 분야에 대해서 교류하기도 쉽고요.
아, 걱정되는 부분이 있어요. 언제부턴가 ICM에서 수학자들의 강연을 동영상으로 올리기 시작했거든요. 저는 40~45분 정도 강연하는데 혹시나 실수하는 게 평생 남을까 봐 긴장되네요.
Q 올해 계획, 목표는 무엇인가요?
연 또는 월 단위로 계획을 세우고 착착 진행하는 사람이 아니에요. 하지만 올해 7월엔 두 개의 아주 중요한 학회에서 강연이 예정돼 있지요. 하나는 ICM이고, 다른 하나는 프랑스의 고등과학연구소(IHES)에서 3주간 열리는 랭글랜즈 프로그램에 관한 여름학교입니다. 강연하기 전에 ICM과 IHES 쪽에 최근 연구 동향을 해설하는 논문을 각각 제출해야 해요. ICM에는 이미 냈고, IHES 여름학교 논문은 이제 준비를 시작해야 합니다. 결과적으로 두 강연을 만족스럽게 해내는 것이 올해의 목표입니다. 이 목표 외에도 희망사항이 하나 있는데, 올 한 해 연구에서 제가 느끼기에도 기발한 생각을 하나 떠올렸으면 합니다.
Q 교수님은 어떤 수학자로 기억되길 바라나요?
정수론을 통해 바라보는 랭글랜즈 프로그램은 너무나 매력적이에요. 아직 갈 길이 멀지만 지난 50년간 수많은 사람의 크고 작은 연구를 통해 지금처럼 많은 것을 알게 되었지요. 제가 그 수백 명의 공헌자 중 한 사람으로 기억되면 아주 기쁠 것 같습니다.
제 일상에서 만나는 수학자가 아닌 사람들에게는 ‘나름 재미있는 수학자’로 기억되면 좋겠어요. 점점 나아지고 있는 것 같지만, 여전히 ‘수학자’라고 하면 뭔가 지루하고 답답하고 딱딱하다고 느끼는 분들이 아직도 꽤 많아요. 저를 포함해 여러 수학자가 대중강연 등을 자주 하면서 가까워지고, 그 이미지를 바꾼다면 후대의 꿈나무들이 좀 더 부담 없이 수학자의 길을 택하지 않을까요?