d라이브러리

160년 전 리만 가설이 발표된 뒤 수많은 수학자가 리만 가설을 증명하기 위해 도전했지만 
모두 하나같이 실패했습니다. 그래서인지 지금은 리만 가설에 도전하는 수학자는 많지 않습니다. 하지만 기하서 연세대학교 수학과 교수는 무려 22년째 리만 가설을 풀기 위해 고군분투하고 있습니다.

“리만 가설 연구를 처음 시작한 게 1997년 8월이었어요. 벌써 22년이 됐네요.”

기하서 교수가 리만 가설을 본격적으로 파고들기 시작한 건 1997년입니다. 미국에서 박사학위를 마치고 돌아와 김영원 서울대 수리과학부 교수와 한 차례 공동연구를 성공적으로 마친 직후였지요. 김 교수가 10년 정도 고민한 문제를 기하서 교수가 함께 풀기 시작하면서 3~4개월 만에 해결하자 다음 문제로 리만 가설을 제안한 겁니다.

“리만 가설이 어떤 문제인지는 알고 있었어요. 주변에서 겁을 주는 사람도 있었죠. 그래도 워낙 난제와 오래된 문제에 끌리는 성격이라 처음에는 오래 걸려야 5년 정도일 거라고 생각하고 도전했죠. 이렇게 오래 걸릴 거라고는 생각 못 했어요. 어리석었죠. 하하.”

기 교수는 웃으면서 말했지만 허탈한 웃음은 아니었습니다. 얼마 뒤 함께 시작한 김영원 교수는 도전을 포기하고 기 교수만 남았지요. 그렇게 매일 리만 가설만 생각하면서 22년을 보냈습니다.

리만 가설 풀리면 AI 비밀 밝히는 데 도전

“저한테 리만 가설을 푸는 영광이 주어진다면…, 그다음에는 뭘 할지 잘 모르겠어요. 제 전공이 수리논리학이니까 인공지능(AI)의 구조를 연구할 수도 있을 것 같아요.”

기 교수는 리만 가설을 풀게 된다면 다음엔 어떤 문제에 도전하겠냐고 묻자 고민하다가 AI를 언급했습니다. 인공신경망 같은 인공지능은 지금도 많은 학자가 다양하게 활용하고 있지만, 아직 어떤 논리적인 과정을 거쳐서 결과를 내놓는지 밝혀진 것이 거의 없는 현대판 ‘난제’라고 할 수 있습니다. 과연 기 교수다운 선택이지요?

그는 현재 리만 제타 함수의 영점들이 분포할 것으로 예상하는 범위를 줄이는 연구에 매진하고 있습니다. ‘준 리만 가설’이라고 불리는 문제입니다. 이 문제도 지금껏 여러 학자들이 도전했지만, 진전이 없었습니다. 

기 교수가 준 리만 가설을 풀 수 있을지, 그리고 리만 가설을 해결할 수 있을지는 아무도 모릅니다. 하지만 그는 매일 아침 눈을 떴을 때부터 잠들 때까지 ‘어떻게 하면 리만 가설을 해결할 수 있을까’를 고민하며 지내고 있습니다. 이 문제를 풀기 위해 학자 인생에서 다른 사람에게 인정받을 만한 화려한 업적을 많이 남기지는 못했지만, 기 교수는 꿋꿋하게 자신만의 발걸음으로 리만 가설을 향해 걸어가고 있습니다.