d라이브러리

10월 5일 최영주 포스텍 수학과 교수는 대한수학회 학술상을 받았다. 학술상은 한 가지 분야에서 우수한 연구 업적을 쌓은 수학자에게 주는 상으로, 우리나라 수학회가 여성 수학자를 선정한 것은 36년 만에 처음이다. 그 주인공인 최영주 교수를 만나기 위해 포스텍을 찾았다.

Q.우선 수상을 축하드립니다! 소감이 어떠신가요?

큰 영광이죠. 저를 추천해주신 동료분들께도 감사하고 마음껏 학문을 펼칠 수 있게 지원해준 포스텍에도 감사해요. 학술상 첫 여성 수상자로 주목받았지만 제가 처음 수상했다고 저보다 훌륭한 여성 수학자가 없었던 것은 아니에요. 제가 겸손을 부리는 게 아니라 좋은 연구를 했던 선배 연구자가 많이 있었어요. 이번을 계기로 남성 위주 추천 문화도 바뀌고 더 많은 여성 수학자가 주목받을 수 있으면 좋겠어요.

Q.어떤 연구를 하고 계시는지 소개 부탁드립니다.

저는 순수수학의 대표 분야인 정수론 연구자예요. 카를 프리드리히 가우스는 ‘과학의 여왕은 수학이고, 수학의 여왕은 정수론’이라고 했어요. 왜 여왕일까요? 대왕도 아니고 여왕. 제가 생각하기에 여왕이라고 하면 그냥 왕보다 매력적이고 아름다운 느낌이 있어서인 것 같아요. 정수론은 정말 아름답고 역사가 깊은 분야면서 암호나 IT 같은 최신 기술에 많이 응용돼요. 저는 정수론에서도 특히 ‘L-함수’를 연구해요. L-함수는 어떤 함수의 무한급수에 관한 해를 구할 때 쓰는 함수예요. 리만 가설에 등장하는 ‘리만제타 함수’도 L-함수의 하나죠.

● 어린 최영주, 수학자의 꿈을 꾸다

Q. 왜 수학자가 되고 싶다고 생각하셨나요?

고민이 많은 사춘기 때였어요. 어느 날 전 인생의 모든 것이 변한다는 사실을 깨달았어요. 사람의 마음도 변하고 역사도 관점에 따라 좋은 사람이 나쁜 사람이 되기도 하고 나쁜 일이 좋은 일로 해석되기도 하죠. 어린 나이에 그런 게 충격이었어요. 정말 변하지 않는 건 없을까. 사춘기 소녀였던 저는 그런 ‘영원’한 것이 있다면 인생 전부를 바쳐도 좋겠다고 생각했어요. 그때 수학을 만났죠. 수학은 한 번 증명하면 지구가 살아 있는 한 바뀌지 않는 진리고, 그래서 몇백 년 전에 증명한 것도 여전히 쓰여요. 아직도 영원한 걸 찾고 있는데 수학이 가장 가까운 것 같아요. 그 진리의 끝까지 가서 한번 닿아보고 싶어요.

Q.수학자가 되는 데 큰 영향을 준 사람이 있나요?

수학을 하고 싶다고 생각한 건 영원에 대한 갈망 때문이었지만, 실제로 수학을 할 수 있게 도와준 건 좋은 멘토였어요. 수학을 하면 구체적으로 뭘 할 수 있는지도 몰랐던 제게, 외국에서 학위를 마치고 오신 두 여자 교수님은 큰 충격이었어요. 학문을 한다는 게 너무나 멋진 모습으로 보였고 어떻게 하면 계속 공부할 수 있는지 두 분을 보며 희망을 키워 나가기 시작했어요. 유학 시절 지도교수님 역시 너무나 훌륭한 분이셨고요.

● 수학자의 일, 마주하는 것

Q. 아이디어가 떠오르지 않고 막힐 때 교수님만의 극복 방법이 있나요?

마주하는 거예요. 수학 연구는 100일이면 99일이 막히는 일이에요. 이것에 익숙해지는 게 연구자인 것 같아요. 깜깜한 99일 동안 길을 알려주는 사람도 없고 등대도 없어요. 다른 사람들의 길을 보고, 이야기를 나누고 다시 내 자리로 돌아와요. 그리고 새로운 길을 찾아야 하죠. 두렵고 막막한 일인데, 그러면서도 또 너무 좋은 게 수학이기도 해요.

Q. 수학자로서 특별히 기억나는 순간이 있다면요?

16살에 벌써 미국 매사추세츠공과대학교에서 석사 학위를 땄을 만큼 유명한 돈 재기어라는 천재 수학자가 있어요. 그런 재기어가 언젠가 아주 특별한 경우에 성립하는 항등식을 보여준 적이 있어요. 전 그 항등식을 일반화할 수 있냐고 물었고 재기어는 안 될 거라고 했죠. 그런데도 전 그 문제에 꽂혀버렸어요. 그래서 박사 후 연구원과 함께 이 항등식에 매달렸어요. 이제 풀었다 싶으면 틀리고, 드디어 생각해냈다 싶으면 틀리기를 5년, 우린 드디어 답을 찾았죠.

재기어는 문제를 풀었다는 말에 바로 자기 집에 날 초청했어요. 그랬는데 집에 도착하기도 전에 “증명이 틀린 것 같다”며 전화가 온 거예요. 전 혼이 완전히 나가서 재기어 집에 도착하자마자 밥이고 뭐고 필요 없고 어디가 틀렸는지 말해달라고 했어요. 알고 보니 재기어가 증명을 확인하던 중 아주 간단한 코딩 실수를 했더라고요.

결국 연구가 옳다는 게 증명됐고 조금 더 확장해서 정리로 완성됐어요. 그 사건 후로 천재뿐 아니라 신의 말도 듣지 말고 내가 하고 싶고 옳다고 믿는 것을 하자고 다짐했어요. 만약 재기어 말만 듣고 문제 풀기를 주저했거나 틀렸다는 말에 바로 물러섰다면 이 아름다운 정리를 완성할 수 없었을 테니까요.

● 내일의 수학자에게

Q. 수학자가 되고 싶은 독자에게 조언해주신다면?

수학 강연이나 세미나가 있으면 꼭 찾아 들으세요. 예전에는 그런 기회 자체가 적었지만 요즘에는 좋은 강연이 많아요. 이해하지 못해도 괜찮아요. 그래도 무조건 들으라고 권하고 싶어요.

처음에는 수학자와 이론의 이름만 기억하고, 다음엔 1분 정도 이해하고, 그 다음엔 1분이 10분이 되고, 그렇게 늘어나다 나중엔 엄청난 것이 쌓여있을 거예요. 어린 학생들이나 수학을 별로 좋아하지 않는 학생도 마찬가지예요. 처음엔 어렵기만 하던 게 익숙해지면 어느 순간 탁 튀어 오르듯 점프하는 때가 올 거예요.

학교에서 집이 가까운 게 연구하기에 좋아 교수 아파트에 산다는 최영주 교수는 최근 가장 빠져있는 일이 무엇이냐는 질문에 망설임 없이 ‘수학 이론’이라고 답했다. 수학 외의 관심사나 취미가 있지는 않은지 주제를 던져봐도 이야기는 금세 수학으로 돌아갔다. “피타고라스 정리 같은 기본이 되는 정리를 완성하는 게 꿈”이라며, “500년 후에도 누군가 내 정리를 보고 감명받아 이름을 불러줄 수 있는 그런 연구를 하고 싶다”고 말하는 최 교수의 눈빛에, 영원한 진리를 쫓아 수학에 빠져들었던 고등학생 최영주의 두근거림이 그대로 담겨 있는 듯했다. 최 교수가 자신의 염원처럼 ‘전율이 느껴지는 정리’를 완성하기를 함께 기다려보자