인터뷰에 앞서 서검교 교수와 음악에 대한 이야기를 나누며 들은 말이다. 작곡은 물론이거니와 원래 있던 음악도 연주하는 사람에 따라 곡의 느낌이 달라진다. 이와 마찬가지로 수학도 아직 밝혀지지 않은 새로운 무언가를 만들어 나간다는 이야기다. 처음에는 수학과 음악이 비슷하다는 말이 납득이 되지 않았지만, 서 교수의 설명을 들으니 고개가 끄덕여졌다.
궁금하면 꼭 해봐야 했던 아이
어린 시절 시골에서 자란 서 교수는 공부를 그리 열심히 하진 않았다. 그 대신 호기심이 왕성했다.
“어떤 것이든 ‘왜 그럴까?’라는 궁금증이 생기면 꼭 해결해야 했어요. 혹시 쥐덫을 보신 적이 있나요? 저는 쥐덫에 쥐가 걸리는 게 신기했어요. 쥐가 덫에 걸릴 만큼 느린지 궁금했고, 나라면 걸리지 않을 것 같다고 생각했지요. 그래서 손가락을 쥐덫에 넣었다 빼봤어요. 어떻게 됐냐고요? 제 손가락도 덫에 걸려서 아주 큰 상처를 입었죠. 하하.”
예상치 못했던 이야기에 기자는 웃음이 터졌다. 하지만 서 교수의 기상천외한 어린 시절 행보는 그게 끝이 아니었다.
“예전에는 110V 콘센트를 썼어요. 그때 어른들이 그 구멍에 쇠젓가락을 넣으면 안 된다고 해서 왜 그런지 궁금했어요. 그래서 넣어봤죠. 정말 죽는 줄 알았어요. 절대 따라하시면 안 됩니다. 넣지 말라던 이유를 깨달았죠.”
남의 이야기를 듣는 것보다 직접 해보고, 생각하고, 느껴봐야 직성이 풀렸다는 서 교수. 어린 시절 '왜?’라는 생각에서 시작한 엉뚱한 행동이 수학자가 될 수 있는 힘이었을지도 모른다는 생각이 언뜻 스쳐갔다.
안 풀리는 문제가 더 좋아
서 교수는 ‘왜’라는 물음을 던지면 그에 대한 답을 알 수 있어서 수학과 과학이 재미있었다. 그래서 막연하게 과학자를 꿈꿨다. 또, 문제 풀이를 즐겼다. 특히 당시 대학교 입시 시험이었던 본고사처럼 쉽게 풀리지 않는 문제를 더 좋아했다. 육상도 했었지만 중학교 때 다리를 다쳐 수학과 과학에 더 몰입했다.
“대학교에서 무엇을 배우나 궁금해 서점에 가서 대학교 1학년 미적분학 책을 봤어요. 그런데 다 한자로 돼 있더라고요. 무슨 말인지는 잘 모르겠지만, 그림이나 수식이 고등학교 때 공부한 내용과 비슷했어요. 이 정도면 해볼만 하다고 생각하고 수학과로 진학했습니다. 크게 고민하지 않았어요.”
대학교 2학년 때 서 교수는 음악에 빠졌다. 진학한 학과가 알고 보니 수학과가 아닌 수학ㆍ계산통계학과군이었다. 수학보다 전산과 통계 과목을 더 많이 들어야 했던 게 적응이 안 돼 다른 분야로 눈길을 돌린 것이다.
“제 성격상 음악을 듣기만 하기보다는 직접 해봐야겠다고 생각했어요. 그래서 노래와 기타를 연습하고, 오디션을 보러 다녔죠. 락을 좋아해서 쇠사슬을 몸에 두르기도 하고, 검은색의 큰 벨트를 하고 다니기도 했어요. 지금 생각하면 왜 그랬는지는 모르겠어요. 하하. 아쉽게도 그때 사진은 남아있지 않습니다.”
하지만 음악이 서 교수의 길은 아니었다. 그렇게 수학으로 돌아온 게 4학년이었다. 유학을 가기에도 애매했고, 공부를 아주 열심히 하지 않아 성적도 좋지 않았다. 그래도 수학이 좋았던 서 교수는 더 공부해 봐야겠다는 생각에 대학원으로 진학했다.
나의 정리를 찾아 나서다
“석사 1학년 때 남이 만들어 놓은 정리만 한 학기 동안 계속 공부하니 지겹더군요. 내 정리가 있으면 좋겠다고 생각했어요. 그래서 도서관을 찾아가 책을 찾아봤지요. 대부분이 어려워서 잠깐 보고 다시 꽂아놨어요. 그 중 한 권이 눈에 들어왔습니다.”
그 책은 ‘비유클리드 기하학’에 대한 기초 서적이었다. 만만해 보인다고 생각했는데, 책을 본 서 교수는 깜짝 놀랐다. 그동안 당연하다고 생각했던 가정에 의문을 품었던 적이 없다는 걸 깨달은 것이다. ‘평행선 공준’이라 불리는 유클리드 기하학의 기본 공리였다. 쉽게 말해 ‘주어진 한 직선 밖의 한 점을 지나고, 이 직선에 평행한 직선이 유일하게 존재한다’는 가정이었다.
“책을 보며 ‘이 가정이 꼭 필요한 것인가라는 질문을 왜 여태껏 하지 못했을까?’ 하는 생각이 들었어요. 그렇게 계속 공부하다 보니 제가 모르던 세계가 보였고, 여기에는 내가 할 수 있는 무언가가 있을 것 같다는 생각이 들었죠. 그때부터 저만의 연구를 시작했어요. 저만의 것을 만들어야겠다고 생각했거든요.”
연구하다 보니 나름대로 새로운 결과가 나왔다. “이걸 기하학을 연구하시는 교수님께 보여드렸더니, 모르겠다고 하시면서 관련 분야 교수님을 소개해주셨지요. 그때 내심 설렜어요. 교수님께서 모르겠다고 하시는 건 처음 들었거든요. 그때부터 내 나름대로 무언가를 만들 수 있다는 자신감이 생겼습니다.”
속도가 아니라 방향
서 교수는 무슨 일이든 빠르게 하려고 하기보다는 올바르고 깊이 있게 하려고 노력한다. 이런 모습은 요즘 하고 있는 연구에도 나타난다.
“올해 2월 즈음 30년 전에 나온 미분기하학의 미해결 문제를 동료 수학자와 함께 풀었다고 생각했어요. 그래서 며칠은 설레서 잠도 못 잤지요. 사실이라면 이 분야에 미칠 영향이 상당히 크기 때문입니다. 그런데 뭔가 찜찜했습니다. 여러 번 검토 작업을 했는데도 말이죠. 결과적으로는 오류를 찾았어요. 그땐 정말 힘들더라고요. 아쉬웠습니다. 하지만 계속 도전해서 꼭 풀어볼 생각입니다.”
자신의 연구 분야에서 학계에 보탬이 되는 연구를 하고 싶다는 서 교수. 그가 수학동아 독자들에게 마지막 말을 남겼다.