‘탈락입니다’라는 말을 50번 듣고서야 가수 데뷔의 꿈을 접은 건 서 교수의 타고난 투지(鬪志) 때문이다. 어렸을 적부터 호기심이 많고, 뭐든 직접 부딪쳐 보고 답을 찾았다.
“제가 자란 시골 마을엔 쥐가 많았어요. 쥐덫도 그만큼 곳곳에 많았죠. 쥐덫에 번번이 잡힌 쥐를 보며 ‘문이 닫히기 전에 먹이만 먹고 빨리 나가면 될 텐데, 왜 그걸 못하지?’라며 궁금해 했어요. 결국 손가락을 쥐덫에 직접 넣어봤는데 엄청나게 빠른 속도로 문이 닫혀 전혀 뺄 수 없었어요. 심지어 문에 달린 강력한 톱니가 손가락에 박혀 뼈가 보일 정도로 피가 철철 났어요. 그제서야 ‘아, 이래서 쥐가 못 빠져 나갔구나’라고 이해했죠(웃음).”
그런 성향이 명확한 답을 알려주는 수학과 잘 맞았다. 1995년 서울대학교 수학계산통계학과군에 입학한 뒤 3학년 때 수학으로 전공을 정했다. 하지만 오디션을 보느라 학업에 소홀했던 터라 졸업할 즈음이 돼서도 진로를 정하지 못했다. ‘일단 하던 수학을 마저 더 해보자’는 생각으로 동 대학원에 진학했다. 그러다 또 투지가 불타올랐다.
서 교수는 “어느 날 ‘대학원까지 왔는데 나는 내 정리를 못 만들고 학부생 때처럼 다른 사람의 정리만 계속 배우고 있구나’라는 생각이 번뜩 들었다”라고 말했다.
바로 수업을 나와 서 교수는 수학과 도서관으로 달려갔다. 나만의 연구주제를 찾자는 생각이었다. 이 책, 저 책 펼쳐보던 중 끌리는 책을 발견했다. 바로 <;쌍곡기하학의 근원>;이라는 책이었다.
쌍곡기하학은 중고등학교에서 배우는 유클리드 기하학이 인정하는 5개의 공리 중 평행선 공리를 부정하는 기하학이다. 즉, 주어진 직선 밖의 한 점을 지나면서 그 직선에 평행한 직선은 오직 하나라는 공리를 따르지 않는다. 서 교수는 이런 기하학이 세상에 있다는 사실이 신기해 쌍곡기하학을 연구 하기로 결심했다.
“수업에 들어가지 않고 몇 개월간 자와 컴퍼스를 들고 도서관에 틀어박혀 연구해 나름대로 결과를 냈어요. 바로 평소 존경하던 교수님을 찾아가 결과를 보여드렸죠. 그랬더니 다른 학교에 있는 관련 분야 교수님께 조언을 구해 보라며 소개해 주셨어요. 진짜 수학자가 된 것처럼 너무 설렜어요. 그 교수님은 ‘이미 알려진 결과다. 그런데 이 주제를 어떻게 연구하게 됐냐’라고 물으시며 쌍곡기하학 공부를 위해 읽으면 좋을 책 10권을 추천해 주셨죠. 대단한 결과는 못 냈지만, 진지하게 제 연구 결과에 귀를 기울여 주시는 교수님들 덕분에 수학 연구의 재미를 알게 됐어요.”
수학을 통해 배운 배려심
처음엔 연구에 너무 빠져서 곤란한 상황에 처하기도 했다. 지도 교수님의 가르침에 따라 정해진 주제의 논문을 대학원생 각자 공부하고 그 내용을 발표하는 세미나 시간에 서 교수는 제멋대로 하고 싶은 주제를 선정해 연구하고 발표하곤 했기 때문이다. 그런데 3번의 발표 모두 내용에서 오류가 발견돼 창피를 당했다.
“제 수학 실력이 얼마나 부족한지 제대로 알게 됐어요. 그때부터 열심히 논문과 책을 읽으며 배경지식을 쌓으려고 최선을 다했습니다. 수학을 하며 타인에 대한 배려심도 배웠어요. 전엔 남들이 내 연구 주제에 관심이 있는지, 내 설명이 어렵지는 않은지 생각도 안 하고 제 연구를 알리기에 급급했어요. 그런데 수학에서 좋은 증명은 다른 사람이 잘 이해할 수 있도록 잘 설명하는 거더라고요. 그게 배려였어요.”
결국 서 교수는 쌍곡기하학 연구로 박사학위 논문을 썼다. 이 논문의 주제를 발전시킨 논문으로 2012년에는 한국과학기술단체총연합회가 수여하는 과학기술우수논문상, 2016년 대한수학회 우수논문상을 받았다.
앞으로의 목표를 묻자 서 교수답게 두 가지를 꼽았다. 가수로서는 ‘50세가 되기 전에 자작곡으로 음반 내기’이고, 수학자로서는 ‘현재 풀고 있는 문제 해결하기’다.
“먼저 제 목소리와 제가 속한 밴드에 가장 잘 맞는 노래를 만들어 합주하고 싶어요. 그리고 왜 제 머리카락이 긴지 궁금하지 않으세요? 공연을 위해서도 있지만 연구 기간을 의미해요. 지금 풀고 있는 문제를 풀기 전까지 머리카락을 안 자르기로 결심했거든요. 사실 지금 풀고 있는 문제를 2018년에 풀었다고 생각해서 그때 기르던 머리를 잘랐어요. 그런데 나중에 오류가 발견돼 다시 기르기 시작한 거예요. 조만간 제 손으로 풀어내 머리카락도 자르고 싶습니다. 제 머리를 지켜봐 주세요!”
