d라이브러리

마이크로소프트(MS)에는 한국인 수학자가 한명 있다. MS연구소 수석연구원인 김정한(41) 박사가 그 주인공. 김 박사는 이곳에서 유일한 한국인이며 그가 속한 이론수학연구팀에서 유일한 동양인이다. 이 연구팀에는 수학의 노벨상이라 불리는 필드상 수상자 등 쟁쟁한 수학자들이 여러명 포진해 있다.

김 박사는 세계적으로 권위있는 수학부문 논문상인 ‘풀커슨 상’을 1997년에 받아 세계적인 수학자 반열에 올랐다. 풀커슨 상은 미 전산수학학회와 수학회가 3년마다 주는 상. 보통 한번에 2-3명을 시상하는데, 김 박사는 단독으로 수상했다. 지금까지 총 9차례의 시상 가운데 그만이 유일한 단독수상자다. 그가 들려주는 수학인생은 어떤 모습일까.

수학자하면 으레 대학교수이기 마련인데, 어떻게 MS에서 일하게 됐나요?

대학교수가 될 뻔했어요. 93년 박사학위를 받고 벨연구소에서 근무하던 와중에 카네기멜론대에서 교수직 제의가 들어왔거든요. 그래서 97년에 정식으로 그곳으로 옮기기로 하고, 96년 한해는 벨연구소에서 근무하면서 카네기멜론대 교수를 겸직했죠.

그런데 97년 초 MS연구소에서 연락이 왔어요. 당시 MS연구소에는 이론수학자가 필요했어요. 연구소에 이론수학연구팀이 신설됐고 로스앤젤레스 소재 캘리포니아대(UCLA)의 수학과 교수를 팀장으로 채용했어요. 그 팀장이 제일 먼저 스카우트한 사람이 바로 접니다.

MS와 대학을 두고 고민했죠. 이 두 곳에서 나의 미래가 각각 어떻게 펼쳐질지를 진지하게 생각했봤어요. 그리고선 모험을 선택했습니다. 시작하는 팀에 참여함으로써 인프라가 어떻게 만들어지고 어떤 과정으로 발전해나가는지를 직접 경험하고 싶었습니다. 미국사회를 적극적으로 겪어보고 싶었던 거죠. 더 많은 경험을 함으로써 나 자신도 많이 변해야 하고 그래서 나의 실력도 더 나아질 거라 생각했죠.

수학자로서 MS에서의 생활은 어떠신지요? 대학이 좀더 자유로울 거 같은데요.

그렇지 않습니다. MS연구소는 출퇴근 시간이 자유로워요. 자기 자신을 스스로 관리하도록 합니다. 특히 수학팀이 더 그래요. 수학이란 게 공간과 시간 제약을 받지 않잖아요. 10-11시에 집에서 나와 5-6시쯤 퇴근합니다. 일도 자기가 하고싶은 일을 하게 해줍니다. 팀장은 소속연구원들이 하고싶은 일을 하도록 도와주지 이거해라 저거해라 시키지 않아요. 그래서 생활은 대학교수와 별로 차이가 안 납니다. 한국과는 상당히 다르죠. 대신 평가는 철저합니다. 하고싶은 일을 하게 해줬는데 결과가 뭐냐고 확실하게 묻습니다.

하고 싶은대로 하게 해준다니 상당히 부럽습니다. 그런데 박사님의 수학연구가 프로그래밍의 발전에 어떤 도움이 되나요?

나의 세부연구분야는 조합론과 전산수학입니다. 이 수학분야는 MS의 제품에 직접적으로 응용되기보다는 이들 제품에서 쓰인 알고리즘에 대한 바른 정의를 해주는 기초를 제공합니다. 조합론은 수열이나 조합, 확률이 포함돼 있는 고등학교 이산수학 과목에 해당하는 수학분야로 쉽게 말해 경우의 수를 따지는 겁니다.

그리고 전산수학은 컴퓨터에게 여러 경우에 따라 어떤 길로 가야할지를 알려주는 알고리즘에 관한 수학입니다. 따라서 버그가 없는 좋은 알고리즘은 경우의 수를 잘 따져야 만들어지는 거죠.

그럼 풀커슨 상을 수상하게 해준 연구도 조합론과 전산수학 분야였나요?

그렇죠. 60년 이상 된 조합론의 난제인 ‘램지의 수’에 대한 연구결과였어요. 램지의 수란 큰 집단에서 공통 특성을 갖는 작은 집단을 찾을 수 있는지 그 여부를 알아내는 문제입니다.

예를 들어 파티에 온 사람 가운데 서로를 아는 작은 그룹과 서로를 전혀 모르는 작은 그룹이 반드시 존재하는지 또는 그렇지 않은지를 따져보는 겁니다. 저는 이 문제에서 큰 집단의 크기가 정확히 얼마일 때면 작은 집단이 반드시 존재하거나 존재하지 않는지를 알아냈어요. 물과 얼음의 경계인 0℃를 밝혀낸 것과 같아요. 그 연구결과는 사이언스에 95년 게재됐죠.

상을 받았을 때 기분이 어땠나요?

글쎄요. 그렇게 들뜨지는 않았어요. 오히려 그 문제에 대한 아이디어가 떠올랐을 때가 기쁨으로 가슴이 벅찼어요. 연구결과를 얻는 과정에서 한가지가 안 풀려 며칠 동안 매달렸어요. 그러던 와중인 어느날 새벽 5시쯤 잠에서 깼는데, 그 순간 아이디어가 번득 떠올랐어요. 그 아이디어를 잊어버리지 않으려고 메모지를 찾다가 급한 대로 식탁 위의 쓰다 남은 반쪽짜리 키친타월에 적었습니다. 이후 두달간 그 아이디어로 문제를 완전히 풀었어요. 당시 그 아이디어로 풀 수 있겠다 싶은 생각에 기분이 좋으면서도 한편으론 오류가 생기면 어떡하나 걱정도 들었습니다. 수학문제란 게 다 풀었다 싶다가도 틀어지는 수가 있거든요.

수학자가 되겠다는 꿈은 언제 처음 가졌나요?

어릴 적부터 논리적으로 생각하기를 즐겼고 사물이나 현상에 대해 본질적으로 이해하는데 관심을 가졌어요.
나의 이런 면은 어머니의 영향이 컸어요. 어머니는 우리 형제들에게 무슨 일을 하시든 그 일을 어떻게 하는 게 좋은지를 얘기해주셨어요. 식탁에 반찬을 놓을 때도 김치는 어디에 놓고 찌개는 어디에 놔야 좋은지를 설명하셨죠.

초등학교 4학년 때 담임선생님이 장래희망을 써서 내라고 하셨는데, 그때 수학자라고 적었어요. 우리나라에 유명한 수학자가 아직 없는데 제가 그러고 싶다고 덧붙였죠. 그렇다고 계속 수학을 고집했던 건 아니에요. 대학 때는 물리학과를 선택했어요(연세대 81학번). 고등학생 때 아인슈타인 신드롬이 유행이었는데 나 역시 이 영향을 받았죠.

언제 다시 수학자의 길로 되돌아오셨나요?

대학 1학년 때부터 호감을 갖고있던 수학과 여학생이 있었어요. 3학년 때 그 여학생을 보려고 수학과 수업을 청강했어요. 그런데 그때 수학이 참 재미있더라구요. 4학년 올라가면서 수학으로 아예 진로를 바꿨어요.

그 여학생과는 잘 되셨나요?

지금 제 아냅니다.

첫사랑에 성공하신 행운아시군요. 물리학이 수학과 가장 친근한 학문이긴 하지만 그래도 뒤늦게 수학을 시작하셔서 어려움을 겪지 않았나요?

4학년 때는 대학원을 수학과로 준비했기 때문에 공부할 양이 많았어요. 하지만 다행히 어려움을 별로 못 느꼈습니다. 워낙 하고싶은 일을 해야 하는 성격인지라 그랬던 거 같습니다. 수학은 제게 물고기가 만난 물과 같았어요. 이런 저의 성격이 수학자로서 성공할 수 있게 해준 거라 생각합니다.

부인과 함께 수학을 하셔서 좋았던 일이 많을 거 같은데요.

미국으로 유학 가서 또한번 아내는 제 수학 인생에 결정적인 영향을 줬어요.
물리학을 전공했던 점을 십분활용해 처음에는 세부전공으로 수리물리를 했었어요. 그런데 유학 가서 1년쯤 지나자 이 분야에 흥미를 잃게 됐어요.

그러던 와중에 아내가 조교를 담당하던 수업 때문에 들을 수 없었던 조합론 수업을 저한테 대신 들어가 노트필기를 해달라고 했습니다. 그렇게 해서 접한 조합론에 단박에 끌렸어요.

너무나도 새롭기도 했지만 미래를 예측하기를 즐기는 저의 성격과 맞아떨어졌어요. 특정 조건에서 어떤 경우가 있을지를 잘 따져야 미래를 좀더 정확하게 예측할 수 있잖아요.

당시는 왜 아내와 결혼을 하게 됐는지에 대해 다시 한번 확인하는 순간이었죠.

지난해 한한기 동안 서울대와 연세대에서 전산수학을 강의하셨고 5월에는 서울대에 전산수학연구소를 설립하셨던데요.

보통은 좋은 우유를 얻으려면 좋은 젖소가 필요하다고 생각합니다. 하지만 기초학문을 하는 나로서는 좋은 풀이 더욱 중요하다고 느낍니다.
마찬가지로 우리나라가 IT(정보통신) 강국을 꿈꾼다면 그 기초가 되는 전산수학이 매우 중요하다고 봅니다. IT역군들이 전산수학을 모른다면 우리나라는 IT 강국이 될 수 없어요. 그런데 우리나라는 전산수학이 불모지나 다름없어요.

앞으로 전산수학연구소를 어떻게 운영하실 계획입니까?

MS연구소가 위치한 시애틀에도 서울대 전산수학연구소의 지부를 마련했어요. 이번 겨울에는 이곳으로 지난해 전산수학 강의를 들었던 학생 중 5명을 초청해 함께 연구하는 시간을 가졌습니다.

앞으로 전산수학연구소를 통해 한국의 후배를 양성하는데 주력하고 싶습니다. 은퇴 후에는 한국으로 돌아와 김정한의 산수교실을 열 겁니다.