d라이브러리

인류 역사상 수학 논문을 가장 많이 쓴 사람은 헝가리 출신의 천재 수학자 폴 에르되시(1913-1996)다. 10대부터 세계적인 명성을 얻은 그는 1천5백편 이상의 논문과 책, 그리고 다양한 글들을 썼다. 그가 살았던 20세기뿐 아니라 인류 역사를 통틀어 어떤 수학자도 따라오지 못할 정도의 방대한 양이다.

그렇다면 우리나라에서 수학관련 논문이나 저서를 가장 많이 쓴 학자는 누구일까. 바로 서울대 수학과 박세희 명예교수(67)다. 박 교수는 2백50여편의 논문, 17권의 저서, 17편의 국내해설논문, 50여편의 다양한 글을 썼고, 미 수학회에서 발행하는 ‘매스매티칼 리뷰’(Mathematical Review)지에 2백20여편의 논평을 발표했다.

박 교수의 논문수는 에르되시와 비교하기에는 적다. 하지만 그는 이 많은 일 대부분을 나이 40세가 넘어 이뤄냈다. 오히려 나이가 들수록 해마다 발표하는 논문의 수가 늘었다. 1990년대 이후 발표한 논문의 수가 1백50여편이 넘는다. 뿐만 아니라 박 교수는 2001년 정년퇴직을 한 이후 지금까지도 계속 연구를 해오고 있다. 그의 논문발표 기록을 살펴보면 수학은 머리가 번뜩이는 젊은 시절에나 하는 학문만은 아니라는 생각을 들게 한다.

상당한 양의 논문과 함께 박 교수는 황무지와도 같았던 우리나라의 수학을 일으키는데 지대한 공헌을 해온 것으로 학계에서 인정받고 있다. 그래서 그는 일반적으로 수학자들이 화려한 업적을 남기기 위해 고군분투하는 젊은 시절에 우리나라 수학의 발전을 위해 서울대 수학과와 대한수학회의 각종 활동을 도맡아해야 했다.

천천히 박 교수의 인생 속으로 들어가보자. 그가 들려주는 옛날 얘기에는 우리나라의 과거와 수학사가 묻어나온다.

“언제쯤 수학을 공부하겠다고 생각하셨나요? 교수님의 소년시절이 궁금합니다.”

“내 인생에서 중학교 때까지는 아무 일이 없었어요. 그러니까 내가 만 14살 7개월에 6.25 전쟁이 일어나기 전까지 말입니다. 전쟁 때 가족들이 모두 뿔뿔이 흩어지고 거의 혼자서 떠돌아다녔습니다. 이때의 경험 때문에 수학을 선택하게 됐습니다.”

전쟁 때 박 교수는 이곳저곳을 떠돌아다니며 일을 했다. 그러면서 야간학교 3개월, 주간학교 3개월을 다녔다. 이때 그가 제대로 공부할 수 있었던 것은 수학뿐이었다. 영어공부를 해봤지만 중2 수준에서 별로 발전하지 못했고 물리나 화학도 마찬가지였다. 그에게 손쉬운 길은 수학이었다.

그가 수학을 선택한 또다른 이유는 수학의 ‘가치중립성’ 때문이었다. 전쟁 때 남쪽이든 북쪽이든 지식인을 적대시했기 때문에 공부를 한 것이 영예가 아니라 오히려 피해 다녀야 하는 입장이었다. 정치가는 가장 대표적인 공격 대상이었고, 많지도 않은 과학자나 기술자 역시 편안하지는 못했다.

이런 점에서 수학자는 가장 중립적인 것처럼 보였다. 다른 별에서나 다른 인종이 쳐들어온다 해도 수학자를 해칠 이유가 없을 것 같았다. 수학은 개인의 주관적인 가치가 판단기준이 되지 않는 학문이기 때문이다. 그는 외계인도 알아들을 수 있는 만국공용어인 수학을 선택했다. 수학의 가치중립적인 성격은 이후 혼잡한 우리나라의 정국 속에서 박 교수가 항상 정치적으로 초연한 입장을 유지하게 만들었다.

“혼자가 된 상태에서 공부를 계속하기가 쉽지 않을 거라 생각합니다. 그런데도 대학을 졸업한 이후 계속 공부를 하신 까닭은 무엇이었습니까?”

“대학 4학년 때 수학을 계속 공부해야 할지 장래에 대해 갈팡질팡하고 있었어요. 그때 마침 서울대 수학과를 창설하신 최윤식 선생님이 장래계획을 물어보시더군요. 그래서 아직 계획이 없다고 말씀드렸더니, 선생님은 좀더 공부를 해야 하니까 대학원을 가고 학교에 남아서 조교를 하라고 하시더군요. 그래서 졸업후 대학원에 진학했습니다.”

당시 조교는 지금과는 달리 미발령 무급조교라서 보수가 없었다. 때문에 조교를 해서는 먹고살지 못해 박 교수는 대학원을 다니는 2년 간 고등학교 교사를 했다.

석사과정을 마친 이후에 문제가 발생했다. 그맘때 강사가 되려면 대학을 졸업하고 3년 이상의 연구경력이 있어야 했다. 석사 2년에 어디선가의 연구경력 1년을 더 채워야 했던 것이다. 하지만 어디를 가도 1년의 연구경력을 채울만한 곳이 없었다고 한다.

하는 수 없어 1963년까지 2년 간 출판사 아르바이트를 하고 있는데, 어느날 미국에서 온 은사 한분이 그를 불렀다. 당시는 5.16 군사쿠데타가 일어난지 얼마 안됐던 때라 사회가 무척 혼란해 미국에서 공부하고 온 몇명의 교수들이 다시 돌아가버리기 일쑤였다. 그래서 학생을 가르칠 사람도 마땅치 않아 박 교수를 부른 것이었다. 그때 그는 남의 이름을 걸고 강의를 하기 시작했다.

강사료는 한시간에 1백원. 박 교수는 3학점의 강좌를 3개 했기 때문에 일주일에 9백원, 한달에 3천6백원을 받았다. 그때는 이미 둘째 아이가 태어났는데, 한달 최소 생계비가 5천원 이상 들었다고 한다. 너무나 가난한 시간강사의 나날이었던 것이다.

“그렇게 어려운 상황이었는데도 공부를 계속하셨던 이유가 있나요?”

“대학을 다닐 때 최윤식 선생님으로부터 우리나라 수학을 일으켜야 한다는 말씀을 들어왔습니다. 최 선생님은 1960년에 타계하실 때까지 14년 간 대한수학회의 회장을 맡으셨죠. 당시에는 그만한 인물이 없었어요. 우리는 그 선생님을 통해 세계를 바라봤습니다.”

박 교수는 그의 스승인 최 교수가 남겨준 3가지 숙제를 해내기 위해 사명감을 갖고 살아왔다. 최 교수는 우리나라의 수학, 서울대 수학과, 대한수학회를 일으켜 세워야 한다고 강조했다.

박 교수는 초창기 수학과 졸업생들이 국내사정이 마땅치 않아 미국 유학을 하고 돌아오지 않거나 왔다 하더라도 다시 가버리는 것을 보고 결심을 했다고 한다. 절대 ‘뜨지’ 않겠다고. 여기에서 논문을 수백편 쓰는 사람이 나올 수 있다는 것을 보여주고 싶었다고.

그는 1970-71년 수학과 주임교수를 맡게 됐다. 해방된지 25년이 지난 그때에도 수학과가 자리를 잡지 못하자, 주변에서 박사를 내지 못했기 때문이라는 얘기가 나왔다. 그래서 박 교수는 그의 선배들이 박사학위를 받도록 하는 임무를 맡았고, 그 결과 수학과에 구제(舊制) 박사들이 오게 됐다. 하지만 그렇게 했어도 예상과는 달리 연구와 교육이 결코 나아지지 않았다.

이즈음 박 교수는 이런 풍토에서는 안되겠다 싶어 유학을 결심한다. 그때가 1972년, 그의 나이 37세였다.

“유학 가시는데는 별 어려움이 없었습니까?”

“대학 졸업 후 폐를 앓아 군대를 못갔죠. 그런데 당시 병역미필자는 만 35세가 지나야 해외로 나갈 수 있는 규정이 있었죠. 그리고 만 12세가 넘어도 안됐어요. 내가 풀리니까 큰아들이 걸리는 거예요. 큰아들을 한국에 남겨놓고 갔다와야 했어요.”

박 교수는 당시 서울대 수학과 조교수였다. 그는 풀브라이트 장학금을 받으려고 인터뷰를 했는데 성적이 잘 안나왔다. 그때 그를 인터뷰했던, 미국인이 그에게 “조교수까지 하는데, 그 나이에 뭐하러 학생을 하려 하느냐”고 물었다고 한다. 그는 “철저하게 학생 노릇을 하겠다”고 대답했다. 그가 국내에서 박사를 직접 배출하기 위해서다.

미국 인디애나대에서 3년 간 박사학위 과정을 밟는 동안 생활형편은 국내에서보다 오히려 나았다. 서울대 조교수 월급은 1백달러가 안됐는데, 미국에서는 3백70달러를 받았다. 하지만 그에게는 외가에 맡겨놓은 큰아들이 항상 마음에 걸렸다. 지금도 “짐승보다 못한 행동이었다”고 당시를 안타까워했다.

“귀국 후에는 어떤 활동을 주로 하셨습니까?”

“1983년에 첫번째 박사를 냈어요. 귀국하고 7-8년만에 이뤄진 거죠. 이후 20여년 동안 12명의 박사를 만들었습니다. 그런데 내 밑에서 공부를 하겠다는 학생들이 대체로 여건이 좋지 않아 외국 유학을 할 수 없는 형편이었어요. 그 학생들을 키우다보니 20년 동안 내가 공부를 했죠. 제자들의 눈높이에 맞추다보니 낮은 수준에서 시작해 계속 수준을 올려온 것입니다.”

박 교수는 그의 밑으로 들어온 제자들을 한명도 실패시킨 경우가 없다. 자신이 20대에 연구경력 1년을 못채워서 허비한 시간 때문에 제대로 돌봐줘야 한다는 생각이 강했다.

한편 귀국 후에도 대한수학회에 활발히 참여했다. 미국 가기 전에는 수학회지를 만드느라 직접 교정을 보고 공장에서 인쇄되는 것을 지켜봤다. 그리고 1982-84년 학회의 7대 회장을 맡았다. 이때 그의 나이는 40대 후반. 학회장을 하기에는 이른 나이였다.

이와 함께 박 교수는 1990년대 초까지 한국과학기술단체총연합회 이사, 서울대 교수협의회 부회장 등 다양한 대외활동을 했다.

“교수님은 수많은 논문을 쓰셨는데, 이렇게 바쁜 와중에도 언제 그렇게 논문을 쓰셨나요?”

“1966년 전임강사가 됐을 때부터 세미나를 시작했어요. 당시에는 대학원 강의를 하고 싶었지만 부교수 이상이어야 한다는 당시 규정 때문에 대신 세미나를 한 거죠. 그렇게 시작된 세미나가 30여년 간 계속됐어요. 많은 학생들이 들락날락했죠. 이를 통해 같이 공부하고 연구거리를 찾아 같이 고민하고 발표도 하고 했죠.”

하지만 박 교수가 1990년대 들어 논문을 상당히 많이 쓸 수 있었던 까닭은 대외활동의 중단 때문이다. 1990년대 초까지 그는 수학과, 수학회, 교수협의회 등에서 주요 자리를 역임했다.

하지만 첫 손녀의 탄생이 그를 안으로 끌어들였다. 주말이면 손녀를 보는 재미에 중요한 일 외에는 약속을 잡지 않았다. 덕분에 그는 연구에 매진할 수 있었다. 그러다보니 ‘사회적 수요가 거의 없어져서’ 국제활동으로 눈을 돌렸다고 한다. 학회 참석, 강연, 공동 연구 등으로 1년에 5-6차례 외국에 나다니게 됐다.

“교수님은 위상수학을 전공하셨지만 수학의 다른 분야인 비선형해석학을 주로 연구해오셨습니다. 관심의 변화 때문인가요?”

“대학 다닐 적에는 논리나 철학적인 면이 강했던 수학기초론에 관심이 많았어요. 수학에서 기본적인 것이 무엇일까가 항상 궁금했어요. 그런데 대학원 석사 지도교수님이 위상수학을 전공하셨던 분이었어요. 여러 선배들이 수학기초론은 너무 어렵고 연구자들끼리나 서로 죽이 맞아 얘기하는 분야라고 하면서 위상수학을 하라고 권했어요. 당시에는 잘 이해도 못하면서 석사학위 논문을 이 분야로 썼습니다.”

박 교수의 박사학위도 위상수학이 주제였다. 그런데 석사부터 시작하는 제자들이 아래 단계부터 차근차근히 밟을 만한 수준의 문제가 위상수학에는 없었다.

대신 비선형해석학은 범위가 넓어서 학생들이 접근할 수 있는 분야도 있고, 또한 유용하기도 했다. 이 분야로 전환한 초기에 박 교수는 기초부터 공부하기 시작했는데, 나중에는 외국으로 불려다닐 정도로 인정을 받았다.

“지난해 교수님께서는 ‘수학의 철학’이라는 번역책을 내셨던대요. 철학에 대한 관심은 여전하신 건가요?”

“한때는 수학을 접고 철학을 공부하려고 생각했던 적이 있습니다. 19세기말부터 20세기에 들어 수학에는 많은 철학자가 등장했거든요. 저 역시 이 분야를 하고 싶었지만 국내에는 가르치는 사람도, 아는 사람도 없었어요.”

박 교수는 연구활동과 대외활동 때문에 철학으로 깊이 파고들지는 못했다. 하지만 관심은 꾸준히 있었다. 그러다가 이 책을 만나 틈틈히 공부하면서 번역했다. 그 일이 15년이나 걸렸다. 퇴직 후에야 집중적인 마무리 작업을 할 수 있었는데, 무리하다 얼굴 한쪽이 뒤틀리는 구안괘사를 겪기도 했다.

박 교수는 현재 1년에 2개의 강의를 맡고 있다. 교양강좌인 ‘수학의 세계’와 4학년의 ‘수학사’다. 이 두과목은 그가 도맡아 해온 과목이다. 여기에서는 어떤 사고체계에 의해 개념이 형성됐으며 그 과정에서 어떤 논의가 이뤄졌는지를 학생들에게 전달하려는 것이다. 이를 통해 학생들이 큰 안목을 갖고 자신의 전공분야를 바라볼 수 있게 하려는 의도가 담겨 있다.

“최근에도 논문을 계속 쓰신다고 하셨는데요. 앞으로의 계획은 어떠십니까?”

“수학의 철학을 완결하다보니 한 2년 동안 공부를 안했어요. 그러다가 요 2달 사이에 7편의 논문을 정리했습니다. 육군사관학교 교수를 하던 제자가 일반대학으로 자리를 옮겼는데, 그와 함께 공부를 하고 있습니다. 요즘에는 밤중에 갑자기 전에 안보이던 영감이 떠오르는 것이 많아요. 그래서 집사람이 또 아플까 봐 걱정을 합니다.”

박 교수는 연구에 대한 열정이 아직도 남다르다. 그에게는 아직도 수학의 봇물이 터지고 있는 것이다. 퇴직을 해서 연구비가 나오지 않는 상황이지만 그에게 힘이 남아있는 한 연구를 계속할 듯하다.