d라이브러리

강낭콩 3알과 좁쌀 2알을 합하면 몇 개죠? 한 알, 두 알, 세 알, 네 알, 다섯 알. 아라비아 숫자로 하면 5예요. 너무 쉽다고요? 뭐 지금이야 5살 꼬마도 숫자를 알겠지만 지금으로부터 딱 100년 전만 해도 대부분이 숫자도, 셈도 몰랐어요. 저도 20살이 넘어서 알았고요.

우연히 수원에 있는 차씨 서당에 하룻밤 묵었는데 여기서 숫자로 덧셈과 뺄셈을 가르치는 걸 봤어요. 당시 그 광경을 보고 감탄을 금치 못했어요. 이렇게 쉽고 편리한 것이 있다니 놀라울 따름이었죠. 이후 서양 수학을 찾아서 공부했어요.

그런데 저만 알고 있으면 뭐하겠어요. 이렇게 편리하고 유용한 걸 많은 사람이 알아야죠. 당시에는 정말 극소수만이 수학 교육을 받을 수 있었어요. 그래서 무작정 종로네거리로 나갔어요. 매일 같은 시간에 같은 장소에서 아라비아 숫자와 덧셈, 뺄셈을 가르쳤어요. 처음에는 제가 무엇을 하는지 궁금해서 모였던 사람들이 나중에는 수학의 재미에 푹 빠져 하루도 빼놓지 않고 수업을 듣기 위해 모였죠.

1912년에는 중국어와 수학을 가르치는 중동학교에서 학생들을 가르쳤어요. 문제는 3년 뒤 벌어졌어요. 중동학교가 무료로 건물을 사용하고 있다는 사실을 조선총독부가 알고 건물을 비워달라고 한 거예요. 돈이 없어서 학교 문을 닫자는 의견이 많았어요. 그런데 당시에는 우리나라 사람이 세운 학교를 폐교하는 일은 쉬웠지만, 새로 설립하기는 매우 어려웠거든요. 폐교만은 필사적으로 막아야겠다고 생각했어요. 결국 가족과 지인들의 반대를 무릅쓰고 제가 학교를 인수했어요. 교장부터 교사, 직원 역할까지 1인 다역을 하면서 학교를 운영했죠. 처음엔 24명이던 학생수가 6년 뒤에는 1000여 명까지 늘어나 참으로 보람됐어요.

중동학교는 수학 특성화 학교예요. 1915년 1회 수학과 졸업생을 배출했죠. 졸업생 대부분은 일선 학교에서 수학 교사로 활동했어요. 수학 인재를 양성하기 위해 장학제도를 도입해서 성적이 우수한 학생은 수업료도 면제해 주고 일본에 유학도 보내줬어요. 광복 후 중동학교를 수학 특성화 대학으로 만들고 싶은 꿈을 실현하기 위해 백방으로 노력했는데, 남북이 분단되면서 무산됐어요. 중동학교 터가 북한 땅이 됐거든요.

고등학교를 졸업하고 교사 생활을 하다가 미국으로 유학을 갔어요. 일제강점기에 어떻게 유학을 갔냐고요? 당연히 일제의 눈을 피해 몰래 갔죠. 우선 선교사의 도움을 받아서 중국 상하이로 갔어요. 거기서 중국 사람으로 변장을 한 뒤 미국으로 가는 배에 올랐죠. 들킬까봐 얼마나 조마조마했는지 몰라요. 다행히 무사히 미국에 도착했고, 선교사의 추천서 덕분에 매사추세츠에 있는 마운틴호먼고등학교에 입학할 수 있었어요.

고등학교 졸업 후 오하이오 웨슬리언대에서 수학을 공부하고, 이어 오하이오주립대 대학원에서 석사 학위를 받았어요. 강의를 하면서 박사 과정까지 수료했죠.

유학 생활 당시 조국의 상황이 좋지 않아 걱정이 많이 됐어요. 특히 3·1운동 당시에는 잠자코 볼 수가 없더라고요. 저도 ‘재미 한국 독립운동 동지회’를 통해 독립운동에 참여했어요. 이후에도 독립운동 자금을 모으기 위해 힘썼죠. 이게 문제가 돼서 1938년에는 옥살이도 했어요. 교수직도 박탈당하고요.

유학을 마치고 귀국해서 연희전문학교 수물과에서 학생을 가르쳤어요. 나중에 들으니 대학에서 수학을 전공한 우리나라 사람이 교수가 된 게 제가 처음이라고 하더라고요. 당시 국내에는 대학이라는 게 없었으니까요. 저처럼 외국에서 유학을 해야 하는데, 그게 또 쉽지가 않고요.

전문학교는 대학보다 하나 아랫단계의 교육기관이었어요. 광복 후에 대학으로 승격됐죠. 하긴 전문학교에서 서양 수학을 가르친 지도 이제 100년밖에 안 됐어요. 1915년 연희전문학교에 수물과가 생기면서 학생들이 서양 수학의 대표인 미적분학을 배울 수가 있었거든요.

전 인복도 많았어요. 연희전문학교에서 재직할 당시 수학적 재능이 탁월한 제자가 많이 있었거든요. 대표적인 학생이 장기원이에요. 하나를 알려주면 열을 하는 학생이었어요. 후에 훌륭한 수학자가 됐죠.


조선시대에 쓴 수학책을 찾아 전국 곳곳을 다녔던 것 같아요. 수학책이 있다는 정보를 얻으면 어디라도 달려갔어요. 틈나는 대로 사찰 서가와 도서관, 서점에 있는 고서들도 빠짐없이 살펴봤어요. 왜 그랬냐고요?

연희전문학교 졸업 후 일본 도호쿠제국대학에서 수학을 공부했어요. 여기 교수님 중에 후지하라 마쓰사부로라는 분이 있는데, 일본과 중국의 수학사에 정통했죠. 과거를 아는 것도 중요하다면서 선진국에서는 수학사 연구를 활발히 한다고 알려줬어요. 그런데 이 말을 듣는 순간 머리가 띵했어요. 우리나라에서는 수학사를 연구한다는걸 들어본 적이 없었거든요. 나부터 우리나라 수학사를 연구하자고 마음을 먹고 조선시대 수학에 대해서 알아보기 시작했어요. 나중에 알고 보니 한국수학사 연구는 제가 최초라고 하더라고요. 하하.

팔도를 돌아다닌 결과 주옥같은 수학책을 많이 발견했어요. 조선 중기 수학자 경선징이 지은 <;묵사집산법>;, 조선 후기 수학자 최석정이 쓴 <;구수략>;, 조선 후기 수학자 남병길이 지은 <;산학정의>; 등이죠. 이중에서도 조선 후기 수학자 이상혁 선생님의 <;산술관견>;은 조선시대 수학의 우수성을 알 수 있는 아주 좋은 사료예요. 서양 수학을 뛰어넘는 독창적인 수학 연구가 담겨 있었거든요. 당시 일본 수학자가 이 책을 보고 전대미문의 경지에 오른 놀라운 수학책이라고 평했을 정도예요. 최석정 선생님이 스위스의 수학자 레온하르트 오일러보다 61년이나 더 빨리 마방진을 만들었다는 사실도 제가 <;구수략>;을 발견한 덕분에 알아낼 수 있었죠.

수학사 말고도 물론 여러 가지 연구를 했어요. 그중에서도 4색 문제를 해결하기 위해 오랜 기간 공을 들였어요. 4색 문제란 평면에 그려진 지도에서 이웃하는 영역을 서로 다른 색으로 칠할 때 4가지 색으로 전체를 다 칠할 수 있는지 묻는 문제예요. 1952년 영국의 수학자 프랜시스 구드리가 처음 제시했죠. 저 말고도 영국의 수학자드 모르간부터 독일의 수학자 다비드 힐베르트까지 수많은 수학자들이 증명을 시도했어요.
 

1960년 당시 저는 진짜 이 문제를 풀었다고 믿었어요. 안타깝게도 오류가 발견돼서 도전에는 실패하고 말았죠. 그래도 당시에 제가 사용한 방법이 기존에 없던 새로운 방법이라 높은 평가를 받았어요. 소식을 듣자하니 1976년에 컴퓨터로 이 문제를 해결했다고 하는데, 개인적으로 매우 아쉽네요. 수학자가 이론적인 증명으로 해결했어야 하는데 말이죠.

1947년 당시에는 세계 수학의 흐름을 알 방법이 전혀 없었어요. 외국의 학술지나 전문 도서가 국내로 들어오지 않았거든요. 그런데 아주 운이 좋게도 남대문 시장 쓰레기 더미에서 출판된 지 1년도 안 된 최신 수학 학술지 <;미국수학회보>; 한 권을 주웠어요. 그게 어떻게 거기 있었는지 아직도 아리송해요.

집에 돌아와서 <;미국수학회보>;를 꼼꼼히 보는데 문제 하나가 눈에 들어오더라고요. 보통은 내가 이런 문제를 이렇게 풀었다고 소개하는데, 미국의 수학자 막스 초른 교수는 대체 이 문제의 답이 뭔지 모르겠다고 써놨거든요. 그런데 전 답을 금세 알겠더라고요. 그래서 답을 적어 그 사람에게 편지를 보냈죠. 논문도 대신 내달라고 부탁했어요. 어떻게 하면 학술지에 글이 실리는지 전혀 몰랐거든요.

친절하게도 <;미국수학회보>;에 제 이름으로 논문을 내셨더라고요. 이게 해외 저명학술지에 실린 한국인 최초 논문이래요. 웃긴 건 제가 오랫동안 이 사실을 몰랐다는 거예요. 그만큼 당시 상황이 열악했죠.

1950년 광복이 됐지만, 한국 전쟁으로 나라가 너무 어수선했어요. 하루 빨리 외국에 나가서 공부를 하고 싶었죠. 그러던 중 기회가 찾아왔어요. 미국공보원에서 수학 잡지를 보다가 눈에 띈 논문을 보고 부족한 점을 지적하며 이 대학에서 공부하고 싶다고 편지를 보냈는데, 장학금을 주겠다며 공부하러 오라는 거예요. 전 신이 나서 당장 가겠다고 답을 했고, 캐나다 브리티시컬럼비아대에서 수학을 공부했어요.

학비는 장학금으로 충당한다고 치고 경비는 어떻게 구했냐고요? 제가 번역한 미적분학 책이 베스트셀러가 되는 덕분에 경비를 마련할 수 있었어요. 경성제국대학 재학 당시 홍임식 선생님의 추천으로 책을 번역했는데, 당시에는 우리말로 된 미적분학이 하나도 없어 많은 대학에서 제 책으로 공부했거든요. 운이 정말 좋았죠.

불행은 2년 뒤에 찾아왔어요. 비자를 연장하기 위해 한국 영사관을 방문했는데 당장 고국으로 돌아오라며 여권을 빼앗겼거든요. 전 공부를 택했고 무국적자가 되었죠. 계속 캐나다에 머물렀기 때문에 나중에 캐나다 시민권을 얻었어요. 물론 한동안 고국에 갈 수가 없었어요. 그리운 가족도 볼 수가 없었죠. 1980년대에 헝가리의 수학자 폴 에르되시가 북한에 있는 제 어머니와 누이동생 사진을 보내줘 본 게 다였어요. 그런데 이게 또 문제가 됐어요. 북한에 있는 사람과 교류한 흔적이 있다는 이유로 공산주의자라는 의심을 받았거든요. 1996년에나 한국에 올 수 있었답니다. 

저의 대표적인 수학 업적은 새로운 단순군을 발견한 거예요. 유명한 수학자들이 이 개념과 관련해 여러 문제를 해결하면서 유명해졌고, ‘리(Ree)군’이라는 이름도 붙여줬죠. 단순군은 군론의 개념 중 하나로, 현대 수학의 중요한 문제라고 할 수 있어요. 이 업적으로 캐나다 학술원 회원이 되었어요. 세계 여러 인명사전에 제 이름이 올랐고요.