학생시절을 생각하면 나는 동경대공습, 국대안반대소동, 전시연합대학 따위밖에 떠오르지 않는다. 솔직히 말해서 언제 어떻게 무슨 책으로 공부를 했는지조차 말할 수 없을 것만 같다. 그당시 나는 수학을 좋아하긴 했으나 평생 수학을 하겠다고 마음먹은 정도는 아니었다. 지금은 종합대학마다 수학과가 설치되어있지만, 내가 대학진학을 할 때만해도 수학과가 있는 대학은 극히 소수였다.
대학은 공과대학을 택했지만 그중에서도 광산과였으니, 가장 수학과 인연이 먼 분야였다. 그러나 어쨌든 전쟁으로 강의가 폐지되다시피 한 상황에서 공부를 제대로 할 수 없는 형편이었으니, 무슨 과를 택한들 결과가 신통치 않을 것은 마찬가지인 것 같았다.
●―철학의 세계에 몰두
해방후 일본에서 돌아온 우리 귀향가족을 기다리던 것은 여순반란사건을 비롯한 극심한 혼란상황이었다. 그러나 극한 상황으로부터의 탈출구를 나는 정신적인데서 구하려고 했다. 정신적 안정의 소망은, 이 세상에서 진실한 것은 무엇이고 영원불멸의 진리는 무엇인가라는 철학적인 문제로 나를 이끌게 했다. 사회적 가치관과 전통적인 윤리관이 무력화되어가던 세월의 흐름속에서 젊음을 긍정하고 삶의 보람을 느끼고자 발버둥쳤던 일이 안타깝게 떠오른다. 변덕스러운 것이 세상이라면 그 반대로서라도 변하지 않는 것을 찾고자 골똘히 생각하였다.
그무렵 플라톤의 이데아설에 도취했고, 영원히 변치않는 것은 수학의 진리의 세계라고 믿게 되었다. 당시만 해도 수학책이 매우 귀했을 때였다. 누가 좋은 책을 가졌으면 이해하려기보다 우선 베껴쓰기부터 했었다. 가끔 기호 하나를 잘못 쓰고서 그 때문에 며칠을 허비한 일도 있었다.
총소리를 들으면서도 등잔불 밑에서 수학문제와 씨름한 일이 생각난다. 물론 수준은 그리 높은 것이 아니었지만, 그속에 담겨져 있는 수학적인 엄밀성에 매료되어 혼자서 즐거워 했었다. 미적분에서 함수론으로 넘어가면서 수학의 오묘한 맛을 본 것 같아 형용할 수 없는 희열을 느낀 것도 그 무렵이었다.
그러는 사이에 대학 시간강사로 나가게 되자, 나의 실력 이상의 책임을 맡게되어 벅찬 긴장속에서 신바람이 나기도 했다. 그때 나는 진짜로 땀나는 강의를 했고 한 시간의 강의를 위해 며칠간의 준비를 했었던 기억이 난다.
●―진리란 구축해야 하는 것
'버틀란트 러셀' '폴 발레리' 등 서구의 지성인들은 거의 어김없이 기하학적인 정신을 구현했다. 이들이 실제 수학자였거나 수학적 교양이 깊었다는 사실을 알고는 큰 감명을 받았다. 수학적인 사고패턴을 지닌 사상가의 저서는 그 내용 자체보다도 저자의 사유세계 자체를 들여다볼 수 있다는 면에서 더큰 매력을 느낄 수 있었다.
나는 그후에도 기회가 있을 때마다 이러한 타입의 지성인들의 저서를 읽었다. 라이프니츠, 괴테, 헤세 등에게 공통되는 것은 그들이 천재였다는 사실에만 그치는 것이 아니었다. 그들이 천재일 수 있었던 이유는 그들의 생애가 파란만장했었다는 것과 더불어 그 생애 전반에 걸쳐 쉬임없이 자신의 능력을 발휘했다는 것에 있었다. 무엇보다도 이들 지성인들이 지녔던 매력은 '자신을 예술화시켰다'는 점이었다.
내가 가장 큰 충격을 받았던 것은 '힐버트'(Hilbert)의 '기하학기초론'을 읽었을 때였다. 그는 수학적 진리란 절대적인 것이 아니라 인간이 생각한 가설 위에 구축된 하나의 논리적인 체계에 불과하다고 설명했다. 실제로 그는 기하학에서의 기본개념인 점, 직선, 평면 대신에 컵, 책상, 펜을 써도 상관이 없음을 증명했다. 분명히 현대수학은 힐버트가 간파한대로다.
진리는 구하는 것이 아니라 구축해야 된다는 사실은 무거운 책임을 느끼게 했고, 때로는 그것으로부터 도피하고 싶기조차 했다. 그러나 결국 나는 수학을 포함한 나의 학문은 반드시 나의 삶을 긍정해주는 것이라야 한다는 믿음에 도달하게 되었다. 이러한 생각이 오히려 관념의 유희에서 벗어나 학문에 생명력을 느끼게 한다. 수학을 절대진리로 믿었던 학생시절의 미숙한 수학관이 오히려 흐뭇하고, 그때의 정열이 '알트 하이델베르크'를 노래하고 희생된 왕자보다도 더 멋지게 여겨지는 것이다.
●―공부벌레의 천국, 캐나다
미국에서 석사과정을 이수할 때 수치해석(Numerical analysis), 그러니까 전자계산기를 중심으로 한 수학을 공부했다. 그때만해도 자동판매기에서 김이 모락모락 나는 따뜻한 커피가 나오는 것이 신기하게 느껴질 때였다. 전자계산기에서 처리되어 나오는 여러가지 일들이 정말인가 싶어 믿기지 않을 정도였다. 미국에서 공부할 분야는 이것이라는 생각이 들었다. 내가 어쩌다 행렬(matrix)의 고유치 계산에 새로운 방법을 하나 발견한 것이 동기가 되어, 최신유행인 전자계산기 분야에 소질이 있다고 착각, 무척 기뻐한 것도 그 무렵의 일이었다.
석사과정을 마치고 한국에 돌아와보니 그때까지 한국에는 전자계산기는 실용화 단계에도 미치지 않고 있었다. 1962년 다행히 전북대학 수학과에 자리가 있어 그런대로 안착할 수 있었다. 그러나 막상 대학교수가 되고 보니 전부터 마음먹은대로 순수수학에 대한 생각때문에 견딜 수 없어 곧 다시 캐나다로 유학을 떠났다.
지금까지 나의 생애를 통해 캐나다에 있을 때처럼 기분좋게 공부한 기억이 없다. 수학학술지를 무료로 나누어주었고, 책이며 논문은 필요하면 얼마든지 요구대로 알선받았다. 박사 한사람을 배출하기위해 성의껏 후원해 해주는 캐나다 당국의 태도가 피부에 느껴졌다. 공부벌레들에게는 다시없는 그야말로 '천국'이었다.
그러나 경쟁은 치열했다. 학교와 시내 사이에 큰 강이 있고 높은 다리를 가설해 놓았다. 그 다리를 언제부터인가 '자살의 다리'라고 부르고 있었다. 공부에 실패한 사람이 가끔 자살을 했기 때문이라는 것이다.
소련을 비롯한 동유럽 여러나라와의 빈번한 학술교류로서, '콜모고로프'가 이끄는 소련의 '콜모고르학파'는 세계적인 수학 연구집단으로 유명하다. 이밖에 동유럽권에는 미국이나 서유럽 못지않게 세계수준급의 수학자들이 득실거리고 있었는데, 이들이 빈번하게 내왕하면서 수학이라는 공동목표 하나를 놓고 학술정보를 교환하는 모습은, 당연한 일이라 해도 한국적 상황에만 낯익은 나에게는 신기하게 느껴졌었다. 일주일이 멀다하고 세계 여러나라에서 그야말로 사상 종교 인종의 구별없이 이곳을 찾아온다. 초청강사들의 특강은 교수와 학생의 연구에 큰 자극제가 되는 것은 두말할 나위도 없다.
박사학위란 본격적인 연구를 할 수 있는 자질을 인정받는 것, 그러니까 공부의 끝이 아니라 시작을 뜻하는 것이다. 연구생활은 평생토록 계속해야 하는 것인데, 그 정열은 학문 그 자체에 대한 애착없이는 지탱하지 못한다.
●―수학의 역사는 언어의 역사
인간의 중요한 특징은 말을 사용함으로써 서로 의사를 통하고 정보를 교환한다는 점이다. 인간이 다른 동물과 확실히 다른 존재가 된 것은 수십만년을 넘은 먼 옛날부터이다. 인간을 인간으로 만든 첫 시작은 성서의 첫 구절대로 '태초에 말씀이 있었다'였다. 말 즉 언어야말로 인간을 다른 동물과 구별하는 중요한 특징이다.
그러나 수학이 시작된 것이 언제쯤의 일인가를 가늠하기는 쉬운 일이 아니다. 인간이라면 아무리 미개한 상태에 있었다 하더라도 1, 2, 3… 정도의 개념은 알고 있었을 것이고, 크게보면 그것이 이미 수학의 시작이라고 할 수도 있다. 그렇다면 그 역사는 수만년 전까지 거슬러 올라갈 수 있다. 어림잡아 5천년쯤 전에는 이미 국민학교 정도의 수학이 체계화되어 있었다. 고대문명을 창조해낸 이집트, 바빌론, 중국, 인도 등에서는 상당한 수준의 수학이 만들어져 있었다.
수학의 역사는 언어의 그것과 평행선을 그으면서 이루어졌다고 할 수 있다. 언어란 생각하는 바를 구체화시키는 기능이며, 또 인간의 사고에는 처음부터 수의 개념이 따랐기 때문이다. 각 민족마다 언어는 다르다. 그러나 1, 2, 3…의 수개념은 같다. 수학이 발달하면서 인류는 이 '언어'를 더욱더 다듬어 보편적인 인간의 언어로 만들어가고 있는 셈이다.
언어를 가지고 있는 동물은 인간뿐이다. 따라서 아무리 지능이 높다해도 인간이외의 동물은 사물을 일관성있게 관찰할 수는 없다. 수학 역시 언어와 같은 성격을 지닌다. 가령 '2'라는 수는 지금 책상 위의 연필뿐만 아니라 교실안의 두 학생, 도로 위의 두 대의 자동차에도 쓰일 수 있다. 가령 더하기 연산 역시 그렇다. 두개의 연필, 두개의 돌을 합할 때에 적용된다. 이것은 무언가 특별한 것을 대상으로 하는 계산이 아니라 널리 일반적으로 이용되는 셈법인 셈이다. 이와같이 수학에서 사용하는 글이나 셈은 모두 일반성을 지니고 있기 때문에 한가지 내용일지라도 일단 그 뜻을 알기만 하면 많은 경우에 적용시켜 쓸 수 있는 지혜를 얻어내는 결과가 된다.
특수한 언어로서의 수학은 기호적인 방법을 적극적으로 이용한다. 이를테면 삼각형 ABC 라고 쓰는 대신 △ABC로 쓴다. '△'기호가 '삼각형'이란 말보다 훨씬 선명하게 내용을 전달할 수 있다. 기호가 의미를 빨리 전달하는 기능을 실감나게 하는 보기로서 고속도로변의 여러가지 표시물들을 들 수 있다. 고속으로 달리는 자동차 운전수는 글을 읽을 시간이 없다. 그래서 순간적으로 의미를 전달하는 그림이 이용된다. 이것은 고속시대에 새로이 발명된 '상형문자'라고도 할 수 있다. 고속도로에는 외국인 운전수도 많이 다닌다. 이들도 곧 알 수 있도록 한 표식은 '범인류적'이다. 수학의 기호 역시 국제적인 상형문자이다. 그러므로 수학자는 기호를 잘 만들어 논리를 효과적으로 전개한다.
수학의 기호는 오랜 역사를 거쳐 다듬어진 탓인지 쉽게 알 수 있게 만들어져 있다. 또 내용에 비교하면 기호의 수는 비교적 적다할 수 있다. 그뿐만아니라 한번 기억해두면 그후로는 쉽게 수학을 이해할 수 있어서 아주 편리하다. 그러나 일단 만들어진 수학의 언어는 스스로의 세계를 형성한다. 보편성이 있기에 냉엄하고 그러기에 좀처럼 접근하지 못하는 인공의 우주가 되어버리는 것이다. 그러나 그 순수성 때문에 넓은 응용범위가 있다. 20세기의 수학은 경제학, 심리학, 언어학 등 온갖 분야로 확산되고 있다.
●―수학자의 고민
수학의 노벨상에 해당하는 필즈상은 40세 이하를 대상으로 하고 있다. 수학자의 나이를 권투선수와 빗대어 말하는 사람도 있다. '러셀'은 자살을 시도할만큼 삶의 회의를 느꼈으면서도 수학을 연구하는 재미에서 삶의 의의를 찾았다. 그러나 그의 수학에 대한 정열과 천재성도 30세가 넘어서자 이미 한계를 느껴 철학에 빠지기 시작, 40세에 이르러서는 그 지력도 쇠퇴하였다고 보고 문학과 역사에 심취했고, 말년에는 정치 경제의 현실참여도 하였다. 나는 어느새 그를 사숙하게 되었다. 수학의 추상성에 시달렸던 나는 한국수학사에 관심을 가지게 되었다. 늘 뒤를 쫓기는듯했던 젊은 수학도들의 훌륭한 업적도, 그후에는 하나도 부럽지가 않았고 오히려 진심으로 그들을 축복하는 마음의 여유도 생겼다.
순수수학에서 수리철학, 수학사, 과학사를 보아왔고, 이제는 문명비평의 분야에까지 발을 디뎠다. 암벽등반과 같은 추상세계의 길을 걸어온 한 수학연구가가 어느새 수학의 산을 관망하는 즐거움을 얻게되었고 수학에관한 계몽서의 저술에 흥미를 느끼게 되었다.
한국수학사와 일본수학사의 비교에서 수학이 문화적 전통과 시대사조를 민감하게 반영하고 있음을 깨닫고 매우 강한 지적인 자극을 받았다. '슈펭글러'가 '서양의 몰락'에서 말한 것처럼 일정한 시대의 문화양상을 수학으로 상징할 수 있음을 통감한 것이다.
한·일의 가치의식과 한국의 전통성에 관하여 강한 호기심을 느끼며 몇 권의 저술을 출간했다. 그러나 이런 저술활동중에서 나는 무의식 중에 수학의 입장을 늘 고수하고 있었음을 지각한다. 즉 처음에 가설(공리)을 설정하고, 그 기반 위에서 연역적으로 이론을 전개하여 사회현상과 대조한다. 그리하여 이해못할 문제가 제기될 때는 다시 가설을 검토해 나간다.
나는 요즘 젊었을 때의 논리적인 지성이 나이와 더불어 쇠약해져감을 의식한다. 하지만 그만큼 철이 들어감을 인식하고 있다. 수학에서 출발한 나의 지적 모험은, 세월과 더불어 새로운 지적대상을 추구하면서 나날이 삶을 보람있고 알차게 엮어줄 것으로 믿고 있다. 인간의 탐구로 시작된 나의 수학은 이제 나의 존재를 묻는 자리에까지 돌아온 것 같다.
