수학사에 등장하는 수많은 수학자들 중에서 특이한 점을 지니고 있는 세 수학자를 소개한다. 이들은 모두 20세기 초반에 활동한 공통점을 지니고 있다.
함수론에 큰 업적 남긴 라마누잔(Srinivasa Ramanujan. 1887~1920)
여러분은 수학사나 레크리에이션수학에서 1729라는 숫자를 접해 본 적이 있을 것이다. 1729는 두개의 세제곱수의 합으로, 두 가지로 표현될 수 있는 제일 작은 수다. 즉, ${1}^{3}$＋${12}^{3}$＝1729＝${9}^{3}$＋${10}^{3}$이다. 지금은 잘 알려진 사실이 되었지만, 이것을 척 보고 알아낸다면 어떨까? 분명히 천재임에 틀림없을 것이다.
이 천재, 특히 수에 대한 천재성을 갖고 태어난 사람이 라마누잔이다. 인도사람들의 수학에 대한 공헌이 적지 않지만, 현대 인도수학을 얘기할 때 꼭 나오는 사람이다. 당시에는 결핵으로 알았지만 나중에 밝혀진 바로는 비타민결핍증으로 32세의 나이로 세상을 떠난 라마누잔의 생애는 여러모로 특이한 점을 보여준다.
첫째 수학에 대한 정규교육을 거의 받은 적이 없음에도 불구하고 엄청난 업적을 남겼다는 것이고, 둘째는 수에 대한 직관력은 천재라는 말로도 부족할 정도의 능력을 보였다는 것이다. 라마누잔은 1887년 12월 22일에 인도 남부에서 태어났다. 그의 아버지는 포목상의 가난한 점원이었다. 그의 수학적 능력은 일찍 발견돼 7세에 한 고등학교에 가도록 장학금을 받았다. 같은 반 친구들 앞에서 원주율 π의 값을 여러 자리 외우는 등 수학공식을 암송하곤 했다고 한다. 12세에는 삼각함수에 관한 교과서(Plane trigonometry)를 떼고, 15세에는 주로 증명이 없는 6천개의 정리를 모은 책(Synopsis of results in pure mathematics)을 보았다.
영국으로 건너가
이 두 책이 라마누잔의 수학적 훈련의 전부였다. 그는 1903년에 한 대학에 들어갔으나 수학 외에는 거들떠 보지도 않아 결국 중퇴하였고 4년 뒤에 다른 대학에 갔으나 역시 같은 과정을 밟게 되었다. 수학만을 하고 싶었지만 1909년에 결혼을 함으로써 직업을 찾게 되었는데 다행히도 1910년에 수학을 좋아하는 한 후원자를 소개받아 매월 도움을 받았다. 좀더 안정된 직장을 갖고자 2년 뒤인 1912년에 서기로 취직을 했는데 그 회사의 사장은 영국의 고급기술자였고, 매니저는 1907년에 시작된 인도수학회의 설립자였다. 이 시기는 영국의 인도 통치기간이었다. 두사람은 라마누잔의 재능을 아껴 그의 몇가지 연구결과를 세사람의 영국 수학자에게 보내게 했다. 두 사람은 답이 없었고, 한 사람이 관심을 표했는데, 그가 당대 제일 가는 수학자인 케임브리지대학의 하디(G. H. Hardy, 1877~1947)였다.
1백20개의 공식과 정리가 담긴 라마누잔의 편지는 1913년 1월 16일에 도착했는데, 워낙 엉터리 수학자들의 편지가 많아 이에 시달려온 하디는 처음에는 이 편지를 무시해 버렸다. 그러나 저녁 식사 후에 한 친구 수학자와 같이 라마누잔의 편지를 몇 시간에 걸쳐 읽어 보고는 엉터리가 아니라 진짜 천재를 만나게 되었다는 결론을 내리게 되었다. 하디는 나중에 수학적 재능의 지수를 매겨 본다면 같이 있던 그 친구는 30, 하디 자신은 25, 당대에 세계에서 제일 가는 수학자 힐베르트(D. Hilbert, 1862~1943)를 80을 주는 반면, 라마누잔은 100이라고 고백한 적이 있다.
이로써 영국과 그 식민지인 인도 수학자간의 역사적 교류는 시작되었다. 하디는 즉각 라마누잔을 케임브리지로 초청했는데 라마누잔은 어머니가 극력 말리고(모든 어머니는 항상 자식이 멀리 떠나가는 것을 싫어하는 법이니까) 스스로도 주저하는 바가 없지 않았으나 결국 1914년 3월에 영국으로 떠났다. 이후 5년 동안 라마누잔과 하디는 케임브리지의 트리니티대학(Trinity College)에서 함께 연구했다. 둘은 호흡이 잘 맞아 많은 업적을 내었다.
1917년에 라마누잔은 영국 왕립학회와 트리니티대학의 이사로 선임되었다. 인도인으로서는 최초의 영광이었지만 불행하게도 그의 건강은 급속히 악화되고 있었다. 전쟁통에(1차대전) 잘 먹지 못했기 때문인데 그는 요양소를 들락날락하면서도 연구를 멈추지 않았다. 1919년(3.1 운동이 있었던 해)에 그는 인도로 돌아갔는데, 안타깝게도 그 다음해에 세상을 떠났다. 그 원인이 심한 비타민결핍증이라는 사실이 더욱 가슴을 아프게 한다.
3월 14일을 π의 날로
그는 함수론 급수론 수론 등에 업적을 남겼는데 여기서는 원주율 π와 관련하여 얘기하고자 한다. π는 잘 알려진대로 원의 지름과 원둘레의 비(比)다. 이 숫자는 3.14159…로 우리가 외우고 있는 값이다. 보통의 계산에서는 이 정도면 충분하고 만약 우주라는 구의 둘레를 수소원자 크기의 정확도로 계산한다고 하더라도 소숫점이하 39자리면 충분하다.
그런데 역사적으로 보면 이 값을 더 정확히 계산하기 위하여 많은 노력이 기울여졌음을 알 수 있다. 1874년에는 섕크스(W. Shanks, 1812~1882)가 7백7자리까지 계산하였는데 안타깝게도 1946년에 페르구손(D. F. Ferguson)에 의해 5백28자리부터 틀려나갔음이 밝혀졌다. 이런 어려움은 손으로 계산하는 데서 오는 것으로서 컴퓨터의 등장으로 훨씬 더 많은 자리수의 값이 정확하게 계산되고 있다.
최근의 기록을 보면 1987년 1월에 1억3천3백55만자리(일본), 1988년 1월에 2억1백32만자리(일본), 1989년 5월에 4억8천만자리(미국), 같은 해 6월에 5억3천5백33만자리(미국), 7월에 5억3천6백87만자리(일본), 8월에 10억1천1백19만자리(미국), 11월에 10억7천3백74만자리(일본) 등 숨가쁜 경쟁이 이루어지고 있다. 모두 슈퍼컴퓨터를 만드는 일본과 미국에서 나온 결과들이다. 심지어 일본에서는 2월 14일이 발렌타인데이인 것처럼 3월 14일을 π의 날로 하자는 주장도 나왔을 정도다.
그러면 많이 잡아서 50자리이면 족한 π값을 왜 이렇게 열심히 계산하고 있는 것일까? 한 가지 이유는 π의 계산이 컴퓨터의 속도나 알고리즘의 척도가 된다는 것이다. 다른 하나의 솔직한 이유는 '산이 거기 있기에'라고 표현한 등산가의 말대로 문제 자체가 수학자들에게 도전대상이 되고 있는 것이다. 이 π를 계산하면 그 값의 표현에 끝이 있을까? 1767년 람베르트(Lambert)는 π가 무리수임을 증명하였고(무리수는 분수로 표시될 수 없는 수로, 계산하면 소숫점이하 무한히 계산할 수 있다) 1882년에는 린데만(Lindemann)이 π는 초월수임을 증명했다(초월수는 유리수의 계수를 갖는 고차다항식의 해가 될 수 없는 수).
여기서 또 하나의 의문을 제기할 수 있다. π값에서 0에서 9까지의 숫자는 비순차적(random)으로 나타날까? 즉 0에서 9까지의 숫자가 같은 빈도로 나타날까 하는 질문이다. 현재까지의 계산으로는 π가 이런 통계적 검사를 통과하고 있다고 한다. 하지만 π값은 무한히 계속되므로 이 숫자 중에 어떤 일이 있을지 누구도 모르는 것이다. 이를테면 이 숫자중에 2.71828…(＝e)라든가 1.4142…(－$\sqrt{2}$) 등의 숫자가 끼어 들어갈 수도 있다. 그래서 가능한대로 많은 자리수를 계산하는 인간의 노력은 끝이 없는 것이다. 이때 π의 값을 구하기 위해서 슈퍼컴퓨터를 동원하여 계산할 때 빨리 계산할 수 있는 알고리즘이 필요한데 이것들이 모두 라마누잔의 알고리즘이거나 그것에 바탕을 둔 알고리즘이라는 것이다. 이 라마누잔의 공식(1914)은 다음과 같다.
$\frac{1}{π}$=-$\frac{\sqrt{8}}{9801}$=${{Σ}^{∞}}_{n=0}$$\frac{(4n)![1103+26390n]}{{(n!)}^{4}{396}^{4n}}$
여기서 n!＝n×(n－1)×(n－2)…×2×1 0!＝1
라마누잔 탄생 1백주년인 1987년에 π를 1억자리 이상 계산한 보윈형제는 (Jonathan Borwein과 Peter Borwein) 자기들의 알고리즘이 라마누잔의 알고리즘을 일반화한 것에 불과하고 컴퓨터도 없는 75년 전에 이런 알고리즘을 혼자 개발해놓은 것에 대하여 놀라워 하고 있다. 또 π의 역사에 대해서만 써 놓은 베크만(Beckmann)의 'π의 역사'(A history of π)에는 라마누잔에 대한 언급이 전혀 없었던 것을 보면(이 책은 1974년에 나왔다) 라마누잔이 얼마나 시대를 앞서는 천재인가를 다시 한번 느끼게 된다. 그가 자신만의 기호로 적어 놓은 노트는 그 후 꾸준히 연구대상이 되어 최근에야 비로소 완전한 해석작업이 이루어지게 되었다.
앞에서 언급한 1729라는 숫자는 사실 하디가 병원에 입원해 있는 라마누잔을 방문했을 때 타고온 택시의 번호가 1729로 별로 특징이 없는 수라고 하자, 라마누잔이 바로 답했다는 그 숫자다.
독일 출신 여류 수학자 에미 노에터(Emmy Noether, 1882~1935)
작고한 여류 수학자 가운데 가장 최근까지 활동하였으며 또 가장 두드러진 업적을 가진 이가 바로 에미 노에터이다. 노에터는 독일 남부에서 1882년 3월 23일에 태어났다. 그녀의 아버지 막스(Max) 노에터는 에를랑겐대학 교수로 유명한 수학자였다. 노에터는 소녀로서 여성다운 교양을 쌓아 갔지만, 그 아버지의 영향으로 수학을 전공하기로 하였다.
마침 동생 프리츠(Fritz)도 수학자가 되었는데 이 때문에 노에터 가문을 3대에 걸쳐 10명의 유명한 수학자를 배출한 스위스의 베르누이(Bernoulli)일가와 함께 수학적 재능의 유전성에 대한 예로 많이 인용된다.
뒤늦게 개화한 재능
노에터는 불어나 영어 등의 어학공부에 열을 올려 1900년 18세에 불어와 영어교사 자격시험에 합격하고, 계속 대학에 진학하기를 원하였으나 당시 독일에서는 여성의 대학진학이 허용되지 않아 할 수 없이 1900년에 에를랑겐대학의 청강생이 되었다. 1904년에 대학의 여성 입학규제가 풀려 정규학생이 되었는데 그 당시 노에터가 속해 있던 철학부 2부의 학생 47명중 여성은 노에터 단 한사람 뿐이었다고 한다.
노에터는 파울 고르돈(Paul Gordon)의 지도로 수학공부를 하였는데, 그의 지도로 1907년 '3원 4차 형식에 대한 불변식의 완전계'라는 논문으로 박사학위를 받았다. 그녀의 논문은 당시 경외스러운 업적으로 인정되었으나, 노에터는 후에 '공식들의 정글'이었을 뿐이라고 스스로 평가절하해 버렸다. 실제로 그녀의 논문은 불변식론의 권위인 고르돈의 영향으로 계산 위주였으며 3백개 이상의 불변식표를 포함하고 있었다. 그러나 고르돈이 은퇴하고 나서는 보다 추상적인 수학에서 업적을 내기 시작하였다.
1915년 아버지가 은퇴하고 어머니가 세상을 떠나고 괴팅겐대학의 학생이었던 프리츠가 입대하는 등 가정에 변화가 있자, 힐베르트(Hilbert)의 권유로 괴팅겐(Göttingen)대학으로 가게 되었다. 괴팅겐대학이 여성에게 박사학위를 수여한 첫번째 독일의 대학이긴 하지만, 여성에게 강사직을 주는 데에는 반대가 많았다. 노에터도 예외가 아니어서 업적이 많음에도 불구하고 공식적인 직함이 없었다. 힐베르트가 노에터를 강사로 승진시키려고 노력하였는데 여성이라는 이유로 실패하곤 했다.
반대하는 교수들은 "여성을 강사로 받아들이면, 교수가 되고 계속 승진을 할텐데…, 전쟁터에서 돌아오는 학생들이 여성의 발 아래서 공부하게 된다는 것을 알게 되면 어떻게 생각하겠느냐"는 것이었다. 이에 분개한 힐베르트의 말이 유명하다. "강사로 임명하는데 여성임이 문제가 되는 것이 나로서는 이해가 안 된다. 대학이 목욕탕은 아니지 않은가?"
그러나 제 1차대전이 끝나면서 독일공화국의 탄생과 더불어 사회적 분위기도 많이 바뀌어 1919년에 그녀의 강사직 임명도 실현되었다. 1922년에 노에터는 교수가 되었는데, 무급이었다.
그녀의 진가가 널리 알려진 것은 1920년에 발표한 논문 이후부터이다. 그녀는 당시 38세였는데 이렇게 늦게 수학적 재능이 개화하는 것은 수학자에게는 드문 일이다. 이 논문부터 노에터의 연구방향이 결정적으로 추상대수학 쪽으로 설정되었다고 할 수 있다.
20세기 수학은 러셀(B. Russell)의 '수학의 원리'(Principia Mathematica) 이후로 공리적 접근이 중요한 내용이 되었는데, 노에터는 이 흐름의 가까운데 서 있었다. 1920년대에 그녀는 아버지가 남겨놓은 공식을 바탕으로 '환(ring)에서의 이데알론'을 전개시켰다. 1930년에 이르러 그녀는 괴팅겐대학의 수학과에서 중요인물이 되어 있었다. 그녀의 강의는 효과적이고 독창적인 것으로 평가됐다. 그녀는 추상적인 개념을 잡는데 능했으며, 다른 사람에게 영향을 주어 이끌어 가는 힘이 있었다.
「데어 노에터」
그래서 그녀의 주위에는 세계 각국에서 많은 청년 수학자들이 모여 들었는데 이 그룹을 주위 사람들은 '노에터의 꼬마들'(Noether Knaben)이라고 불렀다. 그녀는 주로 미국의 록펠러재단에서 세워준 수학관에서 연구하면서 지냈다.
그러나 독일에서 나치가 득세하자 유태인이자 자유주의자인 노에터는 설 땅이 없어졌다. 다행히 미국 프린스턴대학의 유명한 고등연구원(Institute for Advanced Study)에 강사로 초빙되어 갔다. 여기서는 독일에서 누리지 못했던 진정한 존경과 동료애를 느끼며 마음껏 연구를 해 나갔다. 불행히도 이 행복은 길지 못해 1년 반 만인 1935년 4월 14일 돌연히 사망하고 말았다. 당시 53세로 늦게 개화된 재능의 절정기였는데 참으로 아까운 일이었다.
아인슈타인(A. Einstein)이나 오랜 친구였던 베일(H. Weyl) 등은 추모의 글을 통해 그녀가 여성으로서 수학, 특히 추상대수학에 큰 공헌을 한 위대한 수학자였다고 평가했다. 노에터는 미모가 아니고 성품이나 체격이 남성같아 '데어 노에터'(Der Noether, 독일어의 Der는 남성 정관사)라는 별명을 가졌으나 그것은 그녀가 많은 학생이나 동료들을 포용하고 성차별을 극복할 수 있을 정도의 놀라운 창조력을 가진데 대한 존경의 표시였던 것이다.
현대 수학의 기초 닦은 부르바키(Nicolas Bourbaki)
현대 수학을 이야기할 때 빼놓을 수 없는 이름이 부르바키이다. 이 부르바키는 한 사람이 아니고 일단의 수학자 그룹이다. 이들의 생성과 특징을 살펴보고 현대수학에 있어서의 업적을 알아보자.
제1차 세계대전(1914~1918) 동안에 독일과 프랑스는 과학자들에게 서로 다른 정책을 펴 나갔다. 독일은 과학자들이 연구를 계속하도록 배려하였고 프랑스는 적어도 전쟁 초기에는 누구나 전쟁터에 나가야 된다고 생각하여 젊은 과학자들이 직접 나가 싸우게 한 것이다. 이는 인간의 공평함과 애국심을 고취시키는 데는 옳은 일이었으나 결국 많은 젊은 과학자들을 전쟁의 제물로 바치는 결과를 낳았다.
정년은 50세
그 결과 프랑스 수학계는 1차대전 직후 전전세대의 유명한 교수와 공부를 막 시작하는 학생들로만 구성되어, 전 세계의 수학의 흐름을 소화해낼 중간 허리가 없는 공백을 갖게 되었다. 이 학생들은 이웃나라 독일의 노에터 등도 알지 못했고 전통적으로 수학이 강한 러시아와 새로 급부상한 폴란드의 수학계에 대하여도 들은 바가 없었다. 이들은 당시 50세 이상의 대가들은 각 분야의 전문가이기는 할지언정 자신들에게 새로운 학문의 조류를 받아들인 뒤 그것을 소화해 전달해줄 능력은 없는 것으로 비춰졌다. 이것이 나중에 부르바키그룹의 정년을 50세로 정해놓게 된 이유가 되었다.
그들은 당시의 수학이 수학자들조차도 이해하기 어려울 정도로 분화되고, 또 그 목적이나 방법에 있어서도 수학자들이 서로 완전 고립돼 있다고 판단해 시급히 바로잡아야 한다는 생각을 자연스레 하게 되었다. 결국 그들은 책을 통해 모든 문제들을 정리하기로 했다. 이 작업은 원래 3년 안에 마칠 예정으로 시작됐으나 어떤 의미에서는 지금도 계속되는 엄청난 작업이 되었다.
모든 방면의 수학을 정리한다고 해서 백과사전 식으로 나열할 수는 없는 것이고 아주 중요한 내용만을 엄선해야 했다.
1939년 이후로 니콜라스 부르바키라는 이름으로 중요한 논문들이 쏟아져 나왔다. 1970년까지 이 정열적인 수학자(?)가 펴낸 전집이 30권을 넘을 정도였다. 처음에는 프랑스의 한 전직교수로 알려져 있었으나 사실은 여러 명의 비공식적 수학자 모임의 가명이었다.
부르바키들이 고민한 첫번째 문제는 수학의 통일작업에 과연 어떤 도구를 선택해 이용할 것이냐 였다. 그들은 가장 핵심이 되는 공리를 구조주의에서 찾게 된다. 현대수학의 중심사조가 된 구조주의가 바로 이때부터 수학 전반에 걸쳐 영향을 미치기 시작한 것이다. 또 부르바키는 철저하게 힐베르트(D. Hilbert)의 공리주의에 입각하여 현대수학을 통일성있게 체계화하기 위하여 '수학의 구조'를 통일의 원리로 삼았다. 즉 아주 잘 정의된 몇개의 공리가 주어지기만 하면 그것으로부터 수학은 논리적으로 전개되어 의미있는 결과를 낳게 된다는 것이다.
그 다음의 문제는 어느 것이 가장 중요한 구조냐를 결정하는 문제였다. 이 문제는 부르바키그룹이 1년에 두세차례 여는 전체회의에서 격론 끝에 매듭지어진다.
그들은 이 어려운 작업의 열매로 나타나는 책의 저자를 누구로 할 것이냐를 놓고도 고심해야 했다. 금세기 초에 프랑스의 에콜 노르말(Ecole Normale)대학에서는 수학과 1학년생을 대상으로 한 좀 장난스러운 통과의례가 있었다. 4학년생이 외부에서 방문한 중요한 수학자로 행세하면서 이미 잘 알려진 정리를 보여주고 그것을 증명해 보인 것이다. 그때 이 정리들에는 별로 유명하지 않은 프랑스 장군들의 이름이 붙여졌다.
그리고 아주 교묘하게 틀린 부분을 삽입해 놓고는 신입생들의 반응을 지켜 보았다. 이 전통의 영향으로 몇몇 에콜 노르말 졸업생들이 만든 수학연구그룹이 부르바키그룹으로 발전될 때 그룹이름을 프랑스의 잘 아려지지 않은 19세기에 활동한 장군 이름인 부르바키(Nicolas Bourbaki)로 정하게 된 것은 재미있는 일이라 하겠다.
이들은 정년을 50세로 정해 놓았는데 그전에라도 자격미달인 회원은 다음과 같은 방법으로 추방했다. 연구를 등한시하거나 좀 늙었다고 생각되는 회원에게 논리적인 오류는 없지만, 수학적으로 별 가치가 없는 새로운 문제를 질문한 뒤 대답이 '그것 재미있는데…'라고 나오면 가차없이 퇴진시키는 것이었다.
이들의 시작이 변화를 거듭하고 있는 현대수학의 조류를 재빨리 파악해서 정리하는데 있었던 만큼 '열린 마음'이 무엇보다 요구됐다. 모든 분야에 관심을 갖고 있으면서 적용력과 깊이도 있는 사람만을 선발하므로 회원이 되기가 여간 어려운 일이 아니었다. 실제로 새로운 회원을 뽑을 때는 매우 어려운 통과절차를 밟게 했다. 유능해 보이는 젊은 수학자가 있으면 전체회의에 초청하여 모든 토론에 참가시켰다. 자기가 해온 분야에만 관심을 국한시키는 사람은 배제되고, 모든 방면에 호기심을 보이고 또 적극적으로 참여하는 수학자를 택했다고 한다. 이들에게는 50세가 넘으면 퇴진한다는 것 외에는 다른 규칙이 없는 것이 규칙이었다.
이들이 현대수학의 어떤 분야에 대해 정리하기로 하면 한 회원을 선정해서 1차로 저술할 것을 명하고, 한 1년 뒤 그 결과를 놓고 전체회의에서 격론을 벌인 후 다시 두번째 사람을 지명해 새로 쓰게 하고, 또 토의했다. 이런 과정을 모든 사람이 만족하거나 지칠 때까지 되풀이하고, 또 그러는 사이에 그 주제의 내용이나 흐름이 바뀌기도 하므로 다시 책을 쓰는 경우도 허다했다. 주제선정부터 최종적으로 책이 나오기까지는 평균 8년~12년이 걸렸다고 한다.
이렇게 해서 계속 간행된 이들의 40여권에 가까운 '수학 원론'(Elements de mathematique)은 현대수학의 구조주의의 집대성이라고 할 수 있다. 부르바키는 현대수학의 기본구조를 대수구조(algebraic structure) 순서구조(order structure) 및 위상구조(topological structure)의 3가지로 대별하고 이 세구조를 바탕으로 현대수학의 모든 분야를 재구성하는 작업을 주로 했다.
수학을 양(quanity)에 대한 학문이 아니고 구조에 대한 학문으로 파악하려는 의식은 아주 오래 전부터 있어 왔다. 그러나 구조가 철학적 자각에서 명확한 수학적 대상으로 부각되기 시작한 것은 19세기에 들어와서 부터다. 힐베르트 데데킨트(Dedekind) 집합론의 선구자 칸토르(Cantor) 등을 거쳐 구조주의의 윤곽이 형성된 것이다. 이 흐름을 잘 정리하고, 또 나아갈 방향까지도 제시하여 준 부르바키의 업적은 높이 평가되고 있다.
또 부르바키는 책의 서술에 있어서 가능한 한 평이한 용어를 골라 썼으며 그것을 자랑스럽게 생각했다. 평이한 언어로 쓰여졌기 때문에 이 논문은 심각하게 고려해볼 대상이 못된다고 하는 일부 수학자들에게 이들은 다음과 같이 항변했다.
"예를 들어 B.S.F.나 Z.D.가 아니면 C.F.T.C는 A.L.V.와 연관이 된다는 등의 설명을 들으면 당신은 무슨 말인지 모를 것이 당연하다. 이런 식으로 10페이지 이상 계속되는 것을 상상하여 보라. 끔찍한 일이다."
