d라이브러리

 수학은 젊은이의 게임인가?

영국의 수학자 하디는 ‘수학은 젊은이의 게임’이라고 말했다. 인도의 젊은 천재 수학자 라마누잔을 발견하고 지원했던 그는, 수학에서의 큰 진보는 과거의 지식과 한계에 묶이지 않는 젊은 천재에 의해서 이뤄진다고 믿었던 모양이다.

수학의 역사에서 주요한 업적이 젊은 수학자들에 의해 이뤄진 경우가 많았던 것은 사실이다. 그러나 장 피에르 세르는 분명 색다르다. 세르는 젊은 시절의 천재성으로 위상수학 분야에서 강력한 대수적 도구를 도입하는 큰 업적을 내서 필즈상을 수상했다. 그리고 그 연구력을 60년 이상 유지하고 많은 분야를 송두리째 뒤집거나 창시했으며, 86세의 나이인 지금까지도 활발한 연구를 지속하고 있다.

이에 관해 질문을 받은 적이 있는 세르는이렇게 대답했다.

“제가 하디의 주장에 완벽한 반례는 아닌 것 같아요. 76세의 나이에 수상한 아벨상 수상 사유서에 언급된 제 업적은 대부분 제가 30세 이전에 했던 일이더군요.”

아마 세르조차도 젊은 시절에 한 일이 자신의 주요 업적이라고 생각하는 모양이다. 실제로도 지금껏 수학사를 살펴보면, 중세까지는 수학자가 나이를 먹어서 주요한 업적을 내는 경우는 흔하지 않았던 것으로 보인다.

그러나 시간이 지날수록 점점 반례가 많아지는 것은 틀림없어 보인다. 가장 극적인 반례는 최근에 쌍둥이 소수 문제 관련해서 2000여 년 만에 주요 돌파구를 만든 이탕장 박사를 들 수 있다. 박사 학위를 받고 20년 만에, 그것도 예순이 다 된 나이에 생애 첫 논문으로 세상을 발칵 뒤집어 논 그는 수학이 깊이와 사색의 결과일 수 있음을 일깨운 가장 강력한 반례라 할 만하겠다.
 
틀린 것을 보면 몸이 아프다

세르는 평생 동안 많은 책을 저술했다. 간결함과 정확함, 그리고 자기완결성으로 유명한 그의 책들은 수학의 무척 다양한 분야에 걸쳐 있다. 웬만한 현대 수학자라면 그의 책을 접해 본 경험이 있을 정도다.

그의 간단명료한 성향은 강의에서도 나타난다. 그는 스스로 말하기를 “내가 무엇을 이해하고 나면, 다른 누구라도 그것을 이해할 수 있을 거라는 생각이 든다. 그래서 이를 전달할 때 느끼는 기쁨이 너무나 크다”고 했다. 그러니 그는 명강의로 유명해질 수밖에 없었다.

그러나 세르는 이러한 성격 때문에 다른 사람들의 강의를 듣다가 틀린 내용이 나오면 참지 못하고, 강의를 중단시키고 틀린 부분을 지적하는 것으로도 유명했다. 그의 표현으로는 “명백하게 틀린 말을 듣거나 보면, 그것이 강연이든 책에 적혀 있는 것이든 나는 참을 수 없어서 실제로 몸이 아플 정도가 된다”고 할 정도였다.

그래서 필자가 학생 시절에도 ‘세르 앞에서는 감히 강의를 하지 말라’는 이야기가 우스갯소리로 돌곤 했었다. 잘못해서 틀린 내용을 이야기하면 눈앞이 노랗게 될 정도로 혼날 테니까.

하지만 나이 탓이었을까? 2011년에 포스텍을 방문하여 2주 동안 머물던 84세의 세르는 매우 따뜻하고 다정다감한 할아버지였다. 사실 필자도 무서운 세르 교수님이 오신다고 바짝 긴장해서 그를 기다렸다. 그런데 피부에 문제가 생긴 세르를 한 피부과 병원에 모시고 갔더니, 그는 두고두고 나에게 고마워했다. 나는 지금도 따뜻하던 노수학자가 그립다.


"수학과 사랑에 빠지세요. 수학을 사랑하는 것이 수학을 연구하는 것보다 중요합니다. 자신만의 질문을 만들고 그것을 풀기 위해 끊임없이 노력하세요.“

수학자들의 비밀결사, 부르바키

제1차 세계대전 기간에 가장 많은 과학자를 전쟁터에서 잃어버린 나라를 아는가?

답은 프랑스다. 다른 유럽 국가들과는 다르게 프랑스는 평등의 원칙을 엄격히 지켜 특수한 재능을 가진 사람들도 똑같이 군복무를 하도록 했다. 이 때문에 프랑스 고등사범의 경우, 재학생의 3분의 2가 전쟁 중에 사망했다고 한다.

전쟁이 끝나자 그 파장이 도래했다. 프랑스 대학에서는 젊은 교수를 보기 힘들었고, 대부분의 교육은 은퇴 연령에 가까운 노교수들이 맡았다. 학문의 전달과정에 공백이 생기자, 젊은 연구자들은 지적인 갈증을 느꼈다. 그래서 1930년대 중반에 프랑스 젊은 수학자들이 결집하기 시작했다. 이들은 수학자들의 비밀결사를 만들고 이를 ‘부르바키’라고 명명했다. 10명 정도의 수학자로 구성되어 있었고, 세르를 포함한 필즈상 수상자 여러 명도 포함돼 있었다.

이들은 현대수학의 전 분야에 걸쳐 상당 분량의 책을 함께 저술하고, 이 책들을 모두 ‘니콜라스 부르바키’라는 저자명으로 출간했다. 이러한 활동은 현대수학을 공리적이고 추상적인 접근으로 재구성해, 20세기 수학의 진로에 광범위한 영향을 미쳤다.

부르바키는 상당 기간 동안 비밀결사로 존재했고, 구성원이나 회합장소도 모두 비밀리에 이뤄졌다. 연간 3회 비밀스럽게 열리던 부르바키 학술대회는 회의를 주재하는 의장도 없고, 발표순서도 없이 진행됐다. 발표 중에도 비판과 질문을 통해 발표를 중단시킬 수도 있었다. ‘부르바키 방식’이라는 표현이 난상토론 방식의 회의를 부르는 표현이 됐을 정도다.

난상토론 형식과 함께 ‘부르바키 방식’이 갖고 있는 또 다른 의미는 ‘열린 관심’이다. 부르바키에서는 자신의 연구 분야가 아니더라도 토의에 참석하고, 심지어는 저술의 일부도 맡는 게 일반적이었다고 한다. 이런 환경에서 단련된 세르가 수학의 온갖 분야에 관심 갖고 연구와 저술을 한 건 당연한 것인지도 모르겠다.

지식의 양이 방대해지고, 발전 속도가 빨라지면서 여러 분야의 전문가가 토론하는 것이 힘든 시대가 되었다. 조금만 전공분야가 달라도 아예 대화를 포기한다. 자기의 이름을 감추고 벌이는 학술활동이란 더더욱 힘들다. 부르바키는 아직도 존재하지만, 이전의 역동성은 찾아볼 수 없다.

어쩌면 세르같은 수학자가 드물어졌기 때문일까? 부르바키가 입증했던 익명성과 자유의 힘을 다시 볼 날을 기다린다.