d라이브러리

피타고라스, 아이작 뉴턴 등 이름을 아는 수학자가 한두 명쯤 있을 거예요. 시대도, 국적도 다른 수학자의 이름을 우린 어떻게 알고 있을까요? 증명을 인정받고 이름을 남기기 위한 수학자의 노력과 여정을 알아볼게요. 

불멸에 가장 가까운 사람들

“불멸이란 어쩌면 허황한 말일 수 있지만, 수학자만큼 불멸의 가능성이 높은 존재도 없을 것이다.”
-고드프리 해럴드 하디

20세기 영국의 저명한 수학자 하디가 그의 저서 ‘어느 수학자의 변명’에 남긴 말입니다. 실제로 많은 수학자는 시대를 초월해 역사에 그 이름을 남기는데요. 아마 세상에서 가장 유명한 수학자 중 한 명일 피타고라스는 기원전 6세기 후반 정도에 활동했다는 것 말고 그의 정확한 생애나 행적은 잘 알려지지 않았습니다. 피타고라스 정리가 이 사람의 증명인지도 명확하지 않죠. 하지만 피타고라스 정리는 몇천 년이 지난 지금도 존재하고 있습니다. 아마 인류 역사가 계속되는 한 피타고라스 정리도 ‘불멸’ 하지 않을까요?

이렇게 불멸하려면 증명을 인정받아야 합니다. 그러려면 다른 수학자들에게 증명에 오류가 없는지 낱낱이 검토를 받는 검증 과정을 통과해야 합니다. 이때 ‘소통’과 ‘기록’이 중요하죠. 제가 이 세상 모든 수학 문제의 답과 증명을 알고 있다고 주장해도 그걸 기록하지 않고 그 어떤 수학자에게도 보여줄 수 없다면 그건 아무 의미 없는 소리일 뿐이니까요. 

치열한 검증의 세계

지금처럼 실시간 소통이 가능하기 전, 많은 수학  연구의 검증은 편지를 주고받거나 학회 발표 등을 통해 이뤄졌습니다. 군론의 토대를 세운 닐스 헨리크 아벨과 에바리스트 갈루아 역시 ‘5차 방정식의 근의 공식에 관한 이론’을 검증받기 위해 그 당시 최고의 권위를 자랑하던 프랑스 왕립과학원에 자신들의 발견을 보냈습니다. 프랑스 최고의 수학자 오귀스탱 루이 코시에게 인정받기 위해서였죠. 

안타깝게도 아벨과 갈루아는 본인들의 업적을 인정받기 전에 세상을 떠나버렸습니다. 그 이유는 불운한 일련의 사건들 때문이기도 하지만 이들의 발견이 시대를 너무 앞서나갔기 때문입니다. 다른 수학자들이 이들의 증명을 제대로 이해하지 못했죠. 

사실 나만 이해할 수 있는 증명이란 다른 말로는 ‘죽은 증명’이라는 말과도 같습니다. 제3자의 눈으로 검증할 수 없는 증명의 참, 거짓을 판별한다는 것은 불가능한 일이니까요. 다른 수학자들이 인정해줄 때 증명이 ‘진짜 생명’을 얻는다고 볼 수 있죠.

현대 수학에서는 논문을 게재할 때 ‘동료평가’라는 절차를 통해 익명의 관련 분야 전문가들이 논문을 검토하고 그 가치를 판단합니다. 혹독한 검증을 통과한 논문만이 학술지에 실릴 자격이 주어지고, 그렇지 못한 경우 거절당합니다. 게재가 승인됐다가도 오류 혹은 표절이 발견되면 게재를 철회 당합니다. 페르마의 마지막 정리를 증명한 영국 수학자 앤드루 와일스 역시 1993년 발표했던 그의 첫 증명에서 치명적인 오류가 발견돼 1년 동안의 보완 과정을 거쳐 모든 오류를 수정하고 나서야 최종 증명으로 인정을 받을 수 있었습니다.

아이러니하게도 이런 검증의 엄밀함 덕분에 아벨과 갈루아의 업적은 생전엔 인정받지 못했지만, 그들이 남긴 기록을 바탕으로 사후에 인정을 받아 지금도 이름을 남기게 됐습니다.

피도 눈물도 없는 우선권 싸움

수학적 업적을 인정받는 것도 중요하지만, 이름을 남기기 위해선 최초가 되는 것 역시 중요합니다. 피타고라스 정리를 지금 증명할 수 있는 사람은 너무나 많지만, 언제나 피타고라스 정리로 불리는 것처럼요. 이는 수학자들의 업적을 인정해주고 보호해주기 위한 이유도 있습니다. 업적이 자칫 표절되거나 도용되고 뺏기는 일을 막아주기도 하고, 아벨과 갈루아처럼 생전에 인정받지 못했더라도 사후에라도 인정받을 수 있게 하죠. 

하지만 가끔은 이름을 남기기 위한 싸움이 수학 발전에 저해가 될 정도로 선을 넘을 때가 있습니다. 대표적인 예가 아이작 뉴턴과 고트프리트 빌헬름 라이프니츠의 미분법을 둘러싼 논쟁이에요. 두 수학자 사이의 논쟁을 넘어 영국 수학계와 유럽 수학계의 자존심 싸움으로 번졌죠. 훗날 영국 수학계가 다른 유럽 국가와 격리돼 영국 수학의 발전이 100년은 뒤처지게 됐단 얘기가 나올 정도로 큰 싸움이었습니다. 시간이 흐른 지금, 역사가들 사이에서는 뉴턴이 라이프니츠보다 미분법을 먼저 발견한 건 사실이지만 둘 다 독립적으로 발견했다는 견해가 일반적입니다. 

뉴턴이 살던 시대에는 수학자들이 모든 발견을 다 발표하거나 논문을 남겨놓지 않았습니다. 역사상 가장 위대한 수학자로 꼽히는 카를 프리드리히 가우스만 하더라도 ‘완벽한 결과’가 아니면 발표하지 않는다는 완벽주의 성향 때문에 그의 많은 연구가 잊히고 다른 수학자의 업적으로 알려졌습니다. 가우스가 세상을 떠난 뒤 그의 기록들을 조사하던 다른 수학자가 ‘가우스의 연구가 제때 발표됐다면 수학의 역사가 50년은 앞당겨졌을 것’이라고 했을 정도니까요. 그렇게 본인 기준에 부합하는 연구들만 발표했어도 최고의 수학자 중 한 명으로 인정받는 걸 보니 정말 엄청난 수학자인 것 같습니다.

불멸을 향한 여정

소통 기술이 발전하고 기록 매체를 이용한 보전이 편리해지면서 세계 곳곳에서 동시다발적으로 수학 증명이 나오며, 우선권에 대한 중요성이 더 커졌습니다. 그렇게 현대 논문체계가 정립됐죠.  
현재 수학자의 연구 결과가 인정받아 이름을 남기기 위해선 다른 수학자들의 검증을 통과할 수 있는 정확한 연구 결과를 누구보다 빠르게 발표해야 합니다. 보통 치열한 과정이 아닐 수 없죠. 그런데도 자신만의 증명을 남기고 싶어 하는 일은 모든 수학자의 꿈이 아닐까 싶습니다. 모든 인류의 꿈이라는 영생의 한 방법 아닐까요?