20세기 초 영국의 대표적 수학자였던 곧프레이 헤롤드 하디는 과학이 문화의 중요한 축으로 자리잡던 빅토리아 시대의 후반기에 해당하는 1877년에 검소하지만 학문적 분위기가 넘치는 가정에서 태어났다. 어린시절 하디는 학급에서 모든 과목에 수석을 차지할 정도로 대단히 영리했지만, 이 때문에 상을 받기 위해 학생들 앞에 나서는 것을 매우 어려워했던 내성적인 성격의 소유자였다. 12살 때 당시 수학 분야에서 유명했던 중등 사립학교 윈체스터에 장학금을 받고 입학했고, 이후 캠브리지 대학의 유명한 트리니티 칼리지에 입학했다. 1899년 캠브리지의 수학 졸업시험을 수석으로 졸업하고, 22살에 트리니티 칼리지의 특별연구원(Fellow)이 됐다. 그리고 그곳에서 1906년부터 수학을 강의했다. 1919년 옥스퍼드 대학의 기하학 전공 살리비언 교수좌로 자리를 옮겼으며, 1931년에는 다시 캠브리지로 돌아와서 순수 수학의 세들레리안 교수좌로 임명된 뒤 은퇴할 때까지 자리를 지켰다. 하디는 무한급수와 특이적분의 수렴에 대한 자신의 초기 연구를 기초로 1908년 ‘순수수학 강의’(Course in Pure Mathematics)를 저술했다. 이 책은 해석학의 대표적 저술로서 오랫동안 대학교재로 사용돼 왔다.
하디는 특히 두사람과의 공동연구로 수학계에서 널리 알려져 있는데, 1911년 리틀우드(John E. Littlewood)와의 만남을 시작으로 그들의 공동연구는 35년간 지속됐다. 리틀우드와의 공동연구를 통해 하디-리틀우드 정리, 웨링과 골드바흐 문제, 디오판투스 근사법, 소수 정리, 제타 함수 등에 대한 많은 업적을 남겼다. 그리고 1913년 수학을 독학으로 터득한 인도 출신의 천재 수론학자인 라마누잔(Srinivasa Ramanujan)을 발견하고, 그를 캠브리지로 데려와서 그가 1920년 32살의 젊은 나이로 사망할 때까지 수년 동안 공동연구를 수행한 것으로도 유명하다. 하디 자신은 라마누잔과의 만남을 그의 생애에서 가장 낭만적인 사건으로 회고하기도 했다. 대 수학자 하디, 그리고 그가 천재라 불렀던 두명의 수학자와의 극적인 만남은 과학의 역사에서 좀처럼 발견하기 어려운 공동연구의 중요한 사례로 손꼽히고 있다.
‘어느 수학자의 변명’(A Mathematician’s Apology)은 20세기의 가장 뛰어난 수학자 중 한 사람인 곧프레이 하디가 말년에 자신의 수학적 창조력이 쇠퇴해감을 느끼면서 저술한 회고록 성격의 책이다. 따라서 독자들은 스스로 창조성을 상실했다고 고백하는 대수학자의 독백을 접하면서 약간은 서글픈 심정으로 이 책을 읽게 될 것이다. 1940년 초판이 출간됐으며, 물리학자겸 소설가였던 스노우(C. P. Snow, ‘두문화’의 저자)의 하디에 대한 회고록을 첨가해 1967년 다시 출판됐다(우리말 번역본, 김인수 옮김, 사이언스북스).
수학은 창조적 예술
이 책은 1부터 29까지 번호가 붙여진 수필 형식을 갖춘 짧은 글들의 묶음으로 구성돼 있다. 마치 깔끔한 수학적 정리를 연상시키듯 군더더기 없이 간결하게 정선된 용어로 진술됐으며, 1백쪽이 채 못되는 짧은 책이다. 실제로 하디는 수학에 대한 자신의 주장을 수학의 증명과 유사한 방식으로 전개하고 있다. 하디에게 있어서 수학의 핵심은 심미적 ‘아름다움’이었으며, 그런 의미에서 그는 끊임없이 수학을 예술과 비교하고 있다. 하디는 “나는 수학에 흥미를 갖지만, 그것은 창조적 예술로서의 수학이다”라고 주장하고 있다. 즉, 수학은 아름다운 것이어야 하고 그런 의미에서 수학은 미술이나 음악, 그리고 시와 본질적으로 다르지 않다는 것이다.
“수학자의 패턴도 화가나 시인의 것과 마찬가지로 ‘아름다워야’한다. 색채나 단어와 같이, 아이디어도 조화로운 방식으로 어울려야 한다. 아름다움이 첫번째 관문이다. 이 세상에 추한 모습의 수학이 영원히 자리잡을 곳이란 존재하지 않는다.”
하디가 수학의 또다른 핵심적 특징으로 파악한 것은 ‘진지함’이었다. 체스는 그것의 형식과 기법에 있어서 매우 수학적이기는 하지만 본질적으로 부족한 점이 있는데 그것은 바로 진지함, 즉 중요성이라는 것이다. 수학은 그 자체로서 뿐만 아니라 피타고라스, 유클리드, 뉴턴, 아인슈타인과 같이 다른 과학에까지 중요한 발전을 가져왔다. 물론 이 경우에도 수학적 정리의 ‘진지함’은 그것이 이끌어낸 실제적 결과에 있는 것이 아니라 그것과 관련된 수학적 아이디어가 갖는 의미에 있다.
한편, 하디는 수학과 과학을 분명하게 구분하고 있다. 특히 과학과 구별되는 수학의 특징으로 ‘일반성’을 들고 있다. “수학의 확실성은 완전히 추상적인 일반성에 달려 있다”는 화이트헤드의 말을 인용하면서, 그 본질상 추상적일 수밖에 없는 순수 수학은 추상적인만큼 더욱 큰 일반성을 갖게 된다는 것이다. 그리고 참된 수학은 전쟁에 자주 사용되는 과학처럼 인류문명을 향한 파괴력으로 작용하지 않는다는 주장도 함께 펼치고 있다.
참된 수학과 사소한 수학의 차이
하디는 수학을 크게 두가지로 구분한다. 다시 말하면 참된 수학(real mathematics)과 사소한 수학(trivial mathematics)이 그것이다. 여기에서 참된 수학은 물론 순수 수학을 지칭하는 것이며, 사소한 수학은 응용 수학을 의미한다. 그는 참된 수학의 예로 수론과 상대성이론을, 사소한 수학의 예로 탄도학과 항공역학 등을 들고 있다. 또한 그는 “수론이나 상대성이론 가운데서 전쟁에 도움이 되는 점을 찾아낸 사람은 아직 없고, 그렇게 할 사람이 금방 나올 것 같지도 않다. 응용 수학의 분야에는 …. 그들은 정말로 역겹게 추하고 참을 수 없이 어리석다”고까지 주장한다. 물론 하디의 이런 주장은 정당화되기 어렵다. 1940년의 하디는 1945년의 원자폭탄을 경험하지 못했고, 이 때문에 상대성이론에 내재하는 가공할 파괴적 응용성을 예견하지 못했던 것이다.
이런 측면에서 순수 수학에 대한 하디의 일방적 옹호는 지나친 감이 없지 않다. 또한 하디는 사소한 수학의 대표적 예로 호그벤(L. Hogben)을 들면서, “그는 ‘참된 수학’에 대해서는 거의 어떤 이해도 하지 못하였고, 그에게 있어 참된 수학이란 단지 경멸적인 동정의 대상일 뿐이다”라고 강하게 비판하고 있다.
호그벤은 당시 ‘백만인을 위한 수학’(Mathematics for the Million)이라는 유명한 대중적 수학교재를 집필한 생물학자로, 통계학과 과학 전분야에서 폭넓은 교육, 연구, 계몽 활동을 했던 대표적 과학사상가였다. 사회주의를 신봉하는 전문 과학자로서 호그벤은 ‘과학적 인본주의’라는 자신의 삶의 목표를 실현하기 위해 대중계몽을 위한 수학책을 집필했고, 이는 수학의 사회적 유용성을 강조한 것이었다. 순수 수학이 삶의 모든 것이었던 하디에게 호그벤은 분명 수학의 이단자로 비춰졌을 것이다. 하지만 호그벤에 대한 그의 비판은 수학, 특히 수학교육의 목표에 대한 한 단면을 보이는 것으로서 아직도 심각한 논쟁거리임에 틀림없다.
이러한 하디에게 순수 수학에 주어지는 유용성에 대한 시비는 중요한 문제가 아닐 수 없었다.그는 순수 수학은 응용성에 기초해 평가돼서는 안되고,그것이 지닌 패턴과 그 아름다움으로 판단돼야 하며,진정한 수학은 만약 그것이 변호될 수 있다면 예술로서 변호돼야 한다고 줄곧 주장한다.어쩌면 '수학은 아름답거나,수학은 예술이어야 한다'는 식의 하디의 주장은 수학자들만의 독선으로 들릴지도 모른다.하지만 하디는 이 책을 통해 진정한 수학의 의미와 수학의 가치를 전문수학자의 입장에서 말하고 있다.이런 측면에서 볼 때 이 책은 학문에 대한 진지한 태도와 수학에 대한 깊은 애정,그리고 학자의 삶과 긍지가 무엇인지에 대해 우리에게 시사하는 바가 크다.
