d라이브러리

 20세기 물리학의 토대를 만든 수학자

힐베르트는 1862년 1월 23일 독일 프루시아 지방의 쾨니스버그에서 태어났다. 김나지움을 졸업하고, 쾨니스버그 대학에 다니면서 당시의 천재였던 헤르만 민코프스키★를 만나 친구가 되었다. 이후, 힐베르트는 민코프스키와 괴팅겐 대학에서도 함께 교수로 지내며 평생의 벗으로 지냈다.

헤르만 민코프스키(1864~1909)★ 러시아 태생의 독일 수학자로, 수론의 문제를 기하학 적인 방법을 사용해 푸는 기하학적 수론과 수리물리 학, 상대론 등에 업적을 남겼다. 

순수수학에만 몰두하던 힐베르트는 친구인 민코프스키가 45세의 젊은 나이로 사망하자, 민코프스키가 몰두하던 물리학 공부를 시작했다. 그 결과 일반상대성 이론과 양자역학의 수학적 토대를 만드는 데 큰 기여를 하게 된다. 아마도 지적 호기심이 있다면, 늦은 나이에 새로운 분야를 공부해도 위대한 업적을 쌓을 수 있다는 사례라고 할 수 있지 않을까?

원래 아인슈타인은 특수상대성 이론을 만들면서 대수적 관심을 갖고 있었다. 그리고 민코프스키는 4차원 시공간의 기하학으로 이를 해석해 기하학적 관점으로 재건설했다.

그런데 아인슈타인은 이러한 기하학적 해석에 부정적인 태도를 갖고 있었다. 하지만 결국 일반상대성 이론을 완성하려면 기하학적 관점이 필요하다는 것을 깨달았고, 각고의 노력 끝에 자신의 이론을 완성했다. 이 과정에서 힐베르트는 아인슈타인의 강연을 한 번 듣고 바로 이해해, 완벽한 이론을 전개했다고 한다.

20세기 초반은 상대성이론과 양자역학의 건설을 통해, 물리학에 혁명적인 발전이 이뤄진 시기다. 당시에 슈뢰딩거와 하이젠버그가 독립적인 다른 방식으로 양자역학을 만든 것처럼 보였지만, 힐베르트는 수학적 눈으로 이들의 본질이 동등하다는 것을 알았다. 그리고 이것을 수학으로 증명했다.

이렇게 힐베르트는 당시 수학적 토대가 부족했던 물리학의 이론에, 수학적인 엄밀성을 부여하며 물리학의 토대를 굳건하게 세웠다.
 

힐베르트와 괴팅겐 학파

힐베르트 이야기를 하면서 빠트릴 수 없는 것이 괴팅겐 학파다. 19세기 말에서 20세기 초까지 괴팅겐대학 수학과를 빠트린다면 현대수학사를 쓸 수 없을 정도로, 괴팅겐대학 수학과는 세계 수학의 중심으로 부상했다. 그리고 이 괴팅겐대학 수학과는 펠릭스 클라인이 주요 토대를 만들었다.

클라인은 당시 세계 수학의 중심이었던 괴팅겐대학이 힐베르트에게 종신교수직을 제의하도록 노력했다. 힐베르트가 불변이론 분야에서 혁명적인 업적을 이뤘기 때문이다.

힐베르트가 쓴 ‘불변환의 유한성’에 대한 논문심사는 당대의 불변이론 권위자였던 폴 고든이 맡았다. 폴 고든은 힐베르트의 논문을 보고, 인정할 수 없다며 다음과 같이 감탄했다고 한다.
“이게 신학이지, 수학이란 말인가!”

힐베르트는 전성기에 다다른 괴팅겐 학파의 핵심이 되었는데, 그는 여기서 열정적인 연구와 교육에 혼신의 힘을 쏟았다. 그 결과 제자로 무려 69명의 박사학위를 배출했다. 힐베르트의 학생 중에는 헤르만 바일★이나 폰 노이만과 같은 20세기를 풍미했던 대 수학자들이 다수 나왔다.

헤르만 바일(1885~1995)★ 독일의 수학자로 수학과 이론물리학의 기본적 인 연구부터 과학 전반에 공을 세운 괴팅겐 학 파 중 한 사람이다.

이렇게 자타가 공인하는 세계 수학의 중심이었던 괴팅겐 학파는 히틀러의 나치 정권이 들어서며 변화를 맞는다. 1933년에 독일의 모든 공직에서 유태인을 추방하는 법이 발효되어 당대의 최고 과학자들이 독일을 떠나면서 몰락하게 된 것이다. 긴 세월 동안 많은 이들의 각고의 노력으로 얻은 세계적인 명성도 1년이 안 되는 기간에 허망하게 무너졌는데, 당시 괴팅겐을 떠나야 했던 18명의 수학자 중에는 헤르만 바일이나 에미 뇌터★ 같은 기라성 같은 수학자들이 있었다. 이들은 미국으로 건너가 미국이 과학 분야의 강국으로 부상하는 데 결정적인 기여를 하게 된다.

에미 뇌터(1882~1935)★ 대수기하학을 연구한 독일의 수학자. 19세기 수 학과 현대수학의 과도기에 힐베르트, 헤르만 바 일과 함께 괴팅겐 학파의 황금시대를 이뤘다.
 
힐베르트, 세기의 수학 문제를 발표하다!

노벨과학상에는 수학 분야가 없다. 대신 ‘필즈상’이 최고의 상으로 여겨진다. 아직 필즈상이 제정되기 전이던 1897년, 첫 세계수학자대회가 스위스 취리히에서 열렸다. 그리고 19세기에서 20세기로 넘어오는 문턱인 1900년, 제2회 세계수학자대회가 파리에서 열렸다.

힐베르트는 여기에서 그 유명한 ‘세기의 문제’ 강연을 하게 된다. 강연에서는 선정한 문제의 반 정도를 소개했지만, 추가 문제를 포함해 총 23개의 미해결 난제를 선정해 출간했다. 이 중에는 아직도 해결되지 않고 수학자들을 괴롭히는 ‘리만가설’ 같은 문제도 있다. 새로운 세기인 20세기의 시작을 맞아서, 다가올 한 세기 동안 미래 세대가 해결해야 할 과제를 제시한 셈이다.

100여 년의 노력을 거쳐, 현재 힐베르트의 문제 중 10개는 완벽하게 해결되었다. 7개는 부분적으로 해결된 것으로 여겨지고 있고, 4개는 문제가 분명하게 정의되지 않아 불명확한 것으로 보인다. 또 2개는 해결되지 않았을 뿐 아니라 전혀 해결될 기미도 없다.

이 중에서 리만가설은 2000년에 클레이 수학연구소★가 선정한 ‘천년의 문제(Millenium Problems)’ 7개 중에 하나로 선정되어 상금 100만 달러가 걸려 있기도 하다.

클레이 수학연구소★ 미국 매사추세츠 주의 케임브리지 지방에 있는 사설 비영리 재단으로, 수학을 널리 알리고 발 전시키는 활동을 하고 있다. 2000년 5월 ‘오랫 동안 풀리지 않은 중요한 기본 문제’ 7개를 발 표했다.

힐베르트는 당대의 인류가 수학분야에서 무엇을 알고 있고, 무엇을 모르는가에 대한 통찰력을 지닌 보기 드문 학자였다. 그 자신도 너무나 풀고 싶지만, 그 답을 알지 못하는 수학문제 23개를 골라 19세기에서 20세기로 들어서는 문턱인 1900년에 발표했다.

이 문제는 해결 여부가 중요하기보다는, 이러한 노력을 통해 우주에 대한 인간의 이해가 확장되었다고 볼 수 있다. 뿐만 아니라, 예상하지 않았던 결과가 파생되면서 수학뿐 아니라 20세기 과학의 흐름에도 지대한 발전이 이뤄졌다. 그래서 이 글의 처음에 우리가 했던 질문, 즉 “20세기 수학의 흐름에 가장 큰 영향을 끼친 수학자는 누구인가”라는 질문에 “힐베르트”라고 대답하게 된다.
 
인간의 지성의 무한한 능력을 믿었던 수학자 힐베르트는 자신의 묘비에 이런 말을 남겼다.

우리는 반드시 알아야 한다. 우리는 알게 될 것이다. _힐베르트

클레이 수학연구소
미국 매사추세츠 주의 케임브리지 지방에 있는 사설 비영리 재단으로, 수학을 널리 알리고 발전시키는 활동을 하고 있다. 2000년 5월 ‘오랫 동안 풀리지 않은 중요한 기본 문제’ 7개를 발표했다.