구독상품안내
독일의 수학자 게오르크 칸토어가 수백 년간 아무도 입 밖으로 꺼내지 않았던 단어, ‘무한’을 언급하면서 세 번째 격투가 시작됐다. 칸토어는 원소의 개수가 무한히 많더라도 셀 수 있는 방법을 제시했다. 물론 모두 셀 수 있는 건 아니다. 스스로 공들여 고안한 방법으로 무한 집합의 크기도 쉽게 비교할 수 있었다. 그 방법은 바로 짝짓기! 두 무한 집합을 짝짓다 보면 무한 집합의 크기를 알 수 있었다.
이에 성직자, 철학자, 심지어 수학자까지 칸토어를 비난했다. 그도 그럴 것이 자연수 집합의 부분 집합인 짝수 집합의 크기가 자연수 집합이 크기와 같다고 주장하며 수천 년 동안 받들려 오던 유클리드의 5번째 통념 ‘전체는 부분보다 크다’를 부정했기 때문이다.
칸토어를 지지한 남자 힐베르트
모두가 칸토어를 비난할 때, 칸토어의 수학적 아이디어에 푹 빠져 헤어 나오지 못하고 있는 수학자가 하나 있었으니, 20세기 최고의 수학자로 평가받는 독일의 수학자 다비트 힐베르트다. 힐베르트는 칸토어의 놀라운 생각을 많은 사람이 알길 바라며 집합론을 공리화하기 시작한다. 그리스 수학자 유클리드가 그랬던 것처럼 몇 가지 공리만으로 모든 명제를 증명할 수 있도록 수학 체계를 만들고자 했다.
그런데 무한만 꺼내들면 모순이 발생하는 일이 빈번했다. 더욱이 모순이 발생할 때마다 수학의 위기설이 돌기 시작했다. 위기설이 탐탁지 않았던 힐베르트는 이를 막아야 한다는 생각에 수학이 논리적으로 완벽하다는 것을 증명할 ‘힐베르트 프로그램’을 내세웠다. 수학의 모든 체계는 모순이 없으며, 모든 수학 명제는 그 체계 안에서 증명 또는 반증할 수 있다는 내용이였다.
괴델 공격에 무너진 힐베르트 프로그램
수학자들은 자연수 집합이 크기와 짝수 집합의 크기가 같다는 사실과 실수 집합이 자연수 집합보다 크다는 사실은 알았다. 하지만, 실수 집합과 자연수 집합 사이에 집합이 있는지는 알지 못했다. 힐베르트가 힐베르트 프로그램에서 말한 대로 수학이 완전하다면, 이 문제는 같은 수 체계에서 실수 집합과 자연수 집합 사이에 있는 어떤 수 집합이 있는지 무조건 증명할 수 있어야 한다.
그런데 1931년, 괴델이 이것을 증명도 부정도 할 수 없는 명제라며, 수학에서 증명도 부정도 할 수 없는 명제가 반드시 존재한다는 정리를 내놓는다. 수학은 완전하지 않다는 ‘제1불완전성 정리’로 힐베르트의 프로그램을 반증한 것이다. 또 얼마 후 어떤 수학 체계에 모순이 없다는 것을 해당 수학 이론만으로 증명할 수 없다는 괴델의 제2 불완전성 정리까지 발표한다. 어떤 수학 체계로든 자체로는 완전할 수 없을 뿐만 아니라, 모순이 없음을 절대 증명할 수 없다는 것이다.
괴델의 공격 이후 한동안 수학자들에게 이 사건은 충격 그 자체였다. 더 이상 수학을 하지 않겠다는 분위기도 팽배했다. 그러나 수학의 완전성이 깨졌다고 해도 수학이 무너졌다는 걱정은 하지 않아도 된다. 수학계에는 아직도 발견하고 증명해야 할 수학 원리가 무수히 많다. 물론 여전히 풀리지 않고 있는 또 다른 힐베르트의 문제를 해결했다면 언제든 힐베르트를 불러내라.
▼관련기사를 계속 보시려면?
Intro. 반증으로 추측을 부숴라! 스트리트 매스파이터
