구독상품안내
사고의 시작, 공리
최근 영국 옥스퍼드대 수학과 로비에 조각을 설치했다. 매트 치버스라는 유망한 젊은이의 작품이다. 멀리서 볼 때는 매끈한 은빛 금속 망사가 경직된 다면체의 틀을 빠져나오는 구름을 감싸고 있는 인상을 준다. 하지만 가까이 갈수록 각기둥 모양의 변들이 오밀조밀한 삼각형 네트워크를 이루며 꼭짓점에서 약간 엉성하게 포개지는 모습이다. 그리고 형성 과정에서 생긴 흠집과 거친 물질의 표면이 드러나 보인다.
작품의 이름은 ‘공리’다. 공리라는 개념은 ‘올바른 논법’이 도대체 무엇이냐는 질문과 관계가 깊다. 일상생활에서도 주장의 참과 거짓이 어떤 기준으로 정해지는지 판단하기가 쉽지 않다. 확인해 볼 수 있는 기본 주장, 가령 ‘지금 밖에 비가 오고 있다’ 같은 경우는 쉽게 판단할 수 있다. 하지만 논리를 조금이라도 길게 전개하는 상황이면 과정의 옳고 그름을 따지지 않을 수 없다. 서양사상사에서는 이런 문제가 아리스토텔레스에 의해서 처음으로 체계화됐다.
그는 ‘명제’라는 개념과 ‘삼단논법’ 같은 연역법을 분류하면서 그들을 ‘옳은 논리의 원소’로 제시했다. 즉 사물에 대한 주장은 명제로 표현되고 올바른 논리전개는 삼단논법 같은 소수의 연역법으로부터 만들어져야 한다는 것이다. 그런데 논리를 펼치기도 전에 마주해야 하는 중요한 질문이 있다. 사고의 전개가 삼단논법을 통해서 이뤄진다면 사고의 시작점은 어디에 있을까?
그때 필요한 게 바로 ‘공리’다. 진리가 무엇인지 정확하게 파악하기 어렵다 할지라도 기본적인 가정을 명확하게 밝히는 과정에서 공리는 나타난다. 웬만한 사람이면 당연하다고 받아들일 만한 명제 몇 개를 설정하고 공리라 부른다. 그때부터 더 이상 그것에 대해서 ‘왜’라는 질문을 안 하기로 합의하는 것이다. 그런 공리에서 시작해서 올바른 연역법으로 만들 수 있는 모든 명제를 ‘정리’라고 부르는데, 정리 가운데는 복잡하고 믿기 어려운 것들도 있기 마련이다. 마치 단순한 벽돌을 시멘트와 건축 원리를 이용해서 짜 붙이면 상당히 복잡한 구조물을 만들 수 있는 것과 비슷하다.
공리와 연역법은 함께 ‘공리체계’를 이룬다. 가정의 명확함이 사고 에너지를 효율적으로 만들어 준다는 신념이 공리체계의 근본적인 동기다. 물론 그러면 언젠가 공리의 대한 의혹이 생길 때 그 공리를 가정하고 쌓아올렸던 모든 이론이 흔들릴 수 있다는 약점이 있다.
유클리드와 뉴턴
과학의 역사에서 공리체계와 엄밀한 논리전개의 응용을 처음 보여준 책은 고대 그리스의 수학자 유클리드의 저서 <;원론>;일 것이다. 그 책은 기하학 이론을 공리에 근원해서 체계적으로 쌓아올렸다. 유클리드 기하학의 유명한 공리는 다음과 같다.
❶ 임의의 점과 다른 한 점을 연결하는 직선은 단 하나뿐이다.
❷ 임의의 선분은 양끝으로 얼마든지 연장할 수 있다.
❸ 임의의 점을 중심으로 하고 임의의 길이를 반지름으로 하는 원을 그릴 수 있다.
❹ 직각은 모두 서로 같다.
❺ 평행선 공리 : 두 직선이 한 직선과 만날 때, 어느 한 쪽에 있는 내각의 합이 180°보다 작으면 이 두 직선은 반드시 그 쪽에서 만난다.
이중 5번째인 평행선 공리는 유클리드 자신에게도 자명하게 느껴지지 않았던 것으로 유명하다. 그래서 나머지 4개의 공리로부터 논리적으로 유도하려는 노력을 상당히 들였다. 즉, 공리라고 주장하기보다 나머지 자명한 공리로부터 따르는 다소 어려운 정리로 만들고 싶었던 것이다. 유클리드 이후로도 많은 수학자가 2000년 동안 노력했다. 하지만 19세기에서야 공리 1, 2, 3, 4를 만족하면서 5번은 성립하지 않는 새로운 기하가 발견되면서 1, 2, 3, 4로부터 순수 논리 전개로 5를 유도하는 것은 불가능하다고 밝혀졌다.
유클리드 기하학은 과학의 역사에 지대한 영향을 미쳤다. 아마도 현대 물리학의 창시자라고 할 만한 영국의 수학자이자 물리학자인 아이작 뉴턴에게 미친 영향이 가장 중요할 것이다. 뉴턴은 그의 대작 <;프린키피아(자연 철학의 수학적 원리)>;에서 정확히 유클리드의 모범을 따라서 사물의 운동이론을 전개했다. 그가 공리로 택한 것은 유명한 운동법칙 3개다.
❶ 물체의 질량 중심은 외부 힘이 작용하지 않는 한 일정한 속도로 움직인다.
❷ 물체의 운동량의 시간에 따른 변화율은 그 물체에 작용하는 힘과 같다.
❸ 물체 A가 다른 물체 B에 힘을 가하면, 물체 B는 물체 A에 크기는 같고 방향은 반대인 힘을 동시에 가한다.
뉴턴은 이 3개의 공리로 구체적인 힘이 작용하는 수많은 상황을 정확하게 분석할 수 있었다. 덕분에 달이나 행성의 궤적, 또는 발사된 대포알의 운동을 설명했다. 그보다 더 중요한 것은 정량적인 시각으로 세상을 이해할 수 있다는 믿음을 한 번에 만들어냈다는 것이다. 뉴턴은 공리체계를 사용하는 데 그치지 않고 모든 증명 과정에서도 기하학적 언어를 사용함으로써 유클리드의 사상을 그대로 본받았다.
수학의 실체
그런데 솔직히 말하자면 나는 공리라는 개념을 별로 안 좋아한다. 그래서 개인적으로도 친한 매트 치버스가 작품의 이름을 그렇게 정한 데 대해서 적잖이 놀랐다. 그런데 그 덕에 스스로 동기를 검사해 볼 기회가 생겼다. 그 결과 공리에 대한 집착이 자연현상으로서의 수학의 실체를 잊어버리게 하는 효과가 있어 공리체계에 대한 일종의 거부 반응을 스스로 갖고 있었다는 것을 알아냈다. 수학이란 공리로부터 출발해서 확실한 진리를 창출하는 학문이라는 오해를 할까봐 걱정했던 것이다.
최근에 어느 한국 고등학생에게서 이에 관한 질문을 받았다. 학생의 질문은 수학적 진리가 확실하냐는 질문이었다. 그에 대한 간단한 답은 당연히 아니라는 것이었다. 인간의 탐구 작업이니 만큼 당연히 다른 자연과학이나 마찬가지로 모호한 부분이 있고, 우리는 연구와 노력을 통해서 단지 각종 진리에 대한 증거를 찾아나갈 뿐이다. 물론 학문의 전통상 추구하는 논리의 명확성이 특히 중요한 것은 사실이다. 그러나 완벽한 확신이 불가능한 것 역시 당연하다.
수학의 확실성에 대한 걱정은 독일의 철학자인 이마누엘 칸트에서 영국의 철학자인 버트런드 러셀까지 많은 이가 지니고 있었다. 그 때문에 독일의 다비드 힐베르트 같은 수학자는 20세기 초에 수학의 완벽한 공리화의 중요성을 강조했고 수학적 사물의 존재 자체가 공리에 의존한다고 믿는 전통을 형성했다.
1930년대에 증명된 ‘괴델의 불완전성 정리★’는 수학을 공리화하는 게 근본적으로 불가능함을 보였다. 공리체계를 어떻게 정하더라도 그것만으로는 참과 거짓을 결정할 수 없는 수학 명제가 얼마든지 있음을 보였기 때문이다. 나는 불완전성 정리를 처음 이해했을 때, 솔직히 별로 놀랍지 않다는 느낌이었다. 왜냐하면 우리가 세상에 대해서 믿고 있는 명제들이 모두 다 증명 불가능하기 때문이다.
그럼에도 우리는 우주의 질서를 파악하기 위해서 실험도 하고 검증도 하며 이론을 정립해서 확신을 키워가는 과정을 거듭한다. 물론 거기서 공리 역시 중요한 역할을 하는 것은 사실이다. 뉴턴의 운동 법칙처럼 사고의 근거를 마련해 줄 명제 몇 개를 근사적으로라도 정해 놓는 것이 과학적 탐구의 중요한 부분인 것은 분명하다. 그러나 물리학에서나 수학에서나 공리는 탐구과정의 유기적인 도구이기에 창조와 성숙, 변형과 죽음의 과정을 거치면서 진화한다.
그런데 재미있는 것은 치버스의 조각에 나타나는 공리의 모습이 이런 현실을 그대로 반영한다는 사실이다. 예술품 ‘공리’는 현대 미술의 핵심인 진실성을 내포하기에 멀리서 볼 때는 매끈하지만 정밀한 구조는 창조 과정을 적나라하게 드러내는 흠집과 다소의 불안정을 보존하고 있다. 그래서 통상적으로 생각할만한 멋있는 기하구조, 가령 완벽한 대칭성을 지닌 구나 정육면체보다 훨씬 심오하고 아름답게 공리의 실체를 보여 주는 것이다.
나는 오래 전부터 수학 문명의 역사적 발전을 경이롭게 생각해 왔다. 고대 그리스의 천재들이 어려워했던 수학을 초등학생들도 이해할 수 있게 된 현 상황이 어떻게 가능해졌는지 늘 놀랍기만 하다. 그런 가운데 치버스의 작품은 예술가의 수학적 시각 역시 시대에 적합하게 발전해 간다는 사실을 확실하게 보여 준다.
괴델의 불완전성 정리★ 미국의 수학자 쿠르트 괴델이 증명한 정리로, 공리계에는 참이지만 참임을 증명할 수 없는 명제가 존재하며, 그 공리계는 자신의 무모순성을 증명할 수 없다는 내용을 담고 있다.
