d라이브러리









수학은 모순을 먹고 자란다

김용운의 수학교실⑨

1930년 괴델은 최선의 시나리오가 없다는 결론에 도달했다. 인류는 수학의 신이 될 수 없다는 것이다. 집합론의 모순에서 출발한 수학은 새로운 국면에 당도한 것이다.

'혁명은 피를 먹고 자란다'는 섬뜩한 말이 있다. 이와 대조적으로 로맨틱한 것을 찾는다면 '시인은 꿈을 먹고 산다'는 말이 있다. 이와 같은 논법을 쓴다면 '수학은 모순을 먹고 산다'라고 표현할 수 있다.

서양의 모든 학문은 그리스에 뿌리를 둔다. 수학의 세계에 처음으로 모순이 등장한 것 역시 그리스였다. 그리스의 사고는 명확하고 정연한 질서만을 대상으로 했다. 유한해야만 크기 순서 등의 질서가 주어지고 비교가 가능하다. 따라서 그리스 수학의 특성은 움직이지 않으며 유한한 것에만 국한된 것이다.

크세논의 파라독스
 

(그림1) 크세돈의 파라독스


이 믿음은 결국 운동과 변화가 없다고까지 주장하게 된다. 유명한 크세논의 파라독스(궤변)가 그것이다.

(1) '나는 화살은 멈추어 있다.'
그 이유는 어떤 것이라도 어느 위치에 있을 때는 정지하고 있기 때문이다. 날아가는 화살은 순간마다 어느 일정한 위치에 있는 것이므로 각 순간마다 정지하고 있는 것이다. 따라서 전체로서도 정지하고 있어야 한다. 결국 화살은 날지않고 그대로 있는 것이다.

이것은 (2) '2분할의 파라독스'와 관련해서 생각하면 재미있다.

운동하는 것은 목적지점 B에 도착하기 전 그 거리의 반의 지점 C에 도착해야 하고, 또한 C에 가기 전 그 반의 위치에 도착해야 한다…. 어떤 것도 이와 같이 무한히 많은 점에 당도해야 하기 때문에 운동은 불가능하다.
 

(그림2) 크세돈의 파라독스


(3) '경기장의 파라독스'
경기장에 4개가 한 조인 AAAA의 곁에 똑같은 크기의 4개로 된 두 개조 BBBB와 CCCC가 반대 방향으로 같은 속도로 운동하고 있다(그림 1, 2).
이때 각 A, B, C는 공간의 최소단위를 나타내고 있다고 가정하자. 그림 (1)과 같이 운동했던 것이 일정시간 뒤 (2)의 위치에 있다.

각 단위를 통과하는 데 최소의 시간이 걸린다면 (2)의 자리에 도착하는 데 C4개를 통과해야 하므로 B의 오른쪽 끝에 도착하기 위해서는 4단위의 시간이 필요하다. 따라서 그 최소 단위의 2시간=4단위의 시간이 돼 모순이다.

크세논의 파라독스 가운데 가장 유명한 것이 "발이 빠른 아킬레스는 거북을 뒤쫓아가 잡을 수 없다"는 궤변이다. 아킬레스는 그리스에서 가장 발이 빠른 사람이다. 발뒤꿈치 바로 위에 있는 가는 뼈, 즉 아킬레스건은 불사조인 아킬레스의 유일한 약점이었고 그곳에 화살을 맞아 죽었다.

다음과 같이 가상해 보자.
"거북보다 10배나 빠른 속도로 달리는 아킬레스는 10m 앞에 있는 거북과 동시에 출발한다. 하지만 아킬레스가 아무리 빨리 달려도 거북을 따라잡을 수 없다."

아킬레스와 거북의 속력 차이를 '10배, 이들 사이의 거리를 10m으로 하면 아킬레스가 거북이 있던 자리에 가면 이미 거북은 1m 앞 자리에 있고, 또 아킬레스가 그 자리에 가면 이미 거북은 10cm 앞에 있고, 도 다시 아킬레스가 그 자리에 가면 1cm 앞자리에 있다…. 이와 같이 영원히 계속돼 아킬레스의 앞에는 항상 거북이 있으므로 아킬레스는 거북을 잡을 수 없다.
 

(그림3) 크세돈의 파라독스


(그림 3)은 아킬레스가 거북이 처음 있었던 A의 자리에 가면 거북은 이미 그보다 앞선 B의 자리에 가 있고, 또 아킬레스가 B에 당도했을 때 거북은 C의 자리에 있는 것을 나타낸 것이다. 이와 같은 일을 아무리 되풀이해도 아킬레스는 거북의 뒤에 있고 따라잡을 수 없다.

하지만 연립 1차 방정식은 간단히 이 문제를 풀어낸다(그림 4).
아킬레스의 운동 방정식을 y=x로 하면 거북의 것은 y=$\frac{1}{10}$x+10이다. 실제로 그래프를 그리면 이 두 직선은 x=$\frac{100}{9}$ 의 자리에서 만난다.

y=x
y=$\frac{1}{10}$x=10 10x=x+100
x=$\frac{100}{9}$=11.1111…
 

(그림4) 크세돈의 파라독스


하지만 10과 $\frac{100}{9}$사이에는 무한개의 점이 있다. 그사이의 점들에 관해서 일일이 따져가면 x=$\frac{100}{9}$ 의 자리에는 영원히 도달하지 못한다. 점은 ${x}_{1}$, ${x}_{2}$ … ${x}_{n}$ … 무한인데, n에는 항상 (n+1) 이라는 수가 뒤에 붙어 있다.

이것은 유한적인 생각으로 무한을 극복하려는 데서 생긴 모순이다. 유한의 논리만을 고집한 그리스인은 이 당혹스런 '무한' 앞에 양 손을 들 수 밖에 없었다.

이 문제가 해결된 것은 무한의 수학인 해석학(미적분학)이 생긴 후의 일이다. 해석학에서는 수열 ${x}_{1}$ … ${x}_{n}$ … 이 x에 얼마든지 가까이 접근해 갈 수 있다면 수열 {${x}_{n}$}이 x에 도달한다는 논리체계를 세운 것이다.

유한의 범위에서는 A=B, A-B=0과 같은 뜻이다. 하지만 무한 세계는 = 에 관해서 새로운 의미가 필요한 것이다. 즉 얼마든지 가까워질 수 있으면 같다(=)로 생각함으로써 거북과 아킬레스의 파라독스를 극복할 수 있었다.

크세논의 일련의 파라독스 모두는 '어디까지 가도'라는 애매한 표현에서 나온 것이다. 어디까지 가는 것은 인간이며 인간이 갈 수 있는 곳은 결국 유한의 세계다. 유한의 논리로서는 무한에 도달할 수 없다. 수학자는 이 모순을 "얼마든지 가까이 갈 수 있을 때는 같은 것으로 본다"라는 무한 논리로 극복한 것이다.

집합론의 모순

모처럼 아킬레스의 모순을 극복한 수학에 새로운 또 하나의 모순이 나타났다.

"${X}_{n}$이 ${X}_{0}$에 얼마든지 가까워지면 그 수열이 X와 같다고 보는 것도 어찐지 억지스럽다."

G.칸토르는 '집합' 개념을 수학에 도입했다. 집합론은 애매한 무한개념을 명확히 하기 위해서 필요했다. 그 이전까지 수는 신으로부터 얻은, 즉 직관으로만 인식할 수 있는 것으로 여겼다.

하지만 집합론은 집합만 주어지면 얼마든지 수를 만들어낼 수 있다. 이 사실은 집합론으로 수학의 완전한 기초가 마련되고 그 기반 위에서 수학을 재구성할 수 있음을 뜻한다.

실제로 수학은 그와 같이 재구축돼 갔다. 하지만 예기치 않았던 함정이 집합론에 있었다. 집합론 속에는 큰 모순이 있었던 것이다. 그것도 여러 개의 모순이 발견된 것이다. 그 중 가장 유명한 것이 러셀의 모순이다.

보기로서 짝수의 집합을 생각해 보자. {2, 4, 5, 8,…}과 같이 짝수만으로 된 모임(집합)이 있다. 이때 집합의 요소는 그 집합에 속해 있는 것을 말한다. 귤의 껍질을 벗기면 그 속에 알맹이가 가득차 있다. 귤은 많은 알맹이를 요소로 하는 집합이다. 집합기호{}는 귤의 경우 껍질 역할을 하는 것이다.

집합중에는 위에서 말한 간단한 것 말고도 {{2,4,6…}, {1,3,5…}}와 같이 {{짝수}, {홀수}}도 있다. 이것은 집합의 집합이다. 집합이 집합의 요소라면 그 집합이 자기 자신의 요소가 되는 경우가 있다.

양파는 껍질을 벗겨도 또 껍질이 있는데, 자기 자신을 포함하는 집합은 양파처럼 껍질을 벗겨도 또 자기 자신이 나오는 고약한 성질을 갖는다. 이것을 악성집합이라고 하자. 그리고 악성이 아닌 것, 즉 자기 자신을 포함하지 않는 집합을 양성이라고 부르자.

모든 양성집합의 집합을 R로 표시한다. 즉 R의 요소이면 양성집합이며, 양성집합은 R의 요소다. 다시 말해서 "집합 X는 양성이다"라는 것과 "집합 X는 R의 요소다"라는 것은 같은 말이다.

러셀은 "모든 양성집합의 집합은 양성인가, 아니면 악성인가"라는 생각을 한 것이다.
"X가 R이면 R은 양성이다" 또 "R은 R의 요소다"는 같은 말이다.

그러나 "R은 R의 요소다"란 껍질 속에 껍질이 포함됐다는 뜻이므로 R이 악성이라는 뜻이다. 이상에서 "R은 양성이다"와 "R은 악성이다"가 같은 뜻이 되고 만다. 양성이란 악성이 아닌 것이므로 "R은 악성이 아니다"와 "R은 악성이다"가 같은 말이 된다.

R은 악성 양성 어느 쪽을 택해도 모순이다. 이 파라독스 앞에 어떻게 해서라도 그것을 구하기 위해 수학의 범위를 처음부터 다시 생각해야 한다. 그래서 별별 의견이 제출됐다.

D.힐벨트는 당시 20세기 최대의 수학자로 자타가 공인한 사람이었다. 그는 집합론의 모순을 극복하기 위해 일어났다. 절대로 모순이 없는 수학을 수립하는 일을 하겠다고 선언한 것이다.

호킹박사와 괴델

우주론으로 유명한 호킹박사는 물리학에 대해 솔직한 의문을 제기하고 있다. 밀입자의 세계에는 양자론이 있고, 대우주의 세계에는 상대성 원리가 있다. 이들은 같은 물리적 대상이다. 따라서 "이들 두 이론을 체계적으로 엮을 수 있는 통일이론이 존재하느냐?"라는 의문이다.

"우주법칙이 정해져 있는 것이 아니라면 우주를 완전히 설명할 수 있는 통일이론을 연구해야 할 것이다. 그러나 인간에 의한 완전한 통일이론에는 근원적인 모순이 있다…."

만일 완전한 통일이론이 있는 것이라면 그것은 인간의 행동도 결정할 것이다. 이 사실은 통일이론 자체가 인류의 통일이론 연구의 방향을 결정한다는 것이다. 그렇다면 인류가 옳은 결론에 당도할수 있는 방법이 정해져 있는 것일까. 인간이 그릇된 결론에 당도하도록 미리 정해져 있었다 해도 이상할 것은 하나도 없다. 또는 결론에 전혀 못미친다 해도 이상한 것은 아니다.

인간은 (1) 완전한 통일이론에 당도할 수 있는가. (2) 그릇된 통일이론에 당도할 것인가. (3) 또는 영원히 헛된 노력을 계속할 것인가.

아직도 호킹 박사의 의문의 답은 나오지 않았다. 괴델과 호킹은 근원적으로 같은 의문에서 출발하고 있다. 호킹은 다음 3개 시나리오의 가능성을 말한다.

최선의 시나리오 : 완전한 통일이론이 완성된다.
최악의 시나리오 : 그릇된 통일이론이 완성된다.
차선의 시나리오 : 완전한 통일이론은 완성할 수 없다.

차선의 시나리오는 통일이론으로서는 불완전하지만 부분적으로 옳다고 생각되는 이론, 양자론, 상대성 원리가 있다.
괴델은 다음 3개 시나리오의 가능성을 말한다.

최선의 시나리오 : 완전한 수학이론이 완성된다.
최악의 시나리오 : 그릇된 수학이론이 완성된다.
차선의 시나리오 : 완전한 수학이론은 완성할 수 없다.

이때 차선의 시나리오는 부분적으로 옳은 이론이 있음을 시사한다.
1930년 괴델은 최선의 시나리오가 없다는 결론에 도달했다. 인류는 수학의 신이 될 수 없다는 것이다. 힐벨트의 개혁은 성공할수 없음이 확인된 것이다. 집합론의 모순에서 출발한 수학은 새로운 국면에 당도한 것이다.

이 기사의 내용이 궁금하신가요?

기사 전문을 보시려면500(500원)이 필요합니다.

1995년 02월 과학동아 정보

  • 김용운

🎓️ 진로 추천

  • 수학
  • 철학·윤리학
  • 물리학
이 기사를 읽은 분이 본
다른 인기기사는?