아주 오래 전 동물을 사냥하고 열매를 따서 배를 채우던 사람들은 깜깜한 하늘에 반짝이는 별을 보며 무슨 생각을 했을까? 너무 오래 전이라 기록이 없어서 정확히 알 수 없지만 모든 사람들이 한 번쯤은 가져봤을 궁금증, ‘우리는 어떻게 생겨났을까?’ ‘시간은 무한히 흘러가는 걸까?’ ‘우주는 끝이 없는 것일까?’와 같은 의문일 것이다. 무한에 대한 사람들의 궁금증은 그렇게 아주 오래 됐다.
무한, 인간의 손을 벗어나다
나무 막대기를 두 조각으로 자르자. 그 중 하나를 다시 두 조각으로 자르자. 막대기는 점점 짧아질 것이다. 그런데 이 과정을 계속할 수 있을까? 고대 그리스에서는 이 과정을 무한히 계속해서 할 수 있다고 생각했다. 적어도 제논이 제동을 걸기 전까지는. 어떤 양을 무한히 쪼갤 수 있다는 생각에 제동을 건 학자가 제논이다. 제논의 역설 가운데 가장 유명한 것은 ‘아킬레스와 거북의 달리기 경주’다.
아킬레스는 고대 그리스의 작가 호메로스에 의해 신화처럼 전해오는 트로이 전쟁의 영웅이다. 이 역설의 내용은 아무리 아킬레스가 빠르다 하더라도 거북이 먼저 출발하면 아킬레스는 거북을 따라잡을 수 없다는 것이다.
예를 들어, 아킬레스가 거북보다 100m 뒤에서 출발했고 아킬레스의 속도는 거북 속도의 10배라고 하자. 둘이 동시에 출발했을 때 아킬레스가 100m만큼 달려서 거북이있던 자리에 오면 그 동안 거북은 10m를 앞서 간다. 다시 아킬레스가 10m 달려서 거북이 있던 자리에 오면 그 동안 거북은 1m 만큼 앞서 간다. 아킬레스가 달리는 동안 거북도 항상 아킬레스의 1/10의 속도로 달리고 있다. 달릴수록 아킬레스와 거북이의 간격은 줄어든다.
그러나 아킬레스가 거북을 추월하기 위해 무한 번의 과정을 거쳐도 결코 거북을 추월할 수는 없다. 제논의 주장이 옳지 않다는 것은 분명함에도 불구하고 당시 사람들은 물론 천 년이 넘는 동안 누구도 제논의 주장을 반박하지 못했다. 사람들은 ‘무한 번의 과정’을 어떻게 계산해야 할지 방법을 몰랐기 때문이다. 이후 무한은 학자들의 책상 위에서 밀려났다. 그렇지만 무한에 대한 호기심 자체가 사라진 것은 아니었다.
무한을 향한 한 걸음
수학에서 덮어둔 무한은 이제 철학자와 사상가의 관심을 끌었다. 그러나 인간의 생각을 뛰어넘는 무한에 대한 호기심은 매우 위험했다.
16세기 이탈리아의 천문학자이자 수학자인 부르노는 우주가 무한하게 퍼져 있고 태양은 그 중 하나의 항성이며 밤하늘에 떠오르는 별들도 모두 태양과 같은 종류의 항성이라는 우주 무한론을 주장했다. 당시 우주의 중심은 지구라고 믿었기에 부르노는 공개적으로 화형을 당했다. 그 뒤 뉴턴의 법칙과 관측기술이 발달하면서 태양계가 속한 우리 은하 같은 외부 은하가 무수히 있다는 우주관이 받아들여졌다.
한편 갈릴레이는 ‘수학적 담화와 증명’이라는 책에 무한에 대한 기록을 남겼다. 그는 자연수와 제곱수 사이의 개수를 비교했다. 자연수 1을 제곱하면 1, 자연수 2를 제곱하면 4, 자연수 3을 제곱하면 9. 이런 방법으로 자연수에 그 수를 제곱한 수를 대응시켜서 개수를 비교하려고 했다.
자연수마다 제곱수가 하나씩 있으므로 두 수의 개수가 같다고 볼 수 있다. 그러나 3, 5, 6, 7, …과 같은 자연수는 제곱수가 아니므로 자연수와 제곱수의 개수가 같다고 말하기 곤란하다는 것을 발견했다. 이 점을 해결하지 못한 채 갈릴레이는 그의 책에 다음과 같은 글을 남겼다.
모든 자연수는 무한하다. 제곱수는 무한하다. 그리고 제곱수의 개수는 모든 자연수의 개수보다 작지도 않으며 크지도 않다. 그래서 결론적으로 같음, 많음, 적음과 같은 성질은 무한에선 적용되지 않으며, 단지 유한에서만 적용된다.
무한에서의 크기 비교는 19세기 칸토어에 의해 해결된다. 칸토어는 집합이라는 개념을 만들고 일대일대응 방법으로 무한집합의 크기를 비교했다. 예를 들어, 자연수의 집합과 짝수의 집합 크기를 비교할 때 각각의 숫자를 하나씩 대응시켜 보자.
위와 같이 자연수의 집합과 짝수의 집합 사이에 일대일대응을 만들 수 있다. 이런 경우에 두 무한집합의 크기가 같다고 한다. 이것은 당시 매우 거센 반발을 불러일으켰다. 자연수의 일부인 짝수의 집합의 크기와 자연수의 크기가 같다는 말을 받아들이기 어려웠던 것이다.
칸토어는 연구를 계속해 자연수, 정수, 유리수의 집합이 모두 크기가 같다는 것을 증명했다. 전체가 부분보다 크다는 것은 인류 역사에서 모두 인정해 온 사실이었는데, 무한집합에서는 이 사실이 성립하지 않는 것이다. 갈릴레이가 무한에서는 크기를 비교할 수 없다고 말한 지 약 300년 만의 일이다. 전체가 부분과 같은 것은 이제 무한집합의 특성이 된 것이다.
무한을 다루는 수학
다시 제논의 역설로 돌아가자. 아킬레스가 거북이를 추월하기 위해서 달려야 하는 거리는 다음과 같다.
100+10+1+0.1+0.01+0.001+0.0001…(m)
계속 작아지는 수지만 더하는 횟수가 무한 번이기 때문에 고대 그리스의 학자들은 그 값이 유한으로 될 것이라고 생각하지 못했다. 이 문제를 해결하기 위해 다음 정사각형을 보자.
무한은 오래 전부터 많은 사람들이 갈망했음에도 불구하고 감히 다가갈 수 없는 세계였다. 그러나 무한을 인정하면서 수학은 놀랍도록 발전했다. 무한에 대한 인류의 호기심은 끝없이 작아지는 것을 무한히 많이 더하는 것을 가능하게 했고, 미적분학과 집합론을 거쳐 이제 무한을 유한처럼 손쉽게 다룰 수 있게 됐다.
미적분은 무한히 쪼개는 것?
미적분학을 이용하면 날아가는 공의 움직임, 액체가 식어가는 현상, 약물의 주입 비율, 화폐가치의 변화 등 변하는 과정을 무한히 작은 단위로 쪼개 분석할 수 있다. 예를 들면, 날아가는 공의 위치를 무한히 작은 시간 단위로 쪼개면 각 시각에서의 속도를 알 수 있다. 또 면은 무수히 많은 선이 모인 것이고 어떤 도형을 이루는 선들이 평행하게 움직여도 그 넓이는 변하지 않는다.
무한을 나타내는 기호, ∞
1656년 월리스는 그의 책 ‘무한 산술’에서 무한대를 나타내는 기호를 처음으로 사용했다. 이 기호는 로마 사람들이 1000을 나타낼 때 종종 사용했다. 그래서 매우 큰 수를 표현하기 위해 사용되다가 점차 무한대를 나타내게 됐다.
