‘무한’이라고 하면 끝이 없이 많다는 생각이 들어 어느 상황에 붙여도 최고 또는 매우 좋은 것으로 보인다. 그래서 무한은 ‘무한도전’처럼 예능 프로그램 이름에도 쓰이고, 무한이라는 뜻의 영단어인 ‘인피니티’는 아이돌 이름으로, 자동차 회사의 이름으로도 쓰였다. 이처럼 무한이라는 단어는 우리에게 친숙한데, 수학에서 무한은 매우 중요한 개념이다. 먼저 기호의 역사부터 살펴보자.
무한대를 나타내는 기호 ∞는 1655년 영국의 수학자 존 월리스의 책에 처음 등장했다. 월리스는 원래 영국 케임브리지대에서 신학을 공부한 성직자였지만, 수학과 물리학에 관심을 두고 다시 공부해 1649년 영국 옥스퍼드대의 기하학 교수가 된 인물이다. 결과적으로 그가 수학으로 전공을 바꾼 일은 굉장히 잘한 일이었다. 이탈리아의 수학자 보나벤투라 카발리에리와 데카르트의 생각을 이어 극한 개념을 발전시켰기 때문이다. 이뿐만 아니라 월리스는 천문학, 식물학, 음악 등 다방면에 재능을 보였는데, 그중에서도 암호해독에 두각을 나타냈다.
월리스가 ∞를 무한대 기호로 선택한 이유를 따로 설명하지 않았지만, 사람들은 1000을 나타내는 옛 로마 숫자 CI 또는 C 에서 유래했을 것으로 추측하고 있다. 이는 1000이 옛 로마뿐만 아니라 당시 영국에서도 무한대를 의미할 만큼 매우 큰 수였기 때문이다. CI 나 C 의 모양도 ∞와 매우 비슷하다.
한편 ∞가 그리스의 알파벳 가장 마지막 글자인 오메가 ‘ω’에서 유래했다는 설도 있다. 이는 오메가가 흔히 ‘끝’을 상징하는 알파벳으로 사용되고, ∞와도 그 모습이 닮아서다.


무한은 수학, 과학 분야의 연구가 본격적으로 시작되기 전인 고대 때부터 다뤄지기 시작했다. 기원전 5세기 고대 그리스 철학자 제논이 제기한 역설을 통해서 ‘무한’의 개념을 엿볼 수 있다.
제논의 역설
아킬레우스가 거북보다 10배 빨리 달린다고 하자. 아킬레우스보다 100m 앞에서 거북을 출발시켰을 때 둘이 경주하면 누가 이길까? 제논은 거북의 승리를 장담했다. 아킬레우스가 100m를 가는 동안 거북은 10m를 가고, 이어 아킬레우스가 10m를 더 가는 동안 거북은 1m를 더 간다. 이렇게 아킬레우스가 거북을 따라잡으려고 해도, 거북 역시 움직이므로 아킬레우스는 영원히 거북을 따라잡을 수 없다.

제논의 주장이 그럴듯해 보이지만, 거북과 아킬레우스가 간 거리를 아래와 같이 직접 계산해보면 제논의 주장이 틀렸음을 알 수 있다.
하지만 제논이 이 역설을 말할 당시에는 수학자와 철학자가 무한히 더한다는 개념을 알지 못해 제논의 주장을 논리적으로 반박할 수 없었다. 19세기에 이르러서야 무한을 이해하고, 제논의 역설이 거짓이라는 것을 증명했다.
무한 세계의 아버지 칸토어
18세기 오일러도 무한이 하나의 수라고 했지만, 무한의 개념이 무엇이며, 어떤 성질을 갖는지 확실히 설명하지는 못했다. 저서 <대수학>에서는 아무 설명도 없이 1/0을 무한이라고 썼다.
당시 무한은 인간의 한계를 초월한 신의 영역으로 여겨지기도 했다. 무한을 분석하거나 규명하는 게 수학계의 금기로 여겨질 정도였다. 심지어 ‘수학의 황제’라 불리는 가우스조차 ‘무한이란 수학적으로 가치가 없다’라고 말했다.
이런 무한의 성질을 이해하게 된 데에는 19세기 독일의 수학자 게오르크 칸토어의 활약이 컸다. 매우 큰 수나 무한히 커지는 상태를 의미했던 무한을 ‘원소를 모두 헤아릴 수 없는 무한집합’으로 정의하고 그 성질을 밝힌 것이다.

그는 1878년 집합론을 창시하며 ‘무한’이란 난제의 돌파구를 찾는다. 칸토어는 집합론을 이용해 무한의 개념을 수학적으로 정의하며 a1, a2, a3, 과 같은 수열에서 아무리 큰 수 x를 골라도 이 수보다 큰 수는 반드시 있다고 발표했다.
하지만 이런 주장은 당시 수학자에게 쉽게 받아들여지지 못했다. 스승인 레오폴트 크로네커조차 새로운 생각을 받아들이지 못하고 칸토어가 수학계에 도전한다며 독설을 퍼부었다. 크로네커는 자연수까지만 인정할 뿐 그 밖의 무한은 존재한다는 사실 자체를 부인했다.
이후 칸토어는 홀로 수많은 비판자와 맞서 외로운 투쟁을 벌였다. 그러나 결국 정신적 압박을 이기지 못하고 병원을 오가는 생활을 하다가 1918년 한 병원에서 숨을 거두고 말았다. 다행히 죽기 전에 스승인 크로네커와 화해하고 업적을 인정받았다.
칸토어의 업적은 20세기에 이르러서야 비로소 현대 수학의 기초가 됐다는 평을 받았다. 독일의 수학자 다비트 힐베르트는 그의 연구를 두고 ‘칸토어의 집합론은 수학자의 두뇌가 만들어 낸 최고의 업적’이라며, ‘아무도 우리를 칸토어가 만든 낙원에서 쫓아낼 수 없다’라고 말했다.
역사 속에서 많은 수학 기호는 수학적으로 개념이 정의된 뒤, 여러 변천 과정을 거쳤다. 그런데 재밌게도 무한의 경우는 그 순서가 정반대다. 기호 ∞가 먼저 자리를 잡은 다음, 약 200년이 지난 뒤에야 무한의 개념이 수학적으로 엄밀하게 정의되었다. 그러므로 ‘수학의 본질은 자유에 있다’라고 주장한 칸토어의 말처럼, 상식을 뒤집어 생각을 전환할 때 위대한 발견을 할 수 있다는 사실을 기억하길 바란다.
물리학에서 무한이란?
물리학에서는 어떤 것을 끝없이 잘게 쪼개는 과정에 무한을 사용한다. 예를 들어 자동차의 순간 속도를 알려면, 짧은 시간 동안 이동한 거리를 알아야 한다. 그리고 거리를 아주 짧은 시간으로 나눠야 순간의 속도를 얻을 수 있다. 이렇게 거리를 아주 작은 시간으로 무한히 쪼개서 보는 과정을 ‘미분’이라고 하며, 위치를 미분하면 속도, 속도를 미분하면 가속도를 얻을 수 있다. 무한은 수학만큼이나 물리학에서도 큰 역할을 하고 있는 것이다.
반면 물질을 입자로 쪼개서 보는 양자역학에서는 어떤 물질을 무한하게 나눌 수 없다고 본다. ‘유한한 크기의 공간에는 유한한 수의 입자만 들어갈 수 있다’라고 가정하기 때문이다. 시공간에 양자역학의 원리가 적용되는지는 확인되지 않았지만, 만약 그렇다면 무한의 개념이 없다고 볼 수 있다.
수학자가 무한을 그리는 방법
칸토어 이후 수학자들은 무한을 정의하기 위해 실수, 자연수와 같이 개수가 무한한 집합을 눈여겨보기 시작했다. 그러다 20세기 들어 무한의 신기한 성질을 발견했다. 독일 수학자 다비트 힐베르트의 사고 실험으로 그 성질을 알아보자. 일명 ‘무한 호텔’이다.
만약 호텔의 모든 객실에 손님이 있어 빈방이 없을 때, 또 다른 손님이 오면 어떻게 해야 할까? 우리가 사는 세상의 호텔이라면 손님을 받을 수 없겠지만, 무한 호텔이라면 몇 명의 손님이 와도 받을 수 있다. 말 그대로 ‘무한’한 방을 가지고 있기 때문이다.
먼저 손님 한 명이 왔을 때, 빈방을 하나 만들어 보겠다. 호텔의 지배인이 방에 있는 모든 사람에게 “자신의 방 번호에 1을 더한 번호의 방으로 이동하세요”라고 공지한다. 그러면 1번 방의 사람은 2번 방으로, 2번 방의 사람은 3번 방, 무한한 번호의 방에 있는 사람은 무한에 1을 더한, 즉 무한한 번호의 방에 또 들어가게 된다. 결과적으로 1번 방이 비어 새 손님을 받을 수 있다.
이번에는 빈방이 없는 무한 호텔에 손님이 무한히 찾아온 상황을 상상해보겠다. 아무리 무한 호텔이라고 해도 빈방을 무한히 만들 수 있을까? 가능하다. 먼저 호텔의 지배인이 호텔에 있는 손님들에게 “자신의 방 번호에 2를 곱한 번호의 방으로 이동하세요”라고 말한다. 그러면 1번 방에 있던 사람은 2번 방으로, 2번 방에 있던 사람은 4번 방으로 옮기게 된다.
그 결과번의 홀수 방은 빈방이 된다. 홀수 역시 무한할 테니 새로 온 무한히 많은 손님을 받을 수 있다. 만약 짝수 방을 비우고 싶다면, “자신의 방 번호에 2를 곱하고, 1을 뺀 번호의 방으로 이동하세요”라고 말하면 된다.
무한히 많은 손님이 묵을 방을 계속 찾아낼 수 있는 이유는 손님을 ‘셀 수 있기 때문’이다. 셀 수 있다는 건 손님에게 자연수 1, 2, 3, 이 적힌 순서표를 한 장씩 나눠줄 수 있다는 뜻이다. 즉, 셀 수만 있다면 무한히 많아도 이 호텔에 묵을 수 있다.
힐베르트는 이런 무한 호텔로 무한의 신비함을 설명했다. 무한 호텔 이야기는 1947년 러시아 출신의 미국 천문학자 조지 가모프의 저서 <1, 2, 3 그리고 무한>에 등장하면서 널리 알려졌고, 무한을 보여주는 예시로 많이 사용된다.
