올해 6월 수학계에는 한바탕 소동이 있었습니다. 한 수학자가 달랑 하루 만에 정수론 분야의 40년 난제를 풀었다면서 인터넷에 논문을 공개했다가 오류가 있다며 철회한 일입니다. 수식 마지막에서 아주 사소한 실수를 했고, 이것이 증명을 송두리째 틀리게 만든 겁니다. 대체 어떤 일이 있었던 걸까요? 그리고 이 문제는 대체 무엇일까요?

하루 만에 철회된 논문
외로운 주자 추측은 주자가 7명 있을 때까지만 해결돼 있습니다. 그런데 지난 6월, 마티아스 벡 미국 샌프란시스코주립대 교수가 주자가 n명일 때를 증명했다면서 논문을 올리는 웹사이트인 아카이브에 연구 결과를 올렸습니다. 수학자들은 외로운 주자 추측이 풀렸다는 소식에 깜짝 놀랐고, 이 논문에 관심을 보였습니다. 하지만 하루 만에 오류를 발견하고 논문을 철회하는 일이 벌어졌습니다.

벡 교수는 부등식을 사용해 문제를 풀었는데, 마지막 부등식이 n=0일 때가 성립하지 않는 것을 그냥 지나쳐서 증명이 틀렸던 겁니다. 때때로 이런 사소한 오류로 증명 전체가 날아가는 일이 있습니다. 정말 아쉽지요? 이 오류는 테렌스 타오 캘리포니아주립대 로스앤젤레스캠퍼스 교수가 발견해 벡 교수에게 알려줬습니다.

수학자는 문제를 해결하기 위해 다양한 방법을 시도합니다. 때로는 문제를 바꾼 뒤, 이렇게 바꿔 풀어도 원래 문제를 푼 것과 같다는 사실을 증명합니다. 외로운 주자 추측도 그렇게 바꾼 문제가 있습니다. 바로 각 주자의 속도를 정수로 가정하고 풀어도 된다는 것이지요. 속도가 무리수나 소수가 아니어도 되기 때문에 조금 쉽게 풀 수 있습니다. 또 주자 중 한 명의 속도를 0으로 가정해도 되지요. 따라서 이 문제는 다음과 같이 바꿀 수 있습니다.

2011년에는 폴란드의 수학자 세바스티안 체르빈스키가 흥미로운 사실을 알아냈습니다. 1부터 N까지의 정수 중에서 서로 다른 속도 n개를 같은 확률로 뽑아 주자의 속도를 정했을 때, 각 주자에 대해 다른 모든 주자가 0.4999km 밖에 있는 순간이 발생할 확률은 N이 무한히 커지면 1에 수렴한다는 것입니다. 다시 말해서 주자가 아주 많다면 1nkm를 0.4999km로 바꿔도 이 문제가 성립할 가능성이 매우 커진다는 겁니다.

여러분도 문제에 도전하세요!
가끔 이렇게 쉬워 보이는 문제가 40년 이상 미해결로 남아 있어 놀라울 때가 있습니다. 처음 이런 문제를 접하면 수학자는 고등학교 때 배우는 수학적 귀납법을 사용합니다. 먼저 n값이 작은 경우에 대해 증명하고, n=k일 때 참이면 n=k+1일 때도 참이라는 것을 보이는 것이지요. 아쉽게도 이 문제를 수학적 귀납법으로 풀 수 있는지 아무도 모릅니다. 어쩌면 여러분이 아직까지 알려지지 않은 기발한 방법으로 해결할 수도 있습니다.

그러니 이 문제를 수학적 귀납법으로 해결할 수 있는지, 아니면 조금 더 쉽게 미해결인 8명의 주자가 달릴 때 문제를 풀 수 있는지 혹은 문제를 다음과 같이 바꿨을 때 해결할 수 있는지 생각해 보세요.