d라이브러리

희대의 거짓말, “리만 가설 풀었다!”

보통 수학 문제를 하나 풀었다고 전 세계가 호들갑 떨지는 않는다. 그런데 리만 가설은 다르다. 문제를 해결했다고 하면 곧바로 화제가 된다. 수학계에서 가장 중요한 문제기 때문이다. 그래서 리만 가설을 풀었다는 수학자의 착각 혹은 거짓말이 큰 파장을 불러일으키기도 한다.
 
지난해 11월 17일, 나이지리아 수학자가 리만 가설을 풀었다는 뉴스가 전 세계를 강타했다. 영국 BBC와 더타임스, 미국 CNN 등 주요언론이 기사화하면서 삽시간에 퍼져나간 것이다. 당일 이 소식을 접한 수학동아 편집부도 기사 내용이 사실인지 확인하기 위해 국내 수학자에게 문의했다. 엄상일 KAIST 수학과 교수는 “근거 없는 이야기”라며 한마디로 일축했다. 다음날 연합뉴스는 가짜 의혹이 매우 짙다고 보도했다. 대체 어떻게 된 일이었을까.수학자 주장만 믿은 해프닝

지난해 11월 10일과 11일 오스트리아 빈에서 열린 ‘국제 수학 전산학 국제회의’에서 나이지리아의 수학자 오페예미 에노크가 리만 가설을 풀었다고 주장한 논문을 발표했다. 이 소식을 주요 언론이 보도했고, 특히 영국의 BBC 월드 서비스는 에노크 교수 인터뷰를 녹음 파일 형태로 웹사이트에 공개했다.

이후 논문을 발표했다는 국제회의가 수학계에서 권위를 인정한 학술대회가 아니라는 점과 에노크의 논문이 철저한 검증을 받은 것이 아니라는 점이 밝혀졌다.

기하서 연세대 수학과 교수는 “오페예미 에노크 가 실존 인물인 것은 맞는 것 같다”며, “다만 리만 가설을 푼 것은 아니다”라고 말했다. 결국 해외 언론이 에노크의 주장을 제대로 확인하지 않아 벌어진 소동이었다.


저명한 수학자의 만우절 소동

리만 가설을 둘러싼 소동은 과거에도 있었다. 1997년 4월 1일, 이탈리아의 수학자 엔리코 봄비에르 는 만우절을 맞아 동료에게 장난 이메일을 보냈다. 프랑스의 수학자 알랭 콘의 연구에서 영감을 얻은 젊은 물리학자가 리만 가설을 해결했으니 이 소식을 최대한 널리 알리라는 내용이었다.

봄비에르는 1974년 소수의 분포에 관한 이론으로 필즈상을 받은 당대 최고의 수학자다. 그의 말을 의심하는 수학자는 아무도 없었다. 리만 가설을 푼 사람이 물리학자라는 사실도 일리가 있었다. 리만 가설이 입자물리학과 관련이 있다는 사실이 이미 밝혀져 있었다.

또 콘이 몇 해 전 창시한 이론은 양자역학과도 관련이 있어 이를 이용해 리만 가설을 풀 수 있을지도 모른다는 추측이 있었다. 따라서 콘의 연구에서 아이디어를 얻었다면 문제를 해결하는 것이 가능하다고 여긴 것이다.

열광에 휩싸인 수학자들은 이메일을 널리 퍼뜨렸다. 소문은 일파만파 번져나가 주요 언론이 보도하는 건 물론, ‘1998 독일 베를린 세계수학자대회’ 홈페이지에도 소식이 올라왔다. 수학자들은 리만 가설을 해결한 물리학자를 축하해 주려고 프린스턴 고등과학원에 모일 계획까지 세웠다. 리만 가설이 해결되면 암호체계가 무너질지도 모른다는 속설을 확인하기 위해 미국 안보국 요원도 참석하기로 했다. 결국 사태를 수습하기 위해 봄비에르는 공식적으로 이 사건에 대해 해명했다.


변덕쟁이 소수에도 규칙이 있다?!

대체 리만 가설이란 뭐기에 이토록 화제가 되는 걸까. 소수의 비밀을 담고 있는 리만 가설을 제대로 알기 위해선 오일러의 곱셈공식과 가우스가 제기한 소수 추측부터 살펴봐야 한다.

스위스의 수학자 레온하르트 오일러는 누구보다 소수를 사랑했다. 소수가 나올 때만 높아지는 기묘한 계단을 늘 상상했다. 소수 계단을 머릿속으로 오르고 또 오르며 소수가 언제 나타나는지 살폈다. 1732년에는 소수를 찾아낸다는 페르마의 식 22N+1이 N=5일 때 거짓이라는 사실을 밝혔다.
 그러다 우연히 한 수학 문제(바젤 문제)를 푸는 과정에서 특이한 식과 답을 발견했다. 바로 소수로 이뤄진 식의 결과가 자연계에서 가장 완벽한 도형이라는 원을 나타내는 값, 즉 π였던 것이다. 오일러는 여기서 더 나아가 오일러 곱셈공식이라는 일반화된 식의 일부 값도 알아냈다. 그가 연구한 식의 2제곱 부분에 2 이외의 다른 수 N을 대입할 수 있도록 만든 식에서 N이 짝수일 때의 값을 모조리 알아낸 것이다. 그런데 천하의 오일러도 홀수일 때의 값은 알아내지 못했다.


소수 개수 알려주는 소수 추측오일러가 18세기 초반 소수 연구에 푹 빠져 있었다면 가우스는 그로부터 50여 년 뒤 소수 연구를 시작했다. 1792년 이제 겨우 열다섯 살이 된 독일의 천재 수학자 카를 프리드리히 가우스는 매일 15분씩 투자해 어떤 수가 소수인지 따졌다. 가우스는 수를 1000씩 나눠 끈질기게 세었다. 결국 1부터 300만 개까지 조사하면서, 중요한 발견을 했다. 바로 소수는 제멋대로 등장하지만 소수의 개수는 수가 커질수록 줄어든다는 사실이다.

그래서 생각을 바꿔 소수가 다음에 언제 나오는지 알아내는 대신 일정한 범위 안에 얼마나 많은 소수가 있는지 알아봤다. 그 결과 수의 범위가 10배 늘어나면 새로운 소수가 나타나기까지 평균적으로 세어야 할 수의 개수가 평균 2.3개 늘어난다는 걸 발견했다. 이같은 규칙을 수식으로 나타내면 밑이 오일러 상수 e(≒2.718)인 로그함수가 된다. 즉 1부터 N까지 범위에서 소수는 대략 lnN개의 수를 셀 때마다 하나씩 등장한다. 이것이 바로 소수 추측이다.
시간이 흘러 노년이 된 가우스는 오차가 훨씬 적은 소수 예측식을 만들기 위해 노력했다. 이때 떠오른 아이디어가 동전 던지기다. 소수가 동전 던지기와 같은 방식으로 나타날지도 모른다고 생각한 것이다.

동전을 던져 앞면이 나올 확률은 50%다. 하지만 직접 동전을 던져보면 꼭 50%의 확률로 나타나지는 않는다. 다만 100번, 1000번 많이 던지면 던질수록 50%에 가까워진다. 이처럼 소수의 개수도 처음에는 그 값이 정확하게 맞아떨어지지 않지만, 무한히 많이 던지면 정확하게 구할 수 있다고 생각했다.

우선 동전던지기에서 앞면이 나올 확률은 50%로 뒷면이 나올 확률과 같다. 하지만 소수와 합성수는 나올 확률이 똑같지 않다. 그래서 가우스는 앞면이 나올 확률을 소수가 나올 확률이라고 가정한 다음 소수 동전을 N번 던졌을 때 확률을 구해봤다. 그 결과 적분식으로 이뤄진 일반화된 함수를 만들었다. 이를 개선된 소수 추측(현재 소수정리)이라고 부른다.