소수 공식은 소수의 황금계단에 덮인 흙을 모두 제거하고 이 보물을 세상에 드러나게 하기에는 역부족이었다. 실제 소수의 개수와 비교했을 때 작은 오차가 있기 때문이다.
가우스의 제자인 독일 수학자 베른하르트 리만이 스승이 이루지 못한 꿈을 이뤄줄 새로운 방법을 생각한다. 이때 그 유명한 리만 가설이 등장한다. 본격적으로 리만 가설을 이야기하기 전 리만에 대해 먼저 알아보자.
1826년에 태어난 리만은 어렸을 적부터 부끄러움이 많았고 신경 쇠약에 시달렸다. 수학에 재능이 있었지만, 집이 가난했던 탓에 목사가 되어 돈을 벌기 위해 1846년 독일 괴팅겐대학교에 들어가 신학을 공부했다. 수학을 향한 꿈을 버리지 못하던 중 가우스에게 설득을 당해 수학을 시작하게 된다.
그렇게 리만은 해석학, 정수론, 미분기하학 등에서 큰 업적을 남겼다. 리만 기하학, 리만 가설, 리만 제타 함수, 리만 다양체 등 여러 개념과 추측을 제시했다. 특히 구부러진 공간에 적용할 수 있는 새로운 기하학의 필요성을 제기했다. 이것이 리만 기하학의 시작이다.
리만 기하학은 물리학에도 큰 영향을 미쳤다. 독일 태생의 미국 물리학자 알베르트 아인슈타인은 일반상대성이론을 만들면서 기존의 기하학으로 시공간의 휘어짐을 표현하는 데 어려움을 겪었다. 하지만 스위스 수학자인 마르셀 그로스만의 조언을 들은 아인슈타인은 리만 기하학을 이용해 일반상대성이론을 완성했다.
그는 이탈리아 여행 중 폐결핵에 걸려 생일 두 달 전인 1866년 7월 20일 39세의 젊은 나이에 사망했다. 안타깝게도 가정부가 리만의 연구 자료를 불태워 버리는 바람에 연구 기록이 많이 전해지지는 않는다.
6쪽 짜리 논문에서 시작된 리만 가설
리만이 이름을 날린 건 1859년 발표한 ‘특정 수보다 작은 소수의 개수에 관하여’라는 6쪽의 짧은 논문이다. 베를린 학술원에 가입하기 위해 학술원 간행물에 냈다. 이 논문에서 리만은 가우스가 만든 공식 Li(x)와 실제 개수 사이에 나타나는 오차를 줄여 줄 방법을 제시했다. 이는 가우스가 거의 발굴해 놓은 소수 황금계단 위에 쌓인 흙먼지를 섬세하게 벗겨내는 데 안성맞춤이었다.
획기적이었지만 이 방법에는 한 가지 조건이 있었다. 성립하려면 오늘날 리만 가설이라 불리는 조건을 만족해야 했다. 이에 앞서 언급한 제타 함수를 확장해 ‘리만 제타 함수’를 만들었다. 그 리만 제타 함수의 자명하지 않은 근(영점)은 모두 일직선 위에 있다는 것이 바로 리만 가설의 내용이다. 여기서 자명하지 않은 근이란 오일러가 계산한 근을 뺀 나머지 근이다. 오일러는 리만 제타 함수의 s가 음의 짝수일 때의 값은 모두 0이라고 밝혔다.
고로 리만 가설이 참이라 증명되면, 가우스에서 시작된 소수 개수를 추측하는 방법이 증명되고, 소수의 비밀이 하나 벗겨지는 것이다.
하지만 리만은 불과 3개의 영점만 일직선 위에 있다는 것을 밝혔다. 왜냐하면 그는 소수의 개수를 알 수 있는 식을 설명하는 게 중요했고, 가설은 부수적인 조건이라고 여겼기 때문이다. 해당 논문에 그는 ‘이 가설은 엄밀한 증명을 거쳐야 한다. 나는 여러 가지 방법으로 증명을 시도해 봤지만 만족할 만한 결과를 얻지 못했다. 지금 이 문제가 현재 연구하는 문제에 꼭 필요한 것은 아니므로 자세한 증명은 잠시 미루도록 한다’라고 적었다.
