d라이브러리

소수의 마법은 2만 년 전부터

인류의 소수 사랑은 약 2만 년 전으로 거슬러 올라갑니다. 1950년 아프리카 콩고에서 이상한 뼛조각이 발견됐습니다. 약 2만 년 전 구석기시대 동물의 것으로 알려진 이 뼈에는 날카로운 줄무늬가 촘촘하게 새겨져 있었지요. 학자들은 이 줄무늬가 10과 20 사이의 소수인 11과 13, 17, 19를 의미한다고 해석했습니다. 이때 인류는 소수를 알았을 뿐 아니라 특별하게 여긴 겁니다.

기원전 1000년 경 중국의 청동기시대 사람들은 콩을 다섯 개씩 세 줄로 늘어놓아 5라는 소수로 15를 만들 수 있다는 기록을 남겼습니다. 그리고 약 800년 후 고대 그리스인들은 이런 성질을 신비롭게 여겨 소수를 모든 수의 근원으로 여겼습니다. 만물이 물과 불, 흙, 공기로 창조됐다고 생각한 그들의 세계관을 수로 확장해 소수를 중심에 둔 것이지요.

‘소수 건축가’ 오일러와 ‘소수 탐험가’ 가우스

18세기에 이르자 스위스 수학자 레온하르트 오일러는 소수를 찾는 ‘마법의 공식’을 만들었습니다. x²+x+41이라는 단순한 식에서 x에 0부터 39까지 수를 넣으면 차례대로 소수가 답으로 나옵니다. 40개에 불과하기는 하지만 오일러는 소수라는 벽돌을 만드는 기계를 만들어 순서대로 하나씩 쌓아올렸습니다.

18~19세기에 활동한 독일 수학자 카를 프리드리히 가우스는 전혀 다른 관점으로 소수의 세계를 탐험했습니다. 소수의 개수가 몇 개인지 알아내는 데 주목한 겁니다. 결국 가우스는 이 소수의 개수가 로그함수의 그래프와 비슷한 형태로 계단 모양을 그리며 커진다는 것을 알아냈습니다. 이어 어떤 수 이하의 소수의 개수를 어림잡아 구하는 공식 Li(x)를 만들었습니다. 이 공식은 땅속에 묻힌 소수로 이뤄진 황금계단을 발굴하는 강력한 도구가 됐지요.

소수 황금계단 찾을 신비의 도구, 리만 가설

하지만 가우스가 만든 공식은 소수의 황금계단에 덮인 흙을 모두 제거하고 이 보물을 세상에 드러나게 하기에는 역부족이었습니다. 실제 소수의 개수와 비교했을 때 작은 오차가 있기 때문이지요.

가우스의 제자인 베른하르트 리만은 스승이 이루지 못한 꿈을 이뤄줄 새로운 방법을 1859년 ‘특정 수보다 작은 소수의 개수에 관하여’라는 논문을 통해 발표했습니다. 이 논문에서 리만은 가우스가 만든 공식 Li(x)와, 실제 개수 사이에 나타나는 오차를 줄여 줄 방법을 제시했습니다. ‘리만 제타 함수(ζ(s))’라는 도구를 써서 말이지요. 리만의 이 도구는 가우스가 거의 발굴해 놓은 소수의 황금계단 위에 쌓인 흙먼지를 섬세하게 벗겨내는 데 안성맞춤이었습니다.

하지만 리만의 방법에는 한 가지 문제가 있었습니다. 리만 제타 함수라는 도구를 이용해 소수의 황금계단 위에 쌓인 먼지를 모두 벗겨내려면 함숫값이 0인 지점(영점)이 일직선 위에 있다는 것을 증명해야 하는 것이지요. 그래야만 가우스가 제시한 수식이 소수의 개수를 정확하게 예측하게 됩니다. 이것이 ‘리만 가설’입니다. 리만은 불과 3개의 영점만 일직선 위에 있다는 것을 밝히고 모든 숙제를 후대 수학자에게 맡겼습니다.

올해는 그가 리만 가설을 발표한 지 160년이 되는 해입니다. 지금도 인류 최고의 수학자들은 리만이 남긴 소수의 비밀을 풀기 위해 도전하고 있습니다.