아~, 리만가설이라는 녀석은 정말 모르겠어. 나, 존 내쉬가 수년째 매달렸는데도 이거 풀다가 돌아버릴 지경이라구. 하지만 절대 포기 할 수 없어! 이것만 증명하면 소수의 비밀을 모두 파헤칠 수 있거든. 악마여! 리만가설을 증명하게 해 준다면 기꺼이 내 영혼을 내놓을 테니, 제게 증명의 기쁨을 누리게 해 주소서~!
소수가 매력적인 이유는?
문제만 읽어도 숨이 턱 막히는 문제는 도전하기가 쉽지 않다. 하지만 노력하면 해결 수 있을 것 같은 문제는 도전할 용기가 생긴다. 수학자들에게 소수 연구는 곧 해결할 수 있는 문제에 속했다. 알다시피 소수는 초등학생들도 쉽게 알 수 있는 개념이기 때문이다.
소수란 2, 3, 5, 7, 11…처럼 1과 자기 자신으로만 나눠떨어지는 1보다 큰 양의 정수다. 1부터 10까지에서는 그 정의만 알면 누구나 쉽게 소수를 구분할 수 있다. 또한 소수는 자연수를 이루는 기초다. 소수들을 곱하면 모든 자연수를 만들어 낼 수 있다.
소수의 이런 성질 때문에 수학자들은 어떤 수가 소수인지 아닌지 구별하는 방법쯤은 금세 알아낼 수 있을 거라고 굳게 믿었다.하지만 소수의 비밀을 찾아내는 일은 결코 쉽지 않았다. 많은 수학자들이 도전했지만, 아직까지 아무도 소수를 정복하지 못했다.
그런데 여기서 한 가지 의문이 생긴다. 대개 어떤 일을 할 때 끝이 보이지 않으면 중간에 포기하기 마련이다. 어떻게 수학자들은 죽을 때까지 연구를 할 수 있었을까?
그 답은 소수의 치명적인 매력에서 찾을 수 있다. 소수는 아무런 규칙 없이 무작위로 드문드문 나온다. 그런데 왠지 조금만 더 큰 소수를 찾으면 규칙을 발견할 것 같은 예감이 들게끔 수가 등장한다. 이런 실낱같은 희망이 연구를 계속하게 만드는 것이다. 지금도 많은 수학자들이 이런 소수의 마력에 빠져 끊임없이 연구하고 있다.
소수의 개수에는 규칙이 있다?!
소수의 매력에 빠진 수학자들이 가장 먼저 하는 연구는 소수의 규칙을 찾는 것이지. 19세기를 대표하는 수학 천재 가우스도 예외는 아니었어. 하지만 안타깝게도 소수의 모든 비밀은 풀지 못했지. 20세기 천재인 나도 마찬가지구.
소수는 대체 어느 순서에 나타나는 걸까? 독일의 수학 천재 카를 프리드리히 가우스는 15세 때부터 소수의 비밀을 파헤치기 위해 매일 15분씩 투자했다. 그는 1부터 차례대로 하나하나 수를 따지면서 소수가 나오면 한 단계씩 높아지는 소수 계단을 머릿속에 만들었다. 이를 이용해 약 300만 개까지 조사한 결과, 소수의 개수는 수가 커질수록 줄어든다는 걸 발견했다.
1부터 10만 사이의 소수를 1만 단위로 헤아리면, 처음에는 소수가 1229개 등장한다. 하지만 다음에는 1033개, 그 다음에는 983개로 소수의 개수가 점점 줄어드는 것을 볼 수 있다. 가우스는 소수의 이런 성질을 하나의 공식으로 표현하기 위해, 수가 커질수록 값이 점점 줄어드는 식을 고안하기 시작했다. 그 결과 특정 수까지 소수의 개수가 몇 개인지 알 수 있는 식을 만들어냈다. 그런데 불행히도 이 식은 정확하지 않았다. 하지만 소수의 개수가 대략 몇 개인지는 알 수 있어서, 당시 수학계에 큰 파장을 불러 일으켰다.

여기서 연구를 끝낼 가우스가 아니다. 그는 식의 정확성을 높이기 위해 다양한 방법을 궁리했다. 결국 소수 계단을 아주 큰 수까지 만들면, 계단의 높이가 특정 식에서 유도되는 곡선( N/lnN )의 높이와 같다는 걸 발견했다. 작은 수에서는 실제의 계단의 높이와 곡선의 높이가 달랐지만, 수가 커지면 커질수록 계단의 높이와 곡선의 높이가 같아졌다. 이 이론을 정리한것이 바로 ‘소수 정리’다.
다시 말해 소수 정리란, 어떤 수 N이 무한히 크다면 이 수까지 소수의 개수는 N/lnN이 된다는 것이다. 가우스는 이 정리를 이용해 어떤 큰 수 N이 1/lnN이라는 것도 알아냈다.
여기서 ln은 자연로그로, 오일러 수 e를 밑으로 하는 로그함수다.
이게 난제라고? 문제가 쉬워도 너무 쉽다!
소수와 관련된 문제에는 함정이 있어. 문제가 쉬워도 너무 쉬워 보인다는 것! 문제만 보면 단숨에 풀어버릴 거 같거든. 이 함정에 빠진 수학자들은 죽을 때까지 헤어나오지 못하고 연구에 몰두했지. 나처럼 말이야. 그런데 수학 문제가 쉬워 봤자 얼마나 쉽냐고? 보면 알아.
쌍둥이 소수는 무한히 많다?!
유클리드의 증명으로 소수가 무한히 많다는 걸 알아낸 고대 그리스 수학자들은 3과 5, 5와 7, 11과 13처럼 그 차이가 2인 소수쌍도 무한히 많을 거라고 추측했다. 이 문제를 ‘쌍둥이 소수 추측’이라고 이름 붙이고, 증명하기 위해 노력했다.
그런데 이 문제의 증명은 생각처럼 쉽지 않았다. 소수가 무한히 많은 걸 보이는 것과는 차원이 다르게 어려웠던 것이다. 결국 현재까지 미해결 난제로 남아 있다. 하지만 많은 수학자들이 이 문제에 도전한 덕에 소수와 관련된 많은 연구가 쏟아져 나왔다.
먼저 소수는 2와 3을 제외하면 모두 6n±1꼴이라는 것이 밝혀졌다. 예를 들어 17은 6의 배수인 18보다 1이 작은 수이고, 1777은 6의 배수인 1776보다 1이 큰 수다. 이 결과로 쌍둥이 소수 쌍도 3과 5를 제외하면 모두 6n±1꼴이 된다.
쌍둥이 소수를 만들어 내는 공식도 고안됐다. 바로 60n²+30n-30±1이다. 하지만 이 식에서는 n이 1에서 13일 때까지만 쌍둥이 소수가 된다.
최근의 연구 결과도 있다. 지난 4월 중국의 수학자 이탕 장은 소수 가운데 차이가 n인 소수쌍이 무한히 많다는 걸 증명했다고 발표했다. 이 증명은 쌍둥이 소수 추측을 해결할 수 있는 실마리를 제공해 수학계를 떠들썩하게 만들었다. 여기서 n은 1부터 7000만까지 가능한 자연수이고, 쌍둥이 추측은 n이 2일 때이다.
하지만 이탕 장의 증명은 소수의 차이가 2인 쌍둥이 소수뿐만 아니라 차이가 3, 4, 5, …, 7000만까지 차이가 나는 소수쌍을 모두 셌을 때 소수쌍이 무한히 많다는 걸 보였다. 따라서 n이 2일 때, 즉 쌍둥이 소수쌍이 무한히 많은지는 알 수 없다.
편지 한 통에서 시작된 골드바흐의 추측
존경하는 오일러 교수님. 제가 소수와 관련해서 신기한 사실을 발견했습니다. 바로 2보다 큰 정수는 세 소수의 합으로 표현할 수 있다는 것입니다. 15=3+5+7, 22=2+3+17처럼 말이지요. 이것이 수학적으로 타당한지 검토해 주시기 바랍니다.
- 1742년 6월 7일, 크리스틴안 골드바흐 드림
골드바흐의 추측은 이 편지 한통에서 시작됐다. 당시 최고의 수학자였던 오일러는 골드바흐의 편지 내용에 흥미를 느껴 꼼꼼히 살펴본 끝에, 그의 추측을 아래와 같이 수정했다.
★ 5보다 큰 모든 홀수는 세 소수의 합으로 표현할 수 있다.
★ 2보다 큰 짝수는 두 소수의 합으로 표현할 수 있다.
그 이유는 오일러와 골드바흐의 소수에 대한 견해가 달랐기 때문이다. 당시에는 소수의 정의가 명확히 확립되지 않아 숫자 1을 소수로 생각하는 수학자가 많았다. 골드바흐도 마찬가지였다. 하지만 오일러는 1을 소수로 보지 않았다. 그리고 골드바흐의 추측에서 정수를 홀수와 짝수로 나누면, 짝수의 경우에는 두 소수의 합으로 나타낼 수 있기 때문에 그의 추측을 수정한 것이다. 현재 수학자들은 두 번째 명제만을 ‘골드바흐 추측’이라고 부르고, 첫 번째 명제는 ‘약한 골드바흐 추측’이라고 말한다.
악마의 문제, 리만가설
소수 연구의 꽃이라면 리만가설을 빼놓을 수가 없어. 나도 여기에 도전했지. 당시 난 희대의 수학 천재라고 불릴 만큼 실력이 뛰어났기 때문에, 모두들 내가 이 문제를 풀 거라고 예상했어. 그런데 난 리만가설을 풀기는커녕 이것 때문에 30년 동안이나 큰 병을 앓았지. 대체 무슨 소리냐구?
리만가설은 100만 달러, 우리나라 돈으로 약 11억 3600만 원의 상금이 걸려 있는 미해결 난제다. 하지만 이 난제의 가치는 100만 달러보다 훨씬 크다. 앞에서 살펴본 골드바흐의 추측과 같은 소수와 관련된 난제를 단번에 해결할 수 있기 때문이다.
리만가설이란 소수로 이루어진 제타함수의 값이 0이 되는 점은 무수히 많고, 모두 일직선 상에 나타난다는 가설이다. 여기서 제타함수는 모든 양의 정수로 이루어진 식이다. 구체적으로, 1부터 차례대로 양의 정수에 역수를 취한 다음, 각각의 수에 S(임의의 복소수★) 제곱을 한다. 그리고 모든 수를 더한다.
그런데 이 식에 어떤 수를 곱하고 빼서 변형하면 모든 소수로 이루어진 식으로 바꿀 수 있다. 즉 제타함수는 모든 정수와 모든 소수를 연결하는 불가사의한 식인 셈이다.
다시 말해 소수 정리란, 어떤 수 N이 무한히 크다면 이 수까지 소수의 개수는 N/lnN이 된다는 것이다. 가우스는 이 정리를 이용해 어떤 큰 수 N이 1/lnN이라는 것도 알아냈다.
여기서 ln은 자연로그로, 오일러 수 e를 밑으로 하는 로그함수다.
이게 난제라고? 문제가 쉬워도 너무 쉽다!
소수와 관련된 문제에는 함정이 있어. 문제가 쉬워도 너무 쉬워 보인다는 것! 문제만 보면 단숨에 풀어버릴 거 같거든. 이 함정에 빠진 수학자들은 죽을 때까지 헤어나오지 못하고 연구에 몰두했지. 나처럼 말이야. 그런데 수학 문제가 쉬워 봤자 얼마나 쉽냐고? 보면 알아.
쌍둥이 소수는 무한히 많다?!
유클리드의 증명으로 소수가 무한히 많다는 걸 알아낸 고대 그리스 수학자들은 3과 5, 5와 7, 11과 13처럼 그 차이가 2인 소수쌍도 무한히 많을 거라고 추측했다. 이 문제를 ‘쌍둥이 소수 추측’이라고 이름 붙이고, 증명하기 위해 노력했다.
그런데 이 문제의 증명은 생각처럼 쉽지 않았다. 소수가 무한히 많은 걸 보이는 것과는 차원이 다르게 어려웠던 것이다. 결국 현재까지 미해결 난제로 남아 있다. 하지만 많은 수학자들이 이 문제에 도전한 덕에 소수와 관련된 많은 연구가 쏟아져 나왔다.
먼저 소수는 2와 3을 제외하면 모두 6n±1꼴이라는 것이 밝혀졌다. 예를 들어 17은 6의 배수인 18보다 1이 작은 수이고, 1777은 6의 배수인 1776보다 1이 큰 수다. 이 결과로 쌍둥이 소수 쌍도 3과 5를 제외하면 모두 6n±1꼴이 된다.
쌍둥이 소수를 만들어 내는 공식도 고안됐다. 바로 60n²+30n-30±1이다. 하지만 이 식에서는 n이 1에서 13일 때까지만 쌍둥이 소수가 된다.
최근의 연구 결과도 있다. 지난 4월 중국의 수학자 이탕 장은 소수 가운데 차이가 n인 소수쌍이 무한히 많다는 걸 증명했다고 발표했다. 이 증명은 쌍둥이 소수 추측을 해결할 수 있는 실마리를 제공해 수학계를 떠들썩하게 만들었다. 여기서 n은 1부터 7000만까지 가능한 자연수이고, 쌍둥이 추측은 n이 2일 때이다.
하지만 이탕 장의 증명은 소수의 차이가 2인 쌍둥이 소수뿐만 아니라 차이가 3, 4, 5, …, 7000만까지 차이가 나는 소수쌍을 모두 셌을 때 소수쌍이 무한히 많다는 걸 보였다. 따라서 n이 2일 때, 즉 쌍둥이 소수쌍이 무한히 많은지는 알 수 없다.
편지 한 통에서 시작된 골드바흐의 추측
존경하는 오일러 교수님. 제가 소수와 관련해서 신기한 사실을 발견했습니다. 바로 2보다 큰 정수는 세 소수의 합으로 표현할 수 있다는 것입니다. 15=3+5+7, 22=2+3+17처럼 말이지요. 이것이 수학적으로 타당한지 검토해 주시기 바랍니다.
- 1742년 6월 7일, 크리스틴안 골드바흐 드림
골드바흐의 추측은 이 편지 한통에서 시작됐다. 당시 최고의 수학자였던 오일러는 골드바흐의 편지 내용에 흥미를 느껴 꼼꼼히 살펴본 끝에, 그의 추측을 아래와 같이 수정했다.
★ 5보다 큰 모든 홀수는 세 소수의 합으로 표현할 수 있다.
★ 2보다 큰 짝수는 두 소수의 합으로 표현할 수 있다.
그 이유는 오일러와 골드바흐의 소수에 대한 견해가 달랐기 때문이다. 당시에는 소수의 정의가 명확히 확립되지 않아 숫자 1을 소수로 생각하는 수학자가 많았다. 골드바흐도 마찬가지였다. 하지만 오일러는 1을 소수로 보지 않았다. 그리고 골드바흐의 추측에서 정수를 홀수와 짝수로 나누면, 짝수의 경우에는 두 소수의 합으로 나타낼 수 있기 때문에 그의 추측을 수정한 것이다. 현재 수학자들은 두 번째 명제만을 ‘골드바흐 추측’이라고 부르고, 첫 번째 명제는 ‘약한 골드바흐 추측’이라고 말한다.
악마의 문제, 리만가설
소수 연구의 꽃이라면 리만가설을 빼놓을 수가 없어. 나도 여기에 도전했지. 당시 난 희대의 수학 천재라고 불릴 만큼 실력이 뛰어났기 때문에, 모두들 내가 이 문제를 풀 거라고 예상했어. 그런데 난 리만가설을 풀기는커녕 이것 때문에 30년 동안이나 큰 병을 앓았지. 대체 무슨 소리냐구?
리만가설은 100만 달러, 우리나라 돈으로 약 11억 3600만 원의 상금이 걸려 있는 미해결 난제다. 하지만 이 난제의 가치는 100만 달러보다 훨씬 크다. 앞에서 살펴본 골드바흐의 추측과 같은 소수와 관련된 난제를 단번에 해결할 수 있기 때문이다.
리만가설이란 소수로 이루어진 제타함수의 값이 0이 되는 점은 무수히 많고, 모두 일직선 상에 나타난다는 가설이다. 여기서 제타함수는 모든 양의 정수로 이루어진 식이다. 구체적으로, 1부터 차례대로 양의 정수에 역수를 취한 다음, 각각의 수에 S(임의의 복소수★) 제곱을 한다. 그리고 모든 수를 더한다.
그런데 이 식에 어떤 수를 곱하고 빼서 변형하면 모든 소수로 이루어진 식으로 바꿀 수 있다. 즉 제타함수는 모든 정수와 모든 소수를 연결하는 불가사의한 식인 셈이다.

그런데 리만가설이 참이라면 제타함수를 그래프로 나타냈을 때 함숫값이 0인 점들이 모두 일직선에 나타나게 된다. 이건 불규칙하게 등장하는 소수에도 규칙이 있다는 것을 뜻한다. 수학에서는 어떤 규칙만 발견되면 문제를 쉽게 해결할 수 있기 때문에 많은 수학자들이 리만가설에 도전하고 있다.
복소수★란 실수와 허수를 합친 수 체계다. 허수는 제곱했을 때 음수가 되는 수다.
리만가설에 도전장을 내민 수학자 중 가장 유명한 수학자는 존 내쉬다. 내쉬가 리만가설을 푼다고 했을 때 수학계에서는 모두 그가 이것을 증명할 거라고 내다봤다. 내쉬는 그만큼 뛰어난 실력과 타고난 천재성을 갖추고 있었다.
1959년 미국에서는 리만가설 발표 100주년을 기념한 강연이 열렸다. 내쉬는 여기서 자신이 연구 중인 내용을 발표하기로 되어 있었다. 그런데 내쉬는 발표 도중 말을 더듬거리더니, 결국 논리에 맞지 않는 말을 하기 시작했다. 그는 자신이 무슨 말을 하고 있는지도 모르는 듯 이상한 말을 내뱉었다. 내쉬가 30년 동안 앓아온 정신분열증이 시작된 것이다. 내쉬는 정신분열증을 치료한 후 “리만가설의 복잡한 내용에 너무 몰두한 나머지 내정신이 무너졌다”고 당시를 회상했다.
내쉬의 강연 직후 리만가설을 연구하던 많은 수학자들은 연구에서 손을 떼기 시작했다. 천재의 정신도 무너뜨리는 무시무시한 연구라는 인식이 생겨버린 것이다. ‘수학자의 영혼을 갉아먹는 악마 같은 문제’라는 별명이 생긴 것도 이때였다. 이후 40년 동안이나 수학자들은 리만가설을 멀리했다. 연구에 다시 불이 붙은 건 2000년에 미국 클레이 수학연구소가 리만가설을 7대 수학 난제로 선정하면서부터다. 이후 많은 수학자들이 도전하고 있지만, 악마의 문제는 아직까지 해결되지 않았다.
별별 소수 핫 3
2000년이 넘는 긴 세월 동안 많은 수학자들이 소수 연구에 매진한 결과 소수와 관련된 특이한 연구가 많이 나왔다. 여기서는 그 별난 소수들을 소개한다.
1 울람나선
1963년 미국 수학자 스타니수아프 울람은 따분한 강연을 듣고 있었다. 그는 잠을 쫓기 위해 격자 칸에 수를 적기 시작했다. 가운데 칸을 기준으로 반시계방향으로 나선을 그리며 수를 적었는데, 신기하게도 소수가 대각선에 몰려 있었다. 또 그 수는 이차식 n²+n+1의 함숫값들이었다. n이 1부터 6까지 성립했고, 그 다음 소수부터는 이차식 n²+n+41의 함숫값에서 나타났다. 이때는 n이 8일 때까지 만족했다. 하지만 그는 이런 현상이 모든 소수에 대해 일어나는지는 밝히지 못했다.
2 스미스수
1984년 미국 수학자 앨버트 윌란스키는 어떤 수의 자릿수를 더한 값과, 어떤 수를 소인수분해 했을 때 소수인 인수들의 자릿수를 모두 더한 값이 일치하는 수를 ‘스미스수’라고 불렀다. 그 이유는 자신의 처남 전화번호가 이런 규칙을 따랐는데, 처남의 이름이 스미스였기 때문이다. 스미스의 전화번호는 4937775로, 자릿수를 모두 더한 값은 42이고, 4937775를 소인수 분해한 3×5×5×65837의 자릿수를 모두 더해도 42가 된다. 스미스수는 11, 1111111111111111111처럼 1을 반복해서 쓴 수가 소수일 때 3304, 1540, 1720, 2170, 2440, 5590 등을 곱하면 만들 수 있고, 무한히 많다.
3 불법 소수
2001년 미국 수학자 필 카모디는 미국 영화 협회로부터 소송을 당했다. 이유는 DVD 불법 복제를 가능케 하는 코드를 만들었기 때문이다. 그는 불법 복제에는 반대했지만, 현재의 저작권법이 소비자보다는 영상물을 만드는 기업에 유리하게 돼 있다고 생각해 항의하는 이유로 이런 코드를 만들었다. 이 코드는 DVD를 하드디스크로 복사하는 걸 막아주는 CSS 암호를 무력화 시킬 수 있는 것으로, 1401자리의 소수를 이용해 만들어졌다. 이 소수를 16진법으로 바꾸기만 하면 CSS 암호가 해제되는 것이다. 그래서 이 소수를 ‘불법 소수’라고 부른다.