d라이브러리

2018년 9월 24일, 1966년 필즈상 수상자인 마이클 아티야 교수가 수학계 최고 난제인 ‘리만 가설’을 증명했다고 발표했습니다. 이후 SNS에는 리만 가설이 풀렸으니 마침내 소수의 비밀이 풀렸고 심지어 인터넷 거래를 할 때 쓰는 암호 체계가 무너질 거라는 소문이 퍼졌습니다. 과연 사실일까요? 리만 가설은 정말 풀린 걸까요? 소문의 진상을 파헤치기 위해 ‘팩트체크’ 해보겠습니다. 

팩트체크1. '리만 가설'을 증명했다? 

아티야 교수는 9월 24일 독일 하이델베르크 수상 자 포럼 강연에서 리만 가설의 증명을 발표했습니다. 이 내용은 하이델베르크 수상자 포럼 트위터를 통해 전세계에 생중계됐지요.

평범한 수학자가 리만 가설을 증명했다고 하면 믿지 않았을지도 모릅니다. 리만 가설은 내로라하는 수학자도 증명하기 어려워서 ‘악마의 문제’라는 별칭이 붙었으니까요. 하지만 아티야 교수는 수학계 최고상인 필즈상과 아벨상을 받은 수학자라서 ‘어쩌면 풀었을 수도 있다’고 기대하게 만들었죠.

그런데 이상한 점이 있습니다. ‘증명을 발표했다’는 뉴스는 많은데 증명이 맞았는지 틀렸는지 밝힌 뉴스는 없고, 몇몇 수학자는 ‘아티야 교수의 증명이 틀렸을 거라고 생각한다’면서 논문을 검증할 계획이 없는 것처럼 말한 겁니다. 아티야 교수가 발표한 논문은 겨우 5쪽이라서 금방 검증할 수 있을텐데 왜 하지 않는 걸까요?

앤드루 와일스 미국 프린스턴대학교 수학과 교수가 ‘페르마의 마지막 정리’를 증명한 논문이 108쪽 이었던 것에 비교하면 아티야 교수의 논문은 무척 짧습니다. 인사말이나 맺음말을 빼면 증명은 4쪽 밖에 없고 수식은 10줄도 채 되지 않지요. 아티야 교수의 논문을 요약하면 ‘토드 함수’와 ‘히르체부르 흐-리만-로흐 정리’, ‘작용소 이론’, ‘디랙 방정식’ 을 이용해 리만 가설을 증명할 수 있다는 건데, 문제는 증명과정을 자세히 적지 않았다는 겁니다.

만약 누군가 풀이 과정 없이 ‘이 수학 문제의 정답은 3이야’라고 말했고, 여러분이 답을 검증한다고 생각해보세요. 풀이 과정이 있으면 그걸 보고 틀린 부분이 없는지 찾으면 되지만, 풀이 과정이 없으면 직접 문제를 풀어서 구한 정답과 비교해야 정확하게 검증했다고 할 수 있습니다. 아티야 교수 역시 증명과정을 자세하게 써놓지 않아서 증명이 ‘옳다’거나 ‘틀렸다’고 하려면 오히려 검증하는 사람이 증명을 해봐야 하지요. 아직까지 아무도 풀지 못한 문제인데 당연히 검증하는 게 불가능하겠죠?

리만 가설을 연구 중인 요르겐 바이스달 노르웨 이과학기술대학교 교수는 “증명이 매우 불분명하고 리만 가설 연구자들이 예상하는 방법과 다르 다”며, “명확한 검증을 위해서는 더 자세한 증명 을 추가해야 한다”고 말했어요. 아티야 교수님, 좀 더 자세한 증명 부탁드려요! 

팩트체크2. '리만 가설'은 소수 찾는 공식이다? 

‘리만 가설’이 구체적으로 어떤 내용인지는 몰라도 ‘소수와 관련 있다’는 건 다들 알고 있을 거예요. 그 런데 이 점 때문에 리만 가설을 증명하면 소수를 순 서대로 찾는 법을 알 수 있다고 오해하는 사람도 있어요. 리만 가설은 소수 구하는 공식이 아니라 특정 구간에서 소수가 얼마나 있는지 나타내는 ‘개수’와 관련 있어요. 소수를 일일이 찾는 건 무척 어려우니 우선 개수에 주목한 거지요.

이게 바로 리만 가설입니다. 소수의 개수와 어 떤 관련이 있냐고요? 자세히 설명하려면 수학자 피에르 드 페르마처럼 ‘여백이 모자라다’고 써야 할 테니 간단하게 설명해 보죠.

베른하르트 리만의 스승인 수학의 황제 칼 가우 스는 어떤 실수 x보다 작은 소수의 개수를 함숫값 으로 갖는 함수 Li(x)를 찾아냈어요. Li(x)의 함숫 값은 말 그대로 ‘대략적’이라서 실제 개수를 나타 내는 함수 π(x)와는 오차가 있었어요. 소수의 개수를 완벽하게 알려주는 식은 찾기 어려우니까 수학 자들은 우선 오차를 정확하게 계산할 수 있는 식 을 찾는데 힘썼지요.

리만은 ‘제타 함수’라는 독특한 함수를 이용해 Li(x)와 π(x) 사이의 오차를 나타낼 수 있는 식을 만들었습니다. 그런데 문제가 있었습니다. 이 식에서 오차를 계산하려면 제타 함수의 함숫값이 0이 되는 지점을 전부 알아야 했거든요. …-6, -4, -2 같은 짝수인 음의 정수인 지점에서 함숫값이 0이 된다는 사실은 밝혔지만, 제타 함수의 정의역에는 a+bi 같은 복소수도 있기 때문에 함숫값이 0이 되는 복소수를 전부 찾아야 했어요. 짝수인 음의 정수를 뺀 복소수 해가 바로 ‘자명하지 않은 해’입니다.

리만은 자명하지 않은 해를 몇 개 찾아봤더니 해의 실수 부분(a)이 모두 1/2 이라는 사실을 알아냅니다. 그래서 ‘다른 자명하지 않은 해의 실수 부분도 모두 1/2 ’일 거라고 추측한 거지요. 이미 자명하지 않은 해 중 약 41%의 실수 부분이 1/2 이라는 게 알려져 있지만, 더 이상 진전은 없고 실수 부분이 특정 영역 안에 속해있다는 걸 밝히는 ‘준리만 가설’을 푸는 것마저 무척 어렵습 니다. 준리만 가설은 자명하지 않은 해의 실수 부분이 0＜a＜1 같은 구간 안에 있다고 생각하고, 이 구간의 간격을 조금씩 줄이면서 결국 1/2에 있음을 밝히는 게 목적입니다. 이 구간을 아주 조금 줄이는 것도 무척 어려운 일이랍니다. 

팩트체크3. ‘리만 가설’을 증명하면 암호 체계가 무너진다?

인터넷에서는 공인인증서나 비밀번호 같은 개인 정보를 다른 사람이 볼 수 없도록 암호로 만들어 서 주고받아요. 넷플릭스에서 보는 영상도 마찬가 지입니다. 내가 결제한 영상을 나만 볼 수 있어야 하니까 암호로 만들어서 사용자에게 전달하지요.

정보를 암호로 만들 때 타원 곡선 암호, 격자 암호 등 여러 종류를 쓰지만, 가장 많이 쓰는 건 RSA 암호예요. RSA 암호는 1977년 미국 매사추 세츠공과대학교의 수학자 로널드 라이베스트, 아디 샤미르, 레오나르드 아들만이 ‘무척 큰 자연수를 소인수분해하는 건 어렵다’는 사실을 이용해 만든 ‘비대칭 암호’입니다.

비대칭 암호는 정보를 암호로 만드는 방법과 푸는 방법이 다른 걸 뜻합니다. 정보를 보내는 사람은 아주 큰 두 소수를 곱해 나온 자연수(공개 키) 를 이용해 정보를 암호로 만드는데, 암호를 풀려면 이 자연수의 두 개의 소인수(비공개 개인 키)를 알아야 해요. 공개 키는 공개하므로 누구나 정보를 암호로 만들 수 있지만, 암호를 푸는 건 비공개 개인 키를 가진 사람만 할 수 있습니다. 엄청 큰 수를 소인수분해하는 건 슈퍼컴퓨터를 이용해도 몇 년이 걸리므로 비공개 개인 키를 알아내는 건 거의 불가능하지요.

그렇다면 리만 가설이 증명되면 RSA 암호에 어떤 영향을 줄까요? 정답은 ‘큰 영향은 없다’입니다. 앞서 이야기했지만, 리만 가설은 가우스가 발견한 소수의 개수를 대략적으로 알려주는 함수가 얼마나 정확한지 알려주는 거예요. RSA 암호의 핵심은 엄청 큰 수를 소인수분해하는 게 어렵다는 걸 이용한 것이므로 리만 가설과 직접적으로 관련이 없습니다. 천정희 서울대학교 수리과학부 교수는 “설령 소수를 전부 찾을 수 있어도 소인수분해는 다른 문제”라며, “리만 가설이 풀리면 증명 과정에서 나오는 다양한 이론들이 다른 문제를 푸는 데 영향을 줄 것”이라고 말했어요.