앞서 소개한 쌍둥이 소수가 수학계에서 가지는 무게는 가볍지 않다. 쌍둥이 소수는 무한하다는 내용의 ‘쌍둥이 소수 추측’이 정수론에서 유명한 미해결 난제기 때문이다. 작은 수에서는 쌍둥이 소수를 발견하기가 쉽지만, 수가 커질수록 발견하기 쉽지 않다. 따라서 수학계에서는 이런 쌍둥이 소수가 무한히 존재하는지 밝히는 연구를 끊임없이 하고 있다.

이 추측의 역사는 고대 그리스 시대까지 거슬러 올라간다. 에우클레이데스는 저서인 <원론>에서 소수가 무한히 많다는 걸 증명한다. 이후 고대 그리스 수학자들은 쌍둥이 소수가 무한히 많을 거라 추측했다.

적어도 2000년이 지난 1849년 프랑스의 수학자 알퐁스 드 폴리냐크가 쌍둥이 소수 추측을 일반화했다. 임의의 자연수 k와 소수 p에 대해 p - p′ = 2k를 만족하는 순서쌍 (p, p′)가 무한하다는 명제를 만든 것이다. 쌍둥이 소수 추측은 k = 1일 때에 해당한다. 그런데 이 문제의 증명은 생각처럼 쉽지 않았다. 에우클레이데스는 ‘간접 증명’을 통해 소수가 무한하다는 걸 보였는데, 그 방법이 통하지 않았기 때문이다.

하지만 여러 수학자가 이 문제에 도전한 덕에 쌍둥이 소수에 관해 여러 성질이 밝혀졌다. 먼저 쌍둥이 소수는 2와 3을 제외하면 모두 6n 꼴이라는 것이다. 예를 들어 17은 6의 배수인 18보다 1이 작은 수이고, 1777은 6의 배수인 1776보다 1이 큰 수다. 이 결과로 쌍둥이 소수 쌍도 3과 5를 제외하면 모두 6n 꼴이 된다. 쌍둥이 소수를 만들어 내는 공식인 60nn 도 고안됐다. 하지만 이 식에서는 n이 1에서 13일 때까지만 쌍둥이 소수가 된다.

세쌍둥이 소수도 존재한다. 3과 5와 7, 이렇게 세 숫자가 세쌍둥이 소수로, 딱 하나밖에 없다. 그래서 오늘날 세쌍둥이 소수를 말할 땐 5, 7, 11이나 13, 17, 19처럼 간격이 2나 4인 세 쌍의 소수라고 정의한다.

또한 거대 소수를 찾는 것처럼 컴퓨터를 이용해 매우 큰 쌍둥이 소수를 찾는 사람이 있다. 현재 가장 큰 쌍둥이 소수는 2016년 발견된 2996863034895^1290000이다. 무려 388342 자릿수의 수다. 또 10¹⁸보다 작은 쌍둥이 소수 쌍은 808675888577436개나 된다.

한편 2, 23, 37, 47, 53처럼 쌍둥이 소수가 아닌 소수를 ‘고립 소수’라고 한다.

쌍둥이 소수 추측 실마리 잡다!

쌍둥이 소수 추측은 일반화된 뒤에도 100년 넘게 별다른 성과가 없었다. 그러던 2013년 5월, 이탕 장 교수가 난제를 해결할 수 있는 신호탄을 쏘아올렸다. 장 교수는 두 소수의 간격이 7000만 이하인 소수 쌍이 무한하다는 것을 증명했다. 이 소수의 간격이 2이면 쌍둥이 소수 추측이 해결된다.

장 교수는 이를 증명할 때 ‘GPY 체 법’이라고 불리는 기존의 아이디어를 이용했다. GPY 체 법은 세 명의 수학자 다니엘 골드스턴 미국 산호세주립대학교 교수(G), 야노스 핀츠 헝가리 알프레드 레니 수학연구소 교수(P), 젬 이을드름 튀르키예 보아지치대학교 교수(Y)의 이름을 딴 것으로, 소수를 찾아내는 방법중 하나다. 에라토스테네스의 체처럼 소수를 일일이 찾는 방법이지만, 조합론 아이디어가 담겨 있어 에라토스테네스 체보다 효율적인 방법이다.

장 교수가 이 내용을 2013년 4월 수학계 최고 학술지인 <수학연보>에 발표하자 수학계가 술렁였다. 연구 결과가 뜸했던 쌍둥이 소수 추측에서 괄목할 만한 결과를 냈을 뿐 아니라 당시 장 교수가 수학계에서 잘 알지 못하는 수학자였기 때문이다. 게다가 당시 나이가 58세로 적지 않았고, 오랫동안 생활고에 시달렸음에도 수학 연구를 포기하지 않았다는 사연이 알려지며 단숨에 스타 수학자로 떠올랐다. 그를 계기로 너도나도 쌍둥이 소수 추측에 뛰어드는 일종의 신드롬까지 생겨났다.