컴퓨터로 소수를 빠르게 찾을 수 있는 방법이 등장하면서 막연히 갖고 있던 거대 소수를 향한 관심이 폭발하기 시작했다. 최신 슈퍼컴퓨터를 갖춘 연구소에서 컴퓨터를 돌려 메르센 소수를 하나둘 발견하기 시작한 것이다. 그러다 미국의 IT 전문가 조지 월트먼이 누구나 컴퓨터만 있으면 소수를 찾을 수 있는 프로그램 ‘Prime95’, ‘MPrime’을 개발하면서 1996년 거대 소수 찾기가 전 세계 프로젝트로 커졌다.

이른바 GIMPS(Great Internet Mersenne Prime Search)! 2023년 6만 명 이상이 참여하고 있는 메르센 소수 찾기 공동 프로젝트다. 원리를 간단히 설명하면 GIMPS에 참가하기로 한 이가 PC를 켜고 GIMPS 프로그램을 켜면 메르센 소수일 가능성이 큰 후보 숫자들을 배분받는다. 그런 뒤 컴퓨터가 해당 숫자가 소수인지 프로그램을 이용해 계속 검사해서 소수인지 아닌지 판별한다. 프로그램만 켜놓으면 알아서 계속 검사한다.

35번째부터 51번째로 알려진 메르센 소수까지 모두 GIMPS 덕분에 발견했다. 이렇게 최근 발견한 최대 소수가 메르센 소수인 이유는 간단하다. 메르센 소수를 찾는 알고리듬만큼 획기적으로 소수를 판별하는 알고리듬이 없다는 이유, 그 하나다.

GIMPS를 통해 메르센 소수를 발견하는 것은 확률 싸움이다. 복권을 백 장 사도 한 장도 당첨이 안 될 수 있는 것처럼 수백 대의 컴퓨터를 이용해도 애초에 검사하는 수가 소수가 아니었다면 성공하기 어렵다. 물론 성능이 매우 좋으면 시간은 빨라지겠지만, 처음부터 운이 안 좋으면 말짱 도루묵이다.

그런 의미에서 2018년 51번째 메르센 소수로 알려진 수를 발견한 라오셰는 운이 좋았다. 사용하는 컴퓨터의 성능을 시험하기 위해 GIMPS 프로그램을 설치하고 메르센 소수를 찾기 시작했는데 4개월 만에 발견한 것이다. 이 수는 직전에 발견한 50번째로 추정되는 메르센 소수보다 150만 자릿수가량 크다. 20년 넘게 수만 번의 시도를 했지만 성공하지 못한 GIMPS 사용자도 허다하다.

4개의 메르센 소수를 찾은 수학자

‘축하해요, 존! (당신이 발견한 수는) 새로운 메르센 소수(확률 99.999%)이거나 버그(확률 0.001%)입니다.’

2017년 미국 운송회사 ‘페덱스’ 직원인 존 페이스가 50번째로 추정되는 메르센 소수를 발견하자, GIMPS의 설립자 월트먼이 페이스에게 메일을 보냈다. 신도 노력을 알아주시는 걸까.

당시 미국 일간지 ‘뉴욕타임스’ 인터뷰 기사에 따르면 페이스는 라오셰의 사례와 다르게 2003년에 처음 GIMPS를 알게 됐다. 당시 40번째 메르센 소수를발견했다는 기사를 읽은 후 소수를 찾는 프로그램을 개인용 컴퓨터에 바로 설치했다. 소수를 빨리 발견하고 싶은 마음에 가족들의 컴퓨터와 심지어 집사로 봉사하고 있는 교회 건물의 여러 컴퓨터에 프로그램을 몰래 깔았다. 이 메르센 소수도 교회 컴퓨터에서 발견했다.

페이스는 10대 시절부터 수학을 사랑했기 때문에 이번 발견을 할 수 있었다고 한다. 고등학교 수학 선생님으로부터 답이 여러 개인 문제에 도전하고 또 도전하는 것이 수학의 매력이라는 점을 배웠다고 한다. 대학에서 전기 공학을 전공한 그는 페덱스에서 재무관리를 담당했는데, 시간이 날 때마다 매일 거대 소수를 찾았다. 앞으로도 페이스는 소수를 계속 찾을 것이라 호언장담했다.

페이스보다 앞서 더 거대 소수 찾기에 빠졌던 수학자가 있다. 4개의 메르센 소수를 찾은 커티스 쿠퍼 미국 센트럴미주리대학교 교수다.

그는 2005년 43번째 메르센 소수 2^30402457-1을 찾은 것을 시작으로, 2006년 44번째, 2013년 48번째, 2016년 49번째(추정) 메르센 소수를 찾았다. 센트럴미주리대 다수의 실험실 컴퓨터에 Prime95를 깔고 꾸준히 작동시켜 왔고, 그중 한 대가 메르센 소수들을 찾은 것이다.

쿠퍼 교수는 미국 아이오와주립대학교에서 수학을 전공하고 컴퓨터 과학을 부전공했다. 교수가 된 이후에도 두 학문에 관심을 가지고 집중적으로 연구하고 있다고 2016년 <;수학동아>;와의 인터뷰에서 밝혔다. 그런 점에서 컴퓨터로 소수를 찾는 GIMPS에 자연스레 관심이 쏠릴 수밖에 없었다. 심지어 어렸을 때부터 정수론과 소수에 큰 관심을 갖기도 했다.

소수 사냥꾼, 우리나라에도 있다!

우리나라 수학 강사 최경재 씨도 GIMPS에 참가해 20년 넘는 기간 동안 거대 소수 찾기에 몰입하고 있다. 최 씨가 소수에 처음 관심을 두게 된 건 1995년 학생들을 가르치면서부터다. 수학을 지나치게 어려워하는 학생이 많아, 조금이라도 수학이 재밌다는 사실을 알게 하려고 틈날 때마다 교양 수학책을 읽으며 소재를 찾았다.

그러던 중 소수가 에우클레이데스를 비롯한 유명한 수학자가 연구한 수라는 사실을 알게 돼, 수업 시간에 소수의 비밀을 풀기 위해 도전했던 여러 수학자의 이야기를 들려줬다. 최 씨는 “이야기를 듣고 나면 아이들 눈이 똘망똘망해지며 수업에 집중하는 태도가 달라진다”라면서, “‘아, 지금 내가 배우는 수학이 인류 역사에서 의미 있는 것’이라는 사실을 알게 됐기 때문”이라고 했다.

소수에 대해 더 많은 이야기를 학생들에게 들려주고 싶어 인터넷에서 다양한 자료를 찾던 최 씨는 1997년 GIMPS를 알게 됐다. 그저 수학의 힘과 논리로 거대한 소수를 찾을 수 있다는 점이 놀라웠다. 수학에 경외심마저 느껴졌다. 그 작업에 수학을 좋아하는 사람으로서 조금이라도 일조하고 싶었다. 그래서 눈에 보이는 컴퓨터마다 가능하면 GIMPS의 프로그램을 설치했다. “당신 때문에 컴퓨터가 느려진 것 같다”라는 직장 동료의 원망도 들었지만, 그때마다 거대 소수를 찾는 것이 얼마나 의미 있는 일인지 침이 마르고 닳도록 설명했다.

아는 사람 컴퓨터도 모자라 한때는 용산 전자상가에 가서 GIMPS 프로그램을 겨우 돌릴 수 있을 만한 작은 컴퓨터 5대를 사서 직접 조립하기도 했다. 인터넷 커뮤니티를 만들어 같이 할 참가자도 구했다. 이런 열정 덕분에 GIMPS가 전 세계 참가자를 참여도에 따라 줄을 세울 때 60위를 기록한 적도 있다.

아직 최 씨는 메르센 소수를 발견하지 못했다. 그런데도 여전히 매일 컴퓨터를 켤 때면 GIMPS 프로그램을 실행한다. 그는 “꾸준히 관심을 두면 누구나 할 수 있는 일”이라면서, “평범한 관심이 생각지도 못한 좋은 결과로 이어질 수도 있고, GIMPS를 통해 새로운 수학 이론이 생기거나 세상의 어떤 비밀이 풀릴 수도 있을 것”이라며, 기대감을 내비췄다.

“‘거대 소수가 있다’라고 말만 하면 학생들이 얼마나 큰 수인지 느끼지 못해요. 그때 전 저만의 메르센 소수 책을 보여줘요. 48, 49, 50, 51번째 메르센 소수를 전부 인쇄한 책이에요. 한 장 한 장 깨알 같은 숫자를 읽으며 거대 소수를 학생들이 실감하고 감동하는 모습을 보면 무척 뿌듯해요. ‘나도 이 거대 소수를 언젠가 찾을 거다’라고 말하면 학생들이 정말 놀라요. 학생들 때문에 조금 더 도전해야 할 것 같아요(웃음).”