우리의 메르센, 그럼 그동안의 연구 성과를 인정받지 못했을까. 결코 아니었다. n이 소수일 때 2n- 1 꼴의 소수가 많다는 메르센의 생각은 소수를 찾는 획기적인 알고리듬을 만드는 데 기여한다.
소수 연구에 있어 어떤 수가 소수인지, 아닌지를 판별하는 것은 굉장히 중요하다. 하지만 18세기까지만 해도 어떤 수가 소수인지 알아내는 방법이 없었다. 그저 2부터 시작해서 하나씩 계속 나눠볼 수밖에 없었다.
훗날 메르센 수가 정말 소수인지 아닌지도 이런 시행착오를 거쳐 얻을 수밖에 없었다. 1772년 오일러가 231-1이 소수라는 사실을 증명해 이 숫자는 96년 동안 ‘가장 큰 소수’라는 왕관을 썼다. 1867년에 프랑스 수학자 포춘 랜드리가 259-1을 179951로 나눈 수가 소수라는 사실을 알아냈다.
그러던 1876년 프랑스 수학자 에두아르 뤼카가 메르센 수를 이용해 소수 판별법을 만들고, 39자리의 수인 2127-1이 소수임을 증명했다. 이 수는 그때까지 발견한 소수 중 가장 큰 소수라는 영광을 차지한다. 그리고 1951년까지 무려 76년 동안 최대 소수의 자리를 굳건히 지켰다.
이후 1930년대에 미국 수학자 데릭 헨리 레머는 뤼카의 방법을 개량하고 발전시켜 ‘뤼카-레머 소수 판정법’을 완성했다. 이는 지금까지 소수 판정의 표준 잣대로 사용된다.
이 방법을 이용해 컴퓨터로 메르센 소수를 찾는 데 처음으로 성공한 사람은 미국 수학자 라파엘 로빈슨이다. 그는 미국 국립표준기술연구소에서 만든 ‘스왁(SWAC)’이라는 초창기 컴퓨터를 이용해 뤼카-레머 판정법을 토대로 한 알고리듬을 짜서 1952년에만 무려 5개의 메르센 소수를 찾아냈다. 스왁은 10억 자리의 수를 2개 더하는 데에 64탎(1탎는 100만분의 1초)밖에 걸리지 않는다. 로빈슨이 찾은 수 중 가장 큰 수가 뤼카가 발견한 2127 - 1 보다 17배 이상 자릿수가 크다.
