제임스 메이나드 교수가 연속한 두 소수의 차이가 작은 경우에 대한 연구 결과를 발표하는 자리에서 그를 처음으로 만났습니다. 획기적인 결과를 간결하고 흥미롭게 소개해 주었기 때문에 매우 감명을 받았습니다. 연속한 두 소수의 차이가 2인 경우가 무한히 많다는 ‘쌍둥이 소수 추측’이 이러한 연구의 최종 목표일 것입니다.
사실 이에 앞서 2013년 6월 당시 미국 뉴햄프셔대학교의 시간 강사였던 이탕 장 교수가 위 주제에 대한 놀라운 결과를 발표해 수학계가 떠들썩했었습니다. 당시 영국 옥스퍼드대학교의 대학원생이었던 메이나드 교수는 로저 히스 브라운 교수의 지도하에 박사 학위를 받고, 같은 해 11월에 장 교수의 결과를 개선한 논문을 수학계 가장 권위 있는 학술지인 <;수학연보>;에 발표했습니다.
소수를 연구하는 수학자
소수 p는 약수가 1과 p밖에 없는 1보다 큰 자연수입니다. 1보다 큰 모든 자연수가 소수들의 곱으로 유일하게 표현되므로 소수의 성질을 이해하는 것은 정수론에서 매우 중요한 문제 중 하나입니다. 소수를 연구하는 것이 어려운 이유는 소수의 불규칙성 때문입니다. 예를 들어 연속한 두 소수의 차이인 pn+1-pn은 매우 작을 때도 있고, 클 때도 있습니다.
pn+1-pn이 작은 경우를 연구하기 위해 세 명의 수학자 다니엘 골드스턴 미국 산호세주립대학교 교수(G), 야노스 핀츠 헝가리 알프레드 레니 수학연구소 교수(P), 젬 이을드름 튀르키예 보아지치대학교 교수(Y)는 ‘GPY 체 법’으로 불리는 새로운 아이디어를 제시했습니다. 소수들 사이의 간격에 대한 연구를 위해서 셀버그 체 이론을 바탕으로 특별한 형태의 합을 고안했습니다.
GPY의 업적은 놀랍게도 2013년에 장 교수와 메이나드 교수에 의해서 많이 개선됩니다. 장 교수는 GPY 체 법에 적용할 수 있다고 알려진 ‘엘리엇-핼버스탬 추측’을 부분적으로 해결함으로써 연속한 두 소수의 간격이 7000만 이하인 소수 쌍이 무한히 많음을 증명했습니다. 이와 달리 메이나드 교수는 GPY 체 법에서 사용된 함수를 개선함으로써 연속한 두 소수의 간격이 600 이하인 소수 쌍이 무한히 많음을 증명했습니다. 이후 이 아이디어는 폴리매스 프로젝트에 적용돼 연속한 두 소수의 간격이 246 이하인 경우까지 증명됐습니다.
메이나드 교수는 앞선 문제와 정반대인 pn+1-pn이 큰 경우도 연구했습니다. 그는 임의의 상수 c에 대해 다음 식을 만족하는 n이 무한히 많다는 결과를 증명했습니다.
소수정리에 의하면 pn+1-pn의 평균 크기가 lnpn이니, 평균보다 훨씬 큰 값임을 알 수 있습니다. 공교롭게도 그가 발표한 <;수학연보>;의 바로 다음 쪽에 케빈 포드 미국 일리노이대학교 교수, 벤 그린 영국 옥스퍼드대학교 교수, 세르게이 코냐긴 러시아 모스크바국립대학교 교수, 테렌스 타오 미국 캘리포니아대학교 로스앤젤레스 교수가 함께 다른 방법을 이용해 같은 결과를 증명했습니다.
그 후 두 논문의 저자들이 힘을 합쳐서 위의 결과를 다음 식을 만족하는 n이 무한히 많이 존재하는 양의 상수 c가 존재한다는 결과로 향상시켰습니다.
메이나드 교수가 최근에 이룬 업적은 2020년 디미트리스 코이코일로포일로스 캐나다 몬트리올대학교 교수와 함께 ‘듀핀-쉐퍼의 추측’을 해결한 것입니다. 이 추측은 1941년에 발표된 문제로, 실수와 유리수의 오차가 특정 수준만큼 작을 때 이를 만족하는 유리수가 무한히 많은 경우가 언제 나타나는지 묻는 문제입니다. 즉 실수를 유리수로 근사시킬 때의 오차와 관련한 문제입니다.
위에서 소개한 문제들은 수십 년간 많은 수학자가 도전했지만 오랜 기간 동안 해결이 불가능하다고 여겨졌습니다. 대부분의 사람들은 어려운 문제에 도전할 때 ‘과연 자신이 이것을 풀 수 있을까’ 하고 자신감을 잃지만, 메이나드 교수는 이런 심리적인 어려움을 극복한 것 같습니다.
메이나드 교수는 2013년 여름 캐나다 수학연구기관(CRM)에서 첫 박사후 연구원 생활을 시작했습니다. 그 시기에 해석적 정수론 분야의 뛰어난 교수와 연구원들이 이 지역에 몰려 있었습니다. 대표적으로 이 분야의 대가인 앤드류 그랜빌 캐나다 몬트리올대학교 교수, 코이코일로포일로스 교수, 그리고 막심 라지윌 미국 캘리포니아공과대학교 교수가 있습니다. 뛰어난 동료 수학자들과의 연구 교류가 그의 훌륭한 업적에 도움이 되었다고 생각합니다. 우리나라 수학계에서도 이러한 연구 환경이 주어지고 연구 교류가 더욱 활발히 이뤄지길 기원합니다.
