d라이브러리

수학자들은 때로 수학의 어떤 정리나 증명의 구조가 ‘아름답다’고 표현한다. 어떤 뜻일까? 아름다운 정리는 아름다운 증명이 있어야 하는 걸까?

소수 간격과 이탕 장

지난해 ‘쌍둥이 소수 가설’이라는 어려운 문제에 대한 급격한 진전이 전세계 수학자와 일반인들의 관심을 끌었다. 이 가설은 소수 분포의 극한 현상을 묘사한다. 소수 분포에 대한 가장 기본적인 사실은 19세기 말에 증명된 소위 ‘소수 정리’이다. 이 정리는 소수들 사이의 평균 간격을 규정해 준다.

소수들을 순서대로 나열했을 때 2, 3, 5, 7, 11, 13, …으로 시작되는 것은 누구나 알 것이다. 그런데 분포에 대한 이야기는 이 수열이 계속될 때, 그러니까 만 자리 소수 또는 10¹⁰⁰자리 소수 이상으로 커질 때 나타나는 패턴을 기술하자는 것이다. 분포를 가늠할 만한 척도로 n번째 소수와 n+1번째 소수 사이의 간격을 g_n이라 표기하기로 하자. 그러면 g₁=1, g₂=2, g₃=2, g₄=4, … 등이다.

이렇게 해서 찾은 첫 30개 소수의 간격은 1, 2, 2, 4, 2, 4, 2, 4, 6, 2, 6, 4, 2, 4, 6, 6, 2, 6, 4, 2, 6, 4, 6, 8, 4, 2, 4, 2, 4, 14이다. 소수 15480697로부터 시작하면 간격은 12, 4, 8, 16, 20, 10, 12, 74, 16, 32, 22, 14, 10… 이렇게 나간다. 물론 짐작할 수 있듯이 g_n들은 대체로 아주 천천히 커진다. 결국 N자리 소수들 사이의 평균 간격은 N이 커지면서 2.3N에 가까워지는데, 이것이 ‘소수 정리’이다. 예를 들자면 10자리 소수들 사이의 평균 간격은 23정도라는 것이다.

그런데 어느 현상이든지 평균을 안다고 해서 극단적인 경우가 나타나지 말라는 법은 없다. 간단한 실험을 통해서 알 수 있듯이 아주 큰 소수 간격도 꽤 흔하다. 가령 8 자리 소수 사이의 평균 간격은 약 18이지만, 15484999 다음의 소수는 15485039로 간격이 40이고, 47326693 다음 소수는 47326913으로 간격이 무려 220이나 된다.

물론 평균보다 훨씬 작은 간격도 많다. 가령 11309117과 11309119나, 15484457과 15484459처럼 그 간격이 2인 경우도 많이 볼 수 있다. 이렇게 그 간격이 2인 소수 쌍을 ‘쌍둥이 소수’라고 한다.

쌍둥이 소수 가설은 ‘쌍둥이 소수가 무한히 많다’는 것이다. 2와 3을 제외하면 소수 사이의 간격이 1일 수는 없다. 그러니까 쌍둥이 소수 가설은 소수 정리에도 불구하고 보통 간격 중에서는 최소의 가능성인 2가 무한히 많이 나타난다는 추측이다. 이 가설은 소수 정리의 불안을 표현한다고도 할 수 있다. 평균적인 질서가 있는 가운데서도 극단적인 예외가 얼마든지 많다는 것이다. 소수라는 집합의 큰 매력은 바로 이런 혼돈의 가장자리와 흡사한 신비로운 불안으로부터 우러나온다.

아주 큰 소수열람표를 조사해 보면, 쌍둥이 소수가 계속 나오는 성향을 실험적으로 확인해 볼 수 있다. 그럼에도 불구하고 무한성의 증명은 아직까지도 수수께끼로 남아 있다. 그런데 작년, 중국의 무명수학자 이탕 장에 의해 놀라운 결과가 이뤄졌다. 그는 소수 사이의 간격이 7000만보다 작은 경우가 무한히 많다는 것을 증명했다. 즉, 7000만보다 작은 g_n이 무한하다는 것이다.

물론 g_n=2가 무한히 많다는 가설과는 거리가 멀다. 그러나 ‘A보다 작은 g_n이 무한하다’는 종류의 정리는 이탕 장의 결과가 최초였기 때문에 수학자들은 놀라지 않을 수 없었다. 게다가 이탕 장은 50대 중반의 나이에도 어려운 문제에 몰두하느라 제대로 된 직장도 없는 ‘평민 수학자’였다. 끈질긴 노력의 결실에 대한 감동적인 이야기로 이탕 장은 수학자는 물론 일반인에게도 각광을 받았다.

협동의 위력, 그리고 제임스 메이나드

이탕 장의 증명 이후에 일어난 수학계의 현상 또한 놀라웠다. 그의 논문이 발표되자마자, 세계 각지 수학자들은 공동 노력에 의해 7000만이라는 상한선을 줄인 결과를 인터넷에 올리기 시작했다. 많은 수학 문제들이 처음 풀릴 당시에는 해법이 최적화 되어 있지 않기 쉽다. 그 이유는 여러 가지가 있지만, 근본적으로 발견자는 결과를 찾아내는 데에 너무나 많은 에너지를 소모하기 때문이다. 명료하게 글로 설명하거나 방법을 섬세하게 향상시킬 여력이 없다는 것이 가장 중요한 요소다. 따라서 증명이 처음 알려지고 나서 도구를 손질하면서 강력하게 만드는 작업은 주위 수학자들의 몫이다.

그런데 이탕 장의 경우는 이런 작업이 공공연하게 여러 사람의 ‘열린 연구’에 의해 아주 빠른 속도로 진행됐다는 것이 특이했다. 특히 2006년에 필즈상을 받은 UCLA의 테렌스 타오를 비롯한 전세계 전문가들이 ‘폴리매스(Polymath)’라는 인터넷 포럼에 숨 가쁘게 올린 글과 계산이 중요한 역할을 했다.

그 결과, 정확히 누구 덕분이라 단정짓기 어려우면서도 현저한 발전이 몇 달 만에 이뤄졌다. 이탕 장의 발견이 발표된 것은 2013년 5월 13일이었는데, 7월 27일에 4680 이하의 g_n이 무한이 많다는 결론을 내릴 수 있었다. 그러니까 1억 자리 이상 소수 사이의 평균 간격은 2.3억 이상인데, 그때도 4680 이하의 소수 간격이 계속 나타난다는 것이다. 협력을 통해 7000만을 순식간에 4680으로 줄일 수 있었던 것은 인터넷과 현대 기술의 위력을 보여 주기도 한다.

그런데 8월 이후로 폴리매스 활동이 줄어들면서 확실한 진전은 없어졌다. 이탕 장의 아이디어로부터 얻을 만한 에너지를 전부 소모해 버린 느낌이었다. 그렇지만 아무도 예상 못할 사건이 또 하나 기다리고 있었다. 11월 19일 캐나다 몽레알대에서 박사 후 연구원으로 일하던 젊은 수학자 제임스 메이나드가 ‘600 이하의 소수 간격이 무한히 많다’는 결과를 갑자기 발표한 것이다.

메이나드는 2013년 여름에 옥스퍼드대에서 박사학위를 갓 받은 풋내기 수학자로서 중견 외톨이 이탕 장과는 너무도 대조되는 모습이었다. 이뿐만이 아니라 여러 서람이 인터넷으로 떠들면서 연구하던 중에 혼자서 새로운 아이디어를 발견했다는 사실도 신기하고 대견했다. 참고로 메이나드는 2013년 봄 학기에 옥스퍼드대에서 열린 나의 타원곡선 강좌에서 조교로 일했었다.

수학의 미학

얼마 전 나는 수학동아 기자로부터 소수 간격의 최근 이야기를 설명해 달라는 부탁을 받았다. 그때 몇 가지 어려움에 부딪혔는데, 무엇보다도 이탕 장이나 메이나드 증명의 전체적인 구조를 파악하기 힘들다는 것이었다.

엄밀히 말하면 증명이 어려워서라고 할 수는 없었다. 두 증명 다 수론의 정리치고는 비교적 기초 지식을 사용했고, 증명에 필요한 핵심적인 기술은 1960년대에 이미 봄비에리와 비노그라도프에 의해 개발됐던 터라 널리 알려진 내용이 많았다. 그럼에도 불구하고 독자들을 위해서 ‘이런 이야기다’라고 요약하기가 왠지 어렵게 느껴졌다.

물론 내가 증명을 이해하려는 노력을 별로 들이지 않았던 것도 있다. 그래서 옥스퍼드 정수론 세미나에서 메이나드의 지도교수였던 로저 히스브라운으로 하여금 이 내용에 대해서 강연해 줄 것을 부탁했다.

그런데 지난주 목요일에 강연을 마치면서 히스브라운은 ‘이 증명이 아름답다고 할 수는 없네요’라며 일종의 사과를 했다. 메이나드의 지도교수가 대신 내려 준 결론이 한편으로는 다행스러우면서도, 그러면 아름다운 증명이라는 게 무엇인지 설명해야 한다는 부담이 또 생겨 버렸다.

나의 수학적 사고에 가장 큰 영향을 미친 사람 중 한 사람은 2월호 기사에서 언급한 적이 있는 ‘알렉산더 그로텐딕’이다. 그는 자신의 수학적 방법론을 ‘밀물 철학’이라고 표현했다. 수학적 난관의 해결을 바닷물과 비교한 것이다. 나무에 열린 단단한 열매를 열려면 망치로 때릴 수도 있지만, 그저 해변 적당한 곳에 놓아두면 밀물이 들어올 때마다 바다에 잠겨서 껍질은 점점 연해지고 결국 속이 저절로 들어난다는 것이다. 따라서 수학적 어려움도 바닷물 같은 이론으로 둘러싸는 해결책이 바람직하다는 것이다.

이런 밀물 철학의 보편성에 대해서는 찬반 의견이 당연히 많은데, 나의 경우는 대학원 이후부터는 그런 시각으로 수학을 바라보아야 한다는 믿음이 가득한 환경에서 공부해 왔던 것 같다. 그래서 증명의 미학 역시 탁월한 이론적 배경과 떼놓고 생각하기 어려워하는 일종의 결점을 안고 수학을 하고 있다. 그런데 소수 간격에 대한 최근 결과들은 밀물보다는 망치에 가까운 방법론을 사용했다는 것이 나에게는 근본적인 장벽이었고, 따라서 지금도 구체적인 설명을 못하며 핑계만 대고 있다.

혹시라도 이런 내 생각이 어린 학생들에게 편견을 안겨주는 것은 아닌가 걱정이 되기도 한다. 그러나 정말 중요한 점은 누구나 자기에게 맞는 수학의 미학을 찾아가야 한다는 것이다. 젊은 수학자들 사이에서 그로테딕처럼 바다를 지배하는 예언자도 나올 것이고, 이탕 장처럼 강력한 망치를 한없이 두드리는 장인도 있을 것이다. 또 나의 유명한 동료인 앤드루 와일즈처럼 바닷물과 강철의 알맞은 배합을 예리하게 발굴하는 수학자도 있을 것이다.

시간의 흐름이 역사로 바뀌는 과정 속에서도 지속할 수 있는 수학구조들은 에게 해를 내다보는 수니오만의 포세이돈 신전처럼, 바다와 망치의 미학을 다 흡수하면서 진화하기 마련이다. 다양한 수학적 조류 사이의 투명한 인력은 소수 집합 속의 질서와 혼돈의 오묘한 조화처럼 앞으로도 계속 세계수학자들의 사상을 풍요롭게 엮어 줄 것이다.