Part 1. 세상에서 가장 섬뜩한 분해 작업 ‘소인수분해’

 

 

1637년 프랑스의 법조인이자 아마추어 수학자인 피에르드 페르마는 소수와 관련된 추측을 내놓는다. 본인의 이름을 따서 Fn=22n+1으로 나타나는 수를 ‘페르마 수’라고 이름 붙였는데, 음수가 아닌 정수 n에 대해 페르마 수는 모두 1과 자신만을 약수로 갖는 소수라는 게 그의 추측이다. 예를 들어 F0는 3, F1은 5로 명백한 소수다. 비슷한 방법으로 계산해 보면 F2=17, F3=257, 그리고 F4=65537로 모두 소수다.

 

늘 그랬듯 증명은 없었다. 페르마는 수학을 정식으로 배운적 없는 수학을 취미로 하던 법학자였다. 분명 취미로 한 수학이었지만, 페르마는 정수론과 기하학, 미적분학 등 분야를 가리지 않고 수학에 심상치 않은 업적을 두루 남긴다.

 

문제는 정리나 추측에 대한 증명을 발표하지 않는다는 것이다. 그래서 혹자는 페르마가 수학적 아이디어를 떠올린 뒤 증명을 못해서 발표하지 못한 것이라 의심하기도 한다. 진실은 알 수 없지만 페르마가 남긴 업적이 상당해 그의 수학적 능력을 부정할 수 없는 것 또한 사실이다.

 

페르마 수는 모두 소수라는 이 간단한 추측은 페르마가 죽을 때까지 해결되지 않는다. 그렇게 아마추어 수학자의 추측은 영원히 미궁으로 남을 듯 했다.

 

 

한 세대 후 나타난 반격


그런데 약 100년 뒤 1732년, 누군가 무덤 속에서 평온하게 잠자고 있던 페르마를 끄집어낸다. 옆 동네 스위스에서 태어난 레온하르트 오일러다. 오일러는 함수의 기호 f (x)를 처음으로 사용한 수학자로, 본인의 이름을 딴 ‘오일러 정리’와 ‘오일러 수’를 만들어 명실상부한 수학계 유명인사로 거듭난다.

 

오일러는 F5를 소인수분해하며 페르마의 추측을 한 방에 무너뜨린다. F5는 식에 대입해 계산하면 4,294,967,297다. 오일러가 등장하기까지는 아무도 이 수가 소수인지, 아니면 합성수인지 밝혀내지 못했다. 오일러는 이 수가 641과 6,700,417로 소인수분해되는 합성수라며, 모든 페르마수는 소수라는 페르마 추측을 단 한 방에 깨부쉈다.

 

오일러는 여기서 멈추지 않았다. Fn의 모든 인수는k·2n+1+1 꼴로 쓸 수 있다고 주장했다. 예를 들어 F5의 인수 중 641은 10×26+1로 표현된다. 페르마와 달리 증명도 했다.

 

이후 페르마 수 중 소수라고 밝혀진 건 n이 0, 1, 2, 3, 4일 때뿐이다. n이 5, 6, 7, 8일 때는 완전히 소인수분해됐다. 나머지 경우, 소인수의 일부만 알려져 있거나 합성수인 것은 확인 됐지만, 어떤 인수로 구성돼 있는지 밝혀지지 않았다. 심지어 아직 소수인지 합성수인지 알려지지 않은 경우는 더 많다. 2018년 현재, 298개의 페르마 수가 합성수라는 게 밝혀졌으며 매년 수학자들이 조금씩 더 찾아내 끊임없이 페르마를 공격하고 있다. 페르마 소수와 관련된 풀리지 않은 문제도 여전히 있다. 당신이 다음 문제 중 하나라도 증명할 수 있다면 다시 페르마를 소환하라!

 

 

 

 

▼관련기사를 계속 보시려면?

 

Intro. 반증으로 추측을 부숴라! 스트리트 매스파이터

Part 1. 세상에서 가장 섬뜩한 분해 작업 ‘소인수분해’

Part 2. 2의 저주? 2문장에 함락된 오일러

Part 3. 힐베르트 뼈 때리는 '불완전성 원리'

Part 4. 연륜 NO인정? 뿔난 노인장의 역습

이 기사의 내용이 궁금하신가요?

기사 전문을 보시려면500(500원)이 필요합니다.

2018년 07호 수학동아 정보

  • 조혜인 기자(heynism@donga.com)
  • 기타

    [일러스트] 김진욱 도움 정경훈(서울대학교 수학 분야 강의교수)

🎓️ 진로 추천

  • 수학
  • 천문학
  • 물리학
이 기사를 읽은 분이 본
다른 인기기사는?