페르마, 오일러에 이어 소수 규칙을 발견하는 영광에 도전한 또 다른 최고의 수학자가 있었으니, 그 이름 카를 프리드리히 가우스다. 가우스는 독일이 낳은 위대한 수학자이자 천문학자이자 물리학자다. 앞서 언급한 가우스의 말은 오늘날까지 널리 회자된다. 가우스가 연구에 매진한 18세기에는 이미 수의 성질을 연구하는 것이 매우 중요했다는 의미이기도 하다.
가우스는 정수론을 비롯해 대수학, 기하학, 물리학, 통계학에서 많은 업적을 남겼다. 3세 때는 아버지의 계산 실수를 바로잡고, 10세 때는 1부터 100까지의 자연수 합을 대칭성을 이용해 계산해 선생님을 깜짝 놀라게 했다.
또한 대학 시절 정수론을 이용해 정십칠각형이 작도 가능하다는 사실을 증명했다. 통계학과 사회과학에서 자주 사용하는 ‘정규 분포(평균값을 중심으로 좌우대칭인 분포)’를 발견한 것도 가우스다. 1801년에는 저서 <;산술 연구>;를 써서 정수론을 체계적으로 정리하기도 했다.
1792년 겨우 15세였던 가우스는 매일 15분씩 투자해 어떤 수가 소수인지 따졌다. 가우스는 수를 1000씩 나눠 끈질기게 세었다. 결국 1부터 100만 개 정도까지 조사하면서 중요한 발견을 했다. 바로 소수는 제멋대로 나오지만, 소수의 개수는 수가 커질수록 줄어든다는 사실이다.
소수 개수 어림잡아 알려주는 소수 공식
가우스는 소수가 다음에 언제 나오는지 알아내는 대신 일정한 범위 안에 얼마나 많이 있는지 알아봤다. 그 결과 수의 범위가 10배 늘어나면 새로운 소수가 나타나기까지 평균적으로 세어야 할 수가 평균 2.3개 늘어났다. 이런 규칙을 수식으로 나타내면 밑이 오일러 상수 e(≒2.718)인 로그함수가 된다. 즉 1부터 N까지 범위에서 소수는 대략 lnN개의 수를 셀 때마다 하나씩 등장한다. 이것이 바로 ‘소수 추측’이다.
시간이 흘러 노년이 된 가우스는 오차가 훨씬 적은 소수 개수에 관한 예측 식을 만들기 위해 노력했다. 이때 떠오른 아이디어가 동전 던지기다. 소수가 동전 던지기와 같은 방식으로 나타날지도 모른다고 생각한 것이다.
동전을 던져 앞면이 나올 확률은 50%다. 하지만 직접 동전을 던져보면 꼭 50%의 확률로 나타나지 않는다. 다만 100번, 1000번 많이 던지면 던질수록 50%에 가까워진다. 이처럼 소수의 개수도 처음에는 그 값이 정확하게 맞아떨어지지 않지만, 무한히 많이 던지면 정확하게 구할 수 있다고 생각했다.
우선 동전 던지기에서 앞면이 나올 확률은 50%로, 뒷면이 나올 확률과 같다. 하지만 소수와 합성수는 나올 확률이 같지 않다. 그래서 가우스는 앞면이 나올 확률을 소수가 나올 확률이라고 가정한 다음 소수 동전을 N번 던졌을 때 확률을 구했다.
그 결과 적분 식으로 이뤄진 일반화된 함수를 만들었다. 소수의 개수가 로그함수의 그래프와 비슷한 형태로 계단 모양을 그리며 커진다는 것을 알아내고, 어떤 수 이하의 소수 개수를 어림잡아 구하는 공식 Li(x)를 만든 것이다. 땅속에 묻힌 소수로 이뤄진 황금계단을 발굴하는 강력한 도구가 됐다.
