아르키메데스가 제안한 방식처럼 도형을 이용하는 원주율 계산법은 1400년경 인도의 수학자 마다바가 무한급수 중 ‘아크탄젠트(arctanx) 급수’를 발견하면서 그 빛을 잃어가게 됩니다. 흔히 숫자로 이뤄진 항을 나열한 것을 수열이라고 합니다. 이 수열의 모든 항을 덧셈이나 뺄셈으로 연결한 것을 ‘급수’라고 하며, 항의 개수가 유한하면 유한급수, 무한한 것을 무한급수라고 부릅니다. 마다바가 원주율을 구하기 위한 무한급수를 고안하면서 수천 년 간 소수점 아래 십여 자릿수 수준에 머물렀던 원주율의 정확도는 불과 수백 년 사이에 수십 배 이상으로 높아집니다.
1671년 영국의 수학자 제임스 그레고리는 마다바가 찾아낸 사실을 모른 채 같은 결과인 아크탄젠트 급수를 알아냈습니다. 또 1676년 독일의 수학자 고드프리트 라이프니츠는 아크탄젠트 급수의 변수 x에 1을 대입해 최종적으로 아래와 같은 원주율 계산식을 고안했습니다.
이 식의 우변은 1과 1/3, 1/5처럼 분모가 홀수고 분자가 1인 분수를 순서대로 더하고 빼는 과정을 무한히 반복한다는 의미입니다. 하지만 이 방식으로는 300번째 항까지 계산해도 원주율이 소수점 아래 2번째 자릿수까지만 정확하게 나온다는 한계가 있습니다.
아크탄젠트 급수는 현재 ‘마다바 급수’가 아닌 ‘그레고리 급수’나 ‘라이프니츠 급수’ 등의 이름으로 불립니다. 상대적으로 마다바보다 두 사람의 이름을 딴 급수가 더 많이 알려졌습니다. 이 급수를 모른 채 평생 동안 아르키메데스의 다각형법을 고집하며 원주율을 구하기 위해 노력한 학자도 있었습니다. 바로 네덜란드 수학자 루돌프 판 코일렌입니다. 코일렌은 1596년 편찬한 책 ‘원에 대하여’에 원주율을 소수점 아래 20번째 자릿수까지 계산한 결과를 실었습니다.
25년 뒤인 1621년에는 최종적으로 약 461경 개 이상의 변으로 이뤄진 정다각형을 이용해 소수점 아래 35번째 자릿수까지 계산하는 데 성공했습니다. 정말 ‘의지의 수학자’라고 할 수 있죠.
정확한 원주율을 찾기 위해 본격적으로 무한급수를 활용하는 시대가 되면서 코일렌의 업적은 금세 유명무실해집니다. 영국의 수학자이자 물리학자 아이작 뉴턴이 1600년대 후반 아크사인 급수의 변수 x에 1을 대입해 얻은 ‘뉴턴 급수’가 대표적입니다.
뉴턴 급수는 22번째 항까지만 계산해도 원주율의 소수점 아래 16번째 자릿수까지 정확하게 나왔습니다. 단숨에 라이프니츠 급수의 정확도를 넘어선 것이죠.
현재와 같은 원주율을 뜻하는 문자로 π가 쓰이기 시작한 것은 뉴턴의 발견 이후입니다. 1706년 영국 수학자 윌리엄 존스가 자신의 책에서 π를 처음으로 사용했습니다. 하지만 그 뒤에도 원주율을 지칭할 때 π가 아닌 pi, p 등을 혼용했습니다.
π라는 문자가 확고하게 자리잡은 것은 스위스 수학자 레온하르트 오일러 덕분이라고 할 수 있습니다. 1736년 오일러가 ‘세상에서 가장 아름다운 식’으로 평가 받는 오일러 항등식(eiπ+1=0)을 발표하면서 π를 넣었고, 이를 통해 π가 학계에서 널리 쓰이게 됐습니다.
원주율을 소수점 아래 수십~수백 번째 자릿수까지 구한 다양한 연구 결과가 끊이질 않는 가운데, 아르키메데스의 다각형법으로 극한의 계산을 시도했던 코일렌처럼 무한급수를 이용해 엄청난 양의 계산을 해낸 사람이 있었습니다.
1873년 소수점 아래 707번째 자릿수까지 계산한 영국의 아마추어 수학자 윌리엄 샹크스입니다. 무려 15년에 걸친 계산 결과입니다. 이후 컴퓨터 계산을 통해 527번째 자릿수까지만 정확한 것으로 판명됐습니다. 샹크스의 결과는 사람이 직접 손으로 계산한 원주율의 최장 기록으로, 여전히 깨지지 않고 있습니다.