대부분의 고등학교 수학교과서에는 미분과 적분단원에 각각 뉴턴(1642∼1727)과 라이프니츠(1646∼1716)의 사진이 실려있다. 미분과 적분은
서로 역(逆)연산의 관계에 있으므로 뉴턴과 라이프니츠가 미적분법의 공동발견자라고 생각하는 것은 어렵지 않다. 이때 '공동' 이란 말은 무슨 뜻일까.
두사람은 서로 떨어져 있으면서 거의 같은 시기에 미적분법을 발견했다. 그리고 이 발견은 과학의 역사상 유래를 찾아보기 힘든 격렬한 논쟁을 일으켰다. 이는 우연한 계기와 편협한 애국심, 그리고 '하나의 학설은 한사람만이 발견할 수 있다' 는 당시의 철학적 배경 때문에 발생했다.
"영국인은 걸으면서 생각하고 독일인은 생각하고 난 다음 걷는다" 고 한다. 철학에서 경험주의와 합리주의를 상징적으로 표현하는 말이다. 미적분법이라는 똑같은 개념을 표현할 때 영국인 뉴턴과 독일인 라이프니츠도 이런 차이를 보였다.
뉴턴에게 수학은 자연현상을 탐구하기 위한 '도구' 에 불과했다. 그러나 라이프니츠는 수학을 통해 사물을 합리적으로 표현하는 '보편적인' 기호법을 탐구하려고 했다. 이 차이는 출판물의 성격에도 잘 드러난다. 뉴턴은 물리학 연구서(프린키피아, Principia)에서 자신의 미적분법을 처음으로 발표했다. 반면 라이프니츠는 수학 잡지에 미분법과 적분법에 관한 논문을 차례로 발표했다.
같은 시기에 다른 방식으로
흔히 '프린키피아' 는 천문학과 역학의 기본원리를 기하학적으로 해설한 책이라고 알려졌다. 하지만 제2권의 보조정리를 비롯한 여러 부분에서 미적분법에 관한 설명이 나타난다.
뉴턴은 이미 캐임브리지 재학 시절에 당대 최고 수준의 수학지식을 터득했다. 미적분법을 떠올린 시기는 1666년으로 추정된다. 페스트로 학교에 휴교령이 내려지자 그는 고향에 머물면서 '3대발견' 에 해당하는 빛의 분석, 만유인력, 미적분학의 기초를 닦았다.
그러나 뉴턴은 자신의 생각을 일반인들에게 발표하지 않았기 때문에 몇몇 측근들만이 그 연구 내용을 알고 있었다. 이후 뉴턴은 26세의 젊은 나이에 교수가 돼 자신의 아이디어를 체계화하는데 매진했다.
뉴턴의 미적분법은 '유율법'(流率法 : method of fluxion)이라고 불린다. 그는 속도와 가속도의 개념을 나타내는 수학적 방법으로 유율법을 만들었다. 뉴턴은 액체 뿐만 아니라 연속적으로 변하는 모든 대사의 크기를 '유량' 으로 규정하고 시간에 따라 유량이 변화하는 비율을 '유율' 로 정의했다. 이때 유율도 계속 변하는 것이기 때문에 '유율의 유율', '유율의 유율의 유율'과 같은 새로운 유율 개념이 생겼다. 그 결과 뉴턴의 관심의 '무한' 으로 이어졌다.
뉴턴의 유율법에서 핵심적인 문제는 연속운동이었다. 우선 운동체의 통과거리가 주어질 때 그 속도를 알아내는 것이 문제였다. 그리고 속도와 시간을 아는 경우 운동체가 통과하는 거리를 구하는 것이 또다른 문제였다. 이들은 서로 역(逆)의 관계에 있는데, 첫 번째는 미분, 두 번째는 적분에 해당한다.
뉴턴이 대학의 연구실에 틀어박혀 집중적으로 탐구했던 것과 대조적으로 라이프니츠는 영주 밑에서 외교에 종사하며 당대의 학문을 폭넓게 섭렵했다. 그는 1672년부터 4년간 외교 사절로 파리에 머물렀는데, 거기서 당시 유럽의 최고 과학자였던 호이겐스로부터 직접 수학을 배우는 행운을 잡았다.
이 시기에 라이프니츠는 미적분에 대한 개념을 정립했다. 라이프니츠의 미적분학 연구는 뉴턴의 경우보다 더욱 일반적이고 체계적이었다. 뉴턴의 유율법이 시간(t)에 대한 변화에 한정됐던 반면 라이프니츠는 일반 변수(x)에 대한 변화를 논의했다. 현재 사용되고 있는 미적분학 용어도 거의 라이프니츠에서 비롯됐다. 또한 수학책에 등장하는 'dy/dx'혹은 '∫ '과 같은 기호도 그가 만든 것이다. "기호로 간단히 표현하는 것은 사물의 본질을 찔러 생각하는데 대단히 중요하다" 는 라이프니츠의 철학이 만든 성과였다.
1674년 라이프니츠가 미적분 개념을 영국 왕립학회에 보고하면서 우선권 논쟁의 서곡이 울렸다. 왕립학회는 같은 개념이 뉴턴에 의해 이미 발견됐다고 라이프니츠에게 알렸다.
그러자 라이프니츠는 뉴턴과 그 측근들에게 자신의 독창성과 연구 과정을 소상히 밝혔고, 뉴턴도 라이프니츠의 발견이 자기와 독립적으로 이루어졌음을 인정했다. 예를 들어 뉴턴은 '프린키피아' 초판에서 "라이프니츠의 방법은 말과 기호만 다를 뿐 나의 발견과 거의 같다" 고 밝혔다. 그후 10년 동안 영국을 제외한 유럽의 모든 국가에서 라이프니츠의 방법이 보급됐고, 그 결과 라이프니츠는 미적분학의 '창시자' 로 공인되고 있었다.
그러던 어느 날 영국의 한 수학자가 라이프니츠의 독창성을 부인했다. 라이프니츠가 뉴턴의 연구 결과를 표절했다는 것이다. 미적분 발견의 우선권 논쟁은 다시 불이 붙었다.
철학이 논쟁을 과열시켜
라이프니츠가 흥분한 것은 당연한 일이었다. 그는 곧 반박문을 발표했고, 그의 제자들은 뉴턴이야말로 라이프니츠의 연구결과를 훔쳤다고 비방하기에 이르렀다.
라이프니츠는 왕립학회에 공정한 판결을 요청했다. 그러자 뉴턴은 자신의 지지자들로 구성된 위원회를 열어 이 문제를 조사하게 했다. 당시 뉴턴은 라이프니츠를 자신의 '적' 으로 규정하고 그를 철저히 파괴하고자 했다. 자신에게 유리하도록 직접 작성한 보고서를 위원회 이름으로 발간했으며, 관례상 비밀로 처리돼야 할 내용을 대중잡지에 투고하기도 했다. 이런 분위기에서 왕립학회 위원회가 라이프니츠에게 표절 판결을 내린 것은 당연한 일이었다.
싸움의 양상은 '뉴턴파 대 라이프니츠파' 를 넘어 '영국 대 대륙' 으로 확대됐다. 뉴턴과 라이프니츠는 평생 서로 원수처럼 지냈으며, 유럽의 학계는 두파로 나눠져 1세기 이상 격렬한 논쟁을 되풀이했다. 결국 1820년에 이르러 두 사람의 독립적인 발견이 공인돼 두사람은 미적분학의 동시 발견자로 역사에 기록됐다.
이 논쟁은 자기 국민의 우월성을 내세우려는 협소한 애국심 때문에 발생했다. 그러나 보다 중요한 점은 논쟁의 배경에 "하나의 학설은 한사람만이 발견할 수 있다" 는 논리가 깔려 있었다는 사실이다. 영국의 경험주의와 대륙의 합리주의 모두 "객관적인 진리를 발견하는 길은 유일하다" 는 점을 바탕으로 형성됐기 때문이다.
이 논리에 따르면 뉴턴과 라이프니츠 중 한사람만이 진짜 발견자다. 즉 다른 한사람은 반드시 가짜일 수밖에 없다. 철학이 우선권 논쟁을 필요 이상으로 과열시킨 것이다.
