d라이브러리

미국 소설가 에드거 앨런 포의 단편집에 담긴 추리 소설 <모르그 가의 살인> 첫 장에는 ‘분석가가 수수께끼를 해결하는 데에 힘을 실어주는 것은 수학, 특히 해석학’이라는 구절이 나온다. 소설의 주인공인 오귀스트 뒤팽 탐정의 추리를 수학적으로 따져보자.

 

 

 

단편 <모르그 가의 살인>에서는 누군가의 참혹한 시체가 발견된다. 현장을 살펴보니 범인이 빠져나갈 만한 구멍은 없었다. 창문은 안에서 잠겨 있고, 굴뚝은 사람이 나갈 만큼 크지 않았다. 뒤팽은 이런 상황에서 귀납적으로 생각한다. 귀납법은 하나하나의 개별적인 사실을 바탕으로 일반적인 법칙을 끌어내는 방법이다.

 

물론 귀납법으로 내린 결론이 항상 참은 아니다. 예를 들어 여러 종류의 새를 관찰한 결과 모든 새는 하늘을 날 수 있다고 결론 내릴 수 있다. 하지만 닭처럼 하늘을 날지 못하는 새가 있으므로 그 결론은 거짓이다. 이처럼 귀납법에서는 예외가 발견될 수 있다. 

 

귀납법은 수학에서도 자주 쓰인다. 다음과 같이 순서대로 나열된 수열에서 ? 안에 들어갈 수를 찾는 문제를 풀어보자.

 

 

1 다음에는 그보다 3이 큰 4가 나온다. 4 다음에도 그보다 3이 큰 7이 나온다. 그 뒤로도 3씩 커지며 다음 수가 나타난다. 귀납적으로 생각하면 뒤의 수는 앞의 수보다 항상 3이 크다는 결론을 내릴 수 있다. 따라서 19 다음에 나올 수는 22다.

 

 

단편 <마리 로제 미스터리>에서는 어느 날 마리라는 이름의 젊은 여성이 사라진다. 그리고 며칠 뒤 마리로 보이는 시체가 강에서 발견된다. 하지만 그게 정말 마리인지, 사인이 자살인지 아닌지 의견이 분분하다. 뒤팽은 여러 의견을 들어 본 뒤 각각의 주장이 서로 모순된다고 지적한다. 

 

뒤팽이 말한 ‘모순’이라는 단어는 한자로 창을 뜻하는 ‘모’와 방패를 뜻하는 ‘순’이 합쳐져 생긴 단어로, 서로 앞뒤가 맞지 않는 것을 뜻한다. 수학에서는 두 개의 명제가 동시에 참이 될 수 없는 상태를 뜻한다. 이때 명제는 참인지 거짓인지 판단할 수 있는 문장이다. 두 문장을 예로 들어보자.

 

 

5보다 크면서, 동시에 4보다 작은 숫자는 있을 수 없다. 따라서 이 두 문장은 모순이다.

 

 

이 두 문장도 모순이다. 무리수는 분수로 나타낼 수 없다. 사건을 추리할 때의 논리도 수학과 비슷하다. 동시에 참이 될 수 없는 주장이 2개 있다면 둘 중 하나는 분명히 거짓이다. 거짓인 주장을 하나씩 없애다 보면 사건의 진상을 밝힐 수 있다.