d라이브러리

Q

언제나 4월 1일에 체육대회를 치러왔던 어느 잡지사. 올해도 어김없이 같은 날 체육대회가 열렸다. 100m 달리기를 함께 끝낸 김 기자, 이 기자, 박 기자에게 경기 결과를 물었다.

김 기자 : 박 기자는 1등이었고, 이 기자는 2등이에요. 이 기자 : 박 기자는 2등이었고, 최 기자는 3등이에요.
박 기자 : 최 기자는 꼴찌였고, 김 기자는 2등이에요.

각자가 말한 두 가지 사실 가운데 꼭 하나만 참이라면, 누가 1등을 차지했을까?

A

근대 철학자들이 중요하게 생각했던 주제 가운데 하나는 논리적인 사고를 표현할 수 있는 보편적인 언어 체계를 구축하는 것이었다. 모호하고 비논리적인 자연언어의 문제점을 제거하고 논리적으로 완전무결한 언어를 만들어낼 수만 있다면 이 세상의 모든 진리는 이 언어를 통해 저절로 드러나게 될 테니까.

그렇지만 이런 시도는 그다지 성공적이지 못했다. 인간의 언어는 여전히 불완전하고, 아직 밝혀지지 않은 진리가 훨씬 많으니 말이다. 보편언어는 사실상 실패했지만, 논리를 기술하는 수학적 체계는 대성공을 거뒀다. 논리를 기술하는 수학을 완성한 사람은 19세기 영국의 수학자 조지 불(George Boole)이었다. 그의 이론은 참과 거짓을 대수적으로 다루는 방법으로 지금은 ‘불 대수’로 불리고 있다.

대수는 해석학이나 기하학처럼 수학의 한 분야를 일컫는 이름이기도 하지만 덧셈과 곱셈이 잘 정의된 수학적 구조를 뜻하기도 한다. 불 대수는 연산의 대상이 참(=1)과 거짓(=0)이고 연산은 ‘또는’(or)과 ‘그리고’(and)다. 이런 점에서 불 대수는 ‘수학이 수의 연산을 다룬다’고 생각하는 보통의 관념과 다르다고 하겠다.

위의 퍼즐을 불 대수를 이용해 풀어 보자. 박 기자가 1등이라는 명제를 P1로, 이 기자가 2등이라는 명제를 L2로 나타내자. 그리고 or를 덧셈으로 and를 곱셈으로 나타내면, P1과 L2 가운데 하나만 참이니까, P1·~L2+~P1·L2=1이 된다(단 여기서 ~는 부정을 나타내는 기호다). 같은 식으로 나머지 세 기자의 주장에 대해 써 보면, P2·~C3+~P2·C3=1, C4·~K2+~C4·K2=1이 된다.

세 식이 모두 참(=1)이니까 세 식을 모두 곱해도 여전히 참이다.

(P1·~L2+~P1·L2)(P2·~C3+~P2·C3)(C4·~K2+~C4·K2)=1

이제 이 식을 전개하고 P1·P2처럼 항상 거짓인 것들을 없애고 나면, K2·P1·C3·~L2·~P2·~C4=1이 된다. 이 식은 6개의 명제가 모두 참이라는 뜻이니까, 김 기자는 2등, 박 기자는 1등, 최 기자는 3등이고, 자동으로 이 기자는 4등이 된다.

일일이 참과 거짓을 하나하나 따져가며 이 문제를 풀 수도 있지만, 그냥 수식을 전개하듯이 기계적인 계산만으로도 논리 문제를 풀 수 있다는 것은 참으로 신기한 일이다. 원래 수학이 내용과 상관없이 형식적인 계산만으로 어떤 결과를 얻을 수 있는 특성이 있기에 당연한 일이기도 하지만, 바로 이 점이 보편언어와 달리 수학이 성공할 수 있었던 이유이기도 하다.