구독상품안내
수학자들의 생각은 다르다. 계산기는 도우미일뿐, 수학은 인간만의 영역이라는 것이다. 그런데 요즘 분위기가 심상치 않다. 점점 강력해진 컴퓨터가 이젠 수학의 왕좌마저 넘보기 시작했다. 과연 인간은 수학의 왕좌를 지켜낼 수 있을까?
1900년 프랑스 파리에서 열린 세계수학자대회에서 힐베르트는 앞으로 수학은 물론 세상을 바꿀 23가지의 문제를 제시한다. 수학자들은 그중 10번 문제를 바탕으로 ‘어떤 문제든지 해결할 수 있는 기계’를 찾기 시작했다. 답은 그런 기계는 불가능하다는 것이었다. 아무리 완벽한 기계라도 답할 수 없는 물음이 존재하기 때문이다.
수학자들이 상상했던 만큼은 아니지만 우리는 매일 막강한 계산 기계를 쓰고 있다. 바로 컴퓨터다. 우리는 주로 오락을 위해 쓰지만 컴퓨터의 본분은 계산이다. 오늘날 사회를 지배하는 컴퓨터의 힘도 강력한 계산력에서 나온다. 컴퓨터의 영향력은 학문에서도 예외가 아니다. 뛰어난 계산능력 덕분에 컴퓨터는 이제 철학 연구에까지 쓰이고 있다.
이런 상황을 유독 찜찜하게 보는 사람이 있다. 바로 수학자다. 인간의 마지막 자존심인 수학마저 컴퓨터에게 넘어가진 않을까하는 우려 때문일까? 과연 인간과 컴퓨터 중 수학의 왕좌를 차지할 자는 누구인가?
컴퓨터 수학자가 온다?
두 문제에는 공통점이 있다. 우선 둘 다 100년 넘게 풀리지 않던 수학문제였다. 그리고 그 문제를 해결한 건 컴퓨터였다. 여기서 Q1은 ‘4색 문제’이고, Q2는 ‘케플러의 추측’이다.
Q1의 정답은 4가지다. 4색만 있으면 평면 위의 어떤 형태라도 겹치지 않고 칠할 수 있다. 언뜻 단순해 보이지만, 수학적으로 증명하긴 매우 힘들었다. 당대 최고의 수학자들이 이 문제에 도전했지만 연거푸 좌절하고 말았다.
1976년 드디어 문제가 해결된다. 미국의 수학자 캐네스 아펠과 볼프강 하켄은 지도 위에 나타날 수 있는 형태를 모두 구하고, 그 위에 색을 칠하는 방법을 제시한다. 셀 수 없이 많은 경우의 수를 셀 수 있는 형태로 단순화시키는 게 핵심이었다.
아펠과 하켄은 컴퓨터의 힘을 빌리기로 한다. 컴퓨터는 무한히 많은 모양을 1936개로 단순화시키고 다시 이것이 정확한지 일일이 검사했다. 무려 50일에 걸친 계산 끝에, 정확하다는 결론이 나왔다. 이렇게 구한 1936개의 형태에 하나하나 색을 칠해서, ‘4색 문제’를 증명할 수 있었다. 사람이라면 엄두를 못낼 계산이었다.
400년 묵은 수학 미스터리 컴퓨터가 해결하다!
Q2의 답은 이미 17세기에 나왔다. 케플러는 하나의 공을 12개의 공으로 둘러싸면 가장 많은 공을 담을 수 있다고 추측했다. 이번에도 문제는 증명이었다. 케플러는 자신이 발견한 해법을 수학적으로 증명하지 못했다. 이후 뉴턴, 가우스, 힐베르트 같은 당대의 천재들이 도전에 나섰지만 하나같이 실패했다.
첫 증명은 1998년에 이뤄졌다. 미국의 수학자 토마스 헤일스는 밀도 있게 공을 쌓는 모든 경우에서 밀도가 낮은 사례를 하나씩 지워가는 방식을 사용해 케플러의 추측을 증명했다. 헤일스는 서로 다른 5000가지의 경우를 살펴보기 위해 150가지 변수로 이뤄진 방정식을 생각해냈다. 방정식을 풀기 위해서는 엄청난 계산이 필요했다.
이번에도 해결사는 컴퓨터였다. 첫 증명 이후 16년간 끊임없이 컴퓨터로 계산을 반복한 끝에 헤일스는 작년 8월 드디어 완벽한 증명에 성공한다. 컴퓨터가 400년 가까이 내려오던 오래된 수학의 미스터리 중 하나를 해결한 것이다. 컴퓨터의 도움이 없었다면 케플러의 추측은 아직도 추측으로만 머물렀을지 모른다.
계산과학, 넌 누구니?
‘4색 문제’와 ‘케플러의 추측’을 푼 컴퓨터의 힘은 막강한 계산능력에서 나온다. 컴퓨터의 계산능력이 뛰어나다는 건 덧셈, 뺄셈, 곱셈, 나눗셈 같은 연산이 인간보다 빠르다는 것 이상의 의미가 있다. 이런 계산과정 자체를 연구하는 분야가 바로 계산과학이다.
계산과학은 요즘 가장 ‘핫한’ 학문이다. 나이도 이제 갓 스무 살을 넘었을 뿐이다. 계산의 중요성이 커질수록 계산과학의 영역도 넓어지고 있다. 과연 계산과학이란 무엇일까? 세 가지 질문에 답을 하면서 그 모습을 알아 보자.
컴퓨터? 100%는 못 믿어~
요즘에는 수학자들도 점점 컴퓨터를 연구에 많이 쓰고 있다. 컴퓨터는 실험이나 수학 이론을 실제 사례에 적용하는 데 큰 도움이 된다.
컴퓨터 시뮬레이션을 이용하면 수학 개념을 더욱 직관적으로 이해할 수 있다. 수학자가 어떤 얼굴을 그리고 싶어 한다고 생각해 보자. 과정을 중시하는 수학자는 눈, 코, 입이 어떻게 생기는지부터 하나하나 따져 본다. 그러다보면 얼굴 전체를 파악하긴 쉽지 않다.
이때 컴퓨터 시뮬레이션을 이용하면, 생김새를 짐작해 얼굴 전체를 직관적으로 파악할 수 있다.
컴퓨터가 수학의 도우미 역할만 하는 건 아니다. 김민형 영국 옥스퍼드대 교수는 “계산과학의 문제가 수학에 새로운 방향을 제시해 주기도 한다”며 “P대 NP 문제가 대표적인 경우”라고 밝혔다. 컴퓨터과학에서 시작된 P대 NP 문제는 클레이 수학연구소가 발표한 7개의 밀레니엄 문제 중 하나다. 문제의 요점은 답을 찾는 게 쉬운 경우(P)와 답이 맞는지 확인하는 게 쉬운 경우(NP)가 어떤 관계를 갖고 있는지다.
일반적으로 답을 찾기 쉬우면 그 답이 맞는지 확인하기도 쉽다(P→NP).하지만 답이 맞는지 확인하기 쉬우면 답을 찾기도 쉬운지(NP→P)는 확실치 않다. 많은 사람들은 P≠NP라고 생각하지만, 아직은 누구도 속 시원한 증명을 내놓지 못하고 있다. 김 교수는 “P대 NP 문제를 해결하는 과정에서 완전히 새로운 수학이 발견되지 않을까 생각한다”고 밝혔다.
증명만큼은 인정할 수 없어
수학자가 무조건 컴퓨터를 환영하는 건 아니다. 다시 ‘4색 문제’와 ‘케플러의 추측’으로 돌아가 보자. 컴퓨터가 오랜 수학의 미스테리를 해결해 줬지만 수학자들의 반응은 시큰둥했다. 심지어 컴퓨터의 증명이 잘못됐다는 걸 증명하려고 노력하기도 했다. 왜 수학자들은 이렇게 컴퓨터의 성공에 찜찜해 하는 걸까?
수학자는 어떤 문제를 증명했다는 사실 자체보다 어떻게 증명했는지에 훨씬 관심이 있기 때문이다. 원하던 목적지에 도착했더라도 어떤 길을 통해 그 곳에 갔는지가 더 중요하다는 뜻이다. 그렇다면 좋은 증명이란 과연 무엇일까? 김 교수는 “좋은 증명이란 수학 세계에 대한 우리의 이해를 넓혀 주는 증명”이라고 말한다. 간결함과 자연스러움도 좋은 증명이 갖춰야 할 모습이다.
수학자의 입장에서 컴퓨터의 증명은 이미 알고 있지만 복잡하고 험해 가지 않는 길일 뿐이다. 수학자의 관심은 아예 지도 위에 가기 편하고 안전한 새로운 길을 그리는 데 있다. 그렇다고 컴퓨터의 노력이 헛수고만은 아니다. 김 교수는 “어떤 증명이라도 일단 있으면, 더 좋은 증명을 찾는 데 도움이 된다”고 말한다.
수학의 왕좌는 누구에게 돌아갈까?
컴퓨터는 이제 더 이상 단순한 계산기가 아니다. 마치 영화 속 평범했던 주인공이 숨겨진 힘을 깨닫고 슈퍼히어로로 변신하듯, 자신의 엄청난 계산력을 발견한 컴퓨터는 슈퍼맨으로 진화하고 있다. 이젠 컴퓨터 없는 세상은 상상할 수 없을 정도다. 터미네이터의 시대는 오고야 마는 것일까? 특히 인류 최후의 자존심 수학마저 컴퓨터의 손아귀에 넘어 가는 것은 아닐까?
컴퓨터는 완벽하지 않다!
숫자에 약한 기자는 간단한 계산 결과도 계산기로 검증해 보곤 한다. 계산기가 항상 정확하다고 믿었기 때문이다. 그런데 우리나라 1세대 계산과학자로 꼽히는 김재완 고등과학원 계산과학부 교수는 인터뷰 내내 “컴퓨터를 너무 믿으면 안 된다”고 여러번 강조했다. 이어진 김 교수의 말이 기자의 고정관념을 강타했다.
“컴퓨터도 항상 실수를 합니다.”
그렇다. 기계는 절대 실수를 하지 않는다는건 잘못된 믿음에 지나지 않는다. 게다가 우리가 쓰는 디지털 컴퓨터가 내놓은 값은 근삿값에 불과하다. 아무리 완벽해 보여도 소수점 수십 자리에선 차이가 있다는 이야기다.
“이젠 하드웨어(컴퓨터), 소프트웨어(프로그램)보다 휴먼웨어(인간)에 주목해야 한다”는 김 교수의 주장의 근거도 여기에 있다. 아무리 뛰어난 컴퓨터로 계산을 했어도, 결국 그 결과는 반드시 훈련받은 사람의 판단을 거쳐야 한다는 것이다.
컴퓨터가 어떤 계산을 할지 정해 주는 것도 인간의 몫이다. 아무리 계산 능력이 뛰어난 컴퓨터라도 터무니 없는 일을 맡기면 좋은 결과를 내놓지 못한다. 인간이라면 컴퓨터의 한계를 알고 더 좋은 계산 방법을 끊임없이 고민해야 한다.
상상력은 인간의 승리!
컴퓨터의 계산능력이 인간을 훨씬 넘어섰다는 건 누구나 인정한다. 하지만 인간에겐 아직 비장의 무기가 남아 있다. 바로 상상력과 창조성이다. 사람은 누구나 혼자만의 엉뚱한 상상에 빠지곤 한다. 지도 위에 보이지 않는 목적지를 찾아 헤매고 없는 길을 한 걸음씩 만들어 가기도 한다.
컴퓨터에겐 아직 이런 능력이 없다, 컴퓨터가 뛰어난 건 이미 정해진 길을 남들보다 빠르고 정확하게 가는 일이다. 가끔 남들이 가지 않은 길을 만들어 내기도 하지만, 그 길 역시 사람의 상상력이 만들어 낸 것이다.
이 차이는 수학에서 더욱 두드려진다. 수학에서 가장 중요한 건 새로운 풀이법, 증명법, 그리고 개념을 생각해 내는 일이다. 계산은 여기에 문제가 없는지 살펴 보는 역할을 주로 맡는다.
아직 우리는 가본 곳보다 가지 않은 곳이 많다. 한 번도 보지 못한 문제를 계속해서 만날 것이다. 그리고 우리는 늘 그랬듯이 방법을 찾을 것이다. 아무도 하지 못한 상상력의 힘으로.
우리는 지금 ‘계산의 시대’에 살고 있다. 지루하게만 느껴졌던 계산은 이제 인간이 가진 가장 강력한 도구로 자리 잡았다.
하지만 계산만으로 모든 게 해결되는 것은 아니다. 상상력과 창조성이 항상 바탕이 돼야 한다. 만약 먼 미래에 컴퓨터가 상상력까지 갖춘다면 어떨까? 그때도 수학의 왕좌는 인간의 차지라고 할 수 있을까?
