수학이라면 수나 식의 계산만을 상상하기 쉽다. 그러나 카타스트로피 이론은 그러한 생각과 전혀 다른 방법을 쓴다. 수나 식으로 현상을 설명하기보다 대상을 직관적으로 이해할 수 있기 때문에 흥미가 생긴다.
최근 한반도를 중심으로 국제 정세는 위기 일발의 직전에 있었다. 북한에 대한 UN제재안이 토의되는 동안 북한 측은 서울을 불바다로 만들겠다고 호언하고 한국 정부도 이에 맞서 강력한 태도를 보였다. 이 긴장 구조는 카터의 입북으로 하루 아침에 평화의 무대로 돌아서게 됐다. 그야말로 수학에서 말하는 카타스트로피적 전환이었다.
종전 수학 통합하는 통일적 견해
오랫동안 과학자들이 외면해왔던 돌연의 변화에 대한 중요한 문제가 있다. 일단 눈을 돌려 보면 신비성마저 느끼게 되는 것들이다.
성경에 "The last straw that break the camel's back"이라는 말이 있다. 낙타의 등에 너무 많은 짚을 쌓아 올리면 허리가 부러질 수 있다. 그런데 낙타의 허리를 부러뜨리는 것은 마지막의 지푸라기이며 그것이 극적인 변화를 일으키는 것이다.
한때 지구상에는 공룡이 군림하고 있었다. 공룡의 절멸을 전후한 지구의 환경에는 별로 큰 변화가 있었다고 생각되지 않는다. 그런데 왕성한 번식력을 가진 공룡이 갑자기 사라진 이유는 무엇인가. 그 원인은 오래 전부터 서서히 진행돼 왔을 것이다. 그러다가 낙타의 허리를 부러뜨린 마지막 지푸라기처럼 어느 날 갑자기 모든 공룡이 절멸했을 것이다.
현재 지구의 환경 오염은 서서히 진행되고 있다. 어느 날 갑자기 인간이 절멸할 시기가 올 수 있다. 이런 예가 실감이 안난다면 우리 주위에서 흔히 볼 수 있는 일들을 생각해 보라.
풍선에 서서히 바람을 불어 넣을때 천천히 커지다가 파열하는 순간이 있다. 배가 전복하는 순간, 쫓기던 쥐가 갑자기 돌변해 고양이에게 덤비는 순간, 온순했던 농민이 혁명을 일으키는 순간, 충전의 급락현상 등 모든 현상은 시간의 함수다.
이러한 현상이 나타나는 순간을 수학에서는 특이점 (特異点)이라고 한다. 우리 주변에는 이런 일들이 많이 있다. 함수 문제를 일삼아 생각한 수학자들이지만 특이점의 문제에는 좀처럼 손을 쓸 수 없었다.
전통적인 해석학(미적분)의 모델은 연속적인 변화를 설명하는 데 적절하다. 조합과 컴퓨터 과학 등의 이산적(離散的·모래밭처럼 수많은 점으로 이어져 있는 것) 대상에는 유한수학이 크게 힘을 발휘한다. 자연현상은 이들의 연속적인 것과 이산적인 형성이 뒤섞이고 있다.
1972년 R. 톰은 '구조 안전성과 형태 형성'을 출간하고 그 속에서 종래의 수학을 통합하는 새로운 통일적인 견해를 제시했다. 이것이 '카타스트로피 이론(특이점의 이론)'이다.
톰이 카타스트로피 이론을 창시한 이야기 가운데 흥미있는 것은 1961년 개구리 발생과정의 모형을 보고 그 변화의 신비성에 충격을 받았다는 점이다. 알에서 올챙이, 그리고 개구리의 단계에는 분명히 돌연한 변화가 있다.
모든 현상이 기하적으로 설명돼
카타스트로피, 또는 카타스프로프란 그리스어 Katastrophe에서 온 말이다. 사전을 보면 다음과 같이 풀이돼 있다.
1. 돌연히 나타나는 광범위한 큰 변동, 가령 전쟁에 의한 재해같은 것.
2. 파국, 또는 종말이며, 흔히 불행한것.
3. 불상사.
4. 영화나 연극에서는 마지막 장면.
5. 지각의 변동, 격변…….
모두들 어둡고 섬뜩한 인상을 주는 말들이다. 그러나 수학적으로 이 낱말을 사용할 때는 일상적 카타스트로피라는 말과 달리 별로 어두운 면이 없는, 오히려 발랄한 생명력을 지니고 있다.
수학적인 카타스트로피의 현상은 여러가지 국면에서 일어난다. 그것을 분석하면 각각 명확한 기하학적 유형과 그에 대응하는 현상이 있음을 알 수 있다(표1).
이 내용은 단순한 직관이 아니다. 각 유형에 대해서는 모두 표준적인 모델과 방정식이 대응하고 있다.
카타스트로피 이론은 수학적으로는 현대의 기하학이라 할 수 있는 한 분야다. 그 출발은 미분 토폴로지(topology)인데, 1920-30년대에 시작되면서 그것이 새로운 형태로 발전한 것이다. 카타스트로피 이론의 중심은 톰의 정리다. 이 정리로 말미암아 모든 현상이 기하학적으로 설명된다.
수학이라 하면 곧잘 수나 식의 계산만을 상상하는 사람이 많다. 그러나 카타스트로피 이론은 그러한 생각과 전혀 다른 방법을 쓴다. 수와 식은 정량적(定量的)인 방법에 의존하고 있다.
이와는 달리 이 이론은 종래의 수학과는 다르게 현상을 정면에서 그대로 보는 것이다. 수나 식으로 현상을 설명하기보다 대상을 직관적으로 이해할 수 있기 때문에 흥미가 생긴다. 이 이론이 발랄하다는 것은 인간의 직관력을 순수하게 받이들이고 있기 때문이다.
중간에 튕겨야 빛보는 판매작전
카타스토로피의 간단한 유형을 하나 생각해 보자. 세일즈맨이 물건이나 보험을 권유할 경우 소비자는 물건을 산다 안산다, 보험에 든다 안든다 등의 결정을 한다. (그림 1)의 아래부분은 판매원과 고객의 관계를 나타내는 제어(control) 평면이며 윗부분은 그에 따른 결과를 나타내고 있다. 가로축은 그 물건이나 보험의 필요성을 소비자가 얼마만큼 인식하고 있는가 하는 필요성의 인식도이고, 그 인식에 관해서 축의 왼쪽이 높고 오른쪽이 낮다는 것을 나타내고 있다. 앞으로 나오는 y축은 세일즈맨의 설득력을 수량화한 것이다.
점 B에서 말이 시작되면 소비자는 물건이나 보험의 필요성을 알고 있으므로 설득에 따라 물건을 사거나 보험에 가입함으로써 일이 끝난다. 점 A는 교섭이 시작될 때다. 이때 소비자는 필요를 느끼는 일이 없으므로 세일즈맨은 전력을 다해서 그 필요성을 설득한다. 고객이 필요를 별로 느끼지 않는데, A에서 평범하게 진행하면 판매는 실패하게 된다.
지금 소비자는 세일즈맨의 설득에 귀를 기울이고 차츰 필요성을 인식해 주는 것으로 가정하자. 이때 콘트롤면은 점 A에서 시작해서 S의 길을 따라 진행한다. 이때 곡면상에서는 S의 길이 아래 곡면으로 진행하면 얼핏 실패한 것처럼 보인다.
그러나 이것이 바로 결정적인 순간이다. 소비자가 충분히 그 물건이나 보험의 필요성을 인식할 때, 즉 그림에서 X라는 점으로 진행하면서 세일즈맨은 다음과 같은 말들을 하며 설득을 그만둔다.
"이 물건은 다른 사람이 사겠다고 약속한 바 있습니다."
"다음달부터 이 가격으로 판매할 수 없습니다."
이때 콘트롤은 S의 길을 점 X에서 끊고 XY의 방향으로 진행하게 한다. 여기서 Y는 끊어지는 점이다. 그러므로 콘트롤이 Y점에 오게 되면 곡면에서 Y점은 면의 끝에 있으므로 그것을 넘어 콘트롤이 화살표의 방향으로 진행한다. 곡면의 점 Y에서 점 Y'로의 변화가 바로 카타스트로프다.
별로 사고 싶은 마음이 없던 소비자의 심리는 카타스트로프를 일으켜 물건을 사거나 보험에 가입하게 된다. 그 이유는 세일즈맨이 콘트롤의 점 X에서 설득을 정지했기 때문이다. 그 점에서 세일즈맨이 설득을 계속했다면 S의 길이 그대로 아래로 진행할 뿐 좀처럼 세일즈는 성공하지 못한다.
결혼, 연애는 일생중 한 개인이 하는 가장 중대한 결정이다. 그러나 어떤 부부를 놓고 생각해 보면 어느 모로 보나 전혀 어울리지 않는 한 쌍인 경우가 있다. 어떻게 해서 그런 선택을 했을까 하는 의아심조차 날 정도다.
그것은 물건을 사고 팔고 하는 경우처럼 어느 결정적 순간에 상대편의 카타스트로프적인 유혹작전에 현혹됐을 가능성이 있다. 세일즈맨의 방법을 그대로 이 경우에도 적용해 생각해 보자.
처음 여자쪽에서 상대 남자를 별로 좋아하고 있지 않은 점 A에서 두 사람의 교제가 시작된다. 여자는 마음이 약해서 남자가 적극적으로 호의를 보여 줌으로써 그에 따라 차츰 남자를 좋아하게 됐다고 하자. 이것이 콘트롤 S의 길이다(여자는 상당히 냉정한 타입이었다).
둘 사이는 남자가 여자에게 프로포즈할 정도로 진전되지 않는다. 그래서 남자는 S의 길에 있는 X 근방의 점에서 여자에게 약간 냉정한 태도를 보인다. 그때 콘트롤은 길 S를 떠나 점 X에서 XY의 방향에 뒤돌아 선다.
그러면 앞서 본 바와 같이 곡면상의 Y에서 Y'로의 점프가 생기고 카타스트로프적으로 데이트 횟수가 증가한다. 여자들은 꾸준하게 같은 방식으로 대하는 남자보다 오히려 사랑의 줄다리기에 매력을 느끼는 모양이다. 이렇게 뜻밖에 일어나는 점프가 놀라운 반전이라는 현상이며 이는 심리, 행동과학분야에서 잘 나타난다.
외교 회담에서 상대를 설득하는 데도 이와 같은 구조가 생긴다. 상대에게 일방적으로 설득하면 겁을 먹고 경직화되는 수가 있다. 이때 약간 방법을 달리해 슬쩍 다른 방향에서 설득하면 새로운 국면을 보일 때가 있다. 이번 카터의 북한 방문은 이런 경우가 아닐까 생각된다.
정량적인 생각을 정성적인 생각으로 바꾼 이론
카타스트로피 이론은 극한상황에서 일어나는 질의 변화, 다시 말해 '분열된 여러 요소가 서로 대립 투쟁, 내적으로 서로 침투하면서 그 과정을 통해 통일되고 고도로 발전된 상태'를 성립시키는 헤겔 철학의 이른바 정(正), 반(反)에서의 지양(止揚)이라는 상황까지를 연구의 대상으로 삼는다. 수학의 역사에서 일찌기 볼 수 없었던 대담한 구상이다.
카타스트로피 이론은 질이 변화하는 현상의 신비성을 '역학계 공간에서의 분기 집합'이라는 수학 개념으로 풀이하는 것이다. 곧 이 이론은 현상을 크게 기하학적으로 관찰하고 변화의 질적인 의미를 따지는 이른바 정성적(定性的)인 방법의 새로운 수학이다.
(그림 2)의 위쪽그림에는곡선 가나다가 있다. 수량적으로 따지면 나는 다보다 가에 훨씬 가깝다. 그러나 질로 따지면 가와 다는 같을 수 있다(아래쪽 그림 가' 나' 다'도 각각 같음).
아래쪽 그림에서 전혀 혈육관계가 없는 가'와 나'는 얼굴의 넓이가 거의 같으므로 수량적으로 따지면 서로 가깝다. 그러나 질로 볼 때 가'의 얼굴은 그가 어렸을 때의 얼굴 다'에 가장 가깝다.
이렇듯 겉보기에 별스러운 일이 아니면서도 철학적으로 중요한 뜻이 있는, 질에 대한 생각의 전환이 여태까지의 과학체계를 혁신적으로 바꾸어 놓는 수가 있다. 이를테면 근대 과학의 여명기에 천동설이 지동설로 바뀐 것이나 천체운동이 원운동이 아니라 타원운동이라고 생각하게 된 것 등이 그 좋은 보기라고 할 수 있다. 마찬가지로 수학에서의 카라스트로피 이론은 지금까지의 정량적인 생각을 정성적, 즉 질적인 생각으로 바꾼 것이다.
카타스트로피 이론의 창시자인 톰은 이 이론이 여러 사회 현상에 적용될 수 있음을 '증명'하려고 파리대학 역사학과 교수인 포이만과의 공동 연구에서 '역사는 되풀이한다'는 명제를 주제로 다루었다. 이 두 사람은 여러나라 정치의 변혁과정을 분석하면서 다음과 같은 변동의 유형을 찾아냈다.
1) 강력한 제국주의적인 정권이 있다.
2) 혁명이 일어나 제국주의적인 정권이 무너지고 새로운 혁명정부가 세워진다. 이 혁명 정부는 사상적으로는 급진적이지만 군사력(경찰력)이 약해서 불안정하다. 이 시기를 제1시기라고 부른다.
3) 강한 군사력을 가진 세력이 혁명정부를 무너뜨리고 군사정권을 세운다. 이 시기를 제2시기라고 부른다.
4) 군사정권은 꽤 오랫동안 계속되지만 쿠데타 또는 외국과의 전쟁으로 무너지고 불안정한 임시정부가 다시 들어선다. 이 시기를 제 3시기라고 부른다.
5) 임시정부가 갈아치워지고 새 정부가 세워진다. 새 정부는 처음의 제국주의적인 정부와 본질상 같은 종류의 정부이지만 그보다 훨씬 민주화되고 안정된 정권이다. 이 시기를 제4시기라고 부른다.
수학으로 풀어본 한국정치
여기에서 정치는 '강력한 정부→사상은 급진적이나 군사력이 허약한 정부→ 군사정권→과도 정부→안정된 민주 정권'의 과정을 되풀이하면서 좀더 민주화된 정치형태를 향해 나아간다는 사실을 알 수 있다.
톰과 포이만이 세워 놓은 유형을 생각하면서 몇 나라의 정권 이동의 과정을 살펴보면 흥미있는 표가 만들어진다(표 2).
해방 후의 한국 정치사는 작게 보면 숱한 곡절이 있지만 크게 보면 자유 민주 사회를 목표로 하여 카타스트로피의 유형을 거의 충실히 따르고 있다. 1980년 5월 '서울의 봄'은 군사정권이 꽤 반민주적이었다. 그러나 (표 2)에 나타난 대로 보면 그것도 하나의 발전을 위한 전제조건이었던 셈이다.
역사 발전의 과정이 이 이론과 같은 것이라면 1980년 '서울의 봄'을 맞이한 당시 민주사회가 우리 눈앞에 다가오고 있음을 거의 확신할 수 있었다. 그러나 그렇지 못한 경우 역사의 흐름을 거슬러서 생기는 많은 갈등이 야기될 것이라 상상된다.
1980년 '서울의 봄, 당시 필자는 (표 3)과 같은 모델을 생각했다.
박정희 암살 후 허약한 과도정부(최규하)가 생기고 그 다음 민주정부가 수립됐더라면 제격이었을 텐데 불행하게도 군사정권이 들어섰다. 톰의 (표 2)로 본다면 그것은 역사의 역행이었고 결국 현재의 문민정부(민주정부)는 필연적이었다.
그러나 수학의 역사가 알려주는 바와 같이 새로운 수학이론이 등장할 때 그것에 지나친 기대를 거는 일은 삼가해야 한다. 카타스트로피 이론이라고 해서 반드시 현상세계에 나타나는 돌발사태의 양상을 그대로 설명할 수 있는 것은 아니다.
키신저의 '역사는 유사성을 시사할 뿐 완전한 되풀이는 아니다'라는 말이 생각난다. 유사성과 완전한 되풀이는 수학적 모델에 큰 차이를 준다. 이 이론의 창시자를 포함한 수학자들이 관심을 갖는 문제는 현상의 설명보다 오히려 수학이론으로서의 완결성이다.
수학자들의 주된 관심은 현실 문제를 전혀 의식하지 않은 순수 수학의 구조에 대한 것이다. 그러나 어쨌든 17세기부터 몇백년 동안 인간의 인식에 엄청난 영향을 준 수량적인 세계관이 점차로 물러가는 때에 맞추어 이 이론이 등장한 것은 매우 암시적이다.
지금까지의 보기는 매우 간략하게, 특히 수학적 지식을 전제로 하지 않고 현상을 카타스트로프적으로 관찰하는 방법을 설명했다. 그러나 이것은 순수 수학의 한 분야 중에서 가장 최신의 이론인 토폴로지의 한 분야다. 처음 예상과는 달리 이 이론은 사회 과학에 대해서 모델을 제공해줄 뿐 정확한 예언의 수단은 되지 못했으나 공학분야에서의 응용은 상당했다.
