d라이브러리

푸앵카레는 동력학계에 혼돈이 존재한다는 선구자적 발견을 이루어냈다. 그로부터 70년이 경과한 1960년대 들어 로렌츠 스메일 요크 메이 등이 차근차근 혼돈과학의 주춧돌을 쌓아 올렸다.

교과서에서 배운 '45도 각도로 던지는 것이 가장 멀리 간다'는 이론적 해석은 실제 상황에서 무기력하다. 갈릴레이가 실제로 피사의 사탑에 올라가 쇳덩이와 깃털을 동시에 떨어뜨렸다면 당연히 쇳덩이가 훨씬 먼저 떨어져 갈릴레이는 망신을 당했을 것이다. 중력가속도보다는 공기저항에 의한 마찰이 훨씬 더 운동을 지배하기 때문이다.

우리는 뉴턴역학의 세계에 길들여져 있지만 실제의 자연현상은 우리의 생각대로 움직여주지 않는 것이 너무도 많다. 대기의 움직임이 그렇고 강물의 흐름도 그렇다. 여기에 속도 압력 밀도 점성 등을 고려한 유체역학의 표준방정식인 나비어-스토크스 방정식을 적용하고자 할 때는 발걸음을 뗄 때마다 장벽이 재배열되는 미로 속을 걷는 것과 마찬가지다.

그 대안은 중요성이 상대적으로 떨어지는 요소들을 과감하게 생략하는 것이다. 그러나 실제는 무시된 요소들이, 예를들면 마찰이나 점성, 공기저항이 전체운동을 지배하는 '야전사령관' 노릇을 톡톡히 한다. 혼돈과학은 이처럼 무질서하고 불규칙한 것처럼 보이는 운동에서 새로운 규칙성을 찾아내려는 움직임이다.

혼돈은 곳곳에서 출몰하고 있다. '질서의 대부'인 시계를 상징하고 있는 진자운동에서조차 혼돈은 고개를 쳐들고 있다. 진자운동에서 공기저항을 고려할 때는, 또는 진폭을 충분히 크게 했을 때는 비선형 동력학적(혼돈) 성향을 띠게 된다. 뉴턴역학이 가장 잘 들어맞는다고 생각되는 태양계 내 행성들의 운동에서도 삼체(three body) 이상을 고려했을 때(금성이나 화성 등의 영향을 함께 생각하는 것) 혼돈과학의 지배를 받는다는 것이 정설이다.

전혀 법칙화할 수 없을 것 같은 무질서한 운동에서도 질서가 있고 질서정연한 결정론적인 법칙을 따르는 운동에도 혼돈현상이 존재한다는, 언뜻 생각하기에는 이율배반적인 성향을 가진 것이 혼돈과학이다.

태초의 혼돈

그리스 신화에서 혼돈은 '망망한 허공'이란 뜻으로 사용되고 있는데 이는 곧 우주탄생의 상황을 의미한다. 최초의 신 카오스(chaos)에서 어둠(에레보스)이 생겨났고 어둠에서 광명(아이텔)이 탄생한 것으로 되어 있다. 장자(莊子)의 내편에서도 분석적 지식에 대비되는 무위자연(無爲自然)의 의미로 혼돈을 이야기하고 있다.

그리스 신화나 장자가 표현한 혼돈이, 21세기를 몇년 앞둔 현시점에서 상대성이론이나 양자역학에 버금가는 제3의 과학혁명의 주체로 등장한 혼돈과학과 어떤 유사성을 가지고 있는지는 해석이 구구하다. 다만 기계론적인 자연철학관이 자연을 정복하려는 대상으로만 파악하고 억지로 자연을 일정한 틀(모든 고전역학의 법칙)에 가두려하는 반면에, 혼돈과학은 자연이 가진 자생적 생명력을 가능한 한 실제와 가깝게 파악하려 한다는 점에서 의견이 일치한다.

혼돈과학은 어떻게 시작됐는가. 혼돈과학의 태두는 누구인가. 이 질문에 딱부러진 답은 불가능하다. 하지만 혼돈의 심연에 빛을 비추기 시작한 사람으로 앙리 푸앵카레를 꼽는데 주저하는 사람은 없다. 푸앵카레는 18세기 말부터 19세기 초에 걸쳐 맹활약한(그는 논문을 4백여개나 발표했다) 프랑스의 수학자이다.

현실로부터 유리돼 추상의 세계에 머물기 쉬운 학문이 바로 수학이다. 그는 수학이 완전한 수식으로만 장식되고 매우 세분화된 영역으로 분리되기 직전의 수학자다. 그는 수학의 전분야에 걸쳐 간섭하고 섭렵했다. 5살 때 디프테리아를 앓아 몸이 약간 불편했던 그는 겉으로 보기는 먼산을 멍하게 바라보는 공상가 타입이었지만 그의 학문적 연구활동은 여느 정열적인 정치가 못지 않았다.

1887년 스웨덴의 국왕 오스카2세는 "태양계는 과연 안정된 상태인가"라는 천문학의 오랜 궁금증을 해결하는 사람에게 2만5천크라운의 상금을 준다고 발표했다. 태양과 9개의 행성, 그리고 소행성과 수많은 위성들이 안정된 궤도를 계속 가질 것인가, 아니면 언젠가는 어느 행성이 궤도를 이탈해 태양과 정면 충돌하고, 그 결과 우리는 철들면서 외우기 시작한 '수금지화목…'의 천문 구구단을 수정해야 할 것인가를 묻는 문제였다. 푸앵카레는 이 문제에 도전했다.

태양계에서 지구의 공전주기는 태양과 지구만을 고려한 결과이다. 달이나 다른 행성이 끼어들 여지가 없다. 달이 얼마만에 한번씩 지구 주위를 도는가를 계산할 때는 지구와 달 이외는 고려하지 않는다. 이것이 뉴턴역학의 정수다. 그리고 그 결과는 인간이 지동설을 확신한 시기부터, 아니 그 이전 바빌로니아 시대부터 지금까지 큰 오차없이 맞아 떨어졌다.

푸앵카레는 두 물체만을 고려해서는 안된다고 생각했다. 그러나 지구와 달의 관계에서 태양을 고려할 때(삼체 문제) 뉴턴방정식으로는 풀리지 않는다. 굳이 해답을 얻자면 일련의 근사치를 구할 수밖에 없다. 예를 들어 화성과 목성 사이 소행성들의 궤도를 계산하기 위해서는 섭동이론을 사용해야 한다. 결국 무한개의 항이 등장하는데 이들을 무시할 수만은 없다는 것이 푸앵카레의 생각이었다.

푸앵카레는 태양계는 본질적으로 다체문제이기 때문에 비선형방정식으로 풀 수밖에 없다고 결론짓고 새로운 방정식을 구성하고 근사치를 구해나갔다. 대부분의 경우 작은 섭동은 큰 영향을 끼치지 못하고 궤도는 안정을 유지했으나, 어떤 경우는 매우 작은 섭동을 가해줘도 행성이 큰 폭으로 요동하고 충분한 시간이 지나면 궤도를 이탈할지 모른다는 계산결과가 나왔다.

푸앵카레는 뉴턴의 홈그라운드라고 할 수 있는 태양계에서 혼돈의 심연의 일단을 발견한 것이다. 뉴턴의 세계관은 그와 그의 추종자들이 가장 안전하다고 믿었던 곳에서 무너지기 시작했던 것이다. 그러나 푸앵카레의 뛰어난 천착은 1960년대 카오스의 후예들이 여기저기서 자연발생적으로 생겨나기까지 70년 이상을 먼지를 뒤집어 쓴채 골방에 처박히고 말았다. 뉴턴의 세계관은 너무나도 깊게 뿌리박혀 있었고 실제의 천문현상은 뉴턴의 지시를 잘 따르고 있었기 때문이다. 푸앵카레 자신조차 "이 결과는 너무나 기이해 더 생각할 수 없다"고 말했을 정도다.

작년 3월 발견돼 올해 7월 목성과 정면 충돌할 것으로 예상되는 슈메이커-레비 혜성이 그 당시에 등장했다면 푸앵카레는 좀더 자신의 천착에 자신을 얻었을지도 모르지만.

푸앵카레의 삼체문제 도전 이후에 아인슈타인의 상대성이론이 등장했으며 곧이어 양자역학의 회오리바람이 불었다. 뉴턴은 푸앵카레의 도전은 무시하고 넘어갔으나 아인슈타인과 확률론을 들고 나온 양자역학의 강펀치에는 휘청거리지 않을 수 없었다.

나비효과와 로렌츠 끌개

혼돈과학을 소개하면서 가장 많이 등장하는 말은 '나비효과'며 그림으로 가장 많이 눈에 띄는 것은 '로렌츠 끌개'다. 이 두가지를 완성시킨 장본인은 수학자이면서 기상학자인 에드워드 로렌츠다. 나비효과란 서울 상공에서 나비 한마리가 펄럭인 영향이 수개월 후에 뉴욕에서 폭풍을 가져올 수 있다는, 즉 초기조건의 미세한 차이가 증폭돼 결과는 엄청난 변화를 가져올 수 있다는 혼돈과학의 핵심사상이다.

로렌츠 끌개*는 나비모양의기이한 끌개다. 우리가 흔히 접해온 시간에 따른 주기변화를 나타내는 그림이 아니라 위상공간의 궤적으로 표현된 이 그림은 똑같은 길을 반복하지 않으면서 일정한 형태(나비 날개 모양)를 유지한다. 이는 전혀 법칙화할 수 없을 것 같은 복잡한 자연현상(대기의 움직임 등)도 그 내부를 자세히 들여다보면 특정한 법칙을 가지고 있다는 것을 설명하는 한장의 그림이다.

나비효과와 로렌츠 끌개를 이해한다면 한발 정도는 혼돈의 세계에 발을 들여놓은 셈이다. 그런 의미에서 로렌츠는 실질적인 카오스의 파이어니어라고 할 수 있다.

수학자였던 로렌츠가 기상과 관련을 맺었던 것은 2차대전 중 기상예보관으로 일하면서다. 사실 그는 어렸을 때부터 기상광이었다. 고향집에서 매일의 최고기온과 최저기온을 기록할 정도로 변화무쌍한 기상에 관심이 많았다. 그러나 기상학은 1월의 평균기온이 얼마며 1년에 몇㎜의 비가 내렸다는 것을 무미건조하게 기록할 뿐 다이나믹한 기상의 변화를 제대로 설명하지 못했다. 당시만해도 대부분의 과학자들은 기상학을 진정한 과학으로 생각하지 않았다. 구름의 분포 등을 적당히 계측해 경험과 육감으로 내일의 날씨를 예보하는 어림짐작으로만 생각했던 것이다.

로렌츠는 달랐다. 기후는 천체의 움직임보다 훨씬 복잡한 현상이지만 어떤 법칙은 존재할 것이라 믿었다. 그는 우선 하루 이틀 후의 일기예보조차 불확실하고 1주일 후의 상황은 전혀 종잡을 수 없는 이유가 바로 나비효과 때문인 것을 발견했다. 국지적인 돌풍이 일련의 증폭현상을 일으켜 대륙을 뒤덮을 만한 커다란 소용돌이로 변할 수 있음을 발견한 것이다.

그는 여기서 그치지 않았다. 1963년 대류에 관한 방정식을 철저하게 분석해서 핵심적인 요소만 남겨 단순한 형태로 만들었다. 물론 이 방정식은 비선형요소를 포함하고 있었다. 그는 이 방정식을 컴퓨터로 풀어가던 중 그 속에 내재돼 있는 정교한 기하학적 구조를 발견했다. 도저히 규칙성이 보일 것 같지 않은 기상모델에서 멋진 그림 하나를 찾아냈다. 똑같은 자리로 되돌아오지는 않지만 거의 비슷하게 반복되는 로렌츠 끌개가 모습을 드러낸 것이다.

그러나 로렌츠의 발견도 푸앵카레의 천착처럼 주변 과학자들의 시선을 끌지는 못했다. 곧이어 천문학자 생물학자 그리고 물리학자들이 로렌츠와 유사한 발견을 하기 전까지는 고리타분한 학술지인 '대기과학지'에 실려 있는 로렌츠의 위대한 논문은 빛을 보지 못했다.
 

스메일의 편자

1960년대 들어 몇몇 과학자들은 '카오스 성'을 쌓는데 기초가 될 만한 벽돌 몇개를 마련했다. 그중 대표적인 사람이 스티븐 스메일이었다. 그에게는 푸앵카레의 후예란 표현이 적절할지도 모른다. 동력학계에 위상수학을 결합시키는 연구를 수행했기 때문이다.

스메일의 편자(horsehoe)라고 명명된 아이디어는 후에 혼돈과학을 설명하면서 약방의 감초처럼 등장하고 있다(그림1). 이 편자는 늘이고 구부리는 과정을 반복하면 할수록 처음의 차이가 증폭해서 늘어난다. 이것은 로렌츠가 날씨를 연구하면서 얻은 결론과 똑같은 것이다.
 

스메일은 1960년대에 접어들면서 젊은 수학자들을 버클리 대학에 모아, 그동안 순수성만을 강조한 채 여타의 과학과 담을 쌓고 있었던 수학의 흐름(부르바키라고 함)을 현실세계로 돌려 놓았다. 그는 푸앵카레의 후예답게 진동진자를 연구해 부분적으로는 예측불가능하지만 전체적으로는 안정된 카오스계의 개념을 분명히 했다. 안정된 카오스계란 다름 아닌 우리가 이제까지 규칙적인 흐름이라고만 생각했던, 즉 뉴턴의 지시를 아주 잘 따르는 동력학계가 미시적으로는 혼돈현상을 보인다는 의미다.

그후 보이저가 찍어보낸 목성의 대적반도 안정된 카오스계의 일종이라는 해석이 천문학계에서도 내려졌다. 60년대 후반들어 물리학자 천문학자 생물학자들은 스메일로 대표되는 위상수학 그룹의 주장에 귀를 기울이기 시작했다.

스메일을 존경한 수학자 중에 제임스 요크라는 사람이 있었다. 그는 로렌츠를 재발견한 사람이기도 하다. 요크는 대기과학 학술지에 실려 있는 로렌츠의 논문을 보고서 "이것이야말로 물리학자가 관심을 가져야 할 분야"라고 생각해 그의 논문을 복사해 주변의 모든 사람에게 돌렸다고 한다.

요크는 로렌츠와 스메일의 업적들을 살피면서 영감을 얻었다. 그는 이 결과를 논문을 통해 발표했는데 이 논문의 제목이 유명한 '주기3은 카오스를 함축한다'이다. 최초로 카오스란 단어가 과학의 영역에 데뷔하는 순간이었다. 요크야말로 카오스란 용어를 처음으로 사용한 사람이다.

로렌스가 주장한 '초기조건의 민감성'은 일상생활 도처에 존재한다고 요크는 생각했다. 하찮은 일로 약속시간에 조금 늦게 나타난 정치가가 폭탄세례를 피해 살아남음으로써 그 나라의 정치발전에 커다란 변화를 초래한 예라든가, 한 야구팬이 경기장에 가느냐 안가느냐가 과연 게임의 승패에 어떤 영향을 끼칠 것인가(영향을 미칠 수 있는 경우를 독자들 스스로 한번 상상해보라)라는 문제는 모두 하찮은 차이가 큰 변화를 일으키는 예이다.

문제는 과학의 영역이다. 그리고 무질서한 계에서의 규칙의 발견이다. 요크는 "교과서에서는 선형방정식으로 풀 수 있는 문제만 등장한다. 비선형계는 배우지 않는다. 그러나 소수의 과학자는 비선형적 성질이 자연현상의 대부분이라는 사실을 알고 있다. 우리의 임무는 비선형성을 보이는 자연과학의 영역에서 질서를 찾아내는 것이다."고 제임스 글리크가 쓴 '카오스'란 책에서 밝혔다.

요크는 의외로 생물학자인 친구 로버트 메이와의 공동연구에서 카오스계에서 나타난 질서를 찾았다. 생태학에서는 고전적으로 아주 간단한 선형방정식을 애용해 왔다. 단적인 예가 먹이가 많아지면 개체수가 는다는 방정식이다. X′＝nX, X는 현재의 개체수이며 X′는 다음 세대의 개체수, n은 늘어나는 비율이므로 어떤 숫자라도 상관없다. 맬더스의 인구론도 이 선형방정식을 크게 벗어나지 못한다.

그러나 실제는 이와는 사뭇 다르다. 질병이 존재하고 개체수가 늘어남에 따라 생존경쟁도 치열해져 단순한 선형방정식으로 표현이 불가능하다. 요크와 메이는 만족스럽지는 않지만 새로운 방정식 하나를 고안해냈다. X′＝n(1－X,), 단 X값은 편의상 1과 0 사이의 숫자로 제한한다. 이는 제임스 트레필이 난생동물인 곤충의 개체수 변화를 살피기 위해 등장시킨 방정식과도 유사하다. 이를 논리 차이 방정식이라고 부른다.

이 방정식 중 n을 변화시켜가면 재미있는 현상이 발견된다. n이 3 이하일 때는 X′는 일정한 숫자에 수렴하지만 3을 지나면 2년 주기로 두개의 값 사이를 진동한다. n의 숫자가 더 커지면 4년 주기의 진동을 가지며 더 커지면 8년 주기…(그림 2). 이를 다이아그램으로 그린 것이 유명한 주기배가 카오스(periodic doubling chaos) 그림이다.

요크는 주기배를 통해 카오스에서 질서의 일면을 발견한 후 "혼돈은 도처에 존재하고 안정된 상태이며 구조적이다"고 외쳤다. 이 결과는 혼돈과학의 영역이 뉴턴역학의 카테고리를 넘어서 사회 경제적인 현상까지 넓혀질 수 있다는 의미도 포함하고 있다.
 

이방인 맨델브로트

어느 학문이든 이방인은 존재한다. 혼돈과학도 마찬가지다. 프랙탈 기하학의 아버지라고 불려지는 베노이트 맨델브로트가 바로 그 주인공. 그는 푸앵카레 로렌츠 스메일 요크로 이어지는 카오스의 로얄패밀리와는 조금 다른 길을 걸었다. 그러나 그는 영원히 이방인은 아니었다. 현재 혼돈과학은 프랙탈이라는 훌륭한 도구가 없었다면 한걸음도 나아가지 못하는 불구의 신세로 전락했을지도 모른다.

맨델브로트는 학교 교육을 제대로 받지 못했다고 한다. 알파벳에 관심이 없었고 구구단도 5단 이상은 외우지 못했지만 기하학적 직관력만은 천부적이었다. 대수학 시험에서도 마음 속에 그림을 그림으로써 해답에 접근하곤 했다. 당연히 기하학과는 거리가 먼 화학은 점수가 낮았고 수학은 남들이 풀지 않는 자기만의 해법, 즉 기하학의 직감에 의존하여 겨우 낙제 점수를 면했다.

IBM연구소에 근무하던 그는 통신 상의 전송오차를 해결하는 문제를 풀다가 19세기의 유물이라고 할 수 있는 칸토어 집합*을 생각해냈다. 이를 이용해 통신오차의 분포를 기술하는 방법을 제시했다. 그가 제시한 방법으로 예측한 오차는 실제의 것과 정확히 들어맞았다.

그는 1천년에 걸친 나일강의 수위기록에도 관심을 가졌고 10년 동안의 면화가격이 그려내는 도표에 편집광적인 애정을 쏟았다. 자연의 경향성을 밝히려 했고 사회의 복잡한 메커니즘 속에서 일정한 질서가 있음을 알아내려 했다. 물론 그 질서는 뉴턴역학에서 보여지는 단순명쾌한 질서는 아니었다. 그가 주장한 대로 자연에 경향성이 존재하는 것은 사실이지만 그것은 항상 관철되는 만능자는 아닌 것이다. 요크의 주기배가 카오스 그림처럼 경향성은 갑자기 나타났다가 갑자기 사라지기도 한다는 것이 맨델브로트의 생각이다.

영국 해안선의 길이를 잴 때 자의 종류(잴 수 있는 최소단위가 얼마냐)에 따라 해안선의 길이는 다르게 나온다는 결론도 맨델브로트의 통찰력에서 나왔다. 자의 최소 단위가 작으며 작을수록 해안선의 길이는 길어진다. 그는 이러한 기하학적 통찰력을 이용해 통상적인 차원과는 다른 프랙탈차원이란 개념을 창시하기도 했다. 프랙탈 차원은 상식적인 1, 2, 3차원과 같이 정수차원이 아니라 1.6차원 2.3차원 등 소수차원을 이야기한다.

맨델브로트의 업적은 자연이 가지고 있는 자기유사성에 대한 연구에서 절정에 이르며, 카오스의 본류와 대등한 자격으로 합류한다. 칸토어집합과 코흐곡선에서도 보여주는 자기유사성은 우리 주변에 널려 있는 자연물에도 존재한다는 위대한 발견과 함께. 자기유사성이란 많은 자연물(예를들면 나뭇잎, 해안선의 형태, 우리 몸 속의 기관지, 구름 모양, 은하구조 등)의 부분을 확대해보면 전체 모습과 본질적으로 닮았다는 의미다. 그러나 그것은 단순한 확대나 축소가 아니다. 일종의 전체를 바라보는 철학이다.

어떤 물리학자는 태양을 주위로 지구를 비롯한 생성들이 돌고 있듯이 어떤 원자 세계도 이와 같은 모양을 하고 있으며(자기유사성) 그 안에는 인간이 살고 있는 세계와 유사한 또다른 세계가 존재할지도 모른다고 이야기한다. 프랙탈은 카오스의 대주주로 자리잡았다.

혼돈과학은 이제 시작단계다. 첫걸음을 뗀 아이의 탄생순간을 되뇌이는 것은 별의미가 없다. 앞으로 이 아이가 어떻게 말을 배우며 생각하고 자기의 인격을 형성시킬 것인가, 또 거친 세상을 어떻게 헤쳐나갈 것인가가 더욱 중요하다.

카오스운동은 어떻게 표현되나－주기3은 카오스를 포함한다?

우리는 물체의 운동을 시계열(time series, 위치를 시간변화로 나타냄)로 표현하는데 익숙해져 있다. 그러나 카오스운동은 위상공간내의 그림으로 표현하는 것이 편리하다. 이는 속도와 위치의 변수를 축으로 한 공간에 운동상태를 점으로 플롯한 것이다. 변수가 2개면 2차원공간, 변수가 3개면 3차원공간이 표시된다.

(그림)에서 공을 살짝 잡아 당겼다가 놓으면 시간에 따라 주기적인 운동을 반복한다. 그것을 시계열로 표시한 것이 ①이며 위상공간으로 표시한 것이 ②다. 이 운동은 1사이클의 주기를 갖는다.

그러나 스프링을 조금 세게 잡아당기면 재미있는 현상이 일어난다. 운동이 조금 복잡해지는 것이다. 1주기운동이 불안정하게 되면서 2주기 궤도가 만들어진다(③과 ④).

더욱 세게 잡아당겨 일정한도를 넘어서면 공은 카오스운동을 하게 된다. 시계열 그림⑤를 보면 패턴이 없는 것이 분명하다. 그러나 위상공간에서는 카오스 끌개가 모습을 나타난다. 일정한 공간을점유하는 불안정한 주기궤도의 조합이라고 할 수 있다.
 

*로렌츠끌개 : 공개의 대류 모델을 세 변수만을 고려해 푼 비선형동력학 방정식을 위상공간에 표시한 그림.
*칸토어집합 : 19세기 수학자인 게오르그 칸토어가 제시한 개념.