d라이브러리

80년대 들어 인체의 뇌와 심장에서 혼돈현상이 발견되면서 혼돈 연구는 그 응용의 폭을 대폭 넓혀가고 있다.

오늘 북경에서 공기를 살랑거리는 나비가 다음달에 뉴욕에서 폭풍우를 몰아치게 할 수 있다. 미국의 과학저술가 제임스 글라익의 베스트셀러 '카오스'(Chaos, 1987년)에 나오는 문장으로서 혼돈이론을 소개하는 글에 약방의 감초처럼 인용되고 있다. 나비의 날갯짓처럼 작은 변화가 폭풍우처럼 큰 변화를 유발시키는 현상을 기상학에서는 나비효과라 이른다.
 

나비와 폭풍우

나비효과의 개념은 결코 새롭거나 특별한 것은 아니다. 바늘도둑이 소도둑이 된다는 속담에서처럼 작은 사건이 연쇄적으로 확대되어 위기를 맞게 되는 경우가 비일비재한 것이 우리네의 인생살이이다. 그러나 나비효과는 뉴턴주의로 호칭되는 기계론적 세계관이 3백년 가까이 과학의 사고를 지배했기 때문에 철저하게 무시되었다.

아이작 뉴턴(1642-1727)이 1686년에 발표한 운동법칙에서는 자연현상이 선형 미분방정식으로 표현된다. 작은 변화로 작은 효과를 얻고, 여러개의 작은 변화를 합쳐서 큰 효과를 거둘 수 있으므로 선형이라는 용어를 쓴다. 따라서 어떤 물체의 초기조건, 즉 위치와 속도를 알고 있으면 운동방정식을 사용하여 물체의 다음 궤도를 미리 결정할 수 있다. 요컨대 자연현상을 선형계로 간주하여 결정론적이고, 예측 가능하며, 질서정연한 것으로 보았다.

그러나 대부분의 복잡다단한 지연현상은 비선형적 행동을 보여준다. 날씨를 비롯해서 인간의 뇌와 심장, 생물이나 사회의 진화현상, 세계의 경제는 모두 비선형방정식으로 기술된다. 비선형계는 두가지 측면에서 선형계와 구별된다.

첫째 행동 자체가 질적으로 다르다. 비선형계는 불규칙적이며 예측이 불가능하다. 둘째 변수의 작은 변화에 대한 반응이 천양지차이다. 선형계는 자극에 비례하는 반응을 나타내지만 비선형계는 나비효과처럼 작은 변화가 시간이 경과함에 따라 나중에 엄청나게 큰 변화를 야기시킨다. 이러한 특성을 일러 초기 조건에 대한 민감한 의존성(sensitive dependence on initial condition)이라 한다.

푸앵카레의 탁견

이 특성은 물론 수백년전부터 익히 알려진 것이었으나 학문적인 설명을 최초로 시도한 인물은 프랑스 수학자인 자크 아다마르이다. 그는 서른살 무렵인 1898년에 발표한 논문에서 만일 초기조건에 오차가 있다면 그 계의 행동은 장기적으로 예측할 수 없다고 언급했다. 아다마르 논문의 중요성을 이해한 사람은 프랑스 수학자인 앙리 푸앵카레(1854-1912)이다. 그는 1908년에 발간된 저서 '과학과 방법'(Science et Méthode)에서 "우리가 간과하는 하나의 매우 작은 원인이 우리가 무시할 수 없는 중요한 결과를 결정한다. 그리고 우리는 그 결과가 우연 때문이라고 말한다.(중략) 초기조건에서의 작은 차이가 최종 현상에서 매우 큰 차이를 유발하게 될 지 모른다"라고 지적하고, 일기예보를 믿을 수 없는 까닭이 초기조건에 대한 민감성 때문이라고 주장했다.

푸앵카레의 통찰력은 진실로 놀라운 것이었다. 배타적 개념인 결정론과 우연이 조화될 수 있음을 강조했기 때문이다. 요약하자면 "물체의 운동은 초기조건에 의하여 정확하게 결정된다. 그러나 그 궤적을 예측함에 있어서는 근본적인 한계가 있다. 그러므로 우리는 결정론을 갖고 있음과 동시에 장기적으로는 예측불가능성을 갖고 있다"는 것이다. 그러나 놀랍게도 푸앵카레가 뿌린 씨앗은 개념적으로 매우 중요한 발견임에도 불구하고 60년대 초에 혼돈 이론의 싹이 발아할 때까지 망각된 채 아무런 기여를 하지 못했다.

프랑스 물리학자인 다비드 뤼엘은 그의 저서 '우연과 혼돈'(Chance and Chaos, 1991년)에서 그 이유를 두 가지로 분석했다. 한가지 이유는 양자역학의 출현이다. 양자역학이 우연의 보다 본질적인 근원을 밝혀냈기 때문에 과학자들은 초기조건에 대한 민감성에 의하여 고전물리학에서의 우연을 설명하려고 공들일 필요가 없었다는 것이다. 또 다른 이유는 그 아이디어가 너무 빨리 나왔다는 점이다. 푸앵카레의 탁견을 활욯할 수 있는 도구, 예컨대 수학이론이나 컴퓨터가 없었다는 뜻이다.

혼돈속의 질서

푸앵카레가 지적한 날씨의 나비효과는 1963년 컴퓨터에 의해서 비로소 발견되었다. 미국의 기상학자인 에드워드 로렌츠(1917~)는 컴퓨터로 기상을 모의 실험하던 도중에 우연히 결정론적인 방정식에서 초기조건의 값의 미세한 차이가 엄청나게 증폭되어 판이한 결과가 나타나는 것을 발견했다. 로렌츠가 발견한 나비효과가 다름아닌 결정론적 혼돈이다. 혼돈은 대기의 무질서, 하천의 급류, 인간의 심장에서 나타나는 불규칙적인 리듬, 주식 가격의 난데없는 폭등과 같이 우리 주변에서 불시에 나타난다. 이와 같이 혼돈은 오랫동안 우리 곁에 존재해왔다. 혼돈은 이해받게 될 날이 오기를 기다리면서 결정론적 방정식에 숨어 있었다. 단지 로렌츠에 의하여 학문적으로 발견되었을 따름이다.

로렌츠가 혼돈을 찾아냈을 때 컴퓨터 화면이 보여준 기상계의 행동은 한없이 복잡한 궤도가 일정한 범위에 머무르면서 서로 교차되거나 반복됨이 없이 나비의 날개모양을 끝없이 그려내고 있었다. 혼돈을 나타내는 이 그림은 놀랍게도 일정한 모양새를 갖고 있었다. 혼돈(불규칙성) 속에 모양(규칙성)이 숨어 있었던 것이다. 1971년 뤼엘과 네덜란드의 플로리스 타겐스는 난류 발생에 관한 이론을 발표하면서 로렌츠가 발견한 그림을 '기이한 끌개'(strange attractor)라고 명명했다.

우리 주변의 도처에서 난류는 끊임없이 출몰하고 있다. 하늘의 난기류나 바위 주변의 소용돌이는 비행기를 추락시키거나 거대한 홍수를 일으키면서 인류에게 엄청난 재앙을 안겨준다. 그럼에도 불구하고 난류에 관한 연구는 오랫동안 불모지로 남아 있었다. 난류는 '이론의 묘지'라고 불릴 정도였다. 혼돈이 또하나의 다른 이름인 난류속에 숨어 있었기 때문이다.

혼돈과 난류의 수수께끼가 풀리고 혼돈의 이면의 질서가 내재되어 있다는 사실이 확인됨에 따라 새로운 패러다임이 태동했으며 이름을 얻게 되었다. 그것이 카오스이다. 1975년 미국의 제임스 요크는 '초기조건에 민감한 의존성을 가진 시간전개'를 카오스라 명명했다. 비선형 방정식으로 기술되는 자연 및 사회현상의 광대한 영역에 비추어 볼 때 혼돈의 발견은 아마도 빙산의 일각에 불과할 지 모른다. 그러나 컴퓨터 기술에 힘입어 20세기 과학이 거둔 실로 위대한 승리임에는 틀림없다.

혼돈의 발견으로 혼돈과학이 등장했다. 혼돈과학이 시작되는 곳에서 고전물리학은 종지부를 찍는다. 미국의 물리학자인 조셉 포드는 혼돈과학을 20세기 물리학의 세 번째 혁명이라고 목청을 높였다. 상대성이론과 양자역학처럼 고전 물리학의 결정론을 거부하고 있기 때문이다.
 

활발한 혼돈 이용

혼돈이론은 80년대부터 다양한 분야에 이용되어 괄목할만한 성과를 얻고 있다. 생리학의 경우, 뇌와 심장에서 혼돈현상이 발견되었다. 30년 이상 지각을 연구한 미국의 윌터 프리먼교수는 80년대 중반에 뇌에서 혼돈의 끌개를 발견하고, 지각을 가능하게 하는 뇌의 특성은 다름 아닌 혼돈이라고 제안했다. 그는 냄새에 반응하는 기관인 후구(嗅球)와 시각중추에서 수백만개의 신경세포가 보여주는 행동이 혼돈임을 발견해낸 것이다. 신경세포집단의 복잡한 활동은 무작위적으로 보이지만 그 이면에는 질서가 숨어있다는 것이다. 요컨대 뇌의 복잡한 구조로 말미암아 혼돈은 필연적인 부산물로 나타난다. 뇌의 활동이 혼돈이기 때문에 뇌가 외부세계에서 유연하게 반응하고, 새로운 아이디어를 내놓을 수 있다는 주장이다. 다른 학자들이 잇따라 신경계의 구성요소에서 혼돈을 발견함에 따라 프리먼교수의 주장은 더욱 설득력을 갖게 되었다.

80년대 초에 혼돈이론을 생리학에 적용하기 시작했을 때 혼돈이 질병이나 노화와 연관되었을 것으로 짐작되었다. 진실로 의학상식과 직관은 그렇게 생각할만한 충분한 근거가 있었다. 건강한 사람의 심장에 청진기를 대고 귀를 기울여보면 심장의 리듬은 규칙적인 것처럼 느껴진다. 따라서 심박(심장박동) 횟수의 규칙적인 변화는 건강과 젊음의 청신호로 간주되었다. 그러나 80년대 후반에 미국의 에어리 골드버거교수는 의학상식을 뒤엎는 이론을 발표했다. 그는 젊고 건강할 때 심장이 가장 불규칙적으로 움직이는 것을 알아낸 것이다. 심장에서 혼돈이 발생할수록 건강하며, 심박수가 규칙적일수록 질병에 걸릴 조짐이 높다는 이론이다. 그렇다고 해서 심장의 모든 질병이 규칙적인 리듬에서 비롯되는 것은 아니다. 예컨대 심장의 부정맥(不整脈)은 맥박수가 불규칙적일 때 사람들이 가슴이 두근거림을 호소하는 증상이다.

어쨌든 인체는 혼돈여구의 소재가 무궁무진한 실험실이다. 가까운 장래에 생리학의 혼돈연구가 질병과 노화로부터 연유되는 각종 기능장애의 원인을 밝혀내는 단서를 찾아내게 될 것으로 기대된다.

혼돈이론으로 제일 먼저 본격적인 돈벌이에 나선 사람은 미국의 제임스 도인파머와 노먼 팩커드이다. 쟁쟁한 혼돈과학자인 두 사람은 1991년에 프레딕션(Prediction)사를 만들었다. 주식시장이 비선형적이라는 데 착안하여 혼돈이론으로 주가변동을 예측하는 소프트웨어 개발에 착수했다. 예측소프트웨어가 성공리에 개발된다면 주가를 마음대로 조종하게 될지 모를 일이다. 그러나 창업동기는 매우 순수하다. 그동안 정부출연 연구소에 근무하면서 연구비를 따내기 위해 두툼한 서류뭉치를 작성하거나 고압적인 관료들을 설득하는 일에 기진맥진했던 그들로서는 돈의 굴레로부터 해방되는 일이 급선무였다. 훗날의 자유스러운 연구활동을 담보해줄 자금을 마련한답시고 기업경영에 뛰어든 그들은 처지가 남의 일 같지 않아보인다.

혼돈을 이용한 제품개발 역시 활발하다. 혼돈이 공학적으로 유용한 까닭은 혼돈이 비록 예측불가능하지만 결정론적이기 때문이다. 만일 두개의 동일한 혼돈계가 같은 신호로 구동된다고 가정하면, 아무도 어떤 출력이 나오게 될지 알 수는 없지만 동일한 출력이 어김없이 나올 것이라는 의미이다. 요컨대 두 개의 동일한 혼돈계가 동기화(同期化)될 수 있다. 1989년 미국의 루이스 페코라와 토마스 캐롤은 처음으로 혼돈신호에 의하여 동기화되는 한쌍의 동일한 비선형 전자회로를 만들었다. 이 전자회로는 보안이 요구되는 통신방식에 사용되고 있다. 혼돈에 의하여 정보가 암호화되므로 도중에 제3자가 도청을 하더라도 혼돈잡음만을 듣게 된다.
 

혼돈을 제어한다.

혼돈을 이용하는 연구 못지않게 혼돈을 제어하는 연구가 최근 몇년 사이에 결실을 맺기 시작했다. 과학기술자들은 예측이 불가능하거나 제어할 수 없는 것에는 애당초 관심을 가지려 들지 않는다. 혼돈은 이 두가지 모두에 해당되는 것으로 치부되었다. 그러나 혼돈제어의 가능성이 엿보임에 따라 연구가 활기를 띠기 시작한 것이다.

1989년 미국의 에드워드 오트, 셀소 그레보기, 제임스 요크 등 세명의 교수는 그들 이름의 첫자를 따서 OGY방법이라 불리는 혼돈제어 알고리즘을 내놓았다. 그들은 혼돈이 근본적으로 무수히 많은 불안정한 주기적 운동의 집합체라는 사실에 주목했다. 불안정한 주기운동에 적절한 교란을 가하면 혼돈을 원하는 주기운동으로 안정화시킬 수 있다고 본 것이다. 이 때 필요한 교란을 계산하는 알고리즘이 OGY방법이다. OGY방법은 말 안장 위에서 공기돌의 균형을 잡는 방법과 유사하다. 공기돌이 안장 위의 중심이 아닌 부위에 놓여있다면 굴러떨어질 것이다. 그러나 공기돌이 중심 근처에 있다면 안장을 적당한 방법으로 흔들어서 공기돌이 안장 중심에 가도록 할 수 있다. 1990년 미국의 윌리엄 디토와 마크 스파노는 OGY방법으로 혼돈을 제어하는 실험에 성공했다.

OGY방법은 여러 분야에서 혼돈제어에 사용되고 있다. 1991년 미국의 라자시 로이교수는 OGY방법으로 레이저의 불안정한 파동을 안정화시켜 레이저의 성능을 향상시켰다. 한편 디토와 스파노는 심장학자들과 함께 1991년에 OGY방법으로 토끼 심장의 불규칙적인 리듬을 제어하는데 성공했다. 혈액송출을 위해 심장수축을 일으키는 근육인 심근을 빠르고 불규칙적으로 수축되게 만들어서 일단 부정맥 증상이 나타나게 한 다음에, OGY방법에 의하여 발생된 전기신호로 심장을 자극하였는데 심박수가 규칙적으로 되면서 안정화되었다. 사람 심장의 혼돈제어 실험에 성공하면 가까운 장래에 혼돈을 응용한 심박조절 장치가 개발될 것으로 예상된다.

그 많은 나비들

인류는 마침내 혼돈을 단순히 이해하는 수준을 넘어서 혼돈을 정복하는 단계에 이르렀다. 혼돈은 한때 다스릴 수 없는 골치덩어리였지만 이제는 인간의 수중에 들어왔다. 혼돈제어 연구는 아직 5년이 안된 초창기이지만 희망적인 출발이라 아니할 수 없다.

미국의 혼돈제어 연구중에서 가장 흥미로운 분야는 난류이다. 예컨대 다랑어는 같은 크기와 성능을 가진 수중장치보다 훨씬 효율적으로 빨리 나아갈 수 있다. 다랑어 특유의 파동치는 듯한 몸짓때문이기도 하겠지만 물속에서 움직이는 물체가 일으키는 난류가 수중장치의 속도를 떨어뜨리는 것으로 보인다. 따라서 혼돈제어기술로 난류 발생을 감소시키면 수중장치의 성능을 향상시킴과 아울러 연료 소모량을 줄일 수 있을 것으로 전망된다.

이 대목에서 많은 사람들은 다양한 혼돈계가 제어될 수 있다면 날씨도 제어할 수 있지 않겠느냐는 질문을 하고 싶을 줄로 안다. 허리케인이나 태풍을 다스릴 수 있다면 인류를 자연의 횡포로부터 보호할 수 있을지 모른다. 그러나 유감스럽게도 기상계는 단순한 혼돈계와는 달리 변수가 너무 많아서 정확하게 모델을 만들 수 없다. 나비의 날갯짓처럼 아주 미세한 요인에 의하여 폭풍우같은 엄청난 일기변화가 유발되긴 하지만 나비의 날갯짓이 언제 어느 곳에서 기상계에 영향을 미치게 될지를 알아내는 것은 인간의 능력을 넘는 일이기 때문이다. 하물며 어느 누가 그렇게 많은 나비를 모조리 추적하는 일이 그 많은 시간과 땀을 쏟아붓겠는가.