카오스란 보통사람들이 이해하듯이 완전히 무질서한 혼란상태가 아니라, 무질서해보이는 비예측성 속에서 일정한 규칙성을 가진 운동을 일컫는 말이다.
물리학자 조셉 포드에 따르면 지금 넓은 영역에 걸쳐 과학의 혁명이 진행되고 있으며, 그 큰 갈래 중 하나가 이른바 자연의 복잡성(complexity) 연구라고 한다. 자연현상에서 흔히 관찰되는 불규칙성 및 복잡성은 오랜 노력에도 불구하고 잘 이해되지 않은 현상으로 남아 있었으나 최근 카오스 과학을 중심으로 한 넓은 분야에서 그 속에 숨어있는 규칙성 또는 질서를 찾아내고자 하는 노력이 활발해지고 있다.
카오스 과학은 현재 비선형동역학이론과 실험도구로서의 컴퓨터의 발전과 맞물려 폭발적으로 성장하고 있다. 또한 카오스 과학은 물리학 및 수학뿐만 아니라 생물학 화학 지질학 공학 생태학 사회학 경제학 과학철학 등 과학 및 사회 전반에 걸쳐 근본적인 사고의 변화를 초래하고, 매우 폭 넓은 영향력을 끼치는 혁명으로 여겨지고 있으며, 현재 그 공학적 산업적 응용이 매우 활발하게 연구되고 있다.
결정론적 세계관의 한계
인류는 태양계 등에서 관찰되는 규칙적 운동을 인지하기 시작하면서 점차 모든 자연현상을 예측할 수 있다는 생각을 갖게 된다. 이러한 견해는 뉴턴의 고전역학법칙들의 발견으로 뒷받침되었으며 라플라스의 결정론적 세계관을 낳게 했다.
이에 따르면 우주의 미래는 초기조건에 의하여 과거와 마찬가지로 결정되어 있고 완전히 예측가능하며 단지 확률의 도입은 관찰에서의 불완전성에서 기인한다고 한다. 그러나 양자역학에서의 하이젠베르크의 불확정성원리는 미시적 양자 세계에서의 근원적 비예측성(unpredictability)을 강조했으며 결정론적 세계관의 몰락을 가져왔다.
그러나 사실 비예측성은 우리 주위의 많은 거시적 자연현상들에서도 발견되는데 이러한 거시적 비예측성 현상들은 양자역학으로 설명할 수 없다. 한 예로 풍선에 잔뜩 바람을 불어넣고 그 주둥이를 놓으면 풍선은 한동안 전혀 예측할 수 없는 불규칙한 운동을 보인다. 또한 담배꽁초로 부터 흘러나온 연기가 규칙적으로 올라가다가 나선형으로 돌며 불규칙하게 깨진 후의 운동도 예측이 불가능하다(그림1).
그 외에도 깊은 산속 계곡물의 급류 흐름, 커피잔 속에서 크림이 뜨거운 커피와 격렬하게 섞이는 현상, 기상이 안 좋은 날 비행기의 고도가 갑자기 떨어지거나 비행기가 심하게 흔들릴 때의 기류 흐름, 스타디움형의 당구대 안에서 에너지손실이 거의 없는 당구공이 초기 타점방향에 매우 민감하게 운동하는 것에서도 비예측성이 발견된다.
비예측성을 보여주는 가장 간단하나 극단적인 예로는 동전던지기게임을 들 수 있다.이 경우 이전에 동전의 위 또는 아래가 나왔다는 것을 알고있다 하더라도 그 다음에 무엇이 나올지를 전혀 예측할 수 없다. 그러나 자연계에서 관찰되는 불규칙현상은 동전던지기와 같은 완전한 무작위성(randomness) 또는 완전한 비예측성(unpredictability)을 보이는 경우는 없다. 대부분 그속에 어떤형태로든 규칙성을 가지고 있다.
카오스는, 한마디로 정의하긴 어렵고 통일된 정의도 없지만, 흔히 겉으로는 불규칙 무질서해보이는 비예측성 신호 속에 일정한 규칙성을 가진 운동을 일컫는 말이다. 즉 카오스는 보통 사람들이 이해하고 있는 완전한 무질서 혼란상태와는 달리 그 이면에 잘 정의된 규칙성이 존재하며 이 규칙성은 뒤에 자세하게 언급될 '기이한 끌개'(strange attractor)라고 불리는 질서구조에 의하여 주어진다.
놀랍게도 카오스의 비예측성은 외부에서 주어진 잡음에 의해 생겨나는 것이 아니라 결정계(deterministic system, 즉 뉴턴의 운동방정식과 같이 계의 시간적변화를 기술하는 식이 주어지고 초기조건에 의해 미래가 완전히 결정지워지는 계)에서도 발견된다. 이러한 결정계에서의 비예측성(deterministic chaos)은 매우 모순된 개념처럼 보이나 후에 언급될 기이한 끌개상의 나비효과에 의하여 생겨난다. 또한 이 개념은 양자역학과는 상관이 없는 고전역학적 현상이며 거시적세계에서 결정론적 세계관과 확률론적 세계관을 연결시켜주는 가교역할을 할 수 있다.
이면의 질서 지배하는 기이한 끌개
카오스 이면의 질서구조는 1963년 MIT의 기상학자 로렌츠(Lorenz)에 의해 처음 발견되었다. 그는 대류에 의한 기상현상을 이해하기 위하여 불위에 올려놓은 냄비안의 물과 같은 간단한 대류모델을 컴퓨터로 연구하였다. 불이 약할 때 물의 흐름은 스스로 동적 평형상태인 원통모양의 질서구조를 만들어내고 이 원통을 따라 규칙적 주기운동을 하게된다. 그러나 불이 세지면 이 원통형 질서구조가 지렁이처럼 주기적으로 꿈틀꿈틀 움직이기 시작하고 불이 더욱 세지면 원통구조가 완전히 깨지며 새로운 주기성이 없고, 불규칙해 보이는 대류운동이 나타나는 것이 관찰되었다.
이 외관상 불규칙해 보이는 신호를 위상공간(phase space) 또는 상태공간(state space)－이 공간상의 한 점은 그 시각 계의 상태를 나타냄－에서 기하학적인 궤적으로 다시 그려 보았더니 그 이면에 나비 날개 모양의 로렌츠끌개(Lorenz atrractor)라고 불리는 기이한 끌개의 규칙적 구조가 숨어 있다는 것이 발견됐다(그림2). 이 구조는 작은 섭동에도 사라지지 않는 매우 안정된 구조이며 계의 궁극적 운동은 이 끌개에 의하여 지배받는다는 것이 밝혀졌다.
카오스는 계의 운동이 로렌츠끌개의 한쪽 날개상을 돌다가 불규칙적으로 다른쪽 날개로 넘어가는 것을 반복하는 형태로 나타난다. 이 별난 끌개는 무한히 많은 층으로 이루어졌으나 자기유사성(self-similarity)을 지닌, 매우 기묘한 기하학적 구조(프랙탈구조라 불림)를 가지고 있으며 이 위에서 카오스운동이 일어나게 된다.
이러한 점에서 동적운동으로서의 카오스를 이해하기 위하여 공간적 기하학적 구조인 프랙탈의 연구가 불가피하게 된다. 끌개의 프랙탈구조와 그 위의 카오스운동은 마치 밀가루반죽과 같이 상태공간을 늘리고 접는 과정의 무한한 반복에 의하여 만들어진다(그림3).
이 끊임없는 팽창과 접힘과정에 의해 초기의 미세한 차이가 크게 증폭되는 현상(예를 들어 처음에 분자거리만큼 떨어진 밀가루 알갱이가 1백번만 늘리고 접으면 우주의 양끝보다 멀어짐)을 초기조건에 대한 민감한 의존성이라고 한다. 즉 북경에서의 나비 한마리의 날개짓의 팔랑거림이 계속 증폭되어 오랜 시간이 지난 후 지구 반대쪽 뉴욕에서 폭풍우를 불러올 수 있다는 것이다. 이를 나비효과(butterfly effect)라고 부른다.
나비효과는 기상모델에서의 비예측성을 낳게 되며 장기예보가 근본적으로 불가능하다는 것을 가르쳐준다. 최근 컴퓨터를 통하여 로렌츠의 기상모델뿐만 아니라 다양한 자연현상에서 여러가지 기묘한 기하학적 구조의 기이한 끌개들이 발견되었다. 이들의 이해가 카오스연구의 관건이 되어 왔다.
시계추에도 카오스가
카오스를 보이기 위하여 반드시 무한히 많은 자유도를 가진 매우 복잡한 계가 있어야만 하는 것은 아니다. 놀랍게도 결정론적 카오스는 시계추의 운동 등 아주 간단한 계(즉 운동방정식이 뉴턴법칙에 의하여 간단한 2차 상미분방정식으로 주어짐)에서도 관찰된다. 시계추는 규칙적 단진자운동을 보이는 아주 간단한 계로, 갈릴레이에 의해 처음 관측됐다. 이 주기의 규칙성은 시간측정의 원리로 쓰일 정도다.
이 운동의 상태는 주어진 시각에서의 추의 위치(연직선으로부터 측정된 각)와 속도(각속도)로 주어지며 x축을 위치로 하고 y축을 속도로 하는 2차원 위상공간상의 한점에 의하여 주어진다. 이 운동의 시간적 변화는 위상공간상의 초기점에서 출발한 점의 이동 궤적(궤도라고 부름)의 기하학적모양에 의하여 표현된다(그림4). 즉 시계추가 주기적 규칙운동을 하는 경우 초기조건에 따라 다른 반경을 가지는 위상공간상의 동심원들로 주어진다. 그러나 이 시계추가 마찰 등에 의하여 에너지가 줄어드는 경우에는 초기에 나선형의 궤적을 따라 원점으로 흘러가다 궁극적으로는 원점 한점에 머무르게 된다.
이 때 초기조건을 다양하게 주어도 똑같은 정지점으로 흘러가므로 이 점이 계의 궁극적 운동을 결정하게 된다. 이렇게 주위의 점들에서 시작한 궤적을 모두 끌어당기는 것을 끌개(attractor)라고 부르며 정지점의 경우는 점 끌개(point attractor)라고 부른다. 점보다 더 높은 차원의 끌개도 존재하며 이 경우 주기운동 또는 준주기운동과 관련지워진다. 즉 시계추를 주기적으로 약한 힘으로 흔들어 주면 시계추의 운동은 점이 아닌 한계순환(limit cycle)이라고 부르는 닫힌 곡선모양의 끌개로 흘러들어가서 주기적 운동을 보인다. 또는 토러스끌개(torus attractor)라고 불리는 도넛 모양의 끌개로 흘러들어가서 주기성은 없지만, 그래도 규칙적인 준주기성운동을 보일 수도 있다. 그러나 주기적 힘의 세기가 충분히 커지거나 마찰이 약해지면 추의 궤도가 기이한 끌개로 흘러들어가서 비예측성 불규칙운동을 보이는 것이 관찰된다(그림5).
카오스를 보이는 간단한 계의 다른 예로서 세개의 물체가 만유인력하에서 운동하는 삼체(three body)문제를 들 수 있다. 운동방정식이 뉴턴의 법칙에 의해 간단한 2차 상미분방정식으로 주어져 쉽게 풀리는 이체문제와는 달리, 삼체문제는 간단해 보이면서도 본질적으로 너무나 어렵다.
후에 이 삼체운동의 이면에는 호모클리닉 카오스(homoclinic chaos)라고 불리는 복잡한 카오스의 계층적 질서구조가 자리한다는 것이 밝혀졌다. 이 구조의 극히 일부만이 컴퓨터의 도움을 받아 그려질 수 있다(그림 6).
이러한 카오스의 구조는 태양계의 여러 삼체문제들, 예를 들어 화성과 목성 사이의 소행성군의 운동, 토성띠의 카시니 간극 등의 이면에도 자리잡고 있다는 것이 밝혀졌다. 또한 태양계의 몇몇 행성들의 공전주기들이 거의 공명관계를 이룬다는 것이 천체관측에 의해 밝혀졌는데, 이 공명의 이면에는 카오스가 자리하고 있을 수도 있다. 이 행성들의 궤도에 대한 누적된 영향을 계산하는 것은 매우 어려운 문제지만, 우리가 살고 있는 태양계가 과연 안정할까에 대한 힌트를 제시해주리라 기대된다.
생체현상 대부분도 카오스
카오스는 수도꼭지를 꼭 잠그지 않았을 때 꼭지로부터 떨어지는 물방울의 리듬이 유속에 따라 규칙성에서 불규칙성운동으로 전이해가는 현상에서도 관찰된다. 이 리듬은 너무 빨라 귀로 들을 수는 없으나 마이크로폰을 이용한 간단한 실험장치를 통해 기록할 수 있다.
또한 카오스는 비선형소자를 쓴 간단한 전기회로계에서도 관찰될 수 있는데, 저항 축전지 그리고 다이오드 등 적절한 전기 전자소자 몇개로 이루어진 전기회로계에서 오실로스코프를 통하여 카오스로의 전이를 관찰할 수 있다.
매우 흥미롭게도 카오스는 신경소자, 심장의 박동 및 뇌파의 불규칙적 리듬 등 생체시스템에서도 흔히 관찰된다. 정밀한 실험과 이론적 계산을 통하여 오징어의 거시적 신경소자에서의 세포막 전압 변화가 카오스를 보인다는 것이 확인되었다. 인간의 뇌 및 공학적 신경회로망모델의 기본소자가 신경소자로 주어지므로 카오스가 지적연산과 관련지워 어떠한 역할을 하는가를 밝혀내는 것은 생물학적 공학적인 면에서 매우 중요한 일이라고 하겠다.
그 외에도 카오스현상은 강한 비선형성을 지닌 시스템인 레이저 및 플라즈마의 불안정성, 조셉슨접합과 같은 초전도소자계의 전류특성에서의 요동, 전기 회로에서의 기이한 1／F잡음, 화학반응로안에서의 반응물질의 시간적 농도변화의 불규칙성, 먹이와 천적간의 먹이사슬 모델에서의 인구변화패턴, 주가동향, 지구 자극의 급격한 변동, 지각에서의 마그마의 격렬한 섞임 등에서도 관찰된다고 알려져 있다.
카오스의 기본적 필요조건은 비선형성이다. 비선형계의 경우 계의 출력이 입력에 비례하는 선형계와 달리 입력의 변화에 따른 출력의 예측이 힘들게 된다. 보통 선형방정식은 해가 존재하고 풀기가 쉬우며 많은 경우 과학적 계산이 선형근사에서 끝나고 만다. 그러나 일반적으로 비선형 운동방정식은 간단하더라도 해석적 해를 구하기 어렵고 해석적 방법들도 부족하여, 기하학－정성적 접근 등 새로운 방법을 개발하는 것이 필요하다. 이와함께 컴퓨터를 복잡성의 시각화도구 및 실험도구로 쓰는 것이 중요하다.
시계추와 삼체운동의 예들이 보여주듯이 간단한 계가 반드시 직관적으로 이해할 수 있는 간단한 예측가능한 운동만을 보여주는 것이 아니며, 비예측성을 지닐 수 있다. 반면 앞서 언급한 물의 대류모델과 같이 수많은 물분자들이 비선형상호작용을 하는 아주 복잡한 시스템에서도 스스로 질서구조가 만들어질 수도 있다.
많은 자연계가 질서적이면서도 카오스적인 모습을 동시에 보여준다. 춤추는 불꽃, 부서지는 파도, 하늘에 떠다니는 무수한 구름들 등 외관상 불규칙해 보이는듯 하면서 어떤 규칙성을 가진 다양한 모습으로 나타난다. 에너지 소진이 없는 해밀터니언계*는 초기조건에 따라 질서 또한 카오스가 나타날 수 있으며 이 구조는 풀릴 수 없게 엮여져 있다.
카오스의 흥미로운 교훈은 우리가 흔히 생각하듯 질서와 카오스와의 관계가 칼로 무 자르듯 완전히 구분되지 않으며, 사실 거울 양쪽의 실상과 허상처럼 분리될 수 없는 아주 미묘한 관계를 가진다는 것이다. 카오스의 미스터리는 바로 여기에 있다. 카오스의 중요한 과제는 이러한 질서와 카오스의 계층구조를 밝혀내는 것이며 카오스이론은 카오스에서 질서로, 질서에서 카오스로의 변환을 이해하는 데 도와줄 것이다.
카오스는 본래 그 불규칙성 운동의 제어가 어려워 지금까지 많은 공학자들이 경외해온 대상이지만, 카오스에 내재하는 질서구조가 밝혀짐에 따라 여러 공학분야에서 이를 이용하여 카오스를 부분적으로 예측 제어하고, 이를 통해 첨단기능을 구현하는 방향으로 연구가 활발하게 되고 있다.
카오스의 응용이 어디까지 흘러가게 될지는 카오스의 리듬처럼 정확히 예측하기는 힘들지만, 록펠러대학 교수이자 뉴욕학술원 이사인 하인스 페이겔스는 그 중요성에 대해 "이 복잡성의 과학(카오스이론 포함)의 도전을 받아들여 이를 지배해서 그 지식을 새로운 산물에 적용할 수 있고 새로운 사회조직을 형성할 수 있는 사회가 다음 세기의 문화 경제적 그리고 군사적 초강대국이 될 것"이라고 한다.
카오스 과학에서는 이미 알려진 법칙에 따라 움직이는 비선형소자들 간의 결합과 이들이 상호작용해 어떻게 새로운 거시적 패턴을 만들어내는가를 이해하는 것이 중요하다. 이러한 연구는 생체계의 여러현상, 예를 들면 간단한 신경소자가 모여 뇌의 지적활동을 만들어내는 것을 이해하는데 도움을 줄 것이다. 카오스신경회로망계를 포함하여 생체와 관련된 비선형결합계의 연구는 21세기로 이어지는 장기적인 과제가 될 것이다.
또한 카오스는 계가 확률에 의해서가 아니라 결정론적 프로그램에 따라 가능한 모든 동역학을 무작위로 탐구해볼 수 있도록 도와준다. 이미 자연은 카오스의 통제된 무작위성을 오랫동안 이용해왔는 지도 모른다. 카오스는 다양성과 함께 제어 가능성을 동시에 가지고 있는,매우 효율적인 자연의 메커니즘이다. 앞으로 생체 및 자연의 동적 평형 현상을 이해하는 데 중요한 역할을 할 것으로 기대된다.
*해밀터니언계
동력학을 일반화시켜 재정립한 해밀턴(1805~1865)은 동력학계의 상태를 위치와 운동량(질량×속도) 좌표로 나타냈다. 해밀터니언계는 동력학에서 전체 에너지를 정의하는데 매우 유효하게 사용되고 있다.
