d라이브러리

상호작용을 이루는 세계에서 작은 변화는 큰 차이를 만들어낼 수 있다. 단순한 질서와 완전한 혼돈 사이에 놓여있는 복잡성의 메카니즘을 이해하면 미래가 보인다.

수도 꼭지를 처음 열 때 나오는 둥근 모양의 층류는 규칙적이며 예측가능한 행동을 나타내지만 수도 꼭지를 좀 더 열 때 물줄기가 가닥을 이루며 발생하는 난류는 불규칙적이며 예측하기 어려운 행동을 보여준다.

혼돈과 복잡성의 세계

층류는 작은 입력으로 균등하게 작은 효과를 거둘 수 있는 선형적 행동을 보여준 반면에 난류는 작은 입력으로 막대한 효과를 유발시킬 수 있는 비선형적 행동을 나타낸 것이다.

비선형적 특성을 보여주는 대표적인 예는 혼돈(chaos)이다. 카오스는 날씨의 나비효과처럼 ‘초기조건에 민감한 의존성을 가진 시간 전개’라고 정의된다. 혼돈은 대기의 무질서, 하천의 급류, 사람의 심장에서 나타나는 불규칙적인 리듬, 주식가격의 난데없는 폭락과 같이 우리 주변에서 불시에 나타난다.

혼돈은 오랫동안 우리 곁에 존재했다. 그러나 지난 3세기 동안 서양과학의 사고방식을 지배한 고전물리학의 결정론에서는 혼돈과 같은 우연을 공들여 설명할 필요가 없었기 때문에 혼돈이 학문적으로 연구된 것은 1960년대부터이다.

요컨대 혼돈은 이해받게 될 날이 오기를 기다리면서 고전물리학의 결정론적인 자연법칙에 숨어 있었을 따름이다. 1963년 미국 기상학자인 에드워드 로렌츠(1917- )가 나비효과를 처음 발견했을 때 컴퓨터 화면에는 일정한 모양새를 가진 그림이 나타났다. 혼돈(불규칙성) 속에 모양(규칙성)이 숨어 있었던 것이다. 이른바 ‘규칙적인 불규칙성’(regular irregularity)의 발견으로 혼돈과학이 출현했다.

비선형적 행동을 나타내는 자연 및 사회현상의 광대한 영역에 비추어 볼 때 혼돈의 발견은 빙산의 일각에 불과할지 모른다. 비선형계에는 혼돈 대신에 질서를 형성하는 복잡성(complexity)의 세계가 존재하기 때문이다. 복잡성은 단순한 질서와 완전한 혼돈 사이에 있는 상태를 말한다. 인간의 뇌나 생태계 같은 자연현상과 주식시장이나 세계경제 같은 사회현상은 결코 완전히 고정된 침체상태나 완전히 무질서한 혼돈상태에 빠지지 않고 혼돈과 질서가 균형을 이루는 경계면에서 항상 새로운 질서를 형성하고 유지한다.
 

프리고진의 무산구조

복잡성에 도전하여 학문적 성과를 거둔 대표적 인물은 벨기에의 화학자인 일리야 프리고진(1917- )이다. 그는 1977년 비평형 열역학의 비선형 과정에 대한 연구업적으로 노벨상을 받았다. 열역학에서 비평형 상태의 계는 외부로부터 유입되는 에너지의 양에 따라 평형에 가깝거나 또는 평형에서 먼 상태가 된다. 계에 작용하는 열역학적 힘이 선형적이면 평형에 가까운 상태가 되고, 비선형적이면 평형에서 멀리 떨어진 상태가 된다.

프리고진은 열역학적으로 평형에서 먼 상태에 있는 계에서 질서가 갑자기 자연발생적으로 나타나는 현상의 기초가 되는 것은 비선형성이라는 결론을 얻고 ‘요동을 통한 질서’(order through fluctuation)라고 명명된 이론을 발표했다. 비평형 상태의 계는 불안정하므로 끊임없이 요동한다. 작은 요동은 비선형과정에 의해 거대한 요동으로 증폭된다.

요동이 증폭되는 것은 바로되먹임(positive feedback)의 결과이다. 증폭된 요동이 격심해지면 종래의 구조는 파괴되지만 자기조직화(self-organization)과정을 통해 혼돈으로부터 새로운 질서가 자발적으로 출현한다. 프리고진은 이와 같이 미시적 요동이 평형계나 평형에 가까운 계에서 안정된 행동을 보이는 것과는 달리 평형에서 먼 계에서 새로운 거시적 질서를 만들어내는 것을 발견하고, 요동을 통한 질서이론을 발표한 것이다. 그리고 비평형 상태에 있는 계에서 비선형 과정에 의해 자발적으로 형성되는 구조를 무산구조(dissipative structure)라고 명명했다.

무산구조는 함축적인 의미를 지닌 명칭이다. 무산과 구조는 양립될 수 없는 뜻을 갖고 있기 때문이다. 생물이나 사회처럼 열린 계는 생존을 위해 밖으로부터 에너지를 받아들이고 엔트로피를 생산하여 주위환경으로 무산시킨다. 요컨대 열린 계는 에너지를 소모(무산)하여 자기의 질서(구조)를 지킨다. 엔트로피가 단순히 무질서를 향하는 것이 아니라 적어도 비평형 조건에서는 엔트로피 그 자체가 질서의 씨앗이 된다는 의미이다.

프리고진이 무산구조를 보여주기 위해 제시하는 자기조직화의 사례는 유체역학, 아메바의 활동, 무기화학 작용, 그리고 생물학에 이르기까지 그 종류가 다양하다. 특히 생명의 본질을 무산구조로 설명함에 따라 찬반논쟁이 일어났으며 프리고진은 일개 과학자가 아니라 사상가로 주목을 받기에 이르렀다. 그가 펴낸 ‘혼돈으로부터의 질서’(1984)와 ‘확실성의 종말’(1996)에는 결정론적 세계관에 대한 비판과 아울러 우연을 근거로 하는 확률론적 입장에서 자연을 이해하는 패러다임이 제시되어 있다. 프리고진의 표현을 빌리면, “이제 우리는 전환기를 맞이하고 있다. 더 이상 과학이 확실성을 의미할 필요도 없고, 확률이 무지를 뜻하지도 않는 새로운 합리주의가 출현하고 있다.”

산타페에 모인 사람들

사람의 뇌나 증권거래소처럼 복잡성을 지닌 계의 행동은 인간의 능력으로 파악이 불가능한 수 많은 변수에 의해 결정된다. 컴퓨터가 등장할 때까지 비선형계의 연구가 지지부진했던 이유이다. 컴퓨터를 사용하여 복잡성을 지닌 계로부터 골라낸 수천가지의 변수로부터 과학자들은 하나의 획기적인 사실을 발견했다. 단순한 구성요소가 수많은 방식으로 상호작용하기 때문에 복잡성이 발생한다는 사실이 확인된 것이다.
복잡성은 단순성이 그 기초를 이루고 있다는 뜻이다. 예컨대 뇌는 수백억 개의 신경세포가 연결되어 있고 증권거래소는 수많은 투자자들로 들끓고 있다. 이러한 복잡한 계는 환경의 변화에 수동적으로 반응하지 않고 구성요소를 재조직하면서 능동적으로 적응한다. 따라서 복잡적응계(complex adaptive system)라 일컫는다.

복잡적응계는 산타페 연구소(SFI)의 상징이다. 1984년 미국 뉴 멕시코주의 산타페에 설립된 이 연구소는 복잡성 과학의 메카이다. SFI의 목표는 복잡적응계에서 자발적으로 질서가 형성되는 자기조직화의 원리를 밝히는 데 있다. 복잡적응계는 자기조직화 능력을 갖고 있으므로 단순한 구성요소가 상호간에 끊임없는 적응과 경쟁을 통해 보다 높은 수준의 복잡한 구조를 형성할 수 있다. 예컨대 단백질 분자는 생명체를, 기업이나 소비자는 국가 경제를 형성한다.

여기서 반드시 유의해야 할 대목은 구성요소가 개별적으로 갖지 못한 특성이나 행동을 복잡적응계가 보여준다는 것이다. 가령 단백질은 살아 있지 않지만 그들의 집합체인 생물은 살아 있다. 이와 같이 구성요소를 함께 모아놓은 전체 구조에서 솟아나는 새로운 행동을 창발적(emergent)행동이라 한다. 창발성은 복잡성 과학의 기본 주제이다.

복잡성 과학을 모든 과학자가 인정하는 것은 아니다. 일부에서는 복잡성이라는 말 자체를 부정하면서 연구자금을 끌어들이기 위해 사용되는 유행어라고 격하시키고 있으며 모든 현상을 아우르는 자기 조직화 이론을 찾는 일은 끝내 도로에 그칠 것으로 보고 있다. 물론 복잡성 과학의 장래가 반드시 낙관적인 것만은 아니다. 그러나 한가지 분명한 사실은 자연을 해석하는 새로운 틀을 제공하고 있다는 것이다. 지난 3세기 동안 서양과학은 환원주의에 의존했다. 결정론적인 선형계는 간단한 구성요소로 나누어 이해하면 그것들을 조합하여 전체를 이해할 수 있기 때문이다. 그러나 복잡적응계와 같은 비선형계는 전체가 그 부분들을 합쳐놓은 것보다 항상 크므로 분석적인 틀로는 도저히 이해할 수 없다. 대부분의 자연 및 사회현상은 성질상 종합적이고 전일적이다. 따라서 복잡성 과학의 등장으로 사물을 하나의 통합된 전체로 이해하는 전일주의가 부상하게 되었다.

복잡성 과학은 학제간의 공동 연구이므로 SFI에는 물리학, 생물학, 경제학, 컴퓨터과학의 기라성 같은 인물들이 둥지를 펴고 있다. 노벨상을 받은 원로들인 물리학의 머레이 겔만(1969)과 필립 앤더슨(1977), 경제학의 케네스 애로우(1972)를 비롯해서 스튜어트 카우프만, 크리스토퍼 랭톤, 윌리엄 브라이언 아더 등의 소장학자들이 맹활약을 하고 있다.
 

생명의 질서를 찾아서

SFI에서 가장 활발한 이론가는 카우프만이다. 그는 개체발생에 각별한 관심을 가졌다. 하나의 수정란이 성체가 되기까지에는 세포분열과정이 무수히 거듭된다. 초기에는 모든 세포가 동일하지만 분열이 진행되면서 눈이나 간장 따위의 기관을 구성하는 세포로 분화된다. 다시 말해서 모든 세포는 거의 동일한 유전정보를 갖고 있음에도 불구하고 세포의 형태는 각양각색이다. 세포가 그 역할에 합당한 구조와 기능을 갖도록 변화해가는 세포분화는 생물학이 오랫동안 풀지 못한 수수께끼였다.

세포분화를 체계적으로 설명한 학자는 프랑스의 자크 모노이다. 모노에 따르면, 세포의 형태가 서로 다르게 분화되는 까닭은 유전자의 활동 패턴이 서로 다르게 조절되기 때문이다. 그러나 카우프만에게는 모노의 이론이 새로운 궁금증을 갖게 했다. 사람의 게놈은 약 10만개의 유전자로 구성된다. 이처럼 복잡하고 거대한 게놈의 조절체계에서 유전자의 활동이 제어되는 과정에 대해 의문을 갖게 된 것이다. 이 의문을 풀기 위해 카우프만은 게놈의 조절체계를 비선형계로 상정하고 반혼돈(antichaos)이라는 수학적 개념을 창안했다. 비선형계가, 무질서에서 자발적으로 질서가 형성되는 반혼돈 특성을 갖고 있다는 아이디어이다. 이러한 질서는 자연발생적으로 존재하는 질서라는 의미에서 부존질서(order for free)라고 명명했다. 부존질서는 자기조직화의 산물에 다름아니다.

카우프만은 그의 저서인 ‘질서의 기원’(1993)과 ‘우주의 안식처에서’(1995)에서 생물체의 진화는 자연도태와 자기조직화의 결합으로 이해되어야 한다는 독창적인 이론을 개진했다. 생물체가 갖고 있는 질서는 오로지 자연도태의 결과라고 믿고 있는 생물학의 통념에 도전한 것이다. 말하자면 카우프만은 생물체가 우연의 산물임과 동시에 질서의 산물이라는 주장을 한 셈이다.

랭톤은 1980년대 중반까지 과학기술계에 전혀 알려지지 않은 컴퓨터 과학자였다. 인공생명(artificial life)이란 용어를 만들어서 1987년 이 학문의 탄생을 공식적으로 천명한 세미나를 주관하면서부터 일약 화제의 인물이 되었다. 인공생명은 ‘생명체의 특성을 나타내는 행동을 보여주는 인공물의 연구’라고 정의된다. 생물학에서는 생물체를 하나의 생화학적 기계로 보지만 인공생명에서는 생명을 구성물질 자체의 특성으로 보지 않고, 그 물질을 적절한 방식으로 조직했을 때 구성요소의 상호작용에 의해 복잡한 집합체로부터 출현하는 창발적 행동으로 간주한다. 랭톤은 구성요소가 완전히 고정되거나 완전히 무질서한 행동을 할 경우에는 무생물의 집단에서 생명이 솟아날 수 없다고 생각했다.

질서와 혼돈 사이에 완벽한 평형이 이루어지는 영역에서 생명의 복합성이 비롯된다는 것이다. 이와 같이 혼돈과 질서를 분리시키는 극도로 얇은 경계선을 ‘혼돈의 가장자리’(edge of chaos)라고 한다. 요컨대 생명은 혼돈의 가장자리에서 출현하는 것이다. 생명은 혼돈의 가장자리에서, 한 쪽으로는 너무 많은 질서, 다른 한 쪽으로는 너무 많은 혼돈 속으로 언제든지 빠져들 위험을 간직한 채 평형을 지키려는 유기체의 특성이라 할 수 있다. 인공생명의 핵심개념은 창발적 행동이다. 구성요소의 상호작용이 생명체의 행동을 보여줄 수 있도록 구성요소를 조직한다면 인공생명의 합성이 가능하다는 의미이다. 컴퓨터를 사용하여 생물처럼 자기를 복제하거나 진화하는 제품이 개발되고 있다. 가령 컴퓨터 바이러스는 자기증식 기능을 가진 원시적인 인공생명이다. 유전 알고리즘은 생물의 자연도태를 본뜬 소프트웨어이다. 동물행동학을 로봇공학에 접목시킨 곤충로봇은 곤충의 창발적 행동을 응용한 걸작품이다.
 

새로운 경제학 수익체증

아더는 경제를 자기조직하는 계로 규정한 프리고진의 글을 읽은 것이 계기가 되어 수익체증(increasing return)이 새로운 경제학의 기초가 될 수 있다고 확신했다. 신고전파 경제학의 수익체감과 맞서는 개념이다. 수익체감은 두번째 과자가 첫번째만큼 맛이 없다거나, 비료를 두 배 사용한다고 해서 수확이 두 배가되는 것은 아니라는 뜻이다. 수익체감은 작은 효과가 사라지기 쉽다는 뜻이 되므로 거꾸로되먹임(negative feedback)에 비유될 수 있다. 말하자면 거꾸로되먹임의 조절기능에 의해 수요와 공급의 균형이 유지되고, 어떤 회사도 시장을 독점할 만큼 성장하지 못하며, 경제는 항상 완전한 평형상태에 놓여 있는 것이다. 그러나 아더는 경제를 불안정하고 예측 불가능하며 수익체증의 원리가 적용되는 복잡적응계로 보아야 한다고 주장했다. 수익체증이란 바로되먹임처럼 시장에서 한 번 앞서면 더욱 앞서 나가게 되고 우위를 한 번 빼앗기면 더욱 악화되는 경향을 의미한다.

신고전파 이론에 따르면 가장 우수하고 효율적인 기술이 자유시장에서 항상 선택된다. 그러나 1970년대의 비디오 테이프 방식 싸움은 반드시 그렇지 않음을 보여주었다. 베타방식보다 기술이 약간 모자란 VHS방식이 승리했기 때문이다. 경쟁자가 시장에 뿌리를 내리기 전에 약간 앞선 시장점유율의 우세를 신속히 키워나간 덕분에 VHS가 시장을 석권할 수 있었다는 것이다. 아더는 초기의 작은 차이가 사라지지 않고 바로되먹임에 의해 급속도로 증폭된 결과라고 풀이했다.

아더는 수익체증 이론이 수익체감의 존재를 부인하는 것은 아니라고 강조한다. 두 현상은 병존하며 보완적이다. 수익체감은 곡물, 중화학, 식품류처럼 안정되고 변화가 느린 대량생산 세계를 지배하는 반면에 수익체증은 소프트웨어 등 승자가 거의 모든 것을 거머쥐는 정보산업에서 나타난다.

아더는 수익체증의 영역에서 경쟁 양식이 도박, 특히 카지노와 유사하다고 보고 '기술의 카지노'(casino of technology)에 비유한다. 카지노는 포커와는 달리 어느 게임을 할 것인지를 선택하는 것이 무엇보다 중요하고, 게임이 시작되면서 비로소 누가 노름에 참여하고 규칙이 무엇인지를 알게 되는 도박이다. 따라서 기술이라는 카지노의 탁자에서 승리의 월계관은 다음 게임이 어떤 것인지를 예견하는 카지노 도박꾼처럼 새로운 기술이 안개 속에서 가물거릴 때 남보다 먼저 시장에 뛰어드는 용기와 결단력을 가진 사람에게 돌아간다. 이런 맥락에서 마이크로소프트가 세계 소프트웨어 시장을 석권하고, 일본이 첨단제품 시장에서 미국을 곧잘 궁지에 몰아넣는 이유가 설명된다.