위대한 수학자 멘델브로트는 말한다. "자가 다르면 길이도 달라진다."

지금으로부터 불과 십여년 전, 수학사(史)에 있어서 획기적인 이론이 탄생했다. 자연과학 뿐만아니라 사회과학이나 인문과학, 심지어는 예술의 세계까지 크게 흔들어 놓은 새롭고도 기본적인 개념이 등장한 것이다. 그것이 곧 프랙탈(Fractal) 이론이다.
이 이론에 관한 연구가 깊어질수록 그 사고방식이 혁명적이라는 데에 필자는 몇번이나 놀라지 않을 수 없었다. 단순한 개념의 면에서가 아니라 기본적인 철학의 면에서 그러했다.

프랙탈 3세의 고민

그 내용을 간단히 설명하기 위해 하나의 가상의 섬을 설정해 본다. 이 섬의 이름을 '프랙탈'이라 하자. 섬의 둘레는 큰 바위들의 도출과 함께 해안선이 복잡하게 얽혀있는 아름다운 경관을 이루고 있다.

이 섬의 철인왕(哲人王) 프랙탈3세는 세종대왕처럼 해안선의 길이를 정확하게 측정하여 국방계획을 세우려고 한다. 그리하여 프랙탈3세는 "되도록 조속한 시일내에 우리 섬의 해안선의 길이를 측정하라. 적당한 간격으로 병사를 배치해야 하는데 병사가 얼마나 필요한가 알아야 한다"라는 명령을 친위대장인 거인 돌쇠, 몸이 작은 시종인 차돌, 지혜가 높기로 이름난 칠성에게 내렸다.

이들 믿음직스러운 세 신하는 분부를 받은 즉시 행동을 개시했다. 돌쇠의 키는 10m이고 걸을 때의 보폭은 5m이다. 그에게 있어 섬의 둘레를 도는 일은 식은 죽 먹기다. 한편 작은 시종 차돌은 섬에서 가장 민첩하고 빠르다. 무엇보다도 그는 꼼꼼하여 숫자에 관한 것이라면 정확하기로 이름이 높다. 그의 보폭은 0.25m이다. 두사람은 부지런히 섬의 둘레를 걸으면서 각자 자신의 보폭을 기준으로 일보 이보 삼보 하고 세었다.
그런데 지혜높은 칠성은 가만히 의자에 앉아서 무언가 깊은 사색에 잠겨있기만 했다.

먼저 거인 돌쇠가 프랙탈3세에게 보고 했다. "대왕이시여, 소인은 세번이나 섬의 둘레를 걸으며 측정, 그 평균치로 1천보를 얻었음을 아뢰옵니다." 그의 계산결과에 의하면 1보의 길이가 5m 이니만큼 해안선의 길이는 5㎞가 되는 것이다.
그러자 작은 시종인 차돌도 몸을 흔들며 숨차게 달려와서 보고했다. "대왕이시여, 드디어 소인은 이 섬의 해안선의 길이를 정확히 측정했사옵니다." 그의 측정결과는 6만보였다. 그의 한 보폭은 0.25m이므로 해안선의 길이는 15㎞라는 것이다.

프랙탈3세는 돌쇠의 5㎞와 차돌의 15㎞라는 측정결과를 앞에 놓고 고민하지 않을 수 없었다. 두 신하는 모두 자신의 직무에 충실하며 인간성의 됨됨이도 성실하다. 또한 수학은 정확한 것이고 절대진리라고 믿고있기에 두 신하의 측정결과를 두고 프랙탈3세는 고민할 수밖에 없다.
그리하여 프랙탈3세는 지혜높은 칠성을 가만히 쳐다보았다. 놀랍게도 칠성의 대답은 "대왕이시여, 친위대장 돌쇠와 시종 차돌의 측정결과는 둘다 정확한 것입니다'라는 것이다. 과연 칠성은 왜 그런 대답을 했을까? 보폭의 차이 때무네 5㎞도 15㎞도 될 수 있는 사실을 어떻게 설명해야 할까?

상대적인 관찰이 요구된다

그 소박한 문제를 진지하게 생각한 수학자가 멘델브로트(B. Mandelbrot)이다. 그는 위대한 과학적 성과의 근본적 사색은 반드시 소박한 문제로부터 출발한다고 전제했다.

멘델브로트는 '브리톤(Briton)섬의 해안선의 길이는 얼마인가?'라는 제목으로 논문을 발표했다. 그때가 1967년이었다. 처음에는 그 논문에 아무도 관심을 보이지 않았다. 그러나 그후 이 논문은 '프랙탈이론' 형성의 시초가 되었던 것이다. 이 논문을 간단히 요약하면 '자(尺)가 다르면 길이도 달라진다'이다.

가령 리아스식으로 이름높은 한반도 남해안의 해안선의 길이를 생각해보자. 역시 이 이론을 적용시킬 수 있다. 자에 따라서 한반도의 해안선의 길이를 얼마든지 늘이고 줄일 수가 있는 것이다.

다시 '프랙탈섬' 이야기로 되돌아가 칠성이가 한 말을 생각해보자. "친위대장 돌쇠와 시종 차돌의 측정결과는 둘다 정확한 것입니다". 칠성의 이 말은 바로 멘델브로트가 간파한 이론, 즉 자가 다르면 길이도 다르다는 신념에서 한 말이다. 이 이론에 의하면 하나의 현상을 상대적으로 관찰하고 판단하라는 것이다. 이처럼 시롭게 탄생한 수학의 프랙탈이론은 우리를 둘러싸고 있는 모든 현상들의 근본을 하나하나 날카로운 관찰의 대상으로 삼고 있다.

삼각형의 두변의 합=다른 합변

이미 독자 여러분은 중학교 시절의 기하학 수업에서 이상한 체험을 한 적이 있을 것이다. 중학교시절에 배운 '중점연결의 정리'를 다시 상기해 보자.
먼저 (그림1)ⓐ의 삼각형ABC를 보라. 각 변의 중점은 각각 M N O로 하면 $\overline{MO}$//$\overline{AC}$(//는 평행을 나타내는 기호)이고 $\overline{NO}$//$\overline{AB}$가 된다. 따라서 맞변이 평행이므로 사각형AMON은 평행사변형(나란한 꼴)이 된다. 요컨대$\overline{AM}$//$\overline{NO}$, $\overline{AN}$//$\overline{MO}$. 그리하여 삼각형의 두변 AB와 $\overline{AC}$를 합한 길이는 몇 개의 선분을 합한 BMONC의 길이와 같다. 즉 $\overline{AB}$+$\overline{AC}$=$\overline{BM}$+$\overline{MO}$+$\overline{ON}$+$\overline{NC}$ ((그림1)의 ⓑ)로 표현된다.

(그림1) 삼각형의 두변의 합이 다른 한변과 같아진다.

이어서 삼각형MBO와 삼각형NOC에서도 각변의 중점을 취하고 그것을 연결하여 보면 작은 산을 4개 갖는 도형이 생긴다 ((그림1)의 ⓒ). 이들 4개의 삼각형에서 각변을 합하면 역시 $\overline{AB}$ +$\overline{AC}$와 같다.
계속해서 이와 같은 방법으로 작은 삼각형을 만들어 간다((그림 1)의 ⓓ).
얼핏 보기에 이들 작은 삼각형의 길이는 밑변$\overline{BC}$에 가까워져 간다.

중학교시절 '삼각형에서 두 변의 합은 다른 한 변의 길이보다 크다'는 정리를 배운 독자는 이와 같은 그림을 그려가면 직관적으로 큰 모순처럼 느껴질 것이다. 눈으로는 '삼각형의 두 변의 길이의 합이 다른 한 변과 같다'는 결과가 나오기 때문이다.

하지만 고등학교에서 수렴의 극한값을 배운 사람이면 이와 같이 만든 작은 삼각형의 두 변은 그 합의 길이가 언제나 $\overline{AB}$ +$\overline{AC}$이며 변하지 않음을 알 수 있다. 변하게 만든 원인은 단지 인간의 '눈'때문이며 결코 원래의 길이는 변하지 않는 것이다.

프랙탈 섬에 있었던 돌쇠와 차돌, 그리고 칠성의 모순된 주장은 인간의 인식능력의 한계를 제시하는 보기가 된다. 돌쇠와 칠성은 엄청나게 큰 차이가 있는 자를 가지고 세밀하게 측정하였다. 그러나 프랙탈적인 현상의 뜻을 잘 아는 칠성이는 틀린 두 개의 답에 대하여 모두 다 옳다고 대답한 것이다.

극한의 이론에 의하지 않고 자로만 잰다면 삼각형의 두 변을 합한 길이는 다른 한 변과 같을 수가 있는 것이다.

복합적인 문제를 풀어내

프랙탈개념이 도입되기 전만해도 수학은 크게 두가지 조류밖에 없었다. 하나는 일정한 속도로 달리는 기차가 한시간 후에는 어느 지점에 도착해 있을까를 계산하는 것과 같은 내용이었다. 이것은 출발점과 속도와 경과된 시간만 알면 간단한 일차방정식으로 풀 수 있다. 따라서 방정식만 알면 그 과정을 전부 알 수 있다는 의미에서 이것을 '결정론의 수학'이라고 한다. 즉 미래를 결정적으로 이해할 수 있다는 뜻이다.

또 하나는 큰 연못 안에 있는 잉어와 붕어의 비율은 얼마나 되는가를 계산하는 것과 같은 내용이다. 이런 문제는 연못 안의 물고기를 전부 잡아서 셀 수도 없으므로 확률적으로 추측할 수밖에 없다. 이것이 '확률론적 수학'이다.

그 두가지 수학 이론을 합친 것이 바로 '프랙탈'이론이라고 할 수 있다. 프랙탈이론은 이름은 이상하지만 그 내용은 비교적 쉽게 이해될 수 있다. 가령 큰 나무의 성장과정을 생각해 보자. 나무는 처음에는 반듯하게 뻗어나가며 자란다. 그 모양은 마치 기차가 일직선으로 달려가는 모습과도 같으므로 그 성장상태는 방정식으로 설명할 수 있다.

하지만 어느 정도 일직선으로 성장한 나무는 어느 순간부터 작은 가지들을 뻗기 시작한다. 그 작은 가지들이 뻗어가는 상태는 일정치 않고 다분히 확률적이다. 그러다가 일단 한 가지의 방향이 정해지면 다시 어느 지점에서 확률적으로 뻗어나가는 가지들이 생긴다. 즉 결정론→확률론→확률론→을 거듭하는 것이다.

옛 수학에서는 이와같이 무한에 가까운 정도로 되풀이 되는 복합적인 문제를 무시했다. 그러나 자세히 관찰해보면 자연의 거의 모든 현상이 복합적인 법칙에 따라 움직이고 있다. 큰 강줄기와 지류의 관계, 큰 산맥과 지맥의 관계, 인간의 혈관, 번갯불, 유리창에 금이 가는 모양등 온갖 현상들이 바로 프랙탈적인 것이다.
프랙탈이론은 근본적으로 일부분의 모양만 보아도 전체의 모양을 알수 있다는 것이다. 즉 일부분이 전체를 표현하고 있다.

1.26차원의 세계

프랙탈이론은 또 차원과 깊은 관련이 있다. 프랙탈이란 '소수의'(fractional)라는 뜻으로, 그 곡선의 차원이 분수가 되는 경우를 말하기 때문이다. 수학에서의 차원은 공간이나 구조의 임의의 한 점을 나타내는데 필요한 독립변수, 즉 '공간의 자유도'라는 뜻이다. 이 개념으로 1차원은 선, 2차원은 면, 3차원은 입방체임을 곧 알 수 있다.

이를 일반화하기 위해 아래 그림과 같이 1차 2차 3차의 대표적인 도형, 즉 선분 정사각형 정육면체를 생각해 보자. 그리고 각변은 2등분한다.

(그림2) 확대하면 다르게 보인다.^크게 보면 곡선이지만 부분적으로는 선분이다. 선분이 전체 곡선 모양을 결정한다. 확대에서 보면 실상은 겉보기와는 전혀 다르다.

(그림3) 코흐곡선은 프랙탈곡선의 한 예

(그림4) 부분이 전체와 같다

(그림5) 도형의 이등분

선분은 길이가 1/2인 선분이 두개, 정사각형은 4개, 정육면체는 8개가 생긴다. 각변을 2등분 함으로써 원래의 것과 닮은 도형이 각각 2,4,8개 생긴 것이다.

이상의 결과를 정리하면 "차원이 D인 도형의 한 변을 2등분하면 원래의 것과 닮은 도형이 ${2}^{D}$개 생긴다"로 표현할 수 있다. 만일 4차원의 도형이라면 그 도형의 한변을 2등분하면 원래의 것과 닮은 4차원의 도형이 2⁴=16개 생길 것이다.

이 사실을 이용하여 차원은 다음과 같이 정의한다. "도형의 한 변을 2등분 하여 원래의 것과 닮은 도형이 ${2}^{D}$개 생겼을 때, 그 도형의 차원은 D로 한다"

이 정의를 확대하여 "전체를 1/a로 축소하며 닮은 도형이 ${a}^{D}$개 생길 때 그 차원은 D"로 정의한다. 이 사실에 대수를 이용하면 "전체를 1/a로 축소하여 닮은꼴이 b개 생기면 그도형의 차원 D는 다음과 같다. D=${log}_{a}$b

그런데 코흐(Koch)의 곡선을 1/3로 축도했을 때 닮은 꼴이 4개 생긴다. 해당공식의 a에 3, b에 4를 대입하면 D=${log}_{3}$4=1.2618. 즉 코흐곡선의 차원은 약 1.26이다. 이는 곧 '프랙탈의 차원'이 되는 것이다.

혼돈과 우연을 푼다

삼각형의 두변의 합이 한변으로 보이는 것도 결국 혼돈의 결과이다.
플랙탈이론은 보통 우리가 혼돈(카오스)의 현상이라는 것의 본질을 밝혀내는 것이다. 예컨대 색깔이 있는 물을 유리 파이프 속을 천천히 흐르게 하면 그 물은 거의 반듯하게 흐르는 것처럼 보인다. 그러나 속도가 상승하게 되면 난류현상이 나타난다. 이런 현상은 우리 주변에서 많이 볼 수 있다. 된장국을 끓이는 남비를 관찰하면 차츰 온도가 높아지면서 처음에는 대류(對流)현상을 볼 수 있다. 바둑모양을 한 정육각형의 기포가 생기는 것이다. 그리고 잠시 후에는 6각형의 변이 가라앉으며 6각형의 한가운데로 올라가는 대류현상이 생긴다. 더욱 열이 가해지면 마침내 걸죽한 된장국물처럼 보인다. 이밖에도 폭풍 속의 먼지, 폭발 속의 미립자들의 운동 등도 마찬가지다.

삼각형의 중점을 무한으로 한뒤'중점연결정리'로 얻어낸 선분은, 연속이면서 미분할 수 없는 함수이다. 이 사실을 처음으로 연구한 학자는 웨이어스트라스(K. Weierstrass 1815~1897)였다. 당시만 해도 연속함수는 언제든지 미분이 가능하다고 믿고 있었다.

이 함수는 논리적으로는 옳지만, 실제의 자연현상에는 적용될 수 없는 병적인 이론이라고 여겨졌다. 예로 1925년에 두사람의 물리학자가 쓴 논문에 "바람의 입자에는 속도가 없다. 마치 웨이어스트라스의 함수처럼 말이다"라는 글이 실려져 있을 정도였다.

프랙탈이론은 '혼돈'이라는 문제를 해명해 줄 수 있다. 따라서 우연의 문제에도 도전한다.
'필연이란 그 자신에 근거를 갖는 경우'라는 명제가 있다. 혼돈이 규칙적인 조각의 극한적 상태라면, 우연은 필연적인 결과의 극한적 상태가 될 수도 있다.

(그림6) 웨이어스트라스의 함수

전형적인 '부분'을 통해

오늘날 프랙탈이론은 컴퓨터의 발달로 급속히 발달하고 있다. 그래서 엄청난 규칙적 조각의 결과를 한눈에 보게 해준다. 컴퓨터그래픽(컴퓨터회화)도 결국 프랙탈이론의 한 예이다.

담배연기의 운동, 리아스식해안, 지진, 그리고 식물의 성장과정 등은 평범하고 흔하면서도 단순한 이론으로는 이해할 수 없는 현상들이다. 이에 대한 가장 현명한 관찰방법은, 그 복잡한 현상들 가운데 가장 전형적인 현상의 모양 하나를 잡고, 이에 관한 것을 구체적이고 세밀하게 조사하는 것이다. 이렇게 해서 얻어지는 몇가지 법칙이, 전체를 지배하는 것들 사이에서 존재하는 공통적인 성질을 찾아낼 수 있게 한다. 이것이 바로 '프랙탈이론'의 기본적인 발상인 것이다.