d라이브러리

오늘날 인간은 하늘을 날 수 있다. 그뿐 아니라 우주까지 손을 뻗치고 있다. 이같은 꿈이 현실이 되기까지 수학의 역할이 만만치 않았다. 수학이 각종 공학이나 과학문제에 관여하는 이유는 무엇일까.

1970년대에 유행했던 ‘바다가 육지라면’이라는 노래가 있다. 가사에는 “이몸이 철새라면 이몸이 철새라면 뱃길에 훨훨 날아 어디론지 가련만은…”이라는 애절한 표현이 담겨있다.

이 노래처럼 예로부터 인간은 하늘을 보면서 새처럼 날고 싶어했다. 그러나 인간이 날게 된 것은 최근 1백년 전의 일이다. 1903년 라이트 형제는 공기역학의 현상을 제대로 이해하기 위해서 풍동(風洞)을 만들어 실험하고, 이를 통해 날개 주위 공기 흐름의 원리인 양력과 부력을 이해하려고 노력한 결과, 초보적인 단계의 비행기를 탄생시켰다.

라이트 형제의 한계

이후 1백년도 지나지 않은 오늘날, 자동차와 더불어 비행기는 최고의 여행 수단이 됐다. 그 동안 인류는 우주선을 만들어 달에도 갔다왔다. 그리고 음속보다 더 빠른 비행기도 등장했다.

초기에는 라이트 형제처럼 단순히 기계의 개발에서 여러 차례의 시행착오를 통한 경험적인 방법으로 발전이 이뤄졌다. 그러나 오늘날에는 단순한 공학적인 방법만으로는 개발이 어렵다. 이를 극복하기 위해서는 수학의 역할이 절실하다. 왜일까.

전세계의 과학자나 공학자는 지금 이 시각에도 실험실이나 야외에서 자연현상을 이해하기 위해서 각종 실험을 한다. 예를 들면 한창 말썽이 됐던 원폭실험, 인간복제 등 크게는 인류의 생존과 관련있는 것뿐 아니라, 공기흐름을 분석하는 풍동실험, 자동차의 안정성을 위한 충돌실험, 화학반응 실험 등 수없이 많다.

이를 통해 과학자들은 무엇을 얻고자 하는 것일까. 궁극적인 목적은 자연현상의 이해다. 이를 위해 실험의 결과를 여러 방법으로 분석해 현상을 자료화한 뒤, 이를 좀더 함축된 모습으로 표현하려 한다.

즉 실험결과에 대한 모델링(수식화)이다. 과학자나 공학자는 자연현상 규명을 각종 수학 방정식으로 표현하는 것이다. 그 결과, 지금까지 수많은 수학방정식이 만들어졌다. 그런데 이들 중 다양한 상황에서 현상을 잘 설명하는 방정식이 있다. 이들은 오랜 기간 살아남게 된다. 예를 들어 유체의 흐름을 설명하는 나비어-스톡스 방정식, 전기장을 설명하는 맥스웰 방정식, 양자역학의 근본 방정식인 슈레딩거 방정식, 입자의 운동을 결정짓는 볼츠만 방정식 등이다. 이들은 성공적으로 자연현상을 함축적인 수식으로 표현하고 있다. 이를 가리켜 자연현상의 ‘지배방정식’이라고 한다. 과학자와 공학자는 자연현상에 대한 여러 실험을 통해 지배방정식을 만들어내는 것이다. 이들 지배 방정식은 과학과 공학의 근간이 되고, 이에 대한 깊이 있는 이해를 통해 새로운 가치 있는 결과를 도출해낸다.

그런데 거의 모든 지배 방정식은 수학의 한 분야인 미분 방정식에 속한다. 여기에서 수학자의 역할을 찾을 수 있다. 지난 3세기 동안 수학자는 각종 지배방정식을 해석하는데 노력해왔다. 그 결과 많은 기초현상들이 이해돼, 공학 연구와 생산 현장에서 응용수학이 직접 쓰이고 있다. 비행기 발전에 공헌한 수학의 역할이 바로 그 예다. 비행기 주위의 공기 흐름을 보여주는 지배방정식인 나비어-스톡스 방정식에 대해 수학자들이 그 의미를 해석함으로써 비행기술이 보다 빠르게 발전한 것이다.

수학의 역할을 좀더 자세히 들여다보기 위해 지배방정식 중 공기나 물의 흐름을 설명하는 나비어-스톡스 방정식을 예로 살펴보자.

나비어-스톡스 방정식은 지금으로부터 1백50여년 전에 만들어졌다. 이 방정식 명칭은 나비어라는 공학자와 스톡스라는 수학자의 이름을 따서 붙여졌다. 나비어-스톡스 방정식은 처음에 순전히 이론적으로 얻어졌다. 스톡스가 물의 흐름을 수학적으로 표현하는 연구를 통해 이 방정식을 처음 도출해냈다. 이후 나비어는 독립적으로 유체의 실험결과를 토대로 이 방정식을 완성했다. 자연현상에 대한 수학적 분석이 실험적으로 맞아떨어진다는 점을 증명한 셈이다.

프린트 잉크에 숨어있는 수학
 

이처럼 수학적 분석은 실제 자연현상의 관측과 대조한 결과 상당한 유사성이 있음이 자주 알려진다. 최근에는 공기나 물의 분석에 실험보다는 이론적 접근이 경제적으로나 환경오염의 측면에서 우월하다고 받아들여져, 실험적인 방법보다 이론적 접근이 주를 이룬다.

나비어-스톡스 방정식의 수학적 분석은 크게는 기상의 대류현상이나 비행기에서부터 작게는 프린터까지 응용되고 있다.

예를 들어 우리가 별생각 없이 쓰는 프린터는 무한히 작은 액체를 수없이 뿌린다. 단순해보이는 프린터에도 나비어-스톡스 방정식의 분석이 절대적이다. 잉크를 제때에 뿌리지 못하거나 지나치게 많이 또는 적게 흘리면 글씨가 엉망이 되고 만다. 정확한 양을 제 속도로 흘리고, 또한 잉크가 종이에 정확히 퍼지게 하기 위해 잉크의 흐름을 계산해야 한다.

이와 함께 프린터는 데이터를 입력했을 때 항상 같은 반응을 해야 한다. 이를 위해 잉크흘림 속도와 퍼짐 등의 계산이 필요하다. 이 결과는 나비어-스톡스 방정식을 풀어서 얻을 수 있다.

그러나 아직까지는 정확한 계산이 불가능하다. 그러면 우리는 계산을 포기해야 할까? 아니다. 비록 오차가 있다 하더라도, 우리가 원하는 오차 범위 내에서 보다 근접한 값을 구해내면 되는 것이다. 이는 자동차에 비행기나 우주선 엔진을 쓸 필요가 없는 것과 마찬가지다. 비록 오차가 있더라도, 자동차가 달릴 수 있는 범위면 되는 것이다. 이런 계산을 위해서, 적절한 방법을 찾아서 방정식을 푸는 것이다. 근사해를 구하는 방법의 개발과 이를 이용해 근사해를 직접 구하는 것들이 수학의 한가지 쓰임이다.

하지만 여러 수학적 방법을 이용해서 근사해를 구했다 하더라도 원래부터 해가 존재하지 않다면 어떻게 될까. 모든 일이 헛일인 셈이다. 따라서 방정식의 근사해를 계산하기 전에 먼저 해의 유무를 결정해야 한다. 이 문제에 대해 아직도 수학자들이 연구하는 방정식이 많다. 유체역학의 대표적인 지배방정식인 나비어-스톡스 방정식은 해의 존재성은 알려져 있으나, 초음속 비행기 주위의 공기 흐름을 표현한 오일러 방정식은 아직 해가 있는지 없는지 모르는 상태다.

해가 존재하더라도 문제는 또 있다. 같은 자료에 대해 또다른 상황이 발생할 수 있는가에 대한 문제다. 이를 가리켜 ‘해의 유일성’이라고 말한다. 다시 말해 해가 둘 이상 있다면, 구한 근사해가 우리가 원하는 제대로 된 해인지를 확신할 수 없다.

예를 들어 비행기 날개 앞부분의 최고 압력 분포가 똑같은 상황에서 1백과 1백50이 동시에 존재할 수 있다고 가정하자. 그리고 우리가 구한 해가 1백이라고 하자. 이를 바탕으로 날개가 최고 1백의 압력까지 견딜 수 있게 만든다면 같은 상황에서 또다른 해인 1백50의 압력이 되면 날개는 부러질 수 있다. 큰 사고로 직결되는 것이다.

이처럼 해가 유일하지 않다면 엉뚱한 결론을 지어 잘못된 판단을 할 수 있다. 유일성이 해결된다면, 어떤 방법을 쓰던, 그 방법 자체가 틀린 게 아니라면 얻어진 결과가 우리가 원하던 결과임을 확신할 수 있다.

‘쥬라기 공원’에 등장한 안정성 문제

해에 대한 문제가 해결되면 수학자는 얻어진 자료가 관측장비에 의한 오차를 포함하더라도 전체 시스템 분석에 별 영향을 주지 않을 것인가에 대한 문제를 연구한다. 즉 해가 안정하냐는 문제다.

영화 ‘쥬라기 공원’을 머리 속에 떠올려보자. 영화에 등장하는 주인공들이 차를 타고 ‘쥬라기 공원’을 순회하는 장면이 있다. 여기에서 수학자는 주인공 여자의 손등에 물을 흘리면서 그녀에게 카오스를 설명한다. 즉 초기의 아주 작은 변화가 미래를 예측할 수 없게 만든다는 것이다. 이것은 안정성이 결여된 경우다.

만약 관측에서 얻은 자료의 오차가 아주 작아도 시간이 지남에 따라 오차가 커진다면, 그 자료를 이용해 미래를 예측하는 일은 불가능해진다. 따라서 근사를 통해 해를 구했다 하더라도, 진짜 해와의 작은 오차에도 해가 안정한지를 분석해야 한다.

이 외에 수학은 지배방정식의 여러 수학적 성질을 연구한다. ‘해가 매끄러운 성질을 가지는가’라는 정칙성 문제가 있다.

내년에 있을 대통령 선거를 생각해보자. 경험으로 봐서, 많은 후보자가 난립할 것이다. 그 중에 누군가는 대통령이 된다. 이 경우 해는 있으되 무엇이 해인지는 당장 알지 못한다. 물론 해가 없을 수도 있다. 당선자가 죽거나 부정행위로 무효가 될 수도 있기 때문이다. 아무튼 참해는 있다.

이처럼 정칙성은 아직은 정확히 알지 못하지만 해로 예상되는 해(이를 ‘약해’라고 한다) 중, 참해를 고르는 것이다. 나비어-스톡스 방정식의 경우, 현재까지 약해만 찾았을 뿐 참해를 아직 찾지 못했다. 아직 제대로 된 해인지를 모르고 있는 것이다. 참해로서의 자격을 검정하는 문제가 정칙성 문제다. 수많은 수학자들이 1백여년간 이 방정식의 정칙성 문제에 매달리고 있다. 21세기가 풀어야 될 가장 큰 7문제 중 하나로, 1백만달러의 현상금이 걸려있다.

한편 시간이 흐를 때 해가 어떻게 변하는가도 문제다. 이 문제가 ‘해의 역학성’이다. 해가 있다면 그 역학적 성질은 미래에 대한 예측을 가능케 해준다.

우리는 매일 TV에서 하루나 이틀 뒤의 일기 예보를 보지만, 예보가 제대로 맞지 않음을 수많은 경험을 통해 안다. 기상현상은 난류의 대표적인 예로, 수학의 여러 문제들, 즉 정칙성, 역학성, 유일성, 안정성 문제 등이 아직 해결되고 있지 않기 때문이다. 또한 아직도 근사해를 제대로 못 구하기 때문이다.

과학과 공학에서 다루는 연구에는 수학적인 문제를 포함하고 있다. 때문에 수학과 공학, 또는 수학과 과학분야의 협력이 요구되고 있다.

미국의 경우, 여러 기관에서 수학과 과학, 또는 공학이 서로 협력하는 예를 쉽게 찾을 수 있다. 그 중에서 대표적인 예가 미국 미네소타에 있는 응용수학연구소(Institute for Mathematics and its Application, IMA)다. 이 연구소는 미네소타대의 수학과에 속한 연구소임에도 불구하고, 방문자의 50% 가량이 공학자다. 현재 이 연구소는 코닥, 3M, 모토롤라, 후지사 등과 협력하며, 여러 프로젝트를 수행하고 있다. 코닥사로부터 받은, 잉크가 사진 종이에 퍼지는 현상의 프로젝트를 성공적으로 수행하고 있다. 이 외에도 IBM이나 마이크로소프트사, NASA 등에 많은 수학자들이 진출해 여러 공학적인 연구를 수행중이다.

IT, BT, NT 모두 수학이 토대

1900년 파리 세계수학자학회에서 힐버트 교수는 20세기에 수학자가 해결해야 할 과제로 23개의 문제를 제시했다. 이 문제들은 수학 전반을 포함한 것으로 몇 문제의 경우 그 해답이 찾아졌고, 나머지는 다음 세기인 21세기로 넘어가거나, 수학자의 관심으로부터 멀어졌다.

이 중에서 6번째 문제는 물리법칙의 공리화다. 이것은 단순한 수학문제라기보다 수학자의 역할을 제시하고 있다. 즉 외부 세계와의 끊임없는 학문적 교류를 추구해야 함을 의미한다.

이 관점은 올해 미국 클레이 수학연구소가 21세기에 수학자가 해결해야 할 문제로 내건 7개 문제에서도 찾을 수 있다. 여기서 역학관련 문제가 2개나 포함된 것은 시사하는 바가 크다.

사실 지난 세기 동안 수학 특히 해석학은 자연계의 현상을 설명하는 근본적인 도구가 돼왔다. 이런 활동은 인류의 문명초기부터 이어졌다. 이집트와 바빌로니아의 수학은 그리스 시대로 이어져 유클리드의 ‘요소’(element)라는 책으로 구현돼 거의 1천5백년 이상 그 영향력을 발휘해 서구문명의 합리화를 규정지었다. 그 뒤 뉴턴과 라이프니츠에 의해 미적분학이 개발돼 근대물리, 화학, 생물, 공학의 발전을 기약하는 토대를 제공했다.

그러나 한국, 중국, 일본 등의 동양은 단순한 현상학적 수학에만 국한해 발전시켜 왔다. 이같은 수학의 개발 부진은 여타 학문의 발전을 가져올 수 없었고, 자연과학을 기초로 하는 산업문명의 낙후를 초래했다. 수학 발전에서 뒤짐으로써 19세기부터 20세기 초까지 동양의 몰락은 예고된 것이었다.

미래는 과학의 시대다. 단순한 한가지 분야의 이해로 기술개발이나 학문발전이 이뤄지는 것이 아니라 전 과학분야와의 상호교류와 통합으로 새로운 결과가 생산되는 시대다. 이런 학제간의 교류는 최근 각광받는 분야인 정보통신(IT), 생명공학(BT), 나노과학(NT)에서 더욱 중요하다. 과학의 종합화로 세계는 나아가고 있다.

복잡 다양한 학문추세에서 가장 중요한 것은 기초과학의 탄탄한 토대다. 이러한 관점에서 수학의 역할은 무엇일까. 자연현상은 근본적으로 예측하기 매우 어려운 비선형이며, 이에 대한 해석은 기초과학 특히 수학의 이해를 필수로 한다.

자연현상과의 관계가 깊은 수학의 분야로는 수리역학, 미분방정식, 확률과 통계 등을 들 수 있다. 그리고 수학적 해석을 가시적으로 표현하기 위한 컴퓨터 관련 수학인 계산수학을 들 수 있다. 이러한 응용수학의 발전이 미래 국가 원천기술의 질을 결정짓는 관건이 될 것이다.