'화면보호기가 멋진데! 어디서 다운받은 걸까….’ 계산수학연구실 문을 들어서자 검은 바탕의 모니터 화면에서 모락모락 피어오르는 하얀 담배연기가 먼저 기자의 눈길을 끈다. 이 연구실을 이끌고 있는 이창옥 교수와 인사를 나누자마자 담배연기 화면부터 말을 꺼냈다.
“후후, 이건 실제 담배연기를 찍은 영상이 아닙니다. 미분방정식을 이미지화한 것이지….”
미분방정식이라면 미분과 원시함수와의 관계식으로서 대학에서부터 배우는 분야다. 예를 들어 가속도는 힘에 비례한다는 뉴턴의 제2법칙은 시간에 대한 속도의 미분을 포함하는 미분방정식 형태로 표현할 수 있다. 이 방정식을 풀면 좌표상에 힘의 법칙을 따르는 운동의 궤적을 그릴 수 있다.
“마찬가지 원리입니다. 다만 저희가 취급하는 미분방정식은 그보다 훨씬 복잡할 뿐이죠. 그리고 사람 대신 컴퓨터가 방정식을 풀어줍니다.”
이처럼 컴퓨터의 도움을 받아 수식을 풀고 해석하는 분야를 계산수학이라 한다. 이 교수팀 연구과제의 하나인, 미분방정식을 이용한 애니메이션 구현을 예로 들어보자. 해변에서 파도가 밀려오는 장면을 상상해보자. 예전 같으면 1초에 수십장 분량을 일일이 손으로 그려야했다. 요즘은 컴퓨터 그래픽이 나와 한결 수월해졌지만 그래도 장면을 수정하려면 잔손질이 많이 간다.
“한번에 맘에 꼭 드는 영상이 얻어진다면 좋겠지만 어디 그렇습니까? 그런데 수치를 몇개 바꾸는 걸로 영상이 수정된다면 얼마나 편하겠어요. 저희가 추구하는 목표죠.”
연구자들은 먼저 파도의 움직임을 구현할 수 있는 미분방정식을 고안한다. 이를 위해서는 지금까지 개발된 수많은 수식 가운데 쓸만한 것을 찾아내 상황에 맞게 변형해야 한다. 이렇게 만들어진 미분방정식은 다시 조각조각 잘라진다. 해를 찾기 위해 통째로 컴퓨터에 넣었다가는 며칠 밤을 새워도 답을 내놓지 못하기 때문이다.
“하나의 복잡한 방정식을 여러개의 좀더 간단한 수식으로 바꿔 각각의 컴퓨터가 답을 찾게 한 뒤 이를 다시 하나로 합치는 방법을 병렬컴퓨팅이라고 합니다. 의미있는 결과를 얻기 위해서는 이 과정에서 착오가 없어야 해요.”
수학적 엄밀성과 컴퓨터의 속도 결합
이 교수에 따르면 이때가 연구자들의 고도의 지성이 요구되는 순간이다. 내가 식을 제대로 세웠나, 그걸 제대로 잘게 쪼갰나, 얻어진 개별 결과를 합쳐 얻은 결과가 원래의 수식 자체를 풀었을 때 결과와 얼마나 가까울까. 이런 걸 제대로 판단하려면 수학 전반에 대한 광범위한 지식이 있어야한다.
아무튼 이렇게 얻은 방정식의 해가 컴퓨터 모니터상에서 그럴듯한 영상으로 구현되면 연구자들은 환호성을 올린다. 그리고 영상에서 미흡한 부분은 미분방정식 항의 상수나 변수를 바꿔가면서 개선하면 된다. 즉 그림을 다시 그리거나 그래픽에서 수정작업을 하는 대신 자판기의 숫자버튼만 몇개 눌러주면 되는 것이다.
“최근 들어 이런 기법이 실제 애니메이션 제작에 쓰이기 시작하고 있습니다. 영화 ‘슈렉’ 에 나오는 진흙 목욕장면이 대표적인 예죠.”
한편 영상처리 분야에서도 미분방정식을 이용한 연구를 진행하고 있다. 최근 디지털카메라가 널리 보급되면서 촬영한 이미지를 다듬는 소프트웨어가 이미 많이 개발돼 있다. 그러나 이 과정은 여전히 전문가의 미적 수준에 따라 결과의 차이가 크다. 이 교수는 이미지를 미분방정식으로 표현할 수 있다면 잡티를 없애거나 훼손된 부분을 복원하는게 가능하다고 설명한다.
예들 들어 얼굴사진을 스캐닝하고서 얼굴의 윤곽 높이를 수식으로 나타내면 이는 연속적인 함수가 될 것이다. 그렇지만 사진에 손상된 부분이 있다면 이곳에서 연속함수가 끊기게 된다. 이때 미분방정식을 이용해 연속함수로 이어주면 손상된 부분이 자연스럽게 복원된 매끄러운 얼굴사진을 얻을 수 있다.
이 교수팀에서는 이밖에도 나노분야에 필수장비인 원자현미경의 측정결과를 제대로 표현할 수 있는 알고리즘 개발 연구 등을 진행하고 있다.
현재 계산수학연구실에는 박사후과정 1명, 박사과정 4명, 석사과정 4명이 연구하고 있다. 특이한 사실은 이들 가운데 3명은 수학과 출신이 아니라는 점. 전자과, 기계과, 토목과 출신이 각각 1명씩이다. 이 교수는 “수식을 이용하는 분야를 공부하던 학생 가운데는 수학의 엄밀함에 매료돼 대학원에서 전공을 수학으로 바꾸는 경우가 종종 있다”며 “이들처럼 수학의 아름다움을 발견한 사람들은 누구나 대환영”이라고 덧붙였다.
