거리를 잴 때 사용하는 ‘자’는 공간의 차원을 달리하면 모양이 바뀐다. 직선 위의 한 지점에서 다른 지점까지는 선분 형태의 자로 거리를 측정한다. 또 x축과 y축이 있는 2차원에서는 원점에서 일정 거리 이하의 점들을 모은 원 모양의 자를 이용한다.
KAIST 응용수학과 함수해석학 연구실의 최창선 교수는 “같은 차원이라도 쓰임에 따라 타원형, 마름모형, 육각형 등 다양한 모양의 자를 쓸 수 있다”고 말한다.
다면체 자로 만드는 바나흐 공간
예를 들어 네거리 중앙의 A지점에서 북쪽에 있는 B지점과 북동쪽에 있는 C지점을 생각해보자. A지점에서 택시를 탄 승객은 직선거리가 같은 B지점과 C지점까지 요금이 같다고 생각하기 쉽다. 그러나 도로가 동서, 남북 방향으로 나 있는 도시에서 운전기사가 생각하는 거리는 다르다.
A지점에서 B지점까지는 직선도로가 나있지만 A지점에서 C지점까지는 곧바로 뻗은 도로가 없어 돌아가야 한다. 따라서 B지점까지 1만원의 요금이 나온다면 피타고라스 정리에 의해 C지점까지는 약 1만4142원(=√2만원)의 요금이 든다. 운전기사가 생각하는 1만원 이내의 거리는 A지점을 기준으로 동서남북의 꼭지점을 갖는 마름모형 자인 셈이다.
공간을 3차원으로 옮기면 단위자는 입체로 바뀐다. 이때 입체가 볼록하며 어느 방향으로든 대칭이면 ‘바나흐 공간’을 만드는 단위자가 된다. 함수해석학의 기초를 세운 폴란드 수학자 스테판 바나흐를 기리기 위해 붙여진 이름이다. 바나흐 공간은 대표적인 무한 차원 공간으로 최 교수팀의 핵심 연구 주제다.
연구팀은 바나흐 공간의 볼록한 표면에 튀어나온 모서리점에 주목한다. 바나흐 공간에서 “볼록한 입체는 항상 모서리점을 갖는가?”, “이 모서리점으로만 본래 모양의 입체를 복원할 수 있는가?”의 문제다. 일반인에게는 막연하게 여겨지겠지만 다음의 문제를 풀어 보면 생각이 바뀔 것이다.
예를 들면 공장에서 제품 A와 B를 생산한다. 제품 A 1kg은 원료 2kg과 전력 2kw를, 제품 B 1kg은 원료 1kg과 전력 3kw를 이용해 각각 5만원과 3만원의 이익이 남는다. 이때 하루에 사용 가능한 원료는 8kg, 전력은 12kw일 때 공장에서 최대 이익을 얻기 위한 제품 A, B의 생산량은 얼마일까?
제품 A, B의 생산량을 각각 xkg, ykg로 가정하면 5x+3y값이 최대일 때 이익은 최대가 된다. 따라서 원료로 2x+y≤8과 전력으로 2x+3y≤12를 만족하는 부등식이 성립하고 제품 생산의 최대 이익은 1사분면에서 두 직선이 만나 이룬 모서리점(3, 2)이 된다.
이처럼 모서리점 연구는 제품을 생산하고 인력을 효율적으로 배치하는데 필요한 최적의 조건을 찾는데 적용된다.
1+1=2 조차 ‘참’인지 의심한다
최 교수가 함수해석학을 공부하게 된 이유는 독특하다. 대학에서 철학을 전공하던 그는 우주론에 관심을 쏟게 됐다. 현대 우주론을 이해하기 위해 물리학을 공부하면서 자연스럽게 물리학의 기초가 되는 수학을 부전공으로 택했다.
수학과 대학원에 진학한 뒤 지금까지 18년을 수학과 씨름한 최 교수는 “아직도 수학의 광대한 세계에 빠져 우주론에는 근처도 못 갔다”며 웃었다.
“수학과 과학에서조차 엄밀한 증명에는 소홀한 채 신뢰도가 보증되지 않은 시뮬레이션으로 결과를 추정합니다. 그러나 함수해석학은 정확한 증명을 해야 하기 때문에 논리가 엄밀하고 깊이가 있는 것이 예술과 같습니다.”
그가 펴낸 ‘집합론 입문’에는 ‘수학자와 철학자, 전산학자, 언어학자를 위한 책’이란 부제가 달려있다. 함수해석학의 기초가 되는 집합론에서는 ‘1+1=2’조차 증명한다. 수학자 뿐 아니라 철학자, 언어학자들도 객관적인 증명의 가치를 원하기 때문이다.
최 교수는 2명의 박사과정 학생과 함께 수학을 예술로 생각하며 무한차원의 난제에 도전하고 있다.
