d라이브러리

어떻게 하면 상자 안에 사과를 가장 많이 넣을 수 있을까?

하늘이 높아지고 산과 들이 색색으로 물드는 가을은 누구에게나 푸짐하다. 책보기 좋은 서늘한 계절인데다가 누가 봐도 먹음직스런 과일이 많기에 마음이 더욱 흡족해진다. 특히 추석을 맞아 친척이나 친지들을 찾는 사람들에게 과일은 선물감으로 제격이 아닐 수 없다. 사과나 배는 물론이요 귤이나 복숭아도 요즈음은 흔하고 또 호도같은 열매들은 한 해를 기다려 온 보람을 느끼게 한다.

이러한 기쁨은 수학자들에게도 예외는 아니다. 그러나 이런 과일들이 상점에 쌓여 있거나 상자에 들어있는 것을 보는 순간 과일의 맛과 함께 관심을 끄는 것이 또 하나 있다. 수학자는 상점 앞에서 어떻게 하면 상자안에 사과를 가장 많이 넣을 수 있을까 하는 문제를 생각한다. 아마 많은 독자들도 한번쯤은 이런 생각을 했을 것이며 따라서 여러분은 모두 어떤 의미에서는 아마추어 수학자인 것이다.

이 문제의 답은 그리 어렵지 않게 구해지게 되며 아마도 여러 곳에서 이 방법을 활용할 수 있게 될 것이다. 그러나 정말 어려운 부분은 이 답을 생각해내는 것보다 어째서 이 방법이 가장 좋은 방법인가를 설명하는데 있다.

제 아무리 사과가 맛있더라도 이제는 맛을 떠나서 문제를 수학적으로 바라보자. 사과는 크기나 모양이 서로 다르지만 우리가 상상하는 것은 모양이 둥글고 크기도 모두 같은 것들이다. 이런 모양을 수학에서 구(球)라고 부른다는 것은 모두 다 알고 있을 것이다. 따라서 문제는 '어떻게 하면 일정한 공간 안에 가능한한 많은 구를 집어 넣을 수 있는가'하는 표현으로 바꿀 수 있다. 이 문제는 매우 오래된 문제인데 처음으로 제기한 수학자의 이름을 따서 '케플러의 구포장 문제'(Kepler's sphere-packing problem)라고 부른다.

이 문제는 수학자들의 책상위에 근 4세기 동안 풀리지 않은 채로 남아 있었다. 사실 이 문제는 이해하기는 아주 쉬워서 수학사전에서조차 언급되지 않았고 그저 수수께끼 정도로 취급받고 있었다. 그런데 이 문제가 최근에 미국 버클리(Berkeley)에 있는 캘리포니아대학의 시앙(Wu-Yi Hsiang)이라는 수학자에 의해서 풀렸다. 이 문제의 증명을 쓴 원고는 타이핑 용지로 1백쪽 정도라고 한다. 현재 여러 수학자들이 이것이 과연 옳은가를 검토하는 중인데 지금까지는 틀린 곳이 보이지 않고 있다. 증명이 옳다는 것이 판명되면 수학의 역사를 통틀어 대단히 놀라운 업적을 이룩한 것으로 평가될 것이다. 이제부터 이 문제의 근원과 풀이에 대해 알아보자.

케플러의 눈송이연구에서부터

케플러 하면 누구나 천체물리에서 나오는 행성의 운동법칙을 생각한다. 그러나 케플러는 그밖에도 많은 문제를 생각했고 특히 수학적인 모양을 많이 연구했다. 케플러가 구 포장 문제를 처음 생각한 것은 눈송이를 연구하면서 부터였다.

눈은 얼음의 결정체이고 보통 납작한 정육각형 모양을 하고 있다. 그런데 이 정육각형에는 무수한 종류의 아름다운 무늬가 고사리잎 같은 모양으로 새겨져 있다. 이 무늬는 매우 다양해서 어떤 두 결정을 비교해 봐도 똑같지가 않다. 그러나 항상 정육각형의 대칭모양으로 이뤄져 있다. 왜 그럴까. 바로 이 의문을 풀기 위해 케플러는 결정구조에 대한 연구에 착수했다. 그럼으로써 물리학자들이 원자론을 펴기 시작한 때보다 3세기나 앞서서 결정구조에 대해 이해하게 되었다. 그는 그 결과를 1611년에 발표했는데 거기서 눈 결정의 모양은 물질의 내재적인 원인에 의해 형성되는가 아니면 어떤 외부의 힘에 의해서인가 하는 근본적인 문제를 제기하고 있다.

이 문제의 답으로 그는 공간을 꽉 채울 수 있는 입체를 제안했다. 즉 다각형을 면으로 가진 다면체를 차곡차곡 쌓으면 공간에 어떤 틈을 허용하지 않고 꽉 채울 수 있는 것을 말한다. 케플러는 이런 성질을 갖는 다면체를 새로 하나 찾아냈다. 이것은 12개의 면으로 이뤄져 있고 각 면이 마름모꼴이기 때문에 마름모꼴12면체(rhombic dodecahedron)라고 한다(그림1).

그는 이 발견에 대해 석류를 예로 들어 다음과 같이 말하고 있다.

"잘 자란 석류를 쪼개 보면 속이 여러 개의 방으로 나뉘어 있는데 이 방들은 모두 일정한 모양을 하고 있다. 석류속의 이러한 모양은 왜 생기는 것인가…. 석류가 원래 이런 성질을 갖고 있는 것은 아니다. 이 방들은 자라기 시작할 때에는 물론이고 자라는 동안에도 동그랗지만, 껍질이 딱딱해지고 속이 꽉 들어찬 다음에는 나머지 공간을 채워나감으로써 일정한 모양이 된다."

케플러는 자연현상에서 일정한 모양이 나타나는 이유를 이렇게 설명했다. 즉 입자들이 일정한 방식으로 공간을 채워 나가기 때문이라고 결론지었다. 그는 석류뿐만 아니라 벌집이나 눈송이 또는 다른 결정체에도 마찬가지로 적용할 수 있다고 생각했다.
 

가장 능률적으로 쌓으려면
 

케플러는 평면 위에다 구를 늘어놓는 방법에는 두가지가 있음을 알아냈다. 하나는 바둑판 모양으로 수직으로 늘어놓는 방법이고, 다른 하나는 (그림2)처럼 정삼각형 모양으로 늘어놓는 방법이었다. 이것을 공간에 쌓아올리는 방법도 마찬가지로 수직으로 쌓거나 엇갈려 놓는 등 여러가지 방법이 가능하다.

간단히 생각해 보면 다음 이야기하는 네가지 방법이 가능할 것으로 보인다. 케풀러는 이중에 두가지 방법은 결국 매한가지 방법이라는 것을 알아냈고 따라서 실제로는 세가지 방법이 있음을 밝혀냈다. 이 방법들을 자세히 알아보자.

첫번째 방법, 즉 평면에 수직으로 늘어놓은 구들을 다시 수직으로 올려 쌓는 방법은 절대로 효율적인 방법이 아니다. 이 방법을 적용한 후 각 구의 중심들을 연결하면 정육면체의 꼭지점들을 이룬다.

두번째 방법은 상점에서 진열할 때나 상자 안에 넣을 때 자주 활용하는 방법이다. 쉽게 말해 평면 위에 한층을 바둑무늬로 늘어놓은 뒤 그 다음층은 아래층의 네개의 구가 만드는 틈 위에 엇갈려 올려놓아 바둑무늬층을 만들어 나가는 것이다. 한편 평면 위에 정삼각형 모양으로 늘어 놓은 층을 수직으로 쌓아 나가면 두번째 방법과 다를 바 없어진다. 실제로 (그림3)은 두번째 방법대로 쌓은 것이지만 옆면을 밑면으로 보면 단지 삼각형무늬층을 조금 빗되게 위로 쌓은 것임을 알 수 있다.

세번째 방법은 삼각형무늬층을 쌓아나가되 각 구를 바로 아래층의 세 구의 틈에 엇갈려 넣는 방법이다.

이 세 방법을 각각 입방격자 육각형격자 면심입방격자라고 부른다. 이 격자꼴로 놓인 구들이 비어있는 틈쪽으로 점점 더 자라 공간이 완전히 채워지는 경우를 상상해 보자. 아마도 입방격자에서는 정육면체들이 생기고, 육각형격자에서는 육각기둥들이 생기며, 면심입방격자에서는 케플러의 마름모꼴12면체가 생기게 될 것이다.

그러면 왜 석류속의 방들은 마름모꼴12면체가 되는가. 이에 대해 케플러는 석류의 씨들이 자라면서 빈 틈을 비집고 들어가며 게다가 쉽사리 자리를 옮길 수 있어서 공간을 낭비하지 않기 때문이라고 말하고 있다. 아울러 그는 이 방의 중심들이 면심입방격자를 이루므로, 따라서 이 격자야말로 공간에 구를 가장 빽빽하게 집어 넣을 수 있는 방법이라고 주장했다.

케플러의 이런 설명은 대부분의 사람들에겐 충분했을지 몰라도 수학자들에게는 그렇지 못했다. 수학자들로부터 이 방법이 가장 능률적으로 구를 쌓는 방법이라는 인정을 받으려면 석류가 자라는 것을 관찰하는 것만으로는 충분치 않고, 이 방법이 다른 모든 방법에 비해서도 능률적이라는 논리적인 설명(증명)이 있어야 했다.

사실 평면에서 원을 가장 능률적으로 쌓는 방법이 정삼각형 모양으로 늘어놓는 것임도 1892년에 와서야 비로소 증명됐다. 그러면 문제를 좀 자세히 살펴보기로 하자.
 

공을 쏟은 뒤 흔들어서
 

여기서 가장 능률적이라고 하는 뜻은 무엇인가 사실 이것은 상자 같은 유한한 공간을 채울 때 되도록 빈틈없이 쌓아가는 것을 뜻하는 게 아니라 무한한 공간을 다 채운다고 할 때 가장 능률적인 방법을 말한다. 상자에 과일을 담아본 사람이면 누구나 상자의 크기에 따라 과일을 '능률적으로' 넣는 방법이 달라진다는 것을 알고 있다. 이처럼 유한한 공간을 가급적 빽빽하게 채우는 문제는 상자의 크기와 모양에 따라 답이 제각기 달라지므로 이론이랄 것이 전혀 없는 상태다.

그려면 무한한 공간에서의 능률은 어떻게 따지는가. 물론 평균밀도가 가장 높은 것이 가장 능률적인 것이다. 무한한 공간에 있는 무한히 많은 공의 밀도라고 해서 (무한대)/(무한대)로 쓸 수는 없다. 따라서 매우 큰 상자모양이나 공모양의 안쪽에서 평균밀도를 계산한 후에 상자나 공의 크기가 점점 커져 무한대로 갈 때 이 평균밀도의 극한값을 공간전체에서의 평균밀도라고 보면 된다.

평면에서 원을 바둑판모양과 정삼각형모양으로 각각 채울 때 밀도가 얼마인지를 계산해 보면 재미있을 것이다. 3차원 공간에서의 구의 밀도를 계산하려면 평면일 때 보다는 조금 머리를 더 써야 할 것이다. 대체로 입방격자일 때는 구의 밀도가 π/6=0.5236, 육각형격자일 때는 π/3√3=0.6046이고, 면심입방격자일 때는 π/3√2=0.7404가 된다.

그러면 자 "이들 보다 더 밀도가 큰 배열이 가능할까?"하는 것이 문제다. 만일 규칙적인 배열을 한다면 더 밀도가 커질 가능성은 거의 없어 보인다. 구들을 불규칙적으로 쌓으면 밀도가 반드시 적어진다고 얘기할 수도 없다.

무한한 공간에 수없이 많은 구들을 늘어놓는 방법을 각각 따질 수는 없다. 그러나 만약 구들이 가장 효율적으로 쌓여 있다면 그 어느 부분에서 구를 움직여도 밀도가 높아지게 할 수는 없을 것이다. 여기서 가장 먼저 이런 생각을 해 볼 수 있다. 어느부분에서도 그 부분만의 구를 움직여서는 밀도가 증가하지 않는(즉 밀도가 극대가 돼 있는)그런 배열이 가장 효율적인 배열들이 아닐까. 즉 밀도가 극대가 되는 배열들이 모두 최대밀도를 갖지 않을까.

만일 그렇다면 문제는 비교적 쉽게 풀린다. 그러나 실험을 통해 이 방법은 가능성이 희박하다는 것을 알게 되었다. 크기나 무게가 균일한 작은 공들을 커다란 통에 마구 쏟아 부어서 채운 뒤 신나게 흔들어 보자. 다시 말해 공을 조금씩 움직여도 더 이상 밀도를 높일 수 없는 상태로 만들어 보자. 흔히 이 상태의 밀도가 극대와 가깝다고 생각하기 쉽지만 이때의 밀도는 상당히 낮은 경우가 많다. 실제로 스코트(G.Scott)라는 사람이 마구잡이로 공을 채워 보았는데 평균밀도가 0.6366을 넘는 경우가 없었다. 따라서 평균밀도가 극대가 되는 무질서한 배열을 통해서는 최대밀도를 이끌어내지 못할 가능성이 크다. 그렇다면 이제 새로운 방법을 생각하지 않으면 안된다.
 

수학과 물리학의 만남

한편 1831년 가우스는 평면에서 구들의 격자가 이루는 배열중에서는 정삼각형 모양으로 배열된 경우가 가장 효율적임을 증명했다. 곧 이어서 그는 3차원의 격자배열 중에서는 면심입방격자배열이 가장 효율적임을 밝혔다(여기서 격자라 하면 평면이나 공간에서 규칙적으로 배열된 그물망 같은 형태를 말한다). 가우스는 이것을 증명하는 과정에서 그당시 최첨단 수학인 라그랑즈(Lagrange)의 정수에 관한 이론과 시버(Seeber)의 정수론중 부등식 등을 활용했다. 그러나 당시에는 규칙이 없는 배열에 대해 접근하는 방법이 전혀 마련돼 있지 않았다.

1900년에 이르러 힐버트(Hilbert)는 그의 유명한 '20세기를 주도할 미해결 문제 23개'의 18번째로 이 문제를 제시하기에 이르렀다. 이중에서 많은 문제들이 풀렸으나 18번 문제는 오래도록 풀리지 않고 사람들의 머리속에 희미하게 남아 있었다.

물론 그 동안에도 많은 사실이 알려졌다. 특히 케플러의 구포장 문제가 고차원에서 어떻게 적용되는가를 연구하면서부터 문제 자체에 대한 심각한 회의가 던져지기도 했다. 차원이 1천차원을 넘어서면 가장 밀도가 높아지는 방법은 결코 격자꼴이 아니라는 것이 밝혀졌기 때문이었다. 그래서 수학자들은 거꾸로 구를 배열할 때 밀도가 제 아무리 커봐야 어떤 수를 넘지 못한다고 하는 평균밀도의 상한(upper bound)을 계산했다. 이것도 0.7797에서 시작해 (1958년) 1986년에는 0.77836까지 평균밀도가 낮아지게 되었지만 케플러의 문제를 해결하는데는 별 도움을 주지 못했다.

이때에 맞춰 시앙은 이 문제의 해결책을 내놓았다. 그는 캘리포니아대학에 새로이 개설된 고전기하 강의를 맡은 것을 계기로 이 문제와 씨름하게 되었다. 그는 '한 구의 주변에 다른 구들이 어떤식으로 배열돼 있어도 이 구들을 나누는 평면들이 만드는 다면체 방에서 구의 평균밀도가 0.7547(방이 마름모꼴12면체일 때의 평균밀도)를 넘지 않는다'는 문제를 먼저 생각했다. 이 문제는 한 구의 주변에서만 따져보는 문제이므로 케풀러의 문제에 비하면 비교적 쉬운 문제다 (물론 아직까지 이 문제도 풀지 못했지만). 이 문제를 시앙은 현대의 추상적인 수학을 쓰지 않고 완전히 고전기하학(특히 구면기하학)의 힘으로 풀 수 있었다(대학 학부수준의 수학실력만 있으면 누구나 풀고 이해할 수 있다는 뜻이다).

이로써 공간에서 구의 평균밀도의 상한이 0.77836에서 0.7547로 낮아졌을 뿐만 아니라, 이 결과와 '준 대역적' 평균밀도라는 개념을 사용, 케플러의 문제까지도 풀 수 있었다. 아직 검토가 끝나지는 않았지만 수학자들은 시앙의 풀이에 큰 잘못은 없을 것이라고 믿고 있다.

이 문제가 풀림으로써 물체의 분자적인 구성에서 가장 근본적이고 중요한 문제가 풀린 것이라고 할 수 있다. 아울러 여러가지 다른 종류의 분자들이 이루는 결정구조를 수학적으로 규명하는 작업이 한결 쉬워졌다고 볼 수 있다. 한편 양자론을 전공하는 물리학자들이 결정의 존재이유를 밝혀낼 수만 있다면 이는 오랫동안 떨어져 있었던 수학과 물리학의 진정한 만남이라고 하겠다.