d라이브러리

남녀가 공부를 같이하다 보면 사랑이 싹트기도 한다. 1930년대 헝가리에서 수학을 공부하던 두 남녀는 수학 문제를 함께 고민하며 사랑을 키웠다. 

주인공은 헝가리계 호주 수학자 클라인 에스테르와 세케레시 죄르지. 둘은 한 수학 토론 모임에서 만났다. 1932년 어느 날 클라인이 자신이 만든 문제를 모임에서 소개했고, 문제를 풀 시간을 준 뒤 자신의 증명법을 설명했다. 이를 유심히 듣던 세케레시와 헝가리의 수학자 에르되시 팔은 클라인의 문제를 일반화해서 연구했고, 1935년 논문으로 발표했다. 그동안 클라인과 세케레시는 사랑에 푹 빠졌고, 2년 뒤에는 결혼한다. 옆에서 이 모습을 지켜본 에르되시가 이 문제의 이름을 ‘해피엔딩 문제’라고 지었다.

해피엔딩 문제는 볼록 n각형이 그려지려면 점을 최소 몇 개 찍어야 하는지 묻는 것이다. 먼저 종이 위에 점들을 아무 생각 없이 무작위로 찍는다. 이렇게 점을 찍으면 대개 질서라고는 찾아볼 수 없지만, 아주 우연히 세 점 이상이 한 직선 위에 일렬로 놓인다면 규칙을 발견할 수 있다. 하지만 이것은 통계적으로 매우 낮은 확률이기 때문에 일어나지 않는다고 가정한다. 따라서 어떤 세 점도 한 직선 위에 놓이지 않을 때를 ‘일반적인 위치’에 있다고 하자.

만약 종이 위에 점 4개가 있다면, 점들을 연결해 사각형을 그릴 수 있다. 그런데 사각형이라고 모두 같은 것은 아니다. 바로 화살촉 모양의 사각형이다. 사각형 안에 어떤 두 점을 선택해 직선으로 연결했을 때 그 직선이 사각형 안에만 존재하면 우리가 아는 사각형 형태가 되는데, 이를 ‘볼록 사각형’이라고 한다. 그렇지 않으면 ‘오목 사각형’이라고 한다.

클라인이 제기한 문제와 그 해법 

1932년 클라인은 적어도 점을 5개 찍어야 볼록 사각형을 만들 수 있다고 밝혔다. 이를 증명하기 위해서는 먼저 5개의 점을 무작위로 찍은 뒤, 이중 세 점을 이어 삼각형을 만든다.

이제 볼록 오각형으로 넘어가 보자. 항상 볼록 오각형이 만들어지려면 점을 몇 개 찍어야 할까? 볼록 오각형만 돼도 헤아려야 하는 경우의 수가 많아 구하기 쉽지 않다. 하지만 수학자들은 노력 끝에 볼록 오각형과 볼록 육각형의 경우에는 각각 9개와 17개의 점을 찍어야 한다는 걸 증명했다. 

그러나 볼록 칠각형 이상에서 필요한 점의 개수를 아직 구하지 못했다. 다만 1935년 세케레시와 에르되시는 해피엔딩 문제에 항상 답이 있다는 것을 증명했다. 1961년에는 n이 3보다 크거나 같을 때 볼록 n각형이 그려지려면 최소 점의 개수가 1 + 2^{n - 2}보다 작거나 같다고 추측했다. 이를 ‘에르되시-세케레시 추측’이라고 부르며 이 역시 아직 미해결이다.