어려운 문제 중에서 수학과 관련이 없는 문제를 ‘퍼즐’이라고 한다. 수학적인 고려를 하지 않고 문제를 만들었다는 소리다. 이런 퍼즐이 어떻게 수학과 관련되는 걸까?
어떤 문제든 수학적으로 사고하는 수학자라면 답을 알고 있지 않을까? 수학자는 어떤 관점에서 퍼즐을 푸는지 2006년 필즈상 수상자인 테렌스 타오의 해결 전략을 통해 살펴보자.
초콜릿 퍼즐
가로가 10칸, 세로가 6칸인 초콜릿을 두고 두 사람이 게임을 한다. 자기 차례가 되면 초콜릿 선을 따라 세로 혹은 가로로 쪼개 한 쪽을 먹고 다른 한 쪽을 상대방에게 준다. 마지막 1조각을 먹는 사람이 질 때 필승 전략이 있을까?
1 경우의 수 좁혀 전략 찾기
먼저 초콜릿을 쪼개는 사람을 A, 두 번째로 쪼개는 사람을 B라 가정한다. 6×10 초콜릿을 쪼개는 방법은 일일이 헤아리기에는 너무 많으므로, 경우의 수를 좁혀 규칙을 찾는다. 여기서는 3×3 초콜릿을 나누는 방법을 따져보자(아래 표 참고).
모든 경우를 헤아려 본 결과 상대방이 실수하지 않는 한 딱 한 경우를 제외하고 3×3 초콜릿을 가진 A가 게임에서 진다.


무조건 이기게 되는 경우가 있을까? 이를 따져보자. 1×1 초콜릿을 갖게 되면 무조건 진다. 그런데 이 말은 1×n(또는 n×1, n>1) 초콜릿을 받아 쪼갤 수 있다면 무조건 이긴다는 소리다. 초콜릿을 쪼개 1×1 초콜릿을 상대방에게 줄 수 있기 때문이다.
2×2 초콜릿을 받으면 어떨까? 2×1(또는 1×2) 초콜릿을 상대방에 주게 돼 무조건 진다. 따라서 무조건 이기려면 2×n(또는 n×2, n>2) 초콜릿을 받아 상대방에게 2×2 초콜릿을 주면된다. 앞에서 3×3 초콜릿을 받은 A가 유일하게 이긴 경우는 B가 필승 전략인 2×2 초콜릿으로 잘라 상대방에게 넘기지 않았을 때다. 즉 실수를 했을 때다. 결국 상대방이 실수하지 않는다는 가정 아래에서 3×3 초콜릿도 받으면 무조건 지게 되니까 3×n(또는 n×3, n>3) 초콜릿이 오면 무조건 이긴다.
3 귀납적 추론하기
지금까지 밝혀진 바에 의하면 무조건 이기게 되는 경우는 1×1, 2×2, 3×3 초콜릿으로 잘라 넘길 때다. 규칙에 의해 4×4초콜릿도 무조건 이기게 되지 않을까? 경우를 따져보면 바로 무조건 이기게 된다는 걸 알 수 있다.
이로부터 무조건 이기게 되는 경우가 n×n밖에 없다고 추측할 수 있다. 따라서 초콜릿을 n×n 정사각형으로 잘라 상대방에게 넘기면 무조건 이긴다.


퍼즐 풀면 수학 실력 는다!
수학자나 되니까 퍼즐도 수학 문제처럼 푸는 거라고 생각할 수 있다. 그렇다면 평범한 사람과는 상관 없는 얘기가 아닐까? 방승진 아주대학교 수학과 교수는 “퍼즐을 풀기만 해도 수학 실력이 오를 수 있다”고 주장했다. 퍼즐을 풀기 위해 다방면으로 생각하면 머리가 좋아지고 수학 실력이 오른다는 뜻이다. 반면 아무리 애를 써도 수학 실력이 제자리인 이유는 “유형별로 반복적인 계산만 반복하기 때 ”이라고 꼬집었다. 반복학습으로는 머리를 많이 쓰지 않아 어려운 문제를 풀 힘을 기를 수 없다는 설명이다.
실제로 방 교수는 집안 형편이 어려워 초등학교 2학년부터 5학년까지 약 3년간 학교를 다니지 않았다. 그렇다고 집에서 공부했던 것도 아니다. 자연을 벗 삼아 뛰어놀거나 신문이나 잡지에 실린 퍼즐과 바둑책을 보는 게 전부였다. 하지만 3년 뒤 학교에 돌아갔을 때 수학 공부를 따라가는 것이 그리 어렵지 않았다. 바둑과 퍼즐로 문제를 해결하는 힘을 길렀기 때문이다.
특히 바둑의 ‘복기’가 생각하는 힘을 기르는 데 큰 도움이 됐다고 한다. 복기란 게임이 끝나고 실수한 데는 없는지, 돌을 다르게 뒀더라면 결과가 어떻게 달라졌을지 알아보기 위해 처음부터 돌을 다시 놓는 것이다. 방 교수는 “퍼즐과 수학 문제를 풀 때도 복기처럼 반성적 사고를 하는 것이 중요하다”며, “끊임없이 질문하면서 생각해야 문제해결력이 생긴다”고 밝혔다.
퍼즐을 수학문제로 바꾼다면 수학 영재!
사실 누구나 타오처럼 퍼즐을 푸는 데 수학적 전략을 세울 수 있는 건 아니다. 그런 능력을 갖췄다면 수학자가 될 자질이 있다고 전문가들은 여긴다. 그래서 방 교수는 제2회 민족사관고등학교 입시 문제로 악마의 퍼즐을 출제했다.
그 배경에는 재미있는 이야기가 있다. 지금은 미국 매사추세츠공과대학교에서 수학을 가르치고 있는 신석우 교수가 당시에는 고등학생 수학영재였다. 어렵기로 악명이 높은 악마의 퍼즐을 신 교수가 30분 만에 풀었다는 소식에 방 교수는 갑기가 승부욕이 발동했다. 이 기록을 깨고 싶었던 것이다.
하지만 실패했고, 그 대신 수학적 성질을 찾기로 마음먹었다. 그 결과 무리수 상등★이라는 성질을 이용해 악마의 퍼즐을 만들 수 있는 직사각형 모양이 단 하나라는 걸 알아냈고, 이를 토대로 민족사관고 입시 문제를 만들었다.
무리수 상등★ 두 무리수가 같기 위해서는 유리수는 유리수 부분끼리, 무리수는 무리수 부분끼리 같아야 한다는 조건.
방 교수는 “답을 보면 쉬워도 막상 풀려고 하면 답을 찾기 어려운 문제였다”면서, “퍼즐에서 누구나 발견할 수 있는 수학적 성질을 찾다보면 남들은 찾지 못하는 성질까지 발견하게 된다”고 말했다. 덧붙여 “수학을 잘하고 싶다면 퍼즐을 즐기고, 한 걸음 더 나아가 수학 문제로 영역을 확장하는 연습을 하라”고 조언했다.

▼관련기사를 계속 보시려면?
Intro. 즐거운 퍼즐 파티 매스잼
Part 1. 웰컴 투 매스잼
Part 2. 퍼즐 즐기면 수학 실력 업!
Part 3. 수학으로 만든 보드게임
[인터뷰] 매스잼 원해요! 퍼즐 수집가 강금만