d라이브러리

조선 후기 지금의 국무총리 격인 영의정에 8번이나 오른 최석정은 생전에 한 권의 수학책을 남겼습니다. 거기에 18세기 최고 수학자로 손꼽히는 레온하르트 오일러보다 먼저 발견한 직교라틴방진이 기록돼 있지요. 한평생 유학만 공부한 정치가가 어떻게 오일러보다 앞설 수 있었을까요? 애초에 마방진을 연구한 이유는 무엇이었을까요?

최석정은 26살 때부터 요직을 두루 거쳐 조선 최고 관직인 영의정까지 오른 정치가입니다. 자신의 생각이 옳다고 생각하면 왕 앞에서도 뜻을 굽히지 않아 내처졌다가 다시 복귀하는 일이 잦았습니다. 그래서 무려 8번이나 영의정에 오르게 되지요. 아무래도 숙종은 꼬박꼬박 말대답하는 최석정이 괘씸하면서도 일만큼은 똑똑하게 해내니 곁에 두었던 것 같습니다.

최석정이 학문에 얼마나 힘썼는지는 저서를 통해 엿볼 수 있습니다. 유학과 관련된 여러 서적을 읽고 나름대로 정리해서 쓴 책은 물론, 훈민정음을 연구한 책, 시와 산문을 엮은 책까지 수 십권의 저서를 남겼습니다. 정치하기도 바빴을 텐데 수많은 책을 쓴 걸 보면 꽤나 부지런한 사람이었던 것 같습니다. 그중 ‘구수략’은 최석정이 쓴 유일한 수학책입니다. 이 책에 그 유명한 ‘직교라틴방진’이 담겨있습니다.

직교라틴방진을 담은 최초의 문헌, 구수략

가로세로 개수가 n개인 빈 칸에 n개의 서로 다른 숫자나 그림이 어느 행이나 열에도 한 번씩만 나오게 배열한 것을 ‘라틴방진’이라 합니다. 이런 라틴방진 2개를 합쳐 놓았을 때도 라틴방진이 된다면 이를 ‘직교라틴방진’이라고 하지요.

최석정은 ‘구수략’의 마지막 권 부록에서 13세기 중국 수학자 양휘가 쓴 ‘양휘산법’에 나온 마방진을 소개하면서, 자신이 발견한 새로운 마방진에 대해서도 이야기합니다. 그중 하나가 직교라틴방진으로 만든 9차 마방진입니다. 지금까지 발견한 것 중 가장 오래된 직교라틴방진이지요. 신기하게도 최석정이 찾은 직교라틴방진은 각 성분의 첫 번째 수에서 1을 빼고 9을 곱한 뒤 두 번째 수를 더하면 가로, 세로, 대각선의 합이 같도록 1부터 n2까지 적은 마방진이 됩니다.

직교라틴방진이 중요한 건 조합론 디자인의 효시로 불리기 때문입니다. 직교라틴방진의 원리는 오늘날 이동통신 시스템이나 반도체칩 설계 같은 분야의 실험을 디자인하는 데 활용하고 있습니다. 실제로 20세기 초 영국의 통계학자이자 유전학자인 로널드 피셔는 4차 직교라틴방진을 이용해 토질이 다른 밭에서 가장 잘 자라는 씨앗과 최적의 비료를 가장 적은 실험횟수로 알아내는 방법을 설계했습니다.

2007년까지만 해도 해외에서는 오일러가 1776년 발표한 내용을 조합론 디자인의 기원이라고 알고 있었습니다. 이후 여러 학자의 노력으로 조합론의 역사를 백과사전식으로 다룬 ‘조합론 디자인 편람’에 최석정의 이름을 올리면서 해외에서도 최석정의 업적을 인정받았지요.

그렇다면 최석정은 왜 마방진을 연구했을까요? 구수략에 담긴 마방진을 보면 하루 이틀 머리를 싸맨 것이 아닙니다. 기존에 없던 새로운 모양의 마방진을 만들어내고, 직교라틴방진의 원리를 스스로 터득해 내려면 적어도 몇 달은 이것만 꼬박 생각했겠죠?

군사 진법을 고안하기 위해서다?

역사를 살펴보면 마방진은 대부분 흥밋거리였습니다. 중국에서는 행운을 부르는 일종의 부적이라고 생각해 마방진을 만들었고, 서양에서도 오락거리로만 여겼습니다. 오일러 이후에나 수학적으로 연구하기 시작했지요. 그렇다면 최석정도 취미로 마방진을 즐겼을까요?

한국수학사를 연구하고 있는 김영욱 고려대 수학과 교수는 “최석정이 살았던 때는 임진왜란과 병자호란으로 국토는 황폐하고, 민심은 혼란스러운 때라 마방진을 즐길 겨를이 없었을 것”이라며, “전쟁의 무서움을 알았던 최석정이 싸움에서 이길 새로운 군사 진법을 찾기 위해 마방진을 연구했을 가능성이 있다”고 주장했습니다. 덧붙여 “아직까지 이를 증명할 확실한 근거는 없다”면서도, “군사학자들에 의하면 17세기 중엽부터 진법에 관한 언급이 많이 나온다”고 설명했습니다.

만약 최석정이 진법을 목적으로 마방진을 연구 했다면 힘이 약한 군사부터 센 군사까지 차례로 번호를 매기고 각 줄마다 수의 합이 같도록 군사를 배치해 줄마다 힘이 같게 만들었을 겁니다. 지수귀문도★처럼 모양이 특이한 배치는 특정 전투에서 사용했을 테고요. 하지만 아직은 이를 뒷받침할 확실한 근거가 없습니다. 한국수학사와 군사학을 연구하는 사람들이 막연하게 추측할 뿐이지요.

지수귀문도★ 육각형 9개를 거북의 등껍질 모양으로 연결한 뒤 꼭짓점에 1부터 30까지 수를 배치한 것. 이때 육각형을 이루는 여섯 개 수의 합이 모두 같다.

김 교수에 따르면 새로운 군사 진법에 대해 고민하던 최석정이 ‘양휘산법’에서 마방진을 다룬 것을 보고, 진법(陣法)도 ‘진’이고, 방진(方陣)도 ‘진’이니 관련지어 생각한 것 같답니다. 사실 마방진이 수학책에 실린 것도 신기한 일이긴 합니다. 최석정보다 앞서 양휘가 ‘양휘산법’에 소개하긴 했지만 서양까지 확대해 살펴봐도 오락거리로 여겼던 마방진을 수학책에 담은 건 매우 드문 일이니까요.

수학도 유학의 하나

그렇다면 애초에 최석정은 왜 수학책을 썼을까요? ‘구수략’은 똑같이 17세기에 쓰인 ‘산학원본’, ‘묵사집산법’과 비교해봤을 때 수준이 높다고 볼 수는 없습니다. 사칙연산의 원리, 두 수를 비교해 서로 같은 수를 만드는 방법과 같이 기본적인 수 연산에 대해서만 이야기하니까요. 그래도 영국의 수학자 존 네이피어가 발명한 계산법의 원리까지 소개한 걸 보면 최석정은 자신이 접할 수 있는 모든 이론을 섭렵하려고 애쓴 걸로 보입니다.

김 교수는 “토지를 측량하고, 세금을 계산하는 일을 했던 중인 산학자는 문제 푸는 방법에 집중해서 수학을 공부했다면, 양반인 최석정은 수학의 개념과 원리에 관심을 가진 것”이라고 설명했습니다. 유학을 만든 공자는 공부해야 할 학문 여섯 가지 중 하나로 수학을 꼽았기 때문에 성현의 말을 중요하게 여긴 유학자는 수학 역시 게을리 하지 않았으리라는 겁니다.

조선시대 양반도 수학 공부했다!

실제로 세종대왕은 공자가 중요하다고 했다면 이유가 있을 것이라 여기고 수학을 공부했다죠. 경종 때 영의정을 지낸 조태구는 동·서양 수학을 아우르는 내용을 ‘주서관견’이라는 책에 담았습니다. 서양의 기하 증명법을 이 책에서 처음으로 소개했지요. 중국에서 들여온 산학서 중에서 어려운 개념만 골라 우리말로 좀 더 쉽게 해설한 책인 ‘산학원본’ 역시 지방 양반 관료인 박율이 썼습니다.

조태구야 영의정까지 지냈으니 원하면 조선에 들어온 중국 수학책을 마음대로 볼 수도 있고, 중국에 가는 사람을 시켜 책을 사올 수도 있었습니다. 지방에 살던 박율은 책 하나 구해서 보는 것도 쉽지 않았기 때문에 아마도 함께 공부하는 사람이 있었을 겁니다. 조선시대에는 중국에서 책 한 권이 들어오면 손으로 베껴 써서 돌려봤습니다. 이 책을 보는 사람이 많지 않는 한 지방까지 전해지지 않지요.

또 조선에 들어온 중국 수학책에는 문제와 답만 있을 뿐 풀이 과정이 모두 생략돼 있습니다. 그런데 ‘산학원본’에는 어려운 문제도 풀이가 자세히 담겨 있었습니다. 17세기 최고의 산학자로 꼽히는 경선징의 ‘묵사집산법’에도 고차 방정식을 푸는 방법 까지는 나오지 않는데, ‘산학원본’에는 10차 방정식의 풀이까지 나옵니다. 불과 몇십 년 만에 박율 혼자서 이 모든 걸 깨우쳤다고 하기는 어렵습니다. 그래서 학자들은 수학을 공부한 양반이 훨씬 많을 것이라고 추정합니다.

조선 후기로 가면 실용적인 측면을 부각시킨 서양 수학이 중국을 통해 넘어 오면서 실학자의 마음을 사로잡습니다. 이규경은 ‘기하원본변증설’에서 기하학의 쓰임에 대해서 설명했고, 남병길과 남병철 형제는 수학, 천문학 책만 30권을 넘게 썼습니다. 최한기는 관리를 채용할 때 합리적 사고능력을 알아보기 위해 수학 시험을 쳐야 한다고 주장하기도 했지요.

이처럼 여러 양반이 유학의 하나로 수학을 공부했습니다. 최석정만 특이하게 수학을 공부한 게 아니란 말이죠. 우리는 아직 최석정에 대해 많은 것을 알지 못합니다. 다만 여러 연구를 통해 그분의 생각을 읽으려는 노력을 하고 있습니다. 그래도 한 가지 분명한 건 나라의 발전을 위해 무엇이든 배우고 익히려는 마음가짐을 가진 분이었다는 겁니다. 그것이 결실을 맺어 오일러를 앞지르는 결과를 내지 않았을까요?