우리조상들은 나뭇가지로 2천년도 넘게 셈을 해왔다.주먹구구 같은 셈법으로 세계 최고의 달력을 만들고,고차방정식을 풀었다.전통의 산가지 셈법의 원리를 배워보자.
(문제)크고 작은 두개의 정사각형이 있다. 두 정사각형의 넓이의 합은 4백68평방자이고, 큰 정사각형의 한 변은 작은 정사각형의 한 변보다 6자 만큼 길다. 두 정사각형의 변의 길이를 각각 구하시오.
조선 후기 수학자 홍정하(1684-?)의 ‘구일집’(九日集)에 나오는 문제이다. 지금으로 치면 연립 2차 방정식으로 풀어야 할 문제이다. 당시 중국에서 하국주라는 사람이 우리나라에 사신으로 와 있었다. 하국주는 수학에 조예가 깊다고 알려져 있었는데, 조선에서도 수학자로 이름이 높았던 홍정하와 유수석이 하국주를 찾아갔다. 하국주는 조선 학자의 수학실력을 알아보기 위해 시험삼아 문제를 냈다. “3백60명이 각각 1냥8전씩 내놓으면 총합은 얼마인가?” 하는 식의 쉬운 문제에서부터 점점 어려운 문제로 옮겨갔다. 10여개의 질문이 계속돼도 홍정하가 아무 어려움 없이 척척 풀어내자, 하국주는 ‘설마 이 정도 어려운 문제를 풀 수 있을까’ 하며 2차 방정식 문제를 낸 것이다.
방정식은 중급 문제
홍정하는 다른 문제들과 마찬가지로 손가락 만한 길이의 나뭇가지 몇개씩을 흩어놓더니 능숙한 손놀림으로 집었다 놓았다 하며 마침내 답을 냈다. “큰 정사각형의 한 변의 길이는 18자이고, 작은 정사각형의 한 변은 12자입니다.” 그러자 하국주가 물었다. “수학의 여러 원리 중에서 방정(方程, 미지수를 가진 방정식 풀이)과 정부(正負, 음수와 양수 계산)가 가장 어려운데 당신들은 이것을 잘 알고 있습니까?” 그러자 홍정하가 대답했다. “방정식 풀이는 중간 정도 수준에 속하는데 뭐 그리 어려운 게 있겠습니까?” 홍정하가 다시 나뭇가지를 가지고 계산하는 방법을 시범 보이자 하국주는 말했다. “중국에는 이런 계산법이 없습니다. 이것을 얻어 가지고 돌아가서 중국사람들에게 보이고 싶습니다.” 그는 나뭇가지 40여개를 홍정하에게 얻어 가지고 중국으로 돌아갔다.
당시 하국주는 홍정하와 유수석에게 20여개의 문제를 냈으나 조선의 수학자들은 2-3문제를 빼고는 모두 나뭇가지 계산으로 풀어냈다. 그들이 풀지 못한 문제는 삼각함수의 사인(sine)값이 필요한 문제뿐이었다. 당시 중국에서는 서양의 선교사들을 통해 서양수학이 전해져 삼각함수표가 알려져 있었지만, 조선에서는 아직 전해지지 않고 있었기 때문이었다.
그런데 중국 수학자도 감탄한 나뭇가지 계산법은 어떤 것일까. 오늘날 고등학교 1학년은 돼야 풀 수 있는 2차 연립방정식을 필기도구도 없이 종이와 연필도 없이 순전히 나뭇가지 몇개로 풀어내는 것은 무슨 조화일까.
조선에서 인기 없던 주판셈
셈은 문화와 문명이 있는 곳이면 어느 곳에나 필요하다. 어린아이들이 셈을 배울 때 가장 먼저 손가락을 사용한다. 조금 자라서 글씨를 쓸 수 있게 되면 필산(筆算)을 한다. 그리고 어른이 돼 고등 수학을 배우고 복잡한 계산이 필요할 때는 컴퓨터나 전자계산기를 사용한다. 마찬가지로 세계 각지마다 시대마다 독특한 셉법들이 있었다. 노끈을 묶어 매듭의 수로 셈을 하는 방법, 나무판에 금을 긋는 방법, 주판을 사용하는 방법 등이 그것이다.
얼마 전까지 은행원들은 주판(珠板)을 사용해서 셈을 했다. 지금은 전자계산기 때문에 주판 셈을 하는 모습을 보기 힘들지만, 나이가 많은 어른들 중에는 아직도 전자계산기보다 주판셈이 훨씬 쉽다고 고집하는 사람들도 많다. 주산(珠算), 즉 주판셈은 최근까지 우리에게 가장 익숙하고 널리 쓰인 셈 도구였다.
그런데 우리나라에서 이 주판셈의 역사는 생각보다 매우 짧다. 19세기 후반 개화기까지도 거의 쓰이지 않았으니 고작 1백년밖에 안 되는 셈이다. 중국에서는 주판셈이 남북조 시기부터 수학서에 소개됐고, 이미 16세기 후반쯤에는 주판셈이 셈법의 주류를 이루었다. 상업인들이나 국가기관에서의 셈은 거의 주판셈으로 이루어졌다. 수학자 김용운 교수에 따르면, 1593년에 간행된 ‘산법통종’(算法統宗)이라는 책은 ‘주산의 책’ 결정판으로 당시 중국에서 베스트 셀러가 됐다고 한다. 또한 이것이 우리나라를 통해 일본에 전해지면서 일본에서도 주판셈이 널리 쓰이게 되는 계기가 됐다.
그러나 중국과 일본에서의 주판셈이 인기가 있었음에도 불구하고 유독 우리나라(조선)에서는 주판셈이 거의 쓰이지 않았다. 앞의 대화 내용으로 알 수 있듯이 우리나라에서는 18세기까지도 나뭇가지 셈을 주로 사용하고 있었다. 원래 나뭇가지 셈은 고대 중국에서부터 사용돼 오던 셈법이며, 우리나라에서도 삼국시대부터 이미 사용된 것으로 추측된다. 그런데 중국에서는 주판셈을 사용하다보니 나뭇가지 셈을 잊어버렸고, 이 때문에 하국주는 홍정하의 셈을 신기하게 바라보았던 것이다.
0과 음수도 표시
나뭇가지 셈은 중국에서 수입해 2천년도 넘게 사용해온 우리나라 전통의 셈법이었다. 기본적인 원리는 나뭇가지로 숫자를 표시하고 이를 이용해서 4칙 연산을 해내는 것이다. 셈에 사용하는 나뭇가지를 주(籌), 산목(算木), 산가지 등으로 부르고 셈하는 법을 주산(籌算), 산목산(算木算), 산가지 셈이라고 한다. 고대에는 대나무를 잘라 만들었다고 하는데, 조선 후기에 사용된 것으로 현재 한양대 박물관에 소장돼 있는 산목은 목재 재질에 삼각기둥으로 모가 나 있다. 길이는 약 11cm 정도. 둥글게 만들면 셈하면서 굴러다니기 때문에 세모꼴로 만든 것으로 생각된다.
산목으로 숫자를 나타낼 때는 자릿수에 따라 산목의 방향을 엇갈리게 놓아 서로 섞이지 않게 한다. 일의 자리를 세로로 놓고 10의 자리는 가로, 다시 백의 자리는 세로, 천의 자리는 가로로 놓아가는 것이다. 소수점 아래도 자릿수에 맞추어 종횡을 번갈아 놓는다. 5까지는 산목의 개수가 곧 숫자이지만 6 - 9까지는 하나의 산목을 직각으로 두어 5를 만들고 나머지를 놓는다.이들을 전체적으로 표시해 보면(그림1)과 같다.
이제 이것을 이용하면 인도아라비아 숫자와 똑같은 방식으로 어떤 숫자든지 나타낼 수 있다. 0과 음수는 어떻게 나타낼까. 0은 인도에서 처음 만들어졌다고 알려져 있지만, 중국이나 우리나라에서는 0이라고 표시하지 않았을 뿐, 그 개념은 오래 전부터 알려져 있었다. 산목으로 0을 나타내는 방법은 0에 해당하는 자리를 비워두면 됐다. 또한 음수의 개념도 이미 중국 한나라 때의 수학책인 ‘구장산술’에 나타난 것으로 동양 수학에서는 매우 상식적인 것이었다. 산목으로 음수를 나타낼 때는 숫자의 마지막에 산목 하나를 비스듬히 놓아두면 된다.
셈을 할 때는 바둑판 모양의 산판(算板, 산목을 늘어놓는 판)을 이용했다. 산판에는 가로축에 자릿수를, 세로축에는 숫자의 성격을 나타내는 표시를 해두었다. 덧셈 뺄셈에서는 셈이 간단하므로 형식에 그리 구애받지 않았던 것으로 생각된다. 그러나 곱셈에서는 원래의 수(맨 윗줄)-곱하는 수(셋째 줄)-계산결과(가운데 줄), 그리고 나눗셈에서는 원래의 수(가운데 줄)-나누는 수(셋째 줄)-계산 결과(첫째 줄)를 각 줄에 분리해 나타내는 형식을 지켰다.
간단한 덧셈과 뺄셈은 숫자를 다 놓지 않고 처음 숫자만 놓고 나중 숫자를 더하거나 빼서 곧바로 결과를 낼 수도 있었다. 7에 9를 더한다고 할 때 먼저 7을 놓고 암산으로 결과가 16이 된다는 것을 아니까 처음 7을 변형시켜 6으로 만들어 일의 자리에 놓고 다시 자릿수를 올려 10의 자리에 1을 놓아주면 된다. 뺄셈에서도 14- 9처럼 자기 자릿수에서 부족한 것은 앞자리에서 꾸어와서 계산하면 된다. 계산이 복잡한 큰 수의 덧셈과 뺄셈 계산은 윗줄에 원래의 수를 놓고, 한 줄을 비워 셋째 줄에 더하거나 뺄 수를 놓는다. 그리고 결과는 상하의 수를 계산해서 가운데 줄에 놓으면 된다. 덧셈과 뺄셈은 단 한번 산목을 조작해서 결과가 나오므로 누구나 쉽게 이해하고 계산할 수 있다. 방식 또한 오늘날의 필산과 별반 차이가 없다.
곱셈과 나눗셈
그러나 곱셈과 나눗셈은 여러 번 계산해야 하므로 상당한 숙달을 필요로 한다. 또한 필산을 주로 하는 현대인에게 매우 어색하게 생각된다. 오늘날의 곱셈은 서로 곱해지는 수를 위에서부터 쓰고 각 자리수마다 곱하는 결과를 자릿수를 맞추어 차례로 아래에 적고 최종적으로 이들을 자릿수별로 모두 합해서 결과를 낸다. 산목산에서도 자릿수별로 곱셈의 결과를 분리하는 것은 같지만 한자리마다 결과를 정산하면서 최종결과를 낸다. 즉 모든 계산 과정이 산목으로 표시돼 남아있는 것이 아니라 한자리의 결과가 다음자리의 계산에 포함돼 최종적으로 결과만 나오는 것이다.
24×16을 계산하는 경우, 규칙에 따라 24를 첫째 줄에, 12를 셋째 줄에 놓는다(그림 2). 단 셋째 줄의 16은 첫째 줄의 어느 숫자와 곱하느냐에 따라 위치를 달리한다. 24의 십의 자리 2와 16을 먼저 곱하기 위해 셋째 줄의 16의 6이 십의 자리에 놓이게 한다. 이는 십의 자리를 먼저 계산하겠다는 뜻이다. 십의 자리끼리 곱한 결과 10×20=200을 가운데 줄에 자릿수를 맞추어 놓는다. 다시 십의 자리 20과 일의 자리 6을 곱한 120을 놓는다. 이 첫번째 결과를 더해 320을 만들어 놓고, 다시 24의 일의 자리 4와 16을 곱한다. 이번 계산은 16을 일의자리와 곱하는 계산이므로 16을 옮겨 6이 일의 자리에 오게한다. 이제 10×4=40와 6×4=24를 더해 64를 가운데 줄에 자릿수를 맞추어 놓는다. 320과 64를 더해 최종 계산 결과 384를 얻는다.
384를 6으로 나누는 경우에는, 가운데 줄에 384를 놓고 셋째 줄에 나누는 수 6을 나눌 자리에 맞게 놓는다. 먼저 처음 백의 자리의 3을 6과 비교하니 수가 모자라므로 셋째 줄의 6은 백의 자리에서 나누지 못하고, 다음 수 8까지 생각해 38(실은 380이다)을 생각하고 나누는 수 6은 십의 자리에 놓는다(6을 8이 있는 십의 자리에 놓았다는 것은 앞의 두 수인 38을 6으로 나누겠다는 뜻이다). 6×6=36<;38을 알고 있으므로 맨 윗줄에 6을 쓴다. 이때 6은 360에 대한 6의 몫이므로 60이다. 그러므로 십의 자리에 6을 쓴다. 지금 나누는 수 6이 십의 자리에 놓여 있으므로 몫도 십의 자리에 놓이게 된다는 것을 알 수 있다. 이제 이미 나누어버린 숫자인 360을 원래의 수 384에서 빼버린다. 산판의 산목들은 윗줄에 60, 가운데 줄에 24가 된다. 다시 24를 보고 6을 일의 자리에 놓고 몫에 4를 놓아 6×4=24를 둘째 줄에서 빼버린다. 둘째 줄에는 나머지 0이 남고 첫째 줄에는 몫 64가 남는다. 이 경우는 나머지가 없이 나누어 떨어지고 있지만 나머지가 있는 경우에는 가운데 줄에 나머지가 남게 된다.
방정식 풀이법 천원술
이런 산가지 셈은 어린이들의 주먹구구처럼 불완전하고 불편해 보일 수도 있다. 하지만 우리에게 익숙하지 않아서 그럴 뿐 이 계산법은 무려 2천년이 넘도록 우리 조상들이 사용해온 방법이다. 필산에 익숙한 현대인들이 보기에는 불편할 것 같지만 어릴 때부터 이를 배워 익숙하게 쓰면 이처럼 편한 방법이 또 없는 것이다.
‘구장산술’이라는 중국의 고전 수학책이 있다. 여기에는 생활에 필요한 수학을 9장으로 나누어 연습문제를 주고 풀이법을 해설해놓았다. 전답의 넓이 계산, 곡물 교역의 비례 문제, 직급에 따른 급료 계산, 돌이나 나무의 부피 계산, 방정식 계산, 피타고라스 정리를 이용한 길이 구하기 등이 그것이다. 그런데 우리 조상들은 이런 모든 수학계산을 산가지 셈만으로 모두 해결하고 아무런 불편 없이 살았던 것이다.
산가지 셈이 수학을 논의하는데 전혀 불편하지 않았고 2천년이 명맥을 지킬 수 있었던 힘은 서두에 언급한 2차 방정식의 풀이에서 경험할 수 있다. 2차 방정식을 근의 공식이나 인수분해 방법으로만 풀어왔던 사람들은 과연 어떻게 산목으로 2차 방정식을 풀어낼까 의아해 할 것이다. 그러나 이것은 중국의 원나라 초기부터 알려진 천원술(天元術)이라는 방법으로 풀어낸다. 미지수 X를 정하는 것을 ‘천원(天元)을 세운다’고 했기 때문에 천원술이라는 이름이 붙었다. 천원술은 미지수가 하나인 경우에 해당하는 고차방정식 풀이법이다. 하국주가 낸 문제는 다음과 같이 식을 세울 수 있다.
${X}^{2}$+ ${Y}^{2}$=468, Y=X+6
이를 정리해서 하나의 식으로 쓰면 이${X}^{2}$+6X -216=0이 된다.
홍정하는 이 방정식을 천원술에 따라 산판 위에 산목으로 배열했다. 상수항은 둘째 줄에, X항은 셋째 줄에, X2항은 넷째 줄에 놓는다. 첫째 줄은 근이 놓일 자리다. 이를 표시하기 위해 산판에는 첫째 줄부터 상(商), 실(實), 방(方), 염(廉)으로 표시돼 있다. 셋째 줄 X항의 숫자와 결합해서 첫째 줄에 근사해를 놓아가면서 둘째줄의 숫자를 줄여나간다. 홍정하는 이런 방식으로 능숙하게 산목을 조작해서 귀신같이 2차 방정식의 근을 구해냈던 것이다.
여기에서 계산의 결과는 산판 위에 산목으로 나타나고 있지만 방정식 풀이의 수학적 원리는 이미 머릿속에 정리돼 있었다는 것을 알 수 있다. 이 천원술의 방법이 수학적으로 어떤 구조를 가지는지에 대해서는 현대 수학자들이 탐구해서 그 원리가 수학적으로 규명됐다. 산가지 셈이 그저 주먹구구가 아니었다는 것이 밝혀진 것이다. 더욱이 우리 조상들은 산가지만 가지고 세제곱근을 구할 수 있었고, 4차방정식도 풀 수 있었다. 그리고 이러한 수학지식이 바탕이 돼 빛나는 문화적 성취를 이룩할 수 있었다.
칠정산도 산가지로 계산
조선 세종 때의 역법인 ‘칠정산’에는 천체운행을 계산하기 위해 필수적으로 3차, 4차의 고차 방정식의 풀이법이 필요하다. 고려 후기에 이미 중국의 역법을 들여왔지만 방정식 풀이가 완벽하지 않아 완전한 우리나라 달력을 만들지 못하고 있었다. 그러나 조선의 학자들은 중국에서 고차방정식 풀이법을 배워와서 완전히 이해하고 난 다음, 세종 때에 당시 세계에서 가장 정교한 달력을 만들어냈다. 그리고 그 모든 계산에 사용된 셈법이 산가지 셈이었다.
17세기 후반 조선의 철학자이자 수학자였던 최석정은 중국에서 주산이 전해지자 ‘주산은 근본이 없는 천한 것’이라고 하며 우리나라 전통의 산가지 계산을 지켜야 한다고 주장했다. 나뭇가지가 보여주는 모양이 꼭 주역의 괘를 연상시키듯이 ‘산가지는 우주의 수학(數學)적인 질서를 표상하고 있다’고 생각했기 때문이다.
전자계산기와 컴퓨터의 도움으로 숫자 셈에 종이와 연필조차 필요하지 않게 된 오늘날 우주의 질서까지 들먹이며 산가지 셈을 고집할 필요는 없을 것이다. 다만 우리 조상들이 산가지 하나로 사칙연산을 하고 고차방정식을 풀고 세계에서 가장 정확한 달력을 만들어냈다는 사실은 기억할 필요가 있다.
