조선의 산학(Mathematics in Joseon Korea)

조선에서 수학은 산학이라 불렸고, 두 부류의 사람이 다루었습니다. 하나는 호조에 딸린 기술직 관원인 산원으로, 세금과 토지, 창고의 곡식과 나라의 재정을 셈하는 실무를 맡았습니다. 다른 하나는 드물게 산학에 깊이 들어간 양반 학자들로, 수의 이치를 괘의 짜임으로 우주의 변화를 설명하는 경전 『주역』과 조선의 국가 이념인 성리학의 틀 안에서 탐구했습니다. 교재는 송과 원의 산학서였고, 계산은 산가지를 늘어놓아 했습니다. 17세기부터는 청나라를 거쳐 서양 수학이 들어와 이 전통과 만났습니다. 1392년 건국에서 과거제와 신분제가 폐지된 1894년 갑오개혁까지, 국가 제도 속 산학의 500년을 따라가 봅니다.

년 ·

산원과 취재. 조선의 법전 『경국대전』은 산학을 역학, 의학과 나란히 기술 분야로 두었지만, 역과·의과·음양과·율과로 이루어진 잡과에는 산학이 없었습니다. 산원은 과거가 아니라 취재라는 선발 시험으로 뽑았고, 시험 과목은 『상명산법』, 『양휘산법』, 『산학계몽』 세 책이었습니다. 산원은 대개 양반과 평민 사이에서 기술직과 행정 실무를 맡던 중인 신분이었고 자리는 집안을 따라 이어지는 경향이 강했습니다. 산학 합격자의 명단을 모은 『주학입격안』을 보면 몇몇 집안이 여러 대에 걸쳐 산원을 배출했습니다. 양반 사회에서 셈은 아랫사람의 기술로 여겨졌지만, 나라의 살림은 이들의 손끝에서 돌아갔습니다.

세종과 『산학계몽』. 산학이 국가의 관심사로 떠오른 것은 세종 때였습니다. 1430년 세종은 정인지에게서 『산학계몽』을 배웠는데, 실록에는 임금에게 산수가 필요 없을 듯하지만 이 또한 성인이 정한 것이니 알고자 한다는 취지의 말이 남아 있습니다. 필요는 구체적이었습니다. 1444년에 확정된 공법은 땅을 비옥도에 따라 여섯 등급으로, 해마다의 풍흉을 아홉 등급으로 나누어 세금을 매겼고, 이를 시행하려면 전국의 토지를 다시 재고 셈해야 했습니다. 1442년에서 1444년 사이에 완성된 역법서 『칠정산』 내편과 외편은 한양을 기준으로 해와 달, 다섯 행성의 움직임을 계산했는데, 외편은 원과 명을 거쳐 들어온 이슬람 천문학, 곧 바그다드 이래의 천문표 전통을 바탕으로 했습니다. 세종 대에는 『양휘산법』 같은 산학서를 새로 찍어 보급하기도 했습니다.

교재들. 세 교재는 모두 중국에서 왔습니다. 『양휘산법』은 13세기 남송의 양휘가 쓴 책들을 모은 것으로 곱셈과 나눗셈의 빠른 방법, 넓이⁠(area)⁠와 부피, 마방진(가로, 세로, 대각선의 수를 더한 값이 모두 같은 수의 배열)을 담았고, 『상명산법』은 명나라 초의 실용 산술서입니다. 가장 깊은 책은 원나라의 주세걸이 1299년에 펴낸 『산학계몽』으로, 구구단에서 시작해 분수와 비례, 넓이와 부피를 거쳐 고차방정식을 세워 푸는 천원술⁠(tianyuan method)⁠까지 차례로 이끕니다. 이 책은 정작 중국에서는 명나라를 지나며 자취를 감추었지만 조선에서는 교재로 계속 읽혔습니다. 1660년 김시진이 다시 펴낸 조선판은 19세기에 청으로 건너가, 중국에서 이 책을 다시 찍는 저본이 되었습니다.

산가지와 천원술. 계산 도구는 대나무나 뼈로 만든 가느다란 막대, 산가지였습니다. 자리마다 세로 모양과 가로 모양을 번갈아 늘어놓아 수를 나타냈으니, 산가지 셈판은 그 자체로 10진 자릿값 표기였습니다(진법⁠, positional notation⁠). 빈 칸이 0이었고, 빨간 산가지와 검은 산가지로 양수와 음수를 구별했습니다. 천원술은 이 셈판 위의 대수학입니다. 구하려는 양 하나를 '천원'으로 세우고, 그 거듭제곱의 계수를 셈판의 칸에 위아래로 늘어놓아 다항식⁠(polynomial)⁠을 나타냅니다. 문제의 조건을 두 가지 방식으로 표현해 서로 빼면 방정식이 되고, 그 근은 한 자리씩 정해 가며 셈판의 수를 고쳐 나가는 증승개방법⁠(zengcheng kaifang method)⁠으로 구했습니다. 근의 첫 자리(이를테면 십의 자리 2)를 정하면 x를 20 + y로 바꾼 새 다항식의 계수를 곱하기와 더하기만으로 셈판 위에서 구하고, 다시 y의 첫 자리를 정하는 일을 되풀이하는 방식으로, 오늘날 호너의 방법⁠(Horner's method)⁠이라 부르는 절차와 같은 계산입니다. 연립방정식을 셈판 위에서 소거해 푸는 방정술도 1세기 무렵 중국의 수학 고전 『구장산술』 이래의 전통이었습니다(연립일차방정식⁠(system of linear equations)⁠, 가우스 소거법⁠(Gaussian elimination)⁠). 기호 대신 칸의 자리가 식의 구조를 담은 것입니다(표현 바꾸기).

산원의 수학: 경선징과 홍정하. 17세기의 산원 경선징은 『묵사집산법』을 지었고, 18세기 초의 산원 홍정하는 『구일집』에서 천원술로 고차방정식을 세워 푸는 많은 문제를 다루었습니다. 『구일집』에 실린 기록에 따르면 1713년 청의 사신단을 따라 한양의 위도를 재러 온 천문관 하국주가 홍정하와 동료 산원들을 만나 문제를 주고받았습니다. 하국주가 낸 문제들을 조선의 산원들이 풀었고, 홍정하가 낸 문제에는 하국주가 그 자리에서 답하지 못했다고 합니다. 조선 쪽 기록만 남은 이야기라 그대로 믿기는 어렵지만, 명나라 이래 천원술이 잊혀 있던 청의 관리 앞에서 중인 산원들이 자신들이 지켜 온 전통에 자부심을 품었다는 것은 분명히 읽힙니다.

선비의 산학: 최석정. 양반 쪽에서 가장 이름난 산학자는 숙종 때 여러 차례 영의정을 지낸 최석정입니다. 1700년 무렵의 『구수략』은 괘와 수의 짜임에서 우주의 이치를 읽는 주역의 상수학⁠(Yijing numerology)⁠으로 수의 뜻을 풀고 여러 가지 마방진⁠(magic square)⁠을 실었는데, 그 가운데 9행 9열의 칸마다 두 수를 겹쳐 적은 방진은 오늘날 직교 라틴 방진⁠(orthogonal Latin squares)⁠의 이른 예로 인정받습니다. n행 n열의 칸에 n가지 기호를 각 행과 각 열에 한 번씩만 나오게 채운 표가 라틴 방진⁠(Latin square)⁠이고, 두 라틴 방진을 겹쳤을 때 가능한 모든 짝이 꼭 한 번씩 나오면 둘이 직교⁠(orthogonality)⁠한다고 합니다. 최석정의 방진에서는 각 줄이 1부터 9까지의 순열⁠(permutation)⁠이고, 두 표를 겹치면 81가지 짝이 81개의 칸에 하나씩 대응하는 전단사⁠(bijective)⁠가 됩니다. 유럽에서 이런 표를 본격적으로 다룬 것은 1782년의 오일러였습니다. 최석정과 같은 해에 태어난 라이프니츠는 1700년대 초 베이징의 예수회 선교사가 보내 준 주역 괘의 배열에서, 0과 1 두 숫자만으로 모든 수를 적는 자신의 이진법⁠(binary)⁠을 발견하고 놀라워했으니, 지구의 양 끝에서 두 사람이 같은 책에서 수의 구조를 읽은 셈입니다.

서양 수학이 들어온 길. 1607년 베이징에서 예수회의 마테오 리치와 서광계가 『원론』의 앞 여섯 권을 한문으로 옮겨 『기하원본』을 펴냈습니다. 조선은 해마다 베이징에 사신단(연행사)을 보냈고, 사신과 수행원들은 그곳에서 책과 기구를 사 오는 창구였습니다. 1631년 정두원은 명나라에서 예수회 선교사에게 받은 망원경과 서양 서적을 가져왔고, 1645년 볼모 생활을 마치고 돌아온 소현세자는 베이징에서 독일 출신 예수회 선교사이자 천문학자 아담 샬과 사귀며 얻은 서양 천문서를 가지고 왔습니다. 조선은 1650년대에 서양 천문학을 바탕으로 한 청의 시헌력을 받아들였고, 그 계산을 익히려면 서양의 기하⁠(geometry)⁠와 삼각법⁠(trigonometry)⁠이 필요했습니다. 18세기에는 강희제의 명으로 편찬된 수학 총서 『수리정온』(1723)이 널리 읽혀 로그와 서양식 대수까지 전했고, 1765–1766년 베이징에 간 실학자 홍대용은 천주당의 예수회 선교사들을 찾아가 천문 기구를 살피고 돌아와 『주해수용』에 서양의 수학과 측량을 정리했습니다.

천원술과 차근방. 19세기에는 양반 형제 남병철·남병길과 중인 산원 이상혁이 신분을 넘어 함께 연구한 드문 장면이 있었습니다. 그들은 『수리정온』에 실린 서양식 대수, 곧 '빌려 온 근으로 세우는 방정식'이라는 뜻의 차근방과 조선이 지켜 온 천원술을 견주어 보고, 겉모습은 달라도 미지수를 세워 방정식을 만들고 푸는 같은 방법임을 확인했습니다. 청의 학자들이 먼저 같은 결론에 이르렀지만, 조선에서는 그 옛 방법이 교재 속에 줄곧 살아 있었다는 점이 달랐습니다. 멀리 바그다드에서 갈라져 나온 대수학의 두 갈래가 수백 년 만에 한 셈판 위에서 다시 만난 셈입니다.

끝과 남은 것. 1894년 갑오개혁은 과거제와 신분제를 폐지했고, 산원을 뽑던 옛 제도도 함께 사라졌습니다. 1895년 이후 새로 세운 소학교와 사범학교에서는 아라비아 숫자와 서양식 필산을 가르쳤고, 산가지는 교실에서 밀려났습니다. 그래도 전통은 흔적을 남겼습니다. 『산학계몽』의 조선판은 중국에서 사라진 책을 되살렸고, 최석정의 방진은 근래 조합론⁠(combinatorics)⁠ 학자들에게 다시 주목받아 직교 라틴 방진의 역사에 이름을 올렸습니다. 조선의 산학은 새 이론을 쏟아 낸 곳이라기보다 제도가 지식을 어떻게 지키고 또 어떻게 가두는지를 보여 주는 곳입니다. 취재와 교재 목록은 수백 년 동안 같은 책을 읽게 해 책을 살려 두었지만, 셈을 중인의 일로 묶어 둔 신분의 벽은 산학이 학문의 중심으로 들어오는 길을 막았습니다.

이어지는 곳. 자리가 값을 정하는 산가지 셈판의 원리는 진법에서, 셈판 위에서 한 줄을 다른 줄에서 빼 미지수를 지워 가던 방정술은 같은 계산을 행렬⁠(matrix)⁠로 적은 가우스 소거법과 연립일차방정식에서 이어집니다. 최석정의 방진은 최석정의 페이지에서 직접 만져 볼 수 있고, 밭의 구획마다 서로 다른 처리를 고르게 배치하는 데 라틴 방진이 쓰이며 실험 설계가 된 이야기는 무작위 대조 시험⁠(randomized controlled trial)⁠으로, 나머지로 수를 되찾는 동아시아 산학의 또 다른 고전 문제는 중국인의 나머지 정리⁠(Chinese remainder theorem)⁠로 이어집니다. 『원론』이 한문에 이르기까지의 긴 여정은 알렉산드리아 무세이온에서 시작하고, 『기하원본』을 옮긴 마테오 리치가 중국에 오기 전 머문 인도 해안은 케랄라 학파의 무대였습니다. 같은 셈을 칸의 배열로도 기호로도 적을 수 있다는 생각은 표현 바꾸기가 다룹니다.