홍정하(Hong Jeong-ha)

홍정하는 1684년 조선 숙종 때 한양의 산원 집안에서 태어났습니다. 두 차례의 큰 전란이 지나간 뒤 조선은 토지를 다시 재고, 공물을 쌀로 거두는 대동법을 전국으로 넓히며 나라의 재정을 다시 세우고 있었습니다. 땅의 넓이⁠(area)⁠를 재고 세금과 곡식의 출납을 셈하는 일은 호조에 딸린 산원들의 몫이었습니다. 산원은 양반도 평민도 아닌 중인 신분의 기술 관료였고, 몇몇 집안이 대대로 이 일을 이었습니다. 홍정하의 남양 홍씨 집안도 그런 산원 가문이었습니다. 아버지 홍재원을 비롯해 여러 대에 걸쳐 산원을 낸 집안이었고, 외가 쪽으로는 17세기의 이름난 산원 경선징과 이어져 있었습니다. 태어난 해는 1684년으로 알려져 있지만 죽은 해는 기록이 엇갈려 분명하지 않습니다(1727년으로 적는 자료도 있습니다).

나이 세 ·

산원이 되려면 호조에서 치르는 산학 취재에 합격해야 했습니다. 시험 교재는 조선 전기부터 정해진 중국의 산학서, 곧 남송의 『양휘산법』, 명나라 초의 『상명산법』, 원나라의 『산학계몽』이었습니다(조선의 산학). 그 가운데 가장 깊은 책인 『산학계몽』은 곱셈과 나눗셈에서 시작해 분수와 비례, 넓이와 부피를 거쳐 미지수를 세워 방정식을 푸는 천원술까지 차례로 이끕니다. 홍정하도 이 시험을 거쳐 호조의 낮은 품계 산원으로 일했습니다. 산원의 수학은 무엇보다 관청의 실무였지만, 홍정하 같은 이들은 실무에 필요한 것보다 훨씬 멀리 나아갔습니다.

그 결과가 아홉 권으로 된 『구일집』입니다. 서문의 연대로 보아 1724년 무렵 마무리되었고, 앞의 여덟 권은 대체로 1713년 이전에 쓰였다고 봅니다. 약 500개의 문제가 스무 가지 주제로 나뉘어 실려 있습니다. 앞부분은 곱셈과 나눗셈, 분수, 비례, 여러 수의 공배수를 구하는 문제 같은 셈이고, 이어서 물건을 쌓아 올린 더미의 개수를 세는 급수⁠(series)⁠의 합(퇴타), 직각삼각형⁠(right triangle)⁠의 세 변 사이의 관계를 쓰는 구고의 문제(피타고라스 정리⁠(Pythagorean theorem)⁠), 제곱근과 세제곱근을 비롯한 거듭제곱근 구하기(개방), 넓이와 부피의 문제가 나옵니다. 마지막 권에는 천문과 음률에 관한 글과 함께 1713년의 만남을 적은 기록이 실려 있습니다. 여러 주제에 걸쳐 구하려는 양을 미지수로 세워 방정식을 만드는 천원술이 되풀이해 쓰입니다.

천원술이 어떤 방법인지 간단한 예로 봅시다(이 예는 『구일집』의 문제가 아니라 방법을 보이려고 만든 것입니다). 넓이가 864평방보이고 길이가 너비보다 12보 긴 직사각형 밭이 있다고 합시다. 너비를 '천원', 곧 미지수 x로 세우면 길이는 x + 12이고, 넓이를 이 둘로 나타내면 $x(x+12)$입니다. 이것이 문제에 주어진 864와 같아야 하니 둘을 빼면 $x^2 + 12x - 864 = 0$이라는 방정식이 됩니다(위의 식). 천원술은 이런 식을 문자 없이 셈판 위에 적습니다. 상수항, x의 계수, $x^2$의 계수를 산가지⁠(counting rods)⁠로 한 칸씩 위아래로 늘어놓고, 음수는 빨간 산가지와 검은 산가지로 구별했습니다. 칸의 자리가 곧 거듭제곱의 차수를 나타내는 것입니다(다항식⁠(polynomial)⁠, 진법⁠(positional notation)⁠).

방정식의 근은 한 자리씩 정해 갔습니다. 먼저 십의 자리를 어림합니다. x = 20이면 20 × 32 = 640으로 864보다 작고, x = 30이면 30 × 42 = 1260으로 너무 크니 십의 자리는 2입니다. 이제 x = 20 + y로 놓고 셈판의 수들을 고치면, 식은 $y^2 + 52y - 224 = 0$으로 바뀝니다. 남은 y는 한 자리 수이고, y = 4를 넣으면 16 + 208 − 224 = 0이니 답은 x = 24보입니다. 이렇게 이미 구한 자리만큼 미지수를 옮겨 새 방정식을 만드는 절차를 증승개방법⁠(zengcheng kaifang method)⁠이라 불렀고, 차수가 셋, 넷, 그 이상인 방정식에도 똑같이 쓸 수 있습니다. 유럽에서는 1819년 영국의 호너가 발표한 방법과 같은 계산이어서 오늘날 흔히 호너의 방법⁠(Horner's method)⁠이라 부릅니다. 『구일집』에는 이 방법으로 세제곱 이상의 고차방정식을 푸는 문제가 많이 실려 있습니다(뉴턴 방법⁠(Newton's method)⁠, 근사와 오차).

1713년, 청나라 사신단을 따라 흠천감의 천문관 하국주가 한양에 왔습니다. 강희제가 예수회 선교사들과 함께 제국 곳곳의 위도와 경도를 재어 지도를 만들던 무렵이었고, 하국주는 한양의 위도, 곧 북극성의 높이를 재러 온 사람이었습니다. 『구일집』의 기록에 따르면 음력 5월 29일 홍정하는 동료 산원 유수석과 함께 사신단이 머물던 곳으로 하국주를 찾아갔습니다. 하국주가 먼저 셈과 넓이, 방정식에 관한 문제들을 냈고, 조선의 산원들이 이를 풀었습니다. 이어 홍정하가 문제를 냈습니다. 공 모양의 옥 속에서 정육면체 모양의 옥을 파냈을 때 남은 껍질의 무게와 가장 두꺼운 곳의 두께(4치 5푼)를 주고, 공의 지름과 정육면체의 모서리를 묻는 문제였습니다. 기록에는 하국주가 그 자리에서 답하지 못했다고 적혀 있습니다.

이 문제가 왜 어려운지는 천원술로 세워 보면 드러납니다. 정육면체의 모서리를 x라 하면, 껍질이 가장 두꺼운 곳은 정육면체의 한 면 한가운데에서 공의 겉면까지이므로 지름은 x에 두께의 두 배를 더한 x + 9치입니다. 껍질의 부피는 지름이 x + 9인 공의 부피에서 $x^3$을 뺀 것이고, 여기에 옥의 단위 부피당 무게를 곱한 것이 주어진 무게와 같아야 합니다. 공의 부피는 지름의 세제곱에 비례하므로, 이 조건은 x에 대한 3차방정식⁠(cubic equation)⁠이 됩니다. 문제를 푸는 사람은 미지수를 세우고, 두 가지 방식으로 나타낸 같은 양을 빼서 방정식을 만들고, 그 3차방정식의 근을 한 자리씩 찾아야 합니다. 천원술을 몸에 익힌 사람에게는 정해진 절차이지만, 그 방법을 모르는 사람에게는 손대기 어려운 문제입니다.

이 기록은 조선 쪽의 기록만 남아 있어 그대로 다 믿기는 어렵습니다. 그래도 뚜렷하게 읽히는 것이 있습니다. 천원술은 원나라의 『산학계몽』에 담겨 있었지만 중국에서는 명나라를 지나며 거의 잊혔고, 청의 궁정 천문학은 예수회가 전한 서양의 계산법 위에 서 있었습니다. 반면 조선에서는 『산학계몽』이 산원 시험의 교재로 계속 읽혔고, 1660년 김시진이 다시 펴낸 조선판은 19세기에 청으로 건너가 중국에서 이 책을 다시 찍는 저본이 되었습니다. 청의 관리 앞에서 중인 산원들이 자신들이 지켜 온 방법에 자부심을 품었다는 것이 이 기록의 행간입니다. 청에서는 18세기에 매각성이 서양에서 온 대수, 곧 차근방이 옛 천원술과 같은 방법이라고 지적했고, 조선에서도 19세기에 남병철·남병길 형제와 산원 이상혁이 같은 결론에 이르렀습니다.

같은 무렵 조선에는 산학을 다른 자리에서 붙든 사람도 있었습니다. 영의정을 지낸 양반 최석정은 1700년 무렵 『구수략』에서 주역의 상수학⁠(Yijing numerology)⁠으로 셈의 뜻을 풀고 여러 마방진⁠(magic square)⁠을 실었습니다(라틴 방진⁠(Latin square)⁠). 최석정의 산학이 사대부의 수리 철학에 뿌리를 둔 것이라면, 홍정하의 산학은 관청의 실무에서 출발해 방정식의 기술을 끝까지 밀고 나간 것이었습니다. 두 사람이 서로 만났다는 기록은 없지만, 신분이 다른 두 세계가 거의 같은 시기에 조선 산학의 가장 높은 곳을 이루었습니다.

『구일집』은 인쇄되지 않고 필사본으로 전해졌습니다. 산원들은 대를 이어 시험을 치르고 서로 혼인하며 지식을 집안 안에서 전했기 때문에, 이런 책이 넓은 세상에 알려질 길은 좁았습니다. 20세기 후반 한국 수학사 연구가 이 필사본을 다시 읽으면서 홍정하는 조선 산학을 대표하는 인물로 자리 잡았고, 오늘날에는 한국의 수학 교과서에도 『구일집』의 문제가 실립니다. 유럽에서 방정식의 근을 한 자리씩 구하는 방법이 '발견'되기 한 세기 전, 한양의 한 관청에서 산가지로 같은 계산을 하던 사람들이 있었던 것입니다.

이어지는 곳. 조선의 산원 제도와 교재, 천원술과 서양 대수의 만남은 조선의 산학에서 더 자세히 볼 수 있습니다. 미지수를 세워 방정식을 만드는 방법은 다항식과 연립일차방정식⁠(system of linear equations)⁠, 가우스 소거법⁠(Gaussian elimination)⁠으로, 근을 한 자리씩 다가가 찾는 방법은 뉴턴 방법으로 이어집니다. 산가지의 자리가 식의 구조를 담는 생각은 표현 바꾸기에 있고, 같은 시대의 조선 산학은 최석정의 페이지에서 볼 수 있습니다.

연표.

• 1713년 동료 산원 유수석과 함께 청의 천문관 하국주를 만나 문제를 주고받다
• 1724년 이 무렵 산학서 『구일집』을 마무리하다