최석정(Choi Seok-jeong)

최석정은 1646년 조선에서 태어났습니다. 병자호란 때 청과의 화의를 주장한 재상 최명길이 그의 할아버지입니다. 두 차례의 전란 뒤 조선의 선비들은 예법을 둘러싼 논쟁과 붕당의 다툼 속에 있었고, 셈은 호조(나라 살림을 맡은 관청)의 산원 같은 기술직 중인, 곧 양반과 평민 사이에서 통역·의술·셈 같은 전문 기술을 대대로 맡은 계층의 일로 여겨졌습니다. 중국의 옛 산학서가 교재였고, 양반 관료가 산학에 깊이 들어가는 일은 드물었습니다. 최석정은 숙종 때의 재상 남구만과 성리학자 박세채에게 배웠고, 서인에서 갈라져 나온 붕당인 소론의 대표적인 학자로 숙종 때 여러 차례 영의정에 올랐습니다. 같은 해 유럽에서는 라이프니츠가 태어났고, 두 사람은 거의 같은 햇수를 살며 모두 수의 배열과 조합에 몰두했습니다.

나이 세 ·

조선에서 셈은 나라의 일이었습니다. 호조에는 세금과 토지, 곡식의 출납을 계산하는 산원들이 있었고, 이들은 산학 취재라는 시험으로 뽑혔습니다. 조선 전기부터 교재로 정해진 책은 『상명산법』, 『양휘산법』, 『산학계몽』 같은 송·원 시대 중국의 산학서였습니다. 산원 자리는 점차 대대로 이어지는 중인 가문의 몫이 되어, 17–18세기에는 몇몇 집안이 산원을 거듭 배출했습니다(조선의 산학). 한편 양반 사대부에게 수는 주역과 성리학의 우주론을 이해하는 열쇠이기도 했습니다. 하도와 낙서(황하의 용마와 낙수의 거북 등에 나타났다고 전하는 점무늬 그림으로, 낙서는 3 × 3 마방진입니다), 그리고 수와 괘의 배열로 우주의 이치를 설명하려 한 송나라 소옹의 상수학⁠(Yijing numerology)⁠처럼, 수의 배열에서 하늘과 땅의 이치를 읽으려는 전통이 있었습니다. 최석정의 산학은 이 두 세계, 곧 관청의 실무 셈과 사대부의 수리 철학이 만나는 자리에 있습니다.

그의 관심은 넓었습니다. 1678년의 『경세훈민정음도설』은 훈민정음의 소리 체계를 주역의 틀로 풀이한, 말소리의 짜임을 연구한 책(운학서)입니다. 1700년 무렵에 지은 산학서 『구수략』은 주역의 상수학으로 수와 셈의 뜻을 설명하려 한 책으로, 여러 가지 마방진⁠(magic square)⁠이 실려 있다는 점에서 특히 유명합니다. 마방진은 가로·세로·대각선의 합이 모두 같도록 수를 늘어놓은 표이고, 3 × 3의 낙서 이래 동아시아 산학의 오랜 소재였습니다.

『구수략』의 방진에는 계보가 있습니다. 남송의 양휘는 1275년의 책에 3차부터 10차까지의 방진을 실었고, 이 책이 담긴 『양휘산법』은 조선에 들어와 산학의 교재가 되었습니다. 최석정은 그 전통을 이어받아 주역의 하도·낙서와 함께 크기와 모양이 다른 여러 방진을 실었습니다. 책의 짜임은 사대부다웠습니다. 덧셈·뺄셈·곱셈·나눗셈 네 셈을 주역의 사상(四象: 태양·소음·소양·태음의 네 모습)에 짝지어 설명하는 식으로, 셈의 체계를 우주론의 틀에 맞추어 풀었습니다. 오늘날의 눈으로는 수학과 철학이 뒤섞인 책이지만, 그 안의 방진들은 순수한 조합의 문제로 읽어도 손색이 없습니다.

그 가운데 가장 이름난 것이 9행 9열의 칸마다 두 수를 겹쳐 적은 방진입니다. 앞자리만 보면 가로줄과 세로줄마다 1부터 9까지가 한 번씩만 나옵니다. 이런 표를 라틴 방진⁠(Latin square)⁠이라 부르고, 각 줄은 1부터 9까지의 순열⁠(permutation)⁠입니다. 뒷자리만 보아도 역시 라틴 방진입니다. 그리고 두 표를 겹치면 (1, 1)부터 (9, 9)까지 81가지 짝이 모두 한 번씩 나옵니다(위의 식). 81개의 칸과 81가지 짝이 빠짐없이 하나씩 짝지어지는 전단사⁠(bijective)⁠라는 뜻이고, 이런 두 라틴 방진을 서로 직교⁠(orthogonality)⁠한다고 말합니다.

직교하는 두 라틴 방진은 마방진에 거의 다 다가간 표를 줍니다. 짝 (a, b)를 수 $9(a-1) + b$로 바꾸면, 직교성 덕분에 칸마다 1부터 81까지의 수가 한 번씩 들어갑니다. 한 가로줄에는 a도 b도 1부터 9까지 한 번씩 나오므로 그 줄의 합은 $9(0 + 1 + \cdots + 8) + (1 + 2 + \cdots + 9) = 369$이고, 세로줄도 똑같습니다. 두 대각선의 합까지 369가 되려면, 두 방진의 대각선에도 1부터 9까지가 한 번씩 나오도록 골라야 합니다. 무작정 81개의 수를 이리저리 옮겨 보는 대신, 조건을 두 개의 작은 조건으로 쪼개어 푼 셈입니다.

아래 표는 최석정의 배열을 그대로 옮긴 것이 아니라 오늘날의 방법으로 만든 9차 직교 라틴 방진입니다. i행 j열(0부터 셉니다)의 앞자리는 $i + j$를, 뒷자리는 $i + 2j$를 9로 나눈 나머지⁠(remainder)⁠에 1을 더한 수입니다(모듈러 연산⁠(modular arithmetic)⁠). 왜 되는지 따져 봅시다. 한 가로줄(i 고정)에서 j가 0부터 8까지 가면, $i + j$를 9로 나눈 나머지는 0부터 8까지를 한 번씩 지납니다. $i + 2j$도 2와 9의 공약수가 1뿐(서로소⁠, coprime⁠)이라서 한 번씩 지납니다. 만약 2 대신 3을 썼다면 j = 0, 3, 6에서 나머지가 같아져 실패했을 것입니다. 세로줄도 마찬가지입니다. 또 짝 (a, b)가 주어지면 $i + j$와 $i + 2j$의 나머지가 정해지고, 둘을 빼면 j가, 그다음 i가 하나로 정해지니, 모든 짝이 꼭 한 칸에만 나옵니다. 곧 두 방진은 직교합니다. 앞자리 인 칸과 뒷자리 인 칸을 표시했습니다.

『구수략』에는 1부터 30까지의 수를 거북 등딱지처럼 이어 붙인 육각형 아홉 개의 꼭짓점⁠(vertex)⁠에 놓아, 육각형마다 여섯 수의 합이 모두 93이 되게 한 '지수귀문도⁠(hexagonal tortoise problem)⁠'도 실려 있습니다. 육각형 아홉 개를 3 × 3으로 붙이면 꼭짓점이 꼭 30개이고, 30까지의 합 465를 육각형들이 겹쳐 가며 나누어 가지는 퍼즐입니다. 오늘날에는 이 배열을 찾는 문제가 컴퓨터 탐색 알고리즘⁠(algorithm)⁠을 시험하는 문제로도 쓰입니다.

최석정이 살던 17세기 후반, 서양의 천문학과 수학도 베이징을 거쳐 조선에 스며들고 있었습니다. 조선은 1653년 독일 출신 예수회 선교사 아담 샬이 만든 청의 달력인 시헌력을 받아들였고, 해마다 베이징에 가는 사신단은 한문으로 옮긴 서양 책들을 들여왔습니다. 그가 죽기 두 해 전인 1713년에는 청의 사신단과 함께 온 천문학자 하국주가 조선의 산원 홍정하, 유수석을 만나 문제를 주고받았습니다. 홍정하가 『구일집』에 남긴 기록에 따르면, 그는 미지수를 하나 세워 방정식을 만드는 천원술⁠(tianyuan method)⁠로 하국주의 문제를 풀고 거꾸로 하국주가 곧바로 풀지 못한 문제를 냈습니다. 천원술은 원나라의 『산학계몽』에 실린 방법으로, 중국에서는 명나라 때 거의 잊혔지만 조선의 산원들 사이에서는 이어지고 있었습니다. 사대부 재상 최석정과 중인 산원 홍정하는 신분이 달랐지만, 함께 이 시기 조선 산학의 가장 활발한 장면을 이룹니다.

유럽에서 직교 라틴 방진을 본격적으로 다룬 것은 1782년 페테르부르크의 오일러였습니다. 여섯 연대의 여섯 계급 장교 36명을 가로줄과 세로줄마다 연대와 계급이 겹치지 않게 세우는 '36명의 장교 문제⁠(thirty-six officers problem)⁠'는 6차 직교 라틴 방진을 찾는 문제이고, 오일러는 불가능하다고 추측했습니다. 1900년 프랑스의 아마추어 수학자 가스통 타리가 모든 경우를 따져 6차는 정말 없다는 것을 확인했지만, 오일러가 함께 내놓은 더 넓은 추측, 곧 4로 나눈 나머지가 2인 모든 차수(6, 10, 14, …)에서 불가능하다는 추측은 1959년 인도의 보스와 슈리칸데, 미국의 파커가 틀렸음을 보였습니다. 그들은 10차 직교 라틴 방진을 실제로 만들어 보였습니다. 2와 6을 뺀 모든 차수에 직교 라틴 방진이 있습니다. 최석정의 방진은 오일러의 연구보다 반세기 넘게 앞선 직교 라틴 방진으로 오늘날 널리 인정받습니다.

그렇게 알려진 것은 최근의 일입니다. 『구수략』은 오랫동안 조선 산학사를 연구하는 사람들 사이에서만 읽혔고, 유럽에서 쓰인 조합론⁠(combinatorics)⁠의 역사는 오일러에서 시작하는 것이 보통이었습니다. 2000년대 들어 조합 설계 분야의 표준 참고서인 『조합 설계 핸드북』이 그의 방진을 알려진 가장 이른 직교 라틴 방진의 예로 적으면서, 국제 학계의 역사 서술에도 그의 이름이 오르기 시작했습니다. 서로를 전혀 모르는 조선의 재상과 러시아 학술원의 수학자가 같은 구조를 붙들었다는 것은, 조합의 문제가 어느 한 문명의 것이 아니라는 좋은 증거입니다.

이어지는 곳. 라틴 방진은 1920년대 로널드 피셔가 밭을 가로세로 칸으로 나누고 비료의 종류가 줄마다 한 번씩만 오게 배치해, 땅이 고르지 않은 탓을 걸러 내는 실험 설계에 쓰면서 무작위 대조 시험⁠(randomized controlled trial)⁠의 도구가 되었습니다. 스도쿠⁠(sudoku)⁠의 답도 3 × 3 상자 조건이 더해진 9차 라틴 방진입니다. 81칸에 81가지 짝이 모두 나오려면 어떤 짝도 두 번 나와서는 안 된다는 식으로 개수를 맞추어 보는 생각은 비둘기집 원리⁠(pigeonhole principle)⁠로, 라틴 방진을 한 줄씩 채워 갈 때 다음 줄을 언제나 채울 수 있음을 보장하는 도구는 홀의 정리⁠(Hall's theorem)⁠로 이어집니다. 배열의 가짓수를 세는 일은 이항계수⁠(binomial coefficient)⁠와 파스칼의 삼각형⁠(Pascal's triangle)⁠에서 시작합니다.

연표.

• 1666년 진사시에 합격하다
• 1671년 문과에 급제해 벼슬길에 오르다
• 1678년 훈민정음의 소리를 풀이한 『경세훈민정음도설』을 짓다
• 1700년 이 무렵 산학서 『구수략』을 짓다