르네상스 이탈리아의 대수학 경연(Algebra contests of Renaissance Italy)

14세기부터 16세기까지 북·중부 이탈리아의 상업 도시들에서 상인의 셈법이 대수학이 되었습니다. 은행가와 무역상, 그들의 자녀를 가르친 셈법 교사, 대학의 강사, 인쇄업자가 한데 얽힌 이 세계에서 3차방정식⁠(cubic equation)⁠과 4차방정식의 풀이가 나왔고, 음수의 제곱근이 처음으로 계산에 쓰였습니다. 그 한가운데에는 새 풀이법을 비밀로 감추고 공개 대결로 명성을 겨루던 독특한 문화가 있었습니다. 절정은 1494년 파치올리의 『산술 대전』에서 1572년 봄벨리의 『대수학』까지의 80년이지만, 뿌리는 그보다 두 세기 앞선 셈법 학교에 있습니다.

년 ·

셈법 학교. 1202년 피사의 피보나치가 『산반서』로 인도-아라비아 숫자의 셈법을 소개한 뒤, 이탈리아 도시들에는 상인의 아들들이 글을 배운 다음 두 해가량 다니는 셈법 학교(스쿠올라 다바코)가 생겼습니다. 피렌체의 연대기 작가 조반니 빌라니는 1330년대 말 이 도시에서 1,000–1,200명의 아이가 여섯 학교에서 셈을 배운다고 적었습니다. 교사들은 이탈리아어로 쓴 교재에 환율 계산, 이자와 할인, 동업자 사이의 이익 분배, 물물교환, 금속의 합금 비율 같은 문제를 수백 개씩 실었습니다. 무기는 주판 없이 종이 위에서 하는 필산, 곧 자릿값 표기였지만(진법⁠, positional notation⁠) 저항도 있었습니다. 1299년 피렌체 환전상 조합이 장부에 새 숫자를 쓰지 말라고 정한 규정이 자주 인용되는데, 고치기 쉬운 숫자로 장부를 조작할까 걱정했기 때문입니다. 교재에는 『산반서』의 토끼 문제(피보나치 수열⁠, Fibonacci sequence⁠) 같은 오락 문제도 섞여 있었습니다.

'것'과 '재산'. 대수학도 같은 길로 들어왔습니다. 바그다드의 알콰리즈미에서 이어진 아랍어 책들이 라틴어와 이탈리아어로 옮겨지면서, 교사들은 미지수를 '것'이라는 뜻의 코사(cosa), 그 제곱을 '재산'이라는 뜻의 첸소(censo), 세제곱을 쿠보(cubo)라고 불렀습니다. 그래서 이 시대의 대수학자들을 코시스트라고도 합니다. 식은 여전히 말로 쓰였고, 더하기와 빼기에 p̃와 m̃ 같은 약자를 쓰는 정도였습니다. 미지수의 제곱까지 들어간 2차방정식은 완전히 풀렸지만, 세제곱이 들어간 3차방정식은 달랐습니다(다항식⁠, polynomial⁠). 14세기의 몇몇 교재에는 특별한 꼴에서만 맞는 풀이나 틀린 일반 규칙이 실려 있었습니다.

파치올리와 인쇄술. 프란체스코회 수도사 루카 파치올리는 베네치아 상인 집안의 가정교사로 시작해 페루자, 나폴리, 밀라노 같은 도시의 대학과 궁정을 옮겨 다니며 수학을 가르쳤습니다. 1494년 베네치아에서 펴낸 『산술·기하⁠(geometry)⁠·비와 비례 대전』은 셈법 교재의 전통을 집대성한 수백 쪽의 책으로, 베네치아 상인들이 쓰던 복식부기⁠(double-entry bookkeeping)⁠를 체계적으로 설명한 부분 때문에 오늘날 회계학의 고전으로도 꼽힙니다. 그는 이 책에서 3차방정식의 일반적인 풀이는 당시의 기법으로는 원과 넓이⁠(area)⁠가 같은 정사각형을 자와 컴퍼스만으로 그리는 문제(1882년에야 불가능함이 증명되었습니다)만큼이나 불가능하다고 적었습니다. 밀라노 궁정에서는 레오나르도 다 빈치와 가까이 지냈고, 레오나르도가 다면체 그림을 그려 준 『신성한 비례』(1498년 완성, 1509년 인쇄)에서 황금비⁠(golden ratio)⁠를 다루었습니다. 『대전』에 실린 중단된 내기의 판돈 나누기 문제는 한 세기 반 뒤 확률⁠(probability)⁠의 출발점이 됩니다. 이 모든 일은 인쇄술 위에서 일어났습니다. 15세기 말 유럽 인쇄의 중심이던 베네치아에서 찍힌 수학책은 필사본보다 훨씬 싸게, 훨씬 멀리 퍼졌습니다.

왜 비밀이었나. 셈법 교사의 자리는 대개 도시와 맺는 몇 해짜리 계약이었고, 대학의 수학 강사도 계약직이었습니다. 학생과 봉급은 명성을 따라왔고, 명성은 공개 대결에서 얻었습니다. 두 사람이 서로에게 문제 목록을 보내고, 공증인에게 맡겨 둔 기한 안에 풀어 온 답의 개수로 승부를 가렸으며, 판돈이 걸리기도 했습니다. 이런 세계에서 남이 못 푸는 문제를 푸는 방법은 출판할 성과가 아니라 숨겨 둘 무기였습니다. 3차방정식의 이야기가 비밀과 맹세와 배신의 이야기가 된 것은 이 때문입니다.

델 페로에서 타르탈리아로. 1515년 무렵 볼로냐 대학의 스키피오네 델 페로는 $x^3 + px = q$ 꼴의 3차방정식을 푸는 법을 찾았지만, 죽을 때까지 발표하지 않고 제자 피오르와 사위 안니발레 델라 나베에게만 알렸습니다. 1535년 피오르는 이 비법을 믿고 베네치아의 셈법 교사 니콜로 타르탈리아에게 대결을 걸어 30문제씩을 주고받았습니다. 피오르의 문제는 모두 그 한 가지 꼴이었고, 타르탈리아는 기한 안에 풀이를 스스로 찾아내 모두 풀었습니다. 타르탈리아(말더듬이)라는 별명은 1512년 프랑스군이 고향 브레시아를 약탈할 때 소년이던 그가 얼굴에 칼을 맞은 데서 왔습니다. 가난 속에서 독학한 그는 1537년 포탄의 궤적을 다룬 『새로운 과학』을 쓰고, 1543년 『원론』을 처음으로 이탈리아어로 옮긴, 기술자들의 수학자였습니다.

카르다노와 페라리. 밀라노의 의사 지롤라모 카르다노는 1539년 타르탈리아를 설득해 풀이를 운문으로 전해 들었고, 타르탈리아는 비밀을 지키겠다는 맹세를 받았다고 주장했습니다. 카르다노 집안의 하인으로 들어왔다가 제자가 된 로도비코 페라리는 이 풀이를 발판으로 4차방정식을 3차방정식으로 줄여 푸는 법을 찾았습니다. 1543년 두 사람은 볼로냐의 델라 나베에게서 델 페로의 원고를 확인했고, 풀이가 타르탈리아보다 먼저였음을 안 카르다노는 1545년 『아르스 마그나』에 3차와 4차방정식의 풀이를 모두 실었습니다. 핵심은 해를 두 수의 차 $x = u - v$로 놓는 것입니다. 이것을 $x^3 + px = q$에 넣어 펼치면 $u^3 - v^3 + (p - 3uv)(u - v) = q$가 되는데, $3uv = p$가 되게 고르면 둘째 항이 사라져 $u^3 - v^3 = q$만 남습니다. 그러면 $u^3$과 $-v^3$은 합이 q이고 곱이 $-(p/3)^3$인 두 수이니 2차방정식으로 구할 수 있고, 그 세제곱근에서 x가 나옵니다. 책은 델 페로와 타르탈리아의 공을 밝혔지만, 격분한 타르탈리아와 페라리는 1547–1548년 인쇄한 도전장을 여러 차례 주고받았고 1548년 8월 밀라노의 한 교회에서 공개 토론으로 맞섰습니다. 첫날이 지나고 타르탈리아가 도시를 떠나 페라리가 이긴 것으로 여겨졌고, 타르탈리아는 그 뒤 고향에서 얻었던 강사 자리를 잃었다고 전합니다.

봄벨리와 허수. 공식에는 곤란한 구석이 있었습니다. $x^3 = 15x + 4$처럼 실수⁠(real number)⁠ 해가 셋인 경우에는 공식 속 제곱근 안이 음수가 되어 $x = \sqrt[3]{2 + \sqrt{-121}} + \sqrt[3]{2 - \sqrt{-121}}$이라는 이상한 식이 나옵니다. 그런데 이 방정식의 해 하나는 분명히 4입니다. 카르다노도 이 경우 앞에서 멈추었습니다. 볼로냐의 기술자 라파엘 봄벨리는 키아나 계곡의 늪지 간척 공사가 멈춘 사이에 대수학 책을 썼습니다. 그는 음수의 제곱근을 '빼기의 더하기'(più di meno)라는 새로운 양으로 받아들여 곱셈 규칙을 적은 뒤, $(2 + \sqrt{-1})^3 = 2 + \sqrt{-121}$임을 확인해 두 세제곱근의 합이 $(2 + \sqrt{-1}) + (2 - \sqrt{-1}) = 4$임을 보였습니다. 1572년의 『대수학』은 실수 해에 이르려면 허수의 길을 지나야 할 때가 있음을 보인 책이고, 복소수⁠(complex number)⁠가 계산의 도구가 된 출발점입니다(허수 단위⁠(imaginary unit)⁠, 복소수 곱셈⁠(complex multiplication)⁠). 그는 바티칸 도서관에서 디오판토스의 『산술』 사본을 보고 그 문제들을 책에 옮겨 실어, 상인의 문제집이던 대수학을 수 자체의 학문 쪽으로 끌어올렸습니다.

경연이 남긴 것. 대결의 시대는 대수학을 말의 기술에서 기호의 기술로 넘겨주었습니다. 1591년 프랑스의 수학자 프랑수아 비에트는 모르는 양뿐 아니라 아는 양도 글자로 적었고, 1637년 데카르트의 『기하학』은 오늘날과 거의 같은 기호로 식을 쓰며 '허수'라는 이름을 붙였습니다. 복소수까지 넓히면 0이 아닌 수는 모두 세제곱근이 셋 있고(하나에 1의 세제곱근 ω, ω²을 곱한 것들), 공식 속 세제곱근을 $3uv = p$가 유지되도록 이렇게 1의 거듭제곱근⁠(roots of unity)⁠만큼 돌려 고르면 세 근이 모두 나옵니다. 근들을 서로 맞바꾸는 이런 대칭을 따지다가 19세기의 아벨과 갈루아는, 계수들에 사칙연산과 거듭제곱근만을 써서 근을 적는 일반 공식이 5차 이상의 방정식에는 없다는 것을 보였습니다. 갈루아가 근들의 대칭에서 읽어 낸 구조가 오늘날의 군입니다(대칭과 불변량⁠(invariant)⁠). 파치올리의 판돈 문제는 1654년 파스칼과 페르마의 편지에서 기댓값⁠(expected value)⁠이 되었고, 타르탈리아가 책에 실은 수의 삼각형은 이탈리아에서 지금도 '타르탈리아의 삼각형'이라 불립니다(파스칼의 삼각형⁠, Pascal's triangle⁠). 포탄의 궤적을 수로 적으려던 타르탈리아의 시도는 갈릴레이의 포물선⁠(parabola)⁠ 운동으로 이어졌는데, 젊은 갈릴레이에게 수학을 가르친 오스틸리오 리치는 타르탈리아의 제자였다고 전합니다.

이어지는 곳. 봄벨리가 계산에 들인 수는 복소수, 허수 단위에서 시작해, 복소수를 곱하는 일이 평면에서 돌리는 일이라는 오일러 공식⁠(Euler's formula)⁠의 회전⁠(rotation)⁠으로 이어집니다. 판돈 나누기는 남은 판의 경우를 세는 확률과 이항계수⁠(binomial coefficient)⁠로, 셈법 교사들이 가르친 필산은 자릿값으로 수를 적는 진법으로 이어집니다. 이 대수학은 바그다드 지혜의 집의 알콰리즈미에게서 왔고, 비밀과 공개 도전의 문화는 다음 세기에 결과를 편지로 나누는 편지 공화국으로 바뀝니다. x를 u − v로 바꿔 3차방정식을 2차방정식으로 줄인 것처럼 같은 식을 다른 모양으로 바꾸어 푸는 생각은 표현 바꾸기가 다룹니다.