편지 공화국(Republic of Letters)

17세기 유럽에는 학술지도, 정기적으로 모이는 학회도 거의 없었습니다. 새 정리를 얻은 사람은 그것을 편지에 적어 보냈고, 받은 사람은 그 편지를 베껴 다른 사람에게 돌리거나 모임에서 소리 내어 읽었습니다. 주로 라틴어로 쓰인 이 편지들이 국경과 종파를 넘어 오가며 만든 보이지 않는 나라를 당대 사람들은 '편지 공화국'(Respublica literaria)이라고 불렀습니다. 수학에서 이 나라의 수도는 파리의 한 수도원 방이었습니다. 1620년대 마랭 메르센의 연결망에서 시작해, 학술지가 편지를 대신하고 뉴턴과 라이프니츠의 편지가 다툼의 증거 서류가 된 1710년대까지를 따라가 봅니다.

년 ·

왜 편지였나. 새로운 수학은 대학 바깥에서 자랐습니다. 대학은 여전히 아리스토텔레스의 저작과 신학을 논리로 풀이하는 스콜라 철학을 가르치는 곳이었고, 이 시대의 수학자들은 툴루즈의 법관 페르마, 군대를 따라 떠돌던 귀족 데카르트, 세무 관리의 아들 파스칼, 그리고 수도사와 의사, 외교관이었습니다. 1618년부터 30년 동안 중부 유럽을 휩쓴 전쟁과 가톨릭과 개신교의 분열 속에서 사람이 오가기는 어려웠지만, 16–17세기에 유럽 곳곳에 자리 잡은 정기 우편로 덕분에 편지는 오갈 수 있었습니다. 책은 느리고 비쌌으며 검열을 받았지만, 편지는 빨랐고 아직 다듬어지지 않은 생각도 담을 수 있었습니다. 대신 누구에게 무엇을 보일지는 보낸 사람이 정했습니다. 결과는 알리되 방법은 감추거나, 문제만 내고 풀이는 숨기는 일이 흔했습니다.

메르센의 방. 미니모회 수도사 마랭 메르센(1588–1648)은 파리 루아얄 광장 근처의 수도원에서 유럽 수학의 우체국 노릇을 했습니다. 그는 편지를 받으면 베껴서 관심 있을 만한 사람들에게 보냈고, 서로 모르는 학자들을 이어 주었으며, 스스로 문제를 내고 반론을 모았습니다. 1635년 무렵부터는 그의 방에 파리의 학자들이 정기적으로 모였는데, 흔히 '파리 아카데미'라 불리는 이 모임은 훗날 왕립 과학 아카데미의 씨앗이 되었습니다. 거처를 자주 옮기며 네덜란드에 살던 데카르트에게 메르센은 바깥 세계와 닿는 거의 유일한 창구였고, 1641년 데카르트의 『성찰』이 나올 때는 여러 학자의 반론을 모아 함께 싣게 했습니다. 1634년에는 갈릴레이의 역학을 프랑스어로 소개했고, 1633년 종교재판 뒤 발이 묶인 갈릴레이의 생각이 알프스 북쪽에 퍼지는 데 한몫했습니다. 그 자신도 줄의 진동수⁠(frequency)⁠가 길이와 장력에 따라 어떻게 변하는지 정리했고(사인파⁠(sinusoid)⁠, 파동방정식⁠(wave equation)⁠), $2^p - 1$ 꼴의 소수⁠(prime number)⁠에 이름을 남겼습니다. p = 2, 3, 5, 7일 때의 3, 7, 31, 127 같은 수를 오늘날 메르센 소수라 부릅니다. p가 소수여야 하지만 그것만으로는 모자랍니다. $2^{11} - 1 = 2047 = 23 \times 89$는 소수가 아닙니다.

편지 속의 수학. 페르마는 생전에 거의 아무것도 출판하지 않았습니다. 그의 수학은 거의 전부 편지와 돌려 읽힌 원고로 남았습니다. 1636년 무렵부터 메르센을 거쳐 돈 그의 원고에는 곡선을 식으로 다루는 해석기하⁠(analytic geometry)⁠와, 값이 가장 크거나 작아지는 곳을 찾는 방법이 있었습니다(최적화⁠(optimization)⁠, 미분계수⁠(derivative)⁠). 데카르트는 1637년 『기하학』에서 좌표로 곡선을 다루는 같은 생각을 따로 펴냈고, 두 사람은 메르센을 사이에 두고 접선⁠(tangent line)⁠ 구하는 법과 빛의 굴절을 두고 날 선 편지를 주고받았습니다. 정수론⁠(number theory)⁠도 편지 속에서 자랐습니다. 1640년 페르마는 파리의 아마추어 수학자 베르나르 프레니클 드 베시에게 보낸 편지에 오늘날 페르마의 작은 정리라 부르는 명제를 적었습니다. p가 소수이고 a가 p의 배수⁠(multiple)⁠가 아니면 $a^{p-1}$을 p로 나눈 나머지⁠(remainder)⁠는 1이라는 것입니다. 이를테면 $2^6 = 64 = 7 \times 9 + 1$입니다(모듈러 연산⁠(modular arithmetic)⁠, 소수 판정⁠(primality test)⁠). 같은 해 성탄절에 메르센에게 보낸 편지에는 4로 나눈 나머지가 1인 소수는 두 제곱수⁠(perfect square)⁠의 합이라는 정리(5 = 1 + 4, 13 = 4 + 9, 29 = 4 + 25)를 적었습니다(피타고라스 세 쌍⁠(Pythagorean triples)⁠). 증명은 거의 적지 않았습니다. 1657년에는 영국 수학자들에게 정수⁠(integer)⁠ 방정식 문제를 도전장으로 보내기도 했습니다.

1654년 여름. 메르센이 죽은 뒤에도 연결망은 살아 있었습니다. 1654년 여름 파리의 파스칼과 툴루즈의 페르마는 중간에 멈춘 내기의 판돈을 어떻게 나눌지를 두고 편지를 주고받았습니다. 페르마는 남은 판의 가능한 결과를 모두 늘어놓아 셌고, 파스칼은 한 판씩 거슬러 올라가며 각 상태의 몫을 계산하고 수의 삼각형으로 일반화했습니다(확률⁠(probability)⁠, 기댓값⁠(expected value)⁠, 파스칼의 삼각형⁠(Pascal's triangle)⁠, 이항계수⁠(binomial coefficient)⁠). 두 사람은 끝내 만나지 않았습니다. 1655년 파리에 온 네덜란드의 크리스티안 하위헌스는 이 문제들을 전해 듣고 1657년 확률에 관한 첫 인쇄본을 냈고, 1656년 파스칼이 페르마에게 낸 문제는 그 책을 거쳐 도박꾼의 파산⁠(gambler's ruin)⁠ 문제로 알려졌습니다. 반세기 뒤 야코프 베르누이는 하위헌스의 책에서 출발해 큰 수의 법칙⁠(law of large numbers)⁠을 증명했습니다.

편지에서 학술지로. 1665년이 전환점이었습니다. 1월 파리에서 『주르날 데 사방』이, 3월 런던에서 『철학 회보』가 나왔습니다. 『철학 회보』를 만든 사람은 브레멘 출신으로 런던 왕립학회의 서기가 된 헨리 올덴부르크였습니다. 그는 유럽 곳곳의 학자들과 편지를 주고받으며 받은 소식을 옮기고 요약해 인쇄했습니다. 메르센의 방이 하던 일을 인쇄기가 넘겨받은 셈입니다. 인쇄된 지면은 누가 먼저 발견했는지를 날짜로 남겼고, 편지를 받지 못한 사람도 읽을 수 있었으며, 누구든 검토하고 반박할 수 있었습니다. 편지망의 위험도 드러났습니다. 1667년 영국과 네덜란드가 전쟁을 벌이던 때 올덴부르크는 외국과 주고받은 편지 때문에 의심을 받아 두 달 남짓 런던탑에 갇혔습니다. 1682년 라이프치히에서 창간된 『악타 에루디토룸』은 독일어권에서 같은 역할을 맡았습니다. 학회라는 기관 쪽의 이야기는 왕립학회와 과학 아카데미에서 이어집니다.

편지가 증거가 될 때. 1676년 뉴턴은 올덴부르크를 거쳐 라이프니츠에게 두 통의 긴 편지를 보냈습니다. 편지에는 이항급수⁠(binomial series)⁠와 여러 무한급수⁠(infinite series)⁠를 적었지만(테일러 급수⁠(Taylor series)⁠), 뉴턴이 자신의 미적분⁠(calculus)⁠을 부르던 이름인 유율법⁠(method of fluxions)⁠의 핵심은 철자를 뒤섞은 암호문⁠(ciphertext)⁠으로만 남겼습니다. 라이프니츠는 1684년 『악타 에루디토룸』에 미분법을, 2년 뒤 적분법을 발표했습니다(도함수⁠(derivative function)⁠, 정적분⁠(definite integral)⁠, 미적분의 기본정리⁠(fundamental theorem of calculus)⁠). 한참 뒤 누가 먼저였는지를 두고 다툼이 벌어지자, 1712년 런던 왕립학회는 위원회를 꾸려 옛 편지들을 모은 보고서 『편지 교환』(Commercium Epistolicum)을 펴냈습니다. 위원 가운데에는 드무아브르도 있었지만, 판정문을 실제로 쓴 사람은 학회장 뉴턴 자신이었습니다. 생각을 나누던 편지가 다툼의 증거 서류가 된 것입니다. 이 다툼 뒤로 영국 수학은 한 세기 가까이 대륙의 기호와 연구에서 멀어졌습니다.

라이프니츠의 연결망. 라이프니츠는 편지 공화국의 마지막 거인이었습니다. 천 명이 넘는 상대와 주고받은 만 통이 넘는 편지가 남아 있고, 그 가운데 바젤의 베르누이 형제와의 편지에서 미적분이 다듬어졌습니다. '함수⁠(function)⁠'라는 말도 그와 요한 베르누이의 글과 편지에서 자리를 잡았습니다(함수). 1696년 요한 베르누이는 『악타 에루디토룸』에 최단 강하선⁠(brachistochrone)⁠ 문제를 내고 유럽의 수학자들에게 도전했습니다. 높이가 다른 두 점을 잇는 미끄럼틀 가운데 공이 가장 빨리 내려가는 곡선을 찾는 문제로, 답은 직선이 아니라 굴러가는 바퀴 위의 한 점이 그리는 곡선인 사이클로이드⁠(cycloid)⁠였습니다. 수 하나가 아니라 곡선 전체를 바꿔 가며 가장 좋은 것을 찾는 이 문제에서 변분법⁠(calculus of variations)⁠이 시작되었습니다. 영국에서 익명으로 도착한 풀이를 보고 그가 발톱을 보면 사자를 안다며 뉴턴의 것임을 알아보았다는 이야기가 전합니다. 공개 도전이라는 형식은 르네상스 이탈리아의 대수학 경연을 닮았지만, 이제 무대는 누구나 읽는 인쇄된 학술지였습니다.

18세기의 꼬리. 편지는 사라지지 않았습니다. 1742년 크리스티안 골드바흐는 베를린의 오일러에게 보낸 편지에서, 오늘날 2보다 큰 모든 짝수는 두 소수의 합이라는 골드바흐 추측⁠(Goldbach's conjecture)⁠으로 다듬어진 생각을 적었습니다. 1689년 야코프 베르누이가 책에 실어 널리 알린 제곱수 역수⁠(inverse)⁠의 합 문제, 곧 $1 + \tfrac14 + \tfrac19 + \cdots$이 얼마인가라는 문제는 1734년 오일러가 $\pi^2/6$이라고 답했습니다(바젤 문제⁠, Basel problem⁠). 다만 이제 결과는 아카데미의 논문집에 실려야 공인되었고, 편지는 그 앞 단계의 대화가 되었습니다. 편지 공화국이 남긴 것은 제도보다 규범이었습니다. 결과는 알려져야 비로소 결과라는 생각, 먼저 알린 사람에게 공을 돌리는 우선권의 관행, 그리고 종파와 나라가 달라도 같은 문제를 두고 대화할 수 있다는 믿음입니다. 오늘날 심사 전에 논문을 공개하는 관행과 학자들 사이의 전자 우편도 그 먼 후손입니다.

이어지는 곳. 판돈 나누기를 다룬 1654년의 편지는 확률, 기댓값, 파스칼의 삼각형에서, 나머지로 소수를 다룬 페르마의 정수론은 모듈러 연산과 오늘날 작은 정리로 큰 수가 소수인지 가리는 소수 판정에서, 미분⁠(differentiation)⁠과 적분⁠(integral)⁠이 서로 거꾸로라는 사실을 두고 다툰 뉴턴과 라이프니츠의 편지는 미적분의 기본정리와 테일러 급수에서 이어집니다. 가장 빠른 곡선을 찾는 도전은 값이 가장 작은 곳을 찾는 최적화와 가장 좋은 것 고르기로, 우연을 수로 다루게 된 흐름은 무작위성으로 이어집니다. 편지로 결과를 알리던 먼 선례는 알렉산드리아로 편지를 보낸 시라쿠사의 기하학자이고, 비밀과 공개 대결의 앞 시대는 르네상스 이탈리아의 대수학 경연입니다. 편지망을 제도로 만든 이야기는 왕립학회와 과학 아카데미에 있습니다.