피에르 드 페르마(Pierre de Fermat)

페르마는 프랑스 남서부의 작은 도시 보몽드로마뉴에서 부유한 가죽 상인의 아들로 태어났습니다. 출생 연도는 1601년이라는 설과 1607년 무렵이라는 설이 있는데, 같은 이름의 이복형이 1601년에 태어나 일찍 죽었다는 연구가 나오면서 1607년 무렵이 유력해졌습니다. 법학을 공부한 그는 1631년 툴루즈 고등법원의 법관이 되어 평생 그 일을 했고, 수학은 여가에 했습니다. 그는 결과를 편지에 적거나 책 여백에 메모할 뿐 증명은 좀처럼 남기지 않았고, 출판에도 관심이 없었습니다. 그래서 그의 수학은 대부분 남이 보관한 편지와 그가 죽은 뒤 아들이 모은 원고로 전합니다.

나이 세 ·

보르도에서 배운 대수. 1620년대 후반 페르마는 보르도에서 지냈습니다. 그곳에는 16세기 말 문자로 방정식을 쓰는 '해석술⁠(analytic art)⁠'을 세운 프랑수아 비에트의 원고를 가진 사람들이 있었고, 페르마는 그 원고로 비에트의 대수를 익혔습니다. 그의 글은 평생 비에트의 표기, 곧 모르는 양은 모음, 아는 양은 자음으로 쓰는 방식을 따랐습니다. 그 뒤 오를레앙에서 법학 학위를 받고 1631년 툴루즈 고등법원의 법관 자리를 샀습니다. 당시 프랑스에서는 관직을 돈으로 사고팔 수 있었고, 고등법원의 법관은 '법복 귀족'이 되어 이름에 '드'를 붙일 수 있었습니다. 그는 청원을 다루는 부서에서 시작해 형사 사건⁠(event)⁠을 맡는 법정으로 옮겼고, 신교도가 관련된 사건을 다루는 카스트르의 특별 법정에도 여러 차례 나가 일했습니다.

편지로만 아는 수학자. 그 시대에는 학술지가 없었습니다. 최초의 학술지인 파리의 『주르날 데 사방』과 런던 왕립학회의 『철학 회보』가 나온 것은 그가 죽은 해인 1665년입니다(왕립학회와 과학 아카데미). 유럽의 학자들은 편지로 결과를 나누었고, 그 한가운데에서 파리의 수도사 메르센이 편지를 베껴 돌렸습니다(편지 공화국). 툴루즈 고등법원의 동료였던 카르카비가 1636년 파리로 옮기면서 그를 메르센과 파리의 수학자 로베르발에게 소개했고, 그때부터 페르마의 편지가 파리로 흘러가기 시작했습니다. 그는 거의 평생 툴루즈 지방을 떠나지 않았고 파리의 학자들을 직접 만난 일도 드물었습니다. 유럽에서 손꼽히는 수학자가 동료들에게는 편지 속의 이름으로만 존재했던 셈입니다.

곡선을 식으로. 출발점은 고대 그리스의 책이었습니다. 그는 4세기의 수학자 파포스가 줄거리만 전한 아폴로니오스의 사라진 책 『평면 자취』를 복원하다가, 자취를 방정식으로 다루는 방법에 이르렀습니다. 1636년 무렵부터 돌기 시작한 그의 원고 「평면 자취와 입체 자취 입문」은 미지수 두 개의 1차방정식이 직선을, 2차방정식이 원뿔곡선(원, 타원⁠(ellipse)⁠, 포물선⁠(parabola)⁠, 쌍곡선⁠(hyperbola)⁠)을 나타낸다고 보였습니다. $y = 2x + 1$은 직선, $x^2 + y^2 = 1$은 원, $y = x^2$은 포물선입니다. 데카르트의 『기하학』과 같은 생각에 독립적으로 이른 것입니다. 원고는 그가 죽은 뒤 1679년에야 인쇄되어, 좌표의 공은 오래 데카르트에게 더 많이 돌아갔습니다.

극값과 접선⁠(tangent line)⁠. 그는 최댓값을 구하는 방법도 편지로 알렸습니다. 길이 b인 선분을 두 조각 x와 b − x로 나누어 곱 $x(b - x)$을 가장 크게 하려면, x를 아주 조금 옮긴 $x + e$에서의 값과 원래 값을 '거의 같다'고 놓습니다. 두 값의 차는 $e(b - 2x - e)$이니 e로 나누면 $b - 2x - e$, 여기서 e를 지우면 $x = b/2$입니다. 차이를 옮긴 양으로 나누고 그 양을 없애는 이 절차는 오늘날의 미분계수⁠(derivative)⁠를 구하는 일과 거의 같고, 최댓값에서 기울기⁠(slope)⁠가 0이라는 최적화⁠(optimization)⁠의 원리가 미분⁠(differentiation)⁠보다 먼저 여기 있었습니다(가장 좋은 것 고르기). 다만 e로 나눈 뒤 e를 0으로 두어도 되는 까닭은 극한⁠(limit)⁠의 개념이 나온 뒤에야 설명되었습니다. 그는 곡선 $y = x^n$ 아래의 넓이⁠(area)⁠도 구했습니다. 0부터 a까지의 구간을 a, ar, ar², …처럼 같은 비율 r(1보다 조금 작은 수)로 줄어드는 점들에서 자르면, 조각마다 세운 직사각형들의 넓이도 같은 비율로 줄어드는 등비수열⁠(geometric progression)⁠이 됩니다. 그 합은 등비급수⁠(geometric series)⁠의 공식으로 바로 구해지고, r을 1에 가깝게 하면 넓이 $a^{n+1}/(n+1)$이 나옵니다. 오늘날의 적분⁠(integral)⁠ $\int_0^a x^n\,dx$과 같은 결과입니다. 1637–38년 데카르트는 그의 접선법을 공격했지만, 논쟁 끝에 방법의 가치를 어느 정도 인정했습니다.

정수⁠(integer)⁠의 성질. 그의 가장 깊은 사랑은 정수였습니다. 3세기 알렉산드리아의 수학자 디오판토스의 『산술』을, 1621년 바셰가 그리스어 원문과 라틴어 번역을 함께 펴낸 판으로 읽으며 그는 수많은 결과를 얻었습니다. 1640년 파리의 아마추어 수학자 프레니클 드 베시에게 보낸 편지에 증명 없이 적은 페르마 소정리⁠(Fermat's little theorem)⁠는, 소수⁠(prime number)⁠ p와 p의 배수⁠(multiple)⁠가 아닌 정수 a에 대해 $a^{p-1} - 1$이 p로 나누어떨어진다는 것입니다. p = 7, a = 2라면 $2^6 - 1 = 63 = 7 \times 9$입니다. 나머지만 따지는 셈법(모듈러 연산⁠, modular arithmetic⁠)으로는 $a^{p-1} \equiv 1 \pmod p$라고 씁니다. 오늘날 소수 판정⁠(primality test)⁠과 RSA 암호⁠(RSA cryptosystem)⁠가 이 정리 위에 서 있습니다. 같은 해 성탄절에 메르센에게 보낸 편지에는 4로 나눈 나머지⁠(remainder)⁠가 1인 소수는 두 제곱수⁠(perfect square)⁠의 합으로 쓸 수 있다는 정리가 있습니다($13 = 4 + 9$, $29 = 4 + 25$). 나머지가 3인 소수(7, 11, …)는 그렇게 쓸 수 없습니다. 이런 소수는 세 변이 정수인 직각삼각형⁠(right triangle)⁠의 빗변⁠(hypotenuse)⁠이 될 수 있어서(13은 5, 12, 13의 빗변), 이 정리는 피타고라스 세 쌍⁠(Pythagorean triples)⁠과 이어져 있습니다. 그는 $2^{2^n} + 1$ 꼴의 수(3, 5, 17, 257, 65537, …, 오늘날의 페르마 수⁠(Fermat number)⁠)가 모두 소수라고 믿었지만, 1732년 오일러가 $2^{32} + 1$이 641로 나누어떨어짐을 보였습니다. 그가 자세히 남긴 드문 증명은 '무한 강하법⁠(infinite descent)⁠'입니다. 해가 있다고 하면 그보다 작은 양의 정수해가 또 생기고, 이것이 끝없이 이어질 수는 없으니 해가 없다는 논증으로, 수학적 귀납법⁠(mathematical induction)⁠을 거꾸로 쓴 것입니다.

영국에 보낸 도전장. 1657년 그는 정수론이 제대로 대접받지 못한다고 여기며 유럽의 수학자들, 특히 옥스퍼드의 수학자 존 월리스와 뒷날 왕립학회 초대 회장이 되는 브라운커 경에게 도전 문제를 보냈습니다. 제곱수가 아닌 양의 정수 N에 대해 $x^2 - Ny^2 = 1$의 정수해를, x = 1, y = 0 같은 뻔한 해 말고 찾으라는 것이었고, 예로 든 $N = 61$의 가장 작은 해는 $x = 1766319049$, $y = 226153980$입니다. 브라운커와 월리스는 해를 찾는 방법을 내놓았고, 월리스는 이 편지들을 1658년 책으로 묶어 펴냈습니다. 그런 해가 언제나 있다는 완전한 증명은 1760년대 말 라그랑주가 했습니다. 오일러가 이 방정식을 잘못 영국의 수학자 존 펠의 것으로 여겨 붙인 '펠 방정식⁠(Pell equation)⁠'이라는 이름이 지금도 쓰입니다. 같은 방정식은 7세기 인도의 브라마굽타와 12세기 인도의 수학자 바스카라 2세가 이미 깊이 다루었습니다.

가장 유명한 메모는 디오판토스 책의 여백에 있었습니다. n이 3 이상이면 $x^n + y^n = z^n$을 만족하는 양의 정수는 없고, 자신은 놀라운 증명을 찾았지만 여백이 좁아 적지 못한다는 것입니다. 이 메모는 그가 죽은 뒤 1670년 아들 사뮈엘이 아버지의 메모를 넣은 디오판토스의 책을 펴내면서 알려졌습니다. 350년 동안 수많은 수학자가 매달렸고, 그 과정에서 19세기 독일의 쿠머는 소인수분해⁠(prime factorization)⁠가 한 가지로 정해지지 않는 수 체계⁠(number system)⁠를 만났습니다. 쿠머가 다룬 것은 1의 거듭제곱근⁠(roots of unity)⁠으로 만든 수 체계였지만, 같은 현상은 더 간단한 예에서도 보입니다. $a + b\sqrt{-5}$(a, b는 정수) 꼴의 수들 안에서는 $6 = 2 \times 3 = (1 + \sqrt{-5})(1 - \sqrt{-5})$처럼 더 쪼갤 수 없는 수들의 곱으로 쓰는 방법이 두 가지입니다. 쿠머는 이런 체계에 '이상수⁠(ideal number)⁠'라는 가상의 인수를 덧붙여 분해가 다시 한 가지로 정해지게 했고, 이것이 정수를 넓힌 수 체계에서 정수론을 하는 대수적 정수론⁠(algebraic number theory)⁠의 문을 열었습니다. 1994년 영국의 앤드루 와일스가 마침내 증명했고, 그 증명에는 타원곡선⁠(elliptic curve)⁠과 모듈러 형식⁠(modular form)⁠처럼 페르마의 시대에 없던 수학이 잔뜩 필요했습니다. 페르마가 정말 증명을 가졌다고 믿는 수학자는 거의 없습니다.

확률의 편지. 1654년 파스칼은 중단된 내기의 판돈을 어떻게 나눌지를 두고 그와 편지를 주고받았습니다. 페르마는 승부가 날 때까지 남은 판을 모두 한다고 치고, 일어날 수 있는 승패의 순서를 빠짐없이 적어 세었습니다. 파스칼은 한 판씩 되짚어 올라갔습니다. 두 방법은 파스칼의 삼각형⁠(Pascal's triangle)⁠과 이항계수⁠(binomial coefficient)⁠에서 만나고, 이 편지들이 확률론의 출발점으로 꼽힙니다. 우연을 세는 일이 수학이 된 순간입니다(무작위성). 두 사람은 한 번도 직접 만나지 않은 것으로 알려져 있습니다. 이듬해 파리에 온 네덜란드의 하위헌스가 이 문제들을 전해 듣고 1657년 확률에 관한 첫 인쇄된 책을 썼습니다.

최소 시간과 반발. 1662년 그는 빛이 두 점 사이를 가장 짧은 시간이 걸리는 길로 간다는 원리에서 굴절의 사인⁠(sine)⁠ 법칙을 이끌어 냈습니다. 데카르트와 같은 법칙에 전혀 다른 이유로 이른 것입니다. 데카르트의 설명은 빛이 밀한 물질 속에서 더 빠르다는 가정을 썼고, 페르마의 설명은 더 느리다는 가정을 썼습니다. 데카르트의 제자이자 유고 관리인이던 클레르슬리에는 자연이 무언가를 '의도'해서 가장 짧은 시간의 길을 고른다는 생각은 물리학이 될 수 없다고 반박했고, 페르마는 자연의 비밀을 안다고 주장하지는 않겠다며 물러서면서도 계산이 맞는다는 점은 굽히지 않았습니다. 빛이 물속에서 더 느리다는 것은 1850년 프랑스의 물리학자 푸코의 실험으로 확인되었습니다. 자연이 무언가를 가장 작게 하는 길을 고른다는 이 생각은 뒷날 어떤 양을 가장 작게 하는 곡선이나 함수⁠(function)⁠를 찾는 변분법⁠(calculus of variations)⁠으로 자랐고, 물리학에서는 물체가 '작용'이라는 양을 가장 작게(정확히는 조금 흔들어도 변하지 않게) 하는 경로로 움직인다는 최소 작용 원리⁠(principle of least action)⁠가 되었습니다.

그는 조용한 법관이었습니다. 1650년대 초 툴루즈에 페스트가 돌 때 그도 병에 걸렸고, 1653년 무렵 그가 죽었다는 소식이 잘못 퍼졌다가 바로잡힌 일이 있었습니다. 1665년 1월 재판 일로 가 있던 카스트르에서 죽었습니다. 그가 남긴 수많은 주장을 증명하거나 반박하는 일은 오일러, 라그랑주, 가우스에게 넘어갔고, 그 과정에서 정수론이 하나의 분야로 자랐습니다.

이어지는 곳. 그의 소정리는 오일러가 소수가 아닌 법으로 넓힌 오일러 피 함수⁠(Euler's totient function)⁠와 페르마 소정리로 이어지고, 그 정리를 어기는 수는 소수가 아니라는 소수 판정의 기초⁠(basics)⁠가 되며, 큰 수의 거듭제곱 나머지로 잠그고 여는 RSA 암호와 디피–헬먼 키 교환⁠(Diffie–Hellman key exchange)⁠을 떠받칩니다. 조금 옮긴 값과 비교해 극값을 찾는 방법은 최적화와 미분계수로, 판돈을 나누던 확률의 편지는 확률과, 돈이 떨어질 때까지 내기를 계속하는 도박꾼의 파산⁠(gambler's ruin)⁠ 문제로 이어집니다. 같은 때 좌표에 이른 사람은 데카르트, 확률을 함께 연 편지 상대는 파스칼입니다. 여백의 메모가 350여 년 뒤 어떻게 증명되었는지는 페르마의 마지막 정리⁠(Fermat's Last Theorem)⁠에 있습니다.

관계.

• 편지 블레즈 파스칼 — 1654년 여름부터 가을까지 파리와 툴루즈 사이에 오간 편지로 중단된 내기의 분배 문제⁠(problem of points)⁠를 서로 다른 방법으로 풀었습니다.
• 영향을 줌 레온하르트 오일러 — 오일러는 페르마 소정리와 두 제곱수의 합 정리를 증명하고, 페르마 수가 모두 소수라는 추측을 641이라는 약수⁠(divisor)⁠로 깨뜨렸습니다.
• 영향을 줌 조제프루이 라그랑주 — 라그랑주는 페르마가 도전 문제로 낸 x² − Ny² = 1(N은 제곱수가 아닌 양의 정수)에 y ≠ 0인 정수해가 늘 있음을 증명하고, 모든 양의 정수는 제곱수 네 개의 합으로 쓸 수 있다(7 = 4 + 1 + 1 + 1)는 페르마의 주장도 1770년에 증명했습니다.

연표.

• 1631년 툴루즈 고등법원의 법관이 되다
• 1636년 메르센과 편지를 시작하고 극대·극소법과 자취론을 알리다
• 1637년 디오판토스 『산술』의 여백에 마지막 정리를 적다(무렵)
• 1638년 접선 구하는 법을 두고 데카르트와 편지로 논쟁하다
• 1640년 소정리와 두 제곱수의 합 정리를 편지에 적다
• 1654년 파스칼과 편지로 분배 문제를 풀다
• 1657년 영국 수학자들에게 정수론 도전 문제를 내다
• 1662년 최소 시간의 원리⁠(principle of least time)⁠로 빛의 굴절 법칙⁠(law of refraction)⁠을 이끌어 내다
• 1665년 1월 재판 일로 가 있던 카스트르에서 죽다