오귀스탱루이 코시(Augustin-Louis Cauchy)

오귀스탱루이 코시는 프랑스 혁명이 일어난 1789년 파리에서 태어나, 혁명과 나폴레옹, 왕정복고와 두 번의 혁명을 차례로 겪으며 산 수학자입니다. 그가 자란 시대의 미적분은 뉴턴과 라이프니츠 이후 한 세기 넘게 놀라운 결과를 쏟아냈지만, 그 바탕인 '한없이 작은 양'이 무엇인지는 누구도 분명히 말하지 못했습니다. 무한급수⁠(infinite series)⁠를 마음대로 더하고 빼다 보면 서로 어긋나는 답이 나오기도 했습니다. 코시는 이 계산들을 믿을 수 있는 정의 위에 다시 세운 사람이고, 오늘날 해석학 교과서의 첫 몇 장은 대부분 그가 짠 틀을 따릅니다.

나이 세 ·

그가 네 살이던 1793년 공포 정치가 파리를 휩쓸자, 관리였던 아버지는 가족을 데리고 파리 남쪽의 아르쾨유로 몸을 피했습니다. 먹을 것이 모자랐던 이 시절이 그의 약한 몸과 관계가 있다고 보는 전기 작가도 있습니다. 나폴레옹이 권력을 잡은 뒤 아버지가 원로원의 사무총장이 되면서 집안은 권력의 한가운데로 돌아왔고, 원로원 의원이던 라그랑주와 라플라스가 그 사무실에서 어린 코시를 만났습니다. 라그랑주는 아이의 재능을 알아보고, 열일곱 살이 되기 전에는 수학책을 쥐여 주지 말고 먼저 고전어를 탄탄히 가르치라고 아버지에게 권했다고 전합니다. 코시는 실제로 고전어 경시에서 상을 받은 뒤에야 수학으로 들어섰습니다.

그는 1805년 혁명기에 세워진 에콜 폴리테크니크에 들어가 토목 기사 교육을 받았고, 나폴레옹의 해군 기지를 짓는 셰르부르 항구 공사에서 일했습니다. 건강이 나빠져 파리로 돌아온 뒤에는 수학에 전념했습니다. 1813년 무렵 그는 페르마가 증명 없이 남긴 주장, 곧 모든 자연수⁠(natural number)⁠는 n개 이하의 n각수의 합이라는 정리를 증명했습니다. n각수는 점을 정n각형 모양으로 늘어놓을 때의 개수로, 삼각수⁠(triangular number)⁠는 1, 3, 6, 10, …, 사각수는 제곱수⁠(perfect square)⁠ 1, 4, 9, 16, …, 오각수⁠(pentagonal number)⁠는 1, 5, 12, 22, …입니다. 모든 수가 삼각수 세 개의 합이라는 경우는 가우스가, 제곱수 네 개의 합이라는 경우는 라그랑주가 이미 증명했고, 코시는 모든 n에 대해 한꺼번에 증명했습니다. 1816년 왕정복고 정부가 몽주를 비롯한 공화파 학자들을 과학 아카데미에서 내보냈을 때 몽주의 빈자리에 임명되었는데, 이 일로 동료들 사이에서 인심을 잃었습니다.

이 임명은 왕정복고라는 시대를 그대로 보여 줍니다. 1814–15년 나폴레옹이 무너지고 부르봉 왕가가 돌아오자, 혁명과 제정을 섬긴 학자들이 밀려난 자리를 왕실에 충성하는 사람들이 채웠습니다. 스물여섯 살의 코시는 뛰어난 수학자이면서 정치적으로 믿을 만한 가톨릭 왕당파였습니다. 1815년 말부터 에콜 폴리테크니크에서 해석학을 가르쳤고, 1816년에는 물결이 퍼져 나가는 문제를 다룬 논문으로 아카데미의 대상을 받았습니다. 당시 파리의 과학 아카데미는 현상 과제와 논문 심사로 유럽 수학의 방향을 정하는 기관이었고, 코시는 평생 수많은 심사 보고서를 쓰며 그 한가운데 섰습니다. 1835년 아카데미가 매주 회보 『콩트 랑뒤』를 내기 시작하자 그는 거의 매주 글을 실었습니다. 논문이 몇 주 만에 인쇄되는 이 새 매체에 가장 잘 맞는 사람이 그였습니다.

코시의 이름을 굳힌 것은 에콜 폴리테크니크의 강의였습니다. 1821년의 『해석학 강의』와 1823년의 『미분적분학 요약』에서 그는 극한을 모든 것의 중심에 놓았습니다. 변수가 어떤 값에 한없이 다가갈 때 다른 양이 한 값에 한없이 다가가면 그 값을 극한이라 부르고, 이것 하나로 나머지를 정의했습니다. x의 아주 작은 변화가 늘 f의 아주 작은 변화를 낳으면 f는 연속이고, 미분계수⁠(derivative)⁠는 두 점을 잇는 직선의 기울기(차분몫) $\frac{f(x+h) - f(x)}{h}$에서 h를 0으로 보낸 극한 $f'(x) = \lim_{h \to 0} \frac{f(x+h) - f(x)}{h}$이며(미분계수), 정적분⁠(definite integral)⁠은 구간을 잘게 나눈 막대 넓이⁠(area)⁠ 합의 극한입니다(정적분). 이 정의들로 그는 중간값 정리⁠(intermediate value theorem)⁠와 미적분의 기본정리⁠(fundamental theorem of calculus)⁠를 증명했고, 급수⁠(series)⁠가 수렴⁠(convergence)⁠하는지 가리는 판정법들과 거듭제곱급수의 수렴반경⁠(radius of convergence)⁠을 정리했습니다. 1823년에는 함수⁠(function)⁠ $e^{-1/x^2}$(x = 0에서는 0)를 들어, 테일러 급수⁠(Taylor series)⁠가 곧 함수라는 믿음에 선을 그었습니다. 이 함수는 0 근처에서 너무나 납작해서 0에서의 미분값이 몇 번째 것이든 모두 0이고, 그래서 0에서 만든 테일러 급수는 모든 항이 0입니다. 그런데 함수 자신은 0이 아닌 x에서 0보다 큽니다.

이 엄밀함이 교실에서 늘 환영받은 것은 아닙니다. 에콜 폴리테크니크는 포병과 공병, 다리와 도로의 기술자를 길러 내는 학교였고, 학교 운영진과 졸업생을 받아 가는 기관들은 코시의 강의가 추상적인 해석학에 시간을 너무 많이 쓴다고 거듭 불평했습니다. 『해석학 강의』 머리말에서 그는 기하학에서 요구하는 엄밀함을 해석학에도 요구하겠다고 밝히고, '대수의 일반성'에 기대어 수렴하지 않는 급수까지 마음대로 쓰는 관행을 받아들이지 않겠다고 적었습니다. 교과서는 교실보다 멀리 갔습니다. 파리에 머물던 노르웨이의 젊은 아벨은 1826년 고향에 보낸 편지에서, 코시는 괴팍하지만 지금 수학을 어떻게 다뤄야 하는지 아는 사람은 그뿐이라는 취지로 적었습니다.

모든 것이 한 번에 맞지는 않았습니다. 『해석학 강의』에는 연속함수들의 급수가 수렴하면 그 합도 연속이라는 '정리'가 있었는데, 1826년 아벨은 푸리에 급수⁠(Fourier series)⁠로 반례를 들었습니다. $\sin x - \tfrac12 \sin 2x + \tfrac13 \sin 3x - \cdots$는 연속인 사인파⁠(sinusoid)⁠들의 합인데, −π와 π 사이에서는 x/2와 같다가 x = π에서 뚝 끊어지는 톱니파가 됩니다. 이 틈을 메운 것은 다음 세대였습니다. 베를린의 바이어슈트라스가 코시의 '한없이 다가간다'를 ε과 δ로 된 유한한 문장('아무리 작은 오차 ε을 정해도, 그에 맞는 δ가 있어서 …')으로 바꾸었습니다. 그리고 점마다 따로 다가가는 점별 수렴⁠(pointwise convergence)⁠과, 모든 점이 한꺼번에 같은 빠르기 이상으로 다가가는 균등 수렴⁠(uniform convergence)⁠을 구별했습니다. 균등 수렴하는 연속함수들의 합은 연속이라는 것이 코시의 '정리'를 바로잡은 올바른 명제입니다. 한편 코시의 적분은 리만이 더 넓은 함수까지 다룰 수 있게 다듬었습니다(리만 합⁠, Riemann sum⁠).

그가 새로 연 분야는 복소함수론입니다. 1825년 논문에서 코시는 복소수⁠(complex number)⁠ 평면 위의 두 점을 잇는 여러 경로를 따라 함수를 적분하면 값이 같다는 것을 보였습니다. 조건은 함수가 복소수의 뜻으로 미분⁠(differentiation)⁠ 가능하고, 두 경로 사이에 함수가 무한대로 치솟는 점(극) 같은 특이점⁠(singularity)⁠이 없다는 것입니다. 그래서 곡선 위와 안쪽에 특이점이 없으면 한 바퀴 돌아 제자리로 오는 적분은 0이고(위의 식), 극을 감싸고 돌면 그 극의 '유수⁠(class number)⁠'만 남습니다. 유수는 극 a 근처에서 함수를 (z − a)의 거듭제곱들로 펼쳤을 때 $1/(z - a)$ 항의 계수 c이고, 극을 시계 반대 방향으로 한 바퀴 감싸 돈 적분은 $2\pi i\,c$가 됩니다. $1/z$를 원점 둘레로 한 바퀴 적분하면 $2\pi i$입니다. 1831년 망명지 토리노에서는 원 안쪽의 함숫값이 원 위의 값만으로 모두 정해진다는 적분 공식을 내놓았습니다. 거듭제곱급수가 중심에서 가장 가까운 극(특이점)까지만 수렴한다는 사실도 여기서 나옵니다. 실수⁠(real number)⁠만 보면 매끄러운 $1/(1+x^2)$의 급수가 |x| < 1에서만 수렴하는 까닭은 복소평면의 ±i에 극이 있기 때문입니다.

그는 거의 모든 분야에 손을 댔습니다. 1812년 논문에서 오늘날의 뜻으로 행렬식⁠(determinant)⁠을 체계적으로 다루며 두 행렬식의 곱이 곱의 행렬식이라는 법칙을 증명했고, 1829년에는 대칭 행렬⁠(symmetric matrix)⁠의 고유값⁠(eigenvalue)⁠이 모두 실수임을 보였습니다. 『해석학 강의』에 실린 부등식 $(\sum a_i b_i)^2 \le \sum a_i^2 \sum b_i^2$(예를 들어 (1, 2)와 (3, 4)라면 $11^2 = 121 \le 5 \times 25 = 125$)는 오늘날 코시–슈바르츠 부등식⁠(Cauchy–Schwarz inequality)⁠이라 불리며 내적⁠(dot product)⁠의 가장 기본적인 성질이 되었습니다. 탄성체 속의 힘을 다루는 응력(물체 속의 한 면을 사이에 두고 양쪽이 서로 밀고 당기는 힘을 넓이로 나눈 것)의 개념을 세웠고, 1847년에는 함수가 가장 빨리 줄어드는 방향으로 조금씩 움직이는 경사 하강법⁠(gradient descent)⁠을 발표했습니다. 평생 800편 가까운 논문을 썼고, 아카데미 회보가 한 편의 길이를 제한한 데에는 그의 원고 홍수도 한몫했다는 이야기가 전합니다.

코시는 독실한 가톨릭 신자이자 부르봉 왕가의 지지자였습니다. 1830년 7월 혁명으로 루이 필리프가 왕위에 오르자 충성 서약을 거부하고 스위스와 토리노를 거쳐 프라하로 가서, 쫓겨난 샤를 10세의 손자를 가르쳤습니다. 1838년 파리로 돌아왔지만 서약이 필요한 자리는 1848년 서약 제도가 없어질 때까지 맡지 못했습니다. 젊은 아벨이 1826년 아카데미에 낸 논문의 심사를 맡고도 원고를 묵혀 두어, 그 논문이 아벨이 죽은 뒤에야 빛을 본 일은 그의 경력에 남은 그늘로 자주 이야기됩니다. 그는 1857년 파리 근교 소에서 세상을 떠났습니다.

그의 생각은 여러 갈래로 흘러갔습니다. 극한으로 세운 해석학은 베를린의 바이어슈트라스를 거쳐 ε과 δ의 언어가 되었고, 무한을 '끝없이 다가가는 과정'으로 길들인 이 방식은 무한을 다루는 법의 한 전환점입니다. 복소평면의 적분은 물리와 공학의 도구가 되었습니다. 신호를 주파수로 풀었다가 되돌리는 변환, 되먹임⁠(feedback)⁠ 회로가 안정한지 가리는 나이퀴스트의 판정, 양자역학의 산란 계산에서 적분 경로를 복소평면으로 돌려 유수만 더하는 기법이 모두 그의 정리 위에 서 있습니다. 원 위의 값만으로 안쪽을 모두 안다는 적분 공식은 경계의 정보로 전체를 아는 국소에서 전체로의 한 장면이기도 합니다. 1820년대 탄성체 연구에서 세운 응력⁠(stress)⁠의 개념은 건물과 기계를 설계하는 연속체 역학⁠(continuum mechanics)⁠의 출발점이 되었고, 1847년의 경사 하강법은 한 세기 반 뒤 신경망⁠(neural network)⁠을 훈련하는 최적화⁠(optimization)⁠의 기본 알고리즘⁠(algorithm)⁠으로 돌아왔습니다.

이어지는 곳. 그가 해석학의 중심에 놓은 극한은, 그것으로 정의한 연속성⁠(continuity)⁠과 미분계수로 이어집니다. 막대 넓이 합의 극한으로 정의한 적분은 리만이 넓힌 리만 합과, 그가 이 정의로 증명한 미적분의 기본정리에서 볼 수 있습니다. 복소평면의 극과, 급수가 가장 가까운 극까지만 수렴한다는 사실은 영점과 극⁠(zeros and poles)⁠, 수렴반경, 복소함수⁠(complex function)⁠를 색으로 그리는 도메인 컬러링⁠(domain coloring)⁠에서 볼 수 있습니다. 그가 버린 급수 기초론의 라그랑주, 그의 '정리'에 반례가 된 급수를 만든 푸리에가 앞선 세대이고, 조건을 갖춘 함수에 대해 푸리에 급수의 수렴을 처음 엄밀하게 증명한 디리클레가 그의 엄밀함을 이어받았습니다.

관계.

• 영향을 받음 조제프루이 라그랑주 — 라그랑주의 『해석 함수론』을 읽으며 자랐지만, 미적분을 거듭제곱급수 위에 세우려던 라그랑주의 방식을 버리고 극한을 바탕에 놓았습니다.
• 영향을 줌 피에르시몽 라플라스 — 코시가 아카데미에서 급수의 수렴을 발표하자 라플라스가 서둘러 집에 돌아가 『천체역학⁠(celestial mechanics)⁠』의 급수들이 수렴하는지 확인했다는 이야기가 전합니다.

연표.

• 1805년 에콜 폴리테크니크에 입학하다
• 1810년 셰르부르 군항 공사에 기사로 파견되다
• 1815년 에콜 폴리테크니크에서 해석학을 가르치기 시작하다
• 1816년 과학 아카데미 회원이 되고, 물결의 전파에 관한 논문으로 아카데미 대상을 받다
• 1821년 극한을 중심에 놓은 『해석학 강의』를 펴내다
• 1823년 적분을 합의 극한으로 정의한 『미분적분학 요약』을 내다
• 1825년 복소평면의 경로를 따라 하는 적분에 관한 논문을 쓰다
• 1830년 7월 혁명 뒤 새 왕에게 충성 서약을 거부하고 망명하다
• 1831년 토리노에서 원 위의 값으로 안쪽의 값을 정하는 적분 공식을 내놓다
• 1833년 프라하로 가서 샤를 10세의 손자를 가르치다
• 1838년 파리로 돌아오다
• 1847년 연립방정식을 푸는 경사 하강법을 발표하다
• 1848년 2월 혁명으로 서약 제도가 없어진 뒤 소르본의 교수 자리를 되찾다