카를 바이어슈트라스(Karl Weierstrass)

카를 바이어슈트라스는 1815년 프로이센의 베스트팔렌 지방 오스텐펠데에서 세관 관리의 아들로 태어났습니다. 그가 자란 19세기 전반, 미적분⁠(calculus)⁠은 쓰기에는 강력했지만 그 기초⁠(basics)⁠는 여전히 흔들렸습니다. 코시가 1821년 미적분을 극한 위에 다시 세웠지만 그의 극한은 "변수가 한없이 다가갈 때"라는 움직임의 말로 적혀 있었고, 수학자들은 이어진 곡선이라면 대부분의 점에서 접선⁠(tangent line)⁠이 있으리라는 그림의 직관에 기대고 있었습니다. 그 직관은 실제로 틀린 정리를 낳기도 했습니다. 바이어슈트라스는 움직임과 그림을 걷어 내고 모든 것을 수 사이의 부등식으로 적었고, 오늘날 해석학 교과서의 말투는 거의 그의 것입니다.

나이 세 ·

그의 길은 곧지 않았습니다. 아버지는 그가 프로이센의 관리가 되기를 바라 1834년 본 대학에서 법학과 재정학을 공부하게 했지만, 그는 네 해 동안 펜싱과 학생 모임의 술자리에 빠져 학위 없이 돌아왔다고 전합니다. 대신 혼자서 야코비와 아벨의 타원함수⁠(elliptic function)⁠ 논문을 읽었습니다. 1839년 교사가 되려고 뮌스터의 아카데미에 들어가 구더만의 강의를 들은 것이 전환점이었습니다. 구더만은 함수를 거듭제곱 급수⁠(power series)⁠, 곧 $a_0 + a_1 x + a_2 x^2 + \cdots$ 꼴의 무한한 다항식으로 펼쳐 다루었고(테일러 급수⁠, Taylor series⁠), 바이어슈트라스는 평생 이 방법을 해석학의 바탕으로 삼았습니다.

1841년 교사 자격을 얻은 그는 이듬해부터 열네 해 동안 서프로이센의 도이치크로네와 동프로이센의 브라운스베르크라는 작은 도시의 김나지움에서 가르쳤습니다. 수학과 물리뿐 아니라 독일어, 지리, 체조, 글씨 쓰기까지 맡았고, 연구는 밤에 혼자 했습니다. 도서관도, 이야기를 나눌 동료도 없었습니다. 학교 연보에 실은 논문은 아무도 읽지 않았습니다. 그러다 1854년 베를린의 크렐레가 펴내는 학술지에 아벨 함수⁠(abelian function)⁠에 관한 논문을 실었습니다. 적분⁠(integral)⁠ $\int dx/\sqrt{1-x^2}$을 거꾸로 풀면 사인⁠(sine)⁠ 함수가 나오듯, 근호 안의 다항식 차수가 높으면 거꾸로 풀 때 여러 변수의 새로운 함수가 필요한데, 그 함수를 다루는 방법을 보인 논문이었습니다. 무명의 시골 교사가 야코비가 남긴 어려운 문제를 풀었다는 소식에 쾨니히스베르크 대학은 그에게 명예 박사 학위를 주었고, 1856년 그는 베를린의 공업 학교 교수, 베를린 대학의 원외 교수, 베를린 학술원 회원이 되었습니다.

베를린에서 그는 무거운 강의를 떠맡다 1861년 쓰러졌고, 그 뒤로 어지럼증에 시달려 앉은 채 강의하고 학생이 칠판에 대신 쓰게 했습니다. 그해 쿰머와 함께 순수 수학만 다루는 세미나로는 독일 대학에서 처음으로 꼽히는 세미나를 열었고, 해석 함수론, 타원함수, 아벨 함수, 변분법⁠(calculus of variations)⁠을 네 학기에 걸쳐 도는 강의를 되풀이했습니다. 그는 논문을 적게 냈습니다. 그의 결과는 대부분 학생들이 받아 적은 강의 노트로 유럽에 퍼졌고, 그래서 '바이어슈트라스식 엄밀함'은 책보다 교실에서 먼저 전해진 전통이 되었습니다. 쿰머, 크로네커와 함께 그는 베를린을 독일 수학의 수도로 만들었습니다.

그가 강의에서 다듬은 연속의 정의는 이렇습니다. 함수 f가 점 a에서 연속이라는 것은, 누가 아무리 작은 허용 오차 ε(엡실론)을 내밀어도 그에 맞는 거리 δ(델타)를 찾을 수 있어서, a에서 δ보다 가까운 모든 x에서 f(x)가 f(a)에서 ε보다 가깝다는 것입니다. 상대가 ε을 내밀면 나는 δ로 답하는 놀이로 생각하면 쉽습니다. f(x) = 2x이고 a = 1이라면 δ = ε/2로 답하면 늘 이깁니다. 여기에는 '다가간다'는 움직임도, 무한히 작은 양도 없고, 모든 수에 대한 부등식만 있습니다(연속성⁠, continuity⁠). 그는 같은 정신으로 유리수⁠(rational number)⁠에서 실수⁠(real number)⁠를 만드는 방법도 강의했는데(수 체계⁠(number system)⁠, 무리수⁠(irrational number)⁠), 제자 칸토어와 브라운슈바이크의 데데킨트가 1872년 각자 실수를 구성한 것도 이 흐름 속에 있습니다.

이 엄밀함이 가장 크게 쓰인 곳은 무한히 많은 함수를 더하는 급수⁠(series)⁠였습니다. 코시는 1821년 연속 함수들을 더한 급수가 수렴⁠(convergence)⁠하면 그 합도 연속이라고 적었는데, 1826년 아벨이 푸리에 급수⁠(Fourier series)⁠에서 반례를 찾았습니다. 무엇이 문제였을까요? 구간 [0, 1]에서 함수 xⁿ을 보면 x가 1보다 작은 점에서는 n이 커질수록 0에 다가가고, x = 1에서는 늘 1입니다. 점마다 따로 보면 수렴하지만(점별 수렴⁠, pointwise convergence⁠) 극한 함수는 1에서 뚝 끊기고, 1 바로 앞의 점일수록 0에 붙기까지 한참 걸립니다. 바이어슈트라스는 오차 ε을 정하면 구간의 모든 점에서 한꺼번에 통하는 N이 있어야 한다는 더 강한 수렴, 곧 균등 수렴을 해석학의 중심에 놓았습니다. 연속 함수들이 균등 수렴하면 극한도 연속이고, 유계인 닫힌 구간에서는 적분과 극한(무한합)의 순서를 바꿀 수 있습니다. 각 항이 크기 M₁, M₂, …를 넘지 않고 ΣMₙ이 수렴하면 급수가 균등 수렴한다는 판정법도 그의 이름을 달고 있습니다(급수의 수렴).

1872년 7월 그는 베를린 학술원에서 수학자들의 직관을 정면으로 깨는 함수를 발표했습니다. $f(x) = \sum a^n \cos(b^n \pi x)$에서 $0 \lt a \lt 1$이고 b가 홀수이며 ab가 충분히 크면(그는 $ab > 1 + 3\pi/2$를 요구했습니다), 이 함수는 어디서나 이어져 있지만 어느 점에서도 미분할 수 없습니다. 항마다 진폭⁠(amplitude)⁠은 a배씩 작아지고 진동은 b배씩 빨라집니다. 진폭이 등비급수⁠(geometric series)⁠처럼 줄어드니 합은 이어진 곡선이 되지만, 기울기⁠(slope)⁠는 항마다 ab배씩 커지니 어느 점을 확대해도 매끄러워지지 않고 톱니가 계속 나타납니다(미분계수⁠(derivative)⁠, 국소 선형성⁠(local linearity)⁠). 파리의 에르미트는 1893년 친구 스틸체스에게 도함수⁠(derivative function)⁠가 없는 연속 함수라는 이 "한탄스러운 재앙"에서 두려움과 공포로 고개를 돌린다고 썼습니다. 바이어슈트라스는 리만이 강의에서 $\sum \sin(n^2 x)/n^2$을 그런 예로 들었다고 전했는데, 이 함수가 대부분의 점에서 미분할 수 없음은 1916년 하디가, 그래도 미분할 수 있는 점이 있음은 1970년에야 증명되었습니다. 체코의 볼차노가 1830년 무렵 비슷한 예를 원고에 적어 두었지만, 그 원고는 1920년대에야 알려졌습니다. 한 세기 뒤 이런 곡선은 확대해도 같은 거칠기가 되풀이되는 프랙털⁠(fractal)⁠의 이른 예로 다시 읽혔습니다.

일흔 살을 앞둔 1885년 그는 거꾸로 안심이 되는 정리를 증명했습니다. 닫힌 구간 위의 연속 함수는 아무리 들쭉날쭉해도, 원하는 만큼 작은 오차 안에서 구간 전체를 한꺼번에 따라가는 다항식이 있다는 것입니다. 위의 괴물 같은 함수도 예외가 아닙니다. 페테르부르크의 체비쇼프가 차수를 정해 두고 가장 좋은 다항식을 찾았다면, 바이어슈트라스는 차수를 올리면 오차를 얼마든지 줄일 수 있음을 보장한 셈입니다(근사 이론⁠, approximation theory⁠). 그의 증명은 함수를 종 모양의 가우스 함수로 부드럽게 뭉갠 뒤 그것을 다항식으로 펼치는 것이었는데, 이 뭉개기는 열 방정식이 온도 분포를 고르게 만드는 방식과 같습니다. 1912년 러시아의 베른시테인은 이항분포⁠(binomial distribution)⁠와 큰 수의 법칙⁠(law of large numbers)⁠만으로 같은 정리를 다시 증명했고, 1937년 미국의 스톤은 이 정리를 훨씬 넓은 공간으로 일반화했습니다.

그는 정리의 가정이 왜 필요한지도 보여 주었습니다. 닫힌 구간 위의 연속 함수는 반드시 가장 큰 값과 가장 작은 값을 갖는다는 것을 그는 엄밀하게 증명했지만, 선택지가 수가 아니라 함수 전체일 때는 사정이 다릅니다. 리만은 어떤 적분을 가장 작게 하는 함수가 늘 있다고 보고 그것을 '디리클레 원리⁠(Dirichlet principle)⁠'라 부르며 복소함수론의 기둥으로 삼았습니다. 1870년 바이어슈트라스는 φ(−1)과 φ(1)이 서로 다른 값으로 정해진 함수 φ 가운데 적분 $\int_{-1}^{1} x^2 \varphi'(x)^2\,dx$을 가장 작게 하는 것을 찾는 문제를 내놓았습니다. 가운데서 가파르게 오르는 함수를 쓰면 적분값은 0에 얼마든지 가까워지지만, 0이 되려면 φ가 상수여야 하니 끝값 조건을 어깁니다. 가장 작은 값에 한없이 다가가기만 할 뿐 닿지는 않는 것입니다(변분법, 최적화⁠(optimization)⁠). 이 원리는 1900년 무렵 괴팅겐의 힐베르트가 조건을 붙여 되살렸습니다.

그의 세미나에서는 슈바르츠, 프로베니우스, 미타그레플레르, 킬링, 쇼트키 같은 다음 세대가 자랐습니다. 그 가운데 러시아의 소피야 코발렙스카야는 여성이라 대학에 등록할 수 없었기 때문에, 1870년부터 네 해 동안 그가 집에서 따로 가르쳤습니다. 그는 그녀가 1874년 논문 세 편으로 괴팅겐 대학에서 시험 없이 박사 학위를 받도록 도왔고, 그녀는 뒤에 스톡홀름 대학의 교수가 되었습니다. 1880년대에는 옛 동료 크로네커가 유한한 단계로 만들 수 없는 수와 무한 집합⁠(set)⁠을 쓰는 해석학을 공격하자 깊이 상처받아 스위스로 옮길 생각까지 했다고 전합니다. 스웨덴 국왕 오스카르 2세의 생일을 기념한 상의 심사를 에르미트, 미타그레플레르와 함께 맡아 1889년 푸앵카레의 삼체 문제⁠(three-body problem)⁠ 논문을 뽑은 것도 이 무렵입니다. 말년에는 휠체어에 의지했고, 1897년 베를린에서 세상을 떠났습니다.

1925년 힐베르트는 뮌스터의 바이어슈트라스 기념 학회에서 강연하며, 그가 무한히 작은 양을 해석학에서 몰아내고 모든 것을 유한한 부등식의 문장으로 바꾼 일을 기렸습니다. 무한을 '끝없는 과정' 대신 '모든 ε에 대한 문장'으로 길들인 이 방식은 무한을 다루는 법의 한 전환점이고, 복잡한 함수를 다항식으로 얼마든지 가깝게 흉내 낼 수 있다는 그의 정리는 근사와 오차의 기둥입니다.

이어지는 곳. 그의 정의는 극한, 연속성, 점별 수렴과 균등 수렴⁠(pointwise and uniform convergence)⁠, 급수의 수렴에 살아 있습니다. 미분할 수 없는 곡선은 미분계수와 국소 선형성의 반례로, 다항식 근사는 근사 이론과 테일러 급수로 이어집니다. 스승의 자리에 선 코시, 제자 칸토어, 같은 시대의 리만과 데데킨트를 함께 읽으면 좋습니다.

관계.

• 영향을 받음 오귀스탱루이 코시 — 코시가 1821년 『해석학 강의』에서 말로 적은 '한없이 다가간다'를, '모든 ε에 대해 어떤 δ가 있다'는 부등식의 문장으로 바꾸었습니다.
• 제자 게오르크 칸토어 — 1860년대 베를린에서 그의 강의를 들은 칸토어는 스승에게서 배운 엄밀한 해석학과 실수의 구성을 바탕으로, 할레에서 삼각급수⁠(trigonometric series)⁠의 유일성 문제를 거쳐 집합론⁠(set theory)⁠에 이르렀습니다.
• 논쟁 베른하르트 리만 — 리만의 1857년 아벨 함수 논문이 나오자 자기 논문을 거둬 다시 다듬었고, 1870년에는 리만이 기댄 디리클레 원리에서 최솟값이 없을 수도 있다는 반례를 내놓았습니다.
• 영향을 줌 다비트 힐베르트 — 그가 흔든 디리클레 원리를 힐베르트가 1900년 무렵 조건을 붙여 되살렸고, 1925년 뮌스터의 바이어슈트라스 기념 학회에서 힐베르트는 강연 「무한에 대하여」를 했습니다.

연표.

• 1834년 아버지의 뜻으로 본 대학에서 법학과 재정학을 공부하기 시작하다
• 1839년 뮌스터 아카데미에서 구더만에게 타원함수와 거듭제곱 급수를 배우다
• 1841년 교사 자격 시험을 치르다
• 1842년 서프로이센 도이치크로네의 김나지움 교사가 되다
• 1848년 동프로이센 브라운스베르크의 김나지움으로 옮기다
• 1854년 아벨 함수 논문을 크렐레의 학술지에 발표하고 쾨니히스베르크 대학의 명예 박사가 되다
• 1856년 베를린의 공업 학교와 대학, 학술원에 자리를 얻다
• 1861년 쿰머와 순수 수학 세미나를 열고, 강의에서 연속을 ε–δ로 다듬다
• 1864년 베를린 대학 정교수가 되다
• 1870년 코발렙스카야를 개인적으로 가르치기 시작하고, 디리클레 원리의 빈틈을 지적하다
• 1872년 어디서도 미분할 수 없는 연속 함수를 학술원에서 발표하다
• 1873년 베를린 대학 총장이 되다
• 1885년 연속 함수를 다항식으로 얼마든지 가깝게 근사할 수 있다는 정리를 발표하다
• 1889년 스웨덴 국왕 상의 심사위원으로 푸앵카레의 삼체 문제 논문을 뽑다