다비트 힐베르트(David Hilbert)

다비트 힐베르트는 1862년 동프로이센에서 태어나 쾨니히스베르크에서 자라고 공부했습니다. 그곳 대학에서 두 살 아래의 헤르만 민코프스키, 젊은 교수이자 수학자 아돌프 후르비츠와 날마다 산책하며 수학을 토론했고, 1885년 박사 학위를 받았습니다. 1895년 펠릭스 클라인의 초청으로 가우스와 리만이 일했던 괴팅겐의 교수가 되어, 그곳을 한 세대 동안 세계 수학의 중심으로 만들었습니다. 그가 활동한 시대는 수학이 구체적인 계산에서 추상적인 구조로 옮겨 가던 때였고, 칸토어의 무한 집합론⁠(set theory)⁠이 열어 놓은 가능성과 곧이어 드러난 역설들 사이에서 수학의 토대가 흔들리던 때이기도 했습니다.

나이 세 ·

그가 부임한 괴팅겐은 빌헬름 2세의 독일 제국이 과학을 국력으로 키우던 곳이었습니다. 클라인은 1898년 기업가들의 돈으로 응용 물리학과 수학을 후원하는 협회를 만들고, 프로이센 문교부의 실력자 프리드리히 알트호프와 손잡아 괴팅겐에 교수 자리와 연구소를 모았습니다. 힐베르트는 그 자리 가운데 하나를 1902년 친구 민코프스키에게 돌아가게 했습니다. 두 사람이 이끈 세미나와 산책, 교수 집 정원의 칠판 앞 토론에 세계 곳곳의 젊은이들이 모여들었고, 그가 박사 학위를 준 제자만 70명 안팎입니다. 헤르만 바일, 리하르트 쿠란트, 1900년에 23개 문제 가운데 셋째(부피가 같은 두 다면체는 언제나 한쪽을 유한 개의 조각으로 잘라 다른 쪽으로 다시 맞출 수 있는가)를 '아니오'로 가장 먼저 푼 막스 덴이 그의 제자였습니다. 1904년 정렬 정리⁠(well-ordering theorem)⁠를 증명하고 1908년 집합론의 공리를 처음 적은 에른스트 체르멜로도 이 시기 괴팅겐에서 일했습니다. 그는 비어 있지 않은 집합⁠(set)⁠이 아무리 많아도 각 집합에서 원소⁠(element)⁠를 하나씩 골라 모을 수 있다는 선택공리⁠(axiom of choice)⁠를 써서, 어떤 집합에든 '어느 부분을 골라도 맨 앞 원소가 있는' 순서(정렬)를 줄 수 있음을 보였습니다. 1909년 민코프스키가 맹장염으로 마흔넷에 세상을 떠나자 힐베르트는 가장 가까운 동료를 잃었고, 민코프스키가 남긴 상대성 이론의 기하⁠(geometry)⁠에 대한 관심을 이어받아 물리학으로 눈을 돌렸습니다.

그의 이름을 처음 알린 것은 1888년의 불변식론⁠(invariant theory)⁠ 기저 정리⁠(basis theorem)⁠였습니다. $x^2 + y^2$은 좌표축을 돌려도 값이 그대로인 다항식⁠(polynomial)⁠, 곧 회전⁠(rotation)⁠에 대한 불변식입니다. 변환을 정하면 이런 불변식은 무한히 많습니다. 그는 당시 연구되던 변환들에 대해, 불변식이 모두 유한 개의 기본 불변식을 더하고 곱해서 만들어진다는 것을 보였습니다(회전이라면 $x^2 + y^2$ 하나로 충분합니다). 그런데 그는 그 기본 식들을 실제로 하나하나 만들지 않고, '그런 유한 개가 없다고 하면 모순'이라는 방식으로 존재만 증명했습니다. 이 분야의 대가 파울 고르단이 "이것은 수학이 아니라 신학이다"라고 했다는 이야기가 전하지만, 이런 존재 증명은 곧 수학의 표준이 되었습니다. 1892년에는 다항식을 연구하던 중 보조정리⁠(lemma)⁠ 하나를 증명했습니다. 자연수⁠(natural number)⁠를 유한 개의 색으로 어떻게 칠하든, 수 a와 b₁, …, bₘ을 잘 고르면 a에 b들 가운데 몇 개를 골라 더한 수들(a, a + b₁, a + b₂, a + b₁ + b₂, …)이 모두 같은 색이 된다는 것입니다. 이것은 아무리 무질서하게 칠해도 어떤 질서가 반드시 남는다는 반 데르 바르던 정리⁠(van der Waerden's theorem)⁠와 램지 이론⁠(Ramsey theory)⁠의 가장 이른 예로 꼽힙니다.

1899년의 『기하학의 기초⁠(basics)⁠』는 유클리드 기하를 처음부터 다시 썼습니다. 점, 직선, 평면이 '무엇인지'는 정의하지 않고, 그것들 사이의 관계를 정하는 공리들만 빈틈없이 늘어놓은 것입니다. 점과 직선과 평면 대신 탁자와 의자와 맥주잔이라고 불러도 공리만 지키면 된다고 말했다는 일화가 전하는데, 요점은 증명이 낱말의 뜻이 아니라 공리에만 기대야 한다는 것입니다. 그는 실수⁠(real number)⁠의 좌표로 이 공리들을 만족하는 모형을 만들어, 산술에 모순이 없다면(곧 어떤 명제와 그 부정이 함께 증명되는 일이 없다면) 기하에도 모순이 없음을 보였습니다. 푸앵카레 원판⁠(Poincaré disk)⁠이 쌍곡기하⁠(hyperbolic geometry)⁠의 무모순성을 유클리드 기하에 기대어 보인 것과 같은 방식이고, 이로써 평행선 공준⁠(parallel postulate)⁠이 다른 공리들과 독립⁠(independence)⁠이라는 사실도 공리 체계 안의 정확한 문장이 되었습니다.

1900년 파리 국제수학자대회에서 그는 새 세기의 수학이 풀어야 할 문제들을 내놓았고, 출판된 목록에는 23개가 실렸습니다. 첫째가 칸토어의 연속체 가설⁠(continuum hypothesis)⁠, 둘째가 산술의 무모순성, 여덟째에 리만 가설⁠(Riemann hypothesis)⁠, 열째에 $x^2 + y^2 = z^2$처럼 정수⁠(integer)⁠ 계수로 된 방정식이 정수해를 가지는지 판정하는 일반적인 방법이 있었습니다. 1904년부터는 적분방정식을 연구하며 함수⁠(function)⁠를 무한히 많은 좌표를 가진 벡터⁠(vector)⁠처럼 다루었습니다. 함수의 푸리에 급수⁠(Fourier series)⁠ 계수들을 좌표로 보면, 제곱의 합이 유한한 수열들의 공간에서 내적⁠(dot product)⁠과 길이와 정사영⁠(orthogonal projection)⁠을 유한 차원에서처럼 쓸 수 있습니다. 이때 그가 쓴 독일어 Eigenwert가 고유값⁠(eigenvalue)⁠이라는 이름으로 굳었고, 뒷날 폰 노이만은 이런 공간을 힐베르트 공간⁠(Hilbert space)⁠이라 부르며 양자역학의 무대로 삼았습니다. 1915년에는 아인슈타인과 거의 같은 때에, 중력을 시공간⁠(spacetime)⁠의 휘어짐으로 설명하는 일반 상대성 이론⁠(general relativity)⁠의 장 방정식(휘어짐과 물질을 잇는 방정식)에 이르렀고, 같은 해 에미 뇌터를 괴팅겐으로 불렀습니다. 여성의 교수 자격을 반대하는 교수들에게 "대학은 목욕탕이 아니다"라고 했다는 말이 전합니다.

전쟁은 그의 괴팅겐에도 들이닥쳤습니다. 1914년 10월 독일 지식인 93명이 독일군의 벨기에 침공을 변호하는 선언을 발표했을 때, 클라인은 서명했지만 힐베르트는 서명을 거부했습니다. 1917년 적국 프랑스의 수학자 가스통 다르부가 세상을 떠나자 그는 추도문을 학술지에 실었고, 학생들이 철회를 요구하자 오히려 물러서지 않았다고 전합니다. 뇌터는 여성이라는 이유로 교수 자격을 받지 못해 몇 해 동안 힐베르트의 이름으로 공지된 강의를 대신 맡았고, 1919년 바이마르 공화국이 들어서며 규정이 바뀐 뒤에야 자격을 얻었습니다. 그 사이 1918년에 그녀가 증명한 정리는, 힐베르트와 클라인이 일반 상대성 이론에서 에너지 보존이 어떻게 되는지 묻자 그 답으로 나온 것입니다. 작용이라는 양으로 적히는 물리 법칙이 어떤 연속적인 변환에 대해 변하지 않으면 그에 해당하는 양이 보존된다는 뇌터 정리⁠(Noether's theorem)⁠는, 시간 이동의 대칭에서 에너지 보존이 나오는 까닭을 밝혀 대칭과 불변량⁠(invariant)⁠을 물리학의 중심에 놓았습니다. 장 방정식⁠(field equations)⁠을 누가 먼저 얻었는지를 두고는 오랫동안 논쟁이 있었지만, 1990년대에 발견된 교정쇄 등을 근거로 오늘날에는 그 물리적 이론을 아인슈타인의 것으로 보는 견해가 많습니다.

1920년대 그는 수학의 토대를 지키는 싸움에 나섰습니다. 러셀의 역설⁠(Russell's paradox)⁠ 이후 네덜란드의 브라우어르가 사람이 구성해 보일 수 있는 것만 인정하자는 직관주의⁠(intuitionism)⁠를 내세우자, 그는 수학 전체를 기호 규칙의 형식 체계⁠(formal system)⁠로 적고 그 체계에 모순이 없음을 유한한 방법, 곧 무한한 대상을 완성된 것으로 쓰지 않고 기호를 유한 번 다루는 것만으로 확인할 수 있는 방법으로 증명하자고 했습니다(형식주의⁠(formalism)⁠, 수학 기초론 논쟁⁠(debate on the foundations of mathematics)⁠). 1925년 뮌스터 강연에서는 무한집합의 이론을 두고 칸토어가 만든 낙원에서 아무도 우리를 쫓아내지 못할 것이라고 선언했습니다. 1928년에는 제자 빌헬름 아커만과 함께 어떤 논리식이 증명되는지 기계적으로 가려내는 방법을 찾는 결정 문제⁠(decision problem)⁠를 수리 논리학⁠(mathematical logic)⁠의 주된 문제로 꼽았습니다. 그해 볼로냐 국제수학자대회에는 독일 안의 보이콧 요구에도 불구하고 독일 대표단을 이끌고 참석했습니다. 그러나 1930년 9월 쾨니히스베르크에서 그가 "우리는 알아야 한다. 우리는 알게 될 것이다"로 끝나는 연설을 하기 바로 전날, 같은 도시에서 괴델이 불완전성 정리⁠(incompleteness theorem)⁠를 처음 알렸습니다. 산술을 담고 공리를 기계적으로 나열할 수 있는 모순 없는 형식 체계에는 참이지만 그 체계 안에서 증명할 수 없는 문장이 있고, 그 체계에 모순이 없다는 사실도 그 체계 안에서는 증명할 수 없다는 정리입니다. 1936년에는 튜링이 튜링 기계⁠(Turing machine)⁠로 결정 문제의 답이 '없다'임을 보였습니다(정지 문제⁠, halting problem⁠). 같은 해 처치도 다른 방법으로 같은 답에 이르렀습니다.

이 싸움은 수학 안의 논쟁이면서 1차 세계대전 뒤 독일 학계의 정치이기도 했습니다. 전쟁 뒤 국제수학자대회는 1920년 스트라스부르와 1924년 토론토에서 독일 수학자들을 초대하지 않았고, 독일 안에서는 거꾸로 국제 대회를 보이콧하자는 목소리가 컸습니다. 브라우어르는 그 보이콧 편에 섰고, 1928년 힐베르트는 자신이 이끌던 학술지 『수학 연보』의 편집진에서 브라우어르를 빼 버렸습니다. 그 무렵 그는 악성 빈혈로 죽음의 문턱⁠(threshold)⁠까지 갔다가, 미국에서 막 나온 간 요법 덕분에 살아났습니다. 증명론⁠(proof theory)⁠ 연구는 제자 파울 베르나이스와 아커만, 그리고 1926년 괴팅겐에 온 폰 노이만이 이어 갔습니다. 무한을 유한한 기호의 놀이로 붙잡으려던 그의 계획은 무한을 다루는 법을 둘러싼 오래된 이야기의 한 절정이었습니다.

1933년 나치 정권이 유대계 학자들을 공직에서 몰아내면서 괴팅겐의 수학은 순식간에 무너졌습니다. 그의 증명론 동료 파울 베르나이스도 자리를 잃고 떠났습니다. 괴팅겐의 수학이 유대인이 떠나서 피해를 입었느냐는 나치 교육부 장관의 물음에 "괴팅겐에는 이제 수학이 없다"고 답했다는 이야기가 전하지만, 회고로만 남은 일화입니다. 1933년 4월의 공직자법 뒤 수학자 쿠란트, 뇌터, 물리학자 막스 보른이 쫓겨났고, 그해 가을 나치 학생들이 에드문트 란다우의 강의를 막아서며 란다우도 떠났으며, 헤르만 바일은 유대인 아내를 둔 채 프린스턴 고등연구소로 옮겼습니다. 쿠란트는 뉴욕 대학에 새 연구소를 세웠고, 뇌터는 미국의 브린마 대학에서 가르치다 1935년 세상을 떠났습니다. 그가 한 세대에 걸쳐 모은 사람들은 이렇게 미국과 영국, 튀르키예 등지로 흩어져 그곳의 수학을 키웠습니다. 그는 2차 세계대전 중인 1943년 괴팅겐에서 세상을 떠났고, 장례식에는 몇 사람만 모였습니다. 쾨니히스베르크 연설의 마지막 문장은 그의 묘비에 새겨졌습니다.

그의 계획은 실패했지만 그 실패에서 오히려 많은 것이 태어났습니다. 1936년 베르나이스의 제자 게르하르트 겐첸은 유한한 방법을 조금 넘어서는 초한 귀납법⁠(transfinite induction)⁠, 곧 자연수를 다 센 다음에도 이어지는 무한 너머의 순서(서수⁠, ordinal⁠)를 따라가며 하는 귀납법을 허용하면 산술의 무모순성을 증명할 수 있음을 보였고, 이것이 오늘날의 증명론이 되었습니다. 괴델과 튜링이 결정 문제에 답하려고 만든 형식 체계와 계산의 정의는 컴퓨터 과학의 토대가 되었고, 증명을 기호 규칙으로 적어 기계가 확인하게 하자는 그의 꿈은 오늘날 컴퓨터로 증명을 검증하는 증명 보조기⁠(proof assistant)⁠로 부분적으로 되살아났습니다. 함수를 벡터로 보는 힐베르트 공간은 표현 바꾸기의 대표적인 예로서 양자역학과 신호 처리, 기계 학습⁠(machine learning)⁠의 공용어가 되었습니다.

이어지는 곳. 방이 모두 찬 무한한 호텔에도 손님을 얼마든지 더 받을 수 있다는 그의 '힐베르트의 호텔' 이야기는 무한집합의 크기를 비교하는 집합의 크기⁠(cardinality)⁠에서, 그가 바란 형식 체계의 한계는 불완전성 정리와, '기계적으로 계산할 수 있다'는 말의 뜻을 튜링 기계로 정한 처치–튜링 논제⁠(Church–Turing thesis)⁠에서 이어집니다. 23개 문제 가운데 열째는 1970년 러시아의 수학자 유리 마티야세비치가 미국의 마틴 데이비스, 힐러리 퍼트넘, 줄리아 로빈슨이 쌓은 결과 위에서 그런 판정을 하는 알고리즘⁠(algorithm)⁠이 있을 수 없음을 보여 '불가능'으로 답이 났고, 여덟째 리만 가설은 아직 열려 있습니다. 같은 시대 파리에서 공리를 참과 거짓이 아닌 편리한 약속으로 보고, 그의 무모순성 증명 계획을 순환이라고 비판한 사람은 푸앵카레입니다.

관계.

• 편지 게오르크 칸토어 — 칸토어가 집합론의 모순을 편지로 알려 왔고, 그는 칸토어의 무한을 끝까지 지키려 했습니다.
• 함께 연구 존 폰 노이만 — 1926년 괴팅겐에 온 폰 노이만과 증명론을 연구하고, 1928년 노르트하임과 셋이서 양자역학의 수학적 기초에 관한 논문을 냈습니다.
• 영향을 줌 앨런 튜링 — 그가 1928년 수리 논리학의 중심 문제로 꼽은 결정 문제에 튜링이 1936년 '그런 방법은 없다'고 답했습니다.
• 제자 해스켈 커리 — 커리는 1930년 괴팅겐에서 조합 논리⁠(combinatory logic)⁠에 관한 논문으로 힐베르트에게서 박사 학위를 받았습니다.

연표.

• 1885년 쾨니히스베르크 대학에서 박사 학위를 받다
• 1888년 불변식론의 기저 정리를 증명하다
• 1895년 괴팅겐 대학 교수가 되다
• 1897년 독일 수학회에 『수체론 보고』를 내다
• 1899년 『기하학의 기초』를 펴내다
• 1900년 파리 국제수학자대회에서 23개 문제를 내놓다
• 1902년 민코프스키를 괴팅겐으로 부르다
• 1904년 적분방정식을 연구하며 '고유값'이라는 말을 쓰다
• 1909년 민코프스키가 갑자기 세상을 떠나다
• 1914년 전쟁을 옹호하는 '93인 선언'에 서명하지 않다
• 1915년 에미 뇌터를 괴팅겐으로 부르고 일반 상대성 이론의 장 방정식을 발표하다
• 1922년 증명론으로 수학의 무모순성을 보이는 계획을 발표하다
• 1925년 뮌스터에서 「무한에 대하여」를 강연하다
• 1928년 아커만과 결정 문제를 내놓고 볼로냐 대회에 독일 대표단을 이끌고 가다
• 1930년 쾨니히스베르크에서 '우리는 알아야 한다, 알게 될 것이다' 연설을 하다
• 1933년 나치 정권의 추방으로 괴팅겐의 동료와 제자들이 떠나다