에른스트 체르멜로(Ernst Zermelo)

에른스트 체르멜로는 1871년 베를린에서 김나지움 교사의 아들로 태어났습니다. 베를린, 할레, 프라이부르크에서 수학과 물리학과 철학을 공부했고, 1894년 변분법⁠(calculus of variations)⁠에 관한 논문으로 베를린 대학에서 박사 학위를 받았습니다. 독일 제국의 대학은 바이어슈트라스가 다진 엄밀한 해석학⁠(mathematical analysis)⁠과 수리 물리학이 강했고, 칸토어의 집합론은 막 수학자들 사이에 받아들여지기 시작하던 참이었습니다. 그러나 무한 집합을 마음대로 모으다 보면 모순이 생긴다는 사실이 곧 드러났습니다. 체르멜로는 물리학자로 출발해, 그 모순을 막는 규칙을 적은 사람이 되었습니다.

나이 세 ·

박사 학위를 받은 뒤 그는 베를린에서 막스 플랑크의 조수로 일했습니다. 1896년 그는 루트비히 볼츠만의 기체 이론에 날카로운 반론을 냈습니다. 볼츠만은 기체 분자의 충돌을 확률⁠(probability)⁠로 다루어 엔트로피⁠(entropy)⁠가 늘 늘어난다는 것을 설명하려 했습니다. 체르멜로는 푸앵카레가 삼체 문제⁠(three-body problem)⁠ 연구에서 증명한 되풀이 정리⁠(recurrence theorem)⁠를 들이댔습니다. 갇힌 역학계는 언젠가 처음 상태에 얼마든지 가깝게 돌아오니, 엔트로피가 한없이 늘기만 할 수는 없다는 것입니다. 볼츠만은 그런 되풀이가 일어나기까지의 시간이 우주의 나이보다 터무니없이 길다고 답했습니다. 이 논쟁은 역학 법칙은 시간을 거꾸로 돌려도 같은데 왜 현실의 과정은 한 방향으로만 가는가라는 물음을 날카롭게 만들었습니다(맥스웰의 도깨비).

1897년 그는 괴팅겐으로 옮겨 1899년 유체역학 연구로 교수 자격을 얻었고, 힐베르트의 관심을 따라 집합론으로 옮겨 갔습니다. 1900년 무렵 그는 '자기 자신을 원소⁠(element)⁠로 갖지 않는 집합들의 집합'이 모순을 낳는다는 것을 알아챘습니다. 그 집합이 자기 자신의 원소라면 원소가 아니어야 하고, 원소가 아니라면 원소여야 하기 때문입니다. 그는 이것을 괴팅겐의 동료들에게 이야기했을 뿐 발표하지 않았고, 몇 해 뒤 같은 모순을 따로 찾은 러셀의 이름이 붙었습니다(러셀의 역설⁠, Russell's paradox⁠).

1904년 그는 힐베르트에게 보낸 편지의 형식으로 짧은 증명을 발표했습니다. 모든 집합은 정렬할 수 있다는 것입니다. 집합을 정렬한다는 것은 원소들을 한 줄로 세우되, 어떤 부분을 골라도 그 안에 맨 앞의 원소가 있게 하는 것입니다. 자연수⁠(natural number)⁠는 0, 1, 2, …로 이미 정렬되어 있습니다. 정수⁠(integer)⁠는 보통의 크기 순서로는 맨 앞이 없지만 0, 1, −1, 2, −2, …로 다시 세우면 정렬됩니다. 그런데 실수⁠(real number)⁠ 전체를 정렬하는 방법은 아무도 적어 보이지 못했습니다. 칸토어는 모든 집합이 정렬될 수 있다고 믿었고, 그래야 어떤 두 무한 집합이든 크기를 비교할 수 있었습니다(기수⁠(cardinal number)⁠). 힐베르트는 1900년 23개 문제의 첫째에서 이 물음을 연속체 가설⁠(continuum hypothesis)⁠과 함께 꼽았습니다(연속체 가설). 체르멜로의 증명은 한 가지 원리에 기댔습니다. 비어 있지 않은 집합들이 아무리 많이 있어도, 각 집합에서 원소를 하나씩 동시에 고르는 선택이 존재한다는 것, 곧 선택공리입니다. 러셀이 든 비유로는, 구두가 무한히 많은 켤레 있으면 '각 켤레에서 왼쪽'이라는 규칙으로 고를 수 있지만, 양말이 무한히 많은 켤레 있으면 두 짝을 가를 규칙이 없습니다. 선택공리는 그래도 고른 결과가 있다고 선언합니다(공리).

반발은 거셌습니다. 1905년 프랑스에서는 에밀 보렐, 르네 베르, 르베그, 자크 아다마르가 주고받은 편지 다섯 통이 수학회지에 실렸는데, 아다마르만 체르멜로를 편들었고 나머지는 정의할 수도 없는 선택으로 존재를 주장하는 것을 의심했습니다. 푸앵카레와 페아노도 비판했습니다. 1908년 체르멜로는 새 증명과 함께 반론에 답하는 글을 내서, 비판자들 자신이 이미 이 원리를 모르는 사이에 쓰고 있다고 지적했습니다. 예컨대 '셀 수 있는 집합을 셀 수 있는 개수만큼 합쳐도 셀 수 있다'는 흔한 정리는(가산 집합⁠, countable set⁠) 각 집합을 한 줄로 세우는 방법을 하나씩 골라야 증명됩니다. 선택공리는 이상한 결과도 낳습니다. 이미 1905년 비탈리는 이 공리로 르베그 측도⁠(Lebesgue measure)⁠를 줄 수 없는 집합을 만들었고, 1924년 바나흐와 타르스키는 공 하나를 유한 개의 조각으로 나누어 옮기기만 해서 같은 크기의 공 두 개를 만들 수 있음을 보였습니다. 조각들이 부피를 가질 수 없는 집합이기 때문에 가능한 일입니다.

같은 1908년, 그는 집합을 만드는 규칙을 일곱 개의 공리로 적었습니다. 원소가 같은 두 집합은 같다(외연), 빈 집합과 원소 한두 개짜리 집합이 있다, 이미 있는 집합 A 안에서 어떤 성질을 가진 원소만 골라낸 것은 집합이다(분리), 멱집합⁠(power set)⁠이 있다(멱집합), 합집합⁠(union)⁠이 있다, 선택공리, 그리고 무한 집합이 있다는 공리입니다(집합). 핵심은 분리 공리입니다. '성질을 가진 모든 것'의 집합은 만들 수 없고, 이미 있는 집합 A 안에서만 고를 수 있습니다. 그러면 러셀의 집합은 R = {x ∈ A : x ∉ x}가 되고, 이것은 모순을 낳는 대신 R이 A의 원소가 아니라는 것만 보여 줍니다. A를 무엇으로 잡든 그렇으니, 모든 집합을 담은 집합은 없다는 정리가 됩니다. 그가 '확정된 성질'이라고 모호하게 남긴 말은 1922년 아브라함 프렝켈과 토랄프 스콜렘이 논리식으로 다듬었고, 두 사람이 치환 공리⁠(axiom of replacement)⁠를 더한 체계가 체르멜로–프렝켈 집합론(ZF), 선택공리까지 넣은 것이 오늘날 수학의 표준 토대인 ZFC입니다(수학 기초론 논쟁⁠(debate on the foundations of mathematics)⁠). 나머지 공리(ZF)에 모순이 없다면 선택공리를 더해도 모순이 생기지 않는다는 것은 1938년 괴델이, 선택공리를 나머지 공리로부터 증명할 수 없다는 것은 1963년 폴 코언이 보였습니다.

1910년 취리히 대학 교수가 되었지만 결핵이 도져 1916년 물러났습니다. 그 사이 1913년 그는 게임 이론⁠(game theory)⁠의 첫 정리로 꼽히는 결과를 냈습니다. 체스처럼 두 사람이 번갈아 두고, 우연이 끼지 않고, 모든 정보가 드러나 있으며, 끝이 있는 게임에서는 백이 이기는 방법이 있거나, 흑이 이기는 방법이 있거나, 양쪽 모두 적어도 비기는 방법이 있다는 것입니다. 끝난 국면에서부터 거꾸로 따져 올라가면 모든 국면의 승패가 정해지기 때문입니다(트리⁠(tree)⁠, 재귀⁠(recursion)⁠, 게임 트리⁠(game tree)⁠ 탐색). 다만 이 '거꾸로 따지기⁠(backward induction)⁠'는 뒤에 다듬어진 설명이고, 체르멜로 자신의 논증은 국면의 수가 유한하다는 데 기댄 조금 다른 것이었습니다. 셋 가운데 체스가 어느 쪽인지는 지금도 모릅니다. 1927년 쾨니그 데네시가 이 증명을 다듬었고, 1928년 폰 노이만의 최소최대 정리⁠(minimax theorem)⁠와 함께 게임 이론의 출발점이 되었습니다(부다페스트의 수학자들). 1929년에는 체스 대회의 승패 기록으로 선수들의 실력을 매기는 방법을 내놓았는데, 이 방법은 1952년 브래들리와 테리가 다시 발견해 오늘날 스포츠 순위와 대규모 언어 모델⁠(language model)⁠을 사람들의 선호로 비교하는 순위표에도, 언어 모델을 사람이 고른 답 쪽으로 조정하는 인간 피드백 강화 학습⁠(reinforcement learning)⁠의 보상 모델⁠(reward model)⁠에도 쓰입니다(최대가능도법⁠(maximum likelihood)⁠). 1931년에는 흐르는 물 위에서 배가 목적지까지 가장 빨리 가는 항로를 구하는 문제를 풀었습니다(가장 좋은 것 고르기).

1926년 프라이부르크 대학의 명예 교수가 된 그는 1930년 집합들이 층층이 쌓여 가는 그림을 제시했습니다. 오늘날의 표준형에서 맨 아래 층은 빈 집합이고, 각 층은 그 아래 층들의 모든 부분집합⁠(subset)⁠을 모은 것이며, 모든 집합은 어느 층에서인가 나타난다는 그림입니다. 오늘날 집합론자들이 '집합의 우주'를 떠올릴 때 쓰는 누적 위계⁠(cumulative hierarchy)⁠가 이것입니다. 그는 스콜렘처럼 논리식을 유한한 기호열로 제한하는 것에 반대했고, 무한히 긴 식을 허용하는 논리를 주장했습니다. 1931년 독일 수학회 모임에서 젊은 괴델을 만난 뒤 그는 편지로 불완전성 정리⁠(incompleteness theorem)⁠의 증명에 오류가 있다고 주장했고, 괴델의 정중하고 긴 답장에도 끝내 받아들이지 않았습니다.

1935년 그는 히틀러식 경례를 하지 않고 정권을 비판하는 말을 했다는 고발을 받아 명예 교수직을 내놓아야 했습니다. 프라이부르크 근처 마을에서 조용히 지내다가 1946년 복귀했고, 1953년 세상을 떠났습니다. 그 사이 1932년에는 칸토어의 논문 전집을 엮어 펴냈습니다. 그의 이름은 ZFC의 첫 글자로 남았습니다. 수학자 대부분은 날마다 집합론의 공리를 의식하지 않지만, 그들이 쓰는 모든 증명은 원칙적으로 그가 처음 적은 규칙 위에서 확인됩니다(무한을 다루는 법).

이어지는 곳. 그의 공리가 막은 모순은 러셀의 역설에서, 공리가 무엇이고 어디까지 결정하는지는 공리와 공준⁠(axioms and postulates)⁠, 연속체 가설, 괴델의 불완전성 정리⁠(Gödel's incompleteness theorems)⁠에서 이어집니다. 선택공리를 둘러싼 논쟁의 상대는 앙리 르베그와 앙리 푸앵카레, 무한을 다루는 전혀 다른 길은 브라우어르의 직관주의⁠(intuitionism)⁠에 있습니다.

관계.

• 영향을 받음 게오르크 칸토어 — 칸토어가 믿었던 '모든 집합은 줄 세울 수 있다'를 1904년 증명으로 바꾸었고, 1932년 칸토어의 논문 전집을 엮었습니다.
• 함께 연구 다비트 힐베르트 — 1897년 괴팅겐에 온 뒤 힐베르트 곁에서 집합론의 토대를 맡았고, 1904년의 증명도 힐베르트에게 보낸 편지의 형식으로 발표했습니다.
• 논쟁 앙리 푸앵카레 — 푸앵카레의 되풀이 정리로 볼츠만을 반박했고, 뒤에는 그의 집합론 공리와 선택공리를 비판한 푸앵카레와 맞섰습니다.
• 논쟁 쿠르트 괴델 — 1931년 학회에서 괴델을 만난 뒤 편지로 불완전성 정리의 증명에 오류가 있다고 주장했고, 괴델의 긴 답장에도 끝내 설득되지 않았습니다.
• 영향을 줌 존 폰 노이만 — 폰 노이만의 1920년대 서수⁠(ordinal)⁠ 정의와 집합론 공리화는 그의 체계를 다듬고 넓힌 것이었습니다.
• 영향을 줌 쾨니그 데네시 — 쾨니그 데네시는 1927년 그의 체스 정리를 다시 다루며 증명의 빈틈을 메우고 무한한 경우로 넓혔습니다.

연표.

• 1894년 변분법에 관한 논문으로 베를린 대학에서 박사 학위를 받다
• 1896년 플랑크의 조수로서 볼츠만의 기체 이론에 되풀이 반론을 내다
• 1897년 괴팅겐으로 옮기다
• 1904년 선택공리로 정렬 정리⁠(well-ordering theorem)⁠를 증명하다
• 1908년 집합론의 공리를 처음으로 발표하다
• 1910년 취리히 대학 교수가 되다
• 1913년 체스 같은 게임에 관한 정리를 발표하다
• 1916년 결핵으로 취리히 교수직을 그만두다
• 1926년 프라이부르크 대학의 명예 교수가 되다
• 1929년 대회 결과로 체스 선수의 실력을 매기는 방법을 발표하다
• 1930년 집합의 누적 위계를 다룬 논문을 내다
• 1935년 히틀러식 경례를 거부했다는 고발로 명예 교수직을 내놓다
• 1946년 프라이부르크 명예 교수로 복귀하다