20세기 초 케임브리지(Cambridge in the Early Twentieth Century)
1900년부터 2차 세계대전까지의 케임브리지 대학. 러셀과 화이트헤드의 『수학 원리』, 하디와 리틀우드와 라마누잔의 정수론(number theory), 케인스와 램지의 확률(probability), 필립 홀의 군론(group theory), 학생 튜링의 계산 기계가 몇 개의 칼리지 안에서 나왔다.
1900년의 케임브리지는 수학 시험으로 유명한 대학이었습니다. 수학 졸업 시험 트라이포스의 석차가 발표되고 1등 '시니어 랭글러'의 이름이 신문에 실렸으며, 학생들은 개인 코치에게 빠르고 교묘한 문제 풀이를 훈련받았습니다. 그러나 대륙에서 한창이던 엄밀한 해석학(mathematical analysis)과 새 대수학은 거의 들어와 있지 않았습니다. 그 뒤 40년 동안 이 대학은 논리학과 해석적 정수론(analytic number theory), 확률의 철학과 계산 이론(theory of computation)이 한꺼번에 자란 곳이 되었습니다. 러셀과 수학자이자 철학자 앨프리드 노스 화이트헤드의 『수학 원리』, G. H. 하디와 J. E. 리틀우드와 라마누잔의 정수론, 경제학자 존 메이너드 케인스와 램지의 확률, 필립 홀의 군론, 그리고 학생 튜링의 계산 기계가 모두 몇 개의 칼리지 안에서 나왔습니다.
이 변화를 가능하게 한 것은 칼리지라는 제도였습니다. 트리니티나 킹스 같은 칼리지는 자체 재산으로 젊은 졸업생을 펠로로 뽑아 몇 해 동안 숙식과 봉급을 주었고, 그동안 아무 의무 없이 연구하게 했습니다. 식탁과 산책길에서 수학자와 철학자와 경제학자가 날마다 마주쳤습니다. 개혁도 있었습니다. 석차 경쟁이 수학을 문제 풀이 기술로 만든다고 비판한 사람들 가운데 트리니티의 젊은 펠로 G. H. 하디가 있었고, 1909년을 마지막으로 석차 공개가 없어졌습니다. 하디는 1908년 『순수 수학 강좌』를 써서 극한(limit)과 연속성(continuity)을 대륙식으로 엄밀하게 다루는 해석학을 영국 학생들에게 가르쳤습니다. 여성은 시험을 칠 수 있었지만 학위는 받지 못했습니다. 1890년 필리파 포셋이 시니어 랭글러보다 높은 점수를 받고도 학위를 받지 못했고, 케임브리지가 여성에게 정식 학위를 준 것은 1948년이었습니다.
러셀은 1890년 트리니티에 들어와 화이트헤드에게 배웠습니다. 1900년 파리에서 이탈리아의 주세페 페아노의 기호 논리(symbolic logic)를 접하고 수학 전체를 논리에서 이끌어 내겠다는 논리주의(수학 기초론 논쟁(debate on the foundations of mathematics))에 뛰어든 그는, 이듬해 대각선 논법(diagonal argument)을 '모든 집합(set)의 집합'에 적용하다 러셀의 역설(Russell's paradox)에 부딪혔습니다(멱집합(power set), 집합). 1902년 그 모순을 편지로 알리자 먼저 같은 계획을 추진하던 독일의 고틀로프 프레게는 자기 체계의 토대가 흔들렸다고 답했습니다. 러셀은 타입 이론(type theory)으로 역설을 막았습니다. 대상에 층을 두어, 한 층의 집합은 그보다 아래 층의 것만 원소(element)로 가질 수 있게 하면 '자기 자신을 원소로 갖는 집합'이라는 말 자체를 만들 수 없게 됩니다. 그리고 옛 스승 화이트헤드와 함께 1910–13년 세 권의 『수학 원리』를 냈습니다. 대학 출판부가 손해를 예상하자 왕립학회가 일부를, 두 저자가 나머지 일부를 댔습니다. 이 책은 불에게서 시작된 기호 논리(불 대수, Boolean algebra)를 20세기의 공용어로 키웠고, 층을 나누는 생각은 람다 계산(lambda calculus)의 유형과 프로그래밍 언어의 자료형으로 이어졌습니다.
하디는 1911년 무렵부터 여덟 살 아래의 리틀우드와 35년 동안 백 편 가까운 논문을 함께 썼습니다. 두 사람이 서로에게 편지에 답할 의무도 읽을 의무도 없다는 규칙을 정해 두었다는 이야기가 덴마크의 수학자 하랄 보어의 회고로 전합니다. 하디는 1914년 제타 함수(zeta function)의 영점(zero)이 복소평면(complex plane)에서 실수부(real part)가 1/2인 직선 위에 무한히 많다는 것을 증명했습니다. 리만 가설(Riemann hypothesis)은 (음의 짝수를 뺀) 영점이 모두 이 직선 위에 있다는 추측이니, 그 방향으로 간 첫 큰 걸음이었습니다. 두 사람은 소수(prime number)의 분포를 복소수(complex number) 함수(function)의 성질로 다루는 방법(해석적 정수론)을 크게 넓혔습니다(소수 정리(prime number theorem), 소수). 1923년 그들이 내놓은 추측은 차이가 2인 소수 쌍이 x 이하에 대략 몇 개 있는지까지 예측합니다(쌍둥이 소수, twin primes). 1차 세계대전 동안 하디는 평화주의자로 남았고, 리틀우드는 포병 장교로 탄도 계산을 맡았습니다.
1913년 1월 하디는 마드라스 항만청의 서기 라마누잔에게서 증명 없는 공식으로 가득한 편지를 받았습니다. 어떤 것은 이미 알려졌고 어떤 것은 틀렸지만, 연분수(continued fraction)에 관한 몇 개의 공식은 참이 아니라면 아무도 지어낼 수 없었을 것이라고 하디는 회고했습니다. 1914년 케임브리지에 온 라마누잔은 하디와 함께 1918년 수를 자연수(natural number)의 합으로 쪼개는 방법의 수를 거의 정확히 주는 공식을 얻었습니다(분할수(partition number), 생성함수(generating function), 복소평면). 보통의 수가 대략
전쟁은 대학을 갈랐습니다. 러셀은 징병 반대 운동으로 1916년 트리니티의 강사직을 잃었고, 1918년에는 반전 글 때문에 감옥에서 여섯 달을 보냈습니다. 1911년 러셀을 찾아와 제자가 된 오스트리아의 공학도 루트비히 비트겐슈타인은 전쟁 중 오스트리아군에서 복무하며 『논리철학 논고』를 완성했습니다. 학부생 램지는 이 책의 영어 번역 초고를 만들고, 1923년 오스트리아 산골의 초등학교 교사가 되어 있던 비트겐슈타인을 찾아가 책을 한 문장씩 함께 읽었습니다. 비트겐슈타인은 1929년 케임브리지로 돌아와 『논고』로 박사 학위를 받았고, 심사는 러셀과 철학자 G. E. 무어가 맡았습니다. 러셀, 화이트헤드, 무어, 하디, 케인스, 램지는 모두 '사도회'라는 비밀 토론 모임의 회원이었고, 비트겐슈타인도 1912년 회원으로 뽑혔지만 곧 탈퇴하려 했습니다.
경제학자 존 메이너드 케인스는 킹스 칼리지의 펠로 논문을 다듬어 1921년 『확률론』을 냈습니다. 그는 확률을 증거와 결론 사이의 논리적 관계로 보았습니다. 1926년 스물세 살의 램지는 이에 맞서 확률을 한 사람이 거는 믿음의 정도로 보자고 했고, 믿음이 확률의 규칙을 어기는 사람은 반드시 잃는 내기의 묶음에 걸려든다는 논증으로 주관적 확률(subjective probability)의 기초(basics)를 놓았습니다. 이를테면 내일 비가 올 것과 오지 않을 것에 각각 0.6의 믿음을 두는 사람은 두 내기를 모두 60원에 사서 어느 쪽이 되든 100원만 받게 되니, 120원을 내고 100원을 받아 반드시 잃습니다(베이즈 정리(Bayes' theorem), 기댓값(expected value)). 램지가 죽은 뒤 케인스는 이 점에서 램지가 옳다고 인정하는 글을 남겼습니다. 케인스가 편집하던 『이코노믹 저널』에는 램지의 과세 이론(1927)과 저축 이론(1928)이 실려, 시간에 걸친 최적화(optimization)로 경제를 다루는 틀이 되었습니다. 1928년 결정 문제(decision problem)의 한 경우를 풀려고 증명한 램지의 보조정리(lemma)는 램지 이론(Ramsey theory)의 출발점이 되었습니다(비둘기집 원리, pigeonhole principle). 램지는 1930년 1월 스물여섯 살로 세상을 떠났습니다.
킹스 칼리지의 필립 홀은 영국에서 수학자 윌리엄 번사이드가 거의 혼자 일구어 온 군론을 이어받아, 1928년부터 유한군(finite group), 곧 정다각형(regular polygon)을 제자리로 돌리고 뒤집는 움직임들처럼 원소가 유한 개인 군의 구조 이론을 세웠습니다(순열(permutation), 모듈러 연산(modular arithmetic)). 1935년의 짧은 논문에서는 여러 모임에서 모임마다 서로 다른 대표를 한 명씩 뽑을 수 있는 조건을 증명했습니다. 어떤 k개의 모임을 골라도 그 모임들에 속한 사람이 합쳐서 k명 이상이기만 하면 된다는 것입니다. 오늘날 '결혼 정리'라고도 부르는 홀의 정리(Hall's theorem)로, 두 무리 사이의 짝짓기를 다루는 일대일대응과 최대 흐름 최소 절단 정리(max-flow min-cut theorem)의 한 얼굴입니다. 이듬해에는 겹쳐 센 것을 빼고 더하는 방법을 순서 구조로 넓혔습니다(포함배제의 원리). 같은 칼리지에 1931년 들어온 학생이 튜링이었습니다.
튜링은 1934년 중심극한정리(central limit theorem)를 스스로 증명한 논문으로 이듬해 킹스의 펠로가 되었습니다. 1935년 봄 세인트존스 칼리지의 수학자 맥스 뉴먼이 수학 기초론 강의에서 힐베르트의 결정 문제, 곧 어떤 논리식이 논리 법칙만으로 증명 가능한지를 기계적으로 판정하는 절차가 있느냐는 물음을 소개했고, 튜링은 '기계적인 절차'라는 말을 종이 위에서 계산하는 사람의 동작으로 쪼개어 튜링 기계(Turing machine)를 정의했습니다. 1936년 논문은 보편 기계(universal machine)의 생각과 함께, 대각선 논법으로 오늘날 정지 문제(halting problem)라 부르는 물음을 풀 기계가 없음을 보여 결정 문제에 '아니오'라고 답했습니다(가산 집합, countable set). 프린스턴에서 박사 학위를 받고 1938년 돌아온 그는 이듬해 비트겐슈타인의 수학 기초론 강의에 참석해 모순이 있는 체계가 왜 위험한지를 두고 그와 논쟁했습니다. 러셀의 역설에서 시작된 물음이 한 세대 만에 같은 도시에서 계산 기계로 답해진 셈입니다.
1939년 전쟁이 나자 이 세계는 흩어졌습니다. 튜링은 블레츨리 파크의 해독 본부로 갔고, 필립 홀과 뉴먼을 비롯한 케임브리지의 수학자들이 뒤따랐습니다. 1940년 하디는 『어느 수학자의 변명』에서 정수론처럼 참된 수학은 전쟁에 아무 쓸모가 없다고 자랑스럽게 썼지만, 반세기도 지나지 않아 소수의 성질이 RSA 암호(RSA cryptosystem)의 자물쇠가 되었습니다. 이 시대의 케임브리지가 남긴 것은 서로 다른 분야들이 한 식탁에서 섞일 때 생기는 일의 예입니다. 논리학은 컴퓨터 과학이 되었고, 램지의 보조정리와 홀의 정리는 조합론(combinatorics)의 큰 줄기가 되었으며, 램지와 케인스의 확률은 오늘날 의사 결정 이론(decision theory)과 베이즈 통계(Bayesian statistics)의 뿌리가 되었습니다.
이어지는 곳. 튜링과 홀이 전쟁 중에 일한 곳은 블레츨리 파크에, 같은 시대 대륙의 중심은 괴팅겐에, 피셔와 마할라노비스를 사로잡은 통계학은 골턴 연구소와 로담스테드에 있습니다. 램지의 정리를 이어받은 에르되시와 헝가리의 조합론은 부다페스트의 수학자들에, 튜링이 박사 학위를 받은 곳은 프린스턴 고등연구소에 있습니다. 러셀의 역설과 튜링의 정지 문제가 같은 모양의 논증이라는 것은 자기 참조(self-reference)와 대각선에서, 무한을 집합으로 다루는 일은 무한을 다루는 법에서 이어집니다.