존 폰 노이만(John von Neumann)

존 폰 노이만은 1903년 부다페스트의 부유한 유대계 은행가 집안에서 노이만 야노시로 태어났습니다. 아버지가 1913년 귀족 칭호를 받아 이름에 '폰'이 붙었습니다. 그 무렵 부다페스트는 뒷날 물리학자 유진 위그너, 레오 실라르드, 에드워드 텔러와 수학자 에르되시를 길러 낼 만큼 과학 교육이 뛰어난 도시였습니다. 그는 어려서부터 놀라운 암산과 기억력으로 이름났고, 김나지움 시절 대학 교수들에게 따로 수학을 배웠습니다. 그러나 1차 세계대전 뒤 제국이 무너지고 혁명과 반혁명, 반유대주의 법이 이어지면서, 그를 비롯한 헝가리의 젊은 과학자들은 하나둘 나라를 떠났습니다.

나이 세 ·

그가 다닌 부다페스트의 루터교 김나지움은 한 해 선배인 위그너가 다닌 학교이기도 했습니다(부다페스트의 수학자들). 수학 교사 라츠 라슬로는 그의 재능을 알아보고 부모에게 대학 교수의 개인 지도를 권했고, 그를 가르친 젊은 수학자 세게 가보르는 첫 수업에서 소년의 풀이에 감격해 눈물을 흘렸다고 전합니다. 열여덟 살에는 수학자 페케테 미하이와 함께 첫 논문을 냈습니다. 헝가리의 김나지움과 학생 수학 잡지, 전국 수학 경시대회가 만든 이 풍토는 좁은 나라에서 놀랄 만큼 많은 과학자를 길러 냈습니다. 그러나 1919년 몇 달 동안의 헝가리 소비에트 공화국 때 그의 가족은 나라 밖으로 피신했고, 뒤이은 우익 정권의 백색 테러와 1920년 대학의 유대인 입학을 제한한 법은 부유한 유대계 집안의 아들에게도 앞날을 어둡게 했습니다. 아버지의 뜻에 따라 그는 부다페스트 대학에 이름만 올려 두고 베를린과 취리히에서 화학을 공부했고, 취리히에서는 수학자 헤르만 바일과 포여 죄르지의 강의를 들었습니다.

1926년 그는 부다페스트에서 집합론으로 수학 박사 학위를, 취리히 연방 공과대학에서 화학 공학 학위를 함께 받았습니다. 스무 살 무렵 그는 자연수⁠(natural number)⁠를 집합⁠(set)⁠만으로 짓는 우아한 방법을 내놓았습니다. 0은 공집합⁠(empty set)⁠, 1은 {0}, 2는 {0, 1}처럼 각 수를 그보다 작은 수 전체의 집합으로 정의하는 것으로, 오늘날 집합론의 표준 정의입니다. 이 정의는 자연수 너머의 무한한 순서수⁠(ordinal number)⁠, 곧 '첫째, 둘째, …'처럼 순서를 매기는 수를 자연수를 다 센 다음까지 이어 간 수로 그대로 이어집니다(집합의 크기⁠(cardinality)⁠). 박사 학위 뒤에는 괴팅겐의 힐베르트에게 가서 수학의 토대와 막 태어난 양자역학을 연구했습니다. 1932년의 『양자역학의 수학적 기초⁠(basics)⁠』에서 그는 물리계의 상태를 무한 차원 공간의 벡터⁠(vector)⁠로, 측정할 수 있는 양을 그 공간의 선형 변환으로 보고, 측정값이 곧 그 변환의 고유값⁠(eigenvalue)⁠이라는 틀을 세웠습니다. 이 공간에 힐베르트 공간⁠(Hilbert space)⁠이라는 이름을 붙인 것도 그였습니다.

그가 록펠러 재단의 장학금으로 괴팅겐에 간 1926년은 물리학자 베르너 하이젠베르크의 행렬⁠(matrix)⁠ 역학과 에르빈 슈뢰딩거의 파동 역학이 막 나와 서로 다른 두 이론처럼 보이던 때였습니다. 힐베르트는 물리학자들의 새 이론을 수학으로 정리하고 싶어 했고, 젊은 폰 노이만은 1928년 힐베르트, 물리학자 로타어 노르트하임과 함께 그 기초를 다룬 논문을 썼습니다. 이어 슈뢰딩거가 1926년에 짚었던 두 역학의 같음을, 하나의 힐베르트 공간 위의 이야기를 두 가지로 적은 것으로 엄밀하게 정리했습니다. 그는 베를린과 함부르크에서 사강사⁠(Privatdozent)⁠로 가르치며 해마다 놀라운 속도⁠(velocity)⁠로 논문을 냈지만, 독일 대학에서 정교수 자리가 날 가능성은 크지 않았습니다. 1930년 프린스턴의 수학자 오즈월드 베블런이 그와 위그너를 함께 초빙했고, 같은 해 백화점 재벌 뱀버거 남매의 기부로 세워진 프린스턴 고등연구소는 1933년 그를 아인슈타인과 함께 첫 교수진에 넣었습니다. 그해 나치가 권력을 잡자 그는 독일의 자리를 모두 정리했고, 1937년 미국 시민이 되었습니다.

1928년에는 게임 이론의 첫 정리를 증명했습니다. 한 사람이 얻는 만큼 다른 사람이 잃고 고를 수 있는 수가 유한 개인 두 사람 게임에서, 각자 수를 확률적으로 섞어 두면(혼합 전략⁠, mixed strategy⁠) 내가 보장받을 수 있는 최선과 상대가 막을 수 있는 최선이 언제나 같다는 것입니다. 위의 식에서 $A$는 보수의 행렬, $x, y$는 두 사람이 수를 고르는 확률⁠(probability)⁠입니다. 가위바위보라면 셋을 1/3씩 섞는 것이 두 사람 모두의 최선이고, 그때 보수의 기댓값⁠(expected value)⁠은 0입니다. 1944년 경제학자 오스카어 모르겐슈테른과 함께 낸 『게임 이론과 경제 행동』은 이 생각을 경제로 넓혔고, 확률과 선호로 기대 효용⁠(expected utility)⁠을 정의하는 공리⁠(axiom)⁠도 담았습니다. 1947년 조지 댄치그가 선형 계획법⁠(linear programming)⁠, 곧 일차식으로 된 조건들을 지키며 일차식 목표를 가장 크게 만드는 문제를 설명하자, 그는 게임 이론에서의 경험으로 곧바로 쌍대 정리⁠(duality theorem)⁠를 짐작했다고 전합니다. 최대화 문제마다 짝이 되는 최소화 문제가 있어 두 답이 같다는 이 원리의 한 예가 최대 흐름 최소 절단 정리⁠(max-flow min-cut theorem)⁠입니다(최적화⁠, optimization⁠).

1930년 9월 쾨니히스베르크에서 괴델의 첫 발표를 들은 그는 그해 11월 스스로 제2 불완전성 정리⁠(incompleteness theorem)⁠에 이르러 괴델에게 편지를 보냈지만, 괴델은 이미 그것을 논문에 넣은 뒤였습니다. 그는 이후 수학의 토대 연구에서 손을 떼었다고 합니다. 1930년부터 프린스턴에서 가르쳤고 1933년 아인슈타인과 함께 고등연구소의 첫 교수진이 되었습니다. 2차 세계대전 중에는 로스앨러모스에서 플루토늄 폭탄의 내파 설계에 필요한 유체 계산을 맡았고, 그 막대한 계산이 그를 컴퓨터로 이끌었습니다. 1945년 6월 펜실베이니아 대학 무어 스쿨의 EDVAC 설계를 정리한 「EDVAC 보고서 초안」에서 그는 프로그램을 자료와 같은 기억 장치에 넣는 저장 프로그램⁠(stored program)⁠ 구조를 제시했습니다. 튜링의 보편 튜링 기계⁠(Turing machine)⁠와 맞닿은 생각이고, 오늘날 대부분의 컴퓨터가 따르는 이 구조를 '폰 노이만 구조⁠(von Neumann architecture)⁠'라 부릅니다. 다만 보고서에 그의 이름만 실려 ENIAC과 EDVAC을 설계한 공학자 존 프레스퍼 에커트와 존 모클리의 몫이 가려졌다는 논란은 지금도 이어집니다. 같은 해 그는 이 기계를 위해 정렬된 두 목록을 합치는 병합 프로그램을 손으로 적었습니다(분할 정복⁠(divide and conquer)⁠, 정렬 알고리즘⁠(sorting algorithm)⁠).

그의 전쟁은 로스앨러모스보다 먼저 시작되었습니다. 1937년부터 메릴랜드 애버딘의 육군 탄도 연구소 자문을 맡아 폭발의 충격파⁠(shock wave)⁠와 성형 작약을 연구했고, 1943년 가을부터 로스앨러모스를 드나들며 플루토늄 덩어리를 사방에서 고르게 짓누르는 내파 방식의 계산을 이끌었습니다. 1945년 5월에는 일본의 어느 도시에 폭탄을 떨어뜨릴지 정하는 표적 위원회에 참여해, 피해를 가장 크게 하는 폭발 고도를 계산했습니다. 전쟁 뒤에는 물리학자 에드워드 텔러, 폴란드 출신 수학자 스타니스와프 울람과 함께 수소폭탄 개발을 밀어붙였고, 1940년대 말에는 소련이 핵무기를 갖기 전에 먼저 쳐야 한다는 예방 전쟁론을 입에 올렸다고 전합니다. 과학을 국가의 힘과 곧바로 잇는 그의 태도는 당시 미국에서 큰 존경을 받았지만, 로스앨러모스를 이끈 물리학자 로버트 오펜하이머처럼 핵무기 경쟁을 걱정한 동료들과는 멀어지게 했고, 오늘날에는 그의 천재와 함께 냉전의 과학자가 어떤 선택을 했는지를 묻는 사례로 다루어집니다.

전쟁이 끝나자 그는 고등연구소에 직접 전자 컴퓨터를 만들기로 했습니다. 순수한 사색을 위한 연구소에 납땜 인두를 든 기술자들이 들어오는 것에 반대가 많았지만, 1946년 시작된 이 계획은 공학자 줄리언 비글로의 손으로 1951–1952년 본격적으로 돌아가기 시작했습니다. 그는 이 기계의 설계 보고서를 특허로 묶지 않고 널리 배포했고, 그 덕분에 로스앨러모스의 MANIAC, 일리노이의 ILLIAC, 랜드 연구소의 JOHNNIAC, 스웨덴의 BESK 같은 형제 기계들이 여러 나라에서 같은 설계로 태어났습니다. 1945년 보고서가 먼저 배포된 탓에 에커트와 모클리가 저장 프로그램 방식의 특허를 얻지 못한 일은 두 사람과의 사이를 크게 틀어지게 했지만, 결과적으로 컴퓨터 구조가 한 회사의 소유가 되지 않고 공공의 지식으로 퍼진 데에는 이 결정의 몫이 컸습니다.

컴퓨터가 생기자 그는 무작위를 계산의 도구로 삼았습니다. 로스앨러모스의 동료 울람이 제안한 생각을 함께 다듬어, 중성자가 물질 속을 떠도는 과정을 난수로 수없이 흉내 내 평균⁠(mean)⁠을 구하는 몬테카를로 방법을 ENIAC에서 실행했습니다. 난수를 얻으려고 제곱수⁠(perfect square)⁠의 가운데 자리를 떼어 쓰는 방법도, 울람과 함께 로지스틱 사상⁠(logistic map)⁠ $x \mapsto 4x(1-x)$를 되풀이하는 방법도 내놓았지만, 그는 산술적인 방법으로 난수를 만드는 사람은 죄를 짓는 상태에 있다는 농담 섞인 경고도 남겼습니다. 1950년에는 기상학자 줄 차니와 함께 ENIAC으로 첫 수치 일기 예보를 계산했습니다. 스스로를 복제하는 기계를 세포 자동자⁠(cellular automaton)⁠, 곧 격자의 칸마다 이웃 칸들의 상태에 따라 다음 상태가 정해지는 규칙의 모형으로 설계했고, 1945년 보고서에서는 워런 맥컬러와 월터 피츠의 뉴런 표기를 빌려 논리 소자를 설명했습니다. 매개변수⁠(parameter)⁠가 넷이면 코끼리를 맞출 수 있다는 그의 말은 물리학자 엔리코 페르미가 프리먼 다이슨에게 전한 것으로, 지금도 과적합⁠(overfitting)⁠의 경고로 인용됩니다.

냉전기에 그는 소련에 대한 강경론자였고, 1955년 원자력 위원회 위원이 되었습니다. 그해 암 진단을 받았고, 1956년 병상의 그에게 괴델은 증명을 찾는 데 걸리는 걸음 수가 증명의 길이에 대해 얼마나 빨리 늘어나는지를 묻는 편지를 보냈습니다. 오늘날의 P 대 NP 문제⁠(P versus NP problem)⁠의 가장 이른 형태입니다. 그는 1957년 2월 워싱턴의 병원에서 쉰셋으로 세상을 떠났고, 미완성 강연 원고는 『컴퓨터와 두뇌』로 출판되었습니다. 섀넌이 뒷날 전한 이야기에 따르면, 새로 정의한 정보의 양에 '엔트로피⁠(entropy)⁠'라는 이름을 권한 사람도 그였다고 합니다(엔트로피).

그의 병이 1946년 비키니 환초의 핵실험 등에서 받은 방사선 때문이었는지는 추측으로만 남아 있습니다. 평생 종교에 무관심했던 그는 마지막 몇 달 동안 가톨릭 신부를 불러 교리를 배웠습니다. 그가 남긴 것들은 저마다 다른 분야에서 자랐습니다. 게임 이론은 랜드 연구소의 냉전 전략 연구와, 1950년 수학자 존 내시가 혼합 전략을 허용하면 모든 유한 게임에 균형, 곧 모두가 상대의 전략을 알아도 혼자 전략을 바꿔서는 이득을 볼 수 없는 상태가 있음을 보인 뒤의 경제학으로 퍼졌습니다. 최소최대 정리⁠(minimax theorem)⁠와 선형 계획법의 쌍대 정리가 같은 모양이라는 그의 관찰은, 최대화 문제 뒤에 늘 짝이 되는 최소화 문제가 숨어 있다는 쌍대성⁠(duality)⁠의 대표적인 예가 되었습니다. 몬테카를로 방법은 물리학과 금융, 통계학⁠(statistics)⁠의 계산 도구가 되었고(무작위성), 세포 자동자는 인공 생명과 복잡계 연구의 출발점이 되었습니다.

이어지는 곳. 비교로 정렬하는 어떤 방법도 최악의 경우 약 n log₂ n번보다 적게 비교할 수는 없으니 그의 병합 정렬⁠(merge sort)⁠이 거의 최선이라는 것은 정렬의 하한⁠(lower bound)⁠에서, 난수로 계산하는 방법은 몬테카를로 방법과 무작위 알고리즘⁠(randomized algorithm)⁠에서, 양자역학의 상태를 벡터로, 측정값을 고유값으로 보는 언어는 고유벡터⁠(eigenvector)⁠와 선형 변환에서 이어집니다. 프로그램도 기계가 읽는 자료라는 저장 프로그램의 이론적 뿌리는 보편 기계⁠(universal machine)⁠를 생각한 튜링에게, 그가 예보를 계산한 날씨가 왜 끝내 예측을 벗어나는지는 에드워드 로렌츠와 혼돈⁠(chaos)⁠에 있습니다. 수를 번갈아 두고 모든 것이 드러난 게임에서는 전략을 섞을 필요 없이 수의 나무를 거꾸로 따라가며 최솟값과 최댓값을 번갈아 끌어올리면 되는데, 이것이 게임 트리⁠(game tree)⁠ 탐색의 미니맥스입니다. 선형 계획의 쌍대 문제⁠(dual problem)⁠에서 제약마다 붙는 변수는 라그랑주 승수⁠(Lagrange multiplier)⁠입니다.

관계.

• 편지 쿠르트 괴델 — 1930년 괴델의 발표를 듣고 제2 불완전성 정리에 이르러 편지를 보냈고, 1956년에는 병상에서 P 대 NP 문제의 원형이 담긴 괴델의 편지를 받았습니다.
• 영향을 받음 앨런 튜링 — 프린스턴에 온 튜링에게 조수 자리를 제안했고, 보편 튜링 기계⁠(universal Turing machine)⁠의 생각은 그의 저장 프로그램 구조와 같은 뿌리를 가집니다.
• 영향을 줌 클로드 섀넌 — 섀넌이 전한 이야기에 따르면, 새로 정의한 정보의 양에 '엔트로피'라는 이름을 붙이라고 권한 사람이 그였습니다.
• 영향을 줌 존 매카시 — 1948년 칼텍의 힉슨 심포지엄에서 그가 자기 복제 오토마톤⁠(automaton)⁠에 대해 한 강연을 들은 매카시는, 기계로 지능을 흉내 내는 문제에 처음 관심을 가졌다고 회고했습니다.

연표.

• 1922년 열여덟 살에 페케테와 함께 첫 논문을 내다
• 1926년 수학 박사와 화학 공학 학위를 함께 받고 괴팅겐의 힐베르트에게 가다
• 1927년 베를린 대학의 사강사가 되다
• 1928년 두 사람 영합 게임⁠(zero-sum game)⁠의 최소최대 정리를 증명하다
• 1930년 프린스턴에서 가르치기 시작하고 쾨니히스베르크에서 괴델의 발표를 듣다
• 1932년 『양자역학의 수학적 기초』를 펴내다
• 1933년 프린스턴 고등연구소의 첫 교수진이 되다
• 1937년 미국 시민이 되다
• 1943년 로스앨러모스의 원자폭탄 계획에 참여하다
• 1944년 모르겐슈테른과 『게임 이론과 경제 행동』을 펴내다
• 1945년 「EDVAC 보고서 초안」과 병합 정렬 프로그램을 쓰고, 원자폭탄의 표적 위원회에 참여하다
• 1946년 고등연구소에서 전자 컴퓨터를 만드는 계획을 시작하다
• 1950년 ENIAC으로 첫 수치 일기 예보를 계산하다
• 1952년 고등연구소 컴퓨터가 본격적으로 돌아가기 시작하다
• 1955년 원자력 위원회 위원이 되고 암 진단을 받다