노버트 위너(Norbert Wiener)

노버트 위너는 1894년 미국 미주리주 컬럼비아에서 태어났습니다. 아버지 레오 위너는 러시아 제국의 비아위스토크에서 건너와 여러 언어를 독학으로 익힌 끝에 하버드의 슬라브어 교수가 된 사람이었고, 아들을 집에서 혹독하게 가르쳐 신동으로 키웠습니다. 위너는 열한 살에 터프츠 대학에 들어가 열네 살에 졸업했고, 열여덟 살인 1913년 하버드에서 수리 논리학⁠(mathematical logic)⁠으로 박사 학위를 받았습니다. 그 무렵 미국에는 연구하는 수학자가 드물어, 야심 있는 젊은이는 유럽의 케임브리지와 괴팅겐으로 건너가 배웠습니다. 그는 뒷날 자서전 『전(前) 신동』(1953)에서, 늘 어른들 틈에서 자란 신동의 외로움과 아버지의 압박을 솔직하게 적었습니다.

나이 세 ·

1913–14년 그는 케임브리지에서 러셀에게 논리학을, 하디에게 해석학⁠(mathematical analysis)⁠을 배웠습니다. 러셀은 그에게 논리학을 하려면 수학을 더 알아야 한다고 권했고, 하디의 강의는 그를 엄밀한 해석학의 세계로 끌어들였습니다. 이어 1914년 봄 괴팅겐에서 힐베르트와 에드문트 란다우의 강의를 들었습니다. 1차 세계대전 중에는 메릴랜드의 애버딘 시험장에서 포탄의 사표(射表)를 계산했고, 1919년 MIT의 수학 강사가 되어 평생 그곳에 머물렀습니다. 당시 MIT는 공학자를 기르는 학교였고 수학과는 공학 강의를 돕는 곳이었습니다. 전기 공학자들이 둘러싼 이 환경이 그가 고르는 문제를 바꾸어 놓았습니다. 그의 대표적인 업적들은 거의 모두 전선의 잡음, 떨리는 신호, 흔들리는 입자처럼 공학자들이 매일 부딪히는 불규칙한 것들을 수학으로 다루는 일이었습니다.

첫 번째가 브라운 운동이었습니다. 물에 뜬 아주 작은 알갱이는 쉬지 않고 이리저리 떨립니다(1827년 로버트 브라운이 본 것은 꽃가루 속에서 나온 미세한 입자였습니다). 1905년 아인슈타인은 이것이 보이지 않는 물 분자들이 사방에서 부딪히기 때문이며, 알갱이가 움직인 거리의 제곱의 평균⁠(mean)⁠이 시간에 비례해 늘어난다고 설명했습니다. 그런데 이 '무작위로 떨리는 경로'란 수학적으로 무엇일까요? 1923년 위너는 연속인 경로 전체의 공간 위에 확률⁠(probability)⁠을 정의해 이 물음에 답했습니다. 그가 만든 대상, 오늘날의 위너 과정⁠(Wiener process)⁠ $W_t$는 세 가지로 정해집니다. 경로는 끊어지지 않고, 겹치지 않는 시간 구간의 움직임은 서로 독립⁠(independence)⁠이며, 시각 $s$에서 $t$까지의 변위⁠(displacement)⁠는 평균 0, 분산⁠(variance)⁠ $t - s$인 정규분포⁠(normal distribution)⁠를 따릅니다(위의 식). 걸음의 폭을 줄이고 걸음 수를 늘린 무작위 걸음의 극한⁠(limit)⁠이 바로 이것입니다. 거의 모든 경로(확률 1)는 연속이지만 어디서도 미분⁠(differentiation)⁠할 수 없습니다. 시간 간격 h 동안의 변위가 대략 √h 크기여서, 변위를 h로 나눈 기울기⁠(slope)⁠가 h → 0일 때 1/√h처럼 커져 버리기 때문입니다. 한 점에서 출발한 경로들이 퍼져 가는 모양은 열 방정식의 해와 같습니다. 콜모고로프가 확률론의 공리⁠(axiom)⁠를 세우기 10년 전에, 위너는 르베그의 측도⁠(measure)⁠로 무한히 많은 경로 위의 확률을 다룬 것입니다(무작위성).

두 번째는 불규칙한 신호의 진동수⁠(frequency)⁠ 분석이었습니다. 푸리에 급수⁠(Fourier series)⁠는 주기적인 함수⁠(function)⁠를, 푸리에 적분⁠(integral)⁠은 결국 잦아드는 함수를 사인파⁠(sinusoid)⁠로 나눕니다. 그러나 전선의 잡음이나 전구의 빛은 주기적이지도 않고 잦아들지도 않습니다. 1930년의 「일반화된 조화 해석」에서 위너는 신호를 직접 나누는 대신, 신호를 시간 $\tau$만큼 밀어 원래 신호와 얼마나 닮았는지를 재는 자기상관⁠(autocorrelation)⁠을 먼저 구했습니다. 이 자기상관을 푸리에 변환하면 각 진동수에 에너지가 얼마나 실려 있는지를 나타내는 파워 스펙트럼⁠(power spectrum)⁠이 나옵니다. 1934년 소련의 알렉산드르 힌친이 무작위 과정에 대해 같은 관계를 증명해, 오늘날 이것을 위너–힌친 정리라 부릅니다. 1932년의 타우버 정리는 한 종류의 평균에서 다른 종류의 평균으로 건너가는 일반적인 원리였는데, 그와 제자 이케하라 시카오는 이것으로 소수 정리⁠(prime number theorem)⁠의 새 증명을 얻었습니다. 영국의 젊은 수학자 레이먼드 페일리와는 복소 영역의 푸리에 변환을 함께 연구했지만, 페일리가 1933년 캐나다에서 스키를 타다 눈사태로 죽어 공동 연구는 그의 손으로 마무리되었습니다.

2차 세계대전은 그의 두 관심, 곧 확률과 신호를 한 문제로 묶었습니다. 비행기를 떨어뜨리려면 포탄이 하늘에 닿는 수십 초 동안 비행기가 어디로 갈지를 예측해 그곳을 겨누어야 합니다. 1940년부터 그는 기술자 줄리언 비글로와 함께 조종사의 비행 경로를 통계적 성질이 시간에 따라 변하지 않는 무작위 과정으로 보고, 과거의 관측으로부터 미래 위치를 예측하는 가장 좋은 선형 규칙, 곧 오차의 제곱의 평균을 가장 작게 하는 규칙을 구했습니다. 1942년 노란 표지의 기밀 보고서로 나온 이 이론은 수식이 너무 어려워 군인들 사이에서 '노란 위험'이라 불렸다고 전합니다. 같은 이론에서 나온 위너 필터⁠(Wiener filter)⁠는 잡음에 묻힌 신호를 되살리는 규칙을 알려 줍니다. 신호와 잡음이 서로 무관하고 앞뒤의 관측을 모두 쓸 수 있는 가장 간단한 경우라면 규칙은 한 줄입니다. 각 진동수에서 신호의 세기가 $S$, 잡음의 세기가 $N$이면 그 진동수 성분에 $S/(S+N)$을 곱해 통과시키라는 것입니다. 신호가 강한 진동수는 거의 그대로, 잡음이 강한 진동수는 거의 지웁니다. 과거의 관측만 쓸 수 있는 실시간 예측에서는 규칙이 더 복잡해지는데, 위너의 보고서가 공들인 것이 바로 그 경우였습니다. 정작 그들의 예측 장치는 더 단순한 장치보다 조금 나을 뿐이어서 1943년 계획이 끝났고, 모스크바의 콜모고로프는 같은 시기에 띄엄띄엄 관측하는 경우의 예측 이론을 따로 세웠습니다. 이 이론은 1960년 칼만 필터⁠(Kalman filter)⁠로 이어져 아폴로 우주선의 항법에 쓰였습니다.

조준 문제를 연구하며 그는 사람과 대포가 하나의 되먹임 체계를 이룬다는 데 주목했습니다. 목표와 현재 상태의 차이를 재어 그 차이를 줄이는 쪽으로 움직이는 것, 곧 음의 되먹임입니다. 1943년 그는 멕시코 출신 생리학자 아르투로 로젠블루스, 비글로와 함께 쓴 논문 「행동, 목적, 목적론」에서, 목적이 있는 행동이란 바로 이런 되먹임으로 조절되는 행동이라고 주장했습니다. 연필을 집으려 손을 뻗을 때 우리는 손과 연필 사이의 거리를 끊임없이 줄여 가고, 소뇌를 다친 환자는 이 되먹임이 어긋나 손이 목표를 지나쳤다 돌아오며 떨립니다. 기계와 생물을 같은 말로 설명할 수 있다는 이 생각을 두고, 1946년부터 1953년까지 뉴욕에서 메이시 재단이 후원하는 회의가 열렸습니다. 의장은 신경생리학자 워런 맥컬러였고, 폰 노이만, 젊은 논리학자 월터 피츠, 인류학자 마거릿 미드와 그레고리 베이트슨이 둘러앉았습니다.

1948년 그는 이 생각들을 『사이버네틱스: 동물과 기계에서의 제어와 통신』으로 펴냈습니다. 사이버네틱스는 배의 키잡이를 뜻하는 그리스어에서 그가 지은 이름입니다(19세기에 앙페르가 통치의 학문이라는 뜻으로 비슷한 프랑스어 낱말을 쓴 적은 있습니다). 수식이 가득한 책이었지만 뜻밖에 널리 팔렸고, '정보는 정보일 뿐 물질도 에너지도 아니다'라는 문장이 이 책에서 나왔습니다. 같은 해 벨 연구소의 클로드 섀넌이 「통신의 수학적 이론」을 발표했습니다. 두 사람 모두 정보를 확률로 재는 엔트로피⁠(entropy)⁠에 이르렀는데, 섀넌은 논문에서 통신 이론이 기본 철학과 이론의 많은 부분을 위너에게 빚졌다고 밝히며 1942년 보고서를 통신을 통계⁠(statistics)⁠ 문제로 본 첫 명확한 정식화로 꼽았습니다. 다만 두 사람의 관심은 달랐습니다. 위너는 연속인 신호를 예측하고 여과하는 쪽을, 섀넌은 기호를 부호로 바꾸어 잡음을 이기는 쪽(통로 용량⁠(channel capacity)⁠)을 보았습니다.

전쟁이 끝나자 그는 과학자의 책임을 앞세웠습니다. 1947년 『애틀랜틱 먼슬리』에 실린 글 「한 과학자의 반항」에서 그는 군사 연구에 자기 연구를 내주지 않겠다고 선언했습니다. 1950년의 『인간의 인간적 활용』에서는 되먹임으로 스스로 조절하는 기계가 공장의 노동자를 대량으로 밀어낼 수 있다고 경고했고, 1949년에는 미국 자동차 노조의 위원장 월터 루서에게 편지를 보내 자동화에 대비하도록 돕겠다고 제안했습니다. 오늘날 인공지능⁠(artificial intelligence)⁠과 자동화를 둘러싼 논쟁의 많은 부분이 이 책에 이미 나옵니다. 그 사이 1935–36년에는 제자 리육윙(李郁榮)의 초청으로 베이징 칭화 대학에서 한 해를 가르치며 전기 회로 연구를 도왔고, 제자 노먼 레빈슨은 뒤에 MIT의 대표적인 해석학자가 되었습니다.

그의 인간관계는 순탄하지 않았습니다. 1952년 무렵 그는 오랜 동료 맥컬러와 그 주변의 젊은이들과의 관계를 갑자기 끊었습니다. 전기 작가들은 맥컬러의 무리에 대한 아내 마거릿의 악의적인 이야기를 계기로 보는데, 위너는 끝내 이유를 설명하지 않았습니다. 그를 아버지처럼 따르던 피츠는 큰 충격을 받고 연구에서 멀어졌습니다. 위너 자신은 계속 글을 썼습니다. 1964년 1월 국가 과학 훈장을 받았고, 두 달 뒤 강연 여행 중이던 스톡홀름에서 심장마비로 세상을 떠났습니다. 그해 나온 『신과 골렘 주식회사』는 스스로 배우고 스스로를 복제하는 기계가 던지는 윤리적 물음을 다루었습니다.

그의 수학은 여러 갈래로 살아 있습니다. 위너 과정은 1940년대 이토 기요시의 확률 미적분⁠(calculus)⁠의 바탕이 되었고, 1973년 주식의 옵션 가격을 정하는 블랙–숄스 공식은 주가의 로그가 이 과정에 일정한 추세를 더한 것처럼 움직인다고 가정합니다. 위너 필터와 그 뒤를 이은 칼만 필터는 레이더, 휴대 전화, 위성 항법의 신호 처리 곳곳에 들어 있습니다. 사이버네틱스는 제어 공학, 인지 과학, 생물학의 되먹임 연구로 흩어졌고, 그 이름은 '사이버스페이스' 같은 낱말의 앞머리로 대중문화에 남았습니다. 되먹임으로 목표를 쫓는 체계라는 그의 그림은 오늘날 오차를 줄이는 쪽으로 가중치⁠(weight)⁠를 고치는 경사 하강법⁠(gradient descent)⁠과 신경망⁠(neural network)⁠의 학습에서도 같은 모양으로 되풀이됩니다.

이어지는 곳. 브라운 운동은 무작위 걸음의 극한이고, 그 분포는 정규분포와 열 방정식으로 이어집니다. 자기상관과 스펙트럼은 푸리에 급수와 상관관계⁠(correlation)⁠에서, 정보를 확률로 재는 같은 해의 다른 길은 섀넌과 엔트로피에서 이어집니다. 메이시 회의에서 만난 뉴런의 논리는 맥컬러와 피츠의 페이지에, 그가 배운 곳은 20세기 초 케임브리지와 괴팅겐에 있습니다.

관계.

• 스승 버트런드 러셀 — 1913–14년 케임브리지에서 러셀에게 논리학과 철학을 배웠고, 러셀은 그에게 수학을 더 깊이 공부하라고 권했습니다.
• 스승 G. H. 하디 — 케임브리지에서 하디의 해석학 강의를 들었고, 뒷날 이 강의가 자신의 수학에 큰 영향을 주었다고 회고했습니다.
• 영향을 받음 알베르트 아인슈타인 — 아인슈타인이 1905년 설명한 브라운 운동을 1923년 연속인 무작위 경로 위의 확률로 엄밀하게 정의했습니다.
• 함께 연구 워런 맥컬러 — 1946년부터 맥컬러가 의장을 맡은 메이시 회의의 중심에서 함께 사이버네틱스를 일구었지만, 1952년 무렵 갑자기 관계를 끊었습니다.
• 함께 연구 존 폰 노이만 — 1944–45년 폰 노이만, 에이컨과 함께 계산 기계와 신경계를 함께 논하는 모임을 꾸렸고, 두 사람은 메이시 회의에서도 자주 마주 앉았습니다.
• 영향을 줌 클로드 섀넌 — 섀넌은 1948년 논문에서 통신 이론이 기본 철학과 이론의 많은 부분을 위너에게 빚졌다고 밝히고, 그의 1942년 보고서를 통신을 통계 문제로 본 첫 명확한 정식화로 꼽았습니다.

연표.

• 1909년 열네 살에 터프츠 대학을 졸업하다
• 1913년 열여덟 살에 하버드에서 수리 논리학으로 박사 학위를 받고 케임브리지로 가다
• 1919년 MIT의 수학 강사가 되다
• 1923년 「미분 공간」에서 브라운 운동을 무작위 경로의 확률로 정의하다
• 1930년 「일반화된 조화 해석」을 발표하다
• 1935년 베이징 칭화 대학에서 한 해 동안 가르치다
• 1942년 대공포 예측 이론을 담은 기밀 보고서를 내다
• 1946년 메이시 회의의 핵심 참가자가 되다
• 1948년 『사이버네틱스』를 펴내다
• 1950년 『인간의 인간적 활용』에서 자동화의 사회적 위험을 경고하다