안드레이 콜모고로프(Andrey Kolmogorov)

안드레이 콜모고로프는 1903년 러시아 남부의 탐보프에서 태어났습니다. 어머니는 그를 낳다가 세상을 떠났고, 그는 볼가강 가의 야로슬라블 근처에서 이모들 손에 자랐습니다. 이모들은 집에서 작은 학교를 꾸렸고, 어린 그는 그곳에서 수의 규칙을 스스로 찾는 즐거움을 알았다고 회고했습니다. 1920년 혁명과 내전 직후의 굶주림 속에서 모스크바 대학에 들어간 그는 역사학 세미나에서 중세 노브고로드의 토지 기록을 연구하기도 했지만, 곧 니콜라이 루진이 이끄는 실함수론⁠(real analysis)⁠ 학파에 들어갔습니다. 실함수론은 끊기거나 요동치는 함수⁠(function)⁠까지 포함해 실수⁠(real number)⁠의 함수와 그 수열이 언제 어떤 뜻으로 수렴⁠(convergence)⁠하고 어떻게 적분⁠(integral)⁠되는지를 따지는 분야입니다. 그 무렵 수학은 앙리 르베그의 측도론⁠(measure theory)⁠, 곧 구간의 길이를 훨씬 복잡한 점들의 집합⁠(set)⁠에까지 넓힌 '크기'의 이론으로 길이와 넓이⁠(area)⁠와 적분의 뜻을 새로 다지고 있었는데(르베그 적분과 측도⁠(Lebesgue integral and measure)⁠), 확률⁠(probability)⁠은 아직 그런 토대가 없는 분야였습니다.

나이 세 ·

루진의 제자들은 스승의 이름을 따 스스로를 '루시타니아'라 불렀습니다(모스크바 수학 학파). 난방도 제대로 안 되는 강의실에서 외투를 입은 채 세미나를 열었지만, 뒷날 위상수학자가 된 파벨 알렉산드로프와 파벨 우리손, 해석적 집합⁠(analytic set)⁠을 찾아낸 미하일 수슬린 같은 젊은이들이 집합론⁠(set theory)⁠과 실함수론에서 세계적인 결과를 쏟아 냈습니다. 루진의 스승 드미트리 예고로프는 이 학파의 대부였습니다. 혁명 정부는 과학을 사회주의 건설의 도구로 키우면서도 과학자들의 사상을 끊임없이 의심했고, 독실한 정교회 신자였던 예고로프는 1930년 체포되어 이듬해 유배지에서 세상을 떠났습니다. 1925년 콜모고로프는 네덜란드의 브라우어르가 내세운 직관주의⁠(intuitionism)⁠, 곧 수학적 대상은 구성해 보일 수 있을 때에만 존재한다는 입장의 논리를 형식적인 공리⁠(axiom)⁠로 적는 논문을 냈는데, 이것은 모든 명제가 참이거나 거짓이라는 배중률⁠(law of excluded middle)⁠ 없이 어디까지 증명할 수 있는지를 따진 가장 이른 연구 가운데 하나였습니다. 1929년 여름 그는 알렉산드로프와 볼가강을 따라 배로 여행하며 평생의 우정을 맺었고, 이듬해 두 사람은 괴팅겐과 뮌헨, 파리를 돌며 서유럽의 수학자들을 만났습니다. 파리에서는 확률론을 연구하던 모리스 프레셰, 폴 레비와 교류했습니다.

열아홉 살이던 1922년 그는 르베그 적분⁠(Lebesgue integral)⁠이 유한한(넓이가 멀쩡히 정해지는) 함수인데도, 그 함수를 사인과 코사인⁠(sine and cosine)⁠의 합으로 펼친 푸리에 급수⁠(Fourier series)⁠가 거의 모든 점⁠(almost everywhere)⁠에서 어떤 값에도 다가가지 않는(발산⁠(divergence)⁠하는) 예를 만들어 이름을 알렸습니다. 여기서 '거의 모든 점'은 예외가 측도 0⁠(measure zero)⁠인 집합뿐이라는 뜻입니다. 1920년대 후반에는 수학자 알렉산드르 힌친 등과 함께 동전 던지기 같은 독립⁠(independence)⁠ 시행의 평균⁠(mean)⁠이 언제 확실히 참값으로 가는지를 연구해, 큰 수의 법칙⁠(law of large numbers)⁠이 성립할 조건을 거의 완전히 밝혔습니다. 1931년 모스크바 대학 교수가 된 그해의 논문에서는, 다음 상태가 지금 상태에만 기대는 과정(마르코프 연쇄⁠, Markov chain⁠)을 시간이 연속적으로 흐르는 경우로 넓혀 확률이 어떻게 변하는지를 미분방정식⁠(differential equation)⁠으로 적었습니다. 무작위 걸음의 걸음을 한없이 잘게 하면 그 방정식은 열 방정식이 됩니다. 마르코프가 시작한 이론이 이렇게 해석학⁠(mathematical analysis)⁠과 물리학에 이어졌습니다.

1933년 베를린에서 독일어로 나온 얇은 책 『확률론의 기초⁠(basics)⁠ 개념』은 확률에 수학적 토대를 주었습니다. 1900년 힐베르트가 여섯째 문제에서 물리학과 함께 확률론을 공리로 세우라고 요구한 지 한 세대 만이었습니다. 일어날 수 있는 모든 결과의 집합 $\Omega$를 두고, 사건⁠(event)⁠은 그 부분집합⁠(subset)⁠, 확률은 사건에 수를 주는 측도로 봅니다. 공리는 위의 셋뿐입니다. 확률은 0 이상이고, 전체의 확률은 1이며, 겹치지 않는 사건들의 확률은 셀 수 있을 만큼 무한히 많아도 더해집니다. 사건의 '또는', '그리고', '아니다'는 집합의 연산⁠(set operations)⁠이 됩니다. 이 틀 덕분에 동전을 무한히 던지는 것 같은 무한한 실험도, 확률이 0인 사건에 대한 조건부 확률⁠(conditional probability)⁠이나 기댓값⁠(expected value)⁠도 모순 없이 다룰 수 있게 되었고, 확률론은 측도론의 한 분야로 수학의 한가운데에 들어왔습니다. 이 책이 모스크바가 아니라 베를린의 슈프링거 출판사에서 독일어로 나온 것은, 그 무렵까지 소련 수학자들이 중요한 결과를 서유럽의 언어와 학술지로 발표하는 것이 자연스러웠음을 보여 줍니다.

그 자연스러움은 몇 해 뒤 정치의 표적이 되었습니다. 1936년 여름 공산당 기관지 『프라우다』는 루진이 좋은 결과를 외국 학술지에만 싣고 제자들의 성과를 가로챘다며, 그를 '소비에트의 가면을 쓴 적'으로 몰아세우는 기사를 연달아 실었습니다. 과학 아카데미에 조사 위원회가 꾸려졌고, 알렉산드로프와 콜모고로프를 비롯한 루진의 옛 제자 여럿이 스승을 비판하는 쪽에 섰습니다. 루진은 체포되지 않고 아카데미 회원 자격도 지켰지만 여러 자리에서 물러나야 했고, 이 일 뒤로 소련 수학자들은 논문을 먼저 국내 학술지에 러시아어로 발표하게 되었습니다. 제자들이 왜 그렇게 했는지는 개인적인 원한, 정치적 압력, 학파 안의 오랜 갈등이 얽혀 있어 지금도 역사가들의 평가가 엇갈립니다. 한편 1940년 콜모고로프는 농학자 리센코를 따르는 연구자가 멘델의 법칙을 반박하려고 내놓은 교배 자료를 분석해, 그 자료가 오히려 멘델의 비율을 우연의 오차 범위 안에서 잘 따른다는 논문을 냈습니다. 유전학자들이 탄압받기 시작하던 때에 확률론으로 멘델 편에 선 셈입니다.

그의 관심은 끝없이 넓었습니다. 1941년에는 난류를 연구해, 큰 소용돌이가 점점 작은 소용돌이로 쪼개지며 에너지를 넘겨주는 과정에서 가장 큰 소용돌이와 가장 작은 소용돌이 사이의 중간 크기에서는 에너지 분포가 파수(소용돌이 크기의 역수⁠(inverse)⁠)의 −5/3 제곱에 비례한다는 법칙을 이끌어 냈습니다. 그가 직접 적은 것은 같은 내용을 두 점 사이 속도⁠(velocity)⁠ 차이로 표현한 '2/3 법칙'이고, −5/3 꼴은 같은 해 제자 오부호프가 적었습니다. 1954년에는 푸앵카레가 서로 끌어당기는 세 천체의 운동, 곧 삼체 문제⁠(three-body problem)⁠에서 남긴 물음, 곧 규칙적인 궤도⁠(orbit)⁠가 작은 흔들림에도 살아남는지에 대해, 적당한 조건을 갖춘 계에서 흔들림이 충분히 작으면 대부분의 궤도는 모양이 조금 바뀔 뿐 살아남는다는 정리를 발표했습니다. 블라디미르 아르놀트와 위르겐 모저가 완성해 세 사람의 머리글자를 딴 이 KAM 이론⁠(KAM theory)⁠에 따르면 태양계 같은 계에는 규칙적인 운동과 혼돈⁠(chaos)⁠이 뒤섞여 있습니다. 1957년에는 제자 아르놀트와 함께 힐베르트가 1900년에 내놓은 23개 문제 가운데 13번에 답해, 여러 변수의 연속 함수는 모두 한 변수 연속 함수들과 덧셈을 겹쳐 만들 수 있음을 보였습니다. 두 변수 함수 xy가 $\tfrac14\big((x+y)^2 - (x-y)^2\big)$처럼 덧셈과 제곱이라는 한 변수 함수만으로 만들어지는 것과 같은 일이, 어떤 연속 함수에서든 가능하다는 것입니다. 이 정리는 뒷날 신경망⁠(neural network)⁠의 표현력을 설명하는 근거로도 자주 인용됩니다. 1958년에는 섀넌의 엔트로피⁠(entropy)⁠를 빌려, 정해진 규칙에 따라 시간이 흐르며 변하는 계(동역학계)가 얼마나 빨리 새 정보를 만들어 내는지 재는 양을 정의했습니다. 계의 상태를 거친 눈금으로 한 걸음마다 기록할 때 지난 기록으로는 예측할 수 없는 새 정보가 한 걸음마다 평균 몇 비트씩 생기는지를 재는 양으로, 규칙적인 운동이면 0, 혼돈이면 0보다 큽니다.

독소 전쟁은 그의 확률론을 전장으로 불러냈습니다. 그는 포탄이 과녁 둘레에 흩어지는 방식을 분석해, 흩어짐이 어느 정도일 때 여러 발을 일부러 조금씩 벌려 쏘는 것이 명중 확률을 높이는지를 계산했습니다. 1939–1941년에는 과거의 값들로 정상적인 무작위 과정, 곧 시간이 흘러도 평균이나 흩어짐 같은 통계적 성질이 변하지 않는 과정의 미래 값을 가장 잘 예측하는 방법을 연구했는데, 같은 시기 미국에서는 노버트 위너가 대공포의 조준을 위해 같은 문제를 풀고 있었습니다. 전쟁의 양편에서 거의 같은 이론이 나란히 나온 이 일은 오늘날 위너–콜모고로프 예측 이론으로 불리며, 신호에서 잡음을 걸러 내는 필터⁠(filter)⁠ 이론의 출발점이 되었습니다(무작위성). 1950년대 초 소련에서, 위너가 이름 붙인 기계와 생물의 제어와 통신을 함께 다루는 학문인 사이버네틱스⁠(cybernetics)⁠가 '부르주아 사이비 과학'으로 비난받던 분위기가 누그러지자, 그는 섀넌의 정보 이론과 통신, 계산에 관한 연구를 소련 수학의 정식 분야로 끌어들이는 데 앞장섰습니다.

1960년 그는 세미나에서 n자리 수의 곱셈에는 한 자리 곱셈이 $n^2$번 정도 필요하다는 예상을 내놓았는데, 이를 들은 학생 아나톨리 카라추바가 곧 곱셈 하나를 반 크기의 곱셈 셋으로 줄이는 방법을 찾아 반박했습니다. 이 쪼개기를 되풀이하면 한 자리 곱셈이 $n^{1.59}$번쯤으로 줄어듭니다(분할 정복⁠(divide and conquer)⁠, 빅오 표기법). 1965년에는 문자열 하나에 담긴 정보의 양을 그것을 출력하는 가장 짧은 프로그램의 길이로 정의했습니다(콜모고로프 복잡도⁠, Kolmogorov complexity⁠). '01'을 500번 되풀이한 1000자리는 짧은 프로그램으로 나오지만 동전을 던져 얻은 1000자리는 대개 그렇지 않으니, 짧게 줄일 수 없는 문자열을 무작위라고 부를 수 있습니다. 확률 없이 '무작위'를 정의하는 이 생각은 미국의 레이 솔로모노프와 그레고리 차이틴도 따로 떠올렸고, 튜링 기계⁠(Turing machine)⁠와 섀넌의 원천 부호화 정리⁠(source coding theorem)⁠를 잇습니다. 그의 제자 레오니트 레빈은 P 대 NP 문제⁠(P versus NP problem)⁠의 기초가 된 결과를 독립적으로 얻었습니다.

그는 교육에도 힘을 쏟아 1963년 모스크바 대학 부설 수학·물리 영재 기숙학교를 세우고 직접 가르쳤으며, 학생 잡지 『크반트』의 창간에도 참여했습니다. 평생의 친구인 위상수학자 파벨 알렉산드로프와 모스크바 근교의 시골집에서 지내며 스키를 타고 차가운 강에서 헤엄치는 것을 즐겼습니다. 이즈라일 겔판트, 아르놀트, 야코프 시나이 같은 제자들이 20세기 후반 수학의 여러 분야를 이끌었습니다. 1960년대 후반부터는 전국 학교의 수학 교육 과정 개편을 이끌어 집합과 함수를 일찍부터 가르치게 했는데, 지나치게 추상적이라는 비판을 받아 1970년대 말 위상수학자 레프 폰트랴긴 등이 주도한 반대로 크게 되돌려졌습니다. 1987년 모스크바에서 세상을 떠났습니다.

그의 공리는 오늘날 확률을 가르치는 거의 모든 교과서의 첫 장에 있습니다. 확률이 실제로 무엇인지, 곧 긴 되풀이의 빈도인지 믿음의 정도인지는 공리가 답하지 않고 남겨 두었기 때문에, 빈도주의자와 램지 식의 주관주의자가 모두 같은 수학을 쓸 수 있게 되었습니다. 그 자신은 공리가 개별 사건의 무작위성을 말해 주지 못한다는 점을 불만스러워했고, 말년의 복잡도 연구는 그 빈자리를 메우려는 시도였습니다. 1964–1965년 모스크바에 와서 그와 함께 연구한 스웨덴의 페르 마르틴뢰프는 이 생각을 이어 무작위 수열을 엄밀하게 정의했습니다. 확률, 정보, 계산을 하나의 그림으로 잇는 이 길은 그가 남긴 가장 넓은 유산입니다.

이어지는 곳. 세 공리 위에 선 확률의 기본 개념은 확률에서, 그의 틀이 처음으로 제대로 정의해 준 확률이 0인 사건 위의 조건은 조건부 확률에서, 그가 성립 조건을 밝힌 평균의 수렴은 큰 수의 법칙에서 이어집니다. 연속 시간으로 넓힌 무작위 과정은 마르코프 연쇄와 무작위 걸음에서, 문자열 하나의 정보량은 콜모고로프 복잡도에서, KAM 이론이 말하는 규칙과 혼돈이 섞인 궤도는 혼돈에서 이어집니다. 그가 동역학계로 빌려 온 엔트로피, 곧 확률 원천의 평균 정보량을 먼저 정의한 사람은 클로드 섀넌입니다.

관계.

• 영향을 받음 안드레이 마르코프 — 마르코프가 시작한 연쇄를 연속 시간으로 넓혀, 확률이 변하는 규칙을 미분방정식으로 적었습니다.
• 영향을 받음 다비트 힐베르트 — 힐베르트의 여섯째 문제가 요구한 확률의 공리화를 1933년에 해냈고, 1957년에는 아르놀트와 함께 13번 문제에 답했습니다.
• 영향을 받음 앙리 푸앵카레 — 푸앵카레가 삼체 문제에서 남긴 궤도의 안정성⁠(stability)⁠ 물음에 1954년 KAM 이론의 첫 정리로 답했습니다.
• 영향을 받음 클로드 섀넌 — 섀넌의 정보 이론을 소련에 적극적으로 소개하고, 그 엔트로피를 빌려 동역학계의 엔트로피를 정의했습니다.
• 제자 페르 마르틴뢰프 — 1964–65년 모스크바에서 그에게 배운 마르틴뢰프는 1966년 무작위 수열을 계산 가능한 모든 통계적 검정을 통과하는 수열로 정의했습니다.

연표.

• 1920년 모스크바 대학에 들어가다
• 1922년 거의 모든 곳에서 발산하는 푸리에 급수를 만들다
• 1925년 배중률에 관한 논문으로 직관주의 논리⁠(intuitionistic logic)⁠를 형식화하다
• 1929년 알렉산드로프와 볼가강 여행을 하며 평생의 우정을 시작하다
• 1930년 괴팅겐, 뮌헨, 파리를 돌며 유럽의 수학자들을 만나다
• 1931년 모스크바 대학 교수가 되고 연속 시간 마르코프 과정⁠(Markov process)⁠의 방정식을 세우다
• 1933년 『확률론의 기초 개념』으로 확률을 공리화하다
• 1936년 스승 루진을 규탄하는 '루진 사건'이 일어나다
• 1939년 소련 과학 아카데미 정회원이 되다
• 1940년 리센코파의 자료를 분석해 멘델의 법칙을 지지하는 논문을 내다
• 1941년 난류의 에너지 스펙트럼 이론과 정상 과정⁠(stationary process)⁠의 예측 이론을 발표하다
• 1954년 암스테르담 국제수학자대회에서 뒷날 KAM 이론이 될 정리를 발표하다
• 1957년 아르놀트와 함께 힐베르트의 13번 문제에 답하다
• 1958년 동역학계의 엔트로피를 정의하다
• 1963년 모스크바 대학 부설 영재 기숙학교를 세우다
• 1965년 문자열의 복잡도를 가장 짧은 프로그램의 길이로 정의하다