에드워드 로렌츠(Edward Lorenz)

에드워드 로렌츠는 1917년 미국 코네티컷주 웨스트하트퍼드에서 태어났습니다. 다트머스 칼리지와 하버드 대학에서 수학을 공부해 수학자가 되려던 그는 2차 세계대전 때 미 육군 항공대의 기상 예보관으로 일하면서 기상학으로 길을 바꾸었고, 전쟁 뒤 MIT에서 박사 학위를 받고 그곳의 기상학 교수가 되었습니다. 그 무렵 과학자들은 날씨도 행성의 궤도⁠(orbit)⁠처럼 계산할 수 있으리라 기대했습니다. 현재를 정확히 알면 미래가 정해진다는 라플라스의 결정론⁠(determinism)⁠에, 1950년 프린스턴 고등연구소의 폰 노이만이 이끈 연구진이 ENIAC으로 처음 성공한 수치 예보⁠(numerical weather prediction)⁠가 힘을 보탰습니다. 남은 일은 관측을 촘촘히 하고 컴퓨터를 빠르게 하는 것뿐인 듯했습니다.

나이 세 ·

수치 예보의 꿈은 로렌츠보다 오래되었습니다. 1차 세계대전 중 영국의 루이스 프라이 리처드슨은 프랑스 전선의 구급차 부대에서 쉬는 틈에 대기의 방정식을 손으로 풀어 6시간 예보를 계산했지만, 결과는 6시간 만에 기압이 145헥토파스칼 오른다는 터무니없는 값이었습니다. 1922년 책에서 그는 6만 4천 명의 계산원이 커다란 강당에 모여 지휘자의 신호에 맞춰 계산하는 '예보 공장'을 꿈꾸었습니다. 그 꿈을 컴퓨터가 이었습니다. 폰 노이만은 전쟁 뒤 날씨를 컴퓨터가 풀어야 할 대표적인 문제로 골랐고, 기상학자 쥘 차니는 방정식에서 예보에 필요 없는 빠른 파동을 걸러 내는 방법을 찾았습니다. 1950년 ENIAC의 24시간 예보에는 거의 하루가 걸렸지만, 1954–55년에는 스웨덴과 미국에서 컴퓨터 예보가 일상 업무가 되었습니다. 폰 노이만은 1955년의 글에서 언젠가 날씨를 조절할 수도 있으리라는 기대까지 내비쳤습니다.

로렌츠가 맡은 일은 이 흐름의 반대편, 통계적 예보였습니다. MIT의 통계⁠(statistics)⁠ 예보 연구 과제를 이끌던 그는 1956년 보고서에서, 수많은 관측 지점의 기압 자료를 서로 직교⁠(orthogonality)⁠하는 몇 개의 기본 패턴의 합으로 나누어 적는 '경험적 직교 함수⁠(empirical orthogonal function)⁠'를 기상학에 들여왔습니다. 여러 지점의 기압이 저마다 얼마나 흔들리고 둘씩 얼마나 함께 움직이는지를 모은 표(공분산 행렬⁠, covariance matrix⁠)의 고유벡터⁠(eigenvector)⁠를 찾는 이 방법은 통계학의 주성분 분석⁠(principal component analysis)⁠과 같은 것으로, 지금도 엘니뇨 같은 기후 패턴을 찾는 표준 도구입니다. 그 무렵에는 과거 자료에 선형으로 맞춘 통계 예보가 결국 방정식을 푸는 예보만큼 잘하리라는 견해가 있었고, 로렌츠는 이를 의심했습니다. 그것을 시험하려면 되풀이되지 않고 불규칙하게 움직이는 방정식의 해가 필요했습니다.

1950년대 말 로렌츠는 책상만 한 컴퓨터 로열 맥비 LGP-30에 변수 12개짜리 작은 날씨 모형을 넣고, 과거 자료에 직선을 맞추는 최소제곱 회귀⁠(least-squares regression)⁠ 같은 통계적 예보가 방정식을 푸는 예보만큼 잘할 수 있는지 시험하고 있었습니다. 그의 회고에 따르면 1961년 어느 날 그는 한 계산을 더 길게 보려고, 처음부터 다시 돌리는 대신 중간 결과를 출력지에서 옮겨 적어 입력했습니다. 컴퓨터 안에서는 소수점 아래 여섯째 자리까지 들고 다니던 값이 출력지에는 셋째 자리까지만 찍혀 있었습니다. 0.506127 대신 0.506. 커피를 마시고 한 시간쯤 뒤 돌아와 보니 새 계산은 처음 계산과 전혀 다른 날씨를 그리고 있었습니다. 처음에는 진공관 고장을 의심했지만 원인은 모형 자신에 있었습니다. 처음의 작은 차이가 시간이 갈수록 불어나 결국 모든 것을 바꾼 것입니다.

그는 이 현상을 더 단순한 방정식에서 확인하고 싶었습니다. 동료 배리 솔츠먼이 아래에서 데우고 위에서 식히는 유체층의 대류를 일곱 변수로 줄인 모형에서, 네 변수는 곧 0으로 가라앉고 세 변수만 불규칙하게 계속 움직이는 해를 보고, 로렌츠는 대류 방정식을 푸리에 급수⁠(Fourier series)⁠로 풀어 쓴 뒤 세 항만 남겼습니다. x는 대류가 도는 세기, y는 오르는 흐름과 내리는 흐름 사이의 온도 차, z는 위아래 온도 분포가 곧은 직선에서 벗어난 정도이고, 방정식은 $\dot x = \sigma(y - x),\ \dot y = x(\rho - z) - y,\ \dot z = xy - \beta z$입니다(점은 시간에 대한 변화율). 지금의 (x, y, z)가 바로 다음 순간의 변화를 정하니, 정해진 규칙에 따라 상태가 시간과 함께 변하는 동역학계⁠(dynamical system)⁠입니다. $\sigma = 10$, $\beta = 8/3$, $\rho = 28$으로 두면 거의 모든 출발점에서 해는 멀리 달아나지도, 한 점에 멈추지도, 같은 길을 되풀이하지도 않고 두 고리 둘레를 불규칙하게 번갈아 돕니다. 작은 부피 조각은 시간 1마다 $e^{-(\sigma + 1 + \beta)}$배로 줄어드는데(행렬식⁠(determinant)⁠이 재는 부피 변화의 이야기입니다) 해는 서로 교차하지 않고 끝없이 새 길을 내야 하니, 해가 머무는 곳은 무한히 포개진 곡면, 곧 로렌츠 끌개⁠(Lorenz attractor)⁠가 됩니다. 끌개⁠(attractor)⁠란 어디서 출발한 해든 결국 빨려 들어가 그 둘레를 떠도는 곳을 말합니다. 끌개를 가로로 자르면 칸토어 집합⁠(Cantor set)⁠을 닮은 점들이 나옵니다.

1963년 논문 「결정론적 비주기 흐름」에서 로렌츠는 한 가지 영리한 그림을 더 그렸습니다. z가 봉우리에 오를 때마다 그 높이를 적고, 한 봉우리의 높이를 가로축에, 다음 봉우리의 높이를 세로축에 찍은 것입니다. 점들은 뾰족한 산 모양의 곡선 하나 위에 놓였고, 그 곡선의 기울기⁠(slope)⁠는 어디서나 1보다 가팔라서 작은 차이가 봉우리마다 커졌습니다. 세 변수의 복잡한 흐름이 한 변수의 되풀이 사상으로 줄어든 이 그림은 1970년대의 로지스틱 사상⁠(logistic map)⁠과 분기⁠(bifurcation)⁠ 연구를 예고했습니다.

이 민감성에는 셈이 있습니다. 처음 차이 δ는 그것이 작은 동안 평균적으로 $\delta\,e^{\lambda t}$로 자라므로(지수함수⁠, exponential function⁠), 오차가 허용 한계에 이르는 시간은 처음 정밀도⁠(precision)⁠의 로그에 비례합니다. 관측을 열 배 정밀하게 해도 예보 기간은 $\ln 10/\lambda$만큼, 일정한 몫씩만 늘어납니다. 로렌츠 방정식에서는 $\lambda \approx 0.91$입니다. 이 λ, 곧 랴푸노프 지수⁠(Lyapunov exponent)⁠는 해를 따라가며 그 둘레에서 방정식을 선형화⁠(linearization)⁠해 잽니다. 1969년 로렌츠는 실제 대기에서는 작은 규모의 오차가 더 빨리 자라 큰 규모로 번지기 때문에, 관측을 아무리 좋게 해도 넘을 수 없는 예측의 한계가 있으리라고 논했습니다. 이 논문에서 그는 콜모고로프의 난류⁠(turbulence)⁠ 이론이 주는 에너지 분포를 받아들여, 작은 소용돌이의 오차가 차례로 더 큰 소용돌이로 옮겨 가는 데 걸리는 시간을 더해 보았습니다. 그 한계는 흔히 2주 안팎으로 어림됩니다. 오늘날의 기상청은 이 한계를 받아들여, 조금씩 다른 출발점에서 여러 번 계산하는 앙상블 예보⁠(ensemble forecasting)⁠로 날씨를 확률⁠(probability)⁠로 말합니다(몬테카를로 방법⁠(Monte Carlo method)⁠).

「결정론적 비주기 흐름」은 기상학 학술지에 실렸고, 처음 10년 가까이 수학자와 물리학자는 이 논문을 거의 몰랐습니다. 1970년대 초 메릴랜드 대학의 수학자 제임스 요크가 동료 기상학자에게서 이 논문을 받아 읽고 버클리의 수학자 스티븐 스메일에게 보내면서 사정이 바뀌었습니다. 1971년 물리학자 다비드 뤼엘과 수학자 플로리스 타컨스는 난류가 시작되는 곳에 '기이한 끌개', 곧 로렌츠 끌개처럼 한없이 포개진 모양이면서 그 위의 해들이 서로 빠르게 멀어지는 끌개가 있다고 제안했고, 1975년 요크와 그의 학생 리톈옌은 '혼돈'이라는 이름을 붙였으며, 1976년 로버트 메이는 생태학의 개체 수 모형에서 같은 현상을 정리했습니다. 로렌츠의 끌개가 컴퓨터 그림 속에서만이 아니라 수학적으로도 정말 기이한 끌개인지는 오랫동안 증명되지 않아, 1998년 스메일이 21세기의 수학 문제 목록에 넣었습니다. 1999년 수학자 워릭 터커가 반올림 오차⁠(round-off error)⁠까지 엄밀하게 통제한 컴퓨터 증명으로 답했습니다. 반올림에서 시작된 이야기가 반올림을 엄밀하게 다루는 증명으로 끝난 셈입니다(근사와 오차).

'나비 효과⁠(butterfly effect)⁠'라는 말은 나중에 붙었습니다. 1963년 무렵 로렌츠는 갈매기의 날갯짓 한 번이 날씨의 경로를 바꿀 수 있다는 비유를 썼습니다. 1972년 12월 워싱턴에서 열린 미국과학진흥협회 총회에서 그의 발표 제목은 「예측 가능성: 브라질에서 나비 한 마리가 날갯짓하면 텍사스에 토네이도가 일어나는가?」였는데, 그의 회고에 따르면 제목을 제때 내지 못해 사회자 필립 메릴리스가 붙인 것입니다. 로렌츠 자신은 이 비유에 조심스러워서, 날갯짓 한 번이 토네이도를 일으키는 데 한몫할 수 있다면 막는 데에도 똑같이 한몫할 수 있다고 덧붙였습니다. 요점은 나비가 폭풍을 만든다는 것이 아니라, 그렇게 작은 차이까지 알지 못하면 먼 앞날은 알 수 없다는 것입니다. 이 말은 1987년 제임스 글릭의 책 『카오스』가 널리 읽히면서 대중문화의 말이 되었습니다.

로렌츠의 결론은 기상학의 실무를 바꾸었습니다. 1992년 12월 유럽 중기 예보 센터와 미국 국립 기상청은 조금씩 다른 초기 조건에서 수십 번 계산해 그 퍼짐으로 불확실성을 재는 앙상블 예보를 정식 업무로 시작했습니다. 로렌츠 자신도 말년까지 예측 가능성을 연구했고, 1990년대에 내놓은 원 둘레에 놓인 변수 수십 개짜리 모형은 '로렌츠 96'이라 불리며 관측을 모형에 녹여 넣는 자료 동화⁠(data assimilation)⁠와 예보 방법을 시험하는 표준 모형으로 쓰입니다. 그는 날씨 하나하나의 예측에는 한계가 있어도, 기후처럼 오랜 기간의 통계는 따로 물을 수 있다는 점도 강조했습니다. 1983년 크래퍼드상, 1991년 교토상을 받았고, 말년까지 연구를 이어 가다 2008년 세상을 떠났습니다.

이어지는 곳. 방정식에 우연이 한 방울도 없는데도 예측할 수 없다는 것, 곧 결정론과 예측 가능성이 다르다는 것이 혼돈의 핵심입니다. 70년 앞서 푸앵카레는 세 천체가 서로 끌어당기며 움직이는 삼체 문제⁠(three-body problem)⁠에서 처음의 작은 차이가 궤도를 크게 바꿀 수 있음을 보았습니다. 로렌츠 방정식을 낳은 대류는 열이 퍼지는 열방정식⁠(heat equation)⁠과 유체의 운동 방정식에서 왔고, 계수가 상수인 선형 미분방정식⁠(linear differential equation)⁠에서는 이런 일이 일어나지 않습니다. 선형 방정식에서는 두 해의 차이도 또 하나의 해여서 해와 똑같이 지수함수와 사인파⁠(sinusoid)⁠의 합으로 움직입니다. 그러니 차이가 불어나면 해 자신도 함께 달아나고, 해가 유계인 채 차이만 불어나는 일은 없기 때문입니다. 로렌츠가 봉우리 높이로 만든 것 같은 되풀이 사상을 복소수⁠(complex number)⁠로 옮겨 $z \mapsto z^2 + c$를 0에서 출발해 되풀이할 때, 달아나지 않고 남는 c들을 그리면 망델브로 집합⁠(Mandelbrot set)⁠이 나타납니다.

관계.

• 영향을 받음 존 폰 노이만 — 폰 노이만이 이끈 프린스턴의 수치 예보 계획이 로렌츠 세대 기상학의 출발점이었고, 로렌츠의 연구는 관측과 계산만 좋아지면 예보를 얼마든지 멀리 할 수 있으리라는 그 계획의 기대에 한계를 그었습니다.
• 영향을 받음 안드레이 콜모고로프 — 1969년 예측 가능성 논문에서 로렌츠는 콜모고로프의 1941년 난류 이론이 주는 에너지 분포를 받아들여, 작은 규모의 오차가 큰 규모로 번지는 시간을 셈했습니다.
• 영향을 받음 앙리 푸앵카레 — 로렌츠는 뒤에 쓴 글에서, 푸앵카레가 세 천체 문제에서 이미 처음의 작은 차이가 궤도를 크게 바꿀 수 있음을 보았다는 점을 자기 발견의 선구로 들었습니다.

연표.

• 1938년 다트머스 칼리지에서 수학을 공부하고 졸업하다
• 1940년 하버드 대학에서 수학 석사 학위를 받다
• 1943년 MIT에서 기상학을 공부하고 미 육군 항공대의 기상 예보관으로 일하다
• 1948년 MIT에서 기상학 박사 학위를 받다
• 1956년 경험적 직교 함수를 기상학에 들여오다
• 1961년 반올림한 값으로 계산을 다시 돌렸다가 전혀 다른 날씨를 얻다
• 1963년 「결정론적 비주기 흐름」을 발표하다
• 1969년 대기의 예측 가능성에 넘을 수 없는 한계가 있다고 논하다
• 1972년 '브라질 나비의 날갯짓' 강연을 하다
• 1983년 크래퍼드상을 받다
• 1991년 교토상을 받다