나비의 날갯짓

방정식이 정해져 있으면 미래도 정해질까요? 소수점 아래 몇 자리를 버린 계산 하나가 날씨 예보의 한계를 드러냈습니다.

이 글의 처럼 점선이 그어진 숫자는 좌우로 끌 수 있고(키보드 ←/→도 됩니다), 밑줄 친 말에 마우스를 올리면 그림에서 그 부분이 빛납니다. 노란 점은 그림 안에서 직접 끌 수 있고, 입체 그림은 끌어서 돌려 볼 수 있습니다. 휴대폰에서는 마우스를 올리는 대신 누르면 됩니다.

일기 예보는 "내일 강수 확률⁠(probability)⁠ 30%"라고 말합니다. 곰곰이 생각하면 이상한 말입니다. 대기는 공기와 수증기로 이루어져 있고, 그 움직임은 뉴턴의 운동 법칙과 열의 법칙을 따릅니다. 하늘에는 주사위가 없습니다. 법칙이 정해져 있다면 내일도 이미 정해져 있어야 하고, 충분히 큰 컴퓨터만 있으면 그 내일을 계산해 낼 수 있어야 하지 않을까요?

이 글은 그 기대가 어디서 왔고 어디서 무너졌는지를 따라갑니다. 기대를 무너뜨린 것은 새로운 물리 법칙이 아니었습니다. 전해지는 이야기에 따르면 1961년 겨울 어느 날, MIT의 기상학자 에드워드 로렌츠가 계산을 다시 돌리려고 입력한 숫자 하나였습니다. 컴퓨터 안에 있던 0.506127 대신, 출력지에 찍힌 0.506을 친 것입니다.

1 · 모든 것을 아는 지성결정론⁠(determinism)⁠의 꿈

이 절의 물음은 이것입니다. '법칙과 지금을 알면 미래를 계산할 수 있다'는 믿음은 어디서 왔고, 무엇이 그 믿음을 그토록 그럴듯하게 만들었을까?

꿈은 성공에서 시작되었습니다. 1687년 뉴턴은 『프린키피아』에서 태양과 행성 두 물체만 있으면 행성의 길이 정확히 타원⁠(ellipse)⁠이 된다는 것을 보였습니다. 운동 법칙은 미분⁠(differentiation)⁠의 언어로 적힙니다. 미분은 어떤 양이 변하는 빠르기를 구하는 계산이고, 위치가 변하는 빠르기가 속도⁠(velocity)⁠, 속도가 변하는 빠르기가 가속도입니다. 뉴턴의 법칙은 '지금 받는 힘이 가속도를 정한다'고 말합니다. 그래서 지금의 위치와 속도를 알면 바로 다음 순간의 위치와 속도가 정해지고, 그것이 또 다음 순간을 정합니다. 던진 공이라면 지금의 높이와 속도, 그리고 중력이 한순간 뒤의 높이와 속도를 정합니다. 이렇게 변하는 빠르기로 적힌 규칙을 미분방정식⁠(differential equation)⁠이라고 부릅니다. 규칙과 출발점이 주어지면 미래 전체가 한 줄로 이어져 나옵니다. 규칙이 충분히 매끄러우면 출발점 하나에서 나오는 해가 정확히 하나뿐이라는 사실은 19세기에 코시와 립시츠가 증명했습니다. 이렇게 지금의 상태가 정해진 규칙에 따라 다음 상태를 정하며 시간이 흘러가는 체계를 동역학계⁠(dynamical system)⁠라고 부릅니다.

예측은 잘 맞았습니다. 가장 극적인 시험대는 혜성이었습니다. 영국의 천문학자 핼리는 1682년의 혜성이 옛 기록 속 혜성들과 같은 천체라고 보고 1758년 무렵의 귀환을 예언했습니다. 프랑스의 수학자 클레로는 목성과 토성의 끌어당김까지 계산에 넣어 근일점⁠(perihelion)⁠, 곧 태양에 가장 가까워지는 지점을 지나는 때를 1759년 4월 무렵으로 내다보았습니다. 이 예측은 사람의 손으로 한 거대한 계산이었습니다. 클레로는 천문학자 랄랑드, 니콜레인 르포트와 일을 나누어, 목성과 토성이 혜성을 끌어당기는 효과를 150년 치에 걸쳐 한 단계씩 더해 나갔습니다. 랄랑드는 여섯 달 동안 아침부터 밤까지, 때로는 밥을 먹으면서도 계산했다고 회고했습니다. 여러 사람이 계산을 나누어 맡는 이 방식은 3절에서 볼 리처드슨의 '예보 공장'의 먼 조상입니다. 혜성을 처음 다시 본 사람은 1758년 성탄절 밤 작센의 농부이자 아마추어 천문가 요한 팔리치였고, 혜성은 예측보다 한 달쯤 이른 3월에 근일점을 지났습니다.

그 뒤로도 하늘은 계산을 배신하지 않았습니다. 1801년 가우스가 몇 주 치 관측만으로 사라진 소행성 세레스의 궤도⁠(orbit)⁠를 되찾은 이야기는 「잃어버린 소행성」에 있습니다. 하늘은 시계처럼 보였습니다.

어느 한순간 자연을 움직이는 모든 힘과 자연을 이루는 모든 존재의 상황을 알고, 나아가 그 자료를 분석할 만큼 넓은 지성이 있다면, 그 지성은 우주의 가장 큰 천체들의 운동과 가장 가벼운 원자의 운동을 한 공식에 담을 것이다. 그에게 불확실한 것은 아무것도 없고, 미래도 과거처럼 그의 눈앞에 있을 것이다.— 피에르시몽 라플라스, 『확률에 관한 철학적 시론』(1814)

훗날 '라플라스의 악마⁠(Laplace's demon)⁠'라고 불리게 된 이 지성은 계몽주의가 품은 이상을 한 문장에 담고 있습니다. 세계는 법칙을 따르고, 법칙과 현재를 알면 이성은 모든 것을 계산할 수 있다는 믿음입니다. 이 문장이 실린 곳은 확률 책의 서문입니다. 라플라스에게 우연은 세계가 아니라 우리의 무지에 있었고, 확률은 모르는 만큼을 셈하는 도구였습니다. 이 생각이 확률론에서 어떤 자리를 차지했는지는 「도박판에서 온 편지」에서 이어집니다.

정리하면, 결정론의 꿈은 두 가지 믿음으로 이루어져 있었습니다. 법칙과 현재가 미래를 하나로 정한다는 것, 그리고 정해져 있으면 계산할 수 있다는 것입니다. 이 글은 규칙이 완전히 결정론적이어도 뒤의 믿음은 무너질 수 있다는 것을 봅니다.

결정론의 꿈에는 신학의 그림자도 있었습니다. 뉴턴은 행성들이 서로 끌어당기며 생기는 어긋남이 쌓이면 태양계가 흐트러질 수 있고, 신이 이따금 바로잡아야 한다는 생각을 내비쳤습니다. 라이프니츠는 이를 비꼬았습니다. 1715년 무렵 뉴턴의 편에 선 영국의 신학자 새뮤얼 클라크와 주고받은 편지에서, 신이 태엽을 때때로 다시 감아 주어야 하는 시계를 만들었다면 솜씨가 서툰 시계공이라고 한 것입니다. 이 논쟁에 계산으로 답한 것은 라그랑주와 라플라스였습니다. 두 사람은 18세기 후반, 행성 궤도의 느린 변화가 한없이 쌓이지 않고 주기적으로 오르내린다는 계산을 내놓았습니다. 다만 이것은 작은 항을 버린 근사 계산의 결론이었습니다. 1989년 프랑스의 천문학자 자크 라스카르는 컴퓨터 계산으로, 행성 궤도 자체가 수백만 년 규모에서는 혼돈적이라는 것을 보였습니다. 라플라스가 『천체역학⁠(celestial mechanics)⁠』을 두고 나폴레옹에게 "저는 그런 가설이 필요하지 않았습니다"라고 답했다는 유명한 일화는 전해지는 이야기일 뿐, 확실한 기록은 없습니다.

2 · 스톡홀름의 현상 공모셋은 풀리지 않는다

이 절의 물음은 이것입니다. 물체가 둘에서 셋으로 늘면 무엇이 달라지고, 그 어려움 속에서 처음 드러난 '처음 조건에 민감하다'는 현상은 무엇일까?

물체가 두 개일 때의 성공은 세 개가 되자 멈추었습니다. 태양, 지구, 달처럼 세 물체가 서로 끌어당기면 궤도를 하나의 공식으로 적을 수 없었습니다. 이것이 삼체 문제⁠(three-body problem)⁠입니다. 세 물체가 한 직선을 이룬 채 함께 도는 특별한 해는 1767년 오일러가, 정삼각형을 이룬 채 도는 해는 1772년 베를린에 있던 라그랑주가 찾았지만, 일반적인 풀이는 아니었습니다. 19세기 천문학자들은 작은 보정 항을 끝없이 덧붙이는 급수(1 + 1/2 + 1/4 + …처럼 끝없이 더해 가는 합)로 달의 운동을 따라갔고, 프랑스의 천문학자 샤를 들로네는 이 계산에 20년 가까이를 바쳤습니다. 급수⁠(series)⁠가 정말 한 값으로 모이는지, 곧 극한⁠(limit)⁠이 있는지는 아무도 몰랐습니다. 1 + 1/2 + 1/4 + …는 더할수록 2에 한없이 다가가지만(이것을 '수렴⁠(convergence)⁠한다'고 합니다), 1 + 1/2 + 1/3 + 1/4 + …는 아주 느리게나마 한없이 커집니다. 항이 작아진다고 해서 합이 모인다는 보장은 없습니다.

1885년 스웨덴·노르웨이의 왕 오스카르 2세는 수학자 미타그레플레르의 제안으로 현상 문제를 걸었습니다. 1889년 1월 자신의 60세 생일에 맞춰 상을 주기⁠(period)⁠로 한 문제들 가운데 첫째가, 여러 물체가 서로 끌어당기는 운동의 해를 모든 시간에 대해 수렴하는 급수로 나타내라는 것이었습니다.

이 공모에는 수학 바깥의 뜻도 있었습니다. 미타그레플레르가 1882년 스톡홀름에서 창간한 학술지 『악타 마테마티카』는 1870–71년 전쟁 뒤 서로 날이 서 있던 프랑스와 독일 수학자들의 논문을 함께 싣는 곳이었습니다. 심사위원도 베를린의 카를 바이어슈트라스와 파리의 샤를 에르미트, 그리고 미타그레플레르였습니다. 북유럽의 작은 수도가 두 나라 사이의 중립지대 노릇을 한 셈입니다.

상은 파리의 서른네 살 수학자 앙리 푸앵카레에게 돌아갔습니다. 그는 문제를 완전히 풀지는 못했지만, 궤도를 공식 대신 모양으로 다루는 새 방법을 내놓았습니다. 그런데 논문이 인쇄되는 동안 편집을 맡은 스웨덴의 젊은 수학자 라르스 에드바르드 프라그멘이 몇 군데를 묻자, 푸앵카레는 1889년 말 훨씬 깊은 오류를 스스로 찾아냈습니다. 이미 인쇄된 호는 회수되어 폐기되었고, 연구자들에 따르면 푸앵카레는 다시 찍는 비용으로 상금보다 많은 돈을 물었습니다. 1890년에 실린 고쳐 쓴 논문은 처음과 정반대의 이야기를 하고 있었습니다. 첫 판의 어디가 틀렸고 그 오류가 어떻게 새 분야가 되었는지는 「틀린 증명이 만든 수학」에 더 자세히 있습니다.

그가 본 것은 이렇습니다. 언덕 꼭대기에 올려 둔 공처럼 조금만 비껴도 떠나 버리는 불안정한 궤도가 있습니다. 그 궤도 가까이에는 시간이 지날수록 그 궤도로 점점 다가가는 운동들의 길과, 그 궤도에서 점점 멀어지는 운동들의 길이 있습니다. 푸앵카레는 처음에 이 두 무리의 길이 매끄럽게 한 면으로 이어지리라고 여겼습니다. 그러나 실제로는 두 길이 비스듬히 엇갈렸고, 한 번 엇갈리면 무한히 여러 번 엇갈리며 촘촘한 그물처럼 뒤엉켰습니다. 그 그물 근처에서 출발한 궤도는 처음 위치가 아주 조금만 달라도 전혀 다른 길로 갑니다. 푸앵카레는 1899년의 『천체역학의 새로운 방법』에서 이 그물을 두고 "이 그림의 복잡함에 놀랄 것이다. 나는 그것을 그려 보려 하지도 않겠다"라고 썼습니다. 오늘날 혼돈⁠(chaos)⁠이라고 부르는 현상을 처음 들여다본 순간으로 꼽힙니다.

비슷한 발견은 한 번 더 있었습니다. 1898년 파리의 수학자 자크 아다마르는 말안장처럼 음으로 휜 곡면 위에서 좌우로 꺾지 않고 곧게 가는 길, 곧 측지선⁠(geodesic)⁠을 따라가는 운동을 연구했습니다. 가우스 곡률⁠(Gaussian curvature)⁠이 음수인 곡면에서는 처음 방향이 아주 조금만 달라도 두 측지선이 빠르게 벌어집니다. 평행선이 무수히 많은 쌍곡기하⁠(hyperbolic geometry)⁠의 세계와 같은 성질입니다(「평행선의 반란」). 보르도의 물리학자이자 과학철학자 뒤엠은 1906년 『물리 이론의 목적과 구조』에서 이 결과를 들어, 초기 조건을 아무리 정밀하게 재도 물리학자에게 쓸모가 없는 수학적 연역이 있다고 지적했습니다. 측정에는 언제나 오차가 있기 때문입니다.

우리가 알아차리지 못할 만큼 아주 작은 원인이, 우리가 보지 않을 수 없는 상당한 결과를 정할 때가 있다. 그러면 우리는 그 결과가 우연 때문이라고 말한다. (…) 처음 조건의 작은 차이가 마지막 현상에서 아주 큰 차이를 낳는 일이 생길 수 있다. (…) 예측은 불가능해진다.— 앙리 푸앵카레, 『과학과 방법』(1908), '우연' 장

푸앵카레는 같은 글에서 기상학자들이 날씨를 확실하게 예측하기 어려워하는 까닭을 예로 들었습니다. 그러나 이 통찰은 반세기 넘게 잠들어 있었습니다. 뒤엉킨 궤도를 실제로 따라가 볼 계산 수단이 없었고, 20세기 초 물리학의 관심은 상대성 이론과 양자역학으로 옮겨 갔기 때문입니다.

정리하면, 푸앵카레와 아다마르는 처음 위치나 방향이 아주 조금만 달라도 전혀 다른 길로 가는 운동이 있다는 것을 보였습니다. 방정식은 정해져 있어도, 처음 조건을 무한히 정확히 알지 못하면 먼 미래는 알 수 없습니다.

현상 공모의 질문 자체에는 뒤늦게 답이 나왔습니다. 1907년부터 1912년 사이 핀란드의 천문학자 카를 순드만은, 세 물체가 한꺼번에 한 점에서 부딪치는 경우만 빼면 삼체 문제의 해를 모든 시간에 대해 수렴하는 급수로 쓸 수 있음을 증명했습니다. 푸앵카레가 불가능하리라 여긴 종류의 결과였습니다. 그러나 그 급수는 너무 느리게 수렴해서 실제 궤도를 계산하는 데 쓸 수 없었고, 운동이 어떤 모양인지도 알려 주지 않았습니다. 해를 공식으로 '쓸 수 있다'는 것과 그 공식으로 미래를 '알 수 있다'는 것은 다른 일입니다. 이 글 전체를 꿰는 교훈이 여기서도 보입니다.

3 · 날씨를 계산하다폭풍 경보에서 ENIAC까지

이 절의 물음은 이것입니다. 날씨를 눈대중이 아니라 물리 법칙으로 계산하겠다는 생각은 어떻게 나왔고, 그것을 실제로 해내기까지 무엇이 필요했을까?

날씨 예보는 바다에서 시작되었습니다. 1854년 영국 무역위원회에 해상 기상 자료를 모으는 부서가 생겼고, 책임자는 20여 년 전 다윈을 태우고 세계를 돈 비글호의 함장 로버트 피츠로이였습니다. 1859년 10월 폭풍이 영국을 휩쓸었고, 오스트레일리아에서 돌아오던 증기범선 로열차터호가 웨일스 앵글시 앞바다에서 부서져 수백 명이 목숨을 잃었습니다. 해운으로 먹고사는 제국에 폭풍은 곧 돈과 목숨이었습니다.

피츠로이의 무기는 새 기술인 전신이었습니다. 그는 해안 관측소들의 기압과 바람을 전신으로 런던에 모아 한 장의 지도에 그렸습니다. 1861년 2월에는 폭풍 경보를 내기 시작했고, 8월부터는 『타임스』에 다음 날 날씨를 실었습니다. '예보'라는 영어 낱말도 그가 붙인 것으로 알려져 있습니다.

전신은 날씨 지도에 '지금'을 주었습니다. 날씨를 재는 관측망은 그 전에도 있었습니다. 조선의 세종은 1441년 비의 양을 재는 그릇인 측우기를 만들게 하고, 이듬해 규격을 정해 각 도의 관아마다 같은 그릇을 두게 했습니다. 땅을 파서 빗물이 얼마나 스몄는지 보던 어림을 같은 그릇의 눈금으로 바꾸어 농사를 살피려는 것이었습니다. 그러나 소식이 사람과 말의 걸음으로 오가는 한, 이런 기록은 지나간 비를 헤아리는 데 쓰일 뿐 다가오는 비를 내다보는 데에는 쓰일 수 없었습니다. 소식이 비구름보다 느렸기 때문입니다. 전신이 처음으로, 멀리 떨어진 곳들의 같은 시각 상태를 한 장에 모을 수 있게 했습니다. 하지만 지도에서 내일을 읽는 일은 경험과 눈대중에 기댔고, 빗나간 예보는 거센 비판을 받았습니다. 피츠로이는 1865년 스스로 목숨을 끊었고, 예보는 그가 죽은 뒤 한동안 중단되었습니다.

예보를 물리학의 문제로 바꾼 사람은 노르웨이의 물리학자이자 기상학자 빌헬름 비에르크네스였습니다. 스톡홀름에서 가르치던 그는 1904년 논문에서 두 가지를 알면 날씨를 계산할 수 있다고 선언했습니다. 어느 한 시각의 대기 상태를 충분히 정확히 아는 것, 그리고 그 상태가 변해 가는 법칙을 아는 것입니다. 날씨 예보를 초기값 문제⁠(initial value problem)⁠, 곧 처음 상태와 변화의 규칙이 주어졌을 때 그 뒤의 상태를 구하는 문제로 본 것입니다. 이 글 4절과 5절에서 계산해 볼 문제가 바로 이 초기값 문제입니다.

전쟁은 이 연구에 뜻밖의 기회가 되었습니다. 1차 세계대전 동안 중립국 노르웨이의 베르겐으로 옮겨 간 그의 연구진은 외국 관측 자료가 끊기자 나라 안에 촘촘한 관측망을 깔았고, 찬 공기와 더운 공기가 맞서는 경계를 찾아냈습니다. 그 경계를 '전선'이라고 부른 것은 참호전의 전선에서 따온 말이라고 흔히 전해집니다.

법칙에서 날씨를 정말 계산해 본 첫 사람은 영국의 루이스 프라이 리처드슨이었습니다. 퀘이커 교도(평화주의를 중시하는 개신교의 한 갈래)이자 양심적 병역 거부자였던 그는 전쟁 중 프랑스 전선의 구급차 부대에서 일하며, 쉬는 틈에 1910년 5월 20일 아침의 관측값에서 출발하는 6시간 예보를 손으로 계산했습니다. 대기를 격자로 나누고, 각 칸의 값이 짧은 시간 동안 얼마나 변하는지를 미분방정식에서 구해 차례로 더해 나가는 방법입니다.

결과는 참담했습니다. 계산에는 6주 가까이 걸렸다고 그는 적었고, 나온 값은 6시간 동안 기압이 145헥토파스칼 오른다는 터무니없는 값이었습니다. 해수면 기압이 보통 1,000헥토파스칼 안팎이니, 반나절도 안 되어 14%쯤 치솟는 셈입니다. 실제 기압은 거의 변하지 않았습니다. 훗날의 재분석에 따르면 방법보다는 출발 자료의 작은 불균형이 문제였습니다.

1922년 케임브리지 대학 출판부에서 나온 책 『수치 과정에 의한 날씨 예측』에서 리처드슨은 실패를 숨기지 않았고, 한 가지 꿈을 덧붙였습니다. 커다란 극장 같은 강당에 6만 4천 명의 계산원이 지구의 각 구역을 맡아 앉고, 가운데 단 위의 지휘자가 불빛으로 빠른 곳은 늦추고 늦은 곳은 재촉하는 '예보 공장'입니다. 그는 먼 훗날 언젠가는 계산이 날씨보다 빨리 나아가게 될지도 모른다고 하면서도, "그것은 꿈이다"라고 적었습니다.

리처드슨은 1920년 기상청이 공군성 소속이 되자 기상청을 떠났다고 알려져 있습니다. 그 뒤로는 전쟁의 원인을 수학으로 연구했고, 나라 사이 국경의 길이를 재다가 자의 길이에 따라 값이 달라진다는 것을 알아챘습니다. 이 관찰은 나중에 수학자 브누아 망델브로의 프랙털⁠(fractal)⁠ 연구로 이어집니다(「재는 순간 바뀐다」). 프랙털은 어느 부분을 확대해도 전체와 비슷한 복잡한 모양이 다시 나타나는 도형입니다.

꿈은 30년 뒤 기계가 이루었습니다. 프린스턴 고등연구소의 존 폰 노이만은 날씨를 전자식 컴퓨터가 풀어야 할 대표 문제로 보았고, 기상학자 줄 차니는 리처드슨을 괴롭힌 빠른 파동을 걸러 낸 단순한 방정식을 만들었습니다. 1950년 봄, 그들은 메릴랜드의 육군 애버딘 성능시험장에 있던 ENIAC으로 24시간 예보를 계산했습니다. 계산 자체에도 거의 하루가 걸렸다고 합니다.

그 뒤로 일은 빠르게 커졌습니다. 몇 해 뒤 스톡홀름과 미국에서 날마다 수치 예보⁠(numerical weather prediction)⁠를 내기 시작했습니다. 냉전의 군과 정부는 이 기술에 큰돈을 댔고, 날씨를 예측하는 것을 넘어 조종할 수 있으리라는 기대까지 오갔습니다. 라플라스의 악마가 이제 진공관으로 만들어지고 있었습니다.

예측의 무대. 파리와 스톡홀름을 오간 푸앵카레의 논문, 스톡홀름에서 베르겐까지 비에르크네스가 옮겨 다닌 길, 스코틀랜드의 관측소에서 프랑스 전선으로 간 리처드슨의 계산, 대서양을 건너 프린스턴·애버딘·MIT로 간 수치 예보와 로렌츠의 강연을 보세요. 지명에 마우스를 올리면 그곳에서 일어난 일이 나옵니다.

4 · 소수점 셋째 자리반올림 한 번

이 절의 물음은 이것입니다. 출발점의 아주 작은 차이는 계산이 진행되면서 얼마나 빨리 커지고, 그래서 정밀도⁠(precision)⁠를 높이면 예측할 수 있는 시간은 얼마나 늘어날까?

에드워드 로렌츠는 2차 세계대전 때 미 육군 항공대의 기상 예보관으로 일했고, 전쟁 뒤 MIT에서 기상학자가 되었습니다. 1950년대 말 그는 책상만 한 컴퓨터 로열 맥비 LGP-30에 변수 12개짜리 작은 날씨 모형을 넣고 돌렸습니다. 과거 자료에 직선을 맞추는 최소제곱 회귀⁠(least-squares regression)⁠ 같은 통계적 예보가 방정식을 푸는 예보만큼 잘할 수 있는지를 시험하려던 것입니다.

그의 회고와 과학 저술가 제임스 글릭의 『카오스』(1987)가 전하는 이야기는 이렇습니다. 어느 날 로렌츠는 한 계산을 더 길게 보고 싶어서, 처음부터 다시 돌리는 대신 중간 결과를 출력지에서 옮겨 적어 입력했습니다. 컴퓨터 안에서는 소수점 아래 여섯째 자리까지 들고 다니던 값이 출력지에는 셋째 자리까지만 찍혀 있었습니다. 0.506127 대신 0.506. 천분의 일도 안 되는 차이가 무슨 문제가 되겠느냐고 생각한 그는 커피를 마시러 자리를 비웠고, 한 시간쯤 뒤 돌아와 보니 새 계산은 처음 계산과 전혀 다른 날씨를 그리고 있었습니다. 처음에는 진공관이 고장 났다고 의심했다고 합니다.

같은 실험을 해 봅시다. 로렌츠가 1963년에 발표한 더 작은 모형, 변수 세 개짜리 방정식(다음 절에서 봅니다)으로 재현합니다. 파란 선은 한 출발점에서 계산한 변수 x의 시간 변화입니다. 분홍 선은 같은 출발점을 소수점 아래 째 자리에서 반올림해 다시 계산한 것입니다. 아래 식은 출발점의 세 값 (x, y, z)를 반올림하기 전과 후로 보여 줍니다(…는 뒤에 자릿수가 더 있다는 표시입니다). 볼 것은 두 선이 언제 갈라지는지, 그리고 자릿수를 늘리면 그 시각이 얼마나 늦어지는지입니다.

두 선은 한동안 한 선처럼 겹쳐 있다가, 시각 쯤에서 갈라지기 시작하고, 그 뒤로는 서로 아무 관계도 없는 것처럼 움직입니다. 방정식은 같고, 컴퓨터도 같고, 출발점은 반올림 오차⁠(round-off error)⁠만큼만 다릅니다. 여기서 '갈라진다'는 두 계산의 거리가 1을 넘는 때로 정했고, 시각은 방정식 속의 시간 단위로 잽니다. 실제 시계의 몇 시간이나 며칠이 아니라 이 모형 안의 시간입니다.

여기에 이 글의 핵심이 있습니다. 출발점의 오차가 시간이 지날수록 일정한 비율로 곱해져 커지면, 오차는 지수함수⁠(exponential function)⁠처럼 자랍니다. 복리⁠(compound interest)⁠ 이자처럼, 일정한 시간마다 같은 배수⁠(multiple)⁠로 불어난다는 뜻입니다. 오차가 시간 1마다 2.5배가 된다면 시간 2 뒤에는 6.25배, 시간 4 뒤에는 약 39배, 시간 8 뒤에는 약 1,526배가 됩니다.

이것을 식으로 적어 봅시다. 처음 오차가 $\delta$('델타')이고 불어나는 빠르기가 $\lambda$('람다')라면 시간 $t$ 뒤의 오차는 대략 $\delta e^{\lambda t}$입니다. 여기서 e는 약 2.718인 수이고, $e^{\lambda t}$는 e를 λt제곱한 값입니다. λ ≈ 0.91이면 $e^{0.91} \approx 2.5$이니, 위의 '시간 1마다 2.5배'가 바로 이 경우입니다. 이 오차가 쓸모없을 만큼 큰 값 $\Delta$(대문자 델타)에 닿는 시각 T는 $\delta e^{\lambda T} = \Delta$를 풀면 나옵니다. 양변을 δ로 나누면 $e^{\lambda T} = \Delta/\delta$이고, 양변에 자연로그⁠(natural logarithm)⁠ ln('e를 몇 제곱해야 그 수가 되는가')을 취하면 $\lambda T = \ln(\Delta/\delta)$이므로

입니다. 수를 넣어 봅시다. λ = 0.91, Δ = 1일 때, 처음 오차가 0.001이면 T ≈ ln 1,000 ÷ 0.91 ≈ 6.91 ÷ 0.91 ≈ 7.6이고, 처음 오차가 0.000001(백만분의 1)이면 T ≈ ln 1,000,000 ÷ 0.91 ≈ 13.8 ÷ 0.91 ≈ 15.2입니다. 정밀도를 천 배 높였는데 예측할 수 있는 시간은 두 배가 되었을 뿐입니다. 예측할 수 있는 시간은 정밀도 자체가 아니라 정밀도의 로그에 비례합니다. 관측을 열 배 정밀하게 해도 예보 기간은 $\ln 10 / \lambda$만큼, 일정한 몫씩만 늘어납니다. 5절에서 잴 로렌츠 모형의 $\lambda \approx 0.91$이라면 그 몫은 약 2.5 시간 단위입니다. 백만 배 정밀하게 해도 그 몫의 여섯 배일 뿐입니다.

정리하면, 오차가 지수적으로 자라는 계에서는 정밀도를 아무리 높여도 예측할 수 있는 시간은 조금씩만 늘어납니다. 로렌츠의 반올림 한 번이 드러낸 것은 계산 실수가 아니라 이 한계였습니다.

로렌츠와 비슷한 때, 다른 곳에서도 혼돈은 얼굴을 내밀었습니다. 1938년 영국 정부의 무선 연구 위원회는 레이더에 쓸 고출력 증폭기가 따르는 비선형 미분방정식, 곧 변수의 제곱이나 곱이 들어 있어 해 두 개를 더해도 해가 되지 않는 방정식을 풀어 달라고 순수 수학자들에게 도움을 청했습니다. 케임브리지의 메리 카트라이트와 존 리틀우드는 이 방정식(바깥 힘을 받는 반데르폴 방정식)을 연구했고, 1945년 주기가 서로 다른 해들이 한없이 많이 뒤엉켜 있으며 처음 조건에 민감하게 행동한다는 것을 보고했습니다. 1960년 무렵 미국의 스티븐 스메일은 이 결과를 알게 된 뒤 늘이고 접는 '말굽' 사상으로 그 구조를 설명했습니다. 1961년 11월, 로렌츠와 거의 같은 때 교토 대학의 대학원생 우에다 요시스케는 아날로그 컴퓨터로 비선형 진동 회로를 돌리다 되풀이되지 않는 흔들림을 보았습니다. 그러나 장치의 잡음일 뿐이라는 반응에 부딪혀 결과를 널리 알리기까지 오래 걸렸다고 전합니다. 전쟁의 기술, 기상학, 전기 회로가 저마다 같은 현상에 닿아 있었습니다.

5 · 나비 모양의 끌개결정론적이지만 되풀이되지 않는 흐름

이 절의 물음은 이것입니다. 변수 셋짜리 방정식에서도 4절의 현상이 일어난다면, 해들은 어떤 모양을 그리고, 오차는 정확히 어떤 빠르기로 자랄까?

로렌츠는 이 현상을 더 단순한 모형에서 확인하고 싶었습니다. 그는 기상학자 배리 솔츠먼이 연구하던 대류⁠(convection)⁠ 방정식에 주목했습니다. 냄비의 물처럼 아래에서 데우고 위에서 식히는 유체층에서는 더운 유체가 오르고 찬 유체가 내려오며 두루마리 모양으로 돕니다. 온도가 퍼지는 열방정식⁠(heat equation)⁠과 유체의 운동 방정식을 푸리에 급수⁠(Fourier series)⁠로 풀어 쓰고, 그 가운데 세 항만 남긴 것이 1963년 논문 「결정론적 비주기 흐름」의 방정식입니다.

글자 위의 점은 시간에 대한 도함수⁠(derivative function)⁠를 뜻합니다. $\dot x$('x 닷')는 x가 지금 변하는 빠르기입니다. 그러니 세 식은 '지금의 x, y, z가 정해지면 셋이 각각 얼마나 빨리 변할지가 정해진다'는 규칙입니다. x는 대류가 도는 세기와 방향, y는 오르는 흐름과 내리는 흐름 사이의 온도 차, z는 위아래 온도 분포가 곧은 직선에서 벗어난 정도입니다. 로렌츠는 $\sigma = 10$, $\beta = 8/3$, $\rho = 28$을 골랐습니다(그는 $\rho$를 r로 적었습니다). σ는 유체가 얼마나 끈적한지와 열이 얼마나 잘 퍼지는지의 비, ρ는 아래위 온도 차가 대류를 막 일으키는 문턱⁠(threshold)⁠의 몇 배인지, β는 대류 두루마리의 가로세로 비율에서 나온 수입니다. (σ, ρ, β는 그리스 문자 '시그마', '로', '베타'입니다.)

한 점에서 계산해 봅시다. (x, y, z) = (1, 1, 1)이면 $\dot x = 10(1 - 1) = 0$, $\dot y = 1 \times (28 - 1) - 1 = 26$, $\dot z = 1 \times 1 - \tfrac83 \times 1 \approx -1.67$입니다. 이 순간 점은 x 방향으로는 움직이지 않고, y 방향으로 빠르게 늘며, z 방향으로는 조금 줄어듭니다. 세 수 (x, y, z)를 한 점으로 보면, 이 방정식은 공간의 모든 점에 '다음에 어디로 갈지'를 가리키는 벡터⁠(vector)⁠를 하나씩 붙여 둔 셈이고, 해는 그 화살표를 따라 흐르는 곡선입니다.

아래 그림에서 두 해를 나란히 띄워 봅시다. 파란 해와 분홍 해는 x 좌표만 $\delta =$ 만큼 다르게 출발합니다. 지수 k(지금 )를 끌면 $\delta = 10^{-k}$가 바뀝니다($10^{-k}$는 1을 10으로 k번 나눈 수로, k = 5이면 0.00001입니다). 지금 시각은 $t =$ 이고, 두 점 사이의 거리는 입니다. ▶ 처음부터 함께 날리기 볼 것은 두 점이 언제 헤어지는지, 그리고 오른쪽 그림에서 거리가 어떤 모양으로 자라는지입니다.

두 해는 처음에는 한 곡선처럼 겹쳐서 한쪽 날개를 돌다가, 어느 순간 하나는 왼쪽, 하나는 오른쪽 날개로 넘어가며 헤어집니다. 거리가 1을 넘는 시각은 입니다. 오른쪽 그림에서 거리의 로그는 흔들리면서도 대체로 한 직선을 따라 오릅니다. 세로축이 로그 눈금이라 한 칸 오를 때마다 거리가 같은 배수로 커지니, 로그가 직선으로 오른다는 것은 거리가 같은 시간마다 같은 배수로, 곧 지수함수로 자란다는 뜻입니다. 기울기⁠(slope)⁠에서 읽은 비율 $\lambda \approx 0.91$을 이 계의 랴푸노프 지수⁠(Lyapunov exponent)⁠라고 부릅니다. 정확히는 여러 방향의 벌어지는 비율 가운데 가장 큰 것, 곧 가장 큰 랴푸노프 지수입니다. 1892년 하리코프 대학에서 운동의 안정성⁠(stability)⁠을 연구한 러시아의 수학자 알렉산드르 랴푸노프에게서 온 이름입니다. 랴푸노프 지수가 양수라는 것은 '처음 조건에 민감하다'는 말을 수로 정확히 적는 대표적인 방법입니다.

그렇다고 거리가 한없이 자라지는 않습니다. 해들은 거의 어디서 출발하든 결국 나비 모양의 한 영역으로 빨려 들어가 그 근처에서만 맴도는데, 이 영역을 끌개⁠(attractor)⁠라고 합니다. 두 해의 거리는 끌개 전체의 크기에 닿으면 더 자라지 못하고 그 언저리에서 오르내립니다. 그때 두 해는 서로에 대해 아무것도 알려 주지 않습니다.

왜 하필 지수함수일까요? 생각의 뼈대는 복리 이자와 같습니다. 두 해가 아주 가까이 있으면, 짧은 시간 동안 둘 사이의 어긋남은 지금 크기에 거의 일정한 배율을 곱한 만큼으로 바뀝니다. 그 배율이 평균적으로 1보다 크면, 시간 조각마다 곱해진 배율이 쌓여 거듭제곱이 되고, 거듭제곱은 곧 지수함수입니다.

조금 더 정확히 적으면 이렇습니다. 두 해가 아주 가까이 있을 때, 그 사이의 작은 어긋남은 방정식을 그 자리에서 직선으로 근사한 국소 선형성(곡선을 아주 확대하면 직선처럼 보이는 성질)을 따라 움직입니다. 어긋남은 행렬(수를 가로세로로 늘어놓은 표) 하나를 곱하는 규칙을 따르고, 그 행렬⁠(matrix)⁠의 고유벡터(행렬을 곱해도 방향이 바뀌지 않고 길이만 늘거나 주는 방향) 가운데 어떤 쪽으로는 늘어나고 어떤 쪽으로는 줄어듭니다. 짧은 시간 조각마다 행렬을 하나씩 곱해 나가면, 연쇄법칙⁠(chain rule)⁠에서처럼 배율이 곱해져 쌓이고, 늘어나는 방향의 배율이 거듭제곱으로 불어납니다. 같은 원리가 선형 미분방정식⁠(linear differential equation)⁠에서는 고유값⁠(eigenvalue)⁠이 운동의 모양을 정하는 방식으로 나타납니다.

그러면서도 해는 멀리 달아나지 않습니다. 가까이 모인 출발점 무리가 차지하는 작은 부피 조각을 따라가 보면, 이 흐름에서 작은 부피 조각은 시간 1마다 $e^{-(\sigma + 1 + \beta)} \approx e^{-13.7}$배, 곧 백만분의 1쯤으로 줄어듭니다. x의 식에서 x에, y의 식에서 y에, z의 식에서 z에 곱해진 계수 $-\sigma$, $-1$, $-\beta$를 더한 것이 부피가 줄어드는 빠르기입니다. 짧은 시간 동안의 흐름을 선형변환⁠(linear transformation)⁠으로 보면 부피의 배율은 그 행렬식(변환이 부피를 몇 배로 바꾸는지 알려 주는 수)이고, 시간 h가 아주 짧을 때 이 행렬식⁠(determinant)⁠은 1 + (대각선에 놓인 세 계수의 합) × h와 거의 같기 때문입니다. 이 합이 −13.7로 어디서나 같으니, 부피는 시간 1마다 같은 배율로 줄어듭니다.

부피는 0으로 줄어드는데 대부분의 해는 멈추지도, 같은 길을 되풀이하지도 않습니다. 한 점에서 다음에 갈 방향은 방정식이 하나로 정해 주므로 두 해는 서로 교차할 수 없습니다. 그러니 한정된 공간 안에서 서로 부딪치지 않고 끝없이 새 길을 내려면, 해들이 모여 사는 곡면이 늘어났다가 접히기를 되풀이하며 무한히 겹겹이 포개져야 합니다. 늘어나는 것이 오차를 키우고, 접히는 것이 해를 한정된 곳에 붙잡아 둡니다. 로렌츠 자신도 이 무한히 포개진 곡면들에 주목했습니다. 끌개를 가로로 자르면 칸토어 집합⁠(Cantor set)⁠을 닮은 점들이 나옵니다. 칸토어 집합은 선분에서 가운데 3분의 1을 지우고, 남은 조각마다 또 가운데 3분의 1을 지우기를 끝없이 되풀이해 남는 먼지 같은 점들입니다. 1971년 벨기에 출신 물리학자 다비드 뤼엘과 네덜란드의 수학자 플로리스 타켄스는 이런 대상에 '기이한 끌개⁠(strange attractor)⁠'라는 이름을 붙였습니다. 이 끌개는 지금 로렌츠 끌개라고 불립니다.

정리하면, 로렌츠 끌개 위에서는 가까운 두 해가 시간 1마다 평균⁠(mean)⁠ $e^{0.91}$배, 곧 약 2.5배씩 벌어지면서도 끌개 밖으로는 나가지 않습니다. 늘이고 접기를 되풀이하는 이 모양 때문에, 결정론적인 방정식이 되풀이되지 않고 예측할 수 없는 흐름을 낳습니다.

'나비'라는 말은 나중에 붙었습니다. 1963년 무렵 로렌츠는 갈매기의 날갯짓 한 번이 날씨의 경로를 영원히 바꿀 수 있다는 비유를 썼습니다. 1972년 12월 워싱턴에서 열린 미국과학진흥협회 총회에서 그의 발표 제목은 「예측 가능성: 브라질에서 나비 한 마리가 날갯짓하면 텍사스에 토네이도가 일어나는가?」였는데, 로렌츠의 회고에 따르면 그가 제목을 제때 내지 못해 사회를 맡은 기상학자 필립 메릴리스가 붙인 것입니다. 끌개의 모양이 나비 날개를 닮은 것은 우연입니다.

로렌츠 자신은 이 비유에 조심스러웠습니다. 날갯짓 한 번이 토네이도를 일으키는 데 한몫할 수 있다면 토네이도를 막는 데에도 똑같이 한몫할 수 있다고 덧붙였습니다. 요점은 나비가 폭풍을 만든다는 것이 아니라, 그렇게 작은 차이까지 알지 못하면 멀리 앞은 알 수 없다는 것입니다. 시간 여행자가 공룡 시대에 나비 한 마리를 밟아 미래가 바뀌는 레이 브래드버리의 단편 「천둥소리」(1952)도 이 말과 함께 자주 거론됩니다.

6 · 곤충의 수를 세는 식가장 간단한 혼돈

이 절의 물음은 이것입니다. 혼돈을 보려면 얼마나 복잡한 규칙이 필요할까? 답은 곱셈 몇 번짜리 식 하나면 된다는 것입니다.

혼돈에는 세 변수의 미분방정식조차 필요 없습니다. 1798년 영국의 목사이자 경제학자 맬서스는 『인구론』에서 인구는 일정한 비율로 곱해지며(기하급수적으로) 늘고 식량은 일정한 양씩 더해지며(산술급수적으로) 는다고 주장했습니다. 1838년 브뤼셀의 수학자 피에르 프랑수아 페르휠스트는 한정된 자원이 증가를 누른다는 항을 넣은 인구 방정식을 내놓았고, 뒤에 이 곡선을 '로지스틱'이라고 불렀습니다. 세대가 겹치지 않는 곤충처럼 한 해에 한 번 번식하는 생물이라면, 올해의 개체 수에서 내년의 개체 수로 한 걸음씩 건너뛰는 규칙이 더 자연스럽습니다. 개체 수를 최대치로 나눈 비율을 x라고 하면

r은 번식력입니다. 개체가 적으면(x가 작으면) 다음 해에 거의 r배로 늘고, 많으면 $1 - x$가 작아져 증가가 꺾입니다. r = 2.8, 처음 값 0.2로 두 해를 계산해 봅시다. 다음 해는 2.8 × 0.2 × 0.8 = 0.448, 그다음 해는 2.8 × 0.448 × 0.552 ≈ 0.692입니다. 이렇게 한 해의 값을 식에 넣어 다음 해의 값을 얻는 일을 되풀이합니다. 이 식이 로지스틱 사상⁠(logistic map)⁠입니다. 1976년 프린스턴의 생태학자 로버트 메이는 『네이처』에 실은 논문 「매우 복잡한 동역학을 가진 단순한 수학 모형」에서 이 한 줄짜리 식이 얼마나 많은 일을 할 수 있는지 정리했습니다. 물고기와 곤충의 개체 수가 왜 해마다 들쭉날쭉한지, 그 원인이 바깥의 날씨 같은 잡음인지 개체군 자체의 규칙인지를 묻던 생태학의 논쟁이 배경이었습니다.

아래 왼쪽 그림은 '거미줄 그림⁠(cobweb plot)⁠'입니다. 포물선⁠(parabola)⁠ 위로 올라가 다음 값을 읽고, 대각선 $y = x$로 옆걸음해 그 값을 새 입력으로 삼는 일(세로축의 출력을 가로축의 입력 자리로 옮기는 일)을 되풀이하면 노란 길이 됩니다. 오른쪽은 같은 값들을 해마다 늘어놓은 것이고, 분홍 선은 처음 값을 0.001만큼 바꾼 쌍둥이입니다. 번식력은 $r =$ , 처음 값은 $x_0 =$ 입니다.

r을 바꿔 가며 보세요. r = 2.8 r = 3.2 r = 3.5 r = 3.83 r = 4 지금 개체 수는 오래 지나면 .

• r = 2.8: 거미줄이 소용돌이치며 고정점⁠(fixed point)⁠으로 빨려 들어갑니다. 해마다 같은 수에 머무는 평형입니다.
• r = 3.2: 두 값을 번갈아 오갑니다. 풍년과 흉년이 한 해씩 되풀이되는 주기 2입니다.
• r = 3.5: 주기 4. 한 번 더 둘로 갈라졌습니다.
• r = 3.83: 혼돈 한가운데에 갑자기 주기 3이 나타납니다.
• r = 4: 되풀이가 없습니다. 오른쪽에서 파란 선과 분홍 선은 몇 해 만에 완전히 따로 놉니다. 로렌츠 끌개에서 본 바로 그 현상입니다.

고정점이 언제 안정한지는 미분이 알려 줍니다. 고정점은 규칙을 한 번 적용해도 제자리인 값, 곧 $f(x) = x$인 점입니다(f는 한 해의 규칙 f(x) = rx(1 − x)입니다). 0이 아닌 고정점을 찾으려고 $x = rx(1-x)$의 양변을 x로 나누면 $1 = r(1-x)$, 곧 $x^* = 1 - 1/r$('x 스타')입니다. r = 2.8이면 x* = 1 − 1/2.8 ≈ 0.643이고, 실제로 2.8 × 0.643 × 0.357 ≈ 0.643으로 제자리입니다.

이제 x*에서 조금 비껴난 값을 넣으면 어떻게 될까요? 포물선을 x* 근처에서 크게 확대하면 거의 직선이고, 그 직선의 기울기를 $f'(x^*)$('f 프라임 x 스타')라고 씁니다. 직선 위에서는 입력이 조금 비껴나면 출력은 그 기울기를 곱한 만큼 비껴나니, 그 근처에서 작은 어긋남은 한 해마다 $f'(x^*)$배가 됩니다. 규칙을 f(x) = rx − rx²로 풀어 쓰면 각 점에서의 기울기는 $f'(x) = r(1 - 2x)$입니다(rx의 기울기는 r, rx²의 기울기는 2rx입니다). 여기에 $x^*$를 넣으면 r(1 − 2 + 2/r) = −r + 2, 곧 $2 - r$이 나옵니다.

지금은 $|f'(x^*)| = |2 - r|$가 . 배율의 크기가 1보다 작으면 어긋남은 해마다 줄어들어 사라지고, 1보다 크면 불어납니다. r = 2.8이면 배율이 −0.8이라, 어긋남은 해마다 부호가 바뀌며(한 해는 위로, 한 해는 아래로) 0.8배로 줄어듭니다. 거미줄 그림에서 고정점 둘레를 소용돌이치며 들어가는 모양이 바로 이것입니다. $1 \lt r \lt 3$에서만 안정하고, $r = 3$에서 배율이 −1을 지나며 고정점이 두 값을 오가는 주기 2로 바뀝니다. 이렇게 매개변수⁠(parameter)⁠가 한 문턱을 넘을 때 운동의 모양이 달라지는 일을 분기⁠(bifurcation)⁠라고 부릅니다. 주기 2의 안정성은 두 점에서의 기울기를 곱한 값이 정하고, 이 곱이 다시 −1을 지나면 주기 4가 됩니다. 한 바퀴의 배율은 각 단계 배율의 곱이라는 연쇄법칙이 여기서도 일합니다.

r = 4의 혼돈은 손으로도 확인할 수 있습니다. 요점은 이 규칙이 알고 보면 '두 배 하고 정수⁠(integer)⁠ 부분을 버리기'라는 더 단순한 규칙과 같은 운동이라는 것입니다. 이 단순한 규칙을 0.3에서 시작하면 0.6, 0.2(1.2에서 1을 버림), 0.4, 0.8, 0.6, …입니다. 두 배 하기를 되풀이하니 처음 값의 작은 차이도 해마다 두 배가 됩니다.

이것을 확인해 봅시다. 0과 1 사이의 수 θ('세타')를 하나 골라 $x = \sin^2(\pi\theta)$로 놓습니다($\sin^2$은 사인⁠(sine)⁠ 값의 제곱입니다). θ가 0에서 1/2로 가면 x는 0에서 1로 가니, 0과 1 사이의 x마다 이런 θ가 있습니다. 삼각함수의 덧셈정리⁠(angle addition formulas)⁠에서 나오는 배각 공식 $\sin 2A = 2\sin A\cos A$를 쓰면 $\sin^2(2\pi\theta) = 4\sin^2(\pi\theta)\,(1 - \sin^2(\pi\theta)) = 4x(1-x)$입니다. 첫 등호는 배각 공식을 제곱하고 $\cos^2 = 1 - \sin^2$을 쓴 것입니다. 곧 x에 규칙을 한 번 적용한 값은 θ를 2θ로 바꾼 값과 같습니다.

그러니 한 걸음은 $\theta$를 두 배로 만드는 일, 곧 $\theta \mapsto 2\theta \pmod 1$이 됩니다. 'θ를 2θ로 보내고, 1 이상이 되면 정수 부분을 버린다'고 읽습니다. $\sin^2$은 θ가 1 늘어도 값이 같으니 정수 부분은 버려도 되고, 1을 넘는 부분을 버리는 이 계산이 모듈러 연산⁠(modular arithmetic)⁠입니다. $\theta$를 2진법⁠(positional notation)⁠으로 적으면 두 배는 소수점을 한 칸 옮기는 일입니다. 10진법에서 10을 곱하면 소수점이 한 칸 옮겨지듯, 2진법 0.1011을 두 배 하면 1.011입니다. 그래서 한 해가 지날 때마다 맨 앞의 2진 자리 하나가 사라지고, 아직 보지 못한 뒷자리 하나가 앞으로 나옵니다(진법). 처음 값을 소수⁠(prime number)⁠ 열 자리, 약 33비트까지 안다면 33년쯤 뒤에는 처음 값에 담긴 정보가 모두 바닥납니다. 오차가 해마다 두 배가 되니, 랴푸노프 지수는 $\ln 2$입니다. $\theta$가 유리수면 2진 전개가 언젠가 되풀이되므로 궤도도 결국 주기 궤도에 들어가고, 무리수⁠(irrational number)⁠면 궤도는 영영 되풀이되지 않습니다.

정리하면, 한 줄짜리 로지스틱 사상도 r에 따라 평형, 주기, 혼돈을 모두 보입니다. 고정점이 안정한지는 그 점에서 기울기의 크기가 1보다 작은지로 가려지고, r = 4의 혼돈에서는 오차가 해마다 두 배로 자랍니다.

7 · 창 속의 창분기 도표⁠(bifurcation diagram)⁠와 보편 상수

이 절의 물음은 이것입니다. r을 조금씩 바꿔 가면 질서가 혼돈으로 넘어가는 길은 어떤 모양이고, 그 길에 모든 비슷한 규칙이 함께 따르는 수가 있을까?

r마다 처음 수백 해를 버리고 그 뒤에 나오는 값들을 세로로 찍으면 한 장의 지도가 됩니다. 이것이 분기 도표입니다. 노란 세로선은 6절 그림의 r이고, 아래쪽 노란 점을 끌어 옮길 수 있습니다. 보는 구간은 입니다. ▶ r을 2.8에서 4까지 쓸기

'전체'에서 한 줄기가 둘로, 넷으로, 여덟로 갈라지다가 r∞ ≈ 3.5699에서 안개처럼 퍼집니다. '주기 배가'를 골라 보면 갈라지는 간격이 점점 좁아지는 것이 보입니다. 주기가 2, 4, 8, 16, 32로 바뀌는 문턱은 대략 다음과 같습니다.

간격의 비를 구하면 $0.44949/0.09460 \approx 4.75$, $0.09460/0.02032 \approx 4.66$, $0.02032/0.00435 \approx 4.67$로 한 수에 모입니다. 첫 비는 r₁부터 r₂까지의 간격 0.44949를 r₂부터 r₃까지의 간격 0.09460으로 나눈 것이고, 나머지도 같습니다. 간격이 매번 거의 같은 비율, 약 4.669분의 1로 줄어드니, 간격을 모두 더한 것은 수렴하는 등비급수⁠(geometric series)⁠이고 그래서 무한 번의 분기가 유한한 곳 r∞에서 끝납니다. 1 + 1/2 + 1/4 + …가 2를 넘지 않듯, 간격들을 모두 이어 붙여도 유한한 길이에 그치는 것입니다. 1975년 로스앨러모스 국립연구소의 물리학자 미첼 파이겐바움이 이 비율을 찾았습니다. 전해지는 이야기로는 그가 쓰던 프로그램 가능한 휴대용 계산기가 느렸던 덕분에, 다음 문턱이 어디쯤일지 미리 짐작해 보다가 등비적으로 줄어드는 패턴을 알아챘다고 합니다.

더 중요한 발견은 그다음이었습니다. 포물선 대신 $r \sin(\pi x)$처럼 봉우리가 하나이고 봉우리 근처가 포물선처럼 둥근 다른 사상을 되풀이해도 같은 수 $\delta = 4.6692\ldots$가 나왔습니다. 세부와 상관없이 같은 상수가 나오는 이 성질을 보편성⁠(universality)⁠이라 부릅니다. 파이겐바움은 1978년 논문에서 그 이유를 설명했고, 엄밀한 증명은 1982년 오스카 랜퍼드가 컴퓨터의 도움을 받아 해냈습니다. 1980년 무렵 파리 고등사범학교의 물리학자 알베르 리브샤베르는 작은 상자 속 액체 헬륨의 대류에서 주기 배가를 관측했고, 측정한 비율은 이 예측과 잘 맞았습니다. 곤충의 개체 수를 흉내 낸 식의 상수가 실제 유체에서 나타난 것입니다.

이제 '주기 3의 창'을 골라 보세요. $r = 1 + \sqrt 8 \approx 3.828$에서 혼돈이 갑자기 걷히고 세 줄기가 나타납니다. 1975년 메릴랜드 대학의 수학자 리톈옌과 제임스 요크는 「주기 3은 혼돈을 뜻한다」라는 논문에서, 구간을 자기 자신으로 보내는 연속인 사상이 주기 3의 궤도(세 걸음마다 제자리로 돌아오는 값들)가 있으면 모든 주기의 궤도가 있다는 것을 보였습니다. 증명의 열쇠는 중간값 정리(끊김 없이 이어진 그래프가 어떤 값의 아래에서 위로 가면 도중에 반드시 그 값을 지난다는 정리)였고, '혼돈'이라는 말이 수학 용어로 자리 잡은 것이 이 논문부터입니다.

글릭의 『카오스』가 전하는 바로는, 요크는 메릴랜드 대학의 동료 기상학자 앨런 폴러에게서 로렌츠의 1963년 논문을 건네받았고 그 복사본을 스메일에게도 보냈습니다. 기상학 학술지에 실린 뒤 한동안 기상학 밖에서는 거의 읽히지 않던 논문이 수학자들에게 닿은 길입니다. 한편 우크라이나의 수학자 올렉산드르 샤르코우스키가 1964년에 더 일반적인 결과를 먼저 발표해 두었지만, 냉전으로 학계가 나뉘어 있던 탓에 서방에는 늦게 알려졌습니다.

마지막으로 '창 속의 창'. 주기 3의 창 가운데 줄기를 확대하면 뒤집히고 작아졌을 뿐, 전체 분기 도표와 거의 같은 모양이 다시 나타납니다. 이 안에서 또 확대하면 또 나옵니다. 어느 배율로 보아도 비슷한 무늬가 되풀이되는 자기 닮음⁠(self-similarity)⁠이 프랙털의 표지입니다. 이 도표는 망델브로 집합⁠(Mandelbrot set)⁠의 실수축과도 짝지어집니다. 망델브로 집합은 규칙 $z \mapsto z^2 + c$('z를 z² + c로 보낸다')를 0에서 시작해 되풀이할 때 값이 한없이 커지지 않는 수 c들의 모임입니다. $c = \tfrac{r}{2}\left(1 - \tfrac{r}{2}\right)$로 바꾸면(변수도 알맞게 옮기면) 로지스틱 사상은 $z \mapsto z^2 + c$와 같은 운동이 되어, 도표의 가로축 r이 망델브로 집합의 실수축 c에 대응하기 때문입니다.

8 · 확률로 말하는 예보악마 대신 앙상블⁠(ensemble)⁠

이 절의 물음은 이것입니다. 먼 미래를 하나로 맞힐 수 없다면, 예보는 무엇을 말할 수 있고 '강수 확률 30%'는 정확히 무슨 뜻일까?

그렇다면 날씨 예보는 포기해야 할까요? 오늘의 기상청이 찾은 답은 라플라스의 악마를 하나 두는 대신 여럿을 두는 것입니다. 관측은 언제나 오차를 품고 있으니, 관측값 하나에서 출발하는 대신 오차 범위 안에서 조금씩 다른 출발점 수십 개를 만들어 모두 계산합니다. 이 묶음을 앙상블이라고 부릅니다. 예보들이 한데 모여 있으면 믿을 만하고, 흩어져 있으면 그만큼 불확실하다는 뜻이니, 예보가 얼마나 믿을 만한지까지 함께 알려 줍니다.

1975년 유럽 여러 나라가 함께 세운 유럽중기예보센터는 1979년부터 영국 레딩에서 며칠 앞의 예보를 냈고, 1992년 말 미국 기상청과 거의 같은 때 앙상블 예보⁠(ensemble forecasting)⁠를 운영하기 시작했습니다. 오늘날에는 50개 남짓한 예보를 함께 돌립니다. 여러 출발점을 함께 계산하자는 생각 자체는 1969년 에드워드 엡스타인과 1974년 세실 리스가 먼저 내놓았고, 컴퓨터가 충분히 빨라진 1990년대에야 날마다의 예보에 들어갔습니다.

로렌츠 방정식으로 작은 앙상블을 만들어 봅시다. 흰검은 선은 우리가 모르는 '실제 날씨'입니다. 분홍 선 30개는 관측 오차를 흉내 내어, 실제 출발점에서 표준편차⁠(standard deviation)⁠가 (지수 )인 정규분포⁠(normal distribution)⁠의 작은 흔들림을 더해 출발시킨 예보입니다. 새 관측 오차 볼 것은 예보 시간을 늘릴 때 분홍 다발이 언제 흩어지고, 오른쪽 막대가 어떻게 퍼지는지입니다.

예보 시간은 입니다. ▶ 예보 시간 늘려 가기 이 시각에 예보들의 퍼짐(표준편차)은 이고, 오른쪽 날개(x > 0)에 있다고 말하는 예보의 비율은 입니다. 실제로는 날개에 있습니다.

• 짧은 예보: 분홍 선들이 한 다발로 뭉쳐 흰검은 선을 따라갑니다. 막대가 한 칸에 몰려 있고, 예보는 거의 확실합니다.
• 중간 예보: 다발이 갈라지기 시작합니다. 몇 개는 다른 날개로 넘어갑니다. 이때 "오른쪽 날개일 확률 70%"는 정직한 예보입니다.
• 긴 예보: 막대가 끌개 전체에 퍼져 오랜 기간의 평균 분포, 곧 기후와 같아집니다. 이제 예보는 달력의 평년값보다 나을 것이 없습니다.

출발점이 되는 '지금의 대기'를 정하는 일도 쉽지 않습니다. 관측소와 위성, 비행기가 재 주는 값은 드문드문하고 잡음이 섞여 있어서, 그 값들로 대기 전체의 상태를 되찾는 일 자체가 결과에서 원인을 찾는 역문제입니다. 위성이 잰 적외선에서 높이마다의 기온을 되찾는 계산, 지난 몇 시간의 관측을 가장 잘 설명하도록 출발점을 고치는 '자료 동화⁠(data assimilation)⁠'가 그 방법이고, 그 수학은 「거꾸로 푸는 문제는 왜 어려운가」에 있습니다.

관측 오차의 지수를 올리면 다발이 갈라지는 때가 늦춰지지만, 4절에서 본 대로 오차를 10분의 1로 줄일 때마다 일정한 시간씩만, 이 모형에서는 약 2.5 시간 단위씩만 늦춰집니다.

실제 대기에는 크고 작은 규모의 흐름이 얽혀 있어서 사정이 더 나쁩니다. 로렌츠는 1969년, 작은 규모의 오차가 더 빨리 자라 큰 규모로 번지기 때문에 관측을 아무리 좋게 해도 넘을 수 없는 한계가 있으리라고 논했고, 그 한계는 흔히 2주 안팎으로 어림됩니다. 그 안에서는 관측, 모형, 컴퓨터가 좋아진 덕분에 예보가 꾸준히 나아져, 10년마다 하루쯤 더 앞을 내다보게 되었다고 평가됩니다.

"강수 확률 30%"는 이런 뜻입니다. 비슷한 예보를 여러 번 냈을 때 그중 열에 셋쯤 비가 온다면 예보가 잘 맞춰진 것입니다. 흔히 30%라고 했는데 비가 오면 예보가 틀렸다고 생각하지만, 그런 날이 열 번에 세 번쯤 있어야 오히려 정직한 예보입니다. 앙상블로 말하면, 출발점을 조금씩 바꾼 예보 50개 가운데 15개가 비를 내린다면 그 비율 30%가 확률의 어림값이 됩니다. 이것은 확률을 반복되는 사건⁠(event)⁠의 빈도로 읽는 방식이고, 앙상블은 몬테카를로 방법⁠(Monte Carlo method)⁠으로 그 확률을 어림합니다. 이 숫자에는 확률을 읽는 두 방식이 함께 들어 있습니다. 출발점을 관측 오차만큼 흩어 놓는 일은 1절의 라플라스처럼 확률을 '우리가 모르는 만큼'으로 보는 것이고, 예보가 잘 맞춰졌는지 채점하는 일은 확률을 되풀이되는 사건의 빈도로 보는 것입니다. 확률을 무엇으로 볼지는 철학자들 사이에서 오래된 논쟁이지만, 기상청은 두 해석을 한 계산 안에서 함께 씁니다. 예보의 가치는 불확실성을 없애는 데가 아니라 재는 데 있습니다. 1944년 6월 연합군은 영국의 기상학자 제임스 스태그가 이끈 예보진의 조언을 받아 노르망디 상륙을 하루 미루었습니다. 1987년 10월 영국 남부를 덮친 대폭풍은 예보가 충분히 경고하지 못한 사례로 자주 이야기됩니다. 두 경우 모두 사람들이 가장 알고 싶었던 것은 "일어날 수 있는가, 얼마나 그럴 법한가"였습니다.

이제 처음 질문으로 돌아갈 수 있습니다. 로렌츠의 논문 제목은 「결정론적 비주기 흐름」이었습니다. 방정식에는 우연이 한 방울도 없습니다. 같은 출발점에서는 언제나 같은 미래가 나옵니다. 그런데도 예측할 수 없습니다. 결정론과 예측 가능성은 다른 것입니다. 라플라스의 악마가 미래를 보려면 현재를 오차 없이, 실수⁠(real number)⁠의 무한히 많은 자릿수까지 알아야 합니다. 유한한 존재가 재는 한 오차는 0이 될 수 없고, 혼돈은 그 오차를 지수적으로 키웁니다. 양자역학이 옳다면 사정은 한 번 더 달라집니다. 1927년 독일의 물리학자 베르너 하이젠베르크가 내놓은 불확정성 원리⁠(uncertainty principle)⁠에 따르면 입자의 위치와 운동량(질량 × 속도)을 동시에 정확히 알 수조차 없고, 미시 세계의 우연을 혼돈이 거시 세계로 키워 올릴 수 있습니다.

혼돈이 자유의지를 구해 준다고 기대하는 사람도 있었지만, 대부분의 철학자는 그렇게 보지 않습니다. 혼돈계는 여전히 결정론적이고, 예측할 수 없다는 것은 우리 지식의 한계이지 선택의 자유가 아니기 때문입니다. 무작위도 마찬가지입니다. 원자가 까닭 없이 '비껴 난다'는 고대 그리스 철학자 에피쿠로스의 생각을 로마의 시인 루크레티우스가 자유의 근거로 노래한 이래, 우연이 곧 자유라는 주장은 늘 같은 반론을 만났습니다. 제멋대로 일어나는 일은 내가 한 일이라고 하기도 어렵다는 것입니다. 18세기 스코틀랜드의 철학자 데이비드 흄 이래의 양립가능론자들은 결정론과 자유가 함께 설 수 있다고 봅니다.

과학철학자 칼 포퍼는 1965년의 강연 「구름과 시계」에서 세계를 정밀한 시계로 보는 물리적 결정론을 '악몽'이라 부르며, 구름처럼 흐릿하면서도 어느 정도 질서 있는 과정들로 세계를 보자고 했습니다. 혼돈 이론이 이 논쟁을 끝내지는 못했지만, 결정론이 곧 예측 가능성이라는 오래된 등식은 확실히 깨뜨렸습니다.

라플라스의 악마에서 앙상블 예보까지. 과학·천문 줄의 예보 이야기와 수학 줄의 혼돈 이야기가 1960년대에 로렌츠에게서 만나고, 1970년대 로스앨러모스·프린스턴·메릴랜드에서 한꺼번에 불어나는 것을 보세요. 흐린 점은 같은 시대의 세계사입니다.

9 · 이어지는 길혼돈이 닿는 곳

혼돈은 수학의 여러 갈래가 한자리에 모이는 곳입니다.

• 미분과 선형대수⁠(linear algebra)⁠: 혼돈을 재는 도구는 모두 미분에서 나옵니다. 고정점의 안정성은 기울기, 두 해가 벌어지는 비율은 선형화⁠(linearization)⁠한 행렬의 고유값과 그 곱입니다. 행렬을 곱하는 일이 평면을 늘이고 돌리는 일이라는 것은 「곱셈은 회전이다」에서 봅니다.
• 확률: r = 4의 로지스틱 사상에서 x가 어느 구간에 머무는 시간의 비율은 거의 모든 출발점에서 $1/(\pi\sqrt{x(1-x)})$라는 분포를 따릅니다. 결정론적인 규칙이 큰 수의 법칙⁠(law of large numbers)⁠처럼 안정된 빈도를 낳는 것입니다. 1947년 무렵 로스앨러모스의 수학자 스타니스와프 울람과 폰 노이만은 바로 이 사상으로 무작위처럼 보이는 수를 만들자고 제안했다고 알려져 있습니다. 확률이 다음 상태에만 달린 과정은 마르코프 연쇄⁠(Markov chain)⁠에서 이어집니다.
• 프랙털: 끌개의 단면은 칸토어 집합을, 분기 도표의 창 속의 창은 망델브로 집합을 닮았습니다. 복소평면⁠(complex plane)⁠에서 뉴턴 방법⁠(Newton's method)⁠을 돌리면 어느 근으로 갈지가 출발점에 민감하게 달린 영역들의 경계가 프랙털이 됩니다. 길이가 0인데 실수만큼 많은 점의 이야기는 「무한에도 크기가 있다」에 있습니다.
• 파동과 열: 로렌츠 방정식은 대류를 푸리에 급수로 쪼개 세 항만 남긴 것입니다. 열방정식과 푸리에의 이야기는 「원에서 파동으로」에서, 열방정식 속의 연산이 왜 '이웃 평균 − 나'인지는 「라플라시안, 가장 많이 재사용된 식」에서 이어집니다. 푸리에의 사인파⁠(sinusoid)⁠를 기계로 더해 조수를 예측한 켈빈의 조석 예측기는, 1944년 6월 노르망디의 날씨 예보와 나란히 상륙 날짜를 정하는 데 쓰였습니다.
• 거꾸로 푸는 문제: 혼돈은 앞으로 계산할 때 작은 오차를 키우고, 역문제⁠(inverse problem)⁠는 거꾸로 계산할 때 작은 오차를 키웁니다. 예보의 출발점을 드문 관측에서 되찾는 자료 동화가 두 문제가 만나는 자리이고, 그 이야기는 「거꾸로 푸는 문제는 왜 어려운가」에 있습니다.
• 틀린 증명: 푸앵카레의 수상 논문이 인쇄된 뒤 회수된 사연과, 그 오류를 고치다 혼돈을 본 과정은 「틀린 증명이 만든 수학」에 있습니다.
• 재는 일: 리처드슨이 국경의 길이를 재다 발견한 '자에 따라 달라지는 길이'와 망델브로의 프랙털 차원⁠(fractal dimension)⁠은 「재는 순간 바뀐다」에 있습니다. 끌개의 단면과 해안선은 같은 자기 닮음을 품고 있습니다.
• 하늘의 예측: 1절의 혜성과 세레스처럼 몇 주의 관측으로 1년 뒤를 맞힐 수 있었던 까닭, 곧 오차를 고르게 나누는 최소제곱⁠(least squares)⁠은 「잃어버린 소행성」에 있습니다. 태양계도 수백만 년 규모에서는 혼돈적이라는 라스카르의 결과를 떠올리면, 그 성공은 시간 규모의 문제였습니다.
• 기하⁠(geometry)⁠: 음으로 휜 곡면에서 측지선이 벌어지는 아다마르의 발견은 비유클리드 기하⁠(non-Euclidean geometry)⁠와 혼돈을 잇는 다리입니다.
• 계산하는 기계의 탄생: ENIAC 예보를 이끈 폰 노이만의 저장 프로그램⁠(stored program)⁠ 구조와, 그 바탕이 된 튜링 기계⁠(Turing machine)⁠를 정의한 튜링의 1936년 논문은 「기계가 풀 수 없는 문제」에서 다룹니다.