국소에서 전체로

발밑만 볼 수 있는 개미가 있습니다. 개미는 자기가 사는 곳이 공의 겉면인지, 도넛의 겉면인지, 끝없는 평면인지 알아낼 수 있을까요? 속도계만 보는 운전자는 한 시간 뒤 자기가 어디 있는지 알 수 있을까요? 수학의 많은 대상은 두 층으로 되어 있습니다. 한 점 근처에서 잴 수 있는 국소적인 양(기울기, 곡률, 이웃의 수)과, 전체를 한꺼번에 보아야 알 수 있는 전체적인 성질(거리, 모양, 순위)입니다. 둘 사이에 다리를 놓는 것이 수학의 큰 줄기 하나이고, 다리가 어디서 끊기는지 아는 것도 그만큼 중요합니다.

속도⁠(velocity)⁠에서 거리로. 가장 오래된 다리는 미적분의 기본정리입니다. 매 순간의 속도⁠(instantaneous velocity)⁠, 곧 미분계수⁠(derivative)⁠는 국소적인 양입니다. 그것에 아주 짧은 시간 조각을 곱해 모두 더하면(리만 합⁠, Riemann sum⁠) 전체 이동 거리가 되고, 조각을 한없이 잘게 한 극한⁠(limit)⁠이 정적분⁠(definite integral)⁠입니다. 뉴턴과 라이프니츠가 각자 찾은 이 정리는 넓이⁠(area)⁠를 구하는 일과 기울기를 구하는 일이 서로를 되돌린다고 말합니다. 같은 생각을 미분방정식⁠(differential equation)⁠에 쓰면, 평면의 모든 점에 '여기서는 이쪽으로 가라'는 화살표만 주어져도 출발점을 정하면 곡선 전체를 되찾을 수 있습니다(화살표가 점에 따라 충분히 매끄럽게 변할 때). 아래 그림은 1768년 오일러가 적분학 교과서에 적은 가장 단순한 방법입니다. 지금 자리의 화살표를 따라 h만큼 가고, 거기서 다시 화살표를 읽습니다. 규칙: . 걸음의 크기 h를 에서 줄여 보세요. h를 줄이며 보기 처음으로 흰검은 출발점도 끌 수 있습니다.

화살표 하나하나는 그 점 근처밖에 모릅니다. 그런데 걸음을 줄일수록 꺾은선은 참 곡선에 붙습니다. 끝점의 오차는 지금 이고, h를 절반으로 줄이면 오차도 대략 절반이 됩니다. 'cos x'는 적분⁠(integral)⁠ 그 자체이고, 'y′ = y'는 지수함수⁠(exponential function)⁠, '회전⁠(rotation)⁠'은 원을 그리는 선형 미분방정식⁠(linear differential equation)⁠입니다. 회전에서는 걸음마다 바깥으로 조금씩 밀려나 꺾은선이 나선을 그립니다. 국소적인 작은 오차가 한쪽으로만 쌓이면 전체가 틀어진다는 경고입니다.

한 점에서 전부를. 한 점에서의 미분값을 모두 알면 함수⁠(function)⁠ 전체를 알 수 있을까요? 14세기 인도 케랄라 학파의 마다바는 사인⁠(sine)⁠과 아크탄젠트⁠(arctangent)⁠를 무한급수⁠(infinite series)⁠로 적었고, 17세기 유럽에서 같은 급수⁠(series)⁠들이 다시 발견되어 테일러 급수가 되었습니다. eˣ와 사인, 코사인⁠(cosine)⁠은 0에서의 미분값만으로 실수⁠(real number)⁠ 전체에서 되살아납니다. 그러나 늘 그렇지는 않습니다. $1/(1+x^2)$은 실수 어디서나 매끄러운데도 0에서 만든 급수는 $|x| \lt 1$에서만 맞습니다. 이유는 실수축 밖, 복소평면⁠(complex plane)⁠의 ±i에 숨은 극입니다. 이 함수에서 급수가 맞는 범위는 중심에서 가장 가까운 극까지의 거리, 곧 수렴반경⁠(radius of convergence)⁠ 1이 정합니다. 더 놀라운 예는 1823년 코시가 든 $e^{-1/x^2}$입니다. 0에서 모든 미분값이 0이라 테일러 급수는 0뿐인데, 함수 자체는 0이 아닙니다. 한 점의 정보가 전체를 정하는 복소함수⁠(complex function)⁠의 세계와, 그렇지 않은 실함수의 세계가 여기서 갈립니다. 복소수⁠(complex number)⁠ 범위에서 미분⁠(differentiation)⁠할 수 있는 함수는 아무리 작은 동네의 값만 알아도 이어진 정의역 전체의 값이 하나로 정해지는데(일치 정리. 함수를 더 넓은 곳으로 늘이는 해석적 연속⁠(analytic continuation)⁠이 하나로 정해지는 까닭입니다), 실수 함수에는 그런 보장이 없습니다.

곡률에서 모양으로. 1827년 가우스는 곡면의 휘어짐인 가우스 곡률⁠(Gaussian curvature)⁠이 곡면 위에서 길이만 재어도 알 수 있는 국소적인 양임을 보였습니다. 곡면 위 측지선⁠(geodesic)⁠ 삼각형의 세 각의 합이 180°에서 벗어난 양은, 라디안⁠(radian)⁠으로 재면 그 안의 곡률을 넓이에 걸쳐 모두 더한 것과 같고(구면기하⁠(spherical geometry)⁠, 쌍곡기하⁠(hyperbolic geometry)⁠), 뒤에 프랑스의 수학자 피에르 오시앙 보네가 넓힌 가우스–보네 정리에 따르면 닫힌 곡면 전체의 곡률을 더한 값은 $2\pi\chi$입니다. χ는 오일러 지표라 부르는 수로, 곡면을 찢지 않고 늘이고 구부리기만 해서는 바뀌지 않습니다. 이런 성질을 다루는 분야가 위상수학⁠(topology)⁠입니다. χ는 구면에서 2, 도넛 면에서 0입니다. 개미가 곡률을 재어 모두 더하면 자기가 공 위에 사는지 도넛 위에 사는지 알 수 있다는 뜻입니다. 이 정리의 가장 단순한 모습은 다면체에 있습니다. 한 꼭짓점⁠(vertex)⁠에 모인 면들의 각을 더해 360°에서 모자란 양을 그 꼭짓점의 각 결손(줄여서 결손)이라 하면, 볼록 다면체의 결손을 모두 더한 값은 모양과 상관없이 언제나 720°입니다. 데카르트의 출판되지 않은 원고에 있던 이 사실은, 라이프니츠가 파리에서 베껴 둔 사본이 1860년 무렵 하노버에서 발견되어 알려졌습니다. 다면체: . 결손을 하나씩 더해 보세요. 하나씩 더하기 지금 개째까지 더했습니다.

결손 하나는 그 꼭짓점 근처만 보면 알 수 있는 국소적인 양인데, 합은 언제나 두 바퀴입니다. 까닭은 오일러가 1750년 무렵 페테르부르크의 수학자 크리스티안 골트바흐에게 보낸 편지에 적은 다면체 공식 $V - E + F = 2$입니다. 면마다 내각의 합이 $(\text{변의 수} - 2) \times 180°$이니 셈을 정리하면 결손의 합은 정확히 $360° \times (V - E + F)$가 됩니다. 액자 모양 도넛에서는 바깥 모서리의 결손이 양수, 안쪽 모서리의 결손이 음수라 모두 더하면 0이고, 실제로 V − E + F = 16 − 32 + 16 = 0입니다. 푸앵카레는 이 수를 모든 차원의 공간으로 넓혔고, 평면 지도는 네 색이면 칠해진다는 4색 정리⁠(four color theorem)⁠의 증명도 이 공식에서 출발합니다. 그러나 국소가 전체를 다 정하지는 못합니다. 오른쪽 끝이 왼쪽 끝으로, 위쪽 끝이 아래쪽 끝으로 이어진 오래된 비디오 게임의 화면처럼 평평한 원환면⁠(torus)⁠은 어디서 보아도 평면과 똑같지만 평면이 아닙니다.

이웃에서 전체로. 그래프에서도 같은 다리가 놓입니다. 1735년 오일러는 쾨니히스베르크의 다리를 한 번씩만 건너는 산책이 있느냐는 전체적인 질문을, 선들이 한 덩어리로 이어져 있다면 꼭짓점마다 이어진 선의 수가 짝수인지(출발점과 도착점이 달라도 되면, 홀수인 꼭짓점이 둘 이하인지)만 보면 된다는 국소적인 확인으로 바꾸었습니다(오일러 경로⁠, Euler path⁠). 1935년 홀의 정리는 모든 사람에게 짝을 줄 수 있느냐는 전체의 질문이, 몇 명씩 묶은 무리마다 확인하는 '어떤 k명을 골라도 받아들일 상대가 k명 이상'이라는 조건과 같다고 말합니다(홀의 정리⁠, Hall's theorem⁠). 페이지랭크는 방향이 반대입니다. 한 페이지의 중요도는 자기를 가리키는 이웃들의 중요도로만 정해지는 국소 규칙인데, 모든 페이지가 이 규칙을 한꺼번에 만족하는 해는 링크 행렬⁠(matrix)⁠ 전체의 고유벡터⁠(eigenvector)⁠이고, 그 해는 국소 규칙을 거듭 적용하는 것만으로 찾아집니다(마르코프 연쇄⁠, Markov chain⁠). 가까운 이웃끼리만 이어진 연결망에 먼 지름길 몇 개를 더하면, 두 점 사이의 거리가 점의 수에 비례하던 것에서 점의 수의 로그 정도로 줄어드는(점이 10배 늘어도 거리는 일정한 만큼만 늘어나는) 좁은 세상⁠(small world)⁠도 국소 구조와 전체 성질이 만나는 곳입니다.

나머지에서 정수⁠(integer)⁠로. 정수론⁠(number theory)⁠에는 아예 '국소–대역 원리⁠(local–global principle)⁠'라는 이름이 있습니다. 방정식이 정수 해나 유리수⁠(rational number)⁠ 해를 가지려면 우선 실수 해가 있어야 하고, 모든 수로(정확히는 모든 소수⁠(prime number)⁠의 거듭제곱으로) 나눈 나머지⁠(remainder)⁠의 세계(모듈러 연산⁠(modular arithmetic)⁠)에서도 모두 0은 아닌 해가 있어야 합니다. 이것들이 국소적인 확인입니다. 예를 들어 $x^2 + y^2 = 3z^2$을 보면, 제곱수⁠(perfect square)⁠를 4로 나눈 나머지는 0이나 1뿐이라 좌변의 나머지는 0, 1, 2 가운데 하나이고 우변 $3z^2$의 나머지는 0이나 3입니다. 둘이 같으려면 양쪽 다 0이어야 하니 세 수가 모두 짝수여야 하고, 그러면 모두 2로 나눈 더 작은 해가 또 생기니 결국 0 말고는 해가 없습니다. 중국인의 나머지 정리⁠(Chinese remainder theorem)⁠는 서로소⁠(coprime)⁠인 수들로 나눈 나머지를 모으면 정수 하나가 정해진다는, 가장 단순한 국소–대역 정리입니다. 1920년대 초 독일의 헬무트 하세는 이차식으로 된 방정식에서는 국소적인 해가 모두 있으면 유리수 해도 반드시 있다는 것을 증명했습니다. 그러나 1951년 노르웨이의 에른스트 셀메르는 $3x^3 + 4y^3 + 5z^3 = 0$이 실수와 모든 나머지의 세계에서는 해를 가지는데도 0이 아닌 유리수 해는 없음을 보였습니다. 삼차에서 다리가 끊긴 것입니다.

발밑만 보고 산 전체를. 경사 하강법⁠(gradient descent)⁠은 발밑의 기울기라는 국소 정보만으로 가장 낮은 곳을 찾으려 합니다. 그릇처럼 어디서나 위로 휜(볼록) 함수에서는 이 다리가 튼튼해서 국소적인 바닥이 곧 전체의 바닥이지만, 골짜기가 여럿이면 가까운 골짜기에 갇힙니다(최적화⁠, optimization⁠). 복소평면에서 뉴턴 방법⁠(Newton's method)⁠을 돌리면 어느 근으로 끌려갈지가 출발점마다 달라 경계가 프랙털⁠(fractal)⁠이 됩니다. 규칙이 완전히 국소적이고 결정적이어도 전체의 앞날은 예측할 수 없을 수 있습니다. 1961년 로렌츠가 0.506127 대신 반올림한 0.506을 넣어 날씨 모형을 다시 돌리자, 모형 속 날씨가 얼마 지나지 않아 전혀 다른 날씨로 갈라졌습니다(혼돈, 로렌츠 끌개⁠(Lorenz attractor)⁠).

다리가 끊기는 곳. 국소에서 전체로 가는 길이 끊기는 모습은 여러 가지입니다. 셀메르의 삼차식처럼 모든 국소적 확인을 통과해도 전체의 답이 없을 수 있고, $e^{-1/x^2}$처럼 한 점의 정보가 전체를 정하지 못할 수 있고, 평평한 원환면처럼 모든 곳이 같아 보여도 전체 모양이 다를 수 있습니다. 1958년 라이어널 펜로즈와 로저 펜로즈 부자가 발표한 '불가능한 삼각형⁠(impossible triangle)⁠'은 이것을 그림 한 장으로 보여 줍니다. 모서리 하나하나는 멀쩡한 직각인데, 셋을 이어 붙이면 3차원 어디에도 만들 수 없는 물체가 됩니다. 수학자들은 이런 틈을 재는 도구를 따로 만들었습니다. 조각마다는 맞춰지는데 전체로는 맞춰지지 않는 정도를 수로 세는 코호몰로지⁠(cohomology)⁠ 이론이 그것이고, 로저 펜로즈는 뒤에 이 불가능한 그림을 그 언어로 설명하기도 했습니다. 혼돈은 또 다른 끊김입니다. 규칙을 완벽하게 알아도, 초기의 작은 오차가 커지는 빠르기가 예측이 닿는 거리를 정합니다.

이어지는 곳. 국소적인 정보의 첫 모습은 한 점 근처의 일차 근사⁠(first-order approximation)⁠이고, 그 이야기는 선형화⁠(linearization)⁠에 있습니다. 국소적인 바닥과 전체의 바닥이 어긋나는 문제는 가장 좋은 것 고르기에서, 무한히 잘게 쪼갠 조각을 모으는 극한은 무한을 다루는 법에서 이어집니다. 곡면을 늘이고 구부려도 변하지 않는 χ 같은 수는 대칭과 불변량⁠(invariant)⁠의 주인공이고, 작은 오차가 걸음마다 쌓이는 방식은 근사와 오차에서, 이웃만 보고 걷는 무작위 산책자가 전체의 순위를 매기는 방식은 무작위성에서 다시 만납니다. '겹치는 곳에서 서로 맞는 국소 자료는 전체 자료 하나로 정확히 붙는다'는 약속을 정의로 삼은 것이 층이고, 붙지 않는 까닭을 재는 도구가 층 코호몰로지입니다. 한 공간 위의 층 전체가 이루는 세계와 그 안의 논리는 토포스⁠(topos)⁠로 이어집니다.