위상수학(Topology)

1735년 오일러는 쾨니히스베르크의 일곱 다리를 한 번씩만 건너는 산책이 불가능하다는 것을 보이면서, 강의 폭이나 다리의 길이, 땅의 모양은 전혀 쓰지 않았습니다. 어느 땅이 어느 땅과 몇 개의 다리로 이어져 있는지만 필요했습니다(오일러 경로⁠(Euler path)⁠, 그래프). 오일러는 이것이 라이프니츠가 바랐던 '위치의 기하학⁠(geometry of position)⁠'에 속하는 문제라고 적었습니다. 길이도 각도도 재지 않는 기하학, 오늘날의 위상수학이 여기서 시작됩니다. 이름은 1847년 가우스의 제자 요한 베네딕트 리스팅이 붙였습니다.

위상수학은 도형을 고무판으로 봅니다. 늘이고, 구부리고, 짓누르는 것은 괜찮지만 찢거나 따로 떨어진 곳을 붙이는 것은 안 됩니다. 이렇게 서로 바꿀 수 있는 두 도형을 위상동형⁠(homeomorphism)⁠이라 합니다. 정확히는 두 도형 사이에 점을 하나씩 짝짓는 전단사⁠(bijective)⁠ f가 있고, f와 그 역함수⁠(inverse function)⁠가 모두 연속이라는 뜻입니다. 찢으면 f가 끊기고, 붙이면 역함수가 끊깁니다. 원과 정사각형과 삼각형의 둘레는 모두 위상동형입니다. 반면 원과 선분은 위상동형이 아닙니다. 선분에서 가운데 점 하나를 빼면 두 토막으로 갈라지지만, 원에서는 어느 점을 빼도 한 덩어리로 남기 때문입니다. '점 하나를 빼면 몇 조각이 되는가' 같은, 고무판을 아무리 주물러도 변하지 않는 성질을 위상적 불변량⁠(invariant)⁠이라 부르고, 두 도형이 다르다는 것은 불변량이 다르다는 것으로 보입니다(대칭과 불변량).

유명한 예가 도넛과 머그잔입니다. 손잡이가 하나인 머그잔은 찰흙처럼 주물러 도넛 모양(원환면⁠, torus⁠)으로 바꿀 수 있습니다. 잔의 오목한 부분을 눌러 펴고 손잡이 구멍을 도넛의 구멍으로 키우면 됩니다. 반면 공은 구멍을 뚫지 않고는 도넛이 될 수 없습니다. 한 덩어리로 이어진 닫힌 곡면(가장자리가 없고 유한한 곡면) 가운데 앞뒤가 있는 것은 구멍의 수 g(종수)만으로 완전히 분류됩니다. 공(g = 0), 도넛(g = 1), 구멍 둘 달린 도넛(g = 2), ….

오일러 지표. 1750년 오일러는 크리스티안 골드바흐에게 보낸 편지에서 볼록한 다면체의 꼭짓점⁠(vertex)⁠ 수 V, 모서리 수 E, 면 수 F 사이에 늘 $V - E + F = 2$가 성립한다고 썼습니다(비슷한 관찰이 데카르트의 미발표 원고에도 있었습니다). 다면체를 로 바꿔 세어 보세요. 왼쪽 입체는 끌어서 돌려 볼 수 있습니다. 오른쪽은 한 면을 창문 삼아 들여다보며 나머지를 평면에 눌러 편 그림입니다. 창문으로 쓴 면은 바깥 영역이 되니 바깥도 한 면으로 셉니다. 도넛을 고르면 격자의 크기 $k =$ 도 바꿀 수 있습니다.

왜 늘 같은 값일까요? 면 하나를 가로지르는 모서리를 새로 그으면 E와 F가 하나씩 늘고, 모서리 가운데에 꼭짓점을 찍으면 V와 E가 하나씩 늘어서 $V - E + F$는 그대로입니다. 공 모양의 곡면을 어떻게 잘게 나누든 이런 조작과 그 되돌리기로 서로 옮겨 갈 수 있으니 값은 2 하나뿐입니다. (두 나눔이 늘 이렇게 이어진다는 부분이 엄밀한 증명에서 가장 품이 드는 곳입니다.) 이 수는 다면체가 아니라 곡면의 성질이라는 뜻에서 오일러 지표 χ라 부릅니다. 1813년 스위스의 시몽 륄리에는 액자처럼 가운데가 뚫린 다면체에서는 이 값이 0이 된다는 것을 지적했습니다. 도넛을 고르면 오른쪽 그림은 정사각형인데, 같은 색 화살표가 붙은 변끼리 이어 붙인다는 뜻입니다. 위아래를 붙이면 원기둥, 원기둥의 두 끝을 붙이면 도넛이 됩니다. 구멍이 g개인 곡면에서는 $\chi = 2 - 2g$입니다. 닫힌 곡면의 휘어짐(가우스 곡률⁠, Gaussian curvature⁠)을 곡면 전체에서 모두 더하면 $2\pi\chi$가 된다는 가우스–보네 정리⁠(Gauss–Bonnet theorem)⁠는 거리로 재는 기하학과 거리를 쓰지 않는 위상수학을 잇습니다(가우스 곡률).

열린 집합: 거리 없이 '가까움'을 말하기. '찢지 않는다'를 정확히 말하려면 연속의 정의가 필요합니다. 미적분⁠(calculus)⁠에서는 거리로 말합니다. x가 a에 충분히 가까우면 f(x)도 f(a)에 가깝다는 것입니다. 위상수학은 이 '가까움'을 거리 없이 말하려고 열린 집합⁠(set)⁠을 씁니다. 평면의 집합 U가 열린 집합이라는 것은, U의 어느 점에서나 그 점을 중심으로 작은 원판을 그려 통째로 U 안에 넣을 수 있다는 뜻입니다. 모든 점에 조금씩 움직일 여유가 있는 집합입니다. 집합 에서 점을 끌어 보세요.

이제 연속을 이렇게 말할 수 있습니다. f가 연속이라는 것은, 도착하는 쪽의 어떤 열린 집합 V를 골라도 f로 V 안에 떨어지는 점들의 모임 $f^{-1}(V)$가 출발하는 쪽에서 열린 집합이라는 것입니다. 거리로 말한 정의와 같은 내용이지만 거리라는 말이 사라졌습니다. 그래서 한 걸음 더 나아가, 어떤 집합 X에서 어떤 부분집합⁠(subset)⁠들을 '열린 집합'이라 부를지 정하기만 하면 그 위에서 연속과 가까움을 말할 수 있습니다. 규칙은 셋입니다. 공집합⁠(empty set)⁠과 X 전체는 열린 집합이고, 열린 집합을 몇 개든(무한히 많이도) 합친 것은 열린 집합이고, 열린 집합 유한 개의 교집합⁠(intersection)⁠은 열린 집합입니다. 교집합을 유한 개로 제한하는 까닭은 구체적입니다. 열린 구간 $(-1/n, 1/n)$을 모든 n에 대해 겹치면 한 점 {0}만 남는데, 한 점은 열린 집합이 아닙니다. 이렇게 열린 집합이 정해진 집합을 위상 공간⁠(topological space)⁠이라 하고, 1914년 독일의 펠릭스 하우스도르프가 『집합론⁠(set theory)⁠ 요강』에서 그 첫 꼴을 세웠습니다. 거리 함수⁠(metric)⁠가 있으면 앞에서처럼 작은 원판으로 열린 집합이 정해지지만, 거리 없이 열린 집합만 정해진 위상 공간도 많습니다.

이어져 있음, 그리고 구멍. 도형이 연결되어 있다는 것은 겹치지 않는 두 개의 비지 않은 열린 조각으로 나눌 수 없다는 뜻입니다. 구간은 연결되어 있고 연속함수는 연결된 것을 연결된 것으로 보내니, 연속함수가 두 값 사이의 모든 값을 지난다는 중간값 정리⁠(intermediate value theorem)⁠는 사실 위상수학의 정리입니다. 같은 계열의 정리가 1912년 네덜란드의 브라우어르가 증명한 고정점⁠(fixed point)⁠ 정리입니다. 가장자리까지 포함한 닫힌 원판을 자기 자신 안으로 연속적으로 옮기면 제자리에 머무는 점이 반드시 하나는 있습니다. 커피를 휘저은 뒤에도 처음 자리에 있는 점이 있다는 말로 흔히 소개됩니다.

구멍을 세는 도구는 앙리 푸앵카레가 1895년 『위치 해석⁠(analysis situs)⁠』에서 만들었습니다. 곡면 위에 고무줄 고리를 걸고 곡면을 벗어나지 않은 채 줄여 봅니다. 공 위에서는 어떤 고리든 한 점으로 줄어들지만, 도넛에서는 구멍을 감싸는 고리가 걸려서 줄어들지 않습니다. 줄어들지 않는 고리들을 모아 셈하는 것이 기본군입니다. 공간마다 기본군⁠(fundamental group)⁠을, 기준점을 지키는 연속 사상마다 기본군 사이의 준동형⁠(homomorphism)⁠을 대응시키는 이 규칙은 합성을 지키는 함자⁠(functor)⁠의 대표적인 예이고, 에일렌베르크와 매클레인이 범주론⁠(category theory)⁠을 세운 것도 이런 대응을 정확히 다루기 위해서였습니다. 푸앵카레는 1904년, 모든 고리가 한 점으로 줄어드는 닫힌 3차원 공간은 (위상동형인 것끼리 같게 보면) 3차원 구면뿐이냐고 물었습니다. 이 푸앵카레 추측⁠(Poincaré conjecture)⁠은 100년 가까이 풀리지 않다가 2002–2003년 러시아의 그리고리 페렐만이 증명했습니다. 푸앵카레가 위상수학을 세운 것은 삼체 문제⁠(three-body problem)⁠에서 궤도⁠(orbit)⁠를 정확한 식 없이 그 모양만으로 이해하려 했기 때문이었고, 그 생각은 오늘날의 동역학계⁠(dynamical system)⁠로 이어졌습니다.

20세기 초 위상수학은 수학의 공용어가 되었습니다. 괴팅겐의 에미 뇌터는 구멍의 수를 세는 일을 대수의 언어로 옮기자고 제안했고, 모스크바의 파벨 알렉산드로프와 파벨 우리손은 위상 공간의 이론을 다듬었습니다(괴팅겐, 모스크바 수학 학파). 매듭, DNA의 꼬임, 데이터의 모양을 재는 방법까지, 길이보다 '어떻게 이어져 있는가'가 중요한 곳이면 위상수학이 쓰입니다.

이어지는 곳. 위상수학의 첫 문제는 오일러 경로였고, 평면에 선이 엇갈리지 않게 그린 연결된 그래프에서도 (바깥 영역을 한 면으로 세면) $V - E + F = 2$가 성립하며, 이것이 4색 정리⁠(four color theorem)⁠의 출발점입니다. 곡면의 휘어짐(가우스 곡률)과 오일러 지표를 잇는 이야기는 가우스–보네 정리에, 곡률⁠(curvature)⁠이 음수인 곡면의 기하⁠(geometry)⁠는 쌍곡기하⁠(hyperbolic geometry)⁠에 있습니다. 실수⁠(real number)⁠ 위의 열린 집합과 닫힌 집합⁠(closed set)⁠을 층층이 쌓아 올리는 이야기는 기술 집합론⁠(descriptive set theory)⁠입니다. 거리를 버리고 이어짐만 남기는 생각은 국소에서 전체로와 표현 바꾸기로 이어집니다. 도형을 그 모양을 보존하는 변환으로 분류하는 관점은 사영기하⁠(projective geometry)⁠와 펠릭스 클라인의 에를랑겐 프로그램에 있습니다. 위상수학의 생각은 논리와 프로그램으로도 건너갑니다. 열린 집합마다 '그 위의 자료'를 정하고, 겹치는 곳에서 맞아떨어지는 자료들을 하나로 붙이는 규칙을 둔 것이 층이고, 한 공간 위의 층 전체가 이루는 범주⁠(category)⁠가 토포스⁠(topos)⁠입니다. 타입 이론⁠(type theory)⁠에서 '두 원소⁠(element)⁠가 같다'는 증명을 두 점을 잇는 경로로 읽으면, 고리와 그 변형이 논리 안으로 들어옵니다. 이것이 호모토피 타입 이론⁠(homotopy type theory)⁠입니다. 정보의 순서 위에도 위상(topology)이 있어서, 프로그램의 뜻을 다루는 영역 이론⁠(domain theory)⁠의 스콧 연속 함수⁠(function)⁠는 스콧 위상⁠(Scott topology)⁠이라는 위상에서의 연속 함수와 정확히 같습니다.