평행선의 반란

유클리드의 다섯 번째 공준⁠(postulate)⁠은 2,000년 동안 증명되지 않았습니다. 증명을 포기한 사람들이 찾은 것은 새로운 기하학들이었고, 그 끝에서 우주의 모양이 측정의 문제가 되었습니다.

이 글의 처럼 점선이 그어진 숫자는 좌우로 끌 수 있고(키보드 ←/→도 됩니다), 밑줄 친 말에 마우스를 올리면 그림에서 그 부분이 빛납니다. 그림 속 노란 점도 직접 끌 수 있습니다. 휴대폰에서는 마우스를 올리는 대신 누르면 됩니다.

철길의 두 레일은 끝없이 나란히 뻗어 갑니다. 멀리서는 한 점으로 모이는 것처럼 보이지만 원근법이 만든 착시일 뿐, 레일 사이의 간격은 어디서나 같다고 우리는 믿습니다. 이 믿음을 한 문장으로 적으면 이렇습니다. 평면 위에서, 직선 밖의 한 점을 지나면서 그 직선과 만나지 않는 직선은 꼭 하나 있다. 한 평면에 있으면서 아무리 늘여도 만나지 않는 두 직선을 서로 평행하다고 하고, 그런 직선을 평행선이라 부릅니다.

너무 당연해서 증명할 필요도 없어 보입니다. 그런데 이 문장은 2,000년 넘게 수학자들을 괴롭혔습니다. 알렉산드리아와 아테네, 바그다드와 카이로, 이스파한과 마라게, 옥스퍼드와 파비아의 학자들이 차례로 증명에 도전했고 모두 실패했습니다. 실패의 이유가 밝혀졌을 때 사람들이 손에 쥔 것은 증명이 아니라 전혀 다른 기하학들이었습니다. 그리고 그 끝에서 "우리가 사는 공간은 정말 평평한가?"라는 질문이 수학에서 물리학으로 넘어갔습니다.

이 글이 따라가는 물음은 셋입니다. 이 문장은 왜 증명되지 않았을까? 이 문장이 거짓인 세계는 어떻게 생겼을까? 우리가 사는 공간은 그 가운데 어느 쪽일까? 답의 열쇠는 삼각형 하나입니다. 세 각을 더한 값이 180°인지, 그보다 큰지 작은지가 그 세계의 평행선이 몇 개인지를 알려 줍니다.

1 · 다섯 번째 공준『원론』의 이상한 문장

이 절의 물음은 이것입니다. 유클리드가 내건 다섯 번째 약속은 정확히 무엇을 말하고, 왜 다른 네 약속과 달리 사람들을 불편하게 했을까?

기원전 300년 무렵 알렉산드리아의 유클리드는 그때까지의 그리스 기하학을 『원론』 13권으로 엮었습니다. 유클리드가 어떤 사람이었는지는 거의 알려져 있지 않지만, 이 책은 2,000년 동안 '증명이란 무엇인가'의 본보기였습니다. 같은 책에는 유클리드 호제법⁠(Euclidean algorithm)⁠도, 소수⁠(prime number)⁠가 끝없이 많다는 증명도 들어 있습니다. 1권은 23개의 정의와 다섯 개의 공준, 다섯 개의 공통 개념⁠(common notion)⁠으로 시작하고, 나머지는 모두 여기서 논리로 이끌어 냅니다. 공준은 기하학에서 증명 없이 받아들이고 출발하는 문장이고, 공통 개념은 "같은 것과 같은 것들은 서로 같다"처럼 기하학에 한정되지 않는 일반 원리입니다. 오늘날에는 이렇게 증명 없이 받아들이는 출발 문장을 통틀어 공리⁠(axiom)⁠라고 부릅니다. 처음 네 공준은 짧습니다.

1. 어느 점에서 어느 점으로든 직선을 그을 수 있다.
2. 유한한 직선을 계속 곧게 늘일 수 있다.
3. 어느 점을 중심으로 어떤 반지름으로든 원을 그릴 수 있다.
4. 직각은 모두 서로 같다.

그리고 다섯 번째는 이렇습니다.

한 직선이 두 직선과 만나서 같은 쪽에 만드는 두 내각의 합이 두 직각보다 작으면, 그 두 직선을 한없이 늘일 때 두 내각의 합이 두 직각보다 작은 쪽에서 만난다.— 유클리드, 『원론』 1권 공준 5 (기원전 300년 무렵)

낱말부터 풀어 봅시다. 두 직선을 셋째 직선 하나가 가로지르면 교차점마다 각이 생깁니다. 그 가운데 두 직선 사이에 끼어 있고 가로지르는 직선의 같은 쪽에 있는 두 각이 '같은 쪽의 두 내각'입니다. 두 직각은 90° + 90° = 180°입니다. 그러니 이 문장은 "두 내각의 합이 180°보다 작으면 두 직선은 그쪽에서 언젠가 만난다"는 뜻입니다. 두 직선이 그쪽으로 조금씩 좁혀 들어가니 결국 만난다는 말입니다.

그림으로 확인해 봅시다. 직선 ℓ 밖에 점 P가 있고, P에서 ℓ로 수선⁠(perpendicular)⁠, 곧 ℓ에 수직인 선을 내렸습니다. 여기서는 이 수선이 두 직선을 가로지르는 셋째 직선입니다. P를 지나는 직선 m이 수선과 이루는 각을 $\alpha$(그리스 문자 '알파')라 하고, $\alpha =$ 로 바꿔 보세요. 수선 오른쪽의 두 내각은 P에서의 α와 수선의 발(수선이 ℓ에 닿는 점)에서의 직각 90°이니, 합은 α + 90°입니다. 볼 것은 α를 90° 가까이 가져갈 때 만나는 점이 어디로 가는지입니다. 오른쪽에 생기는 두 내각의 합은 이고, 두 직선은 .

α가 90°보다 작으면 두 직선은 오른쪽에서, 크면 왼쪽에서 만납니다. 공준이 말하는 것이 바로 이것입니다. α가 90°보다 작으면 오른쪽 두 내각의 합이 180°보다 작으니, 공준이 말하는 대로 오른쪽에서 만납니다. α가 90°보다 크면 왼쪽 두 내각의 합(180° − α와 90°)이 180°보다 작아서 왼쪽에서 만납니다.

만나는 곳이 얼마나 먼지도 계산할 수 있습니다. 수선, ℓ, m은 P에서 각 α를 낀 직각삼각형⁠(right triangle)⁠을 이룹니다. 직각삼각형에서 한 각의 탄젠트⁠(tangent)⁠ $\tan\alpha$('탄젠트 알파')는 (그 각의 맞은편 변) ÷ (그 각에 붙은, 빗변⁠(hypotenuse)⁠이 아닌 변)이라는 비율입니다. 여기서 α에 붙은 변은 수선, 곧 P의 높이이고, α의 맞은편 변은 수선의 발에서 만나는 곳까지 ℓ을 따라 잰 거리입니다. 그래서 그 거리는 (P의 높이) × $\tan\alpha$입니다. 예를 들어 α = 45°이면 직각이등변삼각형이라 $\tan 45^\circ = 1$이고, 만나는 곳은 P의 높이만큼 떨어져 있습니다.

이제 α를 89°, 89.9°로 90°에 가까이 가져가 보세요(그림의 α는 0.1°씩 움직입니다). P의 높이를 1로 치면 만나는 곳은 57, 573만큼 떨어진 곳으로 달아나고, α가 89.99°라면 5,730까지 갑니다($\tan 89^\circ \approx 57.3$, $\tan 89.9^\circ \approx 573$, $\tan 89.99^\circ \approx 5{,}730$). α를 90°에 한없이 가까이 가져갈수록 그 거리는 어떤 수보다도 커집니다. 수학에서는 이것을 'α가 90°로 가는 극한⁠(limit)⁠에서 거리가 한없이 커진다'고 말합니다. 만나는 곳은 언제나 유한한 거리에 있지만, 그 거리에는 한계가 없습니다.

다섯 번째 공준은 종이 위에서는 결코 확인할 수 없을 만큼 얼마든지 먼 곳에서 일어나는 일을 장담하는 문장입니다. "직선을 그을 수 있다", "원을 그릴 수 있다"처럼 자와 컴퍼스로 해 볼 수 있는 일을 말하는 다른 공준들과는 사뭇 다릅니다.

오늘날 교과서의 "직선 밖의 한 점을 지나 그 직선에 평행한 직선은 하나뿐이다"라는 형태는 1795년 스코틀랜드의 수학자 존 플레이페어가 펴낸 『원론』에서 널리 퍼졌습니다. 나머지 공준, 공리들과 함께 놓으면 이 문장과 유클리드의 문장은 어느 쪽에서든 다른 쪽을 증명할 수 있어서 같은 뜻이 됩니다. 그래서 이 글에서는 둘을 모두 평행선 공준⁠(parallel postulate)⁠이라고 부르겠습니다. 위 그림에서 α가 정확히 90°가 되면 직선 m이 청록색으로 바뀝니다. 만나지 않는 직선은 그 하나뿐입니다.

한 방향은 그림으로 바로 확인됩니다. α가 90°가 아니면 어느 한쪽의 두 내각의 합이 180°보다 작으니, 유클리드의 공준에 따라 m은 ℓ과 만납니다. 그러니 P를 지나며 ℓ과 만나지 않는 직선이 있다면 α = 90°인 그 하나뿐입니다. 거꾸로 α = 90°인 직선이 ℓ과 정말 만나지 않는다는 것은 다섯 번째 공준 없이도 증명됩니다. 유클리드가 1권 27번과 28번 명제에서 보인 것입니다. 곧 흔히 생각하는 것과 달리, 다섯 번째 공준이 보태는 것은 평행선이 있다는 사실이 아니라 하나뿐이라는 사실입니다. 이 구별은 4절에서 중요해집니다.

정리하면, 다섯 번째 공준은 '두 직선이 조금이라도 좁혀 들어가면 언젠가 만난다'는 약속이고, 이것은 '직선 밖의 한 점을 지나는 평행선은 하나뿐이다'와 같은 말입니다. 그 '언젠가'는 얼마든지 먼 곳일 수 있습니다.

그래서 사람들은 이것이 받아들여야 할 약속이 아니라 증명해야 할 정리라고 느꼈습니다. 공준으로 옮기는 그리스어 '아이테마'는 증명 없이 받아 달라는 '요청'이라는 뜻입니다. 아리스토텔레스는 학문의 출발점이 그 자체로 분명해야 한다고 가르쳤는데, 이 문장은 그렇게 분명해 보이지 않았습니다. 유클리드는 1권의 처음 28개 명제를 이 공준 없이 증명하고 29번 명제에서야 처음 씁니다. 이것은 유클리드 자신도 이 공준을 되도록 미루려 했다는 표시로 흔히 읽힙니다. 그 뒤로 삼각형 세 내각의 합이 두 직각이라는 32번 명제, 그리고 1권의 마지막을 장식하는 피타고라스 정리(47번 명제)가 모두 이 공준에 기댑니다.

이것은 공준에서 아예 빼 버려야 한다. 많은 어려움을 안고 있는 정리이기 때문이다.— 프로클로스, 『유클리드 원론 제1권 주석』(5세기)

프로클로스는 플라톤의 철학을 이어받아 발전시킨 신플라톤주의⁠(Neoplatonism)⁠ 학파의 학교를 아테네에서 이끌었습니다. 그는 2세기의 천문학자 프톨레마이오스가 이미 이 공준을 증명하려 했다고 전하고, 그 증명의 잘못을 짚은 뒤 자기 증명을 내놓았습니다. 그러나 그의 증명도 평행한 두 직선 사이의 거리가 한없이 벌어지지는 않는다는 가정을 슬쩍 쓰고 있었습니다. 앞으로 1,300년 동안 되풀이될 이야기의 첫 장입니다.

2 · 천 년의 시도바그다드에서 파비아까지

이 절의 물음은 이것입니다. 다섯 번째 공준을 나머지 공준들로 증명하려던 시도들은 어디서 어긋났고, 그 실패들에는 어떤 공통점이 있었을까?

『원론』은 8세기 말부터 아바스 왕조의 바그다드에서 아랍어로 옮겨졌습니다. 칼리프와 관리, 부유한 학자 집안이 제각기 돈을 대어 그리스의 과학과 철학을 아랍어로 옮기던 넓은 번역 운동(지혜의 집)의 하나였습니다. 기도 시각과 메카의 방향을 정하는 천문학, 땅을 재고 세금을 매기는 측량에 기하학이 필요했습니다. 9세기 후반 그곳의 수학자이자 번역가 타비트 이븐 쿠라는 번역을 다듬으면서 평행선 공준의 증명도 시도했습니다. 그 뒤 몇 세기 동안 이 공준을 가장 끈질기게 붙든 곳은 이슬람 세계였습니다.

첫 번째 큰 시도는 움직임을 빌렸습니다. 이븐 알하이삼(965년 무렵–1040년 무렵)은 바스라에서 태어나 파티마 왕조의 카이로에서 활동한 학자로, 빛과 시각을 다룬 『광학의 책』으로 이름났습니다. 그는 한 선분을 직선에 수직으로 세운 채 직선을 따라 미끄러뜨리면, 그 끝점이 그리는 자취가 직선이라고 보았습니다. 철길로 말하면, 한쪽 레일에서 늘 같은 거리에 있는 점들을 이으면 그것이 곧은 레일이 된다는 생각입니다. 이것을 받아들이면 세 각이 직각인 사각형의 넷째 각도 직각이 되어 직사각형이 생기고, 거기서 평행선 공준이 따라 나옵니다. 문제는 '같은 거리의 점들이 직선을 이룬다'는 것 자체가 증명되지 않은 가정이라는 데 있었습니다.

페르시아의 오마르 하이얌은 셀주크 술탄의 이스파한 궁정에서 역법 개정에 참여한 천문학자이자, 3차방정식⁠(cubic equation)⁠을 원과 포물선⁠(parabola)⁠ 같은 원뿔곡선⁠(conic section)⁠ 두 개의 교점으로 푼 수학자였습니다. 오늘날에는 그의 이름으로 전하는 4행시집으로 더 유명합니다. 하이얌은 1077년에 쓴 주해에서 이븐 알하이삼의 방법을 비판했습니다. 기하학의 증명에 움직임을 끌어들여서는 안 된다는 것입니다.

그 대신 그는 사각형 하나를 생각했습니다. 밑변 AB의 양 끝에 같은 길이의 수선 AD와 BC를 같은 쪽으로 세우고, 두 수선의 끝 D와 C를 이어 윗변 DC를 만듭니다. 밑변의 두 각은 직각이고 두 옆변의 길이가 같으니, 이 사각형은 AB의 한가운데를 지나는 수직선을 축으로 접으면 좌우가 꼭 겹칩니다. 그래서 윗변 양 끝의 두 각 D와 C는 서로 같습니다. 그 각은 직각(90°)이거나 예각(90°보다 작은 각)이거나 둔각(90°보다 큰 각)입니다.

평면의 직사각형을 떠올리면 당연히 직각일 것 같습니다. 그러나 그것을 평행선 공준 없이 보일 수 있느냐가 문제입니다. 직각이면 평행선 공준이 성립한다는 것은 보일 수 있으니, 나머지 두 경우를 모순으로 몰아내면 증명이 끝납니다. 그는 "서로 가까워지는 두 직선은 결국 만나며, 가까워지다가 다시 멀어질 수는 없다"는 원리를 아리스토텔레스의 것으로 여겨 받아들이고, 이것으로 예각과 둔각의 경우를 물리쳤습니다. 문제는 그 원리가 평행선 공준과 힘이 같은 가정이라는 것이었습니다. '같은 힘'이란 나머지 공리와 함께 놓으면 어느 쪽에서든 다른 쪽을 증명할 수 있다는 뜻입니다. 공준을 증명한 것이 아니라 이름만 바꿔 다시 가정한 셈입니다.

13세기에는 천문학자 나시르 알딘 알투시가 앞선 시도들을 검토한 논고를 썼습니다. 그는 1258년 바그다드를 무너뜨린 몽골의 훌레구를 섬겼고, 이듬해부터 오늘날 이란 북서부의 마라게에 천문대를 세워 이끌었습니다. 정복자의 후원을 받은 이 천문대에는 여러 지역의 학자와 장서가 모였습니다.

유럽이 『원론』을 다시 읽게 된 것부터가 아랍어 덕분이었습니다. 1120년 무렵 잉글랜드 바스의 애덜라드가 아랍어판을 라틴어로 옮겼고, 이 계통의 라틴어판이 1482년 베네치아에서 처음 인쇄된 『원론』의 바탕이 되었습니다. 평행선 공준을 둘러싼 이슬람 세계의 논의 가운데 나중에 가장 큰 영향을 남긴 것은 인쇄된 책 한 권을 타고 유럽에 닿았습니다. 알투시의 이름이 붙은 『원론』 개정판은 1594년 로마의 메디치 동방 인쇄소에서 아랍어로 인쇄되었습니다. 실제로는 그의 학파의 다른 사람이 썼다고 보는 견해가 많습니다. 어쨌든 이 책은 유럽의 학자들 손에 들어갔고, 1663년 옥스퍼드의 수학자 존 월리스는 강의에서 그 안의 증명을 라틴어로 소개했습니다. 월리스 자신은 "어떤 도형이든 크기만 다르고 모양이 같은 도형이 있다"는 가정으로 공준을 증명했는데, 이것 역시 공준과 힘이 같은 가정이었습니다.

평행선 공준을 증명하려던 시도들이 지나간 길. 『원론』은 알렉산드리아에서 아테네와 바그다드로, 거기서 카이로와 이스파한, 마라게로 건너갔고, 1594년 로마에서 인쇄된 아랍어판을 거쳐 옥스퍼드와 파비아, 베를린으로 이어졌습니다. 지명에 마우스를 올리면 그곳의 이야기가 나옵니다.

돌아보면 이 시도들에는 공통된 모양이 있습니다. 누군가 증명을 내놓으면, 그 속에 무심코 들어간 '당연한' 가정이 알고 보니 평행선 공준과 같은 말이었습니다. 이렇게 확인된 짝이 여럿 있습니다. 나머지 공리들 아래서 평행선 공준은 다음 문장 하나하나와 같은 말입니다.

• 삼각형 세 내각의 합은 180°이다.
• 네 각이 모두 직각인 사각형, 곧 직사각형이 있다.
• 크기가 다른 닮은 삼각형이 있다(월리스).
• 한 직선에서 같은 거리에 있는 점들은 직선을 이룬다(이븐 알하이삼).
• 모든 직각삼각형에서 피타고라스 정리⁠(Pythagorean theorem)⁠가 성립한다.

'같은 말'이 무슨 뜻인지 첫 줄로 한 방향만 확인해 봅시다. 평행선 공준을 쓰면 삼각형 세 내각의 합이 180°라는 것이 나옵니다. 삼각형 ABC의 꼭짓점⁠(vertex)⁠ A를 지나 밑변 BC에 평행한 직선을 긋습니다. 평행선 공준 덕분에 이런 직선은 하나뿐이고, 이 직선과 AB가 이루는 각은 각 B와 같고, AC가 이루는 각은 각 C와 같습니다. 평행선이 엇갈린 자리에 만드는 두 각, 곧 엇각⁠(alternate angles)⁠이 같다는 유클리드의 29번 명제이고, 평행선 공준이 처음 쓰이는 곳입니다. 그러면 A에서 이 직선을 따라 한쪽 끝에서 다른 쪽 끝까지 각 B, 각 A, 각 C가 빈틈없이 나란히 놓여 평각, 곧 180°를 채웁니다.

거꾸로 '모든 삼각형의 합이 180°'에서 평행선 공준을 끌어내는 방향은 조금 길지만, 뼈대는 숫자로 따라갈 수 있습니다. 1절 그림처럼 P에서 ℓ로 수선을 내리고 그 발을 Q라 합니다. ℓ 위에 QQ₁ = PQ가 되는 점 Q₁을 잡으면, 삼각형 PQQ₁은 두 변이 같은 직각삼각형이라 두 밑각이 같습니다. 세 각의 합이 180°이니 두 밑각은 각각 45°이고, 각 QPQ₁은 45°입니다. 이어서 ℓ 위에 더 멀리 Q₁Q₂ = PQ₁이 되는 점 Q₂를 잡습니다. 삼각형 PQ₁Q₂에서 Q₁의 각은 180° − 45° = 135°이고 두 밑각이 같으니, 두 밑각은 각각 22.5°입니다. 그래서 각 QPQ₂는 45° + 22.5° = 67.5°입니다.

이것을 되풀이하면 각 QPQ₁, QPQ₂, QPQ₃, …은 45°, 67.5°, 78.75°, …가 되고, 90°와의 차이가 매번 절반으로 줄어 90°에 한없이 다가갑니다. 이제 P를 지나며 수선과 90°보다 작은 각 α를 이루는 직선 m을 봅시다. α보다 큰 각 QPQₙ이 있으니, m은 P에서 삼각형 PQQₙ 안으로 들어갑니다. 삼각형 안으로 들어간 직선은 맞은편 변 QQₙ으로 나가야 하므로 m은 ℓ과 만납니다. 이것이 평행선 공준입니다.

증명하려던 사람들은 결국 공준을 더 그럴듯해 보이는 다른 문장으로 바꿔 적었을 뿐입니다. 그런데 그들이 모순을 찾으려고 '틀린' 경우들을 꽤 깊이 파고들었다는 사실이 나중에 중요해집니다.

3 · 세 가지 가설사케리의 사각형

이 절의 물음은 이것입니다. 평행선 공준이 거짓이라고 가정하면 무엇이 달라질까? 답은 삼각형의 세 각의 합에서 드러납니다.

하이얌의 사각형을 가장 멀리 밀고 간 사람은 이탈리아 파비아 대학에서 가르친 예수회 수사 조반니 지롤라모 사케리(1667–1733)였습니다. 그는 윗변의 두 각이 직각인 경우, 둔각인 경우, 예각인 경우를 '직각 가설', '둔각 가설', '예각 가설'이라 부르고, 뒤의 둘에서 모순을 끌어내려 했습니다. 그가 죽은 해인 1733년 밀라노에서 나온 책의 제목, 『모든 흠에서 벗어난 유클리드』가 그 목표를 말해 줍니다.

세 가설은 삼각형 세 내각의 합과 짝을 이룹니다. 직각 가설이면 합이 언제나 180°, 둔각 가설이면 언제나 180°보다 크고, 예각 가설이면 언제나 180°보다 작습니다.

까닭의 핵심은 숫자 하나로 볼 수 있습니다. 예각 가설에서 윗변의 두 각이 각각 85°라고 해 봅시다. 밑변의 두 각은 직각이니 사각형의 네 각의 합은 90° + 90° + 85° + 85° = 350°입니다. 이제 대각선 하나를 그어 사각형을 삼각형 둘로 나누면, 네 각이 두 삼각형의 여섯 각으로 빠짐없이 나뉩니다. 그래서 두 삼각형의 각의 합을 더하면 350°이고, 둘 다 180°일 수는 없으니(그러면 360°) 적어도 한 삼각형은 180°보다 작습니다. 둔각 가설이면 같은 계산으로 적어도 한 삼각형이 180°보다 큽니다. '적어도 하나'를 '모든 삼각형'으로 넓히는 데는 한 가설이 사각형 하나에서 성립하면 모든 사각형에서 성립한다는 사케리의 정리가 쓰입니다. 여기서는 그 결과만 받아들입니다.

아래 세 그림은 세 가설이 실제로 성립하는 세 세계에 같은 크기의 정삼각형을 하나씩 그린 것입니다. 왼쪽은 평면, 가운데는 구면(공의 겉면)을 위에서 내려다본 모습, 오른쪽은 다음 절에서 설명할 쌍곡평면입니다. 구면에서 '직선' 노릇을 하는 것은 공을 가장 크게 두르는 원이고, 이것은 6절에서 자세히 봅니다. 한 변의 길이(지금 )를 바꿔 보세요. 길이는 구의 반지름을 1로 잡은 단위로 잽니다. 쌍곡평면⁠(hyperbolic plane)⁠에도 휘어진 정도를 정하는 같은 역할의 길이가 있어서, 그것을 1로 잡습니다. 볼 것은 변을 줄이고 늘일 때 세 각의 합이 180°에서 얼마나 벗어나는지입니다.

평면의 삼각형은 크기와 상관없이 세 각의 합이 입니다. 구면의 삼각형은 로 180°보다 크고, 쌍곡평면의 삼각형은 로 모자랍니다. 변을 0.1쯤으로 줄여 보세요. 세 삼각형의 각의 합이 모두 180°에 가까워집니다. 휘어진 세계도 아주 작은 부분만 보면 평면과 구별되지 않습니다. 곡선을 아주 크게 확대하면 직선처럼 보이는 것(국소 선형성⁠, local linearity⁠)의 기하학판입니다.

반대로 변을 늘리면 차이가 커집니다. 구면에서는 변을 끝까지(2) 늘리면 각 하나가 135°쯤이 되고 세 꼭짓점이 적도 가까이 내려옵니다. 반지름 1인 구의 적도는 둘레가 $2\pi$이니, 한 변이 그 3분의 1인 $2\pi/3 \approx 2.09$에 이르면 세 꼭짓점이 적도를 삼등분하는 자리에 놓입니다. 그러면 세 변이 모두 적도 위에 놓여 각이 모두 180°가 되고, 삼각형이 반구 전체가 됩니다. 쌍곡평면에서는 변이 길어질수록 각이 0°를 향해 쪼그라듭니다.

정리하면, 세 각의 합이 180°에서 벗어나는 방향이 그 세계의 종류를 알려 주고, 벗어나는 양은 삼각형이 클수록 커집니다. 6절에서 이 양이 정확히 삼각형의 넓이⁠(area)⁠에 비례한다는 것을 봅니다.

사케리는 둔각 가설을 비교적 쉽게 물리쳤습니다. 이 가설에서는 직선의 길이가 유한하다는 결론이 나오는데, 사케리는 두 번째 공준을 직선이 한없이 뻗는다는 뜻으로 읽었으니까요. 실제로 구면에서 직선 노릇을 하는 대원(적도처럼 구를 가장 크게 두르는 원)은 한 바퀴 돌아 제자리로 오는 유한한 곡선입니다. 예각 가설은 훨씬 끈질겼습니다. 사케리는 여기서 수십 개의 정리를 끌어냈지만 모순은 나오지 않았고, 결국 두 직선이 무한히 먼 곳에서 공통 수선(두 직선 모두에 수직인 선)을 이룬다는 결론을 두고 이렇게 선언했습니다.

예각 가설은 완전히 거짓이다. 직선의 본성에 어긋나기 때문이다.— 사케리, 『모든 흠에서 벗어난 유클리드』(1733), 명제 33

그것은 모순이 아니라 낯섦이었습니다. 모순을 찾으며 쌓아 올린 정리들은 사실 새로운 기하학의 정리였습니다. 책은 곧 잊혔다가 1889년 이탈리아의 기하학자 에우제니오 벨트라미가 다시 세상에 알렸습니다.

사케리의 책은 잊혔지만 질문은 잊히지 않았습니다. 18세기 중반 계몽주의의 파리에서 『백과전서』를 함께 엮은 달랑베르는 평행선 이론을 "기하학 원론의 추문"이라고 불렀습니다. 증명이라고 나온 것은 많은데 하나도 통하지 않는다는 한탄이었습니다. 그 증명들을 한자리에 모아 따져 본 사람이 괴팅겐의 대학생이었습니다. 1763년 게오르크 지몬 클뤼겔은 스승 아브라함 케스트너 아래서 쓴 학위 논문에서 앞 시대의 증명 시도 서른 가지 가까이를 하나씩 검토했습니다. 흔히 스물여덟 가지로 헤아리지만 세는 방법에 따라 조금씩 다릅니다. 그는 그 모두가 어딘가에서 공준과 힘이 같은 가정을 몰래 쓴다는 것을 보였고, 이 공준이 참이라고 우리가 믿는 근거는 증명이 아니라 경험일지 모른다고 적었습니다. 2절 끝에서 본 '같은 말로 바꿔 적기'의 목록을 처음으로 체계 있게 만든 셈입니다. 그리고 이 논문을 읽은 사람이 다음 걸음을 뗐습니다.

베를린 과학 아카데미의 요한 하인리히 람베르트는 1766년에 쓴 『평행선 이론』에서 더 멀리 나아갔습니다. 예각 가설에서는 삼각형의 각이 180°보다 모자란 양이 삼각형의 넓이에 비례합니다. 넓이가 두 배인 삼각형은 두 배 모자란다는 뜻입니다. 구면에서 각이 남는 양이 넓이에 비례하는 것과 똑같은 모양입니다.

그래서 람베르트는 예각 가설이 반지름이 허수⁠(imaginary number)⁠인 구면, 곧 '허수 반지름의 구면'에서 성립할지도 모른다고 적었습니다. 이 이상한 말에는 간단한 까닭이 있습니다. 6절에서 보겠지만 반지름 R인 구면에서는 (남는 각) = (넓이) ÷ $R^2$입니다. 여기서 각은 180°를 π(약 3.14)로 세는 단위인 라디안⁠(radian)⁠으로 잽니다. 라디안은 6절에서 자세히 봅니다. 이제 허수 단위⁠(imaginary unit)⁠ $i$, 곧 제곱하면 −1이 되는 수를 써서 반지름을 $R = ir$로 두면 $R^2 = -r^2$이 되어, 남는 각이 음수, 곧 모자란 각이 됩니다.

이 예감은 정확했습니다. 구면 삼각형의 변과 각 사이의 관계식(코사인 법칙⁠(law of cosines)⁠의 구면판)에서 반지름 $R$ 자리에 $iR$을 넣으면 코사인⁠(cosine)⁠이 쌍곡코사인⁠(hyperbolic cosine)⁠ $\cosh x = \tfrac{e^x + e^{-x}}{2}$로 바뀌면서 쌍곡기하⁠(hyperbolic geometry)⁠의 공식이 그대로 나옵니다. 여기서 e는 약 2.718인 수이고, cosh('쌍곡코사인')는 x = 0에서 1이며 x가 커지면 빠르게 커집니다(cosh 3 ≈ 10.07). 이 원고는 람베르트가 죽은 뒤인 1786년에야 출판되었습니다. 람베르트는 원주율⁠(pi)⁠이 무리수⁠(irrational number)⁠임을 처음 증명한 사람이기도 합니다.

혁명기 파리에서는 증명을 향한 가장 끈질긴 도전이 교과서 속에서 이어졌습니다. 르장드르가 1794년에 낸 『기하학 원론』은 유클리드를 대신할 교과서로 프랑스와 미국 등지에서 수십 년 동안 널리 쓰였습니다. 르장드르는 판을 거듭할 때마다 평행선 공준의 새 증명을 싣거나 고쳤고, 세상을 떠난 1833년에도 이 문제를 다룬 긴 논문을 냈습니다. 증명은 매번 어딘가에서 공준과 힘이 같은 가정에 기댔습니다. 그래도 남은 것이 있습니다. 나머지 공리들만으로 삼각형 세 내각의 합이 180°를 넘을 수 없다는 것, 그리고 한 삼각형이라도 합이 정확히 180°이면 모든 삼각형이 그렇다는 것입니다. 앞의 것을 오늘날 사케리–르장드르 정리라 부릅니다. 여기서 '나머지 공리'에는, 아무리 작은 길이라도 여러 번 이어 붙이면 어떤 길이든 넘어선다는 아르키메데스의 공리가 들어갑니다. 르장드르의 둘째 결과 덕분에, 2절에서 본 뼈대는 '모든 삼각형이 180°'가 아니라 삼각형 하나만 180°여도 성립합니다. 둔각 가설은 공리들만으로 배제되고, 남는 선택은 '어디서나 180°'와 '어디서나 180°보다 작다' 둘뿐입니다.

4 · 무에서 만든 세계가우스, 보여이, 로바쳅스키

이 절의 물음은 이것입니다. 평행선 공준을 증명하려 애쓰는 대신 아예 뒤집어 '평행선이 여럿 있다'를 받아들이면, 어떤 세계가 나올까? 그 세계를 눈으로 보는 지도는 절의 뒷부분에 있습니다. 먼저 이 한 걸음이 왜 그렇게 늦게, 조심스럽게 내디뎌졌는지부터 봅니다.

18세기 말, 유클리드 기하학에는 수학 밖의 무게가 하나 더 실렸습니다. 철학이 그것을 '유일하게 가능한 기하⁠(geometry)⁠'로 떠받친 것입니다. 1781년 쾨니히스베르크의 철학자 칸트는 『순수이성비판』에서 공간을 이렇게 보았습니다. 공간은 경험에서 배워 아는 것이 아니라, 무엇이든 경험하려면 미리 갖추고 있어야 하는 틀, 곧 '직관의 형식⁠(form of intuition)⁠'이라는 것입니다. 그래서 기하학은 특별한 지식의 본보기가 되었습니다. 경험에 앞서 확실하면서도(선험적⁠, a priori⁠), 개념을 풀어 쓰는 데 그치지 않고 새로운 것을 알려 주는(종합적) 지식입니다.

칸트는 두 직선으로 둘러싸인 도형이라는 개념에 논리적 모순은 없다고 인정했습니다. 그러면서도 그런 도형은 직관 속에서 그려 낼 수 없다고 보았습니다. 그의 철학은 유클리드 기하가 우리 정신의 구조에서 오는 유일한 공간의 기하라는 믿음의 근거로 널리 읽혔습니다. 그러니 평행선 공준을 버린다는 것은 수학의 문제를 넘어 철학의 권위에 맞서는 일이 되었습니다. 칸트가 평생 거의 떠나지 않은 쾨니히스베르크는 오일러의 다리 문제의 무대이기도 합니다(「일곱 다리의 도시」).

『원론』을 흔들림 없는 확실성의 본보기로 본 것은 유럽만이 아니었습니다. 1607년 베이징에서 예수회 선교사 마테오 리치와 명나라의 학자 서광계는, 리치의 스승 클라비우스가 펴낸 라틴어판의 앞 여섯 권을 한문으로 옮겨 『기하원본』으로 냈습니다. 평행선 공준이 든 1권도 그 안에 있었습니다. 서광계는 이 책을 두고 "의심할 필요도, 짐작할 필요도, 시험해 볼 필요도, 고칠 필요도 없다"고 적었습니다. 나머지 아홉 권은 250년 뒤인 1857년 이선란과 영국 선교사 와일리가 옮겼습니다. 그 사이 유럽에서는 바로 그 '고칠 필요가 없는' 책의 다섯 번째 공준이 뒤집히고 있었습니다.

그런데 괴팅겐의 가우스는 다르게 생각하기 시작했습니다. 1817년 천문학자 올베르스에게 보낸 편지에서 그는 기하학의 필연성은 적어도 인간의 이성으로는 증명할 수 없을지 모르며, 기하학은 순수하게 선험적인 산술이 아니라 역학과 같은 자리에 두어야 한다고 썼습니다. 1820년대에는 삼각형 내각의 합이 180°보다 작다고 가정하면 이상하지만 모순 없는 기하가 나온다는 생각을 몇몇 편지에서 내비쳤습니다. 그러나 끝내 발표하지 않았습니다. 1829년 쾨니히스베르크의 천문학자 베셀에게 보낸 편지에 그 이유가 적혀 있습니다.

내 견해를 온전히 밝히려 한다면 보이오티아 사람들이 질러 댈 아우성이 두렵다.— 가우스가 베셀에게 보낸 편지(1829)

보이오티아는 고대 아테네 사람들이 둔한 시골 사람의 대명사로 삼던 지방입니다. 칸트의 권위가 드높던 시대에 공간의 선험적 진리를 건드리는 일이 얼마나 부담스러웠는지 보여 주는 말로 흔히 읽힙니다.

그렇다고 이것이 가우스 혼자만의 생각은 아니었습니다. 1818년 마르부르크 대학의 법학 교수 페르디난트 카를 슈바이카르트는 짧은 메모를 가우스의 제자인 천문학자 게를링을 통해 괴팅겐으로 보냈습니다. 삼각형 세 각의 합이 두 직각보다 작은 기하가 있을 수 있으며, 그것이 별들 사이처럼 아주 큰 규모에서 성립할지 모른다는 뜻에서 '별의 기하'라 부르자는 내용이었습니다. 가우스는 이듬해 답장에서 거의 모든 것이 자기 생각과 같다고 인정하고, 그런 기하에서는 삼각형의 넓이에 넘을 수 없는 한계가 있다는 식까지 덧붙였습니다. 슈바이카르트의 조카 프란츠 타우리누스는 1825–26년에 낸 두 권의 책에서, 3절에서 람베르트가 떠올린 '허수 반지름의 구면'의 공식을 끝까지 계산해 '로그–구면 기하'라 불렀습니다. 그러나 그 자신은 이것이 실제 공간의 기하일 수 있다고 믿지 않았습니다. 새 기하의 공식은 이렇게 1820년대에 이미 여러 사람의 책상 위에 있었습니다. 모자랐던 것은 계산이 아니라, 그것을 우리 공간의 가능한 기하로 내세울 용기와 그것을 받아 줄 독자였습니다.

나는 무에서 새롭고 다른 세계를 만들어 냈습니다.— 야노시 보여이가 아버지에게 보낸 편지(1823년 11월 3일)

그 결과는 1832년 아버지가 펴낸 수학 교과서에 라틴어 「부록」으로 실렸습니다. 퍼르커시가 이것을 옛 친구 가우스에게 보냈을 때 돌아온 답은 뜻밖이었습니다. 가우스는 이 일을 칭찬하면 자기 자신을 칭찬하는 셈이 된다고 썼습니다. 그 내용이 자기가 30여 년 동안 해 온 생각과 거의 똑같다는 것입니다. 가우스가 젊은이의 재능에 감탄했다고 덧붙인 것도 사실이지만, 야노시는 깊이 낙담했고 그 뒤로 수학 논문을 거의 발표하지 않았습니다.

세 사람은 서로의 일을 모른 채 같은 일을 했습니다. 평행선 공준 대신 그 반대, 곧 "직선 밖의 한 점을 지나 그 직선과 만나지 않는 직선이 둘 이상 있다"를 받아들이고, 모순이 나오기를 기다리는 대신 그 세계의 삼각법⁠(trigonometry)⁠을 끝까지 계산해 본 것입니다. 모순은 나오지 않았습니다. 그렇게 태어난 기하를 오늘날 쌍곡기하라고 부릅니다.

로바쳅스키는 자기 기하가 우리 공간의 기하일 수도 있다고 진지하게 생각했고, 그래서 재 보려 했습니다. 1829년의 글에서 그는 지구 공전 궤도⁠(orbit)⁠의 지름과 시리우스 같은 별이 이루는 거대한 삼각형을 떠올리고, 당시 천문학자들이 내놓은 별의 연주 시차⁠(annual parallax)⁠ 값을 넣어 보았습니다. 연주 시차는 지구가 궤도의 양 끝에 있을 때 별이 보이는 방향의 차이입니다. 별의 시차가 믿을 만하게 처음 측정된 것은 9년 뒤인 1838년 베셀의 일이니, 그가 쓴 값은 지금 보면 부정확합니다. 계산해 보니 그 삼각형의 각의 합이 180°에서 벗어나는 양은 측정할 수 있는 것보다 훨씬 작았습니다. 그는 이 비교로 어느 쪽도 가릴 수 없다는 것을 알았습니다. 공간이 휘었다면 언젠가 측정으로 드러날 수 있지만, 평평하다는 것은 어떤 유한한 측정으로도 끝내 증명할 수 없기 때문입니다. 그는 평생 이 기하를 고쳐 쓰고 다시 발표했고, 눈이 먼 말년인 1855년에는 마지막 책 『범기하학⁠(pangeometry)⁠』을 받아쓰게 해서 냈습니다.

그 세계를 보려면 지도가 필요합니다. 아래 오른쪽 그림은 반세기 뒤 푸앵카레가 쓴 지도, 푸앵카레 원판⁠(Poincaré disk)⁠입니다. 규칙은 세 가지뿐입니다.

1. 원판 안의 점이 이 세계의 점입니다. 경계의 원 위의 점은 이 세계에 들지 않습니다.
2. 원판의 지름, 그리고 경계의 원과 직각으로 만나는 원호(원의 일부)가 이 세계의 직선입니다. '직각으로 만난다'는 것은 만나는 점에서 원호가 경계를 따라 비스듬히 스치지 않고, 경계에 대해 똑바로 가로지른다는 뜻입니다.
3. 경계는 한없이 멀어서 결코 닿을 수 없습니다. 경계에 가까울수록 같은 길이가 그림에서 짧게 그려질 뿐, 이 세계에 사는 사람에게는 어디나 똑같이 보입니다.

세계 지도가 극지방을 부풀려 그리듯, 이 지도는 경계 쪽을 줄여 그립니다. 그래서 그림에서 휘어 보이는 원호가 이 세계 안에서는 가장 짧은 길, 곧 곧은 선입니다. 아래에서는 왼쪽 평면과 오른쪽 원판에 똑같이 직선 ℓ과 그 밖의 점 P를 두고, P를 지나는 직선 가운데 몇 개가 ℓ과 만나지 않는지 비교합니다.

P를 지나는 노란 직선의 방향을 로 돌려 보세요. 방향은 ℓ과 나란한 가로 방향을 0°로 잡고 잰 각입니다. 평면에서 이 직선은 ℓ과 . 원판에서는 . 평면에서 ℓ과 만나지 않는 방향은 0° 하나뿐입니다. 1절에서 본 평행선 공준 그대로입니다.

원판에서는 18개 방향 가운데 가 ℓ과 만나지 않습니다. 그림에는 18개만 그렸지만 그 사이의 방향까지 치면 만나지 않는 직선은 무수히 많습니다. 평행선 공준이 이 세계에서는 성립하지 않는 것입니다. 그렇다고 이 세계가 1절의 다른 약속들을 어기지는 않습니다. 두 점을 지나는 직선은 여전히 하나이고, 직선은 여전히 한없이 뻗습니다.

만나지 않는 직선들은 부채꼴 하나를 채웁니다. 그 부채꼴의 양쪽 끝에 선 보라색 점선 두 개는 ℓ의 두 끝, 곧 경계 위의 두 점을 향해 갑니다. 경계는 이 세계에서 무한히 먼 곳이니, 이 두 직선은 무한히 먼 곳에서만 ℓ과 '만납니다'. 로바쳅스키는 이 두 직선을 평행선이라 불렀고, 두 평행선 사이의 부채꼴에 든 나머지 직선들은 ℓ과 영영 만나지 않습니다. '평행'이라는 말은 이렇게 기하마다 뜻이 조금씩 다릅니다. 오늘날에는 흔히 만나지 않는 직선을 모두 평행선이라 부르고, 경계에 선 이 두 직선을 따로 극한 평행선⁠(limiting parallel)⁠, 나머지를 초평행선이라 부릅니다. 이 글도 앞으로 '평행선이 무수히 많다'고 할 때는 만나지 않는 직선 전체를 가리킵니다.

P에서 ℓ로 내린 수선과 이 두 평행선이 이루는 각을 평행각⁠(angle of parallelism)⁠이라고 합니다. 지금 P는 ℓ에서 이 세계의 길이로 만큼 떨어져 있습니다. 이 거리 d에서의 평행각을 $\Pi(d)$('파이 d'라 읽습니다. 대문자 파이로, 원주율 π와는 다른 기호입니다)라고 쓰면

입니다. 두 평행선은 수선의 양쪽으로 평행각만큼씩 기울어 있으니, 그 바깥쪽, 곧 180°에서 평행각의 두 배를 뺀 의 부채꼴을 만나지 않는 직선들이 채웁니다.

공식을 말로 읽어 봅시다. $e^{-d}$는 $1 \div e^d$이고, $e^d$는 약 2.718인 수 e를 d제곱한 수입니다(d = 2이면 e × e ≈ 7.39). 그래서 $e^{-d}$는 d = 0이면 1이고 d가 커질수록 0에 가까워집니다. arctan('아크탄젠트⁠(arctangent)⁠')은 탄젠트를 거꾸로 푸는 것, 곧 '탄젠트 값이 이것인 각'입니다. d = 0이면 $\Pi(0) = 2\arctan 1 = 2 \times 45^\circ = 90^\circ$이고, d = 1이면 $e^{-1} \approx 0.368$이라 $\Pi(1) \approx 2 \times 20.2^\circ = 40.4^\circ$입니다.

로바쳅스키가 찾은 이 공식에서 P를 ℓ 가까이 끌어 거리 d를 0으로 보내면 평행각은 90°로 가고 부채꼴은 닫힙니다. 가까운 곳만 보면 유클리드 기하처럼 보이는 것입니다. 반대로 P를 멀리 보낼수록 평행각은 0°로 줄어듭니다. 3절에서 삼각형이 커질수록 각이 쪼그라들던 것과 같은 현상입니다.

정리하면, 푸앵카레 원판에서는 직선 밖의 한 점을 지나 그 직선과 만나지 않는 직선이 무수히 많고, 그 부채꼴은 점이 직선에서 멀수록 넓어집니다. 보여이와 로바쳅스키가 계산으로만 알던 세계가 이렇게 생겼습니다.

5 · 모순이 없다는 증명벨트라미, 클라인, 푸앵카레

이 절의 물음은 이것입니다. 쌍곡기하에서 언젠가 모순이 튀어나오지 않는다는 것을 어떻게 확신할 수 있을까?

보여이와 로바쳅스키는 모순을 찾지 못했지만, 그것이 모순이 없다는 증명은 아닙니다. 더 계산하면 언젠가 튀어나올지도 모르니까요. 이 문제를 푼 것은 '모형'이라는 생각이었습니다. 새 기하를 이미 믿을 수 있는 대상 위에 실제로 만들어 보이는 것입니다.

모형이 왜 증명이 되는지, 4절의 원판으로 봅시다. 원판 모형의 '점', '직선', '거리'는 모두 유클리드 평면 위의 대상과 계산으로 정의됩니다. 쌍곡평면의 점은 원판 안의 점과, 직선은 경계와 직각으로 만나는 원호나 지름과 하나씩 짝지어집니다. 이렇게 두 모임의 원소⁠(element)⁠를 남김없이 하나씩 짝짓는 것을 일대일대응이라 합니다.

이 짝짓기 아래서 쌍곡기하의 공리 하나하나는 유클리드 기하의 정리가 됩니다. 예를 들어 쌍곡기하의 '서로 다른 두 점을 지나는 직선은 꼭 하나 있다'는 원판의 말로 옮기면 '원판 안의 서로 다른 두 점을 지나며 경계와 직각으로 만나는 원호나 지름은 꼭 하나 있다'가 되고, 이것은 평면 기하로 증명되는 사실입니다. 쌍곡기하의 평행선 공리 '직선 밖의 한 점을 지나 그 직선과 만나지 않는 직선이 둘 이상 있다'도 4절 그림에서 본 대로 원판에서 성립하고, 역시 평면 기하로 증명됩니다.

그러니 쌍곡기하의 공리들에서 어떤 문장과 그 부정이 둘 다 증명된다면(이것이 '모순'입니다), 그 증명을 한 줄씩 원판의 말로 옮겨 유클리드 기하에서도 어떤 문장과 그 부정을 둘 다 증명할 수 있습니다. 유클리드 기하에 모순이 없다면 쌍곡기하에도 모순이 없습니다. 조건이 붙은 결론이라는 데 주의하세요. 유클리드 기하 자체에 모순이 없다는 것까지 증명한 것은 아닙니다.

여기서 평행선 공준의 운명이 정해집니다. 유클리드 기하에 모순이 없는 한, 평행선 공준은 다른 공리들로 증명할 수도 반증할 수도 없는 독립⁠(independence)⁠된 문장이었습니다. 증명할 수 없는 것은 쌍곡기하라는 반례가 있기 때문입니다. 나머지 공리는 모두 성립하는데 평행선 공준만 거짓인 세계가 모순 없이 있으니, 나머지 공리만으로는 평행선 공준을 끌어낼 수 없습니다. 반증할 수 없는 것은 같은 까닭으로 유클리드 기하 자체가 있기 때문입니다. 2,000년 동안의 시도가 실패한 것은 재주가 모자라서가 아니라 애초에 증명이 없었기 때문입니다.

이 깨달음은 공리를 '자명한 진리'가 아니라 '출발점으로 고른 약속'으로 보는 현대 수학의 태도로 이어졌고, 1899년 힐베르트의 『기하학의 기초⁠(basics)⁠』는 그 태도로 유클리드 기하를 처음부터 다시 썼습니다.

정리하면, 모형은 새 기하를 이미 믿는 기하 안에 옮겨 놓은 번역본이고, 번역본이 있으면 새 기하의 모순은 곧 옛 기하의 모순이 됩니다. 이제 이 모형들이 어떻게 나왔는지 봅니다.

모형이 나오기 전에, 새 기하는 먼저 읽혀야 했습니다. 1850년대까지 보여이의 「부록」과 로바쳅스키의 글은 거의 읽히지 않았습니다. 분위기를 바꾼 것은 가우스의 편지였습니다. 가우스가 죽은 뒤 1860년대 전반에, 그가 알토나의 천문학자 슈마허와 주고받은 편지들이 여러 권으로 출판되었습니다. 거기에는 가우스가 로바쳅스키의 1840년 책을 칭찬하고 자기도 오래전부터 같은 생각을 했다고 쓴 대목이 들어 있었습니다. '수학자들의 왕'이 인정한 생각이라는 것이 알려지자 사정이 달라졌습니다. 드레스덴의 교사 리하르트 발처는 1867년 판 교과서에 두 사람의 발견을 소개했고, 그의 권유를 받은 보르도의 쥘 우엘은 1866년에 로바쳅스키의 책을, 1867–68년에 보여이의 「부록」을 프랑스어로 옮겼습니다. 이탈리아어 번역도 뒤따랐습니다. 벨트라미는 이 번역들이 돌던 무렵 이 기하를 만났습니다.

첫 모형은 곡면이었습니다. 1868년 벨트라미는 음의 곡률⁠(curvature)⁠이 일정한 곡면을 생각했습니다. 곡률은 곡면이 한 점에서 얼마나, 어떻게 휘었는지를 나타내는 수입니다(가우스 곡률⁠(Gaussian curvature)⁠). 공의 표면처럼 모든 방향으로 같은 쪽을 향해 휘면 양수, 말안장처럼 앞뒤로는 위로 휘고 좌우로는 아래로 휘면 음수, 평면처럼 휘지 않으면 0입니다. 벨트라미의 곡면은 어느 점에서나 말안장처럼, 그리고 똑같은 정도로 휜 곡면입니다. 나팔을 닮은 의구면⁠(pseudosphere)⁠이 그런 곡면으로, 트랙트릭스⁠(tractrix)⁠라는 곡선을 축 둘레로 돌려 만듭니다. 트랙트릭스는 줄에 매인 물건을 줄 끝을 쥔 사람이 곧은 길을 따라 걸으며 끌 때 물건이 그리는 곡선입니다. 그 위에서 가장 짧은 길을 직선으로 읽으면 로바쳅스키의 기하가 그대로 성립했습니다. 적어도 곡면이 덮는 일부에서는 그렇습니다.

이 단서는 피할 수 없는 것이었습니다. 1901년 힐베르트는 3차원 공간 안에 놓인 매끄러운 곡면으로는 쌍곡평면 전체를 모서리 없이, 길이를 그대로 지키며 만들 수 없다는 것을 증명했습니다. 의구면에도 가장자리의 날카로운 테두리가 있고, 그 너머로는 곡면을 이어 갈 수 없습니다. 그래서 쌍곡평면 전체를 한꺼번에 보려면 길이를 일부러 왜곡해 그린 지도가 필요합니다. 벨트라미도 곡면이 쌍곡평면 전체를 덮지 못한다는 것을 알았고, 같은 해 곡면 대신 원판 모양의 모형들을 따로 내놓았습니다. 힐베르트의 정리는 33년 뒤에, 그런 지도가 선택이 아니라 필요였다는 것을 확인해 준 셈입니다.

그 뒤로 이름과 지도가 갖춰졌습니다. 1871년 독일의 펠릭스 클라인은 이 기하들을 원근법에서 자라난 사영기하⁠(projective geometry)⁠의 틀 안에 함께 놓고 이름을 붙였습니다. 평행선이 무수히 많은 기하는 쌍곡기하, 평행선이 하나도 없는 기하는 타원기하⁠(elliptic geometry)⁠, 평행선이 꼭 하나인 유클리드 기하는 포물기하입니다. 1880년대 초에는 프랑스의 푸앵카레가 복소함수(복소수⁠(complex number)⁠를 넣으면 복소수가 나오는 함수⁠(function)⁠)를 연구하다가 앞 절 그림의 원판 모형에 이르렀습니다. 그가 회고한 바로는, 핵심 착상이 노르망디의 쿠탕스에서 지질 답사를 가려고 승합마차 발판에 발을 올리는 순간 떠올랐습니다.

원판 모형은 복소수로 쓰면 특히 깔끔합니다. 복소수는 평면의 점 (x, y)를 수 하나 x + yi로 적은 것입니다(i는 제곱하면 −1이 되는 수). 이렇게 적으면 원판 안의 점은 원점까지의 거리 |z|가 1보다 작은 수 z입니다.

쌍곡평면을 뒤틀지 않고 옮기는 움직임, 곧 원판을 원판으로 보내면서 쌍곡 거리를 바꾸지 않는 변환은 $z \mapsto e^{i\theta}\dfrac{z - a}{1 - \bar a z}$ 꼴의 뫼비우스 변환입니다. 'z를 오른쪽 식의 값으로 보낸다'고 읽습니다. 여기서 a는 원판 안의 한 점($|a| \lt 1$)이고, $\bar a$('a 바')는 a의 켤레복소수⁠(complex conjugate)⁠, 곧 a = x + yi일 때 x − yi(가로축에 대해 뒤집은 점)입니다. $e^{i\theta}$를 곱하는 것은 원점을 중심으로 θ만큼 돌리는 것입니다. z = a를 넣으면 분자가 0이 되니, 이 변환은 점 a를 원점으로 끌어오고, 이어서 원점을 중심으로 θ만큼 돌리는 변환입니다. 앞 절 그림의 직선들도 이 변환으로 그렸습니다. 원점을 지나는 지름을 그린 뒤 원점을 P로 옮기는 변환을 적용한 것입니다. 복소수 곱셈⁠(complex multiplication)⁠이 평면의 회전⁠(rotation)⁠이듯, 이 분수 꼴의 변환들이 쌍곡평면에서 방향을 뒤집지 않는 합동변환(회전, 평행 이동 등) 전부입니다.

이 세계에서는 평면에서 불가능한 타일 깔기도 됩니다. 앞 절 원판 그림의 배경에 타일을 깔아 봅시다: . 평면에서 오각형은 대각선 두 개로 삼각형 셋으로 나뉘니 다섯 각의 합이 3 × 180° = 540°이고, 정오각형의 한 각은 540° ÷ 5 = 108°입니다. 한 꼭짓점에 타일을 빈틈없이 모으려면 각들이 모여 360°를 채워야 하는데, 108°짜리 세 개는 324°로 모자라고 네 개는 432°로 넘칩니다. 그래서 평면은 정오각형으로 깔 수 없습니다.

쌍곡평면에서는 세 삼각형 각각의 합이 180°보다 모자라니 오각형의 다섯 각의 합도 540°보다 모자라고, 삼각형과 마찬가지로 크기가 커질수록 더 모자랍니다. 그래서 크기를 알맞게 고르면 다섯 각이 모두 직각, 합이 450°인 정오각형을 만들 수 있고, 이런 오각형 네 개가 한 꼭짓점에 4 × 90° = 360°로 꼭 맞게 모입니다. 선택지의 {5, 4}는 '오각형이 한 꼭짓점에 4개씩'이라는 뜻입니다. {7, 3}도 같은 방식으로 읽습니다. 평면의 정칠각형은 한 각이 약 128.6°라서 세 개만 모아도 360°를 넘지만, 쌍곡평면에서는 한 각이 120°인 정칠각형을 만들어 세 개씩 모을 수 있습니다. 가운데 오각형의 꼭짓점들은 1의 다섯제곱근(다섯 번 곱하면 1이 되는 복소수로, 반지름 1인 원 위에 72° 간격으로 놓인 다섯 점)을 90° 돌려 꼭짓점 하나가 위를 향하게 하고 같은 비율로 줄인 점이고, 나머지 타일은 모두 변을 거울 삼아 비춘 것입니다. 가장자리의 타일은 점점 작아 보이지만 이 세계 안에서는 모두 크기가 같습니다.

이 그림에 매혹된 사람이 네덜란드의 판화가 에셔였습니다. 그는 1954년 암스테르담에서 열린 국제수학자대회에서 캐나다의 기하학자 콕서터를 만났고, 몇 해 뒤 콕서터가 보내 준 논문에 실린 쌍곡 타일링⁠(tiling)⁠ 그림에서, 한정된 원 안에 무한을 담을 방법을 보았다고 합니다. 그렇게 1958–60년 목판화 「원의 극한」 연작 네 점이 나왔습니다. 물고기와 천사와 악마가 가장자리로 갈수록 작아지며 끝없이 되풀이되는 이 판화들은 쌍곡기하가 수학책 밖으로 나간 가장 유명한 모습일 것입니다. 콕서터는 뒤에 「원의 극한 III」의 흰검은 곡선들이 쌍곡평면의 직선이 아니라 한 직선에서 같은 거리에 있는 곡선이라는 것을 계산으로 보였습니다. 2절에서 이븐 알하이삼이 직선이라고 믿었던 바로 그 곡선이, 쌍곡평면에서는 직선이 아닌 것입니다.

공리를 '출발점으로 고른 약속'으로 보는 태도에는 반대도 있었습니다. 『기하학의 기초』가 나온 1899년 말부터 이듬해까지, 예나의 논리학자 프레게는 힐베르트와 편지를 주고받으며 이 태도를 따졌습니다. 프레게에게 공리는 점과 직선이라는 정해진 대상에 대해 참인 문장이어야 했고, 공리들끼리 모순이 없다는 것만으로는 그 대상이 있다는 것도, 공리가 참이라는 것도 따라 나오지 않았습니다. 힐베르트의 생각은 반대였습니다. 마음대로 놓은 공리들이 서로 모순되지 않으면 그것으로 충분하고, '점'과 '직선'은 공리만 만족한다면 무엇으로 읽어도 된다는 것입니다. 이 절의 모형들이 하던 일, 곧 '직선'을 원판 속의 원호로 읽는 일이 바로 그런 읽기였습니다. 수학의 문장은 무엇에 대해 참인가, 모순이 없으면 있는 것인가라는 이 물음은 지금도 수학철학에서 논쟁거리입니다.

6 · 평행선이 없는 세계구면 위의 삼각형

이 절의 물음은 이것입니다. 평행선이 하나도 없는 세계에서 삼각형의 각은 180°보다 얼마나 남고, 그 남는 양은 무엇을 재고 있을까?

둔각 가설의 세계는 사실 오래전부터 모두의 발밑에 있었습니다. 지구의 표면입니다. 구면에서 두 점 사이의 가장 짧은 길은 구의 중심을 지나는 평면이 구를 자른 원, 곧 대원⁠(great circle)⁠의 호입니다. 대원은 그 구 위에 그릴 수 있는 가장 큰 원입니다. 적도와 경선은 대원이지만 적도가 아닌 위선은 대원이 아닙니다.

곡면 위에서 가장 짧은 길을 찾는 이 최적화⁠(optimization)⁠ 문제의 답, 더 넓게는 짧은 구간마다 가장 짧은 길이 되는 곡선을 측지선⁠(geodesic)⁠이라고 합니다. 측지선은 곡면 위에 사는 사람이 좌우로 한 번도 방향을 틀지 않고 똑바로 걸을 때 그리는 길이기도 합니다. 구면에서는 대원이 측지선이라 직선 노릇을 합니다. 그런데 서로 다른 두 대원은 언제나 정반대편의 두 점에서 만납니다. 예를 들어 경도 0°의 경선과 경도 90°의 경선은 북극과 남극에서 만납니다. 구면에는 평행선이 아예 없습니다. 이것이 구면기하⁠(spherical geometry)⁠입니다.

아래 지구본에서 할 일은 꼭짓점을 끌어 삼각형을 바꿔 가며, 세 각의 합과 삼각형의 넓이를 함께 보는 것입니다.

지금 지구본을 경도 , 위도 쪽에서 보고 있습니다. 한 바퀴 돌리기 처음 삼각형은 북극과 적도 위의 두 점(경도 0°와 90°)을 이은 것으로, 세 각이 모두 직각입니다. 세 각의 합은 로 180°보다 크고, 이 삼각형은 구 전체 겉넓이의 를 차지합니다. 처음 삼각형이면 12.5%, 곧 8분의 1입니다. 구의 겉넓이 $4\pi R^2$(R은 구의 반지름)의 8분의 1은 $\tfrac{\pi}{2}R^2$입니다.

이 수를 넘치는 각과 비교하려면 각을 라디안으로 재야 합니다. 라디안은 반지름 1인 원에서 그 각이 잘라 내는 호의 길이로 각을 재는 단위입니다. 한 바퀴 360°는 둘레 $2\pi$이니 180°는 π, 90°는 $\tfrac{\pi}{2}$입니다. 그러니 넘치는 각 90°는 라디안으로 $\tfrac{\pi}{2}$이고, 넓이 $\tfrac{\pi}{2}R^2$은 바로 (넘치는 각) × $R^2$입니다. 우연이 아닙니다.

꼭짓점을 끌어 어떤 삼각형을 만들어도, 넓이는 넘치는 각(라디안)에 $R^2$을 곱한 것과 같습니다. 위 식이 지금 삼각형으로 그것을 보여 줍니다(α, β, γ는 세 각을 부르는 그리스 문자 '알파', '베타', '감마'입니다). 그림 속 각은 꼭짓점에서 두 변이 떠나는 방향의 벡터⁠(vector)⁠를 구해 그 사이의 각을 내적⁠(dot product)⁠으로 잰 것입니다.

증명은 그림 한 장이면 됩니다. A를 지나는 두 대원은 두 대원이 만나는 A와 그 정반대편 점에서 끝이 모인 초승달 네 조각으로 구면을 나눕니다. 귤 조각을 떠올리면 됩니다. 각 A를 낀 초승달 하나는 구 전체를 한 바퀴 $2\pi$ 가운데 α만큼 도려낸 조각이니, 넓이는 전체의 $\tfrac{\alpha}{2\pi}$입니다.

정반대편의 짝 초승달도 같은 넓이 $2\alpha R^2$이니, 한 쌍을 합치면 $4\alpha R^2$입니다. B와 C에서도 같은 초승달 쌍을 그리면 넓이가 각각 $4\beta R^2$, $4\gamma R^2$입니다. 이 세 쌍이 구면 전체를 덮는데, 삼각형과 그 정반대편 삼각형만 세 쌍 모두에 들어 세 번씩 덮이고, 나머지 곳은 한 번씩만 덮입니다. 그러니 세 쌍의 넓이를 더하면 구면 전체($4\pi R^2$)에, 두 번씩 더 덮인 삼각형 둘의 넓이(2 × 2 × 삼각형의 넓이)를 보탠 값입니다.

양변을 4로 나누면 (삼각형의 넓이) = $(\alpha + \beta + \gamma - \pi)R^2$, 곧 지라르의 공식입니다. 이 공식은 1629년 네덜란드에서 활동한 프랑스 출신 수학자 알베르 지라르가 발표했습니다. 영국의 수학자 토머스 해리엇이 먼저 알았다는 기록도 있습니다.

작은 삼각형을 눌러 보세요. 넓이가 거의 0이니 각의 합도 거의 180°입니다. 흔히 운동장에 그린 삼각형의 각이 180°인 것을 땅이 평평하다는 증거로 여기지만, 그것은 지구가 평평해서가 아니라 삼각형이 지구에 비해 아주 작기 때문입니다. 처음 삼각형으로

정리하면, 구면에서 삼각형의 각이 180°보다 남는 양은 넓이를 $R^2$으로 나눈 값과 정확히 같습니다. 남는 각은 그 삼각형이 덮은 곳의 휘어짐을 재는 셈이고, 반지름이 클수록(덜 휜 구일수록) 같은 넓이에서 덜 남습니다.

구면 위의 삼각법은 기하학에서 가장 실용적인 분야였습니다. 1세기 무렵 알렉산드리아의 메넬라오스는 『구면론』에서 구면 삼각형 세 각의 합이 두 직각보다 크다는 것을 보였고, 이슬람 세계의 천문학자들은 예배 시각과 메카의 방향을 구하려고 구면 삼각법을 다듬었습니다. 메카의 방향을 구면 위의 삼각형으로 푸는 이야기는 「원에서 파동으로」에 있습니다. 그런데도 평행선 논쟁에서 구면은 '다른 기하'로 여겨지지 않았습니다. 구면의 직선은 한 바퀴 돌아오는 유한한 곡선이고 두 직선이 두 점에서 만나니, 유클리드의 공준들부터 어긋나는 '평면이 아닌 곳'일 뿐이었습니다.

7 · 서울에서 뉴욕까지가장 짧은 길은 왜 북쪽으로 휘는가

이 절의 물음은 이것입니다. 지도 위에서 휘어 보이는 비행 항로가 왜 가장 짧은 길일까? 그리고 둥근 지구를 왜곡 없이 평평한 종이에 옮길 수는 없을까?

구면기하를 매일 쓰는 사람들이 있습니다. 비행기 항로를 짜는 사람들입니다. 서울에서 까지 가는 길을 두 가지 지도에 그려 봅시다. 하나는 가장 짧은 길인 대원 항로⁠(great-circle route)⁠이고, 다른 하나는 출발할 때 정한 나침반 방위(예를 들어 '동북동')를 끝까지 바꾸지 않고 가는 항정선입니다.

대원 항로는 , 항정선⁠(rhumb line)⁠은 로, 항정선이 더 깁니다. 대원 항로는 가장 높은 곳에서 위도 까지 올라갑니다. 비행 진행(지금 )을 옮기거나 ▶ 동시에 출발을 눌러 보세요. 두 비행기가 씩 날았을 때, .

왼쪽 지도에서는 항정선이 곧은 선이고 대원 항로가 북쪽으로 크게 휘어 있습니다. 오른쪽 지구본에서는 반대로 대원 항로가 곧고 항정선이 휘어 보입니다. 오른쪽 그림은 대원 항로의 한가운데 바로 위에서 지구를 내려다본 정사영⁠(orthogonal projection)⁠입니다. 정사영은 아주 먼 곳에서 평행한 빛을 비출 때 생기는 그림자처럼 구를 평면에 옮긴 것입니다. 그 점을 지나는 대원은 구의 중심과 우리 눈을 잇는 선을 품은 평면 위에 있으니, 옆에서 본 종이처럼 곧은 선으로 보입니다. 어느 지도에서 곧게 보이는지는 지도를 만든 방식에 달렸고, 가장 짧은 길은 지도와 상관없이 대원입니다. 이번에는 시드니를 골라 보세요. 거의 남북으로 가는 길이라 두 항로의 차이가 거의 없습니다. 동서로 멀리 갈수록, 높은 위도일수록 차이가 커집니다.

왼쪽 지도의 도법은 플랑드르 출신의 지도 제작자 헤르하르뒤스 메르카토르가 1569년 뒤스부르크에서 항해자를 위해 만든 것입니다. 이 지도에서는 나침반 방위를 일정하게 지키는 뱃길이 곧은 선이 되니, 지도에 자를 대고 선을 그으면 그대로 따라갈 방위가 나옵니다. 그 대가로 극에 가까울수록 땅이 부풀어, 그린란드가 아프리카만큼 커 보입니다. 실제로는 아프리카의 14분의 1쯤입니다.

이 부풀림에는 정확한 규칙이 있습니다. 먼저 가로 방향을 봅시다. 위도 60°의 위선은 둘레가 적도의 절반입니다. 그런데 메르카토르 지도에서는 모든 위선을 적도와 같은 길이의 가로줄로 그리니, 위도 60°에서는 가로로 2배 늘어납니다. 일반적으로 위도 $\varphi$('파이')의 위선은 둘레가 적도의 $\cos\varphi$배이므로($\cos 60^\circ = 1/2$), 가로로 $1/\cos\varphi$배 늘어납니다. 이 배율을 '시컨트 파이'라 부르고 $\sec\varphi = 1/\cos\varphi$로 씁니다.

나침반 방위, 곧 각을 지키려면 작은 도형의 모양이 찌그러지면 안 되니, 그 자리에서 세로로도 같은 배율로 늘려야 합니다. 위도 60° 근처의 위도 1°는 지도에서 적도 근처 위도 1°의 2배 높이로 그려집니다. 그래서 위도 $\varphi$가 지도에서 놓이는 높이는 적도에서부터 위도를 아주 조금씩 올라가며 그 자리의 배율 $\sec\varphi$를 곱한 조각들을 쌓아 더한 값이고, 이렇게 쌓아 더하는 것이 적분⁠(integral)⁠입니다. 결과를 식으로 적으면 $y = \ln\tan\left(\tfrac{\pi}{4} + \tfrac{\varphi}{2}\right)$입니다(각은 라디안, ln은 e를 밑으로 하는 로그이고, 높이는 지구 반지름을 1로 잰 값입니다). 위도 60°라면 약 1.32로, 지구 위에서 적도부터 잰 실제 거리 약 1.05(= π/3)보다 높이 그려집니다.

그러나 메르카토르는 이 식을 몰랐습니다. 30년 뒤인 1599년 영국의 수학자 에드워드 라이트가 작은 조각들을 더해 가는 표로 이 값을 계산했습니다. 그리고 1640년대 영국에서 항해술과 측량을 가르치던 헨리 본드가 그 표를 로그 탄젠트 표와 나란히 놓아 보고 두 표가 맞아떨어진다는 것을 알아챘습니다. 로그가 1614년 네이피어의 책으로 막 세상에 나온 지 한 세대 만이었습니다. 본드의 관찰은 추측에 머물렀습니다. 이것을 처음 증명한 사람은 1668년 스코틀랜드의 제임스 그레고리였고, 1670년에는 케임브리지의 아이작 배로가 더 알아보기 쉬운 증명을 내놓았습니다. 미적분⁠(calculus)⁠이 체계를 갖추기 직전, 항해사의 표 하나가 '시컨트의 적분'이라는 수학 문제로 바뀐 것입니다(「거리를 되찾기」에서 적분이 작은 조각을 쌓아 더하는 일이라는 것을 봅니다).

실제 여객기는 제트기류, 영공, 비상시 내릴 공항까지의 거리 같은 사정 때문에 대원에서 벗어나곤 합니다. 이 가운데 영공은 지도를 정치의 문제로 만듭니다. 냉전 시절 소련 영공을 피해야 했던 유럽과 동아시아 사이의 항로는 알래스카의 앵커리지를 거쳐 북극권을 넘곤 했고, 북미에서 아시아로 가는 비행기도 연료를 채우러 앵커리지에 들르곤 했습니다. 1983년 9월 1일, 앵커리지를 떠나 서울로 오던 대한항공 007편은 항로를 벗어나 소련 영공에 들어갔다가 사할린 근처에서 격추되었고 269명이 목숨을 잃었습니다. 이 사건⁠(event)⁠ 뒤 미국 정부는 군용으로 개발하던 위성 위치 확인 시스템, 곧 GPS를 완성하는 대로 민간 항공에도 개방하겠다고 발표했습니다. 이 GPS가 제대로 작동하려면 8절에서 볼 휘어진 시공간⁠(spacetime)⁠을 계산에 넣어야 합니다.

그렇다면 왜곡 없는 평면 지도는 정말 불가능할까요? 가우스가 답했습니다. 1820년대 전반 그는 하노버 왕국의 측량을 맡아 여름마다 산꼭대기를 오가며 삼각형의 그물을 짰습니다. 그 측량과 가우스의 다른 계산들은 「잃어버린 소행성」에 나옵니다. 이 경험에서 나온 1827년 논문 『곡면에 대한 일반적 연구』 한가운데에 그가 스스로 '빼어난 정리⁠(Theorema Egregium)⁠'라 부른 결과가 있습니다. 곡면이 얼마나 휘었는지를 나타내는 가우스 곡률은 곡면 밖에서 보지 않아도, 곡면 위에서 잰 길이와 각만으로 정해진다는 것입니다.

6절의 지라르 공식이 이 정리의 한 예입니다. 구면 위에 사는 개미가 측지선으로 삼각형을 그리고 세 각과 넓이를 재면, (남는 각) ÷ (넓이) = $1/R^2$을 얻습니다. 구 밖으로 나가 보지 않고도 휘어진 정도를 안 것입니다. 이 값이 구의 가우스 곡률이고, 어디서나 $1/R^2$입니다. 평면에서는 남는 각이 늘 0이니 곡률도 0입니다.

이제 지도 문제에 답할 수 있습니다. 늘이거나 줄이지 않고 곡면을 평면에 펼치면 곡면 위의 길이와 각이 모두 그대로이니, 길이와 각만으로 정해지는 곡률도 그대로여야 합니다. 그런데 구는 곡률이 $1/R^2$이고 평면은 0입니다. 그래서 지구는 한 조각이라도 왜곡 없이 평면에 펼 수 없습니다. 모든 지도는 거리를 어딘가에서 왜곡하고, 넓이와 각을 한꺼번에 지킬 수도 없습니다. 반대로 원기둥과 원뿔은 곡률이 0이라 종이를 말아 만들 수 있습니다.

피자 조각을 가로로 살짝 접어 들면 끝이 처지지 않는 것도 같은 정리 덕분입니다. 곡면이 3차원 공간에 놓여 있을 때 가우스 곡률은 가장 세게 휘는 방향의 휨과 가장 약하게 휘는 방향의 휨을 곱한 값입니다. 평평한 피자는 늘어나지 않으니 곡률이 계속 0이어야 하고, 가로 방향으로 휘게 했으니 곱이 0이 되려면 세로 방향의 휨은 0이어야 합니다. 그래서 끝까지 곧게 뻗습니다.

정리하면, 가장 짧은 항로는 언제나 대원이고, 메르카토르 지도에서 그것이 북쪽으로 휘어 보이는 것은 곡률이 0이 아닌 구를 곡률이 0인 종이에 옮기며 생긴 왜곡 때문입니다. 그 왜곡은 어떤 지도로도 없앨 수 없습니다.

가우스가 이 측량에서 가장 큰 삼각형으로 공간이 휘었는지 시험했다는 이야기가 널리 퍼져 있습니다. 하르츠 산지의 브로켄산, 괴팅겐 근처의 호엔하겐, 튀링겐의 인젤스베르크를 잇는, 한 변이 100km 안팎인 삼각형입니다. 그가 이 삼각형의 각의 합을 따져 본 것은 사실이지만, 그 목적은 측량의 정밀도⁠(precision)⁠를 점검하는 데 있었다고 보는 역사가가 많습니다. 어느 쪽이든 결과는 측정 오차 안에서 유클리드 공간이 기대하는 값과 같았습니다. 3절 그림에서 본 대로, 공간이 휘었더라도 그렇게 작은 삼각형으로는 알아챌 수 없었을 것입니다.

8 · 공간은 어떤 모양인가리만에서 아인슈타인까지

이 절의 물음은 이것입니다. 곡면이 아니라 우리가 사는 공간 자체가 휘어 있을 수 있을까? 그렇다면 그것을 어떻게 재고, 휘어짐은 무슨 일을 할까?

1854년 6월 10일 괴팅겐에서 스물일곱 살의 리만이 교수 자격을 얻기 위한 강연을 했습니다. 후보 주제 셋을 내면 교수진이 하나를 고르는 관례였습니다. 리만의 친구였던 수학자 데데킨트가 남긴 전기에 따르면, 가우스는 리만이 가장 덜 준비한 셋째 주제인 기하학의 기초를 골랐습니다. 「기하학의 바탕에 놓인 가설에 대하여」라는 이 강연에서 리만은 가우스의 곡면 이론을 곡면 바깥의 공간 없이, 차원이 몇이든 쓸 수 있게 넓혔습니다.

그렇게 나온 것이 오늘날 다양체라 부르는 공간, 점마다 길이를 재는 규칙인 계량, 그리고 그 규칙에서 나오는 곡률입니다. 계량의 예는 이미 보았습니다. 4절의 원판에서는 그림 위의 같은 길이가 경계에 가까울수록 더 긴 실제 거리를 뜻했습니다. 이렇게 자리마다 달라질 수 있는 '자'가 계량이고, 가우스의 정리처럼 곡률은 이 자만으로 계산됩니다. 다양체⁠(manifold)⁠는 아주 작은 부분만 보면 평평한 공간(직선, 평면, 3차원 공간 등)과 거의 구별되지 않지만 전체로는 휘어 있을 수 있는 공간입니다. 곡선은 1차원, 곡면은 2차원 다양체입니다. 평면은 곡률이 0인 공간, 로바쳅스키의 공간은 곡률이 음수로 일정한 공간, 구면은 양수로 일정한 공간이 되었습니다.

이 틀 안에서 둔각 가설도 제자리를 찾았습니다. 리만은 '끝이 없다'와 '무한하다'를 구별했습니다. 구면은 어디로 가도 가장자리에 부딪히지 않지만 넓이는 유한합니다. 사케리가 둔각 가설을 물리친 근거가 사라진 것입니다. 평행선이 하나도 없는 이 기하를 오늘날 타원기하라고 부릅니다. 엄밀히는 구면의 정반대편 두 점을 한 점으로 여겨 두 직선이 꼭 한 점에서 만나게 만든 것을 타원기하라 하고, 두 점에서 만나는 구면 그대로의 기하는 구면기하라 부릅니다.

강연의 끝에서 리만은 한 걸음 더 나아갔습니다. 실제 공간의 계량이 어떤 것인지는 수학만으로 정할 수 없고 경험이 가려야 할 문제이며, 아주 작은 규모에서는 유클리드 기하가 맞지 않을 수도 있다고 했습니다. 그는 공간의 계량이 그 안에서 작용하는 힘과 관련될지 모른다고 내비치며 이 질문을 물리학에 넘겼습니다. 강연은 리만이 죽은 뒤 1868년에야 출판되었습니다. 벨트라미의 모형과 같은 해입니다.

공간의 기하를 두고 철학의 논쟁이 뒤따랐습니다. 생리학자이자 물리학자였던 헬름홀츠는 1870년 하이델베르크 강연에서 구면이나 의구면 위에 사는 2차원 생물을 상상했습니다. 그들은 자기 세계에서 삼각형을 재어 보고 어떤 기하가 맞는지를 경험으로 알게 될 것입니다. 그러니 우리 공간의 기하도 칸트의 말처럼 선험적으로 정해진 것이 아니라 측정으로 가릴 문제라는 것입니다.

천문학자들은 실제로 재 보았습니다. 1900년 8월 하이델베르크에서 열린 독일 천문학회에서 스물여섯 살의 카를 슈바르츠실트는 로바쳅스키의 착상을 그 사이 쌓인 별의 시차 자료로 다시 따졌습니다. 공간이 쌍곡적이라면 아무리 먼 별도 시차가 0이 되지 않고 어떤 최솟값 아래로는 내려가지 않아야 합니다. 4절에서 P가 ℓ에서 조금만 떨어져도 평행각이 90°보다 작아지던 것과 같은 까닭입니다. 지구 궤도의 양 끝에서 무한히 먼 같은 곳을 바라보아도 두 시선의 방향이 조금 다릅니다. 그런 최솟값은 보이지 않았으므로, 그는 공간이 휘었더라도 곡률 반지름(구라면 반지름에 해당하는 길이로, 클수록 덜 휜 것입니다)이 태양계와는 비교할 수 없을 만큼, 적어도 수십 광년 이상은 되어야 한다는 하한⁠(lower bound)⁠을 얻었습니다. 휘어짐을 찾지는 못했지만, '공간은 얼마나 휘었는가'를 오차의 범위와 함께 답하는 측정의 문제로 적은 것입니다. 15년 뒤인 1915년 말, 그는 1차 세계대전의 러시아 전선에서 복무하던 중에 아인슈타인이 내놓은 새 방정식의 첫 정확한 해를 찾아 보냅니다.

푸앵카레는 칸트와도 헬름홀츠와도 다른 답을 내놓았습니다. 그는 『과학과 가설』(1902)에서 원판 모양의 세계를 상상했습니다. 가운데는 따뜻하고 가장자리로 갈수록 차가워져서, 모든 물체가 가장자리에 가까울수록 같은 비율로 줄어드는 세계입니다. 주민은 자와 몸이 함께 줄어드니 아무리 걸어도 가장자리에 닿지 못하고, 자기 세계를 무한한 쌍곡평면이라고 여길 것입니다. 4절의 원판 그림이 바로 이 세계의 지도입니다. 같은 관측을 '공간이 휘었다'고 설명할 수도, '공간은 평평한데 자가 줄어든다'고 설명할 수도 있다면, 어느 기하가 참인지는 관측만으로 가려지지 않습니다.

한 기하가 다른 기하보다 더 참일 수는 없다. 더 편리할 수 있을 뿐이다.— 앙리 푸앵카레, 『과학과 가설』(1902)

문학도 이 질문을 붙잡았습니다. 도스토옙스키의 『카라마조프가의 형제들』(1879–80)에서 이반은 평행선이 무한 어딘가에서 만날지도 모른다고 꿈꾸는 기하학자들이 있다고 말하고, 그것조차 이해하지 못하는 자기의 '유클리드식' 지성으로는 신의 문제를 이해할 수 없다고 고백합니다. 비유클리드 기하는 이미 인간 이성의 한계를 가리키는 은유가 되어 있었습니다.

논쟁에 뜻밖의 판정을 내린 것은 물리학이었습니다. 그 전에 곡률이 평행선의 운명을 어떻게 정하는지 봅시다. 두 사람이 조금 떨어져 나란히, 같은 방향을 향해 걷기 시작합니다. 둘 다 한 번도 방향을 틀지 않고 측지선을 따라 걷는데, 곡률이 $K =$ 인 곡면 위입니다. K를 양수, 0, 음수로 바꿔 가며 두 사람의 간격이 어떻게 되는지 보세요.

▶ 나란히 걷기 지금 두 사람의 간격은 처음의 배이고, 두 사람은 . 곡률이 양수이면 두 길은 조금씩 다가가다 한 점에서 만납니다. 적도에서 북쪽으로 나란히 출발한 두 사람이 북극에서 만나는 것과 같습니다. 지구에서는 1만 km쯤 걸은 뒤입니다(적도에서 북극까지는 지구 둘레의 4분의 1입니다). 곡률이 0이면 간격은 그대로이고, 곡률이 음수이면 두 길은 점점 빨리 멀어집니다.

이 모양을 정확히 적는 식이 있습니다. 걸은 거리를 s, 두 사람의 간격을 $J$라 합시다. $J'$('J 프라임')은 한 걸음 더 갈 때 간격이 얼마나 느는지, 곧 간격이 변하는 빠르기이고, $J''$은 그 빠르기가 다시 얼마나 빨리 변하는지, 곧 간격의 가속도입니다(이렇게 변하는 빠르기를 구하는 것을 미분⁠(differentiation)⁠이라 합니다). 간격이 작을 때 $J$는 다음 식을 따릅니다.

말로 읽으면 '간격의 가속도는 곡률에 간격을 곱하고 부호를 바꾼 것'입니다. 곡률이 양수이면 간격이 클수록 더 세게 좁히는 쪽으로, 음수이면 더 세게 벌리는 쪽으로 가속됩니다. $J'' = -KJ$처럼 모르는 함수와 그 변화의 빠르기 사이의 관계로 적힌 식을 미분방정식⁠(differential equation)⁠이라 하고, 이 식처럼 J와 그 도함수⁠(derivative function)⁠들이 제곱이나 곱 없이 상수배로만 들어가는 것을 선형 미분방정식⁠(linear differential equation)⁠이라 합니다. 나란히 출발했다는 것은 처음에 $J' = 0$, 곧 간격이 벌어지지도 좁혀지지도 않고 있었다는 뜻입니다. 이 조건으로 풀면, 처음 간격을 1로 둘 때 간격은 곡률이 양수이면 $\cos(\sqrt{K}\,s)$로 줄어들어 $s = \tfrac{\pi}{2\sqrt{K}}$에서 0이 되고(K = 1이면 약 1.57), 음수이면 지수함수⁠(exponential function)⁠로 이루어진 쌍곡코사인 $\cosh(\sqrt{-K}\,s)$로 불어납니다. 쌍곡코사인은 s가 커지면 일정한 거리를 갈 때마다 거의 같은 배수⁠(multiple)⁠로 커지는데, 이것을 '지수적으로' 커진다고 합니다. 그림의 두 곡선은 가운데 선에서 위아래로 이 간격의 절반씩 떨어진 두 사람의 길입니다.

정리하면, 휘어진 공간에서는 나란함이 유지되지 않습니다. 양으로 휘면 나란히 출발한 측지선이 모이고, 음으로 휘면 흩어집니다. 음으로 휜 곡면에서 측지선들이 지수적으로 벌어지는 이 성질은, 1898년 프랑스의 수학자 자크 아다마르가 처음 조건에 민감한 운동의 예로 연구한 것이기도 합니다. 아다마르의 이 연구가 날씨 예보의 한계와 혼돈⁠(chaos)⁠으로 이어지는 이야기는 「나비의 날갯짓」에서 봅니다.

1907년 무렵 아인슈타인은 자유 낙하하는 사람은 자기 무게를 느끼지 않는다는 데서 출발해, 중력을 힘이 아니라 시공간의 기하로 보는 길에 들어섰습니다. 시공간은 공간의 세 방향에 시간을 네 번째 방향으로 더한 4차원 세계입니다. 나란히 떨어지는 두 사과는 둘 다 지구 중심을 향하므로 떨어지면서 서로 조금씩 다가갑니다. 위 그림에서 곡률이 양수인 경우와 같은 모양입니다. 이처럼 중력이 자리마다 조금씩 달라서 나란히 움직이던 물체들이 모이거나 벌어지는 효과를 조석력⁠(tidal force)⁠이라고 합니다. 달이 지구의 가까운 쪽 바다를 먼 쪽보다 세게 당겨 밀물과 썰물을 만드는 힘이 바로 이것입니다. 조석력은 시공간이 휘어 있다는 사실이 기하로 드러난 모습입니다.

이 생각을 식으로 쓰는 데 필요한 도구가 리만의 기하였고, 아인슈타인은 취리히 공과대학 시절 동창인 수학자 마르셀 그로스만의 도움으로 그것을 익혔습니다. 1915년 11월 베를린의 프로이센 과학 아카데미에서 발표한 일반 상대성 이론⁠(general relativity)⁠에서, 물질과 에너지는 시공간을 휘게 하고 자유롭게 움직이는 물체와 빛은 휘어진 시공간의 측지선을 따릅니다. 1854년 리만이 물리학에 넘긴 질문의 답이었습니다.

이론은 시험할 수 있는 예측을 내놓았습니다. 태양 가장자리를 스치는 별빛은 1.75초만큼 휘어야 했습니다(1초는 1°의 3,600분의 1입니다). 뉴턴의 이론으로 계산한 값의 두 배입니다. 태양 옆의 별은 개기일식 때만 보입니다. 1919년 5월 29일에는 개기일식이 유난히 오래 이어졌고, 그때 태양은 밝은 별이 많은 히아데스 성단 앞에 있었습니다. 달의 그림자는 남아메리카에서 대서양을 건너 아프리카로 지나갔습니다. 영국의 천문학자들은 두 관측대를 보냈습니다. 에딩턴과 코팅엄은 기니만의 프린시페섬으로, 그리니치 천문대의 크로멜린과 데이비드슨은 브라질 북동부의 소브라우로 갔습니다.

1차 세계대전이 끝난 지 반년 남짓 된 때였습니다. 퀘이커 교도였던 에딩턴은 전쟁 중 양심에 따른 병역 거부 입장을 밝힌 바 있었고, 적국의 수도에서 일하던 과학자의 이론을 영국 관측대가 시험하는 일은 과학의 국제주의를 보여 주는 사건으로 받아들여지기도 했습니다. 프린시페에서는 구름 때문에 쓸 만한 사진이 몇 장뿐이었고, 소브라우에서는 한 망원경의 사진이 초점 문제로 제외되었습니다. 11월 6일 런던의 왕립학회와 왕립천문학회가 함께 연 회의에서 결과가 아인슈타인의 예측과 맞는다고 발표되었고, 이튿날 『타임스』는 '과학의 혁명'이라는 제목을 달았습니다. 어떤 사진을 버리고 어떤 사진을 쓸지 정한 판단은 지금도 과학사가들 사이에서 논의되지만, 그 뒤 훨씬 정밀한 관측들이 아인슈타인의 값을 거듭 확인했습니다.

위: 18세기부터 1919년까지의 연표(점에 마우스를 올리면 설명이 나오고, 흐린 점은 같은 시대의 세계사입니다). 아래: 테메스바르, 마로시바샤르헤이, 괴팅겐, 쾨니히스베르크, 카잔을 오간 편지와 책, 그리고 1919년 일식 관측대가 간 길. 유럽 변두리의 편지에서 시작된 생각이 적도 가까운 섬과 브라질의 도시에서 시험받았습니다.

이 기하는 지금도 매일 쓰입니다. GPS 위성의 시계는 지상보다 중력이 약한 곳에 있어서 빠르게 가고, 궤도를 빠르게 돌기 때문에 느리게 갑니다. 두 효과를 합치면 하루에 약 38마이크로초가 빨라집니다. GPS는 전파가 오는 데 걸린 시간으로 거리를 재는데, 빛은 1마이크로초에 약 300m를 가니 38마이크로초는 11km쯤입니다. 단순히 따지면, 이것을 보정하지 않을 때 거리 오차가 하루에 10km 넘게 쌓이는 셈입니다.

우주 전체의 곡률도 측정의 대상입니다. 우주배경복사⁠(cosmic microwave background)⁠는 우주 초기에 나온 빛이 우주가 팽창하는 동안 식어, 지금은 온 하늘에서 고르게 오는 마이크로파입니다. 이것을 정밀하게 잰 관측들은 우리 우주가 큰 규모에서 측정 오차 안에서 평평하다고 말합니다. 2,000년 전 유클리드가 요청으로 내건 문장이 이제는 관측으로 확인하는 물리학의 가설이 되었습니다.

9 · 이어지는 길평행선이 여는 문

• 변환으로 보는 기하: 원판 모형의 움직임은 뫼비우스 변환⁠(Möbius transformation)⁠이고, 구면의 움직임은 회전 행렬⁠(rotation matrix)⁠입니다. 클라인은 1872년 에를랑겐 대학 취임 때 내놓은 강령에서 기하를 그 기하가 허락하는 변환들로 분류하자고 제안했습니다. 평면의 기하에서 그 변환이 어떻게 선형변환⁠(linear transformation)⁠과 복소수 곱셈으로 쓰이는지는 「곱셈은 회전이다」에서 봅니다. 73년 뒤 에일렌베르크와 매클레인은 범주론⁠(category theory)⁠을 처음 내놓은 1945년 논문에서 자기들의 일을 "클라인의 에를랑겐 프로그램의 연장"이라고 불렀습니다. 공간과 그 변환군을 대상과 화살표의 세계로 넓혔다는 뜻입니다. 그 언어는 「화살표만으로 본 수학」에 있습니다.
• 허수 반지름의 구: 람베르트가 짐작하고 타우리누스가 끝까지 해 본 계산, 곧 $R$ 자리에 $iR$을 넣어 코사인을 쌍곡코사인으로 바꾸는 계산은 $\cos(ix) = \cosh x$라는 등식 하나에 기댑니다. 오일러 공식⁠(Euler's formula)⁠에서 코사인은 $\cos\theta = \tfrac{e^{i\theta} + e^{-i\theta}}{2}$로 적히고, θ 자리에 ix를 넣으면 곧바로 $\tfrac{e^{-x} + e^{x}}{2} = \cosh x$가 됩니다. 오일러 공식 자체가 어디서 오는지는 「원을 그리는 지수함수」에서 봅니다.
• '증명할 수 없다'는 증명: 모형 하나로 평행선 공준의 독립성을 보인 5절의 방법은, 각의 삼등분이나 5차방정식의 근의 공식⁠(quadratic formula)⁠처럼 '없다'를 증명하는 여러 방법 가운데 하나입니다. 그 방법들의 공통된 모양은 「불가능의 증명」에서 봅니다.
• 틀린 증명의 쓸모: 프로클로스에서 르장드르까지의 증명들은 모두 틀렸지만, 무엇이 틀렸는지를 따지는 일이 새 기하를 낳았습니다. 코시의 합 정리, 켐프의 4색 증명, 프레게의 법칙처럼 오류를 정확히 짚는 일이 새 분야를 연 다른 이야기들은 「틀린 증명이 만든 수학」에 있습니다.
• 미분과 곡률: 곡률은 곡선이 접선⁠(tangent line)⁠에서 얼마나 빨리 벗어나는지를 재는 양으로, 미분을 두 번 해서 얻습니다. 가우스 곡률은 곡면이 가장 크게 휘는 방향과 가장 작게 휘는 방향에서 잰 두 곡률(주곡률⁠, principal curvature⁠)의 곱이고, 리만은 이것을 모든 차원으로 넓혔습니다. 곡률을 재는 도구인 미분이 무엇인지는 「순간의 속도」에서 봅니다.
• 그래프와 지도: 공항을 점, 항로를 선으로 줄이면 그래프가 되고, 환승 경로 찾기는 최단 경로⁠(shortest path)⁠ 문제가 됩니다. 곡면 위의 측지선을 이산적인 그물 위에서 찾는 셈입니다. 지도의 나라들을 칠하는 4색 정리⁠(four color theorem)⁠도 평면 지도의 기하에서 나온 문제입니다(「일곱 다리의 도시」).
• 데이터 속의 쌍곡기하: 쌍곡평면에서는 중심에서 멀어질수록 원의 둘레가 지수적으로 늘어납니다. 가지가 갈라질 때마다 끝이 배로 늘어나는 나무 구조를 담기에 알맞아서, 2017년 무렵부터 기계 학습⁠(machine learning)⁠에서는 단어의 위계나 연결망을 푸앵카레 원판 안에 배치하는 방법이 연구되고 있습니다.
• 공리와 독립성: 평행선 공준이 다른 공리들과 독립이라는 발견은 20세기 수학기초론⁠(foundations of mathematics)⁠의 본보기가 되었습니다. 칸토어의 연속체 가설⁠(continuum hypothesis)⁠이 집합론⁠(set theory)⁠의 공리들로는 반증할 수 없다는 1940년 괴델의 결과와, 증명할 수도 없다는 1963년 미국의 수학자 폴 코언의 결과가 그 계보에 있습니다(「무한에도 크기가 있다」).
• 지구 위의 거리 계산: 위도와 경도로 대원 거리⁠(great-circle distance)⁠를 재는 하버사인 공식⁠(haversine formula)⁠과, 거리를 재는 다른 여러 방법은 「까마귀와 택시」에 있습니다.
• 증명할 수 없는 것: 평행선 공준처럼 어떤 공리 체계에서 증명도 반증도 되지 않는 문장이 있다는 생각은, 괴델의 1931년 불완전성 정리⁠(incompleteness theorem)⁠에서 훨씬 넓은 모습이 됩니다. 산수를 담을 만큼 강하고, 모순이 없으며, 공리를 기계적으로 나열할 수 있는 체계라면 어느 것에나 그런 문장이 있다는 것입니다. 「기계가 풀 수 없는 문제」를 보세요.