사영기하(Projective geometry)

곧은 기찻길의 두 레일은 평행하지만 사진 속에서는 지평선의 한 점으로 모입니다. 15세기 초 피렌체의 건축가 필리포 브루넬레스키는 거울과 작은 구멍을 이용한 실험으로 이런 원근의 규칙을 보였고, 1435년 레온 바티스타 알베르티는 『회화론』에서 바닥의 타일을 그리는 방법으로 이를 정리했습니다. 그림 면에 수직인 평행선은 모두 한 점(소실점⁠, vanishing point⁠)으로 모이고, 방향이 다른 평행선 묶음은 각자 다른 점으로 모이는데, 수평면 위의 모든 소실점은 지평선이라는 한 직선 위에 놓입니다. 그림에서 길이, 각도, 평행은 모두 바뀝니다. 남는 것은 곧은 선은 곧게 보인다는 것, 그리고 점이 선 위에 있으면 그림에서도 선 위에 있다는 것입니다. 이렇게 한 점에서 비춘 그림자(사영)로 바뀌지 않는 성질만 다루는 기하학이 사영기하입니다.

무한히 먼 점. 1604년 케플러와 1639년 리옹의 건축가 지라르 데자르그는 과감한 약속을 했습니다. 평행한 직선들도 무한히 먼 곳의 한 점에서 만난다고 보자는 것입니다. 방향마다 무한원점⁠(point at infinity)⁠을 하나씩 더하고, 그 점들을 모두 모은 것을 무한원직선⁠(line at infinity)⁠이라 부릅니다. 그림 속 지평선이 바로 이 직선의 모습입니다. 이렇게 넓힌 평면(사영 평면⁠, projective plane⁠)에서는 서로 다른 두 점이 한 직선을 정하고, 서로 다른 두 직선이 한 점에서 만난다는 것이 예외 없이 성립합니다. 유클리드 평면에서 평행선 공준⁠(parallel postulate)⁠이 만들던 예외가 사라진 것입니다. 1827–1830년 무렵 독일의 아우구스트 페르디난트 뫼비우스와 율리우스 플뤼커는 이를 계산으로 옮겼습니다. 점 (x, y)를 세 수의 비 (x : y : 1)로 적고, 세 수에 같은 수를 곱해도 같은 점으로 봅니다. 마지막 자리가 0인 (x : y : 0)이 방향 (x, y)의 무한원점입니다(동차 좌표⁠, homogeneous coordinates⁠). 그러면 평면의 사영 변환은 세 수에 3×3 행렬⁠(matrix)⁠을 곱하는 선형변환⁠(linear transformation)⁠이 됩니다(결과도 비로만 읽습니다). 컴퓨터 그래픽이 3차원 장면을 화면에 원근법으로 그릴 때도 같은 방식으로, 네 수로 적은 점에 4×4 행렬을 곱합니다.

복비: 그림자에서도 남는 수. 사영으로 길이는 바뀌고, 길이의 비도 바뀝니다. 그러나 한 직선 위의 네 점 A, B, C, D로 만든 복비 $(A, B; C, D) = \dfrac{AC \cdot BD}{BC \cdot AD}$는 바뀌지 않습니다(길이는 직선 위의 한 방향을 양으로 정해 부호를 붙여 잽니다). 4세기 알렉산드리아의 파포스가 이미 알았던 사실입니다. 점 O에서 빛을 비춰 아래 직선의 네 점을 위의 직선에 옮겨 봅시다. O와 A, B, C, D를 끌고, 위 직선의 기울기⁠(slope)⁠ °를 바꿔 보세요.

분홍 직선이 광선 하나와 평행해지면 그 점은 무한원점으로 달아나지만, 복비는 그 경우까지 포함해 한 값으로 이어집니다. 복비는 사진 속 거리로 실제 거리를 되찾는 데도 쓰입니다. 도로 위의 표시 세 개의 실제 간격을 알면, 사진에 찍힌 네 번째 점까지의 실제 거리를 복비 하나로 계산할 수 있습니다.

점과 직선의 쌍대성⁠(duality)⁠. 사영 평면에서 '두 점은 한 직선 위에 있다'와 '두 직선은 한 점을 지난다'는 문장의 모양이 똑같습니다. 그래서 사영기하의 어떤 정리에서 '점'과 '직선', '위에 있다'와 '지난다'를 맞바꾸면 또 하나의 정리가 공짜로 얻어집니다. 1820년대 프랑스의 조제프 디에즈 제르곤과 장빅토르 퐁슬레가 이 쌍대 원리⁠(principle of duality)⁠를 다듬었고, 누가 먼저인지를 두고 다투기도 했습니다(쌍대성).

데자르그의 이름이 붙은 정리가 그 예입니다. 두 삼각형 ABC와 A′B′C′에서 AA′, BB′, CC′이 한 점에서 만나면(한 점에서 본 원근), 대응하는 변의 연장선들의 교점 AB∩A′B′, BC∩B′C′, CA∩C′A′은 한 직선 위에 있습니다(한 직선에 대한 원근). 이 정리는 1648년 데자르그의 친구인 판화가 아브라암 보스의 원근법 책에 실려 전해졌습니다. 두 삼각형이 서로 다른 평면에 있으면 증명이 한 줄입니다. 두 평면은 한 직선에서 만나고, 세 교점은 모두 그 직선 위에 있기 때문입니다. 평면의 정리를 공간에서 내려다보면 쉬워진다는 것이 사영기하의 전형적인 생각입니다.

파스칼의 육각형. 데자르그의 원고를 읽은 열여섯 살의 블레즈 파스칼은 1640년 짧은 인쇄물 『원뿔곡선⁠(conic section)⁠ 시론』에서 다음 정리를 발표했습니다. 원뿔곡선 위에 여섯 점을 잡아 육각형 ABCDEF를 만들면, 마주 보는 변의 쌍 AB와 DE, BC와 EF, CD와 FA가 만나는 세 점은 한 직선 위에 있습니다. 여섯 점을 끌어 보세요. 곡선:

원에서만 증명하면 충분합니다. 모든 원뿔곡선은 원뿔의 꼭짓점⁠(vertex)⁠에서 원을 비춘 그림자이고(원뿔곡선), 사영은 직선을 직선으로, 교점을 교점으로 보내니 '세 점이 한 직선 위에 있다'는 성질도 그대로 옮겨 가기 때문입니다. 1806년 샤를쥘리앵 브리앙숑은 이 정리의 쌍대를 찾았습니다. 원뿔곡선에 외접하는 육각형에서 마주 보는 꼭짓점을 잇는 세 대각선은 한 점에서 만납니다.

포로수용소에서 쓴 기하학. 사영기하를 하나의 이론으로 세운 사람은 퐁슬레였습니다. 에콜 폴리테크니크에서 가스파르 몽주에게 화법기하를 배운 그는 나폴레옹의 러시아 원정에 공병 장교로 나갔다가 1812년 크라스노이 전투에서 포로가 되었고, 1813–14년 볼가 강가의 사라토프 수용소에서 책 한 권 없이 기억만으로 기하학을 다시 세웠습니다. 그 결과가 1822년의 『도형의 사영적 성질에 관한 논고』입니다. 1847년 독일의 카를 폰 슈타우트는 길이를 전혀 쓰지 않고 사영기하를 세웠고, 1859년 아서 케일리는 '사영기하가 곧 모든 기하⁠(geometry)⁠'라는 뜻의 말을 남겼습니다. 1872년 펠릭스 클라인은 에를랑겐 프로그램에서 기하학이란 어떤 변환의 모임(군)으로 바뀌지 않는 성질을 연구하는 것이라고 정리했습니다. 유클리드 기하는 사영 변환 가운데 길이와 각을 지키는 것만 남긴 경우이고, 사영 평면의 원 하나를 '무한'으로 삼으면 쌍곡기하⁠(hyperbolic geometry)⁠의 모형이 나옵니다.

이어지는 곳. 사영기하의 가장 중요한 곡선은 원뿔곡선이고, 사영 평면에서는 타원⁠(ellipse)⁠·포물선⁠(parabola)⁠·쌍곡선⁠(hyperbola)⁠이 사영 변환으로 서로 옮겨 가는 한 종류의 곡선이 됩니다. 셋의 차이는 무한원직선과 몇 점에서 만나느냐(0, 1, 2)뿐입니다. 원근법의 계산은 행렬과 선형변환으로, 무한히 먼 점을 더해 예외를 없애는 생각은 무한을 다루는 법과 표현 바꾸기로 이어집니다. 점과 직선을 맞바꾸는 쌍대성은 쌍대성에서 다른 분야의 쌍대와 나란히 놓입니다. 변환으로 기하를 분류하는 클라인의 관점은 대칭과 불변량⁠(invariant)⁠과 위상수학⁠(topology)⁠에도 그대로 쓰입니다. 평면 기하의 다른 갈래는 평행선 공준, 구면기하⁠(spherical geometry)⁠, 푸앵카레 원판⁠(Poincaré disk)⁠을 보세요.