니콜라이 로바쳅스키(Nikolai Lobachevsky)

니콜라이 로바쳅스키는 1792년 러시아의 니즈니노브고로드에서 태어나 볼가강 가의 도시 카잔에서 평생을 보낸 수학자입니다. 그가 붙잡은 문제는 2,000년 묵은 것이었습니다. 유클리드의 『원론』의 다섯째 공준⁠(postulate)⁠인 평행선 공준은 원래 두 직선과 만나는 한 직선이 한쪽에 만드는 두 안쪽 각의 합이 180°보다 작으면 두 직선이 그쪽에서 만난다는 문장입니다. 다른 공준들 아래에서 이것은 '직선 밖의 한 점을 지나 그 직선과 만나지 않는 직선은 꼭 하나뿐'이라는 오늘날의 흔한 형태와 같습니다. 이 공준은 다른 공준들보다 길고 덜 자명해 보여서, 수학자들은 이것을 나머지로 증명하려고 거듭 애썼습니다. 가까이는 르장드르도 여러 '증명'을 내놓았습니다. 로바쳅스키는 방향을 뒤집어, 이 공준을 부정한 채로 끝까지 가 보면 무엇이 나오는지 따졌습니다.

나이 세 ·

카잔 대학은 그가 입학하기 3년 전인 1804년에 세워진 새 대학이었습니다. 그곳에서 그를 가르친 사람 가운데에는 젊은 가우스의 스승이자 친구였던 독일 수학자 마르틴 바르텔스가 있었습니다. 로바쳅스키는 졸업 뒤 이 대학에서 가르쳤고, 1827년부터 1846년까지 20년 가까이 총장을 지냈습니다. 도서관과 천문대, 실험실을 짓고 1830년 콜레라가 돌 때 대학을 격리해 사람들을 지킨 행정가이기도 했습니다.

카잔은 러시아 제국의 동쪽 관문이었습니다. 타타르인과 러시아인이 섞여 살고 시베리아와 중앙아시아로 가는 길목에 있던 이 도시에, 알렉산드르 1세는 제국을 근대 국가로 바꾸려는 교육 개혁의 하나로 대학을 세웠습니다. 가르칠 사람이 모자라 독일에서 교수들을 불러왔고, 바르텔스도 그렇게 온 사람이었습니다. 개혁의 바람은 오래가지 않았습니다. 나폴레옹 전쟁 뒤 황제가 신비주의와 보수로 기울자, 1819년 카잔 대학을 감찰한 마그니츠키는 학문이 신앙을 해친다며 교수들을 쫓아내고 강의를 성경에 맞추라고 요구했으며 대학을 아예 없애자는 보고서까지 올렸습니다. 로바쳅스키는 이 시기를 견디며 자리를 지켰고, 마그니츠키가 1826년 물러난 이듬해 서른네 살에 총장으로 뽑혔습니다. 그 무렵 그가 쓴 기하 교과서는 1823년 상트페테르부르크 아카데미의 심사에서 거절당했는데, 혁명기 프랑스에서 만든 미터법을 쓴 것도 흠으로 꼽혔다고 전합니다.

그의 생각은 이렇습니다. 직선 ℓ 밖의 점 P를 지나는 직선들을 P에서 ℓ로 내린 수선⁠(perpendicular)⁠에서부터 돌려 보면, 처음에는 ℓ과 만나다가 어느 각도에서 만나지 않게 됩니다. 유클리드 기하에서는 그 경계가 수선과 90°를 이루는 한 방향뿐입니다. 로바쳅스키는 경계의 각이 90°보다 작다고 가정했습니다. 그러면 경계를 이루는 두 직선 사이의 모든 직선이 ℓ과 만나지 않습니다. 그는 경계선 둘을 평행선이라 불렀고, 그 각 $\Pi(d)$가 P와 ℓ 사이의 거리 d에 따라 $\tan(\Pi(d)/2) = e^{-d}$로 정해진다는 것을 찾았습니다(길이 단위를 알맞게 잡을 때). d가 0으로 가면 이 각은 90°로 가서 유클리드 기하처럼 보이고, 멀어질수록 0°로 줄어듭니다.

이 가정에서 끌어낸 정리들은 이상하지만 서로 어긋나지 않았습니다. 삼각형의 세 각의 합은 180°보다 작고, 모자란 양은 삼각형의 넓이⁠(area)⁠에 비례합니다. 그러니 닮음이지만 크기가 다른 삼각형은 없습니다. 작은 삼각형은 거의 180°여서, 우리가 사는 좁은 세계에서는 유클리드 기하와 가려낼 수 없습니다. 가까이서는 평평해 보이는 공간이 크게 보면 전혀 다를 수 있다는 이 구조는 국소에서 전체로의 대표적인 예입니다. 로바쳅스키는 실제 공간이 어느 쪽인지는 측정이 정할 문제라고 보고, 별의 연주 시차⁠(annual parallax)⁠로 만든 거대한 삼각형의 각을 따져 보았습니다. 연주 시차는 지구가 태양 둘레를 도는 반년 사이에 가까운 별을 보는 방향이 조금 바뀌는 각으로, 지구 궤도⁠(orbit)⁠의 지름을 밑변으로 하는 거대한 삼각형을 줍니다. 차이는 측정 오차보다 작았습니다. 그는 자기 기하를 '상상 기하학'이라 불렀는데, 오늘날의 이름은 쌍곡기하⁠(hyperbolic geometry)⁠입니다. 그 공식들은 구면기하⁠(spherical geometry)⁠의 공식에서 구의 반지름 R 자리에 허수⁠(imaginary number)⁠ iR을 넣은 것과 꼭 같습니다. 그래서 그는 쌍곡기하를 '반지름이 허수인 구면'의 기하처럼 볼 수 있었습니다.

인정은 늦게 왔습니다. 1826년 학부에서 한 발표와 1829–30년 대학 기관지 『카잔 통보』에 실은 러시아어 논문은 흔히 비유클리드 기하⁠(non-Euclidean geometry)⁠가 처음 인쇄된 글로 꼽히지만, 수도 상트페테르부르크의 아카데미에서는 당대 러시아의 대표적 수학자 오스트로그라드스키가 부정적인 평을 냈고 한 잡지에는 익명의 조롱 기사가 실렸습니다. 그는 포기하지 않고 1837년 프랑스어로, 1840년 독일어로 다시 썼습니다. 베를린에서 낸 얇은 독일어 책을 읽은 괴팅겐의 가우스는 편지에서 그를 높이 평가했고, 러시아어를 익혀 그의 다른 글을 읽었다고 합니다. 1842년 로바쳅스키가 괴팅겐 학회의 통신회원으로 뽑힌 것도 가우스의 추천 덕분이었습니다. 가우스 자신도 같은 기하를 먼저 알았지만 발표하지 않았습니다. 헝가리의 보여이 야노시는 1832년 같은 결과를 따로 발표했습니다.

반응이 차가웠던 데에는 까닭이 있습니다. 당시 러시아 수학의 중심은 오일러의 전통을 잇는 상트페테르부르크의 과학 아카데미였고, 파리에서 공부한 오스트로그라드스키는 역학과 해석학⁠(mathematical analysis)⁠의 대가였습니다. 그가 1832년 아카데미에 낸 보고서는 이 글의 요지를 알 수 없고 아카데미가 주목할 가치가 없다는 취지였습니다. 1834년 잡지 『조국의 아들』에는 이 '새 기하학'을 비웃는 익명의 글이 실렸습니다. 지방 대학의 총장이 2,000년 된 공준을 버렸다는 주장은 따져 보기도 전에 우스개로 받아들여졌습니다. 공정하게 말하면 그의 글에도 빈 곳이 있었습니다. 정리들이 서로 맞물린다는 것은 보였지만, 더 계산하다 보면 언젠가 모순이 튀어나오지 않는다는 보증은 없었습니다. 그 보증은 그가 죽은 뒤 '모형'이라는 생각이 나오고서야 얻어졌습니다.

말년은 쓸쓸했습니다. 1846년 총장 자리에서 물러났고, 아들을 잃었으며, 눈이 멀었습니다. 그래도 1855년 마지막 저작 『범기하학⁠(pangeometry)⁠』을 받아 적게 해 펴냈고, 이듬해 카잔에서 세상을 떠났습니다. 그의 기하가 유클리드 기하만큼 모순이 없다는 것은 그가 죽은 뒤에야 확인되었습니다. 1868년 이탈리아의 벨트라미가 나팔 모양의 의구면⁠(pseudosphere)⁠처럼 음의 곡률⁠(curvature)⁠이 일정한 곡면 위에서 이 기하가 성립함을 보였고, 같은 해 리만의 1854년 강연이 출판되어 이 기하를 '곡률이 음수로 일정한 공간'으로 자리매김했습니다. 1880년대에는 푸앵카레가 원판 모형을 복소함수⁠(complex function)⁠ 연구에 썼습니다.

그 뒤 이 기하가 간 길을 보면 '상상'이라는 이름이 무색합니다. 1871년 클라인은 사영기하⁠(projective geometry)⁠ 안에 이 기하의 모형을 만들었고, 이듬해 에를랑겐 강령⁠(Erlangen program)⁠에서 기하학을 '어떤 변환들 아래에서 바뀌지 않는 성질을 연구하는 학문'으로 정리했습니다. 유클리드의 평면, 로바쳅스키의 평면, 구면은 저마다 다른 대칭을 가진 공간이 되었습니다. 카잔에서는 1893년 그의 탄생 100주년을 기려 모은 기금으로 로바쳅스키 상이 만들어져, 1897년 소푸스 리가 첫 수상자가 되었습니다. 20세기에는 아인슈타인의 특수 상대성 이론⁠(special relativity)⁠에서 속도⁠(velocity)⁠가 더해지는 방식이 쌍곡기하의 거리 계산과 같다는 것이 알려졌고, 우주 전체가 음의 곡률을 가질 수 있는지는 우주론의 진지한 질문이 되었습니다. 최근에는 나무 모양의 계층 구조를 적은 차원에 담는 데 쌍곡 공간이 쓰입니다. 원판의 가장자리로 갈수록 공간이 기하급수적으로 넓어지는 성질이, 가지를 칠수록 끝의 개수가 불어나는 나무와 닮았기 때문입니다.

이어지는 곳. 출발점은 평행선 공준이고, 그가 세운 기하는 쌍곡기하와 그 모형인 푸앵카레 원판⁠(Poincaré disk)⁠에서 직접 만져 볼 수 있습니다. 곡면의 휜 정도로 세 기하를 한데 묶는 말은 가우스 곡률⁠(Gaussian curvature)⁠이고, 휘어진 공간의 '직선'은 측지선⁠(geodesic)⁠입니다. 같은 문제를 둘러싼 사람으로, 공준을 처음 적은 유클리드, 같은 기하를 먼저 알고도 발표하지 않은 가우스, 이 기하를 곡률이 음수인 공간으로 자리매김한 리만이 있습니다.

관계.

• 영향을 받음 유클리드 — 『원론』의 다섯째 공준이 그가 평생 붙든 문제였고, 그는 이 공준만 빼고 유클리드의 나머지 체계를 그대로 두었을 때 무엇이 남는지를 따졌습니다.
• 영향을 줌 카를 프리드리히 가우스 — 1840년의 독일어 책을 읽은 가우스는 친구들에게 보낸 편지에서 그를 높이 평가하고 그의 러시아어 글을 읽으려 러시아어를 익혔으며, 1842년 그를 괴팅겐 학회의 통신회원으로 추천했습니다.
• 영향을 줌 앙리 푸앵카레 — 푸앵카레는 1880년대 초 푸크스 함수(원판 위에서 정의되어 특정한 변환들을 해도 값이 되풀이되는 복소함수)를 연구하다 자기가 쓴 변환이 비유클리드 기하의 변환과 같다는 것을 깨닫고, 이 기하를 '로바쳅스키의 기하'라 부르며 원판 모형으로 썼습니다.

연표.

• 1807년 카잔 대학에 들어가다
• 1819년 마그니츠키의 감찰로 카잔 대학의 교수들이 쫓겨나기 시작하다
• 1822년 정교수가 되다
• 1823년 그가 쓴 기하 교과서가 아카데미 심사에서 거절되다
• 1826년 학부에서 평행선 공준 없는 기하를 발표하다
• 1827년 카잔 대학 총장이 되다
• 1829년 「기하학의 원리에 대하여」를 『카잔 통보』에 싣기 시작하다
• 1830년 콜레라 유행 때 대학을 격리해 사람들을 지키다
• 1832년 오스트로그라드스키가 아카데미에 부정적인 심사평을 내다
• 1834년 잡지 『조국의 아들』에 그를 비웃는 익명의 글이 실리다
• 1837년 프랑스어 논문 「상상 기하학」을 크렐레의 학술지에 싣다
• 1840년 베를린에서 『평행선 이론의 기하학적 연구』를 내다
• 1842년 가우스의 추천으로 괴팅겐 학회의 통신회원이 되다
• 1846년 총장 자리에서 물러나다
• 1855년 눈이 먼 채 『범기하학』을 받아 적게 하다