앙리 푸앵카레(Henri Poincaré)

앙리 푸앵카레는 1854년 프랑스 동북부의 낭시에서 태어났습니다. 에콜 폴리테크니크와 광산 학교를 거쳐 한동안 광산 기사로 일했고, 1879년 박사 학위를 받은 뒤 캉을 거쳐 1881년부터 세상을 떠날 때까지 파리 대학에서 가르쳤습니다. 그가 자란 19세기 후반은 뉴턴 역학에 대한 믿음이 가장 굳건하던 때였습니다. 라플라스가 말했듯 지금의 위치와 속도⁠(velocity)⁠를 모두 알면 미래를 계산할 수 있고, 남은 일은 태양계 같은 계의 운동 방정식을 실제로 풀어내는 기술뿐인 것처럼 보였습니다. 푸앵카레는 바로 그 믿음의 한가운데에서 균열을 찾아낸 사람입니다.

나이 세 ·

그의 청소년기는 전쟁으로 갈렸습니다. 1870년 프로이센–프랑스 전쟁에서 프랑스가 지자 낭시는 몇 해 동안 독일군에게 점령되었고, 이웃한 알자스와 로렌 북부는 독일 제국에 넘어갔습니다. 열여섯 살의 그는 의사인 아버지를 따라 부상자를 돌보러 다녔고, 전황을 알려고 독일어 신문을 읽다가 독일어를 익혔다고 전합니다. 패전 뒤 들어선 제3공화국은 프로이센의 승리를 과학과 교육의 승리로 읽었고, 대학과 그랑제콜에 힘을 쏟아 인재를 길렀습니다. 푸앵카레는 1873년 에콜 폴리테크니크에 수석으로 들어갔습니다. 그림 솜씨가 형편없고 손놀림이 서툴렀지만, 칠판에 쓰지 않고 머릿속에서 계산을 끝내는 것으로 이름났습니다. 광산 기사로 일하던 짧은 기간에는 탄광 폭발 사고를 조사하기도 했고, 1879년의 박사 논문은 샤를 에르미트의 지도로 쓴 미분방정식⁠(differential equation)⁠ 연구였습니다.

1880년대 초 그는 푹스 함수⁠(Fuchsian function)⁠라는 복소함수⁠(complex function)⁠, 곧 원판 안의 점을 정해진 변환들로 옮겨도 값이 바뀌지 않는 함수⁠(function)⁠를 연구하다가 쌍곡기하와 마주쳤습니다. 원판 안의 점을 점으로, 경계에 수직으로 닿는 원호(와 지름)를 직선으로 읽으면 평행선 공준⁠(parallel postulate)⁠이 성립하지 않는 로바쳅스키의 기하⁠(geometry)⁠가 그대로 나타납니다. 이것이 푸앵카레 원판⁠(Poincaré disk)⁠입니다. 위의 식에서 보듯 경계에 가까울수록 같은 거리가 그림에서 짧게 그려지므로 경계는 한없이 멀고, 가우스 곡률⁠(Gaussian curvature)⁠은 어디서나 −1입니다. 그는 『과학과 방법』(1908)에 실린 수학적 발명에 관한 글에서, 자신이 푹스 함수를 정의하는 데 쓴 변환이 비유클리드 기하⁠(non-Euclidean geometry)⁠의 변환과 같다는 착상이 노르망디의 쿠탕스에서 승합마차 발판에 발을 올리는 순간 떠올랐다고 회고했습니다. 오래 의식적으로 매달린 문제를 무의식이 마무리한다는 이 회고는 수학자의 창의성을 이야기할 때 지금도 자주 인용됩니다.

이 연구는 국경을 사이에 둔 경쟁 속에서 자랐습니다. 푸앵카레가 이 함수들에 독일 수학자 라자루스 푹스의 이름을 붙이자, 괴팅겐으로 가기 전 라이프치히에 있던 펠릭스 클라인이 같은 대상을 먼저 다룬 사람은 따로 있다며 편지로 이의를 제기했습니다. 1881–1882년 두 사람은 정중하지만 날 선 편지를 주고받으며 경주하듯 논문을 냈고, 푸앵카레는 다른 부류의 함수에 '클라인 군'이라는 이름을 붙여 응수했습니다. 클라인은 이 경쟁의 긴장 속에서 1882년 가을 건강을 크게 해쳤다고 회고했습니다. 두 나라의 수학을 이어 준 것은 스웨덴의 괴스타 미타그레플레르였습니다. 그는 1882년 학술지 『악타 마테마티카』를 창간해 첫 권들을 푸앵카레의 푹스 함수 논문으로 채웠고, 전쟁 뒤 서로 불편하던 프랑스와 독일의 수학자들이 함께 글을 싣는 자리를 만들었습니다. 원판을 합동⁠(congruence)⁠인 조각으로 빈틈없이 덮고, 조각들을 서로 옮기는 변환들이 이루는 구조, 곧 군을 읽는 이 방법은 대칭과 불변량⁠(invariant)⁠의 가장 아름다운 예 가운데 하나입니다.

1885년 스웨덴 왕 오스카르 2세는 자신의 60세 생일(1889년)을 기념해 상을 걸었고, 그 과제 가운데 하나가 서로 끌어당기는 여러 천체의 운동을 급수⁠(series)⁠로 풀라는 것이었습니다. 푸앵카레는 가장 단순한 경우인 세 천체(삼체 문제), 그것도 하나가 아주 가벼워 다른 둘의 운동에 영향을 주지 못하는 제한된 삼체 문제⁠(restricted three-body problem)⁠로 좁혀 응모했고 1889년 상을 받았습니다. 그런데 논문이 인쇄되던 중 편집을 맡은 스웨덴의 젊은 수학자 에드바르드 프라그멘의 질문을 계기로 그는 깊은 오류를 스스로 찾아냈습니다. 이미 찍은 호는 회수되었고, 1890년에 실린 고친 논문은 처음과 정반대의 이야기를 담고 있었습니다. 불안정한 궤도(거꾸로 세운 연필처럼 조금만 비껴도 멀어지는 궤도⁠(orbit)⁠)로 다가가는 길과 거기서 멀어지는 길이 한 번 만나면 무한히 여러 번 엇갈려 촘촘한 그물을 이루고, 그 근처에서는 처음 위치의 아주 작은 차이가 전혀 다른 궤도로 이어진다는 것입니다. 오늘날 혼돈이라 부르는 현상의 첫 발견입니다. 그는 궤도가 어떤 면을 지날 때마다 그 점만 찍어서 연속적인 흐름을 점에서 점으로 가는 사상으로 바꾸어 보았는데, 이 방법(푸앵카레 단면⁠, Poincaré section⁠)은 로지스틱 사상⁠(logistic map)⁠ 같은 단순한 되풀이가 복잡한 운동의 모형이 되는 까닭이기도 합니다. 1908년 『과학과 방법』에서는 알아차리지 못할 만큼 작은 원인이 큰 결과를 정하면 예측이 불가능해진다고 쓰고 날씨를 예로 들었습니다. 반세기 뒤 에드워드 로렌츠가 컴퓨터 위에서 같은 현상을 다시 만났습니다(로렌츠 끌개⁠, Lorenz attractor⁠).

그 상의 뒷이야기는 19세기 말 수학계가 어떻게 움직였는지 잘 보여 줍니다. 심사는 미타그레플레르와 베를린의 카를 바이어슈트라스, 파리의 에르미트가 맡았고, 상을 거는 일 자체가 작은 나라 스웨덴이 국제 과학의 중재자로 나서는 외교였습니다. 오류가 드러나자 미타그레플레르는 이미 발송한 호를 조용히 되찾아 들였고, 푸앵카레는 다시 찍는 비용을 스스로 댔는데 그 돈이 상금보다 많았다고 합니다. 고친 논문에서 시작한 생각은 1892년부터 1899년까지 세 권으로 나온 『천체역학⁠(celestial mechanics)⁠의 새로운 방법』으로 자랐습니다. 식을 푸는 대신 해들이 이루는 전체 모양을 보고, 어떤 궤도가 되돌아오는지와 어떤 궤도가 안정한지를 묻는 이 방법이, 정해진 규칙에 따라 시간이 흐르며 변하는 상태를 다루는 동역학계⁠(dynamical system)⁠ 이론의 출발점입니다. 그러나 그가 본 혼돈의 그물은 너무 복잡해서 그림으로 그릴 엄두도 나지 않는다고 그 스스로 썼고, 실제로 그려진 것은 컴퓨터가 생긴 20세기 후반이었습니다. 1912년 세상을 떠나기 직전에는 원형 띠를 제자리로 옮기는 변환에 관한 정리를 증명 없이 발표했습니다. 띠의 안쪽 원과 바깥쪽 원을 서로 반대 방향으로 돌리면서 넓이⁠(area)⁠를 보존하는 변환이라면, 움직이지 않는 점(고정점⁠(fixed point)⁠)이 적어도 둘 있다는 정리입니다. 이듬해 미국의 수학자 조지 버코프가 이것을 증명해 이름을 알렸습니다.

궤도를 식 대신 모양으로 다루려면 모양 자체를 다루는 수학이 필요했습니다. 1895년의 「위치 해석⁠(analysis situs)⁠」과 뒤이은 보충 논문들에서 그는 늘이고 구부려도 변하지 않는 성질을 다루는 위상수학의 기초를 놓았습니다. 손잡이 달린 커피잔은 찢거나 붙이지 않고 주물러 도넛 모양으로 바꿀 수 있으니, 위상수학으로는 같은 모양입니다(둘 다 구멍이 하나입니다). 공간 위에 그린 고리를 끊지 않고 한 점으로 오므릴 수 있는지를 따지는 기본군⁠(fundamental group)⁠이 여기서 나왔고, 오일러가 구멍 없는 다면체에서 찾은 '꼭짓점⁠(vertex)⁠ − 모서리 + 면 = 2'도 그의 손에서 모든 차원의 공간에 대한 불변량으로 넓어졌습니다. 1904년에는 모든 고리가 한 점으로 오므라드는 닫힌 3차원 공간은 3차원 구면뿐이냐는 질문을 남겼습니다. 공 표면(2차원 구면)에서는 어떤 고리든 미끄러뜨려 한 점으로 오므릴 수 있지만 도넛 표면에서는 구멍을 감은 고리가 걸립니다. 3차원 구면은 4차원 공간에서 한 점까지의 거리가 같은 점들이 이루는, 구면의 한 차원 높은 판입니다. 이 푸앵카레 추측⁠(Poincaré conjecture)⁠은 한 세기 가까이 풀리지 않다가 2002–2003년 러시아의 수학자 그리고리 페렐만이 증명했습니다. 작은 조각마다 들여다보면 모두 평범한 공간처럼 보이는데 전체로는 어떻게 다를 수 있는지를 묻는 이 방식은 국소에서 전체로 가는 생각의 대표적인 예입니다.

그는 과학의 기초를 묻는 대중적인 책들로도 널리 읽혔습니다. 『과학과 가설』(1902)에서 그는 기하학의 공리⁠(axiom)⁠가 경험 이전에 알 수 있는 선험적⁠(a priori)⁠ 진리도 실험으로 확인한 사실도 아닌 약속이며, 한 기하가 다른 기하보다 더 참일 수는 없고 더 편리할 수 있을 뿐이라고 썼습니다(규약주의⁠, conventionalism⁠). 반면 수학적 귀납법⁠(mathematical induction)⁠은 논리로 환원되지 않는 정신의 직관이라고 보았고, 그래서 산술 전체를 논리에서 이끌어 내려던 러셀과 논쟁했습니다. 그는 러셀의 역설⁠(Russell's paradox)⁠ 같은 모순이, 정의하려는 대상 자신이 들어 있는 전체를 훑어서 그 대상을 정의할 때 생긴다고 진단했습니다. '모든 집합⁠(set)⁠의 집합'처럼 스스로를 원소⁠(element)⁠로 삼을 수 있는 정의가 그런 예입니다. 러셀은 이 진단을 받아들여, 대상을 층으로 나누어 한 층의 것은 아래 층의 것만 원소로 삼게 하는 타입 이론⁠(type theory)⁠을 세웠습니다. 1905년에는 서로 일정한 속도로 움직이는 두 관찰자의 시간과 공간 좌표를 잇는 변환에 네덜란드 물리학자 헨드릭 로렌츠의 이름을 붙이고 그 변환들이 이루는 수학적 구조를 정리하는 등, 아인슈타인과 거의 같은 때에 특수 상대성 이론⁠(special relativity)⁠의 수학에 이르렀습니다. 특수 상대성 이론은 빛의 속도가 어느 관찰자에게나 같다는 데서, 시간의 흐름과 길이가 관찰자의 운동에 따라 달라진다는 결론을 이끌어 낸 이론입니다. 다만 모든 것의 기준이 되는 절대 시간과, 빛을 실어 나른다고 여겨지던 매질인 에테르를 버리는 물리적 해석까지 나아간 것은 아인슈타인이었다는 것이 대체적인 평가입니다.

그가 시간과 동시성을 따지게 된 데에는 당시의 기술과 제도가 있었습니다. 1893년부터 그는 경도국의 위원이었습니다. 지도를 그리고 배의 위치를 정하려면 멀리 떨어진 두 곳의 시계를 맞춰야 했고, 19세기 말에는 이 일을 전신 신호로 했습니다. 신호가 선을 따라 가는 데 걸리는 시간을 빼 주어야 하는데, 그 시간을 재려면 다시 시계를 맞춰야 한다는 순환이 생깁니다. 1898년의 글 「시간의 측정」에서 그는 멀리 떨어진 두 사건⁠(event)⁠이 '동시'라는 말은 이런 신호 교환에 대한 약속으로 정할 수밖에 없다고 썼습니다. 그는 하루와 각도를 십진법으로 바꾸자는 정부 위원회에도 참여했는데, 이 계획은 결국 받아들여지지 않았습니다. 과학사가 피터 갤리슨은 이런 실무의 경험이 그의 상대성 이론 연구와 이어져 있다고 보았습니다.

그는 수학 밖의 일에도 불려 나왔습니다. 1904년, 간첩 누명을 쓴 유대계 장교 알프레드 드레퓌스를 둘러싼 드레퓌스 사건의 재심에서, 문서의 필적을 확률⁠(probability)⁠로 분석해 드레퓌스가 썼다고 주장한 경찰 범죄학자 알퐁스 베르티옹의 감정을 동료 수학자 가스통 다르부, 폴 아펠과 함께 검토해 그 논증이 확률을 잘못 쓴 것이라는 보고서를 냈습니다. 사촌 레몽 푸앵카레는 1913년부터 프랑스 대통령을 지냈습니다. 수술 뒤 합병증으로 1912년 쉰여덟에 세상을 떠났을 때, 그는 순수수학과 응용수학, 물리학, 철학을 모두 아우른 거의 마지막 수학자로 기억되었습니다.

그가 세상을 떠난 뒤 그의 평판은 두 방향으로 갈렸습니다. 수학의 토대를 두고 그는 칸토어의 무한 집합을 마음껏 쓰는 흐름과 논리로 모든 것을 세우려는 흐름에 모두 의심을 보였고, 1905–1906년의 글들에서는 수학이 모순을 낳지 않음을 증명하려던 힐베르트의 무모순성⁠(consistency)⁠ 증명 계획마저, 증명 과정에서 귀납법을 몰래 쓰는 순환이라고 비판했습니다. 사람의 직관이 먼저라는 이 태도 때문에 네덜란드의 브라우어르는 그를 직관주의⁠(intuitionism)⁠, 곧 수학적 대상은 사람이 구성해 보일 수 있을 때에만 존재한다고 보는 입장의 선구자로 꼽았습니다(수학 기초론 논쟁⁠, debate on the foundations of mathematics⁠). 한편 1차 세계대전은 프랑스의 젊은 수학자 세대를 참호에서 앗아 갔고, 1930년대에 앙드레 베유 같은 젊은이들은 푸앵카레 식의 직관적인 글쓰기 대신 괴팅겐의 공리적인 스타일을 본받아 부르바키라는 이름으로 수학 전체를 다시 쓰기 시작했습니다. 그의 혼돈과 위상수학이 제자리를 찾은 것은 1960년대 이후 미국의 수학자 스티븐 스메일과 로렌츠 같은 이들이 컴퓨터와 새 도구로 그의 그물을 다시 그리면서였습니다.

이어지는 곳. 원판 모형에서 쌍곡평면⁠(hyperbolic plane)⁠의 거리를 지키는 변환은 복소수⁠(complex number)⁠ z를 (az + b)/(cz + d)로 보내는 일차분수 변환 가운데 원판을 원판으로 보내는 것들이고, 원판의 '직선'은 두 점 사이의 가장 짧은 길인 측지선⁠(geodesic)⁠입니다. 삼체 문제에서 시작된 혼돈의 이야기는 매개변수⁠(parameter)⁠를 조금 바꿀 때 궤도의 모양이 갑자기 달라지는 분기⁠(bifurcation)⁠와 날씨 모형에서 다시 나타난 로렌츠 끌개로, 그가 던진 궤도의 안정성⁠(stability)⁠ 질문에 대한 부분적인 답은 적당한 조건을 갖춘 계에서 규칙적인 궤도 대부분이 충분히 작은 흔들림에는 살아남는다는 콜모고로프의 1954년 정리로 이어집니다. 공리를 약속으로 보는 태도는 점과 직선의 뜻을 정하지 않고 공리만으로 기하를 다시 세운 힐베르트의 『기하학의 기초』(1899)와 같은 시대의 것입니다.

관계.

• 영향을 받음 니콜라이 로바쳅스키 — 푹스 함수를 정의하는 변환이 로바쳅스키의 비유클리드 기하의 변환과 같다는 것을 깨닫고, 원판 위에 그 기하의 모형을 그렸습니다.
• 논쟁 다비트 힐베르트 — 1905년 힐베르트가 산술의 무모순성을 증명하려 한 시도가 수학적 귀납법을 이미 쓰고 있으니 순환 논증이라고 비판했습니다.
• 논쟁 버트런드 러셀 — 산술을 논리로 환원하려는 논리주의⁠(logicism)⁠를 공격했고, 역설의 원인을 자기 순환적 정의로 본 그의 진단은 러셀의 타입 이론에 반영되었습니다.
• 영향을 줌 에드워드 로렌츠 — 작은 원인이 큰 결과를 정해 예측이 불가능해진다는 그의 1908년 경고를, 로렌츠가 반세기 뒤 컴퓨터의 날씨 모형에서 다시 만났습니다.

연표.

• 1870년 프로이센–프랑스 전쟁으로 낭시가 점령되다
• 1873년 에콜 폴리테크니크에 들어가다
• 1879년 박사 학위를 받고 캉 대학에서 가르치기 시작하다
• 1881년 파리 대학으로 옮기다
• 1882년 푹스 함수 연구에서 원판 모형을 쓰다
• 1887년 과학 아카데미 회원으로 뽑히다
• 1889년 삼체 문제 논문으로 오스카르 2세 상을 받다
• 1890년 오류를 고친 삼체 문제 논문을 싣다
• 1892년 『천체역학의 새로운 방법』 첫 권을 펴내다
• 1893년 경도국 위원이 되다
• 1895년 「위치 해석」으로 위상수학의 기초를 놓다
• 1898년 「시간의 측정」에서 동시성을 약속의 문제로 다루다
• 1902년 『과학과 가설』을 펴내다
• 1904년 드레퓌스 재심에서 필적 감정의 확률 논증을 반박하는 보고서를 내다
• 1908년 『과학과 방법』을 펴내고 아카데미 프랑세즈 회원으로 뽑히다
• 1912년 증명하지 못한 '마지막 기하 정리'를 발표하고 세상을 떠나다