에바리스트 갈루아(Évariste Galois)

에바리스트 갈루아는 1811년 파리 남쪽의 작은 마을 부르라렌에서 태어났습니다. 아버지는 자유주의자로서 나폴레옹의 백일 천하 때 마을의 시장이 되었고 왕정복고 뒤에도 그 자리를 지켰습니다. 나폴레옹이 무너진 뒤의 프랑스는 부르봉 왕가와 가톨릭 교회를 앞세운 왕당파와, 혁명의 기억을 품은 자유주의자·공화파가 맞서는 나라였습니다. 파리의 수학은 여전히 유럽 최고였지만 과학 아카데미의 늙은 거장들, 곧 코시, 푸리에, 푸아송이 문을 지키고 있었습니다. 수학의 한가운데에는 아벨이 막 증명한 사실, 곧 일반적인 5차 방정식에는 근의 공식⁠(quadratic formula)⁠이 없다는 사실이 남긴 질문이 있었습니다. 그렇다면 어떤 방정식이 공식으로 풀리고 어떤 방정식이 풀리지 않는가.

나이 세 ·

1823년 그는 파리의 명문 루이르그랑 중등학교에 들어갔습니다. 고전어 수업에는 싫증을 냈지만 열다섯 살 무렵 수학 수업에서 르장드르의 『기하학 원론』을 소설처럼 단숨에 읽었다고 전하며, 곧 라그랑주의 방정식 연구를 원전으로 읽었습니다. 그의 재능을 알아본 교사 리샤르는 성적표에 이 학생은 수학의 가장 높은 영역에서만 일할 수 있다는 취지로 적었습니다. 1829년 첫 논문으로 연분수⁠(continued fraction)⁠에 관한 짧은 글을 발표했습니다. 그러나 가장 가고 싶던 에콜 폴리테크니크에는 1828년과 1829년 두 번 떨어졌습니다. 두 번째 시험은 1829년 7월, 마을의 신부가 꾸민 비방에 시달리던 아버지가 파리에서 스스로 목숨을 끊은 며칠 뒤였습니다. 시험관에게 칠판 지우개를 던졌다는 이야기가 전하지만 확인된 사실은 아닙니다. 그는 그해 말 교사를 기르는 고등사범학교의 전신인 예비학교에 들어갔습니다.

그 사이 그는 방정식의 이론을 아카데미에 세 번 냈습니다. 1829년의 첫 원고는 코시가 발표를 맡았지만 끝내 발표되지 않았습니다. 코시가 그에게 이듬해의 수학 대상 공모에 다듬어 내라고 권했으리라는 추측이 있습니다. 1830년 2월 대상 공모에 낸 원고는 아카데미의 서기 푸리에가 집으로 가져갔는데, 푸리에가 그해 5월 갑자기 죽으면서 사라졌습니다. 그해 대상은 죽은 아벨과 야코비에게 돌아갔습니다. 1831년 1월 푸아송의 권유로 낸 세 번째 원고는 7월에 돌아왔습니다. 푸아송과 라크루아의 보고서는 논증이 충분히 명료하지도 충분히 전개되지도 않아 옳은지 판단할 수 없다며, 이론 전체를 완성해 내면 다시 보겠다고 적었습니다.

그동안 그는 거리의 정치에 뛰어들었습니다. 1830년 7월 혁명으로 샤를 10세가 쫓겨났을 때 예비학교의 교장은 학생들을 학교 안에 가두었고, 갈루아는 교장을 비난하는 편지를 신문에 실었다가 1831년 초 학교에서 쫓겨났습니다. 그는 공화파가 많던 국민방위대 포병대에 들어갔는데 이 부대는 곧 해산되었습니다. 1831년 5월 공화파 연회에서 칼을 든 채 새 왕 루이필리프를 위해 건배해 체포되었다가 풀려났고, 7월 14일 해산된 부대의 제복을 입고 무기를 든 채 퐁뇌프 다리를 건너다 다시 체포되어 여섯 달 형을 받았습니다. 생트펠라지 감옥에서 그는 계속 수학을 했고, 아카데미의 심사자들을 비꼬는 서문을 썼습니다. 1832년 봄 콜레라가 파리를 덮치자 그는 요양원으로 옮겨졌고, 그곳 의사의 딸 스테파니와의 짧고 불행한 관계가 편지 조각으로 남아 있습니다.

1832년 5월 30일 아침 그는 결투에서 배에 총을 맞았고, 이튿날 코솅 병원에서 스무 살로 죽었습니다. 여기서부터는 사실과 전설을 가려야 합니다. 사실로 남은 것은 5월 29일 밤에 쓴 편지들입니다. 친구 오귀스트 슈발리에에게 보낸 긴 편지에서 그는 자신의 연구를 요약하고, 이 정리들이 옳은지가 아니라 얼마나 중요한지에 대해 야코비나 가우스에게 공개적으로 의견을 청해 달라고 부탁했습니다. 되돌아온 1831년 원고에도 이날 밤 고친 흔적이 있고, 한 증명 옆에는 채워야 할 것이 있지만 시간이 없다는 메모가 적혀 있습니다. 동생 알프레드에게 스무 살에 죽는 데는 모든 용기가 필요하다고 말했다는 이야기도 동생을 통해 전합니다. 한편 그가 결투 전날 밤 하룻밤 사이에 갈루아 이론 전체를 써 내려갔다는 이야기는 전설입니다. 이론의 핵심은 이미 1831년 원고에 있었고, 그 밤의 편지는 요약과 정리였습니다. 이 극적인 이야기를 널리 퍼뜨린 것은 1937년 에릭 템플 벨의 『수학을 만든 사람들』이었고, 1982년 토니 로스먼 등이 그 과장을 조목조목 바로잡았습니다. 상대가 누구였고 왜 싸웠는지도 확실하지 않습니다. 그의 편지에는 '비열한 요부'의 희생양으로 죽는다는 말이 있고, 상대로는 공화파 동료 한두 사람의 이름이 거론되지만, 경찰이 꾸민 함정이었다는 설을 포함해 어느 것도 증거로 확인되지 않았습니다.

이제 그가 남긴 수학을 봅시다. 출발점은 근들의 대칭입니다. $x^2 - 2 = 0$의 두 근 $\sqrt2$와 $-\sqrt2$는 유리수⁠(rational number)⁠만 써서는 구별할 수 없습니다. 두 근 사이에 유리수 계수로 성립하는 관계식, 예컨대 '근의 제곱은 2다'나 '두 근의 합은 0이다'는 두 근을 맞바꾸어도 여전히 참입니다. 이번에는 $x^4 - 5x^2 + 6 = 0$을 봅시다. 네 근은 $\pm\sqrt2, \pm\sqrt3$입니다. $\sqrt2$와 $-\sqrt2$를 맞바꾸는 것은 괜찮지만 $\sqrt2$를 $\sqrt3$으로 보내면 '이 근의 제곱은 2다'라는 참인 관계식이 거짓이 되니 허락되지 않습니다. 이렇게 근들 사이의 모든 유리 관계식을 참인 채로 두는 뒤바꿈들을 모은 것이 오늘날 그 방정식의 갈루아 군입니다. 첫 방정식에서는 두 가지(그대로 두기, 맞바꾸기), 둘째 방정식에서는 네 가지입니다(순열⁠, permutation⁠). 이 뒤바꿈들은 둘을 잇달아 해도 다시 허락된 뒤바꿈이 되고 언제나 되돌릴 수 있는데, 이런 성질을 가진 모임에 그는 '군'이라는 이름을 붙였습니다(군).

그의 판정법은 이 군의 모양으로 방정식을 가릅니다. 거듭제곱근을 하나 쓸 때마다 구별할 수 있는 근이 늘어나고, 그만큼 허락되는 뒤바꿈이 줄어듭니다. 그래서 방정식이 거듭제곱근으로 풀린다는 것은, 갈루아 군⁠(Galois group)⁠을 한 층씩 벗겨 내어 결국 아무것도 남지 않게 할 수 있다는 것과 같습니다. 이때 한 층을 벗겨 낼 수 있으려면 그 층이 특별한 모양, 곧 곱하는 순서를 바꿔도 결과가 같은 아벨 군⁠(abelian group)⁠ 모양이어야 합니다. 이렇게 끝까지 벗겨지는 군을 가해군⁠(solvable group)⁠이라 부릅니다. 일반적인 5차 방정식의 군은 다섯 근의 120가지 뒤바꿈 전부이고, 그 안에는 짝수 번 맞바꾸기로 된 60가지 뒤바꿈의 군이 들어 있는데, 이 60가지는 더 작은 층으로 전혀 쪼개지지 않으면서도 순서를 바꿀 수 없는 군입니다. 그래서 벗겨 내기가 거기서 멈추고, 근의 공식은 있을 수 없습니다. 판정은 방정식 하나하나에도 적용됩니다. $x^5 - 4x + 2 = 0$은 유리수 범위에서 인수분해되지 않고, 실근이 셋, 서로 켤레인 복소근이 둘이어서 그 군이 120가지 뒤바꿈 전부임을 보일 수 있습니다(위의 식). 그러니 이 방정식의 근은 어떤 방법으로도 거듭제곱근으로 적을 수 없습니다. 모든 5차 방정식을 푸는 하나의 공식이 없다는 아벨의 결과보다 한 걸음 더 나아간 것입니다(다항식⁠(polynomial)⁠, 1의 거듭제곱근⁠(roots of unity)⁠).

1830년의 짧은 논문 「수론에 관하여」에서 그는 또 하나의 세계를 열었습니다. 소수⁠(prime number)⁠ p로 나눈 나머지⁠(remainder)⁠의 셈(모듈러 연산⁠(modular arithmetic)⁠)에서 $x^2 = 2$는 p = 3일 때 풀리지 않습니다. 0, 1, 2를 제곱하면 0, 1, 1뿐이기 때문입니다. 갈루아는 실수⁠(real number)⁠에서 $i^2 = -1$인 i를 새로 들여오듯, 여기서도 $i^2 = 2$인 새 수 i를 들여와 a + bi 꼴의 수 9개로 사칙연산이 모두 되는 체계를 만들 수 있음을 보였습니다. 일반적으로 원소⁠(element)⁠가 $p^n$개인 이런 체계, 곧 유한체가 있고 오늘날 갈루아 체라고도 부릅니다. 이 유한체는 한 세기 남짓 지나 CD와 QR 코드의 오류 정정 부호⁠(error-correcting code)⁠, 인터넷 암호의 계산 무대가 되었습니다(오류 정정 부호, 소수).

그의 수학이 세상에 나오기까지는 오래 걸렸습니다. 슈발리에는 1832년 그 편지를 한 잡지에 실었지만 반응이 없었고, 1843년 과학 아카데미에서 수학자 리우빌이 갈루아의 원고에서 깊은 정리를 찾았다고 발표한 뒤 1846년 자신의 학술지에 그의 논문들을 실었습니다. 독일의 데데킨트는 1856–58년 괴팅겐에서 가장 이른 것으로 꼽히는 갈루아 이론 강의를 했고, 영국의 케일리는 1854년 군을 추상적으로 정의하며 갈루아를 출처로 밝혔습니다. 결정적인 것은 1870년 프랑스의 조르당이 낸 『치환론』이었습니다. 그해 파리에서 조르당에게 배운 젊은 클라인과 노르웨이의 리는 군을 기하학과 미분방정식⁠(differential equation)⁠으로 가져갔고, 클라인은 1872년 기하학이란 어떤 변환군 아래에서 변하지 않는 성질을 연구하는 것이라는 에를랑겐 목록을 내놓았습니다. 20세기에 에미 뇌터와 그 학파가 세운 추상대수학에서 갈루아 이론은 체와 군의 대응이라는 오늘날의 모습을 얻었습니다. 중간체가 클수록 그것을 고정하는 뒤바꿈의 군은 작아지는, 순서를 뒤집는 이 일대일 대응⁠(one-to-one correspondence)⁠은 두 순서 사이를 오가는 짝의 원형이어서, 오늘날 이런 짝을 그의 이름을 따 갈루아 연결⁠(Galois connection)⁠이라 부릅니다.

스무 해 남짓의 생애에서 갈루아가 남긴 논문은 모두 합쳐 100쪽이 되지 않습니다. 그러나 그 안에서 수학의 대상이 바뀌었습니다. 그 전의 대수학은 방정식을 풀어 근을 구하는 기술이었는데, 그 뒤로는 근들이 이루는 대칭의 구조를 묻는 학문이 되었습니다. 수들 자체 대신 수들 사이의 뒤바꿈을 연구하는 이 관점은 결정의 대칭, 입자 물리학의 표준 모형, 오늘날의 암호까지 이어집니다.

이어지는 곳. 뒤바꿈의 구조는 순열과 군에서, 근의 공식과 그 한계는 다항식과 1의 거듭제곱근에서, 유한체의 셈은 모듈러 연산과 오류 정정 부호에서 볼 수 있습니다. 대칭으로 대상을 읽는 그의 생각은 대칭과 불변량⁠(invariant)⁠의 한가운데에 있습니다. 같은 문제를 앞서 다룬 사람은 아벨이고, 혁명기 파리의 수학은 에콜 폴리테크니크에 있습니다.

관계.

• 영향을 받음 조제프루이 라그랑주 — 중등학교 시절 라그랑주의 방정식 연구를 읽었고, 근을 뒤바꾸는 라그랑주의 방법을 근의 뒤바꿈들이 이루는 구조의 이론으로 바꾸었습니다.
• 영향을 받음 아드리앵마리 르장드르 — 열다섯 살에 르장드르의 『기하학 원론』을 소설처럼 단숨에 읽고 수학에 빠졌다고 전합니다.
• 영향을 받음 오귀스탱루이 코시 — 근의 뒤바꿈에 관한 코시의 연구 위에서 출발했고, 1829년 첫 방정식 논문을 코시를 통해 아카데미에 냈지만 발표되지 못했습니다.
• 논쟁 시메옹 드니 푸아송 — 1831년 푸아송과 라크루아가 그의 논문을 이해할 수 없다며 되돌려 보내자, 감옥에서 아카데미의 심사자들을 신랄하게 비꼬는 서문을 썼습니다.
• 영향을 줌 리하르트 데데킨트 — 데데킨트는 1856–58년 괴팅겐에서 갈루아 이론을 강의했는데, 이 이론을 다룬 대학 강의로는 가장 이른 것으로 꼽힙니다.
• 영향을 줌 아서 케일리 — 케일리는 1854년 군을 추상적으로 정의한 논문에서 이 개념이 갈루아에게서 왔다고 밝혔습니다.
• 영향을 줌 펠릭스 클라인 — 클라인은 1870년 파리에서 조르당에게 갈루아 이론을 배웠고, 1872년 기하학을 변환군의 불변량으로 정리하는 에를랑겐 목록을 내놓았습니다.

연표.

• 1823년 파리의 명문 루이르그랑 중등학교에 들어가다
• 1828년 에콜 폴리테크니크 입학시험에 처음 떨어지다
• 1829년 첫 논문을 발표하고, 아버지가 스스로 목숨을 끊은 며칠 뒤 폴리테크니크에 다시 떨어지다
• 1830년 아카데미 수학 대상에 낸 논문이 서기 푸리에의 죽음과 함께 사라지고, 유한체에 관한 논문을 발표하다
• 1831년 고등사범학교에서 쫓겨나고, 아카데미에 낸 논문이 되돌아오고, 체포되어 생트펠라지 감옥에 갇히다
• 1832년 결투 전날 친구 슈발리에에게 연구를 정리한 편지를 쓰다