닐스 헨리크 아벨(Niels Henrik Abel)

닐스 헨리크 아벨은 1802년 노르웨이 서해안 스타방에르 근처의 바닷가 교구에서 목사의 아들로 태어났습니다. 당시 노르웨이는 덴마크 왕이 다스리는 가난한 변방이었고, 나폴레옹 전쟁 중의 해상 봉쇄로 굶주림을 겪었으며, 1814년에는 스웨덴과의 연합 왕국으로 넘어갔습니다. 나라의 첫 대학인 크리스티아니아(지금의 오슬로) 대학은 1811년에야 세워졌고, 수학자가 설 자리는 거의 없었습니다. 유럽 수학의 중심은 파리였고, 그곳의 수학자들이 붙들고 있던 큰 문제 가운데 두 가지가 아벨의 평생 과제가 됩니다. 하나는 5차 방정식에 근의 공식이 있느냐였고, 다른 하나는 타원⁠(ellipse)⁠의 둘레 같은 것을 구할 때 나오는 적분⁠(integral)⁠, 곧 타원 적분을 어떻게 다룰 것이냐였습니다.

나이 세 ·

1815년 크리스티아니아의 대성당 학교에 들어간 그는 처음에는 눈에 띄지 않는 학생이었습니다. 1818년 학생을 때리던 수학 교사가 쫓겨나고 젊은 홀름보에가 새로 오면서 모든 것이 바뀌었습니다. 홀름보에는 소년의 재능을 알아보고 오일러, 라그랑주, 가우스의 책을 건넸습니다. 1820년 아버지가 죽어 집안이 몹시 가난해졌지만, 이듬해 대학에 들어간 그를 교수들이 자기 돈으로 먹이고 가르쳤습니다. 그해 그는 5차 방정식의 풀이를 찾았다고 믿었습니다. 원고를 받아 본 코펜하겐의 수학자 데겐은 구체적인 수치 예를 보여 달라고 했고, 예를 만들던 아벨은 스스로 잘못을 찾아냈습니다. 데겐은 그에게 타원 적분을 연구해 보라고 권했습니다.

문제의 배경은 이렇습니다. 2차 방정식 $ax^2 + bx + c = 0$의 근은 계수에 더하기, 빼기, 곱하기, 나누기와 제곱근을 써서 적을 수 있습니다. 16세기 이탈리아에서 카르다노와 페라리는 3차와 4차 방정식에도 세제곱근과 네제곱근을 쓰는 공식을 찾았습니다(르네상스 이탈리아의 대수학 경연). 그 뒤 250년 동안 누구도 5차의 공식을 찾지 못했습니다. 1770년 라그랑주는 공식이 왜 통하는지를 거꾸로 따졌습니다. 3차와 4차의 공식은 근들을 이리저리 뒤바꾸어도 값이 몇 가지밖에 나오지 않는 교묘한 식을 만들어 차수를 낮추는데, 5차에서는 그런 식이 더 쉬운 방정식으로 이어지지 않는다는 것입니다(순열⁠, permutation⁠). 1799년 이탈리아의 루피니가 불가능하다는 증명을 내놓았지만 빈틈이 있었고 거의 읽히지 않았습니다.

1824년 아벨은 불가능성의 증명을 자비로 인쇄했습니다. 인쇄비를 아끼려고 프랑스어로 여섯 쪽에 눌러 담은 소책자였습니다. 그가 증명한 것을 정확히 말하면 이렇습니다. 5차 방정식의 계수들에 사칙연산과 거듭제곱근을 유한 번 써서 모든 5차 방정식의 근을 내놓는 하나의 공식은 없다. 5차 방정식에 근이 없다는 뜻은 아닙니다. 대수학의 기본정리⁠(fundamental theorem of algebra)⁠에 따라 근은 복소수⁠(complex number)⁠ 안에 언제나 다섯 개 있습니다. 거듭제곱근으로 풀리는 5차 방정식이 없다는 뜻도 아닙니다. $x^5 - 2 = 0$의 근은 2의 다섯제곱근과 그것에 1의 거듭제곱근⁠(roots of unity)⁠을 곱한 수들입니다. 증명의 뼈대는 이렇습니다. 그런 공식이 있다면 공식 속에 나오는 거듭제곱근 하나하나를 근들의 유리식으로 쓸 수 있음을 먼저 보이고, 다섯 근을 뒤바꾸는 120가지 방법 아래에서 그 식들이 가질 수 있는 값의 가짓수를 셉니다. 코시가 1815년에 증명한 대로, 다섯 문자의 식이 뒤바꿈 아래에서 다섯 가지보다 적은 값을 가지면 그 가짓수는 한 가지나 두 가지뿐이고, 이것이 공식이 있다는 가정과 모순을 일으킵니다. 그가 이 소책자를 가우스에게 보냈는데 가우스가 펼쳐 보지도 않았다는 이야기가 전하지만, 확실한 근거는 없습니다.

1825년 정부 장학금을 받아 유럽 여행을 떠난 그는 베를린에서 토목 기술자이자 아마추어 수학자인 크렐레를 만났습니다. 크렐레는 이듬해 순수 수학과 응용 수학을 위한 학술지를 창간했고, 흔히 '크렐레 저널'이라 불리는 이 학술지의 첫 권에는 불가능성 증명을 자세히 풀어 쓴 판을 비롯한 아벨의 논문 여러 편이 실렸습니다. 그 가운데 이항 급수⁠(binomial series)⁠에 관한 논문은 무한 급수를 언제 믿을 수 있는지를 엄밀하게 따진 초기의 본보기입니다. 그는 홀름보에에게 보낸 편지에서, 발산⁠(divergence)⁠하는 급수 위에 증명을 세우는 것은 부끄러운 일이라는 취지로 적었습니다(급수의 수렴과 발산⁠(convergence and divergence of series)⁠).

같은 논문에서 그는 코시의 『해석학⁠(mathematical analysis)⁠ 강의』에 실린 '정리', 곧 연속함수들로 된 급수가 수렴⁠(convergence)⁠하면 그 합도 연속이라는 주장에 반례를 들었습니다. $\sin x - \tfrac12 \sin 2x + \tfrac13 \sin 3x - \cdots$는 항 하나하나가 매끄러운 사인파⁠(sinusoid)⁠인데, 그 합은 −π와 π 사이에서 x/2와 같다가 x = π에서는 모든 항이 0이므로 0이 됩니다. π 바로 앞에서 π/2 가까이 올라갔던 값이 π에서 갑자기 0으로 떨어지니, 연속함수들의 합이 끊어진 것입니다(푸리에 급수⁠(Fourier series)⁠, 연속성⁠(continuity)⁠). 무엇이 잘못되었는지는 한 세대 뒤에야 분명해졌습니다. 점마다 따로 보면 급수가 수렴하지만 π 가까운 점일수록 수렴이 한없이 느려지는데, 모든 점이 한꺼번에 따라붙는 더 강한 수렴, 곧 바이어슈트라스가 강조한 균등 수렴⁠(uniform convergence)⁠이 있어야 합이 연속이라는 것입니다(점별 수렴과 균등 수렴⁠(pointwise and uniform convergence)⁠).

1826년 여름 파리에 도착한 그는 그해 10월 가장 큰 연구를 과학 아카데미에 냈습니다. 대수 함수⁠(function)⁠의 적분들을 더할 때 그 합을 정해진 개수의 적분으로 줄일 수 있다는 정리로, 오늘날 아벨의 정리라 불립니다. 심사는 코시와 르장드르가 맡았지만 코시는 원고를 묵혀 두었고, 아벨은 아무 답도 듣지 못한 채 가난과 외로움 속에 파리를 떠났습니다. 파리의 수학자들은 차갑고 폐쇄적이었다고 그는 편지에 적었습니다. 1827년 그는 빚을 지고 결핵에 걸린 몸으로 노르웨이로 돌아왔고, 정식 자리를 얻지 못해 대학의 임시 강사로 지냈습니다.

그래도 이 마지막 두 해가 그의 가장 풍성한 시기였습니다. 1827–28년의 「타원함수 연구」에서 그는 타원 적분을 뒤집었습니다. 그 뜻은 익숙한 예로 볼 수 있습니다. $\int_0^x dt/\sqrt{1-t^2}$은 원호의 길이, 곧 arcsin x입니다. 이 적분을 x의 함수로 보면 다루기 어렵지만, 거꾸로 호의 길이를 입력으로 보면 그 역함수⁠(inverse function)⁠가 사인⁠(sine)⁠이고, 사인은 2π마다 되풀이되는 아름다운 함수입니다(사인과 코사인⁠(sine and cosine)⁠). 아벨은 제곱근 속의 2차식을 4차식으로 바꾼 적분(위의 식)에 같은 일을 했습니다. 그렇게 얻은 함수 φ를 복소수까지 넓히면 실수⁠(real number)⁠ 방향과 허수⁠(imaginary number)⁠ 방향의 두 주기⁠(period)⁠를 가져, 벽지 무늬처럼 평면 위에서 두 방향으로 되풀이됩니다. 사인의 덧셈 공식이 호의 길이 두 개의 합을 하나로 합치는 규칙이듯(덧셈정리⁠(addition formula)⁠), 아벨의 정리는 훨씬 넓은 적분들에 대한 덧셈 규칙이었습니다. 같은 시기 쾨니히스베르크의 야코비가 따로 같은 발견을 하여 두 사람은 경쟁하듯 논문을 냈고, 일흔을 넘긴 르장드르는 평생 다룬 주제를 두 젊은이가 뒤집는 것을 보고 둘을 아낌없이 칭찬했습니다. 가우스가 이런 생각의 일부를 일찍이 알고도 발표하지 않았다는 것은 그의 유고에서 확인됩니다.

1828년 성탄절, 아벨은 약혼녀 크리스티네 켐프가 가정교사로 있던 남부의 프롤란 제철소로 썰매를 타고 갔다가 그곳에서 병이 깊어졌습니다. 그는 1829년 4월 6일 스물여섯에 죽었습니다. 이틀 뒤 크렐레의 편지가 도착했습니다. 베를린 대학에 그의 자리가 마련되었다는 소식이었습니다. 1830년 파리 과학 아카데미는 수학 대상을 죽은 아벨과 야코비에게 함께 주었습니다. 코시가 묵혀 둔 파리 원고는 야코비가 그 행방을 물은 뒤에야 찾아져 1841년에 출판되었고, 그 뒤 원고가 다시 사라졌다가 1952년 피렌체에서 대부분 발견되었습니다.

그의 이름은 수학의 곳곳에 남았습니다. 1829년 그는 근들 사이의 뒤바꿈이 서로 순서를 바꾸어도 결과가 같은 방정식은 거듭제곱근으로 풀린다는 것을 보였는데, 이 때문에 곱하는 순서를 바꿔도 되는 군을 오늘날 '아벨 군⁠(abelian group)⁠'이라 부릅니다. 방정식이 언제 풀리는지를 완전히 가르는 일은 조금 뒤 파리의 갈루아가 해냈습니다. 대수 함수의 적분에서 나온 '아벨 함수⁠(abelian function)⁠'는 바이어슈트라스와 리만의 손에서 19세기 해석학과 기하학의 한가운데가 되었습니다. 탄생 200주년인 2002년 노르웨이 정부는 수학의 노벨상이라 불리는 아벨상을 만들었고, 이듬해부터 해마다 시상합니다.

이어지는 곳. 방정식의 근과 그 뒤바꿈의 구조는 다항식⁠(polynomial)⁠, 순열, 군에서, 급수를 믿을 수 있는 조건은 급수의 수렴과 발산과 점별 수렴과 균등 수렴에서 볼 수 있습니다. 근들 사이의 대칭으로 방정식을 읽는 생각은 대칭과 불변량⁠(invariant)⁠에, 끝없는 합을 다루는 이야기는 무한을 다루는 법에 있습니다. 같은 문제를 이어 간 사람들은 갈루아와 야코비의 페이지에 있습니다.

관계.

• 영향을 받음 조제프루이 라그랑주 — 근들을 뒤섞어 방정식이 풀리는 까닭을 따진 라그랑주의 1770년 연구를 출발점으로 삼아 5차 방정식의 불가능성 증명에 이르렀습니다.
• 영향을 받음 카를 프리드리히 가우스 — 학생 때 『산술 연구』를 읽었고, 원을 등분하는 방정식에 관한 가우스의 방법을 더 넓은 방정식으로 넓혔습니다. 1824년의 증명을 가우스에게 보냈지만 답을 받지 못했습니다.
• 영향을 받음 오귀스탱루이 코시 — 지금 수학을 어떻게 다뤄야 하는지 아는 사람은 코시뿐이라고 높이 샀지만, 1826년 그의 '연속함수들의 급수의 합은 연속'이라는 정리에 반례를 들었고, 심사를 맡은 코시는 그의 대작을 묵혀 두었습니다.
• 편지 아드리앵마리 르장드르 — 1828–29년 타원함수에 평생을 바친 늙은 르장드르와 편지를 나누었고, 르장드르는 젊은 아벨의 연구를 아낌없이 칭찬했습니다.
• 영향을 줌 카를 바이어슈트라스 — 젊은 바이어슈트라스는 아벨의 논문을 읽으며 수학에 들어섰고, 1854년 '아벨 함수'에 관한 논문으로 이름을 얻었습니다.
• 영향을 줌 베른하르트 리만 — 리만은 1857년 아벨 함수의 이론을 곡면의 기하⁠(geometry)⁠로 다시 세워 아벨의 정리가 무엇을 말하는지 새롭게 보여 주었습니다.

연표.

• 1818년 크리스티아니아 대성당 학교에서 새 수학 교사 홀름보에를 만나다
• 1821년 크리스티아니아 대학에 들어가고, 5차 방정식을 풀었다고 믿었다가 잘못을 찾다
• 1824년 5차 방정식의 일반 해법이 없다는 증명을 자비로 인쇄하다
• 1825년 정부 장학금으로 베를린에 가서 크렐레를 만나다
• 1826년 크렐레의 새 학술지 첫 권에 여러 논문을 싣고, 파리 아카데미에 대작을 내다
• 1827년 빚과 병을 안고 노르웨이로 돌아와 「타원함수 연구」를 발표하다
• 1828년 르장드르와 편지를 주고받고, 성탄절에 약혼녀가 있는 프롤란으로 가다