앙리 르베그(Henri Lebesgue)

앙리 르베그는 1875년 파리 북쪽의 도시 보베에서 태어났습니다. 인쇄공이던 아버지는 그가 어릴 때 결핵으로 세상을 떠났고, 초등학교 교사였던 어머니가 그를 키웠습니다. 제3공화국은 공립학교와 장학 제도에 힘을 쏟았고, 그 사다리를 타고 그는 1894년 교사와 학자를 길러 내는 파리 고등사범학교에 들어갔습니다. 그 무렵 해석학에는 '괴물'들이 들끓었습니다. 바이어슈트라스는 어디서나 연속인데 어디서도 미분⁠(differentiation)⁠할 수 없는 함수⁠(function)⁠를 만들었고, 푸리에 이래 삼각급수⁠(trigonometric series)⁠로 함수를 나타내다 보면 리만의 적분으로는 넓이⁠(area)⁠를 잴 수 없는 함수가 자꾸 나왔습니다. 원로 샤를 에르미트가 1893년 편지에서 도함수⁠(derivative function)⁠가 없는 연속 함수라는 '한탄스러운 재앙'에서 겁에 질려 고개를 돌린다고 쓴 것은 잘 알려진 일입니다. 르베그의 세대는 고개를 돌리는 대신 괴물들을 다룰 도구를 만들기로 했습니다.

나이 세 ·

도구의 첫 조각은 길이를 재는 새로운 방법, 곧 측도였습니다. 구간 [a, b]의 길이는 b − a입니다. 더 복잡한 집합⁠(set)⁠은 구간들로 덮어서 잽니다. 셀 수 있는 무한 개의 구간으로 집합을 덮고 그 길이를 모두 더한 뒤, 가능한 모든 덮개⁠(cover)⁠에 대해 이 합이 내려갈 수 있는 한계(하한⁠, lower bound⁠)를 그 집합의 (바깥) 측도로 삼는 것입니다. 가장 작은 합이 실제로 있을 필요는 없습니다. 아래 예처럼 합을 얼마든지 0에 가깝게 할 수만 있어도 측도는 0입니다. 예를 들어 0과 1 사이의 유리수⁠(rational number)⁠ 전체를 생각해 봅시다. 유리수는 한 줄로 늘어세울 수 있으니(가산 집합⁠(countable set)⁠) q₁, q₂, q₃, …이라 하고, k번째 유리수를 길이 ε/2ᵏ인 구간으로 덮으면 구간 길이의 합은 ε/2 + ε/4 + ε/8 + … = ε를 넘지 않습니다(등비급수⁠, geometric series⁠). ε는 얼마든지 작게 잡을 수 있으므로 유리수 전체의 측도는 0입니다(측도 0⁠, measure zero⁠). 셀 수 없이 많은 점을 가진 칸토어 집합⁠(Cantor set)⁠도 측도는 0입니다. 페아노와 조르당처럼 유한 개의 구간만 쓰면 유리수 전체는 크기를 가질 수 없었습니다. 셀 수 있는 무한 개로 덮자는 생각은 1898년 선배 에밀 보렐에게서 왔고, 르베그는 이를 '겹치지 않는 조각이 셀 수 있는 개수만큼 있으면 전체의 측도는 조각들의 측도의 합'이라는 규칙을 지키는 완전한 이론으로 만들었습니다.

두 번째 조각이 적분입니다. 리만의 방법은 가로축을 잘게 잘라 각 조각 위에 세운 직사각형의 넓이를 더합니다(리만 합⁠, Riemann sum⁠). 르베그는 세로축, 곧 함숫값 쪽을 잘랐습니다. 값이 y₁과 y₂ 사이에 드는 점들의 집합을 모으고, 그 집합의 측도에 y₁을 곱하고, 모든 값의 띠에 대해 이것을 더하는 것입니다. 그가 뒷날 든 비유로는, 주머니의 동전을 손에 잡히는 순서대로 더하는 것이 리만의 방법이고, 먼저 액면가별로 동전을 나눈 뒤 '100원짜리가 몇 개'로 세는 것이 자기 방법입니다. 차이는 까다로운 함수에서 드러납니다. 구간 [0, 1]에서 유리수에서 1, 무리수⁠(irrational number)⁠에서 0인 함수는 어느 작은 구간을 잡아도 1인 점과 0인 점이 섞여 있어 리만 합이 한 값으로 모이지 않습니다. 르베그의 방식으로는 값이 1인 점들(유리수)의 측도가 0, 값이 0인 점들의 측도가 1이니 적분은 1 × 0 + 0 × 1 = 0입니다(르베그 적분⁠(Lebesgue integral)⁠, 적분). 1901년 과학 아카데미 회보의 짧은 글로 처음 알린 이 생각을, 그는 1902년 학위 논문 「적분, 길이, 넓이」로 완성했습니다.

새 적분이 정말 값진 까닭은 극한⁠(limit)⁠과 잘 어울린다는 데 있었습니다. 함수들이 어떤 함수로 다가갈 때 그 적분도 적분으로 다가가는가? 늘 그렇지는 않습니다. 구간 (0, 1/n)에서 n이고 나머지에서 0인 함수 fₙ은 점마다 보면 결국 0이 되지만(점별 수렴⁠(pointwise convergence)⁠), 넓이는 언제나 n × 1/n = 1입니다. 리만의 이론에서는 극한과 적분의 순서를 바꿀 때 흔히 모든 점이 한꺼번에 다가가는 균등 수렴⁠(uniform convergence)⁠ 같은 강한 조건을 걸어야 했습니다. 게다가 리만 적분할 수 있는 함수들의 극한이 리만 적분할 수 없는 함수가 되는 일도 있었습니다. 유리수를 하나씩 차례로 1로 바꿔 가는 함수열의 극한이 바로 앞의 '유리수에서 1인 함수'입니다. 르베그의 이론에서는 훨씬 간단한 조건으로 충분합니다. 모든 fₙ의 크기가 적분이 유한한 함수 하나 g 아래에 눌려 있으면(|fₙ| ≤ g), 점마다 fₙ → f일 때 적분도 ∫fₙ → ∫f입니다. 위의 예는 봉우리가 끝없이 높아져 어떤 g로도 누를 수 없기 때문에 실패한 것입니다. 이 지배 수렴 정리⁠(dominated convergence theorem)⁠ 덕분에 푸리에 급수⁠(Fourier series)⁠나 급수⁠(series)⁠를 항별로 적분하는 계산이 안심하고 쓸 수 있는 도구가 되었습니다.

그는 미분과 적분의 관계도 다시 다졌습니다. 미적분⁠(calculus)⁠의 기본 정리는 적분한 것을 미분하면 원래 함수가 돌아온다고 말하는데, 르베그는 적분할 수 있는 함수라면 이것이 거의 모든 점⁠(almost everywhere)⁠에서, 곧 측도 0인 예외를 빼고 성립함을 보였습니다. 또 줄어들지 않는(단조 증가) 함수는 거의 모든 점에서 미분할 수 있다는 것도 증명했습니다. 이 틀에서 보면 칸토어 함수⁠(Cantor function)⁠의 이상함도 설명됩니다. 이 함수는 0에서 1까지 올라가는데도 거의 모든 점에서 도함수가 0이라, 도함수를 적분하면 0이 되어 원래 함수가 돌아오지 않습니다. 기본 정리가 성립하려면 함수가 연속보다 강한 '절대 연속⁠(absolute continuity)⁠'이라는 조건을 만족해야 한다는 것이 그의 이론이 준 답이었고, 이 조건의 이름과 정확한 꼴은 1905년 비탈리가 다듬었습니다. 1907년 헝가리의 리스 프리제시와 오스트리아의 에른스트 피셔는 그의 적분으로 제곱해서 적분이 유한한 함수들이 빈틈없는(완비인) 공간을 이룬다는 것을 보였습니다. 이 공간은 뒤에 힐베르트 공간이라 불리는 것의 대표적인 예가 되었고, 폰 노이만이 양자역학을 세운 무대가 되었습니다.

처음부터 환영받은 것은 아니었습니다. 그는 한동안 렌과 푸아티에의 지방 대학을 돌았습니다. 수학자들의 토론에 끼려 하면 '도함수가 있는 함수 이야기라서 당신 관심사는 아닐 것'이라는 말을 듣곤 했다는 일화가 전해집니다. 1905년은 두 갈래의 논쟁이 겹친 해였습니다. 한 갈래는 체르멜로가 1904년 선택공리⁠(axiom of choice)⁠로 모든 집합을 줄 세울 수 있다고 증명한 일이었습니다. 보렐, 르네 베르, 자크 아다마르와 르베그가 주고받은 편지 다섯 통이 그해 프랑스 수학회지에 실렸는데, 르베그는 대상을 정의하거나 이름 붙일 수도 없는데 그것이 '존재한다'고 말하는 것이 무슨 뜻이냐고 물었습니다. 같은 해 이탈리아의 주세페 비탈리는 바로 그 선택공리로, 어떤 방식으로도 르베그 측도⁠(Lebesgue measure)⁠를 줄 수 없는 집합을 만들어 보였습니다(공리⁠(axiom)⁠, 수학 기초론 논쟁⁠(debate on the foundations of mathematics)⁠).

다른 갈래는 같은 해 그가 쓴 긴 논문에서 나왔습니다. 그는 여기서 구간들로부터 합집합⁠(union)⁠, 교집합⁠(intersection)⁠, 여집합⁠(complement)⁠을 셀 수 있는 번만큼 거듭해 만든 집합들(보렐 집합⁠, Borel set⁠)을 다루면서, 평면의 보렐 집합을 직선 위로 비춘 그림자도 언제나 보렐 집합이라고 가볍게 적었습니다. 1917년 모스크바의 학생 미하일 수슬린이 이것이 틀렸다는 것을 찾아냈고, 그 그림자들의 새 부류에서 기술 집합론⁠(descriptive set theory)⁠이 태어났습니다(기술 집합론, 모스크바 수학 학파). 르베그는 1930년 루진의 『해석적 집합⁠(analytic set)⁠ 강의』에 서문을 써서, 자기 실수가 이렇게 풍성한 결과를 낳은 것을 반기는 너그러움을 보였습니다. 1911년에는 정사각형을 충분히 작은 닫힌 벽돌들로 덮으면 어떤 점은 반드시 벽돌 셋 이상에 걸친다는 사실, 일반적으로 n차원 도형은 n + 1겹의 겹침을 피할 수 없다는 사실로 차원을 규정하려 했습니다. 벽돌담에서 벽돌 세 장이 만나는 모서리를 떠올리면 됩니다. 이 증명의 빈틈을 브라우어르가 지적하면서 두 사람은 누가 먼저인지를 두고 날 선 논쟁을 벌였고, 이 생각은 오늘날 위상수학⁠(topology)⁠의 '덮개 차원⁠(covering dimension)⁠'이 되었습니다(위상수학).

1910년 소르본, 1921년 콜레주 드 프랑스의 교수가 되었고 1922년 과학 아카데미 회원이 되었습니다. 보렐과는 측도 이론의 공을 둘러싸고 사이가 멀어졌습니다. 그는 말년에 초등 수학 교육에 많은 글을 썼는데, 교사들을 위해 길이와 넓이와 부피를 잰다는 것이 무엇인지 처음부터 따져 본 『크기의 측정에 대하여』가 그 대표입니다. 가장 추상적인 적분을 만든 사람이 가장 소박한 '잰다'의 뜻을 끝까지 붙든 셈입니다. 1941년 독일군 점령 아래의 파리에서 세상을 떠났습니다.

그의 적분은 20세기 해석학의 기본 언어가 되었습니다. Lp 노름⁠(Lp norm)⁠으로 재는 함수 공간, 푸리에 해석, 편미분방정식⁠(partial differential equation)⁠이 모두 그 위에 섰습니다. 가장 멀리 간 곳은 확률론입니다. 1933년 콜모고로프는 확률⁠(probability)⁠을 사건⁠(event)⁠에 주는 측도로, 기댓값⁠(expected value)⁠을 확률변수⁠(random variable)⁠의 르베그 적분으로 정의해 확률을 수학의 한가운데로 옮겼습니다. 영국의 리틀우드는 이 세계를 세 원리로 요약했습니다. 측도가 유한한 집합은 거의 유한 개의 구간이고, 측도가 있는 함수는 거의 연속이며(루진), 수렴⁠(convergence)⁠하는 함수열은 거의 균등 수렴한다(예고로프)는 것입니다. 여기서 '거의'는 원하는 만큼 작은 측도의 예외를 빼면이라는 뜻이고, 그 정확한 '거의'가 르베그가 남긴 것입니다(근사와 오차).

이어지는 곳. 측도와 적분의 정의는 르베그 적분과 측도⁠(Lebesgue integral and measure)⁠와 측도 0에서, 극한과 적분의 순서 바꾸기는 점별 수렴과 균등 수렴⁠(pointwise and uniform convergence)⁠에서 이어집니다. 그의 오류에서 자란 학파는 모스크바 수학 학파와 니콜라이 루진, 드미트리 예고로프에게서, 측도 위의 확률은 콜모고로프와 확률에서 이어집니다.

관계.

• 영향을 받음 베른하르트 리만 — 리만 적분이 다루지 못하는 함수들 때문에 적분을 새로 정의했고, 리만 적분할 수 있는 함수는 새 적분에서도 같은 값을 갖도록 했습니다.
• 영향을 받음 주세페 페아노 — 페아노와 조르당이 유한 개의 직사각형으로 넓이를 잰 방법을, 보렐을 따라 셀 수 있는 무한 개의 조각으로 넓혔습니다.
• 논쟁 에른스트 체르멜로 — 1905년 보렐, 베르, 아다마르와 주고받은 '다섯 통의 편지'에서, 정의할 수 없는 선택으로 존재를 주장하는 체르멜로의 증명에 의문을 던졌습니다.
• 논쟁 L. E. J. 브라우어르 — 1911년 차원을 덮개의 겹침으로 규정하는 정리를 내놓았다가 브라우어르에게 증명의 빈틈을 지적받아, 누가 먼저 증명했는지를 두고 다투었습니다.
• 영향을 줌 니콜라이 루진 — 1905년 논문의 오류가 루진 학파에서 해석적 집합과 기술 집합론을 낳았고, 1930년 파리에서 나온 루진의 『해석적 집합 강의』에 서문을 썼습니다.
• 영향을 줌 안드레이 콜모고로프 — 그의 측도와 적분은 1933년 콜모고로프가 확률을 측도로, 기댓값을 적분으로 정의하는 틀이 되었습니다.

연표.

• 1894년 파리 고등사범학교에 들어가다
• 1899년 낭시의 고등학교에서 가르치며 학위 논문을 쓰다
• 1901년 새 적분의 생각을 과학 아카데미 회보에 짧게 발표하다
• 1902년 학위 논문 「적분, 길이, 넓이」를 내다
• 1904년 『적분과 원시함수 찾기에 관한 강의』를 펴내다
• 1905년 선택공리를 둘러싼 '다섯 통의 편지'에 참여하고 해석적 함수에 관한 긴 논문을 내다
• 1906년 『삼각급수 강의』를 펴내다
• 1910년 파리 소르본으로 옮기다
• 1921년 콜레주 드 프랑스 교수가 되다
• 1922년 과학 아카데미 회원이 되다