르베그 적분과 측도(Lebesgue integral and measure)

리만이 1854년에 다듬은 정적분⁠(definite integral)⁠은 가로축을 잘게 나눕니다. 폭이 좁은 세로 막대를 세우고 막대 넓이를 더한 리만 합⁠(Riemann sum)⁠이, 막대를 한없이 좁힐 때 한 값으로 모이면 그것이 적분입니다. 1901년 낭시의 고등학교 교사였던 앙리 르베그는 반대쪽 축을 잘라 보자고 제안했고, 이듬해 학위 논문 「적분, 길이, 넓이」로 그 이론을 세웠습니다. 세로축, 곧 함수의 값을 층으로 나누고, 층마다 '함수값이 이 높이 이상인 점들'이 가로축에서 얼마만큼의 길이를 차지하는지 재어 더하는 것입니다. (여기서는 값이 0 이상인 함수를 생각합니다. 음수 값이 있으면 양의 부분과 음의 부분을 따로 재어 뺍니다.)

르베그 자신이 들었다고 전해지는 비유가 있습니다. 주머니에서 동전을 꺼내 빚을 갚는다고 합시다. 100원, 500원, 100원, 50원, 500원, 100원이 나온 순서대로 더하는 것이 리만의 방법입니다. 먼저 동전을 종류별로 모아 100원 × 3개 + 500원 × 2개 + 50원 × 1개로 세는 것이 르베그의 방법입니다. 합은 같지만, 둘째 방법은 동전이 어떤 순서로 뒤섞여 있든 상관없습니다. 함수의 값이 가로축 위에서 아무리 어지럽게 뒤섞여 있어도, 같은 높이의 점들을 모아 그 모임의 크기만 잴 수 있으면 됩니다.

함수 의 넓이를 두 방식으로 조각씩 잘라 봅시다.

왼쪽은 리만의 세로 막대(가운데 점의 높이)로 , 오른쪽은 르베그의 가로 층으로 입니다. 참값은 입니다. 오른쪽에서 층 하나는 높이가 $1/n$이고, 그 층은 f가 그 높이 이상인 모든 곳에 걸쳐 있습니다. 봉우리가 여럿이면 층이 여러 토막으로 끊어지지만 토막들의 길이를 더하기만 하면 됩니다. 높이 $y =$ 에서 잘라 보세요.

그러니 르베그 적분⁠(Lebesgue integral)⁠의 핵심 재료는 '$\{x : f(x) \ge y\}$라는 집합의 길이'입니다. 구간이라면 길이는 뻔하지만, 함수가 거칠면 이 집합은 구간 몇 개가 아니라 몹시 복잡한 점들의 모임일 수 있습니다. 그래서 길이라는 개념부터 넓혀야 했습니다. 이것이 측도입니다.

측도: 길이를 넓힌 것. 1898년 프랑스의 에밀 보렐은 '셀 수 있는 개수의 겹치지 않는 조각으로 나뉜 집합의 길이는 조각 길이의 합'이라는 규칙을 길이의 기본 성질로 삼자고 했습니다. 르베그는 이 규칙을 지키는 길이를 구간보다 훨씬 많은 집합으로 넓혔습니다. 집합 A를 셀 수 있는 개수의 구간으로 덮는 방법은 많은데, 덮는 구간 길이의 합을 가능한 한 작게 했을 때의 값(하한⁠, lower bound⁠)을 A의 바깥 측도라 합니다. 바깥 측도는 모든 집합에 매길 수 있고, 구간 [a, b]에서는 b − a로 옛 길이와 같습니다. 그 가운데 바깥 측도가 위의 합 규칙을 어기지 않는 집합들을 골라 가측 집합이라 부르고, 그 바깥 측도를 측도라 합니다. 열린 집합⁠(open set)⁠, 닫힌 집합⁠(closed set)⁠, 그리고 이들로부터 셀 수 있는 번의 합집합⁠(union)⁠·여집합⁠(complement)⁠으로 만든 집합은 모두 가측입니다(기술 집합론⁠(descriptive set theory)⁠의 보렐 집합⁠(Borel set)⁠).

측도가 0인 집합이 특히 중요합니다. 점 하나, 셀 수 있는 점들, 예컨대 유리수⁠(rational number)⁠ 전체는 측도가 0이고, 셀 수 없이 많은 점을 가진 칸토어 집합⁠(Cantor set)⁠도 측도가 0입니다(측도 0⁠, measure zero⁠). 어떤 성질이 측도 0인 집합을 뺀 모든 점에서 성립하면 거의 어디서나(거의 모든 점⁠(almost everywhere)⁠에서) 성립한다고 말합니다. 르베그 적분은 측도 0인 곳의 값을 전혀 보지 않습니다. 두 함수가 거의 어디서나 같으면 적분도 같습니다.

그렇다고 모든 집합에 측도를 줄 수 있는 것은 아닙니다. 1905년 이탈리아의 주세페 비탈리는, 옮겨도 길이가 변하지 않고 셀 수 있는 합에 대해 더해지는 '길이'를 [0, 1]의 모든 부분집합⁠(subset)⁠에 줄 수는 없다는 것을 보였습니다. 그의 예는 무한히 많은 집합에서 원소⁠(element)⁠를 하나씩 동시에 고르는 선택공리(체르멜로)를 써서 만든 것이고, 직접 적어 보일 수 있는 집합이 아닙니다.

디리클레 함수⁠(Dirichlet function)⁠. 1829년 디리클레는 유리수에서 1, 무리수⁠(irrational number)⁠에서 0인 함수를 예로 들었습니다. [0, 1]을 아무리 잘게 나눠도 조각마다 유리수와 무리수가 다 들어 있어서, 막대 높이를 유리수에서 재면 리만 합이 1, 무리수에서 재면 0입니다. 막대를 좁혀도 한 값으로 모이지 않으니 리만 적분은 없습니다. 르베그의 방법으로는 간단합니다. 값이 1인 점들(유리수)의 측도는 0, 값이 0인 점들(무리수)의 측도는 1이니 적분은 $1 \cdot 0 + 0 \cdot 1 = 0$입니다. 이 함수는 거의 어디서나 0과 같습니다.

이 예에는 더 깊은 교훈이 있습니다. 유리수에 번호를 매겨 $q_1, q_2, \ldots$라 하고, $f_n$을 $q_1, \ldots, q_n$에서만 1이고 나머지에서 0인 함수라 합시다. 각 $f_n$은 튀는 점이 유한 개뿐이라 리만 적분이 0입니다. 그런데 n을 키운 극한은 디리클레 함수여서 리만 적분이 없습니다. 리만의 세계는 극한을 취하면 밖으로 새어 나갑니다. 르베그 적분에서는 이런 일이 없습니다. 0 이상의 함수가 점마다 커지며 수렴⁠(convergence)⁠하면 적분도 극한의 적분으로 수렴하고(단조 수렴 정리⁠, monotone convergence theorem⁠), 어떤 적분 가능한 함수 g가 모든 $|f_n|$을 눌러 주면 거의 어디서나의 수렴만으로 적분의 극한이 극한의 적분이 됩니다(지배 수렴 정리⁠, dominated convergence theorem⁠). 이 정리들이 균등 수렴⁠(uniform convergence)⁠이라는 무거운 조건을 대신합니다.

미분⁠(differentiation)⁠과 적분. 1881년 이탈리아의 비토 볼테라는 모든 점에서 미분 가능하고 도함수⁠(derivative function)⁠가 유계인데도 그 도함수의 리만 적분이 없는 함수를 만들었습니다. 미적분의 기본정리⁠(fundamental theorem of calculus)⁠ $\int_a^b f' = f(b) - f(a)$가 리만 적분으로는 말조차 되지 않는 경우입니다. 르베그 적분에서는 모든 점에서 미분 가능한 f의 도함수가 유계이기만 하면 이 등식이 늘 성립합니다. 다만 한계도 분명합니다. 칸토어 함수⁠(Cantor function)⁠는 0에서 1까지 올라가지만 거의 어디서나 도함수가 0이라, 도함수의 적분은 0입니다. 기본정리가 성립하려면 함수가 '절대 연속⁠(absolute continuity)⁠'이어야 한다는 것도 르베그가 밝혔습니다.

푸리에 급수⁠(Fourier series)⁠. 르베그의 이론이 퍼진 것은 푸리에 급수 덕분이었습니다. 1907년 헝가리의 리스 프리제시와 오스트리아의 에른스트 피셔는, 제곱의 합이 유한한 계수열 $(a_k)$이면 무엇이든 제곱이 르베그 적분 가능한 어떤 함수의 푸리에 계수가 된다는 것을 보였습니다. 리만 적분만으로는 이 '함수'가 없을 수 있습니다. 유리수가 빠진 수직선에서 수열이 수렴할 곳이 없는 것과 같은 사정이고, 르베그 적분은 함수의 세계에 실수⁠(real number)⁠ 같은 빈틈없음을 주었습니다. 계수를 정사영⁠(orthogonal projection)⁠으로 보는 기하학적 그림도 이 위에서 완성됩니다. 한편 1922년 콜모고로프는 르베그 적분이 가능한데도 푸리에 급수가 거의 모든 점에서 발산⁠(divergence)⁠하는 함수를 만들었고, 1966년 스웨덴의 레나르트 칼레손은 제곱 적분 가능한 함수의 푸리에 급수는 거의 어디서나 수렴한다는 것을 증명했습니다.

확률⁠(probability)⁠. 1933년 콜모고로프는 확률을 전체의 측도가 1인 측도로 정의했습니다. 사건⁠(event)⁠은 가측 집합⁠(measurable set)⁠이고, 확률변수⁠(random variable)⁠는 가측 함수이며, 기댓값⁠(expected value)⁠은 르베그 적분입니다. 동전을 무한히 던지는 실험이나 [0, 1]에서 고른 실수처럼 결과가 셀 수 없이 많은 경우도 이 언어로 한꺼번에 다룰 수 있습니다. '앞면의 비율이 1/2로 간다'는 강한 큰 수의 법칙⁠(law of large numbers)⁠은, 그렇지 않은 던지기 결과들의 집합이 확률(측도) 0이라는 뜻, 곧 '거의 확실히'입니다.

이어지는 곳. 측도 0의 구체적인 계산은 측도 0에, 셀 수 없는데 길이 0인 집합은 칸토어 집합에 있습니다. 어떤 집합들이 가측인지, 그리고 '정의할 수 있는' 집합들은 모두 가측인지는 기술 집합론의 물음입니다. 거의 어디서나의 수렴을 균등 수렴으로 바꾸는 예고로프 정리⁠(Egorov's theorem)⁠와 루진의 정리는 르베그의 언어가 모스크바에 뿌리내린 결과이고(모스크바 수학 학파, 니콜라이 루진), 측도 위에서 세운 확률은 중심극한정리⁠(central limit theorem)⁠와 마르코프 연쇄⁠(Markov chain)⁠의 바탕이 되었습니다. 두 분포를 옮기는 비용으로 거리를 재는 최적 수송⁠(optimal transport)⁠도 측도의 언어로 적힙니다. 무한히 많은 조각을 다루는 방법에 대해서는 무한을 다루는 법을 보세요.