점별 수렴과 균등 수렴(Pointwise and uniform convergence)

1821년 코시는 『해석학⁠(mathematical analysis)⁠ 강의』에서, 연속함수들을 더한 급수⁠(series)⁠가 모든 점에서 수렴⁠(convergence)⁠하면 그 합도 연속이라고 적었습니다. 5년 뒤 아벨은 이 주장에 예외가 있다고 지적했습니다. 급수 $\sin x - \tfrac12 \sin 2x + \tfrac13 \sin 3x - \cdots$는 모든 x에서 수렴하고 각 항은 연속인데, 합은 $-\pi \lt x \lt \pi$에서 $x/2$이고 $x = \pi$에서는 모든 항이 0이라 0입니다. x가 π로 다가가면 합은 $\pi/2$에 다가가는데 π에서의 값은 0이니, 합은 π에서 끊깁니다. 잘못은 '수렴한다'는 말이 두 가지 뜻을 뭉뚱그린 데 있었습니다. 1847년 영국의 물리학자 조지 스토크스와 독일의 필리프 루트비히 폰 자이델이 따로따로 그 차이를 짚었고, 베를린의 바이어슈트라스가 강의에서 이를 해석학의 기본 개념으로 세웠습니다.

함수⁠(function)⁠ $f_1, f_2, f_3, \ldots$가 줄지어 있다고 합시다. 점별 수렴은 점 x를 하나 정해 놓고 보면 수 $f_1(x), f_2(x), \ldots$가 $f(x)$에 수렴한다는 뜻입니다. 정확히는, 점 x와 허용 오차 $\varepsilon > 0$을 주면 어떤 번호 N이 있어서 N 이후의 모든 n에서 $|f_n(x) - f(x)| \lt \varepsilon$입니다. 여기서 N은 x마다 달라도 됩니다. 균등 수렴은 하나의 N이 모든 x에 한꺼번에 통해야 한다는 더 강한 요구입니다. 그림으로 말하면, f의 그래프 위아래로 폭 ε인 띠를 두를 때 어떤 번호부터는 $f_n$의 그래프 전체가 띠 안에 들어가 있어야 합니다. 같은 말을 식으로 적으면 가장 큰 차이 $\sup_x |f_n(x) - f(x)|$가 0으로 가는 것입니다.

함수열 을 골라 보세요. 번호 $n =$ , 띠의 폭 $\varepsilon =$ . 축 위의 노란 점 $x_0 =$ 은 끌 수 있습니다.

지금 n에서는

xⁿ. 구간 [0, 1] 위의 $x^n$은 $x \lt 1$이면 0으로, $x = 1$이면 1로 갑니다. 극한 f는 1에서 뚝 끊기는 함수입니다. 점마다 보면 모두 수렴하지만 빠르기가 다릅니다. ε = 0.05일 때 x = 0.5는 n = 5부터(0.5⁵ ≈ 0.031), x = 0.9는 n = 29부터, x = 0.999는 n = 2995부터 띠 안에 머뭅니다. 1에 가까운 점일수록 필요한 N이 끝없이 커지니 모든 점에 통하는 N은 없습니다. 실제로 n이 얼마든 $x = (1/2)^{1/n}$에서는 $x^n = 1/2$이라, 그래프의 일부는 늘 띠 밖에 있습니다. 점별 수렴이지만 균등 수렴은 아닙니다.

움직이는 혹. $n x\,e^{1 - nx}$는 높이 1인 혹이 $x = 1/n$에 솟은 모양입니다. 어느 점 x에서나 n이 커지면 혹이 그 점을 지나 왼쪽으로 가 버리니 값은 0으로 갑니다. 극한은 연속함수 0인데도 가장 큰 차이는 언제나 1이라 균등 수렴이 아닙니다. 극한이 연속이라고 균등 수렴인 것은 아니라는 예입니다. 이 차이는 적분⁠(integral)⁠에서도 드러납니다. 혹이 점점 높아지는(꼭대기 높이 n/e) $n^2 x\,e^{-nx}$도 모든 점에서 0으로 가지만, [0, 1] 위의 적분은 $1 - (n+1)e^{-n}$으로 1에 다가갑니다. 극한의 적분(0)과 적분의 극한(1)이 다릅니다. 길이가 유한한 구간에서 균등 수렴하면 이런 일이 없습니다. 길이 L인 구간에서 적분의 차이는 L × (가장 큰 차이)를 넘지 못하고, 가장 큰 차이가 0으로 가기 때문입니다.

잔물결. $\sin(2\pi n x)/n$은 가장 큰 차이가 $1/n$이라 균등 수렴합니다. ε을 주면 $n \gt 1/\varepsilon$인 모든 n에서 그래프 전체가 띠 안에 있습니다. 그런데 도함수⁠(derivative function)⁠ $2\pi\cos(2\pi n x)$는 전혀 수렴하지 않습니다. 균등 수렴은 값을 붙잡아 주지만 기울기⁠(slope)⁠까지 붙잡아 주지는 않습니다.

균등 수렴의 극한은 연속이다. 연속함수 $f_n$이 f로 균등 수렴하면 f도 연속입니다. 까닭은 세 토막으로 나눈 거리 재기에 있습니다(흔히 ε/3 논법이라 부릅니다). 점 a 근처의 x에서 $|f(x) - f(a)|$를 작게 만들고 싶습니다. 먼저 모든 점에서 $|f_n - f| \lt \varepsilon/3$인 n 하나를 고릅니다. 균등 수렴이라 이 n은 a에서도 x에서도 통합니다. 다음으로 $f_n$이 연속이니 x가 a에 충분히 가까우면 $|f_n(x) - f_n(a)| \lt \varepsilon/3$입니다. 그러면

$$|f(x) - f(a)| \le |f(x) - f_n(x)| + |f_n(x) - f_n(a)| + |f_n(a) - f(a)| \lt \tfrac{\varepsilon}{3} + \tfrac{\varepsilon}{3} + \tfrac{\varepsilon}{3} = \varepsilon.$$

점별 수렴만 있으면 첫 토막이 무너집니다. a에서 잘 맞는 n이 그 옆의 x에서는 전혀 안 맞을 수 있고, xⁿ이 1 바로 앞에서 보여 준 일이 정확히 그것입니다. 이 정리 덕분에 수렴반경⁠(radius of convergence)⁠ 안에서 거듭제곱급수는 연속입니다. 반경보다 조금 작은 닫힌 구간에서는 급수가 균등 수렴하기 때문입니다. 흔히 쓰는 판정법은 바이어슈트라스의 M-판정법입니다. 각 항이 $|u_k(x)| \le M_k$이고 수의 급수 $\sum M_k$가 수렴하면 $\sum u_k(x)$는 균등 수렴합니다. 예를 들어 $\sum \sin(kx)/k^2$은 $M_k = 1/k^2$(바젤 문제⁠(Basel problem)⁠의 급수)로 눌러지니 연속함수입니다. 거꾸로 네모파의 푸리에 급수⁠(Fourier series)⁠는 점마다 수렴하지만 불연속점 근처에서 균등 수렴하지 않고, 그 흔적이 항을 아무리 늘려도 줄지 않는 솟음(뛰는 폭의 약 9%), 깁스 현상⁠(Gibbs phenomenon)⁠입니다. 아벨이 든 급수도 바로 톱니파의 푸리에 급수였습니다.

예고로프 정리: 조금만 빼면 균등 수렴. 점별 수렴은 균등 수렴보다 얼마나 약할까요? 1911년 모스크바의 드미트리 예고로프가 답을 냈습니다(이탈리아의 카를로 세베리니도 1910년에 같은 사실을 따로 얻었습니다). xⁿ에서 수렴이 느린 점들은 1 바로 앞에 몰려 있었습니다. 그 자리를 잘라 내 봅시다. 잘라낼 길이 $\delta =$ .

xⁿ에서 (1 − δ, 1]을 잘라 내면 남은 [0, 1 − δ]에서 가장 큰 차이는 $(1-\delta)^n$이고, 이것은 0으로 갑니다. δ = 0.01만 잘라 내도 ε = 0.05에 대해 n = 299부터는 남은 점 모두가 한꺼번에 띠 안에 들어옵니다. δ를 아무리 작게 잡아도 이렇게 됩니다. 예고로프는 이것이 우연이 아니라는 것을 보였습니다.

예고로프 정리. 길이(정확히는 측도)가 유한한 집합⁠(set)⁠ E 위에서, 측도로 잴 수 있는 함수열 $f_n$이 거의 모든 점⁠(almost everywhere)⁠에서 유한한 값 f로 수렴한다고 합시다. '거의 모든 점'은 수렴하지 않는 점들이 있더라도 그 모임이 측도 0⁠(measure zero)⁠이라는 뜻입니다. 그러면 아무리 작은 $\delta > 0$을 주어도, 측도가 δ보다 작은 조각 하나를 E에서 빼면 나머지에서는 $f_n$이 f로 균등 수렴합니다. 빼는 조각이 바로 '느린 점들의 자리'입니다. 움직이는 혹에서는 느린 점들이 0 바로 옆에 있으니 [0, δ)를 빼면 됩니다.

'길이가 유한한 곳'이라는 조건은 꼭 필요합니다. 실수⁠(real number)⁠ 전체에서 $f_n$을 구간 [n, n + 1] 위에서만 1이고 나머지에서 0인 함수라 하면, 모든 점에서 결국 0이 되지만 균등 수렴을 얻으려면 어떤 번호 이후의 구간 [n, n + 1]을 모두 빼야 하고, 그 길이의 합은 무한합니다. 혹이 달아날 곳이 무한히 있기 때문입니다.

예고로프의 제자 니콜라이 루진은 이듬해 짝이 되는 정리를 증명했습니다. 길이가 유한한 곳에서 측도로 잴 수 있는 함수라면(값이 거의 모든 점에서 유한할 때), 아무리 거칠어 보여도 측도가 δ보다 작은 조각만 빼면 나머지 위로 좁힌 함수는 연속이라는 것입니다. '작은 예외를 버리면 좋은 성질이 드러난다'는 이 생각은 모스크바 수학 학파의 출발점이 되었고, 앙리 르베그의 측도와 적분 없이는 말할 수조차 없는 정리들이었습니다.

이어지는 곳. 수의 급수가 수렴하는 조건은 급수의 수렴과 발산⁠(convergence and divergence of series)⁠에, 극한과 적분의 순서를 바꿀 수 있는 넓은 조건(단조 수렴 정리⁠(monotone convergence theorem)⁠, 지배 수렴 정리⁠(dominated convergence theorem)⁠)은 르베그 적분과 측도⁠(Lebesgue integral and measure)⁠에 있습니다. 가장 큰 차이 $\sup|f - g|$는 함수 사이의 체비쇼프 거리⁠(Chebyshev distance)⁠이고, 연속함수를 다항식⁠(polynomial)⁠으로 이 거리만큼 가깝게 근사하는 이야기가 근사 이론⁠(approximation theory)⁠의 바이어슈트라스 정리입니다. 함수열이 수렴하는 점들의 집합이 어떤 모양일 수 있는지는 기술 집합론⁠(descriptive set theory)⁠이 답합니다. 부분합⁠(partial sum)⁠의 수렴이 가장 극적으로 갈리는 무대는 푸리에 급수와 깁스 현상이고, 한 점에서의 좋은 성질이 전체로 퍼지는 조건을 묻는 일은 국소에서 전체로, 오차를 어떤 잣대로 재느냐의 문제는 근사와 오차로 이어집니다.