깁스 현상(Gibbs phenomenon)

−1에서 +1로 뛰어오르는 네모파를 푸리에 급수⁠(Fourier series)⁠의 부분합으로 근사합니다. 홀수 진동수⁠(frequency)⁠의 사인파⁠(sinusoid)⁠를 $m =$ 개 더합니다. 더하는 방법: .

$$S_m(x) = \frac{4}{\pi}\left(\sin x + \frac{\sin 3x}{3} + \cdots + \frac{\sin (2m-1)x}{2m-1}\right)$$

가장 높은 봉우리는 , 목표 1을 넘은 양은 절벽 높이 2의 %입니다. m을 늘려도 봉우리는 좁아질 뿐 낮아지지 않고 약 8.95%, 흔히 말하는 "9%"에 머뭅니다.

왜 9%인가. 절벽 근처에서 부분합의 각 항 $\frac{\sin (2j-1)x}{2j-1}$은 함수⁠(function)⁠ $\frac{\sin s}{s}$를 간격 $2x$로 짚은 값에 비례합니다. 그래서 부분합은 $\frac{\sin s}{s}$의 리만 합⁠(Riemann sum)⁠이 되고, $S_m(x) \approx \frac{2}{\pi}\int_0^{2mx} \frac{\sin s}{s}\,ds$입니다. 오른쪽은 $2mx$라는 한 묶음에만 달려 있으니, m이 커지면 같은 곡선이 가로로 눌릴 뿐입니다. 봉우리는 적분⁠(integral)⁠의 위끝이 π일 때, 곧 $x = \pi/(2m)$에서 생기고 높이는 $\frac{2}{\pi}\int_0^\pi \frac{\sin s}{s}ds \approx 1.179$입니다.

수렴⁠(convergence)⁠한다면서? 모순은 아닙니다. 절벽이 아닌 점 x 하나를 정해 두면 부분합은 그 점의 값으로 극한⁠(limit)⁠을 가집니다. 봉우리가 절벽 쪽으로 계속 자리를 옮기기 때문에 "가장 큰 오차"만 줄지 않는 것입니다. 점마다 따로 보면 수렴하지만(점별 수렴⁠, pointwise convergence⁠), 모든 점에서 오차가 한꺼번에 작아지지는 않는(균등 수렴⁠(uniform convergence)⁠이 아닌) 경우입니다(점별 수렴과 균등 수렴⁠(pointwise and uniform convergence)⁠). 어떤 점 x를 골라도 m이 충분히 커지면 봉우리는 x보다 절벽에 더 가까운 곳으로 지나가 버리지만, 그때마다 봉우리 높이는 여전히 약 1.179입니다. 사실 피할 수 없는 일입니다. 부분합은 모두 연속함수이고, 연속함수들이 모든 곳에서 한꺼번에 가까워지는 극한은 연속이어야 하므로 절벽을 그렇게 따라갈 수는 없습니다. 절벽 한가운데 $x = 0$에서는 양쪽의 평균⁠(mean)⁠인 0으로 수렴합니다.

없애는 법. 0번째(상수항만)부터 N번째까지 N + 1개의 부분합을 모두 평균 낸 것을 페예르 평균⁠(Fejér mean)⁠이라 합니다(1900년 헝가리의 수학자 페예르 리포트가 연구). 이렇게 하면 k번째 성분에 $1 - k/(N+1)$의 가중치⁠(weight)⁠가 곱해져서, 높은 진동수가 한꺼번에 잘리는 대신 부드럽게 줄어듭니다. 부분합이든 페예르 평균이든 결과는 원래 함수를 이웃 값들로 가중 평균해 뭉갠 것으로 쓸 수 있는데, 그 무게를 주는 함수를 핵이라 합니다. 부분합의 핵(디리클레 핵⁠, Dirichlet kernel⁠)은 음수인 곳이 있어서 평균이 원래 값의 범위를 넘어설 수 있고, 그것이 뿔입니다. 페예르 평균의 핵은 어디서나 0 이상이라서, −1과 1 사이 값들의 가중 평균인 결과도 −1과 1 사이를 벗어나지 않습니다. 대신 절벽이 조금 무뎌집니다. 열방정식⁠(heat equation)⁠이 성분마다 $e^{-k^2t}$를 곱해 절벽을 순식간에 뭉개는 것도 같은 원리입니다. JPEG처럼 이산 코사인 변환⁠(discrete cosine transform)⁠의 높은 진동수 성분을 거칠게 버리는 압축에서 날카로운 경계 옆에 생기는 물결무늬(링잉)도 비슷한 원인으로 생깁니다.

이어지는 곳. 복소수⁠(complex number)⁠로 쓰면 $\sum e^{ikx}$는 공비⁠(common ratio)⁠가 $e^{ix}$인 등비급수⁠(geometric series)⁠라서, 항이 몇 개든 짧은 식 하나(닫힌 꼴)로 더해집니다. 그 결과가 위에서 말한 디리클레 핵이고(디리클레의 이름), 오일러 공식⁠(Euler's formula)⁠으로 사인과 코사인⁠(sine and cosine)⁠으로 되돌리면 위의 분석을 정확하게 할 수 있습니다. 계수가 $1/k$로 느리게 줄어드는 것이 절벽의 흔적이며, 꺾이기만 하고 끊기지 않은 뜯은 줄처럼 $1/k^2$로 줄면 뿔이 생기지 않습니다. 한 점의 미분값만 보는 테일러 급수⁠(Taylor series)⁠는 절벽 너머를 아예 모릅니다. 네모파의 오른쪽 한 점에서 전개하면 상수 1만 나올 뿐입니다. 이 현상은 1848년 영국의 수학자 헨리 윌브러햄이 먼저 기록했지만 잊혔고, 1898–99년 미국의 물리학자 조사이아 윌러드 깁스가 『네이처』에 쓴 글로 널리 알려져 그의 이름(깁스는 같은 이름의 다른 표기)이 붙었습니다.