열방정식(Heat equation)

길이가 π인 가느다란 막대의 양 끝을 얼음물에 담가 0도로 유지합니다. 처음 온도 분포는 이고, 시간은 $t =$ 입니다. 재생

막대 위의 위치 x, 시각 t에서의 온도를 $u(x, t)$라 하고, 한 점에서 시간에 따라 온도가 변하는 빠르기를 $u_t$, 한 시각에 위치를 따라 두 번 미분⁠(differentiation)⁠한 것을 $u_{xx}$라고 씁니다. 열방정식 $u_t = u_{xx}$는 "온도가 오르는 빠르기 = 온도 곡선이 휜 정도"라는 뜻입니다. 이계 도함수⁠(derivative function)⁠ $u_{xx}$는 한 점의 온도가 바로 양옆 온도의 평균⁠(mean)⁠보다 얼마나 낮은지에 비례합니다. 간격 h로 짚으면 $u_{xx} \approx \frac{2}{h^2}\bigl(\tfrac{u(x-h) + u(x+h)}{2} - u(x)\bigr)$이기 때문입니다. 골짜기처럼 아래로 볼록한 곳은 이웃보다 차가우니 데워지고, 봉우리는 식습니다. 그래서 뾰족한 모서리일수록 먼저 뭉개집니다.

사인은 모양을 지킨다. 푸리에의 착상은 특별한 모양 하나에서 시작합니다. $u = \sin kx$이면 $u_{xx} = -k^2 \sin kx$, 제 모양의 $-k^2$배입니다. 곧 $\sin kx$는 "두 번 미분하기"라는 변환의 고유벡터⁠(eigenvector)⁠이고 고유값⁠(eigenvalue)⁠은 $-k^2$입니다. 그러면 모양은 그대로 두고 높이 b만 $b' = -k^2 b$를 따르므로, 높이는 지수함수⁠(exponential function)⁠ $e^{-k^2 t}$로 줄어듭니다(선형 미분방정식⁠, linear differential equation⁠).

계단처럼 군데군데 끊기거나 꺾여도 조각마다 매끄러운 처음 모양이라면 푸리에 급수⁠(Fourier series)⁠로 사인들의 합 $\sum b_k \sin kx$로 쓸 수 있고, 방정식이 선형이라 각 성분이 서로 상관없이 줄어듭니다. 행렬⁠(matrix)⁠을 고유벡터 좌표로 바꾸면 행렬이 각 좌표를 따로 몇 배씩 하는 일로 단순해지는데(대각화⁠, diagonalization⁠), 여기서는 사인 함수⁠(function)⁠들을 좌표축으로 삼아 같은 일을 한 셈입니다. 사인은 무한히 많으니 무한 차원의 대각화입니다. 푸리에는 이 방법을 1807년 무렵 논문으로 내놓았고, 1822년 『열의 해석적 이론』에 정리했습니다.

k = 3인 성분은 k = 1보다 9배, k = 10인 성분은 100배 빠르게 사라집니다. 그래서 계단의 절벽 옆에 생기는 깁스 현상⁠(Gibbs phenomenon)⁠의 뿔은 t가 0보다 조금만 커도 없어지고, 시간이 지나면 처음 모양에 $\sin x$ 성분이 조금이라도 있는 한($b_1 \ne 0$) 가장 느린 그 성분 하나로 모인 뒤 $e^{-t}$로 식어 갑니다. 지금 막대 한가운데 온도는 입니다.

이어지는 곳. 열은 수많은 입자의 무작위 행보⁠(random walk)⁠가 모인 결과로 볼 수도 있습니다. 끝없이 긴 막대의 한 점에 모인 열은 분산⁠(variance)⁠이 2t인 정규분포⁠(normal distribution)⁠ 모양으로 퍼지고, 폭은 $\sqrt t$로 자랍니다. 무작위 행보가 $\sqrt n$으로 퍼지는 것과 같은 이유입니다. 같은 까닭으로 자료에 분산 σ²인 정규분포 잡음을 더하면, 자료의 확률밀도⁠(probability density)⁠는 열방정식을 시간 σ²/2만큼 푼 것처럼 뭉개집니다. 이 뭉개기를 거꾸로 되돌리는 법을 신경망⁠(neural network)⁠에게 배우게 해 잡음에서 새 자료를 만드는 것이 확산 모델⁠(diffusion model)⁠입니다. 시간 미분을 한 번 더 붙이면 줄어드는 대신 진동하는 파동방정식⁠(wave equation)⁠이 되고, 양 끝 온도를 서로 다르게 고정했을 때 오래 지나 도달하는 직선 온도 분포($u'' = 0$)는 도박꾼의 파산⁠(gambler's ruin)⁠의 확률⁠(probability)⁠ k/N과 같은 방정식의 해입니다.