선형 미분방정식(Linear differential equation)

미분⁠(differentiation)⁠은 위치에서 속도를 꺼냈습니다. 거꾸로, 속도를 정하는 규칙이 주어지면 운동을 찾을 수 있을까요? 가장 단순한 규칙은 "속도 = 위치에 행렬을 곱한 것"입니다. 평면의 모든 점에 속도 화살표가 하나씩 붙고, 점은 그 화살표를 따라 흘러갑니다. 행렬을 로 바꿔 보세요.

한 변수라면 $x' = ax$, 곧 변하는 빠르기가 지금 값에 비례한다는 규칙입니다. 해는 지수함수⁠(exponential function)⁠ $x_0 e^{at}$ 하나뿐이고($x_0$은 처음 값), a가 양수면 불어나고 음수면 0으로 줄어듭니다. 평면에서는 고유벡터가 이 역할을 나눠 맡습니다. 고유벡터 방향에서는 $A\vec x = \lambda\vec x$이니 규칙이 한 변수의 $x' = \lambda x$와 같아집니다. 서로 다른 방향의 고유벡터가 둘 있으면 어떤 위치든 두 방향의 성분으로 쪼갤 수 있고, 각 성분은 따로 $e^{\lambda t}$배로 늘거나 줄어듭니다. 그래서 고유값을 보면 운동의 모양이 보입니다.

• 두 고유값이 실수이고 부호가 반대면 안장입니다. 한 고유벡터 방향으로는 빨려 들어오고 다른 방향으로는 밀려납니다(주황 점선).
• 둘 다 음수면 모든 방향의 성분이 줄어드니 원점으로 끌려갑니다. 둘 다 양수면 반대로 모든 점이 원점에서 밀려납니다.
• 고유값이 복소수⁠(complex number)⁠ $\alpha \pm i\beta$이면 해가 $e^{(\alpha + i\beta)t} = e^{\alpha t}(\cos\beta t + i\sin\beta t)$ 꼴입니다(오일러 공식⁠, Euler's formula⁠). 뒤쪽 괄호는 크기가 1이고 각도가 βt인 수라서 점이 돕니다. 앞쪽 $e^{\alpha t}$는 원점과의 거리를 바꿉니다. α가 양수면 바깥 나선, 음수면 안쪽 나선이고, α가 0이면 닫힌 궤도입니다. 여기 고른 세 행렬은 $\begin{bmatrix} \alpha & -\beta \\ \beta & \alpha \end{bmatrix}$ 꼴이라, 닫힌 궤도⁠(orbit)⁠는 정확한 원이고 나선도 원을 고르게 감아 돕니다. 일반 행렬에서는 원이 기울어진 타원⁠(ellipse)⁠이 되고, 나선도 그만큼 찌그러집니다. '원 운동' 행렬에서 속도는 언제나 위치를 90° 돌린 방향(i 곱하기), 곧 원점에서 뻗은 선에 수직이라 거리가 변하지 않습니다(회전⁠, rotation⁠).

평형점⁠(equilibrium)⁠은 속도가 0이라 한 번 놓이면 움직이지 않는 상태입니다. A의 행렬식⁠(determinant)⁠이 0이 아니면 평형점은 원점 하나뿐입니다. 진자가 아래로 곧게 멈춰 있는 상태, 전류가 흐르지 않는 회로, 두 생물 종의 개체 수가 서로 맞물려 변하지 않는 상태가 모두 평형점입니다. 실제 규칙은 대개 행렬 곱보다 복잡하지만(비선형), 평형점 근처를 크게 확대하면 규칙이 행렬 곱으로 근사되어 이 그림들 가운데 하나가 됩니다(국소 선형성⁠, local linearity⁠). 그래서 이 방정식은 평형점 근처의 작은 움직임을 대부분 설명합니다. 예외는 실수 부분이 0인 고유값이 있는 경우입니다(원 운동이 대표적입니다). 이때는 무시한 작은 비선형 항이 안쪽 나선인지 바깥 나선인지를 정할 수 있어서, 선형 근사만으로는 판정할 수 없습니다. 속도 규칙과 그것이 만드는 흐름 전체를 연구하는 분야가 동역학계⁠(dynamical system)⁠입니다.

해를 구하는 실용적인 방법은 (고유벡터가 두 방향으로 있을 때) 고유벡터들을 새 좌표축으로 삼는 것(대각화⁠, diagonalization⁠)입니다. 그러면 두 좌표가 서로 얽히지 않고 각자 $e^{\lambda t}$배로 변하니, 따로 풀어 다시 합치면 됩니다.

시간이 연속으로 흐르지 않고 한 칸씩 끊겨 흐르면, 같은 역할을 점화식⁠(recurrence relation)⁠ $x_{n+1} = Ax_n$이 맡습니다. 이때는 $e^{\lambda t}$ 대신 $\lambda^n$을 넣어 풉니다. 피보나치 수열⁠(Fibonacci sequence)⁠이 그 예입니다.

원 운동하는 점의 한 좌표만 보면 사인파⁠(sinusoid)⁠가 나옵니다. 용수철에 매단 추는 가속도가 위치에 비례해 반대쪽을 향하는데($x'' = -kx$), 위치와 속도를 짝으로 묶어 $(x, x')$의 평면에서 보면 바로 이런 원(타원) 운동입니다. 그래서 추의 위치는 사인파로 흔들립니다. 진자도 흔들리는 각이 작을 때는 같은 식으로 근사되어 사인파처럼 흔들립니다.

위치 하나가 아니라 줄 전체의 높이나 막대 전체의 온도처럼 공간 곳곳의 값이 함께 변하면, 시간과 위치 두 변수에 대한 미분이 한 식에 들어갑니다. 이런 식을 편미분방정식⁠(partial differential equation)⁠이라 합니다. 떨리는 줄은 파동방정식⁠(wave equation)⁠, 퍼지는 열은 열방정식⁠(heat equation)⁠을 따릅니다.

행렬의 성분이 조절 가능한 수(매개변수⁠, parameter⁠)에 따라 바뀐다고 합시다. 매개변수를 천천히 돌리다 보면 흐름의 모양이 갑자기 바뀌는 순간이 있습니다. 실수 고유값이 0을 지나 부호가 바뀌거나(끌려가던 방향이 밀어내는 방향이 됨), 복소수 고유값의 실수 부분 α가 0을 지나 안쪽 나선이 바깥 나선이 되는 순간입니다. 이런 변화를 분기⁠(bifurcation)⁠라 합니다.

규칙이 비선형이고 변수가 셋 이상이면, 궤적이 한정된 곳 안에서 영원히 맴돌면서도 결코 같은 길을 되풀이하지 않을 수 있습니다. 그 대표가 로렌츠 끌개⁠(Lorenz attractor)⁠입니다. 이렇게 한정된 곳 안에서 궤적이 뒤섞이고, 처음 위치의 아주 작은 차이가 지수적으로 벌어지는 운동을 혼돈⁠(chaos)⁠이라 합니다. 평면(변수 둘)의 흐름에서는 궤적끼리 가로지를 수 없어서, 시간이 식에 따로 들어가지 않는 한 이런 일이 일어나지 않습니다.

궤적끼리 가로지를 수 없는 것은 해의 유일성 때문입니다. 두 궤적이 한 점에서 만나면 그 점에서 출발한 해가 둘이 됩니다. 선형 규칙에서는 어느 출발점에서든 해가 정확히 하나 있고 영원히 이어집니다. 비선형 규칙에서는 속도가 위치에 따라 너무 급격히 변하지 않아야(립시츠 조건⁠, Lipschitz condition⁠) 적어도 잠깐 동안 해가 하나뿐입니다. $x' = 2\sqrt{|x|}$에서 $x(0) = 0$인 해는 0에 머물 수도, $t \ge 0$에서 $x = t^2$로 떠날 수도 있습니다. $\sqrt{|x|}$는 0 근처에서 기울기⁠(slope)⁠가 한없이 가팔라서 립시츠 조건을 어깁니다. 해가 영원히 이어지는 것도 당연하지 않아서, $x' = x^2$, $x(0) = 1$의 해 $1/(1-t)$는 t = 1에서 무한대로 달아납니다.

외부 입력 u를 더한 선형계 $h' = Ah + Bu$(상태를 h로 씁니다)를 간격 Δ마다 끊어 읽으면(그 사이 입력은 일정하다고 두면) 점화식 $h_t = \bar A h_{t-1} + \bar B u_t$, $\bar A = e^{\Delta A}$가 됩니다. 이것이 최근 언어 모델⁠(language model)⁠에도 쓰이는 상태 공간 모형⁠(state space model)⁠의 뼈대이고, 기억이 얼마나 오래가는지를 A의 고유값이 정합니다. 실수 부분이 음수이고 0에 가까울수록 옛 입력이 천천히 잊힙니다.