← 갤러리
미분에서 회전까지 · 5편 · 복소수와 행렬

곱셈은 회전⁠(rotation)⁠이다

복소수⁠(complex number)⁠를 곱하면 평면 전체가 돌고 늘어납니다. 이것을 행렬⁠(matrix)⁠로 쓰면, 1편부터 쌓아 온 이야기가 한 원 위에서 만납니다.

4편 「원을 그리는 지수함수」에서 eiθe^{i\theta}는 θ만큼의 회전이었습니다. 이번에는 아무 복소수 ww를 곱해 봅니다. 한 점이 아니라 평면 전체에 곱합니다.

이 글의 물음은 이것입니다. 복소수 하나를 곱하는 일을, 평면 전체를 움직이는 일로 보면 무엇이 보일까? 답을 미리 말하면 이렇습니다. 복소수 곱셈⁠(complex multiplication)⁠은 평면을 돌리고 늘이는 변환이고, 그 변환은 행렬이라는 수의 표로 적힙니다. 그렇게 적고 나면 "변환해도 방향이 바뀌지 않는 화살표"를 묻는 고유값⁠(eigenvalue)⁠이 회전에서는 어떻게 되는지, 그리고 1편의 속도⁠(velocity)⁠가 이 이야기와 어떻게 이어지는지가 차례로 보입니다. 행렬과 고유값은 처음 나올 때 손으로 확인할 수 있는 작은 예부터 설명합니다.

1 · 평면 전체에 곱하기돌리고 늘이기

이 절의 물음은 이것입니다. 복소수 w를 평면의 모든 점에 한꺼번에 곱하면 평면은 어떻게 움직일까? 먼저 필요한 것 두 가지를 되짚습니다.

복소수는 a+bia + bi 꼴의 수입니다. a와 b는 보통의 실수⁠(real number)⁠이고, i는 제곱하면 −1이 되는 수(i2=−1i^2 = -1, 허수 단위⁠(imaginary unit)⁠)입니다. 복소수 a + bi를 평면의 점 (a, b)로 그리면 복소수는 평면 위의 점이 됩니다. 가로축은 실수 부분, 세로축은 i가 몇 개인지를 나타냅니다. 예를 들어 1 + 2i는 오른쪽으로 1, 위로 2인 점이고, i 자신은 (0, 1)입니다.

두 복소수의 곱은 괄호를 풀고 i2i^2를 −1로 바꾸어 계산합니다. 1 + 2i에 i를 곱해 봅시다.

i⋅(1+2i)=i+2i2=i+2⋅(−1)=−2+ii \cdot (1 + 2i) = i + 2i^2 = i + 2 \cdot (-1) = -2 + i

점으로 보면 (1, 2)가 (−2, 1)로 갔습니다. 두 점 모두 원점에서 거리가 12+22=5\sqrt{1^2 + 2^2} = \sqrt{5}이고, (1, 2)를 원점 둘레로 시계 반대 방향으로 90° 돌리면 정확히 (−2, 1)이 됩니다. i를 곱하는 것은 90° 회전입니다.

복소수 w에는 두 가지 수가 딸려 있습니다. 원점에서 w까지의 거리를 w의 크기라 하고 ∣w∣|w|('w의 절댓값⁠(absolute value)⁠')로 적습니다. 피타고라스 정리⁠(Pythagorean theorem)⁠로 ∣a+bi∣=a2+b2|a + bi| = \sqrt{a^2 + b^2}입니다. 그리고 가로축의 오른쪽 방향에서 시계 반대 방향으로 w까지 잰 각을 w의 각도라 합니다. i는 크기 1, 각도 90°이고, 1 + i는 크기 2\sqrt2, 각도 45°입니다.

이제 한 점이 아니라 격자 위의 모든 점 zz를 w⋅zw \cdot z로 옮깁니다. 그림의 초록 화살표 끝이 ww입니다. 그 끝을 끌어 w를 바꾸며, 흐린 격자(원래 평면)와 파란 격자(w를 곱한 평면)를 비교해 보세요. 격자의 칸이 여전히 정사각형인지를 보면 됩니다. 지금 w=w = , 크기 ∣w∣=|w| = , 각도 입니다.

흐린 격자는 원래 평면, 파란 격자는 w를 곱한 평면입니다. 노란 F 모양이 어떻게 옮겨지는지 보세요. 초록 화살표는 1이 옮겨 간 곳(w · 1 = w), 빨간 화살표는 i가 옮겨 간 곳(w · i), 주황 점선 원은 반지름 1인 원이 옮겨 간 모양입니다.

격자는 찌그러지지 않습니다. 정사각형 칸은 정사각형으로 남고, 모든 것이 만큼 돌고 배로 늘어날 뿐입니다. 흐린 F와 노란 F는 모양이 같고 놓인 방향과 크기만 다릅니다. 초록 화살표와 빨간 화살표도 늘 길이가 같고 서로 수직입니다. w · i는 w에 i를 곱한 것, 곧 w를 90° 돌린 것이기 때문입니다.

왜 그럴까요? 까닭은 곱셈의 성질 하나입니다. 곱의 크기는 크기의 곱이고, 곱의 각도는 각도의 합입니다. w = 1 + i(크기 √2, 각도 45°)로 확인해 봅시다. w · 1 = 1 + i는 크기 √2, 각도 45°입니다. w · i = i + i² = −1 + i는 크기 √2, 각도 135°, 곧 i의 각도 90°에 45°를 더한 것입니다. 어떤 점 z든 크기는 |w|배가 되고 각도에는 w의 각도가 더해지니, 평면 전체가 한꺼번에 같은 각만큼 돌고 같은 배율로 늘어납니다.

이 성질은 4편의 말로 적으면 바로 보입니다. 크기가 r이고 각도가 φ('파이')인 복소수는 w=reiφw = r e^{i\varphi}로 적을 수 있습니다(극형식⁠, polar form⁠). 여기서 eiφ=cos⁡φ+isin⁡φe^{i\varphi} = \cos\varphi + i\sin\varphi는 반지름 1인 원 위에서 각도 φ에 있는 점입니다. 그러면 w를 곱하는 일은 두 단계로 나뉩니다. rr을 곱하면 늘어나고 eiφe^{i\varphi}를 곱하면 돕니다. 크기 s, 각도 ψ('프사이')인 z에 곱하면 지수법칙 exey=ex+ye^{x}e^{y} = e^{x+y}에 따라 reiφ⋅seiψ=rs ei(φ+ψ)r e^{i\varphi} \cdot s e^{i\psi} = rs\, e^{i(\varphi + \psi)}이니, 크기는 곱해지고 각도는 더해집니다.

그래서 w가 0이 아니면 이 변환은 직사각형을 직사각형으로 보내고 두 선이 만나는 각도를 그대로 지킵니다(복소수 곱셈). 모든 방향이 같은 각만큼 돌면 두 방향 사이의 각은 변하지 않기 때문입니다. 예를 들어 ww를 ii에 놓으면 격자는 크기 그대로 90° 돌기만 하고, 2에 놓으면 돌지 않고 두 배로 커지기만 합니다. w = 0이면 모든 점이 원점 한 점으로 모입니다.

정리하면, 0이 아닌 복소수 w를 곱하는 것은 평면 전체를 w의 각도만큼 돌리고 |w|배로 늘이는 변환입니다.

복소수의 곱셈을 '돌리고 늘이기'로 처음 적어 발표한 사람은 대학의 수학자가 아니라 측량사였습니다. 덴마크 왕립 학술원의 지도 제작에 참여하던 카스파르 베셀은 방향이 있는 선분을 더하고 곱하는 방법을 궁리하다가 1797년 코펜하겐의 학술원에 논문을 냈습니다. 거리와 방향을 계산하는 것이 측량사의 일이니 자연스러운 출발점이었습니다. 덴마크어로 쓰인 이 논문은 백 년 가까이 거의 읽히지 않았습니다. 그사이 파리의 아마추어 수학자 장로베르 아르강(1806)과 괴팅겐의 가우스(1831)가 따로 같은 그림에 이르렀습니다. 흩어진 발견이 어떻게 한 그림으로 모였는지는 4편 「원을 그리는 지수함수」 6절에 있습니다. 베셀의 논문 부제는 '주로 평면과 구면 다각형의 풀이에 쓰는 시도'였습니다. 구면 다각형은 공의 겉면 위에 그린 다각형입니다. 그는 이미 같은 생각을 구면 위, 곧 공간의 방향으로 넓히려 했고, 그 과제는 이 글 6절의 해밀턴에게 넘어갑니다.

2 · 행렬로 쓰기1과 i가 가는 곳

이 절의 물음은 이것입니다. '평면 전체를 돌리고 늘이는 변환'을 숫자 몇 개로 적을 수 있을까? 답은 수 네 개를 정사각형으로 늘어놓은 표, 곧 행렬입니다. 요점은 두 점 1과 i가 어디로 가는지만 알면 나머지 모든 점이 어디로 가는지가 저절로 정해진다는 것입니다.

w를 곱하는 변환에는 좋은 성질이 두 가지 있습니다. 두 점을 더한 뒤 옮기든 따로 옮긴 뒤 더하든 결과가 같고(w(z1+z2)=wz1+wz2w(z_1 + z_2) = wz_1 + wz_2), 실수 k배 한 뒤 옮기든 옮긴 뒤 k배 하든 같습니다(w(kz)=k(wz)w(kz) = k(wz)). 이 두 성질, 곧 더하기와 상수배를 보존하는 변환을 선형변환⁠(linear transformation)⁠이라 부릅니다. 그림으로는 원점이 제자리에 있고, 격자선이 평행하고 간격이 고른 곧은 선으로 남는 변환입니다.

선형변환은 두 기준 벡터⁠(vector)⁠가 어디로 가는지만 적으면 됩니다. 여기서 벡터는 원점에서 한 점까지 그은 화살표, 곧 점 (x, y)를 화살표로 본 것입니다. 복소평면⁠(complex plane)⁠의 기준은 1, 곧 (1, 0)과 i, 곧 (0, 1)입니다. 어떤 점 x + yi도 'x × 1 + y × i'이고, 선형변환은 더하기와 상수배를 보존하므로 옮긴 뒤에는 'x × (1이 간 곳) + y × (i가 간 곳)'이 됩니다. 기준 벡터 둘의 도착점만 알면 나머지 모든 점의 도착점이 따라 정해지는 것입니다.

w = 2 + i로 확인해 봅시다. 1은 2 + i로 가고, i는 i(2+i)=2i+i2=−1+2ii(2 + i) = 2i + i^2 = -1 + 2i로 갑니다. 점 3 + i가 어디로 가는지 두 가지로 계산해 봅니다. 직접 곱하면 이렇습니다.

(2+i)(3+i)=6+2i+3i+i2=5+5i(2 + i)(3 + i) = 6 + 2i + 3i + i^2 = 5 + 5i

기준 벡터의 도착점으로 계산하면 이렇습니다.

3×(2+i)+1×(−1+2i)=6+3i−1+2i=5+5i3 \times (2 + i) + 1 \times (-1 + 2i) = 6 + 3i - 1 + 2i = 5 + 5i

같은 답입니다. 1과 i의 도착점 두 개가 변환 전체를 정합니다.

일반적으로 w=a+biw = a + bi를 곱하면 1은 a+bia + bi, 곧 점 (a, b)로 가고, i는 i(a+bi)=−b+aii(a+bi) = -b + ai(i⋅bi=bi2=−bi \cdot bi = b i^2 = -b이므로), 곧 점 (−b, a)로 갑니다. 이 두 도착점을 세로줄(열)로 나란히 세우면 행렬이 됩니다. 첫째 열이 1이 간 곳, 둘째 열이 i가 간 곳입니다. 아래 식의 오른쪽은 지금 그림의 w로 채운 행렬입니다.

행렬로 점을 옮기는 규칙, 곧 행렬과 벡터의 곱은 방금 한 계산 그대로입니다. 점 (x, y)를 옮기려면 'x × 첫째 열 + y × 둘째 열'을 계산합니다.

[a−bba][xy]=x[ab]+y[−ba]=[ax−bybx+ay]\begin{bmatrix} a & -b \\ b & a \end{bmatrix} \begin{bmatrix} x \\ y \end{bmatrix} = x \begin{bmatrix} a \\ b \end{bmatrix} + y \begin{bmatrix} -b \\ a \end{bmatrix} = \begin{bmatrix} ax - by \\ bx + ay \end{bmatrix}

복소수로 곱해도 (a+bi)(x+yi)=(ax−by)+(bx+ay)i(a + bi)(x + yi) = (ax - by) + (bx + ay)i이니 같은 점입니다(괄호를 풀면 byi² = −by가 나옵니다).

모든 복소수 곱셈은 이런 모양의 행렬입니다. 왼쪽 위에서 오른쪽 아래로 가는 대각선의 두 칸이 같고(a,aa, a), 다른 둘은 부호만 반대(−b,b-b, b)입니다.

복소수를 두 번 곱하면 각도가 더해지고 크기가 곱해집니다. 행렬로는 두 변환을 차례로 한 결과를 한 행렬로 적은 것, 곧 두 행렬의 곱⁠(matrix multiplication)⁠입니다. 이 곱의 열도 같은 원리로 구합니다. 1과 i가 두 변환을 차례로 거쳐 마지막에 닿는 곳을 열로 적으면 됩니다.

ii 자신으로 해 봅시다. i는 a = 0, b = 1이므로 90° 회전 행렬⁠(rotation matrix)⁠ [0−110]\begin{bmatrix} 0 & -1 \\ 1 & 0 \end{bmatrix}입니다. 이것을 두 번 하면 1은 i를 거쳐 −1, 곧 (−1, 0)으로 가고, i는 −1을 거쳐 −i, 곧 (0, −1)로 갑니다. 이 둘을 열로 적으면 제곱이 나옵니다.

[0−110]2=[−100−1]=−I\begin{bmatrix} 0 & -1 \\ 1 & 0 \end{bmatrix}^2 = \begin{bmatrix} -1 & 0 \\ 0 & -1 \end{bmatrix} = -I

제곱하면 정말로 −I-I가 됩니다. 여기서 II는 1을 1로, i를 i로 보내 아무것도 바꾸지 않는 단위행렬⁠(identity matrix)⁠ [1001]\begin{bmatrix} 1 & 0 \\ 0 & 1 \end{bmatrix}로 수 1에 해당하니, −I-I는 −1, 곧 180° 회전입니다. i2=−1i^2 = -1이 행렬로도 그대로 성립합니다.

일반적인 회전으로 같은 계산을 하면 삼각함수⁠(trigonometric function)⁠의 공식이 나옵니다. 각도 α('알파')만큼의 회전은 eiα=cos⁡α+isin⁡αe^{i\alpha} = \cos\alpha + i\sin\alpha를 곱하는 것이니, 행렬로는 a = cos α, b = sin α인 경우입니다. 각도 α와 β('베타')의 회전 행렬을 곱해 칸을 비교하면 삼각함수의 덧셈정리⁠(angle addition formulas)⁠가 그대로 나옵니다.

정리하면, 복소수 a + bi를 곱하는 변환은 1과 i의 도착점을 열로 적은 행렬이고, 복소수를 잇달아 곱하는 것은 행렬을 곱하는 것입니다.

3 · 모든 행렬은 아니다찌그러뜨리는 변환

이 절의 물음은 이것입니다. 거꾸로, 아무 행렬이나 복소수 곱셈일까요? 아니라면 다른 행렬은 평면을 어떻게 움직일까요?

행렬의 네 칸을 p, q, r, s라 합시다. 2절에서처럼 첫째 열 (p, r)은 (1, 0)이 가는 곳이고 그림의 초록 화살표입니다. 둘째 열 (q, s)는 (0, 1)이 가는 곳이고 빨간 화살표입니다. 점선이 그어진 숫자를 좌우로 끌어 행렬의 네 칸을 직접 바꿔 보세요. 볼 것은 주황 곡선, 곧 반지름 1인 원이 이 행렬로 옮겨진 모양입니다.

p=p = , q=q = , r=r = , s=s = →

점선 원은 단위원⁠(unit circle)⁠, 주황 곡선은 이 행렬이 단위원을 옮긴 모양입니다. 원이 원으로 남고 도는 방향(시계·반시계)도 그대로이면 복소수 곱셈입니다.

처음 값(p = 1.5, q = 0.5, r = 0, s = 1)에서는 원이 비스듬한 타원⁠(ellipse)⁠으로 찌그러지고, 격자의 정사각형 칸은 기울어진 평행사변형이 됩니다. 이 행렬은 복소수 곱셈이 아닙니다. 2절에서 본 복소수 곱셈의 모양, 곧 대각선의 두 칸이 같고 나머지 두 칸은 부호만 반대인 모양과 비교하면 조건이 보입니다.

p=sp = s이고 q=−rq = -r이면 행렬이 그 모양이 되어 복소수 곱셈이고, 단위원의 상(반지름 1인 단위원이 옮겨진 모양)이 원으로 남습니다. 네 칸이 모두 0인 경우만 예외입니다. 0을 곱하면 원도 원점 한 점으로 모입니다. 예를 들어 p=s=1p = s = 1, q=−1q = -1, r=1r = 1로 맞춰 보세요. a = 1, b = 1이니 1+i1 + i를 곱하는 것, 곧 45° 돌리고 2≈1.41\sqrt2 \approx 1.41배 늘이는 변환입니다.

원으로 남는 경우는 이것 말고 하나 더 있습니다. p=−sp = -s이고 q=rq = r이면 평면을 가로축을 기준으로 거울에 비춘 뒤(점 (x, y)를 (x, −y)로 보낸 뒤) 복소수를 곱한 변환이라, 원은 원으로 남지만 도는 방향이 뒤집힙니다. p = 1, q = 0, r = 0, s = −1로 맞추면 거울 반사 그 자체입니다. 노란 F가 뒤집히고, 초록 화살표에서 빨간 화살표로 가는 방향이 시계 반대 방향에서 시계 방향으로 바뀝니다.

넓이⁠(area)⁠는 어떻게 바뀔까요? 한 변이 1인 정사각형(넓이 1)은 초록 화살표와 빨간 화살표를 두 변으로 하는 평행사변형으로 갑니다. 그 넓이가 행렬의 행렬식⁠(determinant)⁠ ps−qrps - qr입니다. 처음 값이라면 두 변이 (1.5, 0)과 (0.5, 1)이니 밑변 1.5, 높이 1인 평행사변형이고 넓이는 1.5입니다. 공식으로도 1.5 × 1 − 0.5 × 0 = 1.5입니다. 평면의 모든 도형의 넓이가 이 배율로 바뀝니다. 행렬식이 음수이면 거울 뒤집기가 들어 있다는 뜻이고(넓이 배율은 그 절댓값), 0이면 평면이 선이나 한 점으로 납작해진다는 뜻입니다.

복소수 곱셈이라면 가로와 세로가 모두 |w|배가 되니 넓이는 ∣w∣2=a2+b2|w|^2 = a^2 + b^2배가 되는데, 이 값이 행렬의 행렬식입니다. 공식으로 확인하면 a × a − (−b) × b = a² + b²입니다. 거울이 든 경우(p = −s, q = r)의 행렬식은 −s² − r²로, 음수입니다.

흔히 행렬식이 1이면 아무것도 찌그러지지 않는다고 생각하지만, 행렬식은 넓이만 봅니다. p = 2, q = 0, r = 0, s = 0.5로 맞춰 보세요. 행렬식은 2 × 0.5 = 1이지만 가로로 2배, 세로로 절반이 되어 원이 납작한 타원이 됩니다.

나머지 행렬은 한 방향으로 더 늘여서 원을 타원으로 찌그러뜨립니다. 그래도 무질서하게 찌그러뜨리지는 않습니다. 어떤 행렬이든 회전(또는 뒤집기), 서로 수직인 두 축 방향으로 늘이기, 다시 회전의 세 단계로 쪼갤 수 있습니다(특잇값 분해⁠, singular value decomposition⁠). 첫 회전은 원을 원 그대로 두고, 두 축 방향으로 서로 다른 배율로 늘이면 원이 타원이 되고, 마지막 회전은 그 타원을 돌려 놓을 뿐입니다. 그래서 단위원은 언제나 타원이 되고(행렬식이 0이면 선분이나 한 점으로 납작해지고), 그 타원의 긴 반지름과 짧은 반지름이 두 늘임 배율입니다.

정리하면, 0이 아닌 복소수의 곱셈은 행렬 중에서도 방향을 뒤집지 않고 "모양을 보존하는" 특별한 무리입니다. 원은 원으로, 정사각형은 정사각형으로 가고, 크기와 놓인 방향만 바뀝니다. 다른 행렬은 원을 타원으로 찌그러뜨립니다.

4 · 회전의 고유값방향이 안 바뀌는 벡터가 없을 때

이 절의 물음은 이것입니다. 변환을 해도 방향이 바뀌지 않는 화살표가 있을까? 그런 화살표가 있으면 변환이 하는 일을 아주 간단히 적을 수 있습니다. 그런데 회전은 그런 화살표를 하나도 남기지 않는 것처럼 보입니다. 그때 무슨 일이 일어나는지 봅니다.

작은 예부터 봅시다. 가로로 1.6배, 세로로 0.6배 늘이는 행렬 [1.6000.6]\begin{bmatrix} 1.6 & 0 \\ 0 & 0.6 \end{bmatrix}은 (1, 0)을 (1.6, 0)으로, (0, 1)을 (0, 0.6)으로 보냅니다. 이 두 화살표는 길이만 바뀌고 원래 직선 위에 머뭅니다. 반면 (1, 1)은 (1.6, 0.6)으로 가서, 기울기⁠(slope)⁠가 1에서 0.6 ÷ 1.6 = 0.375로 바뀝니다. 방향이 바뀐 것입니다.

이처럼 변환 뒤에도 원점을 지나는 같은 직선 위에 머무는, 0이 아닌 벡터를 고유벡터라 하고, 그때 늘어나는 배율을 고유값이라 합니다(고유벡터와 고유값⁠, eigenvectors and eigenvalues⁠). 고유값은 흔히 λ('람다')로 적고, 식으로는 행렬 M과 벡터 v에 대해 Mv=λvMv = \lambda v입니다. λ가 음수이면 화살표가 반대쪽을 향하지만 같은 직선 위에 있으니 역시 고유벡터입니다. 위의 행렬에서는 가로축 위의 벡터가 고유값 1.6, 세로축 위의 벡터가 고유값 0.6인 고유벡터입니다. 이 행렬이 하는 일은 "가로축 방향으로 1.6배, 세로축 방향으로 0.6배" 한마디로 다 설명됩니다.

그런데 회전은 0°나 180°가 아니면 모든 벡터의 방향을 바꿉니다. 60° 회전이라면 어떤 화살표든 60° 기울어집니다. 그러면 회전에는 고유값이 없는 걸까요?

한 행렬을 늘이기에서 회전으로 천천히 바꿔 가며 확인해 봅시다. 출발점(m=0m = 0)은 방금 본 늘이기 행렬이고, 도착점(m = 1)은 60° 회전 행렬입니다. 그 사이에서는 각 칸을 '(1 − m) × 출발 행렬의 칸 + m × 도착 행렬의 칸'으로 섞습니다. 왼쪽 그림의 파란 격자와 노란 F는 지금 행렬로 옮긴 모양이고, 주황 점선이 고유벡터⁠(eigenvector)⁠의 방향입니다. 오른쪽 그림은 두 고유값을 복소평면의 점으로 찍은 것이고, 흐린 주황 선은 m을 0에서 1까지 바꿀 때 고유값이 지나가는 길입니다. 변신 정도 m=m = 의 숫자를 끌거나 버튼을 누르세요. 회전으로 변신

변환된 격자와 고유벡터 방향
고유값 λ의 위치 (복소평면)

처음에는 고유벡터 방향이 두 개(가로축과 세로축) 있고, 고유값 두 개는 실수축 위의 1.6과 0.6에 있습니다. m을 키우면 두 고유값이 실수축을 따라 서로 다가가고, 두 고유벡터 방향도 서로 가까워집니다. 그러다 m이 0.36과 0.37 사이에서 두 고유값이 한 점에서 부딪힌 뒤 위아래로 갈라집니다. 부딪히는 순간 두 고유벡터 방향도 하나로 겹치고, 갈라진 뒤에는 고유벡터 방향이 사라집니다. 방향이 안 바뀌는 실수 벡터는 더 이상 없지만, 고유값은 복소수 짝 a±bia \pm bi로 계속 존재합니다. ±는 '플러스 마이너스'라 읽고, a + bi와 a − bi 두 수를 한꺼번에 적은 것입니다.

왜 이런 일이 생길까요? 고유값을 계산하는 식에서 까닭이 보입니다. 행렬 [pqrs]\begin{bmatrix} p & q \\ r & s \end{bmatrix}의 고유값은 2차방정식 λ2−(p+s)λ+(ps−qr)=0\lambda^2 - (p+s)\lambda + (ps - qr) = 0의 두 근입니다. 이 식의 왼쪽을 특성다항식⁠(characteristic polynomial)⁠이라 부릅니다. 늘이기 행렬(p = 1.6, q = r = 0, s = 0.6)로 먼저 확인해 봅시다.

λ2−2.2λ+0.96=(λ−1.6)(λ−0.6)=0\lambda^2 - 2.2\lambda + 0.96 = (\lambda - 1.6)(\lambda - 0.6) = 0

근은 정말로 고유값 1.6과 0.6입니다.

왜 이 방정식인가Mv=λvMv = \lambda v는 (M−λI)v=0(M - \lambda I)v = 0, 곧 대각선의 두 칸에서 λ를 뺀 행렬 M − λI가 0이 아닌 벡터 v를 원점으로 보낸다는 뜻입니다. 0이 아닌 벡터가 원점으로 가려면 이 변환이 평면을 선이나 한 점으로 납작하게 눌러야 하고, 3절에서 본 대로 그것은 행렬식이 0이라는 뜻입니다. 거꾸로 행렬식이 0이면 평면이 납작해지므로 원점으로 가는 0 아닌 벡터가 있습니다. M − λI의 네 칸은 p − λ, q, r, s − λ이므로 행렬식을 0으로 놓으면 (p − λ)(s − λ) − qr = 0이고, 전개하면 λ² − (p + s)λ + (ps − qr) = 0입니다.

2차방정식의 근은 근의 공식⁠(quadratic formula)⁠으로 구합니다.

λ=(p+s)±(p+s)2−4(ps−qr)2\lambda = \frac{(p+s) \pm \sqrt{(p+s)^2 - 4(ps - qr)}}{2}

근이 실수인지 아닌지는 판별식⁠(discriminant)⁠, 곧 근의 공식에서 제곱근 안에 들어가는 값 (p+s)2−4(ps−qr)(p+s)^2 - 4(ps - qr)이 정합니다. 이 값이 양수면 서로 다른 실근 둘, 0이면 겹친 근 하나, 음수면 실근이 없습니다. 음수의 제곱근은 복소수가 됩니다. 예를 들어 −3=3 i\sqrt{-3} = \sqrt{3}\,i입니다.

출발점의 판별식은 2.2² − 4 × 0.96 = 4.84 − 3.84 = 1로 양수입니다. 도착점인 60° 회전 행렬은 p = s = cos 60° = 0.5, r = −q = sin 60° ≈ 0.866이므로 p + s = 1, ps − qr = 0.25 + 0.75 = 1이고, 판별식은 1 − 4 = −3으로 음수입니다. 변신이 진행되면 판별식이 줄어들다가 0을 지나 음수가 됩니다. 그 순간 두 실근이 겹쳤다가(부딪힘) 허수⁠(imaginary number)⁠ 부분의 부호만 다른 켤레 복소수⁠(complex conjugate)⁠ 짝 a+bia + bi, a−bia - bi로 갈라집니다. 위 식에 나오는 λ\lambda 값을 보며 확인해 보세요.

끝까지 변신하면 60° 회전 행렬이 되고, 두 고유값은 단위원 위의 e±iπ/3e^{\pm i\pi/3}에 놓입니다. π/3은 각도를 라디안⁠(radian)⁠으로 잰 값으로 60°와 같습니다(π 라디안이 180°입니다). 근의 공식으로 계산해도 λ=(1±3 i)/2≈0.5±0.866i\lambda = (1 \pm \sqrt{3}\,i)/2 \approx 0.5 \pm 0.866i이고, 이것은 cos⁡60∘±isin⁡60∘\cos 60^\circ \pm i\sin 60^\circ와 같습니다.

60°에서만 일어나는 우연이 아닙니다. 각도 θ('세타')의 회전 행렬은 2절에서 본 대로 a = cos θ, b = sin θ인 [cos⁡θ−sin⁡θsin⁡θcos⁡θ]\begin{bmatrix} \cos\theta & -\sin\theta \\ \sin\theta & \cos\theta \end{bmatrix}입니다. p + s = 2cos θ이고, ps − qr = cos²θ + sin²θ = 1입니다. 근의 공식에 넣으면 이렇습니다.

λ=2cos⁡θ±4cos⁡2θ−42=cos⁡θ±−sin⁡2θ=cos⁡θ±isin⁡θ=e±iθ\lambda = \frac{2\cos\theta \pm \sqrt{4\cos^2\theta - 4}}{2} = \cos\theta \pm \sqrt{-\sin^2\theta} = \cos\theta \pm i\sin\theta = e^{\pm i\theta}

회전 행렬의 고유값은 회전 그 자체, 4편의 eiθe^{i\theta}(오일러 공식⁠, Euler's formula⁠)입니다. θ가 0°나 180°가 아니면 sin θ가 0이 아니므로 고유값은 실수가 아닙니다.

고유벡터를 직접 확인할 수도 있습니다. 칸에 복소수가 들어간 벡터(복소 벡터) (1,−i)(1, -i)를 각도 θ의 회전 행렬로 옮기면, 2절의 규칙대로 '1 × 첫째 열 + (−i) × 둘째 열'이므로 (cos⁡θ+isin⁡θ, sin⁡θ−icos⁡θ)=eiθ(1,−i)(\cos\theta + i\sin\theta,\ \sin\theta - i\cos\theta) = e^{i\theta}(1, -i)가 나옵니다. 오른쪽 둘째 칸은 eiθ⋅(−i)=−icos⁡θ−i2sin⁡θ=sin⁡θ−icos⁡θe^{i\theta} \cdot (-i) = -i\cos\theta - i^2\sin\theta = \sin\theta - i\cos\theta로 확인됩니다. 방향이 그대로이고 eiθe^{i\theta}배가 된 것입니다.

실수 세계에서 "방향이 안 바뀌는 벡터가 없다"는 사실은 복소수 세계에서 "고유값이 실수가 아니다"로 나타납니다. 게다가 회전은 길이를 바꾸지 않으니 고유값은 크기가 1, 곧 원 위에 놓입니다. 계산으로도 ∣e±iθ∣=cos⁡2θ+sin⁡2θ=1|e^{\pm i\theta}| = \sqrt{\cos^2\theta + \sin^2\theta} = 1입니다.

정리하면, 방향이 안 바뀌는 실수 벡터가 없을 때 고유값은 사라지지 않고 복소수가 됩니다. 회전 행렬의 고유값은 회전각을 담은 e±iθe^{\pm i\theta}입니다.

길이를 바꾸지 않는 행렬(직교 행렬⁠, orthogonal matrix⁠)의 고유값이 모두 단위원 위에 있다는 사실은 1850년대 이탈리아의 프란체스코 브리오스키가 증명했습니다. 그보다 앞서 1829년 파리의 코시는 대칭 행렬⁠(symmetric matrix)⁠, 곧 대각선을 기준으로 접어 겹치는 칸이 같은 행렬의 고유값은 모두 실수라는 것을 보였습니다. 회전과 대칭이라는 두 극단에서 고유값은 각각 원 위와 실수축 위에 놓입니다. 4절의 그림에서 고유값이 실수축에서 출발해 원 쪽으로 옮겨 가는 까닭이 여기에 있습니다. 코시가 이 문제에 이른 길은 아래 6절에서 봅니다.

5 · 다시 1편으로속도가 위치를 돌린 것일 때

이 절의 물음은 이것입니다. 복소수 고유값은 계산 속에만 있는 수일까, 아니면 눈에 보이는 움직임으로 나타날까? 연재의 처음, 속도로 돌아가 답해 봅니다.

1편 「순간의 속도」에서 속도는 위치의 기울기, 곧 위치가 시간에 따라 변하는 빠르기인 미분계수⁠(derivative)⁠였습니다. 평면 위를 움직이는 점이라면 속도도 화살표입니다. 짧은 시간 동안 가로로 얼마, 세로로 얼마 움직이는지를 시간으로 나눈 값을 모은 것입니다.

이번에는 속도를 정하는 규칙을 줍니다. 평면 위의 점이 어디에 있든, 그 점의 속도는 위치에 행렬 MM을 곱한 것입니다. 아래 식의 x⃗\vec x('벡터 x')는 점의 위치 (x, y)이고, ddtx⃗\frac{d}{dt}\vec x('디 디티 벡터 x')는 그 위치를 시간 t로 미분⁠(differentiation)⁠한 것, 곧 속도입니다.

먼저 α = 0인 경우를 손으로 따라가 봅시다(α는 '알파'). 그러면 M은 2절의 90° 회전 행렬 [0−110]\begin{bmatrix} 0 & -1 \\ 1 & 0 \end{bmatrix}입니다. 점이 (2, 0)에 있으면 속도는 이 행렬로 (2, 0)을 옮긴 (0, 2), 곧 곧장 위쪽입니다. 원점에서 점까지 그은 선에 수직이니, 점은 원점에서 멀어지지도 가까워지지도 않고 옆으로만 움직입니다. 어느 위치에서나 속도가 이렇게 위치에 수직이므로 원점까지의 거리는 변하지 않고, 점은 반지름 2인 원을 돕니다.

MM이 복소수 α+i\alpha + i의 곱셈이면, 속도는 위치를 90°쯤 돌리고 α=\alpha = 의 부호에 따라 바깥(또는 안쪽)으로 기울인 방향입니다. 정확히 말하면 (α+i)z=αz+iz(\alpha + i)z = \alpha z + iz이므로, 속도는 '위치를 90° 돌린 화살표'에 '위치의 α배'를 더한 것입니다. 예를 들어 α = 0.08이고 점이 (2, 0)에 있으면 속도는 (0, 2) + (0.16, 0) = (0.16, 2)로, 위쪽이면서 바깥쪽으로 조금 기웁니다.

작은 화살표들이 각 위치에서의 속도입니다. α를 끌어 화살표들이 바깥이나 안쪽으로 기우는 모습을 보고, 노란 출발점을 끌고 흘려 보내기를 눌러 보세요. 주황 점이 화살표를 따라 움직이고, 노란 곡선이 그 점이 지나갈 길입니다.

화살표를 따라 흐르는 점의 궤적은 4편 5절의 나선 e(α+i)t입니다. α = 0이면 원입니다. 청록 화살표는 움직이는 점의 지금 속도입니다.

α = 0이면 속도는 정확히 위치의 90° 회전이고, 점은 원을 돕니다. 4편에서 본 ddteit=ieit\frac{d}{dt}e^{it} = i e^{it}, 곧 "원 위를 도는 점의 속도는 위치에 i를 곱한 것(90° 돌린 것)"을 행렬로 쓴 것입니다. α가 양수면 바깥으로 풀리고, 음수면 안으로 감깁니다.

궤적이 어떤 곡선인지도 계산할 수 있습니다. 점의 위치를 복소수 z로 적으면 규칙은 'z의 속도 = (α + i) × z'입니다. 4편에서 본 대로 ecte^{ct}를 시간으로 미분하면 c ectc\,e^{ct}이므로, 출발점 z0z_0에 e(α+i)te^{(\alpha + i)t}를 곱한 점이 이 규칙을 따릅니다. 출발점이 정해지면 이 규칙을 따르는 움직임은 하나뿐이니, 궤적은 출발점에 e(α+i)te^{(\alpha + i)t}를 곱한 나선입니다.

이 나선을 두 조각으로 나누어 읽을 수 있습니다. e(α+i)t=eαt⋅eite^{(\alpha+i)t} = e^{\alpha t} \cdot e^{it}이므로, 시간 t가 지나면 점은 출발점에서 각도 t(라디안)만큼 돌고, 원점까지의 거리는 eαte^{\alpha t}배가 됩니다. α = 0.08이면 한 바퀴(t = 2π ≈ 6.28) 돌 때마다 거리가 e0.08×2π≈1.65e^{0.08 \times 2\pi} \approx 1.65배가 됩니다.

그리고 행렬 MM의 고유값이 바로 α±i\alpha \pm i입니다. 4절의 식으로 확인하면 p + s = 2α, ps − qr = α² + 1이므로, 근의 공식에서 제곱근 안은 4α² − 4(α² + 1) = −4이고 λ = (2α ± 2i)/2 = α ± i입니다. 고유값의 실수부⁠(real part)⁠는 늘어남, 허수부⁠(imaginary part)⁠는 회전입니다. 실수부 α는 거리가 eαte^{\alpha t}배로 커지거나 줄어드는 빠르기이고, 허수부 1은 시간 1마다 1라디안씩 도는 빠르기입니다. 이 규칙을 일반적으로 다루는 것이 선형 미분방정식⁠(linear differential equation)⁠입니다.

흔히 복소수 고유값은 계산 중에 잠깐 나타나는, 실제로는 뜻이 없는 수라고 생각하지만, 이 나선에서 보듯 실수부와 허수부 모두 눈에 보이는 움직임을 정확히 적습니다. 정리하면, 속도가 위치를 돌린 것일 때 점은 원이나 나선을 그리고, 그 모양은 행렬의 복소수 고유값이 정합니다.

6 · 짝에서 사원수로회전을 수로 적으려던 사람들

복소수를 평면의 점으로 보게 된 뒤, 수학자들은 곧 다음 질문을 던졌습니다. 평면의 회전이 복소수 곱셈이라면, 공간의 회전을 곱셈으로 적는 수도 있지 않을까?

공간 회전의 기본 사실은 이미 알려져 있었습니다. 1775년 상트페테르부르크 학술원에서 오일러는 공간의 어떤 회전도 한 축을 중심으로 한 회전임을 보였습니다. 그 축은 회전해도 방향이 바뀌지 않는 벡터, 곧 고유값이 1인 고유벡터입니다. 4절의 말로 하면 공간 회전 행렬의 세 고유값은 1과 원 위의 짝 e±iθe^{\pm i\theta}입니다.

오일러가 강체(힘을 받아도 모양이 변하지 않는 물체)의 회전을 붙든 데에는 천문학의 이유가 있었습니다. 지구는 적도가 불룩한 팽이여서 해와 달의 당김에 자전축이 천천히 돕니다. 약 2만 6천 년에 한 바퀴를 도는 이 움직임을 세차라 합니다. 세차는 기원전 2세기 로도스섬의 천문학자 히파르코스가 별 스피카의 위치를 150년쯤 앞선 관측 기록과 비교하다가 처음 알아챘고, 4세기 중국의 천문학자 우희도 따로 알아냈습니다. 그 원인을 해와 달이 지구의 불룩한 적도를 당기는 데서 찾은 것은 1687년 뉴턴의 『프린키피아』였지만 그의 계산 과정에는 오류가 있었습니다. 1749년 파리의 달랑베르가 세차를 다시 계산한 책을 냈고, 오일러도 같은 문제를 두고 달랑베르와 겨루며 강체⁠(rigid body)⁠의 회전 이론을 다듬었습니다. 베를린 시절인 1765년 그는 지구 자전축이 바깥 힘 없이도 약 10개월 주기⁠(period)⁠로 흔들릴 수 있다고 계산했습니다. 1891년 미국의 천문학자 세스 챈들러가 실제로 약 14개월 주기의 흔들림을 찾아냈습니다. 지구가 완전히 단단하지 않아 주기가 길어진 것입니다.

자전 자체는 1851년 프랑스의 물리학자 레옹 푸코가 파리 팡테옹에 매단 진자로 눈앞에 보여 주었습니다. 진자가 흔들리는 면은 파리에서 약 32시간에 한 바퀴 돕니다. 지구의 자전을, 자전축 방향을 가리키고 길이가 '하루에 한 바퀴'인 화살표로 나타내 봅시다. 진자가 느끼는 것은 이 화살표 가운데 그 자리의 머리 위 방향(연직 방향)으로 드리운 몫, 곧 연직 방향에 정사영⁠(orthogonal projection)⁠한 성분뿐입니다. 그 몫은 하루 한 바퀴에 위도의 사인(sin)을 곱한 빠르기입니다. 북극(위도 90°, sin 90° = 1)에서는 하루에 꼭 한 바퀴, 적도(위도 0°, sin 0° = 0)에서는 전혀 돌지 않습니다. 파리의 위도는 약 49°이고 sin⁡49∘≈0.75\sin 49^\circ \approx 0.75이므로, 한 바퀴에 약 24 ÷ 0.75 ≈ 32시간이 걸립니다.

공간의 회전을 수의 곱셈으로 적으려 한 사람은 더블린의 윌리엄 로언 해밀턴입니다. 그는 트리니티 칼리지의 학부생이던 1827년, 스물한 살에 천문학 교수 겸 아일랜드 왕립 천문관으로 임명되었습니다. 그 뒤 평생을 더블린 북서쪽의 던싱크 천문대에서 살았습니다. 시를 써서 영국 시인 워즈워스와 교류했고, 독일 철학자 이마누엘 칸트를 열심히 읽었습니다. 1857년에는 정십이면체의 모서리를 따라 모든 꼭짓점⁠(vertex)⁠을 한 번씩 들르고 제자리로 돌아오는 놀이를 만들었고, 뒤에 이 놀이를 장난감 회사에 팔기도 했습니다. 이 놀이가 오늘날 '해밀턴 회로⁠(Hamiltonian cycle)⁠' 문제라는 이름으로 남았습니다(「일곱 다리의 도시」).

칸트 독서는 그의 수학에도 흔적을 남겼습니다. 1833년 그는 복소수를 실수 두 개의 순서쌍⁠(ordered pair)⁠ (a,b)(a, b)와 그 곱셈 규칙으로 정의했습니다. 규칙은 (a, b) × (c, d) = (ac − bd, ad + bc)이고, 이 규칙으로 (0, 1) × (0, 1)을 계산하면 (0 − 1, 0 + 0) = (−1, 0)이 나옵니다. (0, 1)을 i로, (−1, 0)을 −1로 읽으면 i² = −1입니다. i를 따로 '상상하지' 않아도 실수의 쌍과 규칙만으로 i가 만들어진 것입니다. 1837년에는 이 논문을 '순수한 시간의 과학으로서의 대수'라는 글과 함께 펴냈습니다. 칸트가 공간과 시간을 우리 직관의 두 형식으로 보고 기하학을 공간의 학문으로 여겼듯이, 대수는 시간의 학문이라는 주장입니다. 한편 같은 무렵 케임브리지의 대수학자 조지 피콕 같은 이들은 대수를 뜻과 상관없는 기호 규칙의 체계로 보았습니다. 피콕은 1812년 배비지와 함께 해석학회를 만든 학생 가운데 한 사람입니다(1편 「순간의 속도」 6절). 음수와 ii가 무엇을 '뜻하는지'를 두고 영국 수학자들이 오래 다투던 한가운데서, 해밀턴은 ii를 신비로운 기호가 아니라 순서쌍의 규칙으로 만들었습니다.

다음 목표는 공간이었습니다. 세 수의 짝으로 곱셈을 만들려던 시도는 여러 해 동안 실패했습니다. 훗날 아들에게 보낸 편지에 따르면, 1843년 10월 초 아침마다 아이들이 "아빠, 세 쌍을 곱할 수 있게 됐어요?" 하고 물으면 그는 고개를 저으며 더하고 빼는 것만 된다고 답해야 했습니다.

사원수는 곱셈의 교환법칙⁠(commutative law)⁠, 곧 3 × 5 = 5 × 3처럼 순서를 바꿔 곱해도 결과가 같다는 법칙을 버린 첫 중요한 수 체계⁠(number system)⁠였습니다. 이것은 계산 요령 이상의 사건⁠(event)⁠이었습니다. 수의 법칙은 반드시 그래야만 하는 진리가 아니라, 다루려는 대상(여기서는 공간의 회전)에 맞춰 고를 수 있는 것이 되었습니다. 해밀턴의 친구인 법률가이자 수학자 존 그레이브스는 해밀턴이 발견 이튿날 보낸 편지를 받고, 두 달 남짓 만에 실수 여덟 개로 된 수(오늘날의 팔원수⁠(octonion)⁠)를 찾았습니다. 1847년과 1854년에는 조지 불이 논리 자체를 기호의 대수로 썼습니다(불 대수⁠, Boolean algebra⁠). 두 번째 책은 불이 아일랜드 코크의 교수로 있을 때 나왔습니다.

같은 계산은 사실 조용히 먼저 나와 있었습니다. 파리의 은행가이자 사회 개혁가 올랭드 로드리그가 1840년 두 회전을 합성하는 공식을 발표했는데, 오늘날 보면 사원수의 곱셈 그대로입니다. 다만 그는 그것을 새로운 수로 보지 않았습니다.

'행렬'이라는 말과 그 대수는 런던의 법률가 두 사람에게서 나왔습니다. 둘 다 종교의 조건 때문에 대학에 남지 못한 사람들이었습니다. 케임브리지의 연구원 자리를 이어 가려면 성직자가 되어야 했는데, 이를 원하지 않은 아서 케일리는 14년 동안 런던에서 부동산 문서를 다루는 변호사로 일하며 200편이 넘는 논문을 썼습니다. 제임스 조지프 실베스터는 보험회사의 계리사(사망률과 이자를 계산해 보험료와 연금을 정하는 전문가)로 일하며 법률을 공부했습니다. 두 사람은 런던의 법조 거리에서 만나 수학을 이야기하곤 했다고 전해집니다.

이름을 붙인 사람은 실베스터였습니다. 1850년 그는 수를 직사각형으로 늘어놓은 배열에 라틴어로 자궁을 뜻하는 matrix라는 이름을 붙였습니다. 그 배열에서 여러 행렬식이 '태어난다'는 뜻이었습니다. 대수를 세운 사람은 케일리였습니다. 1858년 그는 행렬을 하나의 대상으로 더하고 곱하는 대수를 세웠고, 행렬이 자신의 특성다항식(4절)을 만족한다는 정리를 적었습니다. 특성다항식의 λ 자리에 행렬 자신을 넣고 상수항에는 단위행렬 I를 곱하면, 모든 칸이 0인 행렬이 나온다는 뜻입니다. 오늘날 케일리–해밀턴 정리라 부르는 이 정리를 4절의 회전 행렬 RR에 쓰면 R2−2cos⁡θ R+I=0R^2 - 2\cos\theta\,R + I = 0입니다. θ = 90°이면 cos θ = 0이니 R² + I = 0, 곧 R² = −I이고, 2절에서 직접 계산한 결과와 같습니다. 이름과 달리 증명의 역사는 조각나 있습니다. 해밀턴은 1853년 사원수라는 특별한 경우를 보였고, 케일리는 2×2 행렬의 계산만 싣고, 3×3에서도 확인했지만 일반적인 증명은 하지 않았다고 적었습니다. 모든 크기의 행렬에서 정리를 처음 완전히 증명한 사람은 1878년 독일의 게오르크 프로베니우스였습니다.

수를 직사각형으로 늘어놓고 계산하는 일 자체는 이 이름보다 훨씬 오래되었습니다. 늦어도 1세기 무렵 중국에서 엮인 『구장산술』의 '방정' 장은 셈판 위에 산가지⁠(counting rods)⁠로 연립일차방정식⁠(system of linear equations)⁠의 계수를 열마다 늘어놓고, 열끼리 빼 나가는 오늘날의 소거법⁠(elimination)⁠으로 풀었습니다. 1683년 일본의 세키 다카카즈와 1693년 라이프니츠는 서로 모른 채 행렬식에 해당하는 계산을 적었습니다. 그러나 이들에게 배열은 방정식을 풀기 위한 계산판이었습니다. 케일리가 바꾼 것은 관점이었습니다. 배열 자체를 하나의 수처럼 더하고 곱하는 대상으로 본 것입니다. 셈판 위의 소거법은 「잃어버린 소행성」 5절에서 직접 따라가 볼 수 있습니다.

벡터의 대수를 가장 먼저, 가장 멀리 밀고 나간 사람은 따로 있었습니다. 사원수가 나온 이듬해인 1844년, 프로이센 슈테틴(지금 폴란드의 슈체친)의 김나지움 교사 헤르만 그라스만은 『선형 확장론』에서 몇 차원이든 벡터를 더하고 곱하는 체계를 세웠습니다. 오늘날 선형대수⁠(linear algebra)⁠의 기본 개념이 여기서 거의 다 나옵니다. 어느 벡터도 나머지 벡터들을 늘이고 더해서 만들 수 없다는 일차 독립⁠(linear independence)⁠, 공간을 채우는 데 필요한 방향의 수인 차원, 원점을 지나는 평면처럼 공간 안에 든 작은 공간인 부분공간⁠(subspace)⁠이 그것입니다. 그러나 철학적인 서술이 너무 낯설어서 책은 거의 팔리지 않았습니다. 대학 교수 자리를 얻지 못한 그라스만은 뒤에 산스크리트 연구로 돌아서 『리그베다』 사전을 냈습니다. 수학자들이 그의 가치를 알아본 것은 그가 죽을 무렵이었고, 아래의 깁스도 뒤에 그라스만의 업적을 높이 기렸습니다.

해밀턴은 남은 생을 사원수에 바쳤고, 에든버러의 물리학자 피터 거스리 테이트가 그 뒤를 이었습니다. 맥스웰도 1873년 『전기자기론』에서 사원수의 기호를 일부 빌려 썼습니다. 그러나 1880년대에 예일 대학의 조사이아 윌러드 깁스와 독학한 전신 기사 출신의 올리버 헤비사이드가 따로따로 더 단순한 길을 내놓았습니다. 공간의 벡터 (b,c,d)(b, c, d)는 실수부가 0인 사원수 bi+cj+dkbi + cj + dk로 볼 수 있습니다. 두 벡터 u,vu, v를 이렇게 사원수로 보고 곱하면 uv=− u⋅v+u×vuv = -\,u\cdot v + u\times v가 됩니다.

두 사람은 이것을 두 조각으로 쪼갰습니다. 앞의 것은 내적(수 하나), 뒤의 것은 외적(두 벡터에 모두 수직인 새 벡터)이라는 벡터 연산으로 따로 쓴 것입니다. 내적⁠(dot product)⁠ u · v는 같은 자리의 성분끼리 곱해 더한 수이고, 서로 수직인 벡터의 내적은 0입니다. 예를 들어 u = i, v = j(서로 수직이고 길이 1)이면 사원수의 곱은 ij = k이고, 식의 오른쪽도 내적 0에 외적 k(i와 j에 모두 수직인 방향)를 더한 k입니다. u = v = i이면 i² = −1이고, 오른쪽도 −(i · i) = −1에 외적 0(같은 방향의 두 벡터의 외적은 0)을 더한 −1입니다. 깁스는 이 내용을 학생들을 위한 소책자로 찍어 몇몇 사람에게만 돌렸습니다. 이 내용이 널리 퍼진 것은 1901년 그의 제자 에드윈 비드웰 윌슨이 강의를 정리해 교과서 『벡터 해석⁠(vector analysis)⁠』을 낸 뒤였습니다. 벡터를 굵은 글씨로 적고 내적과 외적을 점(·)과 가위표(×)로 구별하는 오늘날의 표기도 이 책을 통해 퍼졌습니다.

그러자 싸움이 붙었습니다. 1890년대 초 『네이처』 등의 지면에서 사원수 쪽과 벡터 쪽이 논쟁을 벌였고, 물리학자와 공학자들은 벡터를 택했습니다. 켈빈 경(윌리엄 톰슨)은 한 편지에서 사원수가 손댄 모든 사람에게 해만 끼쳤다고 쓰기까지 했습니다. 전기와 자기의 법칙을 묶은 맥스웰 방정식을 오늘날의 네 식으로 정리한 것도 헤비사이드가 벡터 표기로 해낸 일입니다. 그가 씨름한 전신선의 신호 문제는 「원에서 파동으로」의 해저 전신 이야기와, 신호가 뭉개지지 않게 하는 선로의 조건을 찾은 「잡음 너머로」의 이야기로 이어집니다.

사원수는 20세기 후반에 되살아났습니다. 문제는 세 각도로 자세를 적는 방식(오일러 각⁠, Euler angles⁠)이었습니다. 이 방식은 두 회전축이 겹치는 자세에서 한 방향의 자유를 잃습니다. 이것을 짐벌 잠금⁠(gimbal lock)⁠이라 합니다. 짐벌⁠(gimbal)⁠은 고리 안에 고리를 끼워 각 고리가 한 축으로만 돌게 한 받침입니다. 세 각도를 쓰는 방식은 짐벌 세 개와 같은 구조여서 같은 약점이 있습니다. 이것은 방식을 잘 고르지 못한 탓이 아닙니다. 공간의 회전 전체를 세 개의 수로 빈틈없이, 모든 곳에서 매끄럽게 적는 방법은 아예 없다는 것이 증명되어 있습니다. 반면 길이가 1인 사원수, 곧 네 수의 제곱의 합이 1인 사원수는 네 개의 수로 그 일을 해냅니다(회전 하나에 부호만 다른 사원수 두 개 q와 −q가 대응하긴 합니다).

MIT가 설계한 아폴로 우주선의 관성⁠(inertia)⁠ 측정 장치는 짐벌 세 개로 만들어져 그런 자세를 피해야 했습니다. 아폴로 11호의 교신 기록에는 사령선 조종사 마이클 콜린스가 크리스마스 선물로 네 번째 짐벌을 보내 달라고 농담한 대목이 있다고 전합니다.

전환점은 컴퓨터 그래픽에서 왔습니다. 1985년 컴퓨터 그래픽 연구자 켄 쇼메이크가 두 자세 사이를 사원수로 매끄럽게 잇는 방법을 발표했고, 그 뒤로 컴퓨터 그래픽과 게임 속 카메라와 캐릭터는 사원수로 돕니다. 인공위성과 우주정거장의 자세 제어, 로봇 팔, 휴대전화의 방향 센서도 흔히 사원수를 씁니다. 평면에서는 수 하나(복소수)가 회전 하나였고, 공간에서는 네 개짜리 수가 필요했던 셈입니다.

회전을 수로 적으려던 이야기는 상트페테르부르크와 베를린의 학술원에서 더블린의 천문대와 런던의 법조 거리를 거쳐 대서양 건너 예일과 존스홉킨스로 이어집니다. 연표에서 사원수(1843)와 대기근, 대학 심사법이 같은 시대에 놓인 것을 보세요.

이 글의 4절에서 본 "고유값이 부딪혀 복소수로 갈라지는" 장면도 역사가 깊습니다. 해가 실수 4인 방정식을 푸는데도 공식이 음수의 제곱근을 거쳐야 했던 것처럼(4편 6절의 봄벨리), 실수만으로 된 행렬에서도 방향이 안 바뀌는 벡터가 없으면 복소수 고유값이 튀어나옵니다.

고유값 문제의 뿌리는 팽이와 하늘에 있습니다. 오일러는 1765년의 강체 역학 책에서, 어떤 물체든 그 둘레로 돌리면 흔들림 없이 도는 서로 수직인 세 축(관성 주축⁠, principal axes of inertia⁠)이 있음을 보였습니다. 오늘날의 말로 물체의 관성을 나타내는 행렬의 고유벡터입니다. 18세기 후반 라그랑주와 라플라스는 행성들이 서로 당기는 탓에 궤도⁠(orbit)⁠의 모양과 기울기가 수만 년에 걸쳐 천천히 변하는 '영년 변화'를 계산했습니다. 그 변화의 빠르기를 정하는 방정식, 곧 '영년 방정식⁠(secular equation)⁠'이 오늘날의 특성방정식입니다. 근이 모두 실수이면 궤도의 변화는 흔들림에 그치고, 그렇지 않으면 한쪽으로 끝없이 커질 수 있었습니다. 태양계가 안정한지가 이 근에 달려 있었던 것입니다. 1829년 코시는 영년 방정식을 다룬 논문에서 대칭 행렬의 고유값이 모두 실수임을 증명했습니다. 이런 방정식과 근은 뒤에 '특성방정식⁠(characteristic equation)⁠', '특성근⁠(characteristic root)⁠'이라 불리게 되었고, 4절의 '특성다항식'이라는 이름도 이 전통에서 왔습니다. 태양계가 정말 안정한가라는 물음은 한 세기 뒤 푸앵카레의 삼체 문제⁠(three-body problem)⁠에서 뜻밖의 답을 얻습니다(「나비의 날갯짓」).

'고유'라는 이름은 1904년 무렵 괴팅겐의 힐베르트가 적분방정식(구하려는 함수⁠(function)⁠가 적분⁠(integral)⁠ 기호 안에 들어 있는 방정식)을 다루며 쓴 독일어 Eigenwert에서 굳었습니다. 고유값과 고유벡터는 이후 거의 모든 곳에 쓰입니다. 행렬의 거듭제곱을 쉽게 만드는 대각화⁠(diagonalization)⁠, 피보나치 수가 황금비⁠(golden ratio)⁠로 커지는 이유(피보나치 수열⁠, Fibonacci sequence⁠), 오랜 시간이 지난 뒤의 확률⁠(probability)⁠을 알려 주는 마르코프 연쇄⁠(Markov chain)⁠, 흩어진 데이터의 주된 방향을 찾는 주성분 분석⁠(principal component analysis)⁠이 모두 같은 질문, "방향이 바뀌지 않는 벡터는 무엇인가"에서 나옵니다.

7 · 이어지는 길방향이 바뀌지 않는 벡터를 찾아서

연재 정리.

  1. 평균 변화율⁠(average rate of change)⁠의 극한⁠(limit)⁠이 순간의 속도(미분)입니다.
  2. 속도의 넓이를 쌓으면 위치가 돌아옵니다(적분). 둘은 서로를 되돌립니다.
  3. 해석함수라면 한 점의 미분값들로 함수를 되살립니다(테일러 급수⁠, Taylor series⁠). eˣ, cos, sin은 계수의 부호만 다릅니다.
  4. 그 부호를 만드는 것은 90° 회전 ii이고, eiθe^{i\theta}는 원 위를 도는 점입니다.
  5. 복소수 곱셈은 돌리고 늘이는 행렬이고, 회전의 고유값은 원 위의 e±iθe^{\pm i\theta}입니다. "속도 = 위치의 회전"이라는 규칙은 다시 원을 그립니다.

다섯 편은 한 문장으로 요약됩니다. 변화를 보는 눈(미분)과 쌓는 눈(적분)을 갖추면, 지수함수⁠(exponential function)⁠와 회전과 행렬은 같은 원을 서로 다른 방향에서 본 모습이다.