곱셈은 회전(rotation)이다
복소수(complex number)를 곱하면 평면 전체가 돌고 늘어납니다. 이것을 행렬(matrix)로 쓰면, 1편부터 쌓아 온 이야기가 한 원 위에서 만납니다.
4편 「원을 그리는 지수함수」에서
이 글의 물음은 이것입니다. 복소수 하나를 곱하는 일을, 평면 전체를 움직이는 일로 보면 무엇이 보일까? 답을 미리 말하면 이렇습니다. 복소수 곱셈(complex multiplication)은 평면을 돌리고 늘이는 변환이고, 그 변환은 행렬이라는 수의 표로 적힙니다. 그렇게 적고 나면 "변환해도 방향이 바뀌지 않는 화살표"를 묻는 고유값(eigenvalue)이 회전에서는 어떻게 되는지, 그리고 1편의 속도(velocity)가 이 이야기와 어떻게 이어지는지가 차례로 보입니다. 행렬과 고유값은 처음 나올 때 손으로 확인할 수 있는 작은 예부터 설명합니다.
1 · 평면 전체에 곱하기돌리고 늘이기
이 절의 물음은 이것입니다. 복소수 w를 평면의 모든 점에 한꺼번에 곱하면 평면은 어떻게 움직일까? 먼저 필요한 것 두 가지를 되짚습니다.
복소수는
두 복소수의 곱은 괄호를 풀고
점으로 보면 (1, 2)가 (−2, 1)로 갔습니다. 두 점 모두 원점에서 거리가
복소수 w에는 두 가지 수가 딸려 있습니다. 원점에서 w까지의 거리를 w의 크기라 하고
이제 한 점이 아니라 격자 위의 모든 점
격자는 찌그러지지 않습니다. 정사각형 칸은 정사각형으로 남고, 모든 것이
왜 그럴까요? 까닭은 곱셈의 성질 하나입니다. 곱의 크기는 크기의 곱이고, 곱의 각도는 각도의 합입니다. w = 1 + i(크기 √2, 각도 45°)로 확인해 봅시다. w · 1 = 1 + i는 크기 √2, 각도 45°입니다. w · i = i + i² = −1 + i는 크기 √2, 각도 135°, 곧 i의 각도 90°에 45°를 더한 것입니다. 어떤 점 z든 크기는 |w|배가 되고 각도에는 w의 각도가 더해지니, 평면 전체가 한꺼번에 같은 각만큼 돌고 같은 배율로 늘어납니다.
이 성질은 4편의 말로 적으면 바로 보입니다. 크기가 r이고 각도가 φ('파이')인 복소수는
그래서 w가 0이 아니면 이 변환은 직사각형을 직사각형으로 보내고 두 선이 만나는 각도를 그대로 지킵니다(복소수 곱셈). 모든 방향이 같은 각만큼 돌면 두 방향 사이의 각은 변하지 않기 때문입니다. 예를 들어
정리하면, 0이 아닌 복소수 w를 곱하는 것은 평면 전체를 w의 각도만큼 돌리고 |w|배로 늘이는 변환입니다.
복소수의 곱셈을 '돌리고 늘이기'로 처음 적어 발표한 사람은 대학의 수학자가 아니라 측량사였습니다. 덴마크 왕립 학술원의 지도 제작에 참여하던 카스파르 베셀은 방향이 있는 선분을 더하고 곱하는 방법을 궁리하다가 1797년 코펜하겐의 학술원에 논문을 냈습니다. 거리와 방향을 계산하는 것이 측량사의 일이니 자연스러운 출발점이었습니다. 덴마크어로 쓰인 이 논문은 백 년 가까이 거의 읽히지 않았습니다. 그사이 파리의 아마추어 수학자 장로베르 아르강(1806)과 괴팅겐의 가우스(1831)가 따로 같은 그림에 이르렀습니다. 흩어진 발견이 어떻게 한 그림으로 모였는지는 4편 「원을 그리는 지수함수」 6절에 있습니다. 베셀의 논문 부제는 '주로 평면과 구면 다각형의 풀이에 쓰는 시도'였습니다. 구면 다각형은 공의 겉면 위에 그린 다각형입니다. 그는 이미 같은 생각을 구면 위, 곧 공간의 방향으로 넓히려 했고, 그 과제는 이 글 6절의 해밀턴에게 넘어갑니다.
2 · 행렬로 쓰기1과 i가 가는 곳
이 절의 물음은 이것입니다. '평면 전체를 돌리고 늘이는 변환'을 숫자 몇 개로 적을 수 있을까? 답은 수 네 개를 정사각형으로 늘어놓은 표, 곧 행렬입니다. 요점은 두 점 1과 i가 어디로 가는지만 알면 나머지 모든 점이 어디로 가는지가 저절로 정해진다는 것입니다.
w를 곱하는 변환에는 좋은 성질이 두 가지 있습니다. 두 점을 더한 뒤 옮기든 따로 옮긴 뒤 더하든 결과가 같고(
선형변환은 두 기준 벡터(vector)가 어디로 가는지만 적으면 됩니다. 여기서 벡터는 원점에서 한 점까지 그은 화살표, 곧 점 (x, y)를 화살표로 본 것입니다. 복소평면(complex plane)의 기준은
w = 2 + i로 확인해 봅시다. 1은 2 + i로 가고, i는
기준 벡터의 도착점으로 계산하면 이렇습니다.
같은 답입니다. 1과 i의 도착점 두 개가 변환 전체를 정합니다.
일반적으로
행렬로 점을 옮기는 규칙, 곧 행렬과 벡터의 곱은 방금 한 계산 그대로입니다. 점 (x, y)를 옮기려면 'x × 첫째 열 + y × 둘째 열'을 계산합니다.
복소수로 곱해도
모든 복소수 곱셈은 이런 모양의 행렬입니다. 왼쪽 위에서 오른쪽 아래로 가는 대각선의 두 칸이 같고(
복소수를 두 번 곱하면 각도가 더해지고 크기가 곱해집니다. 행렬로는 두 변환을 차례로 한 결과를 한 행렬로 적은 것, 곧 두 행렬의 곱(matrix multiplication)입니다. 이 곱의 열도 같은 원리로 구합니다. 1과 i가 두 변환을 차례로 거쳐 마지막에 닿는 곳을 열로 적으면 됩니다.
제곱하면 정말로
일반적인 회전으로 같은 계산을 하면 삼각함수(trigonometric function)의 공식이 나옵니다. 각도 α('알파')만큼의 회전은
정리하면, 복소수 a + bi를 곱하는 변환은 1과 i의 도착점을 열로 적은 행렬이고, 복소수를 잇달아 곱하는 것은 행렬을 곱하는 것입니다.
3 · 모든 행렬은 아니다찌그러뜨리는 변환
이 절의 물음은 이것입니다. 거꾸로, 아무 행렬이나 복소수 곱셈일까요? 아니라면 다른 행렬은 평면을 어떻게 움직일까요?
행렬의 네 칸을 p, q, r, s라 합시다. 2절에서처럼 첫째 열 (p, r)은 (1, 0)이 가는 곳이고 그림의 초록 화살표입니다. 둘째 열 (q, s)는 (0, 1)이 가는 곳이고 빨간 화살표입니다. 점선이 그어진 숫자를 좌우로 끌어 행렬의 네 칸을 직접 바꿔 보세요. 볼 것은 주황 곡선, 곧 반지름 1인 원이 이 행렬로 옮겨진 모양입니다.
처음 값(p = 1.5, q = 0.5, r = 0, s = 1)에서는 원이 비스듬한 타원(ellipse)으로 찌그러지고, 격자의 정사각형 칸은 기울어진 평행사변형이 됩니다. 이 행렬은 복소수 곱셈이 아닙니다. 2절에서 본 복소수 곱셈의 모양, 곧 대각선의 두 칸이 같고 나머지 두 칸은 부호만 반대인 모양과 비교하면 조건이 보입니다.
원으로 남는 경우는 이것 말고 하나 더 있습니다.
넓이(area)는 어떻게 바뀔까요? 한 변이 1인 정사각형(넓이 1)은 초록 화살표와 빨간 화살표를 두 변으로 하는 평행사변형으로 갑니다. 그 넓이가 행렬의 행렬식(determinant)
복소수 곱셈이라면 가로와 세로가 모두 |w|배가 되니 넓이는
흔히 행렬식이 1이면 아무것도 찌그러지지 않는다고 생각하지만, 행렬식은 넓이만 봅니다. p = 2, q = 0, r = 0, s = 0.5로 맞춰 보세요. 행렬식은 2 × 0.5 = 1이지만 가로로 2배, 세로로 절반이 되어 원이 납작한 타원이 됩니다.
나머지 행렬은 한 방향으로 더 늘여서 원을 타원으로 찌그러뜨립니다. 그래도 무질서하게 찌그러뜨리지는 않습니다. 어떤 행렬이든 회전(또는 뒤집기), 서로 수직인 두 축 방향으로 늘이기, 다시 회전의 세 단계로 쪼갤 수 있습니다(특잇값 분해, singular value decomposition). 첫 회전은 원을 원 그대로 두고, 두 축 방향으로 서로 다른 배율로 늘이면 원이 타원이 되고, 마지막 회전은 그 타원을 돌려 놓을 뿐입니다. 그래서 단위원은 언제나 타원이 되고(행렬식이 0이면 선분이나 한 점으로 납작해지고), 그 타원의 긴 반지름과 짧은 반지름이 두 늘임 배율입니다.
정리하면, 0이 아닌 복소수의 곱셈은 행렬 중에서도 방향을 뒤집지 않고 "모양을 보존하는" 특별한 무리입니다. 원은 원으로, 정사각형은 정사각형으로 가고, 크기와 놓인 방향만 바뀝니다. 다른 행렬은 원을 타원으로 찌그러뜨립니다.
4 · 회전의 고유값방향이 안 바뀌는 벡터가 없을 때
이 절의 물음은 이것입니다. 변환을 해도 방향이 바뀌지 않는 화살표가 있을까? 그런 화살표가 있으면 변환이 하는 일을 아주 간단히 적을 수 있습니다. 그런데 회전은 그런 화살표를 하나도 남기지 않는 것처럼 보입니다. 그때 무슨 일이 일어나는지 봅니다.
작은 예부터 봅시다. 가로로 1.6배, 세로로 0.6배 늘이는 행렬
이처럼 변환 뒤에도 원점을 지나는 같은 직선 위에 머무는, 0이 아닌 벡터를 고유벡터라 하고, 그때 늘어나는 배율을 고유값이라 합니다(고유벡터와 고유값, eigenvectors and eigenvalues). 고유값은 흔히 λ('람다')로 적고, 식으로는 행렬 M과 벡터 v에 대해
그런데 회전은 0°나 180°가 아니면 모든 벡터의 방향을 바꿉니다. 60° 회전이라면 어떤 화살표든 60° 기울어집니다. 그러면 회전에는 고유값이 없는 걸까요?
한 행렬을 늘이기에서 회전으로 천천히 바꿔 가며 확인해 봅시다. 출발점(
처음에는
왜 이런 일이 생길까요? 고유값을 계산하는 식에서 까닭이 보입니다. 행렬
근은 정말로 고유값 1.6과 0.6입니다.
왜 이 방정식인가
2차방정식의 근은 근의 공식(quadratic formula)으로 구합니다.
근이 실수인지 아닌지는 판별식(discriminant), 곧 근의 공식에서 제곱근 안에 들어가는 값
출발점의 판별식은 2.2² − 4 × 0.96 = 4.84 − 3.84 = 1로 양수입니다. 도착점인 60° 회전 행렬은 p = s = cos 60° = 0.5, r = −q = sin 60° ≈ 0.866이므로 p + s = 1, ps − qr = 0.25 + 0.75 = 1이고, 판별식은 1 − 4 = −3으로 음수입니다. 변신이 진행되면 판별식이 줄어들다가 0을 지나 음수가 됩니다. 그 순간 두 실근이 겹쳤다가(부딪힘) 허수(imaginary number) 부분의 부호만 다른 켤레 복소수(complex conjugate) 짝
끝까지 변신하면 60° 회전 행렬이 되고, 두 고유값은
60°에서만 일어나는 우연이 아닙니다. 각도 θ('세타')의 회전 행렬은 2절에서 본 대로 a = cos θ, b = sin θ인
회전 행렬의 고유값은 회전 그 자체, 4편의
고유벡터를 직접 확인할 수도 있습니다. 칸에 복소수가 들어간 벡터(복소 벡터)
실수 세계에서 "방향이 안 바뀌는 벡터가 없다"는 사실은 복소수 세계에서 "고유값이 실수가 아니다"로 나타납니다. 게다가 회전은 길이를 바꾸지 않으니 고유값은 크기가 1, 곧 원 위에 놓입니다. 계산으로도
정리하면, 방향이 안 바뀌는 실수 벡터가 없을 때 고유값은 사라지지 않고 복소수가 됩니다. 회전 행렬의 고유값은 회전각을 담은
길이를 바꾸지 않는 행렬(직교 행렬, orthogonal matrix)의 고유값이 모두 단위원 위에 있다는 사실은 1850년대 이탈리아의 프란체스코 브리오스키가 증명했습니다. 그보다 앞서 1829년 파리의 코시는 대칭 행렬(symmetric matrix), 곧 대각선을 기준으로 접어 겹치는 칸이 같은 행렬의 고유값은 모두 실수라는 것을 보였습니다. 회전과 대칭이라는 두 극단에서 고유값은 각각 원 위와 실수축 위에 놓입니다. 4절의 그림에서 고유값이 실수축에서 출발해 원 쪽으로 옮겨 가는 까닭이 여기에 있습니다. 코시가 이 문제에 이른 길은 아래 6절에서 봅니다.
5 · 다시 1편으로속도가 위치를 돌린 것일 때
이 절의 물음은 이것입니다. 복소수 고유값은 계산 속에만 있는 수일까, 아니면 눈에 보이는 움직임으로 나타날까? 연재의 처음, 속도로 돌아가 답해 봅니다.
1편 「순간의 속도」에서 속도는 위치의 기울기, 곧 위치가 시간에 따라 변하는 빠르기인 미분계수(derivative)였습니다. 평면 위를 움직이는 점이라면 속도도 화살표입니다. 짧은 시간 동안 가로로 얼마, 세로로 얼마 움직이는지를 시간으로 나눈 값을 모은 것입니다.
이번에는 속도를 정하는 규칙을 줍니다. 평면 위의 점이 어디에 있든, 그 점의 속도는 위치에 행렬
먼저 α = 0인 경우를 손으로 따라가 봅시다(α는 '알파'). 그러면 M은 2절의 90° 회전 행렬
작은 화살표들이
α = 0이면 속도는 정확히 위치의 90° 회전이고, 점은 원을 돕니다. 4편에서 본
이 나선을 두 조각으로 나누어 읽을 수 있습니다.
그리고 행렬
흔히 복소수 고유값은 계산 중에 잠깐 나타나는, 실제로는 뜻이 없는 수라고 생각하지만, 이 나선에서 보듯 실수부와 허수부 모두 눈에 보이는 움직임을 정확히 적습니다. 정리하면, 속도가 위치를 돌린 것일 때 점은 원이나 나선을 그리고, 그 모양은 행렬의 복소수 고유값이 정합니다.
6 · 짝에서 사원수로회전을 수로 적으려던 사람들
복소수를 평면의 점으로 보게 된 뒤, 수학자들은 곧 다음 질문을 던졌습니다. 평면의 회전이 복소수 곱셈이라면, 공간의 회전을 곱셈으로 적는 수도 있지 않을까?
공간 회전의 기본 사실은 이미 알려져 있었습니다. 1775년 상트페테르부르크 학술원에서 오일러는 공간의 어떤 회전도 한 축을 중심으로 한 회전임을 보였습니다. 그 축은 회전해도 방향이 바뀌지 않는 벡터, 곧 고유값이 1인 고유벡터입니다. 4절의 말로 하면 공간 회전 행렬의 세 고유값은 1과 원 위의 짝
오일러가 강체(힘을 받아도 모양이 변하지 않는 물체)의 회전을 붙든 데에는 천문학의 이유가 있었습니다. 지구는 적도가 불룩한 팽이여서 해와 달의 당김에 자전축이 천천히 돕니다. 약 2만 6천 년에 한 바퀴를 도는 이 움직임을 세차라 합니다. 세차는 기원전 2세기 로도스섬의 천문학자 히파르코스가 별 스피카의 위치를 150년쯤 앞선 관측 기록과 비교하다가 처음 알아챘고, 4세기 중국의 천문학자 우희도 따로 알아냈습니다. 그 원인을 해와 달이 지구의 불룩한 적도를 당기는 데서 찾은 것은 1687년 뉴턴의 『프린키피아』였지만 그의 계산 과정에는 오류가 있었습니다. 1749년 파리의 달랑베르가 세차를 다시 계산한 책을 냈고, 오일러도 같은 문제를 두고 달랑베르와 겨루며 강체(rigid body)의 회전 이론을 다듬었습니다. 베를린 시절인 1765년 그는 지구 자전축이 바깥 힘 없이도 약 10개월 주기(period)로 흔들릴 수 있다고 계산했습니다. 1891년 미국의 천문학자 세스 챈들러가 실제로 약 14개월 주기의 흔들림을 찾아냈습니다. 지구가 완전히 단단하지 않아 주기가 길어진 것입니다.
자전 자체는 1851년 프랑스의 물리학자 레옹 푸코가 파리 팡테옹에 매단 진자로 눈앞에 보여 주었습니다. 진자가 흔들리는 면은 파리에서 약 32시간에 한 바퀴 돕니다. 지구의 자전을, 자전축 방향을 가리키고 길이가 '하루에 한 바퀴'인 화살표로 나타내 봅시다. 진자가 느끼는 것은 이 화살표 가운데 그 자리의 머리 위 방향(연직 방향)으로 드리운 몫, 곧 연직 방향에 정사영(orthogonal projection)한 성분뿐입니다. 그 몫은 하루 한 바퀴에 위도의 사인(sin)을 곱한 빠르기입니다. 북극(위도 90°, sin 90° = 1)에서는 하루에 꼭 한 바퀴, 적도(위도 0°, sin 0° = 0)에서는 전혀 돌지 않습니다. 파리의 위도는 약 49°이고
공간의 회전을 수의 곱셈으로 적으려 한 사람은 더블린의 윌리엄 로언 해밀턴입니다. 그는 트리니티 칼리지의 학부생이던 1827년, 스물한 살에 천문학 교수 겸 아일랜드 왕립 천문관으로 임명되었습니다. 그 뒤 평생을 더블린 북서쪽의 던싱크 천문대에서 살았습니다. 시를 써서 영국 시인 워즈워스와 교류했고, 독일 철학자 이마누엘 칸트를 열심히 읽었습니다. 1857년에는 정십이면체의 모서리를 따라 모든 꼭짓점(vertex)을 한 번씩 들르고 제자리로 돌아오는 놀이를 만들었고, 뒤에 이 놀이를 장난감 회사에 팔기도 했습니다. 이 놀이가 오늘날 '해밀턴 회로(Hamiltonian cycle)' 문제라는 이름으로 남았습니다(「일곱 다리의 도시」).
칸트 독서는 그의 수학에도 흔적을 남겼습니다. 1833년 그는 복소수를 실수 두 개의 순서쌍(ordered pair)
다음 목표는 공간이었습니다. 세 수의 짝으로 곱셈을 만들려던 시도는 여러 해 동안 실패했습니다. 훗날 아들에게 보낸 편지에 따르면, 1843년 10월 초 아침마다 아이들이 "아빠, 세 쌍을 곱할 수 있게 됐어요?" 하고 물으면 그는 고개를 저으며 더하고 빼는 것만 된다고 답해야 했습니다.
사원수는 곱셈의 교환법칙(commutative law), 곧 3 × 5 = 5 × 3처럼 순서를 바꿔 곱해도 결과가 같다는 법칙을 버린 첫 중요한 수 체계(number system)였습니다. 이것은 계산 요령 이상의 사건(event)이었습니다. 수의 법칙은 반드시 그래야만 하는 진리가 아니라, 다루려는 대상(여기서는 공간의 회전)에 맞춰 고를 수 있는 것이 되었습니다. 해밀턴의 친구인 법률가이자 수학자 존 그레이브스는 해밀턴이 발견 이튿날 보낸 편지를 받고, 두 달 남짓 만에 실수 여덟 개로 된 수(오늘날의 팔원수(octonion))를 찾았습니다. 1847년과 1854년에는 조지 불이 논리 자체를 기호의 대수로 썼습니다(불 대수, Boolean algebra). 두 번째 책은 불이 아일랜드 코크의 교수로 있을 때 나왔습니다.
같은 계산은 사실 조용히 먼저 나와 있었습니다. 파리의 은행가이자 사회 개혁가 올랭드 로드리그가 1840년 두 회전을 합성하는 공식을 발표했는데, 오늘날 보면 사원수의 곱셈 그대로입니다. 다만 그는 그것을 새로운 수로 보지 않았습니다.
'행렬'이라는 말과 그 대수는 런던의 법률가 두 사람에게서 나왔습니다. 둘 다 종교의 조건 때문에 대학에 남지 못한 사람들이었습니다. 케임브리지의 연구원 자리를 이어 가려면 성직자가 되어야 했는데, 이를 원하지 않은 아서 케일리는 14년 동안 런던에서 부동산 문서를 다루는 변호사로 일하며 200편이 넘는 논문을 썼습니다. 제임스 조지프 실베스터는 보험회사의 계리사(사망률과 이자를 계산해 보험료와 연금을 정하는 전문가)로 일하며 법률을 공부했습니다. 두 사람은 런던의 법조 거리에서 만나 수학을 이야기하곤 했다고 전해집니다.
이름을 붙인 사람은 실베스터였습니다. 1850년 그는 수를 직사각형으로 늘어놓은 배열에 라틴어로 자궁을 뜻하는 matrix라는 이름을 붙였습니다. 그 배열에서 여러 행렬식이 '태어난다'는 뜻이었습니다. 대수를 세운 사람은 케일리였습니다. 1858년 그는 행렬을 하나의 대상으로 더하고 곱하는 대수를 세웠고, 행렬이 자신의 특성다항식(4절)을 만족한다는 정리를 적었습니다. 특성다항식의 λ 자리에 행렬 자신을 넣고 상수항에는 단위행렬 I를 곱하면, 모든 칸이 0인 행렬이 나온다는 뜻입니다. 오늘날 케일리–해밀턴 정리라 부르는 이 정리를 4절의 회전 행렬
수를 직사각형으로 늘어놓고 계산하는 일 자체는 이 이름보다 훨씬 오래되었습니다. 늦어도 1세기 무렵 중국에서 엮인 『구장산술』의 '방정' 장은 셈판 위에 산가지(counting rods)로 연립일차방정식(system of linear equations)의 계수를 열마다 늘어놓고, 열끼리 빼 나가는 오늘날의 소거법(elimination)으로 풀었습니다. 1683년 일본의 세키 다카카즈와 1693년 라이프니츠는 서로 모른 채 행렬식에 해당하는 계산을 적었습니다. 그러나 이들에게 배열은 방정식을 풀기 위한 계산판이었습니다. 케일리가 바꾼 것은 관점이었습니다. 배열 자체를 하나의 수처럼 더하고 곱하는 대상으로 본 것입니다. 셈판 위의 소거법은 「잃어버린 소행성」 5절에서 직접 따라가 볼 수 있습니다.
벡터의 대수를 가장 먼저, 가장 멀리 밀고 나간 사람은 따로 있었습니다. 사원수가 나온 이듬해인 1844년, 프로이센 슈테틴(지금 폴란드의 슈체친)의 김나지움 교사 헤르만 그라스만은 『선형 확장론』에서 몇 차원이든 벡터를 더하고 곱하는 체계를 세웠습니다. 오늘날 선형대수(linear algebra)의 기본 개념이 여기서 거의 다 나옵니다. 어느 벡터도 나머지 벡터들을 늘이고 더해서 만들 수 없다는 일차 독립(linear independence), 공간을 채우는 데 필요한 방향의 수인 차원, 원점을 지나는 평면처럼 공간 안에 든 작은 공간인 부분공간(subspace)이 그것입니다. 그러나 철학적인 서술이 너무 낯설어서 책은 거의 팔리지 않았습니다. 대학 교수 자리를 얻지 못한 그라스만은 뒤에 산스크리트 연구로 돌아서 『리그베다』 사전을 냈습니다. 수학자들이 그의 가치를 알아본 것은 그가 죽을 무렵이었고, 아래의 깁스도 뒤에 그라스만의 업적을 높이 기렸습니다.
해밀턴은 남은 생을 사원수에 바쳤고, 에든버러의 물리학자 피터 거스리 테이트가 그 뒤를 이었습니다. 맥스웰도 1873년 『전기자기론』에서 사원수의 기호를 일부 빌려 썼습니다. 그러나 1880년대에 예일 대학의 조사이아 윌러드 깁스와 독학한 전신 기사 출신의 올리버 헤비사이드가 따로따로 더 단순한 길을 내놓았습니다. 공간의 벡터
두 사람은 이것을 두 조각으로 쪼갰습니다. 앞의 것은 내적(수 하나), 뒤의 것은 외적(두 벡터에 모두 수직인 새 벡터)이라는 벡터 연산으로 따로 쓴 것입니다. 내적(dot product) u · v는 같은 자리의 성분끼리 곱해 더한 수이고, 서로 수직인 벡터의 내적은 0입니다. 예를 들어 u = i, v = j(서로 수직이고 길이 1)이면 사원수의 곱은 ij = k이고, 식의 오른쪽도 내적 0에 외적 k(i와 j에 모두 수직인 방향)를 더한 k입니다. u = v = i이면 i² = −1이고, 오른쪽도 −(i · i) = −1에 외적 0(같은 방향의 두 벡터의 외적은 0)을 더한 −1입니다. 깁스는 이 내용을 학생들을 위한 소책자로 찍어 몇몇 사람에게만 돌렸습니다. 이 내용이 널리 퍼진 것은 1901년 그의 제자 에드윈 비드웰 윌슨이 강의를 정리해 교과서 『벡터 해석(vector analysis)』을 낸 뒤였습니다. 벡터를 굵은 글씨로 적고 내적과 외적을 점(·)과 가위표(×)로 구별하는 오늘날의 표기도 이 책을 통해 퍼졌습니다.
그러자 싸움이 붙었습니다. 1890년대 초 『네이처』 등의 지면에서 사원수 쪽과 벡터 쪽이 논쟁을 벌였고, 물리학자와 공학자들은 벡터를 택했습니다. 켈빈 경(윌리엄 톰슨)은 한 편지에서 사원수가 손댄 모든 사람에게 해만 끼쳤다고 쓰기까지 했습니다. 전기와 자기의 법칙을 묶은 맥스웰 방정식을 오늘날의 네 식으로 정리한 것도 헤비사이드가 벡터 표기로 해낸 일입니다. 그가 씨름한 전신선의 신호 문제는 「원에서 파동으로」의 해저 전신 이야기와, 신호가 뭉개지지 않게 하는 선로의 조건을 찾은 「잡음 너머로」의 이야기로 이어집니다.
사원수는 20세기 후반에 되살아났습니다. 문제는 세 각도로 자세를 적는 방식(오일러 각, Euler angles)이었습니다. 이 방식은 두 회전축이 겹치는 자세에서 한 방향의 자유를 잃습니다. 이것을 짐벌 잠금(gimbal lock)이라 합니다. 짐벌(gimbal)은 고리 안에 고리를 끼워 각 고리가 한 축으로만 돌게 한 받침입니다. 세 각도를 쓰는 방식은 짐벌 세 개와 같은 구조여서 같은 약점이 있습니다. 이것은 방식을 잘 고르지 못한 탓이 아닙니다. 공간의 회전 전체를 세 개의 수로 빈틈없이, 모든 곳에서 매끄럽게 적는 방법은 아예 없다는 것이 증명되어 있습니다. 반면 길이가 1인 사원수, 곧 네 수의 제곱의 합이 1인 사원수는 네 개의 수로 그 일을 해냅니다(회전 하나에 부호만 다른 사원수 두 개 q와 −q가 대응하긴 합니다).
MIT가 설계한 아폴로 우주선의 관성(inertia) 측정 장치는 짐벌 세 개로 만들어져 그런 자세를 피해야 했습니다. 아폴로 11호의 교신 기록에는 사령선 조종사 마이클 콜린스가 크리스마스 선물로 네 번째 짐벌을 보내 달라고 농담한 대목이 있다고 전합니다.
전환점은 컴퓨터 그래픽에서 왔습니다. 1985년 컴퓨터 그래픽 연구자 켄 쇼메이크가 두 자세 사이를 사원수로 매끄럽게 잇는 방법을 발표했고, 그 뒤로 컴퓨터 그래픽과 게임 속 카메라와 캐릭터는 사원수로 돕니다. 인공위성과 우주정거장의 자세 제어, 로봇 팔, 휴대전화의 방향 센서도 흔히 사원수를 씁니다. 평면에서는 수 하나(복소수)가 회전 하나였고, 공간에서는 네 개짜리 수가 필요했던 셈입니다.
회전을 수로 적으려던 이야기는 상트페테르부르크와 베를린의 학술원에서 더블린의 천문대와 런던의 법조 거리를 거쳐 대서양 건너 예일과 존스홉킨스로 이어집니다. 연표에서 사원수(1843)와 대기근, 대학 심사법이 같은 시대에 놓인 것을 보세요.
이 글의 4절에서 본 "고유값이 부딪혀 복소수로 갈라지는" 장면도 역사가 깊습니다. 해가 실수 4인 방정식을 푸는데도 공식이 음수의 제곱근을 거쳐야 했던 것처럼(4편 6절의 봄벨리), 실수만으로 된 행렬에서도 방향이 안 바뀌는 벡터가 없으면 복소수 고유값이 튀어나옵니다.
고유값 문제의 뿌리는 팽이와 하늘에 있습니다. 오일러는 1765년의 강체 역학 책에서, 어떤 물체든 그 둘레로 돌리면 흔들림 없이 도는 서로 수직인 세 축(관성 주축, principal axes of inertia)이 있음을 보였습니다. 오늘날의 말로 물체의 관성을 나타내는 행렬의 고유벡터입니다. 18세기 후반 라그랑주와 라플라스는 행성들이 서로 당기는 탓에 궤도(orbit)의 모양과 기울기가 수만 년에 걸쳐 천천히 변하는 '영년 변화'를 계산했습니다. 그 변화의 빠르기를 정하는 방정식, 곧 '영년 방정식(secular equation)'이 오늘날의 특성방정식입니다. 근이 모두 실수이면 궤도의 변화는 흔들림에 그치고, 그렇지 않으면 한쪽으로 끝없이 커질 수 있었습니다. 태양계가 안정한지가 이 근에 달려 있었던 것입니다. 1829년 코시는 영년 방정식을 다룬 논문에서 대칭 행렬의 고유값이 모두 실수임을 증명했습니다. 이런 방정식과 근은 뒤에 '특성방정식(characteristic equation)', '특성근(characteristic root)'이라 불리게 되었고, 4절의 '특성다항식'이라는 이름도 이 전통에서 왔습니다. 태양계가 정말 안정한가라는 물음은 한 세기 뒤 푸앵카레의 삼체 문제(three-body problem)에서 뜻밖의 답을 얻습니다(「나비의 날갯짓」).
'고유'라는 이름은 1904년 무렵 괴팅겐의 힐베르트가 적분방정식(구하려는 함수(function)가 적분(integral) 기호 안에 들어 있는 방정식)을 다루며 쓴 독일어 Eigenwert에서 굳었습니다. 고유값과 고유벡터는 이후 거의 모든 곳에 쓰입니다. 행렬의 거듭제곱을 쉽게 만드는 대각화(diagonalization), 피보나치 수가 황금비(golden ratio)로 커지는 이유(피보나치 수열, Fibonacci sequence), 오랜 시간이 지난 뒤의 확률(probability)을 알려 주는 마르코프 연쇄(Markov chain), 흩어진 데이터의 주된 방향을 찾는 주성분 분석(principal component analysis)이 모두 같은 질문, "방향이 바뀌지 않는 벡터는 무엇인가"에서 나옵니다.
7 · 이어지는 길방향이 바뀌지 않는 벡터를 찾아서
- 흔들림이 자랄지 잦아들지: 5절에서 고유값의 실수부가 나선이 풀릴지 감길지를 정했듯이, 날씨나 생태계 같은 비선형 운동도 평형점(움직임이 멈춰 있는 점) 근처에서는 움직임을 5절처럼 '속도 = 행렬 × 위치'로 근사할 수 있고(선형화, linearization), 실수부가 0인 고유값이 없는 한 그 행렬의 고유값이 안정성(stability)을 정합니다. 그 한계와 혼돈(chaos)은 「나비의 날갯짓」에 있습니다.
- 북과 그래프의 소리: 북의 막이 떨리는 모양과 음높이, 그래프를 둘로 가르는 선은 모두 라플라시안(Laplacian)의 고유벡터와 고유값입니다(「라플라시안, 가장 많이 재사용된 식」). 웹 페이지의 중요도를 매기는 페이지랭크(PageRank)도 고유값 1의 고유벡터입니다(「일곱 다리의 도시」).
- 타원의 두 축: 3절에서 단위원이 타원으로 찌그러질 때 긴 축과 짧은 축의 배율이 특잇값(singular value)입니다. 흩어진 데이터의 타원에서 주된 방향을 찾는 주성분 분석은 「까마귀와 택시」에서, 아주 작은 특잇값이 잡음을 키워 거꾸로 푸는 문제를 망치는 이야기는 「거꾸로 푸는 문제는 왜 어려운가」에서 이어집니다.
- 행렬로 푼 궤도: 가우스가 소행성 세레스의 궤도를 되찾던 무렵부터 다듬은 최소제곱법(method of least squares)은 행렬 계산의 고전이 되었습니다(「잃어버린 소행성」).
- 연재의 역사를 한 줄로: 제논의 화살과 뉴턴·라이프니츠의 다툼(1편 「순간의 속도」), 오렘의 그림과 카발리에리의 불가분량(2편 「거리를 되찾기」), 마다바와 테일러의 급수(3편 「한 점에서 전부를」), 카르다노의 허수와 오일러, 베셀(4편 「원을 그리는 지수함수」), 그리고 해밀턴과 케일리(이 글). 2,000년 넘는 시간에 걸친 이 사건들은 수학사 지도에서 한꺼번에 볼 수 있습니다.
연재 정리.
- 평균 변화율(average rate of change)의 극한(limit)이 순간의 속도(미분)입니다.
- 속도의 넓이를 쌓으면 위치가 돌아옵니다(적분). 둘은 서로를 되돌립니다.
- 해석함수라면 한 점의 미분값들로 함수를 되살립니다(테일러 급수, Taylor series). eˣ, cos, sin은 계수의 부호만 다릅니다.
- 그 부호를 만드는 것은 90° 회전
이고, 는 원 위를 도는 점입니다. - 복소수 곱셈은 돌리고 늘이는 행렬이고, 회전의 고유값은 원 위의
입니다. "속도 = 위치의 회전"이라는 규칙은 다시 원을 그립니다.
다섯 편은 한 문장으로 요약됩니다. 변화를 보는 눈(미분)과 쌓는 눈(적분)을 갖추면, 지수함수(exponential function)와 회전과 행렬은 같은 원을 서로 다른 방향에서 본 모습이다.