원을 그리는 지수함수⁠(exponential function)⁠

"e를 i번 곱한다"는 말은 무슨 뜻일까요? 그리고 왜 $e^{i\pi} = -1$일까요?

3편 「한 점에서 전부를」의 끝에서 eˣ의 계수를 cos과 sin으로 나누려면 부호가 두 칸마다 바뀌는 수가 필요했습니다. 제곱해서 −1이 되는 수 $i$가 그 역할을 합니다. 먼저 $i$를 그림으로 이해해 봅시다.

1 · i를 곱한다는 것90° 돌리기

제곱해서 −1이 되는 수를 곱한다는 것은 그림으로 무엇일까요? 이 절은 $i$를 곱하는 일이 평면에서 90° 돌리기라는 것을 봅니다. 이 한 가지 사실이 글 전체를 끌고 갑니다.

먼저 재료를 소개합니다. $i$는 $i^2 = i \times i = -1$이 되도록 새로 들인 수입니다. 보통의 수(실수⁠, real number⁠) a, b로 $a + bi$처럼 적는 수를 복소수⁠(complex number)⁠라고 부르고, a를 실수부⁠(real part)⁠, b를 허수부⁠(imaginary part)⁠라고 합니다. 예를 들어 $3 + i$는 실수부가 3, 허수부가 1입니다.

복소수 $z = a + bi$는 평면 위의 점 $(a, b)$입니다. 가로는 실수, 세로는 허수⁠(imaginary number)⁠ 방향입니다. 예를 들어 $3 + i$는 원점에서 오른쪽으로 3, 위로 1 간 점입니다. 원점에서 그 점까지 그은 화살표로 보아도 됩니다. 더하기는 벡터⁠(vector)⁠처럼 화살표를 이어 붙이는 것입니다. $(3 + i) + (1 + 2i) = 4 + 3i$는 화살표 (3, 1)의 끝에 화살표 (1, 2)를 이어 붙여 (4, 3)에 닿는 것입니다.

여기에 $i$를 곱해 봅시다. 괄호를 풀면 $i(a + bi) = ai + b\,i^2$이고, $i \cdot bi = b\,i^2 = -b$이므로 $i(a + bi) = -b + ai$, 즉 점 $(a, b)$가 $(-b, a)$로 갑니다. 예를 들어 점 $(3, 1)$인 $3 + i$에 $i$를 곱하면 $-1 + 3i$, 다시 말해 점 $(-1, 3)$이 됩니다.

이 이동이 왜 90° 돌리기인지는 계단으로 보면 보입니다. (3, 1)은 "오른쪽으로 3, 위로 1"입니다. (−1, 3)은 "위로 3, 왼쪽으로 1"입니다. 같은 계단을 원점을 중심으로 시계 반대 방향으로 90° 눕혀 놓은 모양이니, 화살표의 길이도 같습니다. 아래 그림의 노란 화살표 z는 처음에 $1.8 + 0.9i$, 다시 말해 점 (1.8, 0.9)에 있고, 빨간 화살표 $i z$는 같은 규칙대로 (−0.9, 1.8)에 있습니다. z를 끌어 여러 점으로 확인해 보세요.

어떤 $z$를 골라도 i·z는 z를 원점 중심으로 90° 돌린 것입니다. 길이는 그대로입니다. $i$를 번 곱하면 돌아갑니다. 두 번이면 180°, 즉 방향이 정반대가 되니 $i^2 = -1$입니다. 기이해 보이던 규칙이 그림에서는 당연해집니다(허수 단위 i⁠, imaginary unit i⁠). −1을 곱하면 모든 화살표가 정반대를 향하는데, 90° 돌리기를 두 번 하면 바로 그렇게 되기 때문입니다. 네 번이면 360°, 한 바퀴를 돌아 제자리이니 $i^4 = 1$입니다.

정리하면, 복소수는 평면의 점이고, $i$를 곱하는 것은 원점을 중심으로 길이를 바꾸지 않고 90° 돌리는 것입니다.

이 그림이 나오기까지 250년이 걸렸습니다. 16세기 수학자들에게 음수의 제곱근은 계산 도중에 튀어나오는 불청객이었습니다. 복소수를 평면의 점으로 보는 생각은 1797년 노르웨이 출신 측량사 카스파르 베셀과 1806년 파리의 아마추어 수학자 장로베르 아르강이 각각 따로 내놓았고, 1831년 가우스가 이 생각을 쓰면서 널리 받아들여졌습니다. 자세한 이야기는 6절에서 하겠습니다.

2 · 급수에 iθ 넣기꺾이다가 결국 줄어드는 화살표들

3편 끝의 물음은 이것이었습니다. $e^x$의 급수⁠(series)⁠에 $i$를 넣으면 무슨 일이 생길까요? 이 절은 그 계산을 화살표로 따라가서, 급수가 코사인⁠(cosine)⁠과 사인⁠(sine)⁠으로 정확히 갈라지는 것을 봅니다.

먼저 뜻부터 정해야 합니다. 'e를 i번 곱한다'는 말은 글자 그대로는 뜻이 없습니다. 그래서 더하기와 곱하기만으로 된 3편의 급수를 복소수에도 그대로 쓰고, 그 값을 $e^{i\theta}$의 뜻으로 삼습니다. 여기서 θ('세타')는 보통의 수(실수)입니다. θ가 각도라는 것은 3절에서 드러납니다. 3편에서 만든 테일러 급수⁠(Taylor series)⁠에 $x = i\theta$를 넣어 봅시다.

분모의 $k!$은 'k 팩토리얼⁠(factorial)⁠'이라 읽고, 1부터 k까지의 수를 모두 곱한 값입니다. 예를 들어 $2! = 1 \times 2 = 2$, $3! = 1 \times 2 \times 3 = 6$, $4! = 24$입니다.

각 항은 1절처럼 평면 위의 화살표입니다. 예를 들어 θ = 1.2이면 항들은 차례로 1, 1.2i, −0.72, −0.288i, 0.0864, …입니다. 셋째 항을 풀어 보면 $(1.2i)^2 = 1.44\,i^2 = -1.44$이고, 이를 $2! = 2$로 나누어 −0.72입니다. 화살표의 방향은 오른쪽, 위, 왼쪽, 아래, 오른쪽…으로 90°씩 돌고, 길이는 1, 1.2, 0.72, 0.288, 0.0864…로 결국 줄어듭니다.

일반적으로도 그렇습니다. $k$번째 항 $\tfrac{(i\theta)^k}{k!}$은 바로 앞 항에 $\tfrac{i\theta}{k}$를 곱한 것이니(분자에 $i\theta$가 하나, 분모에 k가 하나 더 곱해집니다), 화살표는 90°씩 꺾이고(θ가 음수면 반대 방향으로) 길이는 $|\theta|/k$배가 됩니다($|\theta|$는 θ의 부호를 뗀 크기입니다). $k$가 $|\theta|$보다 커지면 이 배율이 1보다 작아지고 갈수록 더 작아지므로, 화살표는 머지않아 한없이 짧아집니다. 제목의 "결국 줄어드는"이 이 뜻입니다.

1절의 더하기처럼 화살표들을 꼬리에 머리를 이어 붙여 보겠습니다. 이어 붙인 끝점이 앞의 항들을 더한 값입니다. $\theta =$ , 항의 개수 개입니다. 항 하나씩 붙이기

화살표들은 사각 나선을 그리며 한 점으로 모여듭니다. 그 점은 반지름 1인 원 위, 각도 θ인 곳입니다. 항을 1~2개만 두고 θ를 끌어 보세요. 몇 개만으로는 원에서 벗어나지만 항이 늘수록 원에 붙습니다. θ = 1.2에서 항 5개를 더하면 끝점은 $0.3664 + 0.912i$이고, 끝없이 더해 모이는 점은 약 $0.3624 + 0.9320i$입니다.

이제 화살표를 방향별로 모아 봅시다. 가로(실수) 방향 항은 $1, -\tfrac{\theta^2}{2!}, +\tfrac{\theta^4}{4!}, \dots$으로 부호가 번갈아 바뀝니다. 3편에서 본 cos의 급수입니다. 세로(허수) 방향 항은 $\theta, -\tfrac{\theta^3}{3!}, \dots$으로 sin의 급수입니다. 끝없는 합의 항을 이렇게 나눠 모아도 되는 까닭은, 항의 길이만 더해도 유한한 값 $e^{|\theta|}$로 모이기 때문입니다. 길이의 합이 끝없이 커지는 급수라면 항의 순서를 바꾸어 모을 때 합이 달라질 수 있습니다. 3편의 수수께끼(같은 크기, 다른 부호)의 답이 여기 있습니다. 부호를 바꾼 것은 $i$의 회전⁠(rotation)⁠이었습니다.

이것이 오일러 공식⁠(Euler's formula)⁠입니다.

식은 "e의 iθ 제곱은 코사인 세타 더하기 i 사인 세타"라고 읽습니다. 1절의 그림으로 말하면 가로 좌표가 $\cos\theta$, 세로 좌표가 $\sin\theta$인 점이고, 3편 4절에서 본 대로 그런 점은 반지름 1인 원 위에서 호의 길이 θ만큼 돈 곳입니다. 정리하면, 급수에 $i\theta$를 넣으면 $i$의 회전이 부호를 번갈아 바꾸어 주어, 실수 방향에는 코사인이, 허수 방향에는 사인이 모입니다.

3 · 모든 θ원 위를 도는 점

2절에서는 θ 하나마다 원 위의 점 하나를 얻었습니다. 이 절의 질문은 이것입니다. θ를 계속 늘리면 그 점은 어떻게 움직이고, 왜 하필 원을 벗어나지 않을까요? 답은 1편에서 한 대로 속도⁠(velocity)⁠를 보면 나옵니다.

θ를 0부터 늘리면 $e^{i\theta}$는 원 위를 돕니다. 왜 하필 원일까요? θ를 시간처럼 여기고 움직이는 점의 속도, 곧 θ로 미분⁠(differentiation)⁠한 값을 봅시다. 지수함수 $e^{c\theta}$를 미분하면 $c e^{c\theta}$, 다시 말해 자기 자신의 $c$배입니다(급수를 항별로 미분해 보면 확인할 수 있습니다). c = 1일 때가 1편과 3편에서 본 '$e^x$는 미분해도 자기 자신'입니다. 항별로 보면, 항 $\tfrac{(c\theta)^k}{k!}$을 θ로 미분하면 $c \cdot \tfrac{(c\theta)^{k-1}}{(k-1)!}$로 바로 앞 항의 c배가 되니 급수 전체가 c배가 됩니다.

$c = i$를 넣으면 $e^{i\theta}$를 θ로 미분한 값은 $i e^{i\theta}$입니다. 속도는 위치에 $i$를 곱한 것, 즉 위치를 90° 돌린 방향이고 길이는 같습니다.

그림에서 점을 옮기며, 청록 화살표(속도)가 늘 노란 화살표(위치)와 직각을 이루는 것을 보세요. 중심에서의 거리가 변하려면 속도에 중심 쪽이나 바깥쪽을 향한 성분이 있어야 합니다. 늘 반지름에 수직으로 움직이는 점에는 그런 성분이 없으니, 중심에서 멀어지지도 가까워지지도 않습니다. 출발점은 θ = 0일 때의 $e^0 = 1$이고 이 점은 원점에서 거리가 1이니, 점은 줄곧 반지름 1인 원 위에 있습니다. 그래서 원을 돕니다.

속도의 길이는 위치의 길이와 같은 1이니, θ가 1 늘 때 점은 원을 따라 1만큼 갑니다. 그래서 θ는 원을 따라 이동한 거리, 즉 라디안⁠(radian)⁠ 각도입니다(단위원과 라디안⁠(unit circle and radian)⁠). 예를 들어 θ = π/2(약 1.57)이면 원 둘레 2π(약 6.28)의 4분의 1을 돌아 $i$에 닿고, 실제로 $\cos\frac{\pi}{2} + i\sin\frac{\pi}{2} = 0 + i = i$입니다.

점을 끌거나 한 바퀴 돌리기를 눌러 보세요. 점의 가로 그림자가 cos, 세로 그림자가 sin을 그립니다(사인과 코사인⁠(sine and cosine)⁠, 사인파⁠(sinusoid)⁠). 2편 5절에서 본 짝, 속도가 사인 모양이면 위치는 (뒤집힌) 코사인 모양이라는 사실도 이 회전의 두 그림자입니다. 오른쪽 그림에서 θ가 π(약 3.14)일 때 파란 곡선이 −1, 빨간 곡선이 0을 지나는 것도 확인해 보세요. 다음 절의 주제입니다.

정리하면, $e^{i\theta}$는 속도가 늘 위치를 90° 돌린 방향인 점이라 반지름 1인 원을 돌고, θ는 그 원을 따라 간 거리입니다.

e라는 수는 원이 아니라 이자 계산에서 먼저 나타났습니다. 1683년 무렵 바젤의 야코프 베르누이는 이런 문제를 다뤘습니다. 원금 1에 1년 이자율 100%를 주되, 이자를 1년에 n번 나눠 붙여 이자에도 이자가 붙게 하면 1년 뒤 원리금(원금과 이자를 합친 돈)은 $(1 + \tfrac1n)^n$이 됩니다. n = 1이면 2, 달마다 붙이는 n = 12이면 약 2.613이고, n을 한없이 늘려도 끝없이 커지지 않고 2와 3 사이의 한 값에 다가갑니다. 그 값이 e = 2.71828…입니다. 이 수에 e라는 글자를 붙인 사람은 오일러입니다. 이 글자는 1727–28년 무렵, 스무 살 남짓이던 그가 대포 발사 실험을 다룬 원고에 처음 나옵니다. 제곱해서 −1이 되는 수를 $i$로 적은 것도 오일러였지만, 이것은 훨씬 늦은 1777년의 논문에서였고, 이 논문은 그가 죽은 뒤인 1794년에야 출판되었습니다. 원주율⁠(pi)⁠의 π는 1706년 웨일스 출신의 윌리엄 존스가 먼저 썼고, 오일러가 쓰면서 널리 퍼졌습니다(3편 「한 점에서 전부를」 6절의 머친 이야기).

4 · 반 바퀴e^iπ = −1

이 글 첫머리의 물음, 왜 $e^{i\pi} = -1$인가에 이제 답할 수 있습니다. 이 절은 그 답과, 같은 생각으로 원을 똑같이 나누는 점들을 봅니다.

반지름이 1인 원의 둘레는 $2\pi$(약 6.28)이고, 그 반은 π입니다. 3절에서 θ는 원을 따라 간 거리였습니다. 그러니 θ = π만큼 돌면 정확히 반 바퀴, 출발점 1의 반대편 −1에 닿습니다. 2절의 공식으로 확인하면 $\cos\pi = -1$, $\sin\pi = 0$이니 $\cos\pi + i\sin\pi = -1$입니다. θ = π로

이 식에는 신비로운 구석이 없습니다. "$e^{i\theta}$는 속도가 늘 위치에 수직인 운동이고, π만큼 가면 반 바퀴"라는 뜻입니다. 흔히 이 식을 세 수 e, i, π 사이의 수수께끼 같은 우연으로 소개하지만, 그림으로 보면 반 바퀴 돌기를 적은 것일 뿐입니다.

같은 이유로 $e^{2\pi i k/n}$들(k = 0, 1, …, n − 1)은 원을 따라 한 바퀴의 k/n만큼 돈 점들이라 원을 $n$등분한 점이 되는데, 이것이 1의 거듭제곱근⁠(roots of unity)⁠입니다. 어느 점이든 n번 곱하면, 다시 말해 같은 각도를 n번 돌면 k바퀴를 온전히 돌아 1로 돌아오기 때문에 붙은 이름입니다(n제곱해서 1이 되는 수). 예를 들어 $n = 4$이면 네 점은 $1, i, -1, -i$이고, 모두 네제곱하면 1이 됩니다. 네제곱하는 동안 각각 0, 1, 2, 3바퀴를 온전히 돌기 때문입니다. 실제로 $i^4 = (i^2)^2 = (-1)^2 = 1$입니다.

3편 5절에 남겨 둔 수수께끼도 이 그림으로 풀립니다. 함수⁠(function)⁠ $\tfrac{1}{1+x^2}$은 실수 x 어디에서나 값이 있고 매끄러운데, 0을 중심으로 만든 급수는 x가 −1과 1 사이($|x| \lt 1$, 'x의 크기가 1보다 작다')일 때만 이 함수와 맞았습니다. 왜 하필 1에서 멈출까요? 분모 $1 + x^2$은 실수에서는 0이 되지 않지만, $x = \pm i$('플러스 마이너스 i'), 다시 말해 i와 −i에서는 $1 + i^2 = 0$이 됩니다. 복소평면에서 이 두 점은 원점에서 거리 1만큼 떨어져 있습니다. 이렇게 분모가 0이 되어 함숫값이 한없이 커지는 점을 극이라 합니다(영점과 극⁠, zeros and poles⁠). 원점을 중심으로 한 급수는 가장 가까운 극에 닿기 전까지만 맞을 수 있으니, 실수축 위에서도 $|x| \lt 1$에서 멈춥니다. 급수가 맞는 범위의 반지름을 수렴반경⁠(radius of convergence)⁠이라 하니, 이 급수의 수렴반경은 0에서 극까지의 거리인 1입니다. 평면의 점마다 이 함수의 값을 색으로 칠하면(도메인 컬러링⁠, domain coloring⁠), i와 −i의 두 극과, 두 극에 닿는 반지름 1의 원이 한눈에 보입니다.

정리하면, $e^{i\pi} = -1$은 '원을 따라 π만큼, 다시 말해 반 바퀴 돌면 반대편에 닿는다'는 말입니다.

5 · 실수부까지늘이면서 돌리기

지금까지 지수에는 허수만 있었습니다. 이 절의 질문은 이것입니다. 지수에 실수부도 섞으면 점은 어떻게 움직일까요? 답은 '돌면서 동시에 늘거나 준다'입니다.

지수의 덧셈은 곱셈이 된다는 규칙 $e^{x+y} = e^x e^y$(예: $e^2 \cdot e^3 = e^5$)는 복소수에서도 그대로 성립합니다(두 급수를 곱해 보면 확인할 수 있습니다). 그래서 $e^{(a + i)t} = e^{at} \cdot e^{it}$입니다. 여기서 t는 3절의 θ처럼 시간 삼아 늘려 가는 실수입니다.

뒤의 $e^{it}$는 3절의 원 위의 점이고, 앞의 $e^{at}$는 보통의 양수입니다. 복소수에 양수를 곱하면 화살표가 방향은 그대로인 채 그 배수⁠(multiple)⁠만큼 길어지거나 짧아집니다. 그러니 실수부 a는 크기를 $e^{at}$배로 늘이거나 줄이고, 허수부는 돌립니다. 지금은 $a =$ 입니다. 처음 값인 $a = 0.12$이면 한 바퀴($t = 2\pi$)를 도는 동안 크기가 $e^{0.12 \times 2\pi} = e^{0.24\pi} \approx 2.13$배가 됩니다. $a = -0.12$이면 반대로 $e^{-0.24\pi} \approx 0.47$배로 줄어듭니다. a를 0으로, 또 음수로 끌어 보세요. 그림의 노란 점이 출발점 1이고, 주황 점이 한 바퀴를 돈 뒤의 자리입니다.

이 나선은 추상적인 그림이 아닙니다. 마찰이 있는 용수철이나 전기 회로처럼 상태가 변하는 빠르기가 상태 자신에 비례하는 운동은, 진동하면서 줄어들거나 커질 때 이런 나선을 따릅니다(선형 미분방정식⁠, linear differential equation⁠). 여기서 용수철의 '상태'는 위치 하나가 아니라 위치와 속도의 짝입니다. 3절에서 본 대로 $e^{ct}$는 미분하면 자기 자신의 c배, 다시 말해 변하는 빠르기가 현재 값에 비례하는 함수이기 때문입니다. 실제 용수철의 위치는 이 나선의 가로 그림자로, 점점 작아지며 흔들리는 물결입니다.

마찰이 아주 커서 흔들림 없이 서서히 멈추는 용수철도 있습니다. 이때는 지수 $c$가 허수부 없는 음수라서 점이 돌지 않고 1에서 0 쪽으로 줄어들기만 합니다. 다시 말해 지수의 실수부는 감쇠(점점 약해짐)나 증폭(점점 커짐)을, 허수부는 진동을 맡습니다.

크기와 각도로 복소수를 적는 극형식⁠(polar form)⁠ $re^{i\theta}$가 이 모든 것을 한 줄로 요약합니다. r은 원점에서의 거리, θ는 각도입니다. 예를 들어 $2e^{i\pi/2}$는 길이 2인 화살표를 90° 돌린 것이니 $2i$입니다.

정리하면, 지수의 실수부는 크기를 늘이거나 줄이고 허수부는 돌리므로, $e^{(a+i)t}$는 풀리거나 감기는 나선을 그립니다.

6 · 쓸모없다던 수세제곱근에서 평면까지

제곱해서 −1이 되는 수를 사람들은 왜, 어떻게 받아들였을까요? 이 절은 허수가 '쓸모없는 것'으로 불리던 16세기부터 평면의 점으로 자리 잡은 19세기까지를 따라갑니다.

허수는 "$x^2 = -1$을 풀고 싶어서" 생긴 것이 아닙니다. 그런 방정식은 그냥 해가 없다고 하면 그만이었습니다. 실제로 850년 무렵 인도 남부 라슈트라쿠타 왕조의 궁정에서 일한 수학자 마하비라는 『가니타사라상그라하』('셈법의 정수⁠(integer)⁠ 모음')에서 음수에는 제곱근이 없다고 잘라 말했습니다. 어떤 수를 제곱해도 음수가 되지 않으니 당연한 판단이었습니다. 허수가 피할 수 없게 된 것은 실수 해가 분명히 있는 방정식을 풀 때였습니다.

그 무대는 16세기 북이탈리아의 상업 도시들이었습니다. 베네치아와 피렌체 같은 도시에는 상인의 자녀에게 셈을 가르치는 셈법 학교가 많았습니다. 셈법 교사와 대학 강사의 명성과 자리는 공개 문제 대결로 판가름 나곤 했습니다. 그러니 새 풀이법은 발표할 것이 아니라 숨겨 둘 무기였습니다.

$x^3 + 6x = 20$처럼 미지수의 세제곱이 들어간 3차방정식(다항식⁠(polynomial)⁠ 방정식의 하나)의 풀이도 그렇게 비밀로 시작했습니다. 1515년 무렵 볼로냐 대학의 스키피오네 델 페로는 3차방정식⁠(cubic equation)⁠의 한 형태를 푸는 법을 찾았지만 제자 피오르에게만 알렸습니다. 1535년 피오르는 베네치아에서 가르치던 니콜로 타르탈리아에게 대결을 걸었고, 두 사람은 30문제씩 주고받았습니다. 타르탈리아는 기한 안에 풀이를 스스로 찾아내 이겼습니다. 그의 별명 '타르탈리아(말더듬이)'는 1512년 프랑스군이 고향 브레시아를 약탈할 때 소년이던 그가 얼굴에 칼을 맞은 데서 나왔습니다.

비밀은 오래가지 않았습니다. 밀라노의 의사이자 점성가 지롤라모 카르다노는 1539년 타르탈리아를 설득해 풀이를 들었습니다. 타르탈리아는 비밀을 지키겠다는 맹세를 받았다고 주장했습니다. 그러나 카르다노는 1543년 볼로냐에서 델 페로의 원고를 직접 확인한 뒤 1545년 『아르스 마그나』에 공식을 실었습니다. 책을 낸 사람은 뉘른베르크의 인쇄업자 페트레이우스로, 2년 전 지동설⁠(heliocentrism)⁠을 편 폴란드의 천문학자 코페르니쿠스의 『천구의 회전에 관하여』를 찍은 사람입니다. 격분한 타르탈리아는 카르다노의 제자 로도비코 페라리와 공개 도전장을 주고받았습니다. 페라리는 4차방정식⁠(quartic equation)⁠의 풀이를 찾은 사람입니다. 두 사람은 1548년 밀라노에서 맞섰습니다.

음수의 제곱근이 모습을 드러낸 것도 이 책에서였습니다. 카르다노는 『아르스 마그나』에서 합이 10, 곱이 40인 두 수를 찾는 문제를 다뤘습니다. 두 수는 $t^2 - 10t + 40 = 0$의 근(방정식을 참으로 만드는 값)입니다. 두 수를 u, v라 하면 $(t - u)(t - v) = t^2 - (u + v)t + uv$이고, 합이 10, 곱이 40이니 이 식이 됩니다. 그런데 이차방정식 근의 공식⁠(quadratic formula)⁠을 쓰면 $t = 5 \pm \sqrt{25 - 40}$이라 제곱근 안이 $25 - 40 = -15$로 음수가 됩니다. 카르다노는 답을 $5 \pm \sqrt{-15}$로 적고는 교묘하지만 쓸모없는 것이라며 넘어갔습니다. 규칙대로 곱해 보면 $(5 + \sqrt{-15})(5 - \sqrt{-15}) = 25 - (-15) = 40$으로 곱은 맞는데도, 그런 '수'가 무엇인지는 알 수 없었던 것입니다.

허수로 진지하게 계산한 사람은 볼로냐의 기술자 라파엘 봄벨리였습니다. 이탈리아 중부 키아나 계곡의 습지를 간척하던 그는 공사가 멈춘 사이에 『대수학』을 썼습니다. 1572년 출간된 이 책에서 그는 $x^3 = 15x + 4$를 다룹니다. 이 방정식에는 실수 해 $x = 4$가 분명히 있습니다($4^3 = 64$이고 $15 \times 4 + 4 = 64$).

카르다노의 공식을 읽으려면 기호 하나가 필요합니다. $\sqrt[3]{\ }$는 '세제곱근'이라 읽고, 세제곱해서 안의 수가 되는 수를 뜻합니다. 예를 들어 $2^3 = 8$이니 $\sqrt[3]{8} = 2$입니다. 『아르스 마그나』의 공식은 p, q가 주어진 수일 때 $x^3 = px + q$ 꼴 방정식의 해를 다음처럼 줍니다.

봄벨리의 방정식에 넣어 봅시다. p = 15, q = 4이므로 $D = (4/2)^2 - (15/3)^3 = 4 - 125 = -121$로 음수입니다. 그래서 공식은 $\sqrt[3]{2 + \sqrt{-121}} + \sqrt[3]{2 - \sqrt{-121}}$라는, 음수의 제곱근이 든 식을 내놓습니다. 답이 4라는 것을 아는데도 공식은 허수를 거쳐 가라고 합니다. 봄벨리는 음수의 제곱근을 그냥 계산 규칙대로 다뤄서 이 식의 값이 4임을 보였습니다.

위: 3차방정식에서 복소평면까지 300년. 16세기 이탈리아의 대결과 투옥, 17세기의 이름 붙이기, 1800년 무렵의 평면 해석이 차례로 이어집니다. 아래: 볼로냐–베네치아–밀라노를 오간 비밀 풀이와 뉘른베르크의 인쇄소.

같은 3차방정식을 다른 전통에서는 어떻게 풀었을까요? 1070년 무렵 사마르칸트에서 오마르 하이얌은 『대수 문제의 증명에 관한 논고』에서 3차방정식을 여러 꼴로 빠짐없이 나누고, 꼴마다 원과 포물선⁠(parabola)⁠ 같은 원뿔곡선(원뿔을 평면으로 잘랐을 때 생기는 곡선)을 그려 그 교점의 위치로 양수 근을 찾았습니다. 계산만으로 푸는 공식은 찾지 못했고, "우리 뒤에 오는 누군가가 찾을지도 모른다"고 적었습니다. 그 '누군가'가 4세기 남짓 뒤의 델 페로와 타르탈리아였던 셈입니다. 중국에서는 7세기 당나라의 왕효통이 3차방정식 스물다섯 개를 세워 수치로 풀었고, 송과 원을 거치며 근을 한 자리씩 정해 가는 셈판 위의 방법이 다듬어졌습니다. 조선의 산원들도 『산학계몽』으로 이 방법을 배웠습니다(조선의 산학). 곡선의 교점을 그리든 근을 한 자리씩 좁혀 가든, 두 길은 실제로 있는 근을 곧장 겨누었으므로 음수의 제곱근을 거칠 일이 없었습니다. 허수는 이탈리아의 대수학자들이 근을 하나의 공식으로 적으려 했기 때문에 나타난 손님이었습니다.

이름은 철학자가 붙였습니다. 데카르트는 1637년 『방법서설』의 부록 『기하학』에서 방정식의 근을 '실재하는(réelles)' 근과 '상상의(imaginaires)' 근으로 나누었습니다. 상상할 수는 있어도 대응하는 양이 없다는 뜻이었고, 이 말이 허수라는 이름으로 남았습니다. 라이프니츠는 1702년 허수를 존재와 비존재 사이의 양서류에 빗대었습니다. 쓸모는 분명한데 무엇인지는 알 수 없는 수였던 것입니다. 이 망설임은 허수를 가장 자유롭게 쓴 오일러에게도 남아 있었습니다. 앞을 거의 보지 못하던 말년에 쓰고 1770년 페테르부르크에서 독일어로 펴낸 교과서 『대수학 완전 입문』에서, 그는 음수의 제곱근을 '불가능한 수'라 하고 "오직 상상 속에만 있기 때문에" 허수라 부른다고 적었습니다. 그러면서도 몇 쪽 뒤에서는 이 수의 계산이 아주 중요하다고 강조했습니다. 무엇인지는 묻지 않고 규칙대로 쓰는 태도였고, 그 대가로 같은 책에는 흔히 실수로 꼽히는 $\sqrt{-2}\cdot\sqrt{-3} = \sqrt{6}$이라는 식도 들어 있습니다. $\sqrt{-2}$를 $i\sqrt2$로 적어 계산하면 $i\sqrt2 \cdot i\sqrt3 = i^2\sqrt6 = -\sqrt6$입니다.

그사이 허수는 이 글의 주인공인 식과 만났습니다. 1714년 케임브리지의 수학자 로저 코츠는 로그와 삼각함수⁠(trigonometric function)⁠를 잇는 식 $\ln(\cos x + i\sin x) = ix$를 발표했습니다. $\ln$('엘 엔')은 밑이 e인 로그, 다시 말해 $e^y$를 되돌리는 함수입니다. e를 몇 번 곱해야 그 수가 되는지를 답합니다. 예를 들어 $e^2 \approx 7.39$이니 $\ln 7.39 \approx 2$입니다. 코츠의 식은 양변을 e의 지수로 올리면 오일러 공식이 되니, 같은 내용입니다(복소수에서는 로그의 값이 하나로 정해지지 않아서, 코츠의 식은 그중 한 값을 고른 것입니다). 그리고 1748년 오일러가 『무한 해석 입문』에서 $e^{ix} = \cos x + i\sin x$를 발표했습니다. 오일러 자신은 무한히 큰 수와 무한히 작은 수를 대담하게 다루는 논증으로 이 식에 이르렀습니다. 같은 책에 실린 eˣ, cos, sin의 급수를 나란히 놓고 확인하는 길이 이 글의 2절입니다.

오일러보다 앞서 런던에서는 같은 식의 다른 조각도 나와 있었습니다. 아브라암 드무아브르는 1685년 프랑스에서 개신교도(위그노)를 보호하던 낭트 칙령이 폐지된 뒤 런던으로 건너가 개인 교습으로 생계를 이었습니다. 그는 1707년과 1722년의 논문에서 오늘날 $(\cos x + i\sin x)^n = \cos nx + i\sin nx$로 적는 관계를 담은 식들을 썼습니다. 드무아브르의 공식⁠(de Moivre's formula)⁠이라 불리는 이 식을 지금의 꼴로 적어 증명한 것은 오일러였습니다. 오일러 공식으로 읽으면 "각 x만큼 n번 돌면 nx만큼 돈다"는 말, 곧 $(e^{ix})^n = e^{inx}$입니다. 확률론에서 그가 남긴 종 모양 곡선의 이야기는 「도박판에서 온 편지」에 있습니다.

허수가 무엇이냐는 물음의 답은 뜻밖의 곳에서 왔습니다. 1797년, 덴마크 왕립 학술원의 지도 측량에 참여하던 노르웨이 출신 측량사 카스파르 베셀이 '방향을 식으로 나타내는' 문제를 다루다가 복소수를 평면의 화살표로 해석했습니다. 길이와 방향이 있는 선분은 측량사가 매일 다루는 대상이었습니다. 하지만 그는 학술원 회원이 아니어서 논문을 다른 사람이 대신 낭독했고, 논문은 1799년 덴마크어로 실린 뒤 100년 가까이 주목받지 못했습니다. 1897년 발표 100주년에 맞춰 프랑스어 번역이 나오고서야 그의 우선권이 알려졌습니다.

한편 제네바 출신으로 파리에서 일하던 아마추어 수학자 장로베르 아르강은 1806년 같은 생각을 담은 소책자를 자기 이름도 적지 않고 냈습니다. 이 생각이 알려진 경로는 우연의 연속이었습니다. 원고를 건네받은 르장드르가 그 내용을 한 편지에 적어 수학자 프랑수아 프랑세에게 보냈고, 프랑수아가 죽은 뒤 동생 자크 프랑세가 형의 유품에서 그 편지를 찾아냈습니다. 자크는 1813년 수학 학술지에 복소수의 기하학적 표현을 소개하는 글을 싣고, 이 생각의 출처인 이름 모를 저자가 나서 주기⁠(period)⁠를 청했습니다. 다음 호에서 아르강이 자기 연구를 요약해 답했습니다.

이 해석을 널리 받아들이게 한 것은 괴팅겐의 가우스였습니다. 가우스는 1799년 헬름슈테트 대학의 학위 논문에서 대수학의 기본정리⁠(fundamental theorem of algebra)⁠, 곧 상수가 아닌 다항방정식은 모두 복소수 범위에서 근이 있다는 정리를 증명했습니다. 오늘날의 기준으로는 곡선이 어떻게 만나는지에 관한 한 단계에 메워야 할 틈이 있었고, 가우스는 뒤에 다른 증명을 여럿 더 냈습니다. 그러면서도 허수를 드러내 놓고 쓰기는 조심스러워했습니다. 1811년 천문학자 프리드리히 베셀(측량사 카스파르 베셀과는 다른 사람)에게 보낸 편지에서는 이미 복소수를 평면의 점으로 보고 있었지만, 공개적으로 말한 것은 1831년이었습니다. 그해 그는 정수론⁠(number theory)⁠ 논문을 소개하는 글에서 복소수를 평면의 점으로 다루고 '복소수'라는 이름을 썼습니다. 그리고 +1, −1, $\sqrt{-1}$을 양의, 음의, 상상의(심지어 '불가능한') 단위라 부르는 대신 '정방향, 역방향, 옆방향' 단위라 불렀더라면 이런 어둠은 거의 생기지 않았을 것이라고 썼습니다. 이름이 뜻을 가렸다는 진단입니다.

대수학의 기본정리는 5편 「곱셈은 회전이다」 4절에서 다시 쓸모를 보입니다. 평면의 화살표를 다른 화살표로 옮기는 규칙은 수의 표, 곧 행렬⁠(matrix)⁠로 적을 수 있습니다. 어떤 화살표를 행렬로 옮겼더니 같은 직선 위에 머문 채 늘거나 줄거나 뒤집히기만 했다면, 그 배율을 고유값⁠(eigenvalue)⁠이라 합니다. 예를 들어 가로로 2배 늘이는 행렬은 가로 화살표를 2배로 만드니 2가 고유값입니다(세로 화살표는 그대로 두니 1도 고유값입니다). 그런데 90° 돌리는 행렬은 모든 실수 화살표의 방향을 바꾸므로 실수 고유값이 없습니다. 복소수 화살표까지 허용하면 이런 행렬에도 고유값이 반드시 있는데, 바로 이 정리 덕분입니다.

베셀과 아르강의 그림은 허수를 '상상의' 수에서 '회전'으로 바꿔 놓았습니다. 1절에서 $i$를 곱하면 90° 돈다고 했을 때, 우리는 사실 1800년 무렵의 발견을 따라간 것입니다. 이 관점은 이어서 복소수 곱셈⁠(complex multiplication)⁠의 기하학과 도메인 컬러링(복소함수⁠(complex function)⁠의 값을 색으로 칠해 보여 주는 방법) 같은 복소함수의 그림으로 이어졌고, 파동과 교류 전기를 다루는 공학의 기본 언어가 되었습니다. 한 주기의 파동을 $e^{in\theta}$들의 합으로 쓰는 푸리에 급수⁠(Fourier series)⁠도 이 공식 위에 서 있습니다.

그렇다고 그림이 유일한 답은 아니었습니다. 1833년 더블린의 해밀턴은 그림 없이 실수 두 개의 순서쌍⁠(ordered pair)⁠과 곱셈 규칙만으로 $i$를 만들었습니다. 허수가 '정말 있는가'라는 철학의 물음에, 베셀과 아르강, 가우스는 눈으로 볼 수 있는 평면의 회전으로, 해밀턴은 모순 없이 계산되는 규칙으로 답한 셈입니다. 앞쪽은 뜻을 보여 주고 뒤쪽은 그림에 기대지 않는 엄밀함을 주며, 오늘날의 수학은 두 대답을 함께 씁니다. 해밀턴의 순서쌍과 그 배경의 칸트 철학은 5편 「곱셈은 회전이다」 6절에 있습니다.

7 · 수학 밖으로학술원에서 발전소까지

이 공식을 남긴 사람은 어떤 환경에서 일했고, 공식은 수학 밖에서 어디에 쓰였을까요? 이 절은 오일러의 삶에서 시작해 발전소와 양자역학까지 갑니다.

오일러의 공식이 나온 자리도 수학책 밖의 사정과 떼어 놓을 수 없습니다. 오일러는 바젤에서 야코프 베르누이의 동생인 수학자 요한 베르누이에게 배웠습니다. 1편 「순간의 속도」 6절에서 로피탈에게 미적분⁠(calculus)⁠을 가르친 바로 그 사람입니다. 그는 바젤 대학의 자리를 얻지 못하자 1727년 스무 살에 상트페테르부르크로 갔습니다. 그곳의 과학 아카데미는 표트르 대제가 서유럽의 학술원을 본떠 세운 곳이었습니다. 아카데미는 러시아 안에 학자가 부족해 스위스와 독일 학자들을 불러 모았고, 바젤 동향이자 요한의 아들인 다니엘 베르누이가 먼저 가 있었습니다. 오일러는 아카데미의 러시아 지도 사업에도 참여했고, 그 무렵인 1738년께부터 한쪽 눈의 시력을 잃어 갔습니다.

1741년에는 프로이센 왕 프리드리히 2세의 초청으로 베를린 아카데미로 옮겨 25년을 일했습니다. 『무한 해석 입문』(1748)은 이 시기의 책입니다. 1765년에는 강체⁠(rigid body)⁠ 역학 책도 냈습니다. 강체는 힘을 받아도 모양이 변하지 않는 물체이고, 이 책은 도는 팽이와 지구의 자전축을 다룹니다. 그 이야기는 5편 「곱셈은 회전이다」 6절에 있습니다. 베를린에서 그는 복권과 연금, 운하 같은 왕의 실무 문의에 답했습니다. 왕의 조카딸에게 쓴 편지 형식으로 빛과 소리, 논리와 자유 의지까지 다룬 교양서 『독일 공주에게 보내는 편지』도 남겼습니다. 당시 독일 대학은 라이프니츠–볼프 철학, 곧 철학자 크리스티안 볼프가 라이프니츠의 생각을 체계로 정리한 철학이 휩쓸고 있었습니다. 경건한 칼뱅파 신자였던 오일러는 그 철학의 모나드론에 반대하는 글도 썼습니다. 모나드론은 세계가 더 쪼갤 수 없는 단순한 실체들로 이루어졌다는 설입니다.

마지막 시기는 다시 페테르부르크였습니다. 1766년 러시아 여제 예카테리나 2세의 부름으로 돌아간 그는 다른 눈마저 거의 잃었지만, 아들들과 조수들에게 받아쓰게 하며 연구를 이어 갔습니다. 그의 저작 가운데 절반 가까이가 1765년 이후에 나왔습니다.

계몽기 학술원의 수학은 국가의 쓸모와도 이어져 있었습니다. 오일러의 달 운동 이론은 괴팅겐의 토비아스 마이어가 만든 달 위치표의 바탕이 되었고, 바다 위에서 달과 별 사이의 각도로 경도(지구 위에서 동서 방향의 위치)를 재는 항해법이 이런 표에 기댔습니다. 달은 별들 사이를 빠르게 움직입니다. 그래서 달의 위치표가 정확하면, 달과 별 사이의 각도를 재어 기준 도시의 시각을 알 수 있습니다. 그 시각과 배가 있는 곳의 시각의 차이가 곧 경도의 차이입니다. 영국 의회는 1765년 이 공헌으로 오일러에게 300파운드를 주었습니다. 표와 급수의 관계는 「한 점에서 전부를」 6절에서 다뤘습니다.

위: 오일러의 일생과 그 공식이 한 세기 반 뒤 전기 공학과 양자역학에 들어가기까지. 아래: 바젤–페테르부르크–베를린–페테르부르크로 이어진 오일러의 길(노랑)과, 대서양을 건넌 스타인메츠의 길.

한 세기 반 뒤 이 공식은 발전소에 들어갔습니다. 1880–90년대에는 전력망의 표준을 두고 두 방식이 겨루고 있었습니다. 발명가 에디슨이 민 직류는 한 방향으로만 흐르는 전류이고, 사업가 웨스팅하우스와 발명가 테슬라가 민 교류는 흐르는 방향이 1초에 수십 번씩 오가는 전류입니다. 그때 교류 회로의 계산은 매번 미분방정식⁠(differential equation)⁠을 풀어야 하는 골칫거리였습니다.

해법을 내놓은 사람은 이민자 기술자였습니다. 독일에서 사회주의 활동으로 쫓기다 미국으로 건너온 찰스 스타인메츠는 1893년 시카고의 국제 전기 회의에서 새 방법을 발표했습니다. 전압과 전류를 $e^{i\omega t}$처럼 도는 복소수로 적자는 것입니다. 여기서 $\omega$('오메가')는 1초에 도는 각도입니다. 그러면 3절의 규칙대로 $e^{i\omega t}$를 시간으로 미분한 값은 $i\omega e^{i\omega t}$이니, 미분이 $i\omega$를 곱하는 일로 바뀌어 회로 계산이 복소수의 대수(곱하고 나누는 셈)가 됩니다. 3절에서 본 "미분하면 $i$가 곱해진다"는 사실이 바로 그 열쇠이고, 5절의 나선은 감쇠하는 회로의 그림입니다. 같은 해 시카고 만국박람회장은 교류 전등으로 밝혀졌습니다(교류의 파형은 「원에서 파동으로」).

1926년 취리히에서 일하던 오스트리아의 물리학자 에르빈 슈뢰딩거가 파동방정식⁠(wave equation)⁠을 발표했습니다. 원자 속 전자 같은 입자의 상태가 시간에 따라 어떻게 바뀌는지 적는 식인데, 이 식에는 $i$가 직접 들어 있습니다. 양자역학에서 입자의 상태는 복소수로 적히고, 에너지가 정해진 상태는 시간이 흐르면 에너지에 비례하는 빠르기로 $e^{-iEt/\hbar}$처럼 원을 돕니다($E$는 에너지, $\hbar$('에이치 바')는 양자역학의 기본 상수인 플랑크 상수를 $2\pi$로 나눈 값입니다). 데카르트가 '상상의' 것이라 부른 수가 세계를 적는 언어의 일부가 된 것입니다.

8 · 이어지는 길원이 다시 나오는 곳

'복소수를 곱하면 돈다'는 생각은 수학 곳곳에서 다시 나옵니다. 아래는 이 연재와 다른 글에서 이어지는 길들입니다.

• 평면 전체를 돌리면: $e^{i\theta}$를 곱하는 일을 행렬로 쓰면 회전 행렬⁠(rotation matrix)⁠이 되고, 그 고유값이 다시 $e^{\pm i\theta}$입니다. 고유값은 화살표를 같은 직선 위에 둔 채 늘이거나 줄이거나 뒤집기만 하는 배율인데(6절), 회전은 모든 실수 화살표의 방향을 바꾸므로 이 배율은 복소수 화살표에서만 나타납니다. 베셀과 가우스에서 해밀턴의 사원수⁠(quaternion)⁠로 이어지는 역사도 함께 다음 글 「곱셈은 회전이다」에 있습니다.
• 파동을 원으로: 모든 주기 신호를 $e^{in\theta}$들, 곧 서로 다른 빠르기로 도는 점들의 합으로 쪼개는 것이 푸리에 급수입니다. 열의 흐름에서 해저 전신까지 그 역사는 「원에서 파동으로」에 있습니다.
• 원을 n등분하면: 4절의 1의 거듭제곱근을 이용해 푸리에 계수를 곱셈 약 N²번 대신 N log N번 정도로 계산하는 것이 고속 푸리에 변환⁠(fast Fourier transform)⁠입니다. N이 100만이면 N²은 1조이지만, N log N(밑이 2인 로그)은 약 2천만입니다. 1965년 쿨리와 튜키가 발표했지만, 가우스가 1805년 무렵 소행성 궤도⁠(orbit)⁠를 보간⁠(interpolation)⁠하며 같은 요령을 쓴 원고가 남아 있습니다(「짧게 보내기」, 「잃어버린 소행성」).
• 복소수로 소수⁠(prime number)⁠를: 리만은 오일러의 제타 함수⁠(zeta function)⁠에 복소수를 넣고, 소수의 분포를 그 함수가 0이 되는 점들로 다시 적었습니다(리만 제타 함수⁠(Riemann zeta function)⁠, 「소수를 세는 사람들」).
• 없다는 것의 증명: 6절의 3차·4차방정식 풀이 경쟁은 5차방정식에서 멈췄습니다. 근의 공식이 없음을 보인 아벨과 갈루아의 이야기는 「불가능의 증명」에서 이어집니다.
• 카르다노의 다른 얼굴: 『아르스 마그나』의 저자는 이름난 도박꾼이기도 해서, 두 주사위의 36가지 결과를 따지며 '똑같이 일어날 만한 경우'를 세는 책도 썼습니다(「도박판에서 온 편지」).