대칭과 불변량(Symmetry and invariants)

가로세로 8칸짜리 체스판에서 마주 보는 두 귀퉁이 칸을 떼어 냈습니다. 남은 62칸을 두 칸짜리 도미노 31개로 빈틈없이 덮을 수 있을까요? 놓는 방법을 하나하나 시도하면 끝이 없습니다. 그런데 칸의 색을 보면 한 줄로 끝납니다. 도미노는 어디에 어떻게 놓든 흰 칸 하나와 검은 칸 하나를 덮습니다. 마주 보는 귀퉁이는 색이 같으니 남은 판에는 한 색이 두 칸 더 많고, 그러니 불가능합니다. 도미노를 아무리 옮겨 놓아도 변하지 않는 양, '덮인 흰 칸 수 − 덮인 검은 칸 수 = 0'이 답을 정한 것입니다. 이 페이지는 이 한 가지 수법, 무엇을 바꿔도 변하지 않는 것을 찾아라가 수학의 여러 분야에서 어떻게 되풀이되는지를 따라갑니다. 변하지 않는 양을 불변량⁠(invariant)⁠이라 하고, 무언가를 바꿔도 전체가 그대로인 성질을 대칭이라 합니다. 둘은 자주 함께 다닙니다. 대칭에서 불변량이 나오는 일이 많고(아래의 뇌터 정리⁠(Noether's theorem)⁠가 가장 유명한 예입니다), 불변량을 따라가다 숨은 대칭이 드러나기도 합니다.

아래 판에서 칸 두 개를 눌러 떼어 내 보세요. 떼어 낸 칸을 다시 누르면 되돌아옵니다. 마주 보는 귀퉁이 모두 되돌리기

색이 다른 두 칸을 떼어 내면 색 불변량은 아무것도 막지 않습니다. 그리고 이 경우에는 실제로 언제나 덮을 수 있습니다. 흐린 선처럼 모든 칸을 한 번씩 지나는 고리(그래프의 말로 해밀턴 회로⁠(Hamiltonian cycle)⁠)를 하나 그려 두면, 떼어 낸 두 칸이 고리를 짝수 길이의 조각 둘로 자르고, 조각마다 앞에서부터 두 칸씩 묶으면 되기 때문입니다. 이 작은 실험이 이 페이지 전체의 줄거리를 담고 있습니다. 불변량은 '불가능하다'를 증명하는 데 탁월하지만, 불변량이 막지 않는다고 해서 '가능하다'가 저절로 나오지는 않습니다. 가능하다는 쪽은 대개 구체적인 구성이 따로 필요합니다.

그래프와 순열⁠(permutation)⁠: 홀짝이라는 불변량. 1735년 오일러는 쾨니히스베르크의 일곱 다리 문제를 같은 수로 풀었습니다. 산책이 어떤 땅을 지나갈 때마다 들어가는 다리 하나와 나오는 다리 하나를 쓰니, 출발점과 도착점이 아닌 땅에 붙은 다리 수는 짝수여야 합니다. 길을 어떻게 바꿔도 '다리 수의 홀짝'이라는 조건은 그대로이고, 홀수인 땅이 넷이니 불가능합니다(오일러 경로⁠, Euler path⁠). 꼭짓점⁠(vertex)⁠에 붙은 변의 수를 그 꼭짓점의 차수라 하는데, 모든 꼭짓점의 차수를 더하면 변마다 양 끝에서 두 번씩 세어지니 늘 짝수이고, 그래서 홀수 차수인 꼭짓점은 언제나 짝수 개라는 것도 같은 종류의 셈입니다. 순열에도 홀짝이 있습니다. 두 개를 맞바꾸는 일을 몇 번 해서 한 순서를 다른 순서로 바꾸든 그 횟수의 홀짝은 정해져 있어서, 4×4 판에서 빈칸 옆의 조각을 밀어 옮기는 열다섯 조각 퍼즐에서, 가지런한 배치로부터 14와 15만 뒤바뀐 배치는 어떻게 밀어도 만들 수 없습니다. 빈칸이 제자리로 돌아오는 밀기는 언제나 맞바꾸기를 짝수 번 한 셈인데, 14와 15만 바꾼 배치는 맞바꾸기 한 번, 곧 홀수 번이기 때문입니다. 불변량을 증명하는 도구는 대개 수학적 귀납법⁠(mathematical induction)⁠입니다. 한 걸음이 불변량을 지킨다는 것만 보이면 몇 걸음을 가도 지켜집니다. 유클리드 호제법⁠(Euclidean algorithm)⁠이 옳은 까닭은 큰 수를 나머지로 바꿔도 최대공약수⁠(greatest common divisor)⁠가 그대로라는 불변량이고, 토니 호어의 논리는 반복문마다 한 바퀴를 돌아도 참으로 남는 조건, 곧 '루프 불변식⁠(loop invariant)⁠'을 적어 프로그램이 옳다는 것을 증명하게 합니다.

곡면: 잘게 나눠도 남는 수. 볼록 다면체의 꼭짓점 수 V, 모서리 수 E, 면 수 F 사이에는 $V - E + F = 2$라는 관계가 있습니다. 오일러가 1750년 무렵 찾은 이 식은 도형을 어떻게 잘게 나눠도 변하지 않습니다. 면 하나에 대각선을 그으면 E와 F가 하나씩 늘고, 모서리 한가운데에 점을 찍으면 V와 E가 하나씩 늘어 값은 그대로입니다. 그러니 이 수는 나누는 방식이 아니라 곡면 자체의 성질이고, 오일러 지표라 부릅니다. 구 위에서는 2, 구멍이 하나 뚫린 도넛 모양 곡면 위에서는 0입니다. 곡면을 찢거나 붙이지 않고 늘이고 구부리기만 해서는 바뀌지 않는 이런 성질을 다루는 분야가 위상수학⁠(topology)⁠입니다. 평면 지도에 나라가 몇 개든 이웃이 다섯 이하인 나라가 반드시 있다는 사실, 그래서 4색 정리⁠(four color theorem)⁠로 가는 첫걸음인 다섯 색 정리가 이 식에서 나옵니다. 괴팅겐 천문대장으로 하노버 왕국의 측량까지 이끈 가우스는 1827년, 곡면을 늘이지 않고 구부리기만 하면 가우스 곡률⁠(Gaussian curvature)⁠이 변하지 않는다는 정리를 발표하고 스스로 '빼어난 정리⁠(Theorema Egregium)⁠'라 불렀습니다. 가우스 곡률은 곡면이 한 점에서 얼마나 휘었는지를 재는 수로, 구처럼 모든 방향으로 같은 쪽으로 휘면 양수, 말안장처럼 방향에 따라 반대쪽으로 휘면 음수, 평면과 원기둥에서는 0입니다. 종이를 말아 원기둥은 만들어도 구의 지도를 왜곡 없이 펼 수 없는 까닭입니다(구면기하⁠(spherical geometry)⁠). 뒤에 이 두 불변량은 가우스–보네 정리⁠(Gauss–Bonnet theorem)⁠로 만났습니다. 경계 없이 닫힌 곡면에서 점마다의 곡률⁠(curvature)⁠을 넓이⁠(area)⁠에 걸쳐 모두 더하면(적분⁠(integral)⁠하면), 곡면을 어떻게 주무르든 그 합은 $2\pi(V - E + F)$입니다. 반지름 r인 구라면 곡률은 어디서나 $1/r^2$이고 넓이는 $4\pi r^2$이니 합은 $4\pi = 2\pi \cdot 2$이고, 구를 찌그러뜨려 어떤 곳은 더 휘고 어떤 곳은 덜 휘게 해도 합은 그대로입니다.

복소수⁠(complex number)⁠와 정수론⁠(number theory)⁠: 돌려도 같은 다각형. n제곱해서 1이 되는 복소수, 곧 1의 n제곱근 $1, \omega, \omega^2, \dots, \omega^{n-1}$은 단위원⁠(unit circle)⁠ 위의 정n각형을 이룹니다. ω는 한 바퀴의 n분의 1만큼 도는 복소수이고, 복소수를 곱하는 일은 평면에서 돌리는 일이므로, 여기에 ω를 곱하면 각 점이 한 칸씩 돌아갈 뿐 집합⁠(set)⁠ 전체는 그대로입니다. 그러니 합 S도 $\omega S = S$이고, $\omega \ne 1$이니 $S = 0$입니다. 계산 없이 대칭만으로 나온 답입니다. 조금 넓혀서 $\omega^{jk}$들을 더하면 어떻게 될까요? $n =$ , $j =$ 일 때

j가 n의 배수⁠(multiple)⁠일 때만 화살표가 한 방향으로 늘어서고, 나머지 모든 경우에는 사슬이 닫힌 다각형이나 별이 되어 제자리로 돌아옵니다. 이 'j가 n의 배수가 아니면 합이 0'이라는 사실이 이산 푸리에 변환⁠(discrete Fourier transform)⁠, 곧 표본⁠(sample)⁠ n개를 진동수⁠(frequency)⁠가 서로 다른 사인파 성분들로 나누는 계산의 직교성입니다. 성분들이 서로 섞이지 않아서, 각 성분의 크기를 따로따로 구할 수 있다는 뜻입니다. 이 계산을 곧이곧대로 하면 곱셈이 $n^2$번쯤 드는데, 1의 거듭제곱근의 대칭을 써서 절반 크기의 계산 둘로 나누기를 되풀이하면(분할 정복⁠, divide and conquer⁠) $n \log_2 n$번쯤으로 줄어듭니다. 1965년 쿨리와 존 튜키가 널리 알린 고속 푸리에 변환입니다. 같은 논법이 정수론에도 있습니다. 소수⁠(prime number)⁠ p와 서로소⁠(coprime)⁠인(1 말고는 공약수가 없는) a를 1, 2, …, p − 1에 곱하면 p로 나눈 나머지⁠(remainder)⁠들이 뒤섞일 뿐 집합은 그대로이니, 모두 곱한 값도 같습니다. p = 7, a = 3이면 3, 6, 9, 12, 15, 18의 나머지는 3, 6, 2, 5, 1, 4로, 1부터 6까지가 순서만 바뀌어 다시 나옵니다. 그러니 $a^{p-1}(p-1)! \equiv (p-1)!$이고, $(p-1)!$은 p의 배수가 아니라 양변에서 지울 수 있으니 $a^{p-1} \equiv 1 \pmod p$, 곧 페르마의 소정리가 나옵니다(오일러 피 함수와 페르마 소정리⁠(Euler's totient function and Fermat's little theorem)⁠, 원시근⁠(primitive root)⁠). 열여덟 살의 가우스는 1796년 1의 17제곱근들이 이루는 대칭의 구조를 따져 정17각형⁠(regular heptadecagon)⁠을 자와 컴퍼스로 그릴 수 있음을 보였고, 1830년 무렵 에바리스트 갈루아는 방정식의 근들을 서로 맞바꾸는 대칭의 구조로, 그 방정식의 근을 계수에서 사칙연산과 거듭제곱근만으로 적을 수 있는지를 판정하는 이론을 세웠습니다. 이런 대칭들의 모임이 이루는 구조를 군이라 합니다. '근을 바꿔도 변하지 않는 식'을 찾는다는 생각은 여기서 본 것과 같습니다.

선형대수⁠(linear algebra)⁠: 변하지 않는 방향. 선형변환⁠(linear transformation)⁠은 대부분의 방향을 돌려놓지만 몇몇 방향은 제자리에 둡니다. 그 방향이 고유벡터이고, $A\vec v = \lambda \vec v$는 '이 직선은 변환해도 그대로'라는 불변성의 식입니다. 고유벡터만으로 좌표축을 모두 채울 수 있으면, 그 방향들을 축으로 삼을 때 행렬⁠(matrix)⁠이 축마다 늘이기만 하는 모양이 되니(대각화⁠(diagonalization)⁠) 거듭제곱이 쉬워지고, 그래서 피보나치 수열⁠(Fibonacci sequence)⁠의 이웃한 두 항의 비가 황금비⁠(golden ratio)⁠로 갑니다. 한 걸음 더 가면, 한 단계 옮겨 가는 확률⁠(probability)⁠ 규칙(전이)을 한 번 더 적용해도 그대로인 확률 분포가 마르코프 연쇄⁠(Markov chain)⁠의 정상 분포⁠(stationary distribution)⁠이고, 웹 전체에 대한 그 분포가 페이지랭크⁠(PageRank)⁠입니다. 0°나 180°가 아닌 회전⁠(rotation)⁠처럼 실수⁠(real number)⁠ 고유벡터가 없는 변환도 길이와 각도라는 다른 불변량을 가집니다. 좌표를 어떻게 바꿔도 행렬식⁠(determinant)⁠과 고유값⁠(eigenvalue)⁠은 그대로여서, 이것들은 표가 아니라 변환 자체의 성질입니다. 여러 측정값이 저마다 흩어지는 정도와 둘씩 함께 움직이는 정도를 모은 공분산 행렬⁠(covariance matrix)⁠처럼, 대각선을 축으로 접으면 겹치는 실수 대칭 행렬⁠(symmetric matrix)⁠은 서로 수직인 고유벡터들로 좌표축을 모두 채울 수 있으며, 데이터가 가장 넓게 퍼진 방향을 찾는 주성분 분석⁠(principal component analysis)⁠이 이 사실 위에 있습니다.

열과 파동: 옮겨도 같은 법칙. 막대를 따라 열이 퍼지는 법칙은 막대 위 어디에서나 같습니다. 온도 분포 전체를 옆으로 옮겨 놓고 식히나, 식힌 뒤에 옮기나 결과가 같다는 뜻이고, 이것이 평행이동 대칭입니다. 두 해를 더하면 다시 해가 되는 법칙을 선형이라 하는데, 이런 대칭을 가진 선형 법칙은 모두 복소 지수 $e^{ikx}$를 모양 그대로 두고 (복소수) 배만 합니다. 실수로 말하면, 한 진동수의 사인파는 진폭⁠(amplitude)⁠과 위상⁠(phase)⁠만 바뀐 같은 진동수의 사인파가 됩니다. $e^{ikx}$는 평행이동이라는 대칭의 고유벡터이기 때문입니다. $a$만큼 옮기면 $e^{ik(x+a)} = e^{ika}\,e^{ikx}$로 상수배가 될 뿐입니다. 푸리에가 열방정식⁠(heat equation)⁠을 푸리에 급수⁠(Fourier series)⁠로 푼 것, 파동방정식⁠(wave equation)⁠의 해가 모드(저마다 한 진동수로만 떠는 기본 모양)들의 합인 것, 그리고 원형으로 이어진 격자에서 '이웃과 평균⁠(mean)⁠ 내기' 같은 연산의 고유벡터가 위 그림의 1의 거듭제곱근으로 만든 벡터⁠(vector)⁠인 것이 모두 같은 이유입니다. 푸리에는 에콜 폴리테크니크에서 가르쳤고, 이집트 원정에 동행했다가 돌아와 그르노블의 지사로 일하던 시기에 열의 이론을 썼습니다. JPEG의 이산 코사인 변환⁠(discrete cosine transform)⁠이 사진을 코사인⁠(cosine)⁠으로 쪼개는 것도, 표본을 고르게 뽑는 한 표본화 정리⁠(sampling theorem)⁠가 진동수로 말해지는 것도 이 대칭 덕분입니다.

물리와 확률: 대칭이 낳는 보존. 1915년 힐베르트는 중력을 시공간⁠(spacetime)⁠의 휘어짐으로 설명하는 일반 상대성 이론⁠(general relativity)⁠에서 에너지 보존이 어떻게 성립하는지를 함께 풀려고 에미 뇌터를 괴팅겐으로 불렀습니다. 여성이라는 이유로 교수 자격 심사가 몇 해 동안 막히는 가운데 그녀는 1918년 논문에서 뇌터 정리를 증명했습니다. 정리가 다루는 것은 작용 원리로 적히는 물리 법칙, 곧 '작용'이라는 양이 극값이 되는 경로(흔히 작용이 가장 작은 경로)를 자연이 따른다는 형태의 법칙입니다. 이런 법칙이 연속적인 대칭, 곧 회전 각도처럼 얼마든지 조금씩 바꿀 수 있는 변환에 대한 대칭을 가지면, 그 대칭마다 시간이 흘러도 값이 변하지 않는 양(보존량⁠, conserved quantity⁠)이 하나씩 생깁니다. 법칙이 시간이 흘러도 그대로이면 에너지가, 장소를 옮겨도 그대로이면 운동량⁠(momentum)⁠이, 방향을 돌려도 그대로이면 각운동량이 보존됩니다. 확률에도 작은 보존 법칙이 있습니다. 공정한 게임⁠(impartial game)⁠에서는 판마다 가진 돈의 기댓값⁠(expected value)⁠이 그대로입니다. 아래처럼 게임이 확률 1로 끝나고 돈이 0과 N 사이에 갇혀 있으면, 게임이 끝나는 순간의 기댓값도 처음과 같아야 하고, 여기서 도박꾼의 파산⁠(gambler's ruin)⁠의 답이 계산 없이 나옵니다. k원으로 시작해 한 판에 1원씩 걸고, N원이 되거나 0원이 되면 멈춘다고 합시다. N원에 닿을 확률을 q라 하면 끝났을 때 돈의 기댓값은 qN이고, 이것이 처음의 k와 같아야 하니 q = k/N입니다. 오른쪽과 왼쪽이 대칭인 무작위 행보⁠(random walk)⁠에서는 기준선에 처음 닿은 뒤의 길을 거울처럼 뒤집어 '기준선에 닿는 길'과 '다른 끝점으로 가는 길'을 하나씩 짝짓는 반사 논법이 길의 수를 세어 줍니다. 2n걸음 만에 출발 높이로 돌아오면서 그 아래로 한 번도 내려가지 않는 길의 수, 곧 카탈랑 수⁠(Catalan number)⁠가 그렇게 나옵니다.

부호: 어느 부호어⁠(codeword)⁠에서 보아도 같은 풍경. 벨 연구소의 리처드 해밍이 1950년 발표한 해밍 부호⁠(Hamming code)⁠는 선형입니다. 두 부호어를 비트마다 더하면(XOR) 다시 부호어가 되니, 부호 전체를 어느 부호어에 서서 보아도 주변 풍경이 똑같습니다. 그래서 부호어끼리의 가장 가까운 해밍 거리⁠(Hamming distance)⁠를 알려면 0이 아닌 부호어 가운데 1이 가장 적은 것 하나만 보면 됩니다. 받는 쪽의 계산도 불변량입니다. 검사 행렬⁠(parity-check matrix)⁠은 부호어에 곱하면 언제나 0이 나오도록 만든 행렬이고, 받은 비트열에 이것을 곱한 결과를 신드롬이라 합니다. 받은 비트열은 보낸 부호어에 오류가 더해진 것이고 곱셈은 더하기를 나누어 받으니, 신드롬에서는 부호어 몫이 0이 되어 사라지고 오류 몫만 남습니다. 그래서 무엇을 보냈든 같은 오류에는 같은 신드롬이 나옵니다. 오류의 위치를 부호어와 상관없이 표 하나로 읽을 수 있는 까닭입니다.

대칭이 깨질 때. 법칙이 대칭이라고 해서 결과까지 대칭인 것은 아닙니다. 막대를 위에서 눌러 가다 보면 곧게 선 대칭 상태가 불안정해지고, 막대는 왼쪽이나 오른쪽 어느 한쪽으로 휩니다. 방정식은 좌우를 가리지 않는데 해는 한쪽을 고르는 이런 현상을 대칭 깨짐⁠(symmetry breaking)⁠이라 하고, 평형 하나가 둘로 갈라지는 갈퀴 모양의 분기⁠(bifurcation)⁠가 그 수학입니다. 로렌츠 끌개⁠(Lorenz attractor)⁠의 방정식은 (x, y)를 (−x, −y)로 바꿔도 그대로이지만, 궤적 하나하나는 두 날개 사이를 제멋대로 오가며 대칭을 깹니다(혼돈⁠, chaos⁠). 물리학자들도 크게 놀란 적이 있습니다. 자연이 거울에 비친 모습과 구별되지 않으리라는 믿음은 1956년 중국계 미국 물리학자 리정다오와 양전닝이 방사성 붕괴를 일으키는 약한 상호작용에서는 이 대칭이 깨질 수 있다고 제안하고, 이듬해 물리학자 우젠슝의 코발트 원자핵 실험이 실제로 깨진다는 것을 보이면서 무너졌습니다. 체스판에서 본 교훈도 남습니다. 불변량이 막지 않는다는 것은 가능하다는 증거가 아닙니다.

이어지는 곳. 점과 직선을 맞바꿔도 정리가 참으로 남는다는 쌍대성⁠(duality)⁠은 이론 전체가 가진 대칭입니다. 고유벡터와 사인파처럼 대칭이 골라 준 축으로 문제를 다시 쓰는 일은 표현 바꾸기에서, 점마다의 곡률이라는 국소 정보를 모아 곡면 전체의 오일러 지표를 얻는 가우스–보네 정리 같은 이야기는 국소에서 전체로에서 이어집니다. 일대일 대응⁠(one-to-one correspondence)⁠으로 무한집합의 크기를 재는 무한을 다루는 법은 '짝지어도 변하지 않는 것'을 크기로 삼은 셈이고, 주사위의 면이 대칭이라서 확률이 1/6이라는 생각은 무작위성의 출발점입니다. 그림을 옮기면 출력도 그만큼 옮겨 가도록 같은 필터⁠(filter)⁠를 모든 위치에 다시 쓰는 합성곱 신경망⁠(convolutional neural network)⁠은 대칭을 모형의 구조에 심어 배워야 할 매개변수⁠(parameter)⁠를 줄인 예입니다. 대칭들의 모임을 주면 그것들이 모두 움직이지 않는 것들의 모임이 정해지고, 거꾸로 것들의 모임을 주면 그것을 모두 제자리에 두는 대칭들의 모임이 정해집니다. 한쪽이 커지면 다른 쪽이 작아지는 이 짝이 갈루아 연결⁠(Galois connection)⁠이고, 갈루아 이론에서 부분군⁠(subgroup)⁠과 중간체가 정확히 짝지어지는 것이 그 가장 유명한 경우입니다.