표현 바꾸기
같은 대상도 어떻게 적느냐에 따라 어려운 문제가 쉬운 문제로 바뀐다. 자릿값 표기, 곱셈을 덧셈으로 바꾸는 로그, 좌표와 고유벡터(eigenvector), 사인파(sinusoid)의 합, 생성함수(generating function), 지도를 지운 그래프, 식을 수로 바꾼 괴델 수(Gödel number)까지, 문제를 푸는 대신 문제를 옮겨 적는 생각.
XLVIII × XXIV를 로마 숫자 그대로 곱해 보세요. 쉽지 않습니다. 48 × 24는 초등학생도 합니다. 두 문제는 같은 문제이고, 달라진 것은 수를 적는 방법뿐입니다. 수학의 큰 진전 가운데 적지 않은 것이 새 정리가 아니라 새 표기에서 왔습니다. 문제를 그대로 붙잡고 씨름하는 대신, 문제가 쉬워 보이는 언어로 옮겨 적고, 거기서 풀고, 다시 옮겨 오는 것입니다. 번역하고, 풀고, 되돌린다. 이 세 걸음이 분야를 가리지 않고 되풀이됩니다.
자릿값. 오늘날의 십진 자릿값 표기는 인도에서 자라, 9세기 바그다드 지혜의 집 주변의 알콰리즈미와 알킨디의 책을 통해 이슬람 세계에 퍼졌고, 1202년 피보나치의 『산반서』가 이탈리아 상인들에게 소개했습니다(진법, positional notation). 자리마다 10의 거듭제곱을 맡기니 곱셈이 한 자리 곱셈표와 받아올림으로 쪼개지고, 알고리즘(algorithm)이라는 낱말 자체가 알콰리즈미의 이름에서 왔습니다. 조선의 산학자들이 셈판 위에 산가지(counting rods)를 벌여 놓고 계산한 것도 자릿값 표기였습니다(조선의 산학). 밑을 바꾸면 보이는 것이 달라집니다. 2진법에서 자리 하나는 '있다/없다'의 선택이라 k자리 2진수는 k개짜리 집합(set)의 부분집합(subset)과 짝을 이루고, 라이프니츠가 1703년 논문에서 다룬 이 표기가 불의 논리와 만나 컴퓨터의 언어가 되었습니다. 3진법(ternary)으로 적으면 칸토어 집합(Cantor set)이 '숫자 1을 쓰지 않고 적을 수 있는 수들'이라는 한 줄로 정의됩니다.
곱셈을 덧셈으로. 16세기 말 천문학자와 항해사는 큰 수의 곱셈에 파묻혀 있었습니다. 1614년 에든버러 근교의 영주 존 네이피어가 발표한 로그는 곱셈을 덧셈으로 옮기는 번역표였고, 이듬해 런던의 수학자 헨리 브리그스가 그를 찾아가 논의한 끝에 밑이 10인 로그표가 나왔습니다.
좌표와 기저. 1637년 데카르트의 『기하학』과 비슷한 무렵의 페르마의 원고는 곡선을 두 수 사이의 방정식으로 옮겨 적었습니다. 원은
사인파의 합으로. 에콜 폴리테크니크에서 가르친 적이 있는 푸리에는 1807년 쇠막대 속 열의 흐름을 풀며, 어떤 처음 온도 분포든 사인파들의 합으로 쪼갤 수 있다고 주장했습니다. 사인파 하나는 열방정식(heat equation) 아래에서 모양을 지킨 채 제 빠르기로 식을 뿐이니, 뒤엉킨 편미분방정식(partial differential equation)이 서로 상관없는 수많은 한 변수 문제로 번역됩니다. 심사를 맡은 라그랑주가 삼각급수(trigonometric series)로 아무 함수(function)나 나타낼 수 있다는 데 반대해 논문은 오래 출판되지 못했지만, 이 번역은 결국 물리학과 공학의 공용어가 되었습니다(푸리에 급수(Fourier series)). 계수를 구하는 일은 함수를 각 사인파 방향으로 정사영(orthogonal projection)하는 일이고, 한 신호를 밀어 가며 다른 신호와 곱해 더하는 합성곱(사진을 흐리게 하거나 소리에 메아리를 넣는 계산이 그 예)은 진동수(frequency)의 세계에서 그냥 곱셈이 됩니다. JPEG는 8×8 조각을 이산 코사인 변환(discrete cosine transform)으로 옮겨 눈에 덜 띄는 높은 진동수를 거칠게 적고, 표본화 정리(sampling theorem)도 진동수의 세계에서 보면 거의 당연한 말이 됩니다. 이 번역이 계산에서 실용이 된 것은 1965년 IBM의 제임스 쿨리와 벨 연구소와 프린스턴의 통계학자 존 튜키가 분할 정복(divide and conquer)으로 계산량을
수열을 함수로. 세는 문제도 번역됩니다. 수열
지도를 지우고 관계만. 1735년 오일러는 쾨니히스베르크의 일곱 다리 문제에서 강과 섬의 모양을 모두 지우고 땅을 점, 다리를 선으로 바꾸었습니다(그래프, 오일러 경로(Euler path)). 이렇게 옮기고 나면 답은 꼭짓점(vertex)마다 이어진 선의 수를 세는 일로 줄어듭니다. 지도 칠하기도 나라를 점으로, 이웃함을 선으로 바꾸면 그래프 문제가 되고(4색 정리(four color theorem)), 그래프는 다시 행렬로 번역됩니다. 링크 구조를 전이 행렬(transition matrix)로 적으면 웹 페이지의 중요도는 고유값 1의 고유벡터가 됩니다(페이지랭크(PageRank)). 낱말을 수백 차원의 벡터(vector)로 옮기는 단어 임베딩(word embedding)은 뜻이 비슷하다는 막연한 말을 코사인 유사도(cosine similarity)라는 기하로 바꿉니다.
논리를 대수로, 식을 수로. 1854년 불은 참과 거짓을 1과 0으로 두고 논리를 불 대수(Boolean algebra)로 옮겼고, 1937년 섀넌은 석사 논문에서 스위치 회로가 바로 그 대수를 따른다는 것을 보여 회로 설계를 식 계산으로 바꾸었습니다. 1931년 괴델은 식과 증명을 소인수분해(prime factorization)로 되찾을 수 있는 수로 바꾸어, 산술이 자기 자신의 증명에 대해 말하게 했습니다(불완전성 정리, incompleteness theorem). 중국인의 나머지 정리(Chinese remainder theorem)는 큰 수 하나를 서로소(coprime)인(공약수가 1뿐인) 수들로 나눈 나머지 여러 개로 번역해(이를테면 0부터 14까지의 수는 3으로 나눈 나머지와 5로 나눈 나머지의 짝으로 하나씩 정해집니다), 큰 수의 곱셈을 서로 상관없는 작은 곱셈들로 쪼갭니다.
번역의 값. 번역은 공짜가 아닙니다. 옮기고 되돌리는 계산이 문제를 직접 푸는 것보다 비싸면 소용이 없고, 푸리에의 번역이 컴퓨터에서 실용이 된 것이 고속 푸리에 변환 뒤였던 까닭이 그것입니다. 어떤 번역은 무언가를 숨기거나 비틉니다. 불연속인 계단을 사인파로 적으면 계단 근처에서 항을 아무리 늘려도 약 9%의 뿔이 남고(깁스 현상, Gibbs phenomenon), 평면을 한 방향으로 미는 층밀림(shear) 행렬처럼 고유벡터가 모자란 행렬은 고유벡터 좌표로 아예 옮길 수 없습니다. 좋은 표기가 늘 환영받은 것도 아닙니다. 1299년 피렌체의 환전상 조합이 장부에 인도–아라비아 숫자를 쓰지 못하게 했다는 기록이 흔히 인용되는데, 고쳐 쓰기 쉬운 숫자가 속임수에 쓰일까 걱정했다는 설명이 따라붙습니다. 그리고 가장 놀라운 번역은 전혀 다른 두 세계가 같은 구조임을 드러낼 때입니다. 오일러 공식(Euler's formula)은 지수함수(exponential function)와 회전(rotation)을, 1의 거듭제곱근(roots of unity)은 정다각형(regular polygon)과 나머지 산술을 같은 것으로 보이게 했습니다. 번역의 가장 일반적인 형태는 범주론(category theory)에 있습니다. 대상의 속을 들여다보는 대신 다른 모든 대상에서 그 대상으로 오는 화살표 전체로 적어도 대상이 동형(isomorphism)인 것까지 정확히 정해진다는 것이 요네다 보조정리(Yoneda lemma)입니다.
이어지는 곳. 좋은 좌표는 대개 문제의 대칭을 따라 잡은 좌표이고, 그 이야기는 대칭과 불변량(invariant)에 있습니다. 함수와 그 푸리에 계수처럼 두 표현이 서로를 비추는 짝은 쌍대성(duality)으로, 휘어진 문제를 곧은 문제로 옮기는 번역은 선형화(linearization)로 이어집니다. 식을 수로 바꾼 괴델 수가 어떻게 역설을 정리로 바꾸었는지는 자기 참조(self-reference)와 대각선에서, 높은 진동수를 버리는 압축이 왜 통하는지는 근사와 오차에서 볼 수 있습니다.
이 생각이 나오는 긴 글
이 생각을 언급하는 페이지
- 위상수학
… 쌓아 올리는 이야기는 기술 집합론입니다. 거리를 버리고 이어짐만 남기는 생각은 국소에서 전체로와표현 바꾸기로 이어집니다. 도형을 그 모양을 보존하는 변환으로 분류하는 관점은 사영기하와 펠릭스 클라인의 …
- 사영기하
… 계산은 행렬과 선형변환으로, 무한히 먼 점을 더해 예외를 없애는 생각은 무한을 다루는 법과표현 바꾸기로 이어집니다. 점과 직선을 맞바꾸는 쌍대성은 쌍대성에서 다른 분야의 쌍대와 나란히 놓입니다. 변환으로 …
- 원뿔곡선
… 닫힌 집합이 아닌' 예로도 등장합니다. 같은 도형을 좌표로도, 원뿔로도, 초점과 준선으로도 보는 일은표현 바꾸기의 좋은 예입니다.
- 호모토피 타입 이론
… 공간과 무한 군류를 같은 것으로 보자는 그로텐디크의 호모토피 가설이 그 배경에 있습니다.표현 바꾸기: '동형인 것은 같다'를 규칙으로 삼는 일가성은 이 큰 생각을 기초에 새겨 넣은 것입니다. ⟦증명 …
- 함자
… 어떻게 가능한지는 다형성에서 이어집니다. 기본군이 보여 준 '공간을 대수로 옮기기'는 위상수학과표현 바꾸기에서 더 볼 수 있습니다. 공변 함자와 반변 함자의 구별은 프로그래밍에서 하위 타입의 공변·반변으로 그대로 …
- 요네다 보조정리
… 순서의 경우는 수를 약수의 목록으로 표현하는 일입니다. 대상을 속 대신 관계들로 표현한다는 생각은표현 바꾸기의 가장 추상적인 모습이며, 원소 대신 화살표를 보는 태도는 범주론 전체의 방법입니다. '동형인 것은 …