길이 1인 선분에서 출발해 눈금 없는 자와 컴퍼스만으로 그릴 수 있는 길이. 사칙연산과 제곱근을 몇 번이고 거듭해 얻는 수와 정확히 같아서, 차수가 2의 거듭제곱인 대수적 수(algebraic number)만 작도된다. 그래서 ∛2(정육면체 두 배), cos 20°(60°의 삼등분), √π(원의 넓이(area))는 작도할 수 없다.
한 변이 1인 정사각형의 대각선을 그리면 길이 √2가 생깁니다. 무리수(irrational number)이지만 자와 컴퍼스로는 한 번에 그려집니다. 그렇다면 자와 컴퍼스로 그릴 수 있는 길이는 정확히 어떤 수일까요? 여기서 자는 두 점을 잇는 직선만 긋는 눈금 없는 자이고, 컴퍼스는 중심과 원 위의 한 점으로 원을 그립니다. 길이 1인 선분 하나에서 출발해 이 두 도구로 얻는 길이를 작도 가능한 수라고 합니다.
먼저 할 수 있는 일을 모아 봅시다. 두 길이를 이어 붙이면 합, 겹쳐 놓으면 차가 되고, 닮은 삼각형을 그리면 곱과 몫이 됩니다(1637년 데카르트의 『기하학』). 제곱근도 됩니다. 아래 그림에서 길이 1과 길이 a를 한 줄로 이어 놓고, 전체를 지름으로 하는 반원을 그린 다음, 이음매에서 수직선을 세웁니다. 반원에 닿는 높이가 a입니다. 노란 점을 끌어 a를 바꿔 보세요:
파란 선분은 길이 1, 노란 선분은 길이 a, 청록 수직선이 높이 h입니다. 반원 위의 점에서 지름의 두 끝을 잇는 두 선분(흐린 선)은 서로 수직입니다.
까닭은 반원의 성질에 있습니다. 반원 위의 점과 지름의 두 끝을 이으면 그 각은 언제나 직각이고, 직각삼각형(right triangle)에서 직각인 꼭짓점(vertex)에서 빗변(hypotenuse)에 내린 수선(perpendicular)의 길이 h는 빗변을 나눈 두 조각의 곱의 제곱근입니다. 두 작은 삼각형이 닮아서 h/1=a/h, 곧 h2=a이기 때문입니다. 그러니 1에서 출발해 사칙연산과 제곱근을 몇 번이고 거듭해 얻는 수는 모두 작도됩니다. 2+3이나 21+5(황금비(golden ratio), 정오각형의 대각선) 같은 수가 그렇습니다.
거꾸로도 성립합니다. 작도에서 새 점은 두 직선, 직선과 원, 두 원이 만나는 곳에만 생깁니다. 좌표로 적으면 직선은 일차식, 원은 (x−p)2+(y−q)2=r2 꼴이라, 두 직선의 교점은 일차방정식으로, 원이 낀 교점은 이차방정식으로 구해집니다(두 원의 식을 빼면 일차식이 되어 직선과 원의 경우로 돌아갑니다). 이차방정식의 근은 계수에서 사칙연산과 제곱근 하나로 나오니, 작도로 새로 얻는 수는 이미 가진 수에 제곱근을 하나 보태 얻는 수뿐입니다. 작도 가능한 수는 1에서 사칙연산과 제곱근으로 얻는 수와 정확히 같습니다.
이 사실에서 불가능이 나옵니다. 사칙연산에 닫힌 수의 모임을 체라고 하고, 유리수(rational number) 전체 ℚ에서 시작해 제곱근을 하나 보탤 때마다 체의 차수(그 체의 수를 적는 데 필요한 유리수의 개수, 예를 들어 a+b2이면 2)는 그대로이거나 두 배가 됩니다. 차수는 층마다 곱해지므로 작도 가능한 수는 모두 차수가 2k인 체 안에 있고, 그 수를 근으로 갖는 가장 낮은 차수의 유리수 계수 다항식(polynomial)의 차수는 2k를 나누어야 합니다. 부피가 두 배인 정육면체의 변 32는 더 쪼개지지 않는 x3−2의 근이라 차수가 3이고, 60°를 셋으로 나눈 각의 코사인(cosine)cos20∘는 8x3−6x−1의 근이라 역시 차수가 3입니다. 3은 어떤 2의 거듭제곱도 나누지 못하니 둘 다 작도할 수 없습니다. 1837년 프랑스의 피에르 방첼이 이렇게 증명했습니다. 반지름 1인 원과 넓이가 같은 정사각형의 변 π는 π가 초월수라서(린데만, 1882) 애초에 어떤 차수도 갖지 않습니다(대수적 수와 초월수, algebraic and transcendental numbers).
정다각형(regular polygon)에도 답이 있습니다. 정n각형을 작도할 수 있는 것은 n이 2의 거듭제곱과 서로 다른 페르마 소수(22m+1 꼴의 소수(prime number)로, 지금까지 알려진 것은 3, 5, 17, 257, 65537 다섯뿐입니다)들의 곱일 때, 그리고 그때뿐입니다. 오일러 피 함수(Euler's totient function)로 말하면 φ(n)이 2의 거듭제곱일 때입니다. 1796년 가우스가 정17각형(regular heptadecagon)을 작도할 수 있음을 보였고, 1801년 『산술 연구』에서 '그때'의 쪽 전체를 증명했습니다. 가우스는 '그때뿐'의 쪽도 주장했지만 증명을 싣지 않았고, 그 증명은 1837년 방첼이 했습니다. 아래 칸에 마우스를 올리거나 칸을 눌러 보세요.
초록 칸은 작도할 수 있는 정다각형, 빨간 칸은 작도할 수 없는 정다각형입니다. 칸을 누르면 위의 설명이 그 n으로 바뀝니다.
두 가지를 조심해야 합니다. 첫째, 작도할 수 없다는 것은 정확히 그릴 수 없다는 뜻입니다. 작도 가능한 수는 수직선 위에 빽빽이 있어서 32에 얼마든지 가까운 길이는 그릴 수 있습니다. 각의 삼등분이 불가능하다는 것도 모든 각에 통하는 방법이 없다는 뜻이고, 90°처럼 셋으로 나뉘는 각도 있습니다. 둘째, 차수가 2의 거듭제곱이라는 것은 필요조건(necessary condition)일 뿐 일반적으로 충분조건(sufficient condition)은 아닙니다. 차수가 4인데 작도할 수 없는 수도 있습니다. 충분한지는 그 수가 속한 방정식의 근들의 대칭, 곧 갈루아 군(Galois group)을 보아야 알 수 있고, 정다각형에서는 그 대칭이 곱셈의 순서를 바꿔도 되는(아벨) 군이라서 차수만으로 판정됩니다. 도구를 바꾸면 답도 바뀝니다. 눈금 두 개를 찍은 자나 종이접기로는 삼차방정식을 풀 수 있어 각의 삼등분과 정육면체 두 배 만들기가 모두 됩니다.
이어지는 곳. 작도의 불가능성은 '허용된 동작이 보존하는 성질을 찾아라'는 불변량(invariant) 논법의 대표 예입니다. 차수가 층마다 곱해진다는 사실은 군에서 부분군(subgroup)의 크기가 전체 크기를 나눈다는 라그랑주 정리와 닮았고, 그 둘을 잇는 것이 갈루아 이론입니다. 5차방정식의 근의 공식(quadratic formula)이 없다는 갈루아와 아벨의 정리는 제곱근 대신 모든 거듭제곱근을 허용했을 때의 같은 질문입니다. 정17각형의 비밀인 1의 거듭제곱근(roots of unity)과 원시근(primitive root)은 정수론(number theory) 쪽에서, 자와 컴퍼스 밖의 도구로 그리스인들이 쓴 원뿔곡선(conic section)은 기하(geometry) 쪽에서 이어집니다.