공리와 공준(Axioms and postulates)

무엇을 증명하려면 이미 참이라고 아는 다른 것에 기대야 하고, 그것을 증명하려면 또 다른 것에 기대야 합니다. 이 거슬러 오르기가 끝없이 이어질 수는 없으니, 어딘가에서 증명 없이 받아들이는 출발점이 필요합니다. 아리스토텔레스가 이미 이렇게 말했고, 그 출발점을 공리라 합니다. 공리⁠(axiom)⁠를 정하고 나면 나머지는 모두 거기서 논리만으로 이끌어 내야 합니다. 기원전 300년 무렵 유클리드의 『원론』은 이 방법으로 쓴 책 가운데 온전히 전하는 가장 오래된 큰 책입니다.

『원론』 1권은 정의 23개 뒤에 두 종류의 출발점을 둡니다. 공준⁠(postulate)⁠ 다섯은 기하⁠(geometry)⁠에 관한 요구입니다. (1) 두 점을 잇는 선분을 그을 수 있다. (2) 선분을 곧게 얼마든지 늘일 수 있다. (3) 어느 점을 중심으로 어떤 반지름의 원이든 그릴 수 있다. (4) 직각은 모두 같다. (5) 두 직선을 가로지르는 직선이 한쪽에 만드는 두 안쪽 각의 합이 두 직각보다 작으면, 두 직선을 늘였을 때 그쪽에서 만난다. 공통 개념 다섯은 모든 학문에 쓰이는 원리로, '같은 것과 같은 것들은 서로 같다', '같은 것에 같은 것을 더하면 같다', '전체는 부분보다 크다' 같은 것들입니다. 옛날에는 뒤의 것을 공리, 앞의 것을 공준이라 불러 구별했지만, 오늘날에는 둘을 가리지 않고 공리라 부릅니다.

다섯째 공준은 앞의 넷보다 길고 덜 당연해 보여서, 2천 년 가까이 많은 이들이 나머지 넷으로 증명하려 했습니다(평행선 공준⁠, parallel postulate⁠). 19세기 초 가우스, 헝가리의 볼리아이 야노시, 로바쳅스키는 이 공준을 부정해도 모순 없는 기하가 생긴다는 것을 알아냈습니다(쌍곡기하⁠, hyperbolic geometry⁠). 1868년 이탈리아의 에우제니오 벨트라미는 유클리드 기하 안에 쌍곡기하의 모형을 만들어, 유클리드 기하에 모순이 없다면 쌍곡기하에도 모순이 없음을 보였습니다. 뒤이어 클라인과 푸앵카레도 모형을 냈습니다(푸앵카레 원판⁠, Poincaré disk⁠). 그러니 유클리드 기하에 모순이 없는 한, 다섯째 공준은 나머지 공리들에서 증명될 수 없습니다. 증명된다면 쌍곡기하의 모형 안에서도 성립해야 하는데, 모형에서는 성립하지 않기 때문입니다.

이 일은 공리가 무엇인지에 대한 생각을 바꾸었습니다. 공리는 누구나 믿을 수밖에 없는 '자명한 진리'가 아니라 게임의 규칙처럼 정하는 약속이 되었습니다. 체스의 규칙이 참인지 묻지 않듯, 공리도 참인지가 아니라 그 규칙에서 무엇이 따라 나오는지를 묻습니다. 1899년 『기하학의 기초⁠(basics)⁠』로 기하의 공리를 다시 세운 힐베르트는 '점, 직선, 평면 대신 언제든 탁자, 의자, 맥주잔이라고 말할 수 있어야 한다'고 했다고 전해집니다. 증명에는 낱말의 뜻이 아니라 공리에 적힌 관계만 써야 한다는 말입니다.

직접 해 봅시다. '점'과 '직선'이 무엇인지는 말하지 않고 규칙 셋만 정합니다. 공리 1. 서로 다른 두 점을 지나는 직선은 정확히 하나다. 공리 2. 모든 직선 위에는 점이 적어도 둘 있다. 공리 3. 한 직선 위에 있지 않은 세 점이 있다. 점 몇 개와, 그 점들을 묶은 '직선'의 목록만 주면 규칙을 지키는지 검사할 수 있습니다. 이렇게 공리를 모두 만족하는 구체적인 예를 공리계의 모형이라 합니다. 모형: . 다른 직선 ℓ 다른 점 P

다섯 모형은 모두 공리 1–3을 지킵니다. 그런데 'P를 지나 ℓ과 만나지 않는 직선의 개수'는 모형마다 다릅니다. 네 점과 아홉 점 모형에서는 언제나 정확히 하나라서 평행선 공준(오늘날 흔히 쓰는 형태)이 성립하고, 세 점 모형과 파노 평면(1892년 이탈리아의 지노 파노가 다룬 일곱 점 기하)에서는 하나도 없고, 다섯 점 모형에서는 둘입니다. 이 작은 예가 벨트라미가 한 일과 같은 구조입니다. 공리 1–3과 '평행선은 정확히 하나'를 함께 만족하는 모형(네 점)이 있으니 이 둘을 함께 받아들여도 모순이 생기지 않고, 공리 1–3은 지키면서 평행선 공준은 어기는 모형(파노 평면⁠, Fano plane⁠)이 있으니 평행선 공준은 공리 1–3에서 증명될 수 없습니다.

이 두 성질에 이름이 있습니다. 공리계에서 어떤 명제와 그 부정이 함께 증명되는 일이 없으면 무모순⁠(consistent)⁠이라 합니다. 모순이 하나라도 증명되면 그 체계에서는 무엇이든 증명되니(모순에서는 아무 결론이나 따라 나옵니다), 무모순은 최소한의 조건입니다. 어떤 공리가 나머지 공리들에서 증명되지 않으면 그 공리는 나머지와 독립⁠(independence)⁠이라 합니다. 무모순은 모형을 하나 보여서, 독립은 그 공리만 어기는 모형을 보여서 증명하는 것이 기본입니다. 다만 모형으로 얻는 무모순은 '모형을 지은 바탕에 모순이 없다면'이라는 조건이 붙은 상대적인 것입니다. 위의 유한한 모형은 하나하나 확인할 수 있지만, 무한한 대상을 다루는 공리계는 그렇게 확인할 수 없습니다.

수에도 공리가 있습니다. 1889년 페아노는 한 해 앞선 데데킨트의 연구를 바탕으로 자연수⁠(natural number)⁠를 이렇게 정했습니다(페아노는 1에서 시작했지만 오늘날에는 흔히 0에서 시작합니다). 0은 자연수다. 모든 자연수 n에는 '다음 수' S(n)이 있다. 0은 어떤 수의 다음 수도 아니다. 다음 수가 같으면 원래 수도 같다. 0에서 성립하고, n에서 성립하면 S(n)에서도 성립하는 성질은 모든 자연수에서 성립한다(수학적 귀납법⁠(mathematical induction)⁠). 1은 S(0), 2는 S(S(0))에 붙인 이름일 뿐이고, 덧셈은 규칙 두 개 $a + 0 = a$와 $a + \mathrm S(b) = \mathrm S(a + b)$로 정합니다. 그러면 계산도 규칙을 차례로 적용하는 일이 됩니다. + 의 계산을 따라가 보면 이렇습니다.

각 등호는 두 규칙 가운데 하나를 쓰거나 이름을 바꾼 것입니다. 러셀과 화이트헤드의 『수학 원리』에서 1 + 1 = 2가 2권(1912)에 가서야 증명되는 것도 1 + 1이 어려워서가 아니라, 수를 쓰지 않고 논리에서부터 모든 것을 쌓아 올렸기 때문입니다.

오늘날 수학의 대부분은 집합⁠(set)⁠에 관한 공리계 ZFC 위에 세웁니다. 1908년 체르멜로가 내놓고 1922년 무렵 아브라함 프렝켈과 토랄프 스콜렘이 보완했으며(Z와 F), C는 선택공리입니다. 공리들을 쉬운 말로 옮기면 대략 이렇습니다. 원소⁠(element)⁠가 같은 두 집합은 같다. 원소가 없는 집합이 있다. 두 집합을 원소로 갖는 집합이 있다. 집합들의 원소를 모두 모은 합집합⁠(union)⁠이 있다. 모든 부분집합⁠(subset)⁠을 모은 집합(멱집합⁠(power set)⁠)이 있다. 0, 1, 2, …를 모두 담는 무한집합이 있다. 이미 있는 집합에서 조건에 맞는 원소만 골라낸 것은 집합이다(분리 공리⁠(axiom schema of separation)⁠. 러셀의 역설⁠(Russell's paradox)⁠을 막는 규칙입니다). 집합의 각 원소를 어떤 규칙으로 바꾼 것들도 집합이다(치환 공리⁠, axiom of replacement⁠). 원소를 거슬러 끝없이 내려가는 집합은 없다(정칙성 공리⁠, axiom of regularity⁠). 공집합⁠(empty set)⁠이 아닌 집합이 여럿 있으면(무한히 많더라도) 각각에서 원소를 하나씩 한꺼번에 고를 수 있다(선택공리⁠, axiom of choice⁠). 자연수도 집합으로 짓습니다. 폰 노이만의 방식대로 0 = ∅, 1 = {0}, 2 = {0, 1}, 3 = {0, 1, 2}로 두면 페아노의 공리는 ZFC의 정리가 됩니다.

선택공리는 논쟁을 불렀습니다. 체르멜로는 1904년 이 공리로 모든 집합의 원소를 빠짐없이 한 줄로 세울 수 있다는 정렬 정리⁠(well-ordering theorem)⁠를 증명했는데, 무엇을 고르는지는 말하지 않고 '고를 수 있다'고만 하기 때문입니다. 1924년 스테판 바나흐와 알프레트 타르스키는 이 공리를 쓰면 공 하나를 유한 개의 조각으로 나눠 움직여 붙여서 똑같은 공 두 개를 만들 수 있음을 보였습니다. 부피가 두 배가 되는 것 같지만 모순은 아닙니다. 이 조각들은 너무 들쭉날쭉해서 부피를 매길 수 없는 집합이기 때문입니다. 1938년 괴델과 1963년 폴 코언의 결과를 합치면, 선택공리는 나머지 공리(ZF)와, 연속체 가설⁠(continuum hypothesis)⁠은 ZFC와 독립입니다. 받아들여도 부정해도 모순이 생기지 않습니다(ZF에 모순이 없다면). 평행선 공준과 같은 처지인 셈입니다. 괴델은 앞서 1931년에, 자연수의 산술을 담는 이런 체계에 모순이 없다면 그 사실을 체계 안에서 스스로 증명할 수는 없음을 보였습니다(불완전성 정리⁠, incompleteness theorem⁠).

공리의 방법은 기하와 수 너머로 퍼졌습니다. 1933년 콜모고로프는 확률⁠(probability)⁠을 공리 세 개 위에 세웠고, 거리(거리 함수⁠, metric⁠), 벡터⁠(vector)⁠ 공간, 군도 모두 몇 개의 공리로 정의됩니다. 공리를 만족하는 모든 대상에 대해 정리를 한꺼번에 증명할 수 있다는 것이 이 방법의 힘입니다. 군의 공리에서 증명한 정리는 도형의 대칭에도, 시계의 덧셈에도, 루빅 큐브에도 똑같이 성립합니다.

이어지는 곳. 공리 위에 수학 전체를 세우려던 20세기 초의 시도와 그 한계는 수학 기초론 논쟁⁠(debate on the foundations of mathematics)⁠에서, 증명을 기계로 검사할 수 있는 형식 체계⁠(formal system)⁠의 한계는 괴델의 불완전성 정리⁠(Gödel's incompleteness theorems)⁠와 정지 문제⁠(halting problem)⁠에서 이어집니다. 그런 체계에서 쓴 증명을 컴퓨터가 공리와 추론 규칙까지 내려가 한 단계씩 검사하게 하는 프로그램이 증명 보조기⁠(proof assistant)⁠입니다. 참과 거짓의 계산 규칙은 불 대수⁠(Boolean algebra)⁠에, 공리에서 수를 쌓아 올리는 과정은 수 체계⁠(number system)⁠에 있습니다. 평행선 공준을 바꾼 세계는 구면기하⁠(spherical geometry)⁠와 쌍곡기하이고, 파노 평면은 가장 작은 사영기하⁠(projective geometry)⁠의 평면입니다. 점과 직선의 묶음을 규칙대로 짜는 이런 유한한 구조는 라틴 방진⁠(Latin square)⁠과도 이어집니다. 직선마다 점이 n + 1개인 유한 사영평면은 서로 직교⁠(orthogonality)⁠하는 n차 라틴 방진 n − 1개와 짝을 이룹니다(파노 평면은 n = 2인 경우입니다). 공리 하나가 논리를 바꾸기도 합니다. 집합의 세계를 닮은 수학적 우주인 토포스⁠(topos)⁠에서는 선택공리가 성립하면 배중률⁠(law of excluded middle)⁠도 따라 성립합니다(라두 디아코네스쿠, 1975). 그래서 선택공리는 집합에 관한 공리이면서, 논리를 고전적으로 만드는 공리이기도 합니다.