고틀로프 프레게(Gottlob Frege)

고틀로프 프레게는 1848년 독일 북부 발트해 연안의 항구 도시 비스마르에서, 여학교를 세워 교장을 지낸 아버지의 아들로 태어났습니다. 그의 시대에 수학자들은 해석학⁠(mathematical analysis)⁠을 엄밀하게 다시 세우고 있었습니다. 바이어슈트라스는 극한⁠(limit)⁠을 부등식으로, 데데킨트와 칸토어는 실수⁠(real number)⁠를 유리수⁠(rational number)⁠에서 출발해 정의했습니다. 그렇다면 맨 밑바닥의 자연수⁠(natural number)⁠는 무엇에 기대는가? 칸트는 산술이 시간에 대한 직관에 기댄다고 했고, 영국의 밀은 수많은 경험에서 얻은 일반화라고 했습니다. 논리학의 중심은 2,000년 넘게 아리스토텔레스의 삼단논법⁠(syllogism)⁠이었고, 불이 이를 대수로 옮겼지만 수학의 증명을 담기에는 너무 좁았습니다. 프레게는 산술이 오직 논리에서 나온다는 것을 보이려 했고, 그 도구로 현대 논리학의 핵심을 세웠습니다. 비슷한 무렵 미국의 퍼스도 따로 양화사⁠(quantifier)⁠의 생각에 이르렀습니다.

나이 세 ·

1869년 예나 대학에서 수학, 물리학, 화학, 철학을 공부하고, 1871년 괴팅겐으로 옮겨 1873년 평면 위의 허수⁠(imaginary number)⁠ 도형을 기하학적으로 나타내는 방법에 관한 논문으로 박사 학위를 받았습니다. 이듬해 예나로 돌아와 44년 동안 그곳에서 가르쳤습니다. 끝내 정교수가 되지 못했고, 한동안은 예나의 광학 회사 차이스를 이끈 물리학자 아베가 세운 재단의 도움으로 자리를 지켰습니다. 강의를 들은 학생은 많지 않았지만, 1910년대 그 가운데 한 사람이 뒤에 논리 실증주의를 이끈 카르나프였습니다.

1879년의 『개념 표기법』은 88쪽짜리 얇은 책입니다. 그는 일상 언어로 쓴 증명에는 눈에 띄지 않는 가정이 끼어든다고 보고, 추론의 모든 걸음이 드러나는 기호 언어를 만들어 산술이 직관 없이 증명되는지 시험하려 했습니다. 머리말에서 그는 라이프니츠가 꿈꾼 보편 기호를 선례로 들었습니다. 이 책의 새로움은 셋입니다. 첫째, 문장을 주어와 술어가 아니라 함수⁠(function)⁠와 인수로 나누었습니다. "소크라테스는 죽는다"는 '…는 죽는다'라는 함수에 소크라테스를 넣은 것이고, "3은 5보다 작다"는 두 자리 함수에 3과 5를 넣은 것입니다. 둘째, '모든'과 '어떤'을 변수와 함께 쓰는 기호, 곧 양화사를 들여왔습니다. "모든 사람은 죽는다"는 "모든 x에 대해, x가 사람이면 x는 죽는다"가 됩니다. 셋째, 증명의 모든 걸음이 몇 개의 공리⁠(axiom)⁠와 추론 규칙 가운데 어느 것을 쓴 것인지 기계적으로 확인할 수 있는 형식 체계⁠(formal system)⁠를 세웠습니다(불 대수⁠(Boolean algebra)⁠).

양화사를 겹쳐 쓸 수 있게 되자 삼단논법으로는 구별할 수 없던 차이가 선명해졌습니다. "모든 수에는 그보다 큰 수가 있다"는 ∀x∃y(x < y)로 참이지만, "어떤 수는 모든 수보다 크다"는 ∃y∀x(x < y)로 거짓입니다. 기호의 순서만 다른데 뜻이 정반대입니다. 수학은 이런 문장으로 가득합니다. 연속의 정의 "모든 ε에 대해 어떤 δ가 있어서 모든 x에 대해 …"는 양화사가 셋 겹친 문장이고, 순서를 바꾸면 전혀 다른 성질이 됩니다. 그는 같은 도구로 '어떤 규칙을 되풀이해 닿는다'는 생각을 순수하게 논리로 정의했습니다. 0을 담고 '다음 수'로 가는 규칙에 닫혀 있는 모든 모임에 들어 있는 것, 그것이 자연수라는 식입니다. 그러면 수학적 귀납법⁠(mathematical induction)⁠은 산술의 특별한 원리가 아니라 논리의 정리가 됩니다. 그의 기호는 선과 갈고리를 2차원으로 늘어놓는 방식이어서 인쇄하기도 읽기도 어려웠고, 결국 쓰이지 않았습니다. 오늘날의 ∃는 페아노에게서, ∀는 1930년대 겐첸에게서 왔지만, 그 뜻은 프레게가 처음 정확히 정했습니다.

1884년 『산술의 기초⁠(basics)⁠』는 기호를 거의 쓰지 않은 철학 책입니다. 수는 머릿속의 그림도 아니고 돌멩이 더미 같은 물체의 성질도 아니라고 그는 주장했습니다. 같은 카드 뭉치를 두고 '한 벌'이라고도 '52장'이라고도 할 수 있듯, 수는 물건 더미가 아니라 '카드 한 벌'이나 '카드 한 장' 같은 개념에 붙는다는 것입니다. "목성의 위성의 수는 넷이다"라는 문장은 '목성의 위성'이라는 개념에 대해 말하는 것입니다(그가 이 책을 쓸 때 알려진 목성의 위성은 넷이었습니다). 그리고 두 개념 F와 G에 속하는 것들을 남김없이 짝지을 수 있을 때 F의 수와 G의 수가 같다고 정의했습니다(일대일 대응⁠(one-to-one correspondence)⁠). 이것은 칸토어가 무한 집합의 크기⁠(cardinality)⁠를 비교한 방법과 같은 생각입니다(기수⁠(cardinal number)⁠). 0은 '자기 자신과 같지 않은 것'이라는 개념의 수, 곧 아무것도 속하지 않는 개념의 수로 정의됩니다. 이 책은 거의 읽히지 않았고, 칸토어는 1885년 서평에서 이 책을 비판했습니다.

1892년 논문 「뜻과 지시체에 대하여」는 언어 철학의 고전이 되었습니다. 우리말로 새벽의 금성은 '샛별', 저녁의 금성은 '개밥바라기'라 부릅니다. "샛별은 샛별이다"는 아무것도 알려 주지 않지만, "샛별은 개밥바라기다"는 천문학의 발견입니다. 두 이름이 가리키는 것(지시체)은 같은 금성인데 무엇이 다를까요? 프레게는 이름에는 가리키는 대상 말고도 그 대상이 주어지는 방식, 곧 '뜻'이 있다고 답했습니다. 그는 문장 전체의 지시체는 참 또는 거짓이라는 진릿값⁠(truth value)⁠이고, 문장의 뜻은 그 문장이 표현하는 생각이라고 보았습니다. '…는 죽는다' 같은 개념은 대상을 넣으면 진릿값을 내놓는 함수입니다. 여러 인수의 함수를 한 인수를 받아 다시 함수를 내놓는 함수로 다루는 발상도 그의 1893년 책에 이미 보이는데, 이것은 뒤에 처치의 람다 계산⁠(lambda calculus)⁠에서 기본 기법이 되었습니다.

1893년 『산술의 기본 법칙』 1권에서 그는 마침내 산술을 논리에서 한 걸음씩 증명하기 시작했습니다. 그 바탕에는 겉보기에 당연한 원리 하나, 이른바 기본 법칙 5가 있었습니다. 어떤 개념이든 그 개념에 속하는 것들의 모임(외연)이 있고, 두 개념의 외연이 같은 것은 두 개념에 속하는 것이 똑같을 때, 그리고 그때뿐이라는 것입니다. 오늘날의 말로는 어떤 조건이든 그 조건을 만족하는 것들의 집합⁠(set)⁠이 있다는 것입니다. 1902년 6월 16일, 2권이 인쇄되던 때 케임브리지의 러셀이 편지를 보냈습니다. '자기 자신에 속하지 않는 모임들의 모임'을 생각하면, 그 모임은 자기 자신에 속할 때 속하지 않고 속하지 않을 때 속한다는 것입니다(러셀의 역설). 프레게는 6월 22일 답장에서 산술을 세우려던 토대가 흔들렸다고 인정했습니다. 1903년 나온 2권의 부록 첫머리에 그는, 일을 마친 뒤 건물의 토대가 흔들리는 것만큼 학자에게 달갑지 않은 일은 없을 것이라고 적었습니다. 그가 부록에서 내놓은 수정안도 뒤에 대상이 하나뿐인 세계에서만 모순이 없다는 것이 밝혀졌습니다.

그는 동시대 사람들과 날카롭게 부딪쳤습니다. 1890년대에는 이탈리아의 페아노와 어느 쪽의 기호 논리⁠(symbolic logic)⁠가 더 엄밀한지를 다투었고, 1894년에는 후설의 『산술의 철학』을 수를 마음의 작용으로 설명하려 한다고 비판하는 서평을 썼습니다. 1899–1900년에는 힐베르트와 편지를 주고받으며 『기하학의 기초』를 따졌습니다. 프레게는 공리란 이미 뜻을 아는 낱말로 쓴 참인 문장이어야 한다고 보았고, 힐베르트는 공리들이 점과 직선의 뜻을 함께 정하며 모순이 없으면 그것으로 충분하다고 답했습니다. 점, 직선, 평면 대신 탁자, 의자, 맥주잔이라고 불러도 된다는 것이 힐베르트가 했다고 전하는 말입니다(공리). 이 논쟁은 수학 기초론 논쟁⁠(debate on the foundations of mathematics)⁠의 한 갈래가 되었습니다. 1911년 맨체스터에서 공학을 공부하던 비트겐슈타인이 예나로 찾아오자, 프레게는 그에게 케임브리지의 러셀에게 가서 배우라고 권했습니다(20세기 초 케임브리지).

역설 뒤 그는 산술을 논리에서 이끌어 내는 계획을 사실상 접었고, 말년에는 산술을 기하학 위에 세우는 방법을 모색했습니다. 1904년 아내를 잃었고, 양아들 알프레트를 키웠습니다. 1918년 은퇴한 뒤 발트해 연안의 바트 클라이넨에서 지내다 1925년 세상을 떠났습니다. 1924년의 일기에는 민족주의적이고 반유대주의적이며 의회 민주주의를 경멸하는 생각이 적혀 있어, 1990년대 공개된 뒤 그의 사상을 읽는 사람들에게 불편한 질문을 남겼습니다. 그는 유고를 양아들에게 넘기며, 모두 금은 아니지만 그 안에 금이 있다는 뜻의 쪽지를 남겼다고 전합니다. 유고는 뮌스터 대학에 모였지만 1945년 폭격으로 대부분 사라졌습니다.

생전에 거의 읽히지 않은 그의 작업은 20세기에 수학과 철학과 컴퓨터 과학의 공용어가 되었습니다. 러셀과 화이트헤드의 『수학 원리』(1910–13)는 역설을 피하는 유형 이론⁠(type theory)⁠으로 그의 계획을 이었고, 1931년 괴델의 불완전성 정리⁠(incompleteness theorem)⁠는 그가 꿈꾼 형식 체계로는 산술의 모든 참을 증명할 수 없다는 한계를 그었습니다. 그러나 그 정리 자체가 프레게가 만든 양화사의 언어로 적혔습니다. 오늘날 데이터베이스의 질의 언어, 프로그램이 옳은지 기계로 검사하는 도구, 수학 증명을 확인하는 증명 보조기⁠(proof assistant)⁠는 모두 그의 술어 논리⁠(predicate logic)⁠ 위에 서 있습니다. 1980년대에는 그의 체계에서 기본 법칙 5를 빼고, 두 개념의 수가 같은 것은 그 둘을 일대일로 짝지을 수 있을 때라는 원리 하나만 두어도 산술 전체가 나온다는 것이 밝혀졌습니다. 이 체계는 자연수의 집합까지 다루는 2계 산술에 모순이 없다면 역시 모순이 없습니다. 그래서 그의 계획을 다시 살리려는 '신논리주의⁠(neo-logicism)⁠'가 생겼습니다. 모든 것을 담으려던 모임이 스스로를 가리키며 무너진 그의 이야기는 자기 참조⁠(self-reference)⁠와 대각선의 한 장면입니다.

이어지는 곳. 그의 논리는 불 대수, 함수, 람다 계산으로, 수의 정의는 일대일 대응, 기수, 수학적 귀납법으로, 무너진 토대는 러셀의 역설, 집합, 공리, 수학 기초론 논쟁으로 이어집니다. 편지로 역설을 알린 버트런드 러셀, 그와 다툰 힐베르트와 페아노, 한계를 그은 쿠르트 괴델을 함께 읽으면 좋습니다.

관계.

• 영향을 받음 고트프리트 라이프니츠 — 『개념 표기법』 머리말에서 생각을 계산처럼 다루는 보편 기호라는 라이프니츠의 꿈을 자기 작업의 선례로 들었습니다.
• 편지 버트런드 러셀 — 1902년 6월 16일 러셀이 편지로 역설을 알리자 6월 22일 답장에서 산술의 토대가 흔들렸다고 인정했고, 러셀은 이듬해 『수학의 원리』 부록에서 그의 체계를 영어권에 처음 소개했습니다.
• 논쟁 주세페 페아노 — 1890년대 페아노의 기호 논리와 자신의 개념 표기법 가운데 어느 쪽이 더 엄밀한지를 두고 글과 편지로 다투었습니다.
• 논쟁 다비트 힐베르트 — 1899–1900년 힐베르트의 『기하학의 기초』를 두고 편지를 주고받으며, 공리가 점과 직선의 뜻을 정의 없이 정할 수 있는지를 다투었습니다.
• 영향을 줌 루트비히 비트겐슈타인 — 1911년 찾아온 비트겐슈타인을 러셀에게 보냈고, 비트겐슈타인은 『논리 철학 논고』 머리말에서 생각의 많은 자극을 프레게와 러셀의 저작에 빚졌다고 적었습니다.
• 영향을 줌 알론조 처치 — 처치는 그의 뜻과 지시체의 구분을 이어받아 형식 논리로 다듬었고, 1956년 논리학 교과서에서 그를 현대 논리의 출발점으로 꼽았습니다.

연표.

• 1869년 예나 대학에 들어가다
• 1871년 괴팅겐 대학으로 옮기다
• 1873년 괴팅겐에서 기하학 논문으로 박사 학위를 받다
• 1874년 예나 대학의 강사가 되다
• 1879년 『개념 표기법』을 펴내고 원외 교수가 되다
• 1884년 『산술의 기초』를 펴내다
• 1892년 「뜻과 지시체에 대하여」를 발표하다
• 1893년 『산술의 기본 법칙』 1권을 펴내다
• 1902년 러셀의 편지로 자기 체계의 모순을 알게 되다
• 1903년 『산술의 기본 법칙』 2권에 모순을 인정하는 부록을 붙이다
• 1911년 찾아온 비트겐슈타인에게 케임브리지의 러셀에게 가라고 권하다
• 1918년 예나 대학에서 은퇴하다