루트비히 비트겐슈타인(Ludwig Wittgenstein)

루트비히 비트겐슈타인은 1889년 빈에서 오스트리아–헝가리 제국 최대의 철강 재벌 카를 비트겐슈타인의 여덟 자녀 가운데 막내로 태어났습니다. 브람스가 드나들던 음악의 집이었고, 형 파울은 1차 세계대전에서 오른팔을 잃은 뒤에도 왼손 피아니스트로 활동해 라벨의 「왼손을 위한 협주곡」을 위촉했습니다. 한편 세 형이 스스로 목숨을 끊은 어두운 집이기도 했습니다. 세기말 빈은 프로이트의 정신분석, 클림트의 그림, 마흐와 볼츠만의 물리학이 한꺼번에 피어나던 도시였습니다. 공학자가 되려던 그는 베를린과 맨체스터에서 기계와 항공을 공부했는데, 프로펠러를 설계하며 수학에 빠져들다가 결국 '수학은 무엇 위에 서 있는가'라는 물음에 붙잡혔습니다. 러셀의 역설⁠(Russell's paradox)⁠이 집합⁠(set)⁠과 논리의 토대를 흔든 직후, 수학의 확실성을 어디서 찾을지가 철학의 가장 뜨거운 문제이던 때였습니다(수학 기초론 논쟁⁠, debate on the foundations of mathematics⁠).

나이 세 ·

그가 이 물음에 들어선 길은 러셀의 『수학의 원리』(1903)였습니다. 1911년 그는 예나로 프레게를 찾아갔고, 프레게는 케임브리지의 러셀에게 가서 배우라고 권했습니다. 그해 가을 예고도 없이 러셀의 방에 나타난 이 청년을 러셀은 처음에는 괴짜로 여겼지만, 몇 달 만에 자기 뒤를 이을 사람이라고 확신했습니다. 1912년 트리니티 칼리지에 들어간 그는 비밀 토론 모임 '사도들'에 뽑혔다가 곧 탈퇴하려 했고, 1913년 아버지가 세상을 떠나 큰 재산을 물려받은 뒤에는 노르웨이 피오르 기슭의 외딴 오두막에서 논리를 궁리했습니다. 20세기 초 케임브리지의 러셀, 무어, 케인스가 서로의 원고를 읽고 비판하던 좁은 세계에서, 그는 가장 어리고 가장 격렬한 비판자였습니다.

그의 첫 물음은 논리 법칙이란 무엇인가였습니다. 프레게와 러셀은 논리 법칙을 세상에 대한 가장 일반적인 참이라고 보았습니다. 비트겐슈타인은 다르게 보았습니다. 위의 식 $p \lor \lnot p$, 곧 '비가 오거나 오지 않는다'는 언제나 참이지만, 바로 그 때문에 날씨에 대해 아무것도 알려 주지 않습니다. 그는 이런 문장을 동어반복이라 불렀습니다. 이것을 확인하는 도구가 진리표입니다. 문장 $p$와 $q$가 참·거짓일 수 있는 네 가지 경우를 모두 적고, 복합 문장이 경우마다 참인지 거짓인지를 한 줄씩 채웁니다. '$p$이고 $q$'는 둘 다 참인 한 줄에서만 참이고, '$p$이면 $p$'는 네 줄 모두에서 참입니다. 모든 줄이 참이면 동어반복, 모두 거짓이면 모순입니다. 진리표는 퍼스가 먼저 스케치했지만, 1921년 비트겐슈타인과 미국의 에밀 포스트가 따로 내놓으면서 논리학의 표준 도구가 되었고, 오늘날 불 대수⁠(Boolean algebra)⁠와 논리 회로 설계의 첫걸음입니다.

1914년 전쟁이 터지자 그는 오스트리아–헝가리군에 자원해 동부 전선과 이탈리아 전선에서 싸웠고, 참호 속에서 적은 공책이 『논리철학 논고』가 되었습니다. 원고는 1918년 여름에 끝났고, 그해 11월 그는 이탈리아군의 포로가 되어 몬테카시노의 수용소에서 러셀에게 원고를 보냈습니다. 신문에서 읽은 이야기, 곧 파리의 법정이 모형 자동차로 교통사고를 재현했다는 기사가 책의 중심 생각의 실마리였다고 그의 공책은 전합니다. 모형의 장난감들이 실제 차들을 대신하듯, 문장은 세계의 사실을 그리는 그림이라는 것입니다. 가장 단순한 문장은 가장 단순한 사실을 그리고, 나머지 모든 문장은 단순한 문장들의 진리함수, 곧 진리표로 참·거짓이 정해지는 조합입니다. 그렇다면 윤리, 미, 삶의 뜻처럼 사실이 아닌 것은 말할 수 없고 드러날 뿐입니다. 책은 '말할 수 없는 것에 대해서는 침묵해야 한다'는 문장으로 끝납니다. 출판은 순탄하지 않았습니다. 1921년 독일어판이 한 학술지에 겨우 실렸고, 1922년 런던에서 러셀의 서문을 붙인 대역판이 나왔는데, 그 번역 초고를 만든 사람이 학부생 램지였습니다.

『논고』 속 수학은 짧지만 과격했습니다. 그는 $2 + 2 = 4$ 같은 등식이 세계에 대한 사실을 그리지 않으므로 참된 문장이 아니라, 두 표현을 서로 바꿔 써도 된다는 규칙을 보여 줄 뿐이라고 했습니다. 수는 어떤 조작을 몇 번 되풀이했는가를 나타내는 표시이고($f(f(x))$에서 조작의 횟수가 2), 집합의 이론은 수학에 전혀 필요 없다고 썼습니다. 칸토어 이래 수학자들이 수를 집합으로 세우려던 흐름에 정면으로 맞선 것입니다. 책을 끝낸 그는 철학의 문제를 모두 풀었다고 믿었습니다. 물려받은 재산을 형제자매에게 모두 넘기고, 1920년부터 1926년까지 오스트리아 산골 마을의 초등학교 교사로 일했습니다. 아이들을 위해 철자 사전을 만들 만큼 열심이었지만 엄격함이 지나쳐, 1926년 한 학생을 때린 일이 문제가 되자 교직을 그만두었습니다. 그 뒤 빈에서 누나의 집을 설계하는 데 2년을 보냈습니다.

그동안 『논고』는 그가 없는 곳에서 읽히고 있었습니다. 빈 대학의 모리츠 슐리크를 중심으로 모인 철학자와 과학자들, 곧 빈 학파는 이 책을 과학의 언어를 논리로 정리하는 계획의 경전처럼 읽었고, 1927년부터 그를 만나 대화했습니다. 그러나 그는 책에서 가장 중요한 부분이 말할 수 없는 것에 관한 부분이라고 여겼기에 그들과 자주 어긋났습니다. 1928년 3월 그는 빈에서 네덜란드의 수학자 브라우어르가 수학과 언어에 대해 한 강연을 들었습니다. 수학은 사람의 구성하는 활동이며 무한을 완성된 전체로 다룰 수 없다는 직관주의⁠(intuitionism)⁠의 강연이었고, 함께 간 사람의 회고로는 이날 밤 그가 몇 시간이고 철학을 이야기하며 다시 철학으로 돌아갈 뜻을 보였다고 합니다. 1929년 1월 그는 케임브리지로 돌아왔고, 케인스는 아내에게 보낸 편지에 '신이 도착했다. 5시 15분 기차에서 그를 만났다'고 적었습니다. 그해 6월 『논고』로 박사 학위를 받았는데, 심사는 러셀과 무어가 맡았고 형식상의 지도 교수는 그보다 열네 살 가까이 어린 램지였습니다.

돌아온 그는 곧 자기 첫 책을 무너뜨리기 시작했습니다. 뒤에 『철학적 탐구』(1953)로 묶인 후기 철학에서, 그는 낱말의 뜻을 그것이 가리키는 대상이 아니라 언어 안에서의 쓰임에서 찾았습니다. 책은 '벽돌', '기둥', '판'이라는 낱말만으로 조수에게 돌을 가져오게 하는 건축공의 언어에서 시작합니다. 여기서 '판!'은 이름이라기보다 '판을 가져와'라는 명령이고, 뜻은 그 말로 하는 일에 있습니다. 그는 이런 말과 활동의 묶음을 언어 놀이라 불렀습니다. 또 '놀이'라는 낱말로 묶이는 바둑, 공놀이, 술래잡기에는 모두에 공통된 하나의 특징이 없고, 가족의 얼굴처럼 겹치고 엇갈리는 닮음이 있을 뿐이라고 보아 이것을 가족 유사성⁠(family resemblance)⁠이라 불렀습니다.

후기 철학에서 수학자들에게 가장 날카로운 물음은 규칙 따르기⁠(rule-following)⁠였습니다. 학생에게 '2를 더하라'를 가르치고 0, 2, 4, …, 996, 998, 1000까지 확인했다고 합시다. 그런데 학생이 1000 다음에 1004, 1008, 1012라고 씁니다. 그는 1000까지는 2를, 그 뒤로는 4를 더하라는 뜻으로 알아들었다고 말합니다. 지금까지의 모든 예는 두 규칙 모두와 맞습니다. 그렇다면 무엇이 '올바른' 계속을 정할까요? 비트겐슈타인의 답은 머릿속의 그림이나 해석이 아니라, 우리가 함께 훈련받고 그렇게 계속하는 실천이라는 것이었습니다. 유한한 예로부터 규칙을 고르는 이 물음은 1982년 솔 크립키의 책으로 다시 큰 논쟁이 되었고, 몇 개의 예에서 일반 규칙을 배우는 기계 학습⁠(machine learning)⁠이 왜 어떤 일반화를 고르는가라는 물음(과적합⁠, overfitting⁠)과도 닮았습니다.

1930년대와 40년대에 그는 수학의 기초⁠(basics)⁠에 관해 많은 메모를 남겼습니다(『수학의 기초에 관한 소견』, 1956). 그는 증명을 새로운 사실의 발견이라기보다 개념을 새로 정하는 일, 곧 '이렇게 계산하면 언제나 이렇게 나와야 한다'는 규칙을 받아들이는 일로 보았습니다. 칸토어의 대각선 논법⁠(diagonal argument)⁠도 실수⁠(real number)⁠가 자연수⁠(natural number)⁠보다 '더 많다'는 사실을 보여 준다기보다 두 개념이 다르게 움직인다는 것을 보여 줄 뿐이라고 의심했고, 괴델의 불완전성 정리⁠(incompleteness theorem)⁠에 대한 메모는 괴델 자신을 포함한 논리학자 대부분에게 오해로 평가받았습니다. 1939년 강의에는 튜링이 참석했습니다. 학생들의 필기로 남은 기록에서 그는 체계 속에 모순이 숨어 있는 것을 왜 그렇게 두려워하느냐고 물었고, 튜링은 모순이 있는 계산을 믿고 지은 다리는 무너질 수 있다고 맞섰습니다. 이 필기는 1976년 책으로 나왔습니다.

그의 삶은 그의 철학만큼이나 평탄하지 않았습니다. 1935년에는 소련에 가서 노동자로 살려고 모스크바와 레닌그라드를 찾아갔다가 돌아왔습니다. 1938년 나치 독일이 오스트리아를 합병하자 유대계 조상을 둔 그의 가족은 위험에 빠졌고, 빈에 남은 누나들은 큰 재산을 넘기는 협상 끝에 박해를 피했습니다. 그는 1939년 영국 국적을 얻었고 같은 해 무어의 뒤를 이어 철학 교수가 되었지만, 2차 세계대전 중에는 교수직에 머물지 않고 런던 가이스 병원의 약품 운반원과 뉴캐슬의 의학 연구 조수로 일했습니다. 1947년 교수직을 내려놓고 아일랜드에서 원고에 매달렸고, 1949년 암 진단을 받았습니다. 1951년 4월 케임브리지에서 세상을 떠나기 직전, 그는 간호하던 의사의 아내에게 '내가 멋진 삶을 살았다고 전해 주시오'라는 말을 남겼다고 전합니다.

그가 살아서 낸 철학책은 『논고』 한 권뿐이지만, 20세기 철학의 두 흐름이 그에게서 나왔습니다. 『논고』는 빈 학파의 논리 실증주의에, 『철학적 탐구』는 일상 언어를 꼼꼼히 살피는 철학에 불을 붙였습니다. 수학과 계산의 세계에도 흔적이 남았습니다. 진리표는 모든 논리 회로와 프로그래밍 교과서에 있고, 가족 유사성은 뒷날 심리학자 엘리너 로시의 범주⁠(category)⁠ 연구에 영감을 주었고, 하나의 정의 대신 닮음의 그물로 묶는다는 점에서 최근접 이웃⁠(nearest neighbor)⁠ 분류나 군집화와 닮은 데가 있습니다. '낱말의 뜻은 쓰임'이라는 생각은 1957년 언어학자 존 퍼스가 그를 인용하며 '낱말은 그 곁에 오는 낱말들로 알 수 있다'고 쓴 분포 가설⁠(distributional hypothesis)⁠로 이어졌고, 이것이 오늘날 단어 임베딩⁠(word embedding)⁠의 기본 가정입니다.

이어지는 곳. 동어반복과 진리표는 불 대수에서, 그가 끝까지 의심한 무한 집합의 수학은 대각선 논법과 가산 집합⁠(countable set)⁠에서 이어집니다. 그가 몸담은 세계는 20세기 초 케임브리지이고, 러셀·괴델·튜링과 이어지는 자기 참조⁠(self-reference)⁠의 이야기는 자기 참조와 대각선에 있습니다. 규칙 따르기의 물음은 기계 학습의 일반화 문제와, 그를 철학으로 돌아오게 한 직관주의는 브라우어르와 수학 기초론 논쟁과 이어집니다.

관계.

• 스승 버트런드 러셀 — 1911년 가을 러셀을 찾아가 제자가 되었고, 러셀은 1922년 『논리철학 논고』 영어판에 서문을 썼지만 비트겐슈타인은 그 서문이 책을 오해했다고 여겼습니다.
• 편지 고틀로프 프레게 — 1911년 예나로 찾아가 조언을 구했고 프레게가 러셀에게 가라고 권했으며, 두 사람은 1차 세계대전 뒤까지 편지를 주고받았지만 프레게는 『논고』의 첫머리부터 이해하기 어렵다고 답했습니다.
• 함께 연구 프랭크 램지 — 램지는 『논고』의 영어 번역 초고를 만들고 1923년 오스트리아 산골로 찾아와 책을 함께 읽었으며, 1929년 케임브리지로 돌아온 그와 날마다 토론했습니다. 비트겐슈타인은 『철학적 탐구』 서문에서 램지의 비판에 감사했습니다.
• 영향을 받음 L. E. J. 브라우어르 — 1928년 3월 빈에서 브라우어르의 직관주의 강연을 들은 뒤 다시 철학에 몰두하기 시작했다고 함께 간 헤르베르트 파이글이 전합니다.
• 논쟁 앨런 튜링 — 1939년 그의 수학 기초론 강의에 튜링이 참석해, 체계 안의 모순이 정말 위험한지를 두고 여러 차례 맞섰습니다.
• 논쟁 쿠르트 괴델 — 직접 만나 토론한 적은 없지만 불완전성 정리에 대한 비판적인 메모를 남겼고, 괴델은 뒤에 편지에서 그가 정리를 오해했다고 적었습니다.

연표.

• 1908년 맨체스터에서 항공 공학을 공부하기 시작하다
• 1911년 예나로 프레게를 찾아간 뒤 케임브리지의 러셀에게 가다
• 1914년 오스트리아–헝가리군에 자원 입대하다
• 1918년 『논리철학 논고』 원고를 마치고 이탈리아군의 포로가 되다
• 1920년 오스트리아 시골 마을의 초등학교 교사가 되다
• 1922년 『논리철학 논고』 독일어·영어 대역판이 런던에서 나오다
• 1928년 빈에서 브라우어르의 강연을 듣고 철학으로 돌아갈 마음을 굳히다
• 1929년 케임브리지로 돌아와 『논고』로 박사 학위를 받다
• 1939년 무어의 뒤를 이어 철학 교수가 되고 수학 기초론을 강의하다
• 1947년 교수직을 내려놓고 『철학적 탐구』 원고에 매달리다