L. E. J. 브라우어르(L. E. J. Brouwer)

L. E. J. 브라우어르는 1881년 네덜란드 로테르담 근처의 오버르스히에서 교사의 아들로 태어났습니다. 1897년 암스테르담 대학에 들어가 디데릭 코르테베흐에게서 수학을 배웠습니다. 20세기 초의 네덜란드는 1차 세계대전에서도 중립을 지킨 작은 나라였지만, 칸토어의 집합론⁠(set theory)⁠에서 역설이 드러나고 힐베르트가 1900년 파리에서 23개 문제를 내놓은 뒤, 수학의 토대가 무엇이냐는 물음은 유럽 어디서나 뜨거웠습니다. 한편 푸앵카레가 연 '위치의 해석', 곧 오늘날의 위상수학은 아직 엄밀한 증명이 부족한 새 분야였습니다. 젊은 브라우어르는 이 두 물음 모두에 이름을 남겼습니다. 그는 신비주의에도 깊이 빠져 1905년 사회와 지성에 비관적인 소책자 『삶, 예술, 신비주의』를 냈고, 1904년 결혼한 뒤로는 평생 암스테르담 근교의 마을 블라리퀌에 살았습니다.

나이 세 ·

1907년 학위 논문 「수학의 기초에 대하여」에서 그는 수학이란 사람의 정신이 시간의 흐름에 대한 직관에서 출발해 스스로 짓는 구성이며, 언어와 논리는 그 구성을 뒤따라 기록하는 도구일 뿐이라고 주장했습니다. 지도 교수 코르테베흐는 철학적인 대목을 줄이라고 요구했습니다. 이듬해의 글 「논리 원리의 신뢰할 수 없음」에서 그는 한 걸음 더 나아갔습니다. 모든 명제는 참이거나 거짓이라는 배중률은 유한한 대상에 대해서는 믿을 수 있지만, 무한한 대상에 대해서는 그렇지 않다는 것입니다. 그가 든 예는 원주율⁠(pi)⁠ π의 소수 전개⁠(decimal expansion)⁠에 0123456789가 연달아 나오는 자리가 있느냐는 물음이었습니다. 그 무렵 아무도 답을 몰랐고, 그의 요점은 그런 자리를 실제로 찾거나 없음을 증명하기 전에는 '있다'도 '없다'도 주장할 근거가 없다는 것이었습니다(오늘날에는 컴퓨터 계산으로 그런 자리가 찾아졌지만, 같은 모양의 물음은 얼마든지 만들 수 있습니다).

차이가 어디서 드러나는지 고전적인 예로 봅시다. '무리수⁠(irrational number)⁠ a, b 가운데 aᵇ가 유리수⁠(rational number)⁠인 것이 있다'는 명제는 이렇게 증명됩니다. √2^√2가 유리수라면 a = b = √2로 끝입니다. 무리수라면 a = √2^√2, b = √2로 잡으면 aᵇ = √2² = 2가 유리수입니다(무리수). 둘 중 하나는 반드시 맞으니 명제는 참입니다. 그러나 이 증명은 실제로 어느 쪽이 답인지 알려 주지 않습니다. 브라우어르에게 이것은 증명이 아니었습니다. 무엇이 존재한다고 말하려면 그것을 만들어 보여야 하고, 'A가 아니라는 것은 아니다'에서 곧바로 'A이다'로 넘어갈 수 없다는 것이 그의 직관주의입니다(수학 기초론 논쟁⁠(debate on the foundations of mathematics)⁠, 무한을 다루는 법).

역설적이게도 그는 교수 자리를 얻기 위해 1909년부터 몇 해 동안 바로 그런 비구성적인 방법으로 위상수학의 기초 정리들을 증명했습니다. 가장 유명한 것이 고정점 정리입니다. 원판을 원판 자신 안으로 찢거나 떼지 않고 연속적으로 옮기는 변환은 반드시 제자리에 머무는 점을 하나 가집니다. 1차원에서 보면 쉽습니다. 구간 [0, 1]에서 [0, 1]로 가는 연속 함수 f는 f(0) ≥ 0이라 왼쪽 끝에서 대각선 y = x와 만나거나 그 위에 있고, f(1) ≤ 1이라 오른쪽 끝에서 대각선과 만나거나 그 아래에 있으니, 중간값 정리⁠(intermediate value theorem)⁠에 따라 어딘가에서 대각선과 만나고 그 점이 f(x) = x입니다(고정점⁠, fixed point⁠). 구멍 없는 한 덩어리 모양의 나라에서, 그 나라의 지도를 나라 땅 안에 아무렇게나 펼쳐 놓으면, 지도 위의 점이 바로 그 점이 가리키는 실제 장소 위에 놓인 곳이 적어도 한 군데 있습니다. 그러나 정리는 그 점이 있다는 것만 말할 뿐 어디인지 찾는 방법은 주지 않습니다. 1912년 그는 '털 난 공 정리⁠(hairy ball theorem)⁠'도 일반 차원에서 증명했습니다(보통의 공 표면인 2차원 구면의 경우는 1885년 푸앵카레가 먼저 보였습니다). 공 표면의 털을 모두 한쪽으로 매끄럽게 빗어 넘길 수는 없고, 적어도 한 곳에는 가마가 생깁니다. 그래서 지구 위의 바람이 연속적으로 분다면 수평 방향의 바람이 0인 곳이 어딘가 반드시 있습니다(연속성⁠(continuity)⁠).

1911년의 차원 불변성 정리는 페아노의 곡선이 남긴 불안을 잠재웠습니다. 칸토어는 선분과 정사각형의 점을 하나씩 짝지을 수 있음을 보였고(전단사⁠, bijective⁠), 페아노는 선분을 연속으로 움직여 정사각형을 빈틈없이 메울 수 있음을 보였습니다. 그렇다면 차원이란 연속성의 눈으로 보면 아무 뜻이 없는 것일까? 브라우어르는 m ≠ n이면 m차원 공간과 n차원 공간 사이에는 양쪽 방향으로 모두 연속인 짝짓기가 없다는 것을 증명했습니다. 차원은 찢거나 붙이지 않는 변형으로는 바꿀 수 없는, 위상수학의 불변량⁠(invariant)⁠이었던 것입니다. 그는 이 과정에서 연속 변환이 공간을 몇 번 감싸는지를 세는 '차수'라는 도구를 만들었습니다. 같은 무렵 르베그가 차원을 덮개⁠(cover)⁠의 겹침으로 규정하려 했을 때 그 증명의 빈틈을 지적해 날 선 논쟁을 벌였고, 1913년 스스로 차원의 정의를 내놓았습니다. 이 연구는 모스크바의 파벨 우리손과 파벨 알렉산드로프가 이어받았습니다. 두 사람은 1924년 여름 블라리퀌의 그를 찾아왔고, 그 직후 우리손이 프랑스 해안에서 헤엄치다 숨지자 브라우어르는 그의 차원론 유고를 정리해 출판하는 일을 도왔습니다(모스크바 수학 학파).

1912년 암스테르담 대학 교수가 된 그는 취임 강연 「직관주의와 형식주의⁠(formalism)⁠」로 자기 계획을 공개했고, 1918년부터 배중률 없이 수학을 다시 짓는 일에 매달렸습니다. 그에게 실수⁠(real number)⁠는 이미 완성된 무한 소수가 아니라, 한 자리씩 골라 나가는 끝나지 않는 '선택 수열⁠(choice sequence)⁠'이었습니다. 그러면 고전 수학과 정면으로 어긋나는 정리가 나옵니다. 구간 [0, 1]의 모든 점에서 정의된 함수는 모두 연속입니다. 입력이 끝나지 않는 수열이라면 함수는 입력의 유한한 앞부분만 보고 출력을 정해야 하고, 그 앞부분이 같은 가까운 입력들에는 가까운 출력을 줄 수밖에 없기 때문입니다. 고전 수학의 계단 함수, 곧 x < 0이면 0이고 x ≥ 0이면 1인 함수는 여기서 '모든 점에서 정의된' 함수가 아닙니다. 지금까지 고른 자리가 모두 0인 수는 다음 선택에서 아주 조금 음수가 될 수도, 0 이상에 머물 수도 있어서, 유한한 앞부분만 보고는 출력을 0으로 할지 1로 할지 정할 수 없기 때문입니다(함수, 수 체계⁠(number system)⁠).

1920년대 이 생각은 수학의 토대를 둘러싼 논쟁으로 번졌습니다. 괴팅겐의 헤르만 바일이 1921년 한동안 그의 편에 서서 '새로운 기초의 위기'를 선언하자, 힐베르트는 수학 전체를 형식 체계⁠(formal system)⁠로 적고 그 무모순성⁠(consistency)⁠을 유한한 방법으로 증명하자는 형식주의로 맞섰습니다. 1927년 강연에서 힐베르트는 수학자에게서 배중률을 빼앗는 것은 천문학자에게서 망원경을, 권투 선수에게서 주먹을 빼앗는 것과 같다고 했습니다. 논쟁은 정치와도 얽혔습니다. 1차 세계대전 뒤 국제 학계가 독일 학자들을 배제하자 브라우어르는 이에 거세게 반대하며 독일 편에 섰고, 1928년 볼로냐 국제수학자대회에는 독일 학자들이 불참해야 한다고 주장했습니다. 힐베르트는 독일 대표단을 이끌고 대회에 갔고, 그해 가을 자신이 이끌던 학술지 『수학 연보』의 편집진에서 브라우어르를 빼 버렸습니다. 편집진이었던 아인슈타인은 이 다툼을 '개구리와 쥐의 전쟁'이라 부르며 어느 편에도 서지 않았습니다. 브라우어르는 깊은 상처를 입었고, 그 뒤 발표가 크게 줄었습니다(괴팅겐).

같은 1928년 3월 그는 빈에서 수학과 언어, 연속체⁠(continuum)⁠의 구조에 관해 강연했습니다. 청중 가운데 오래 철학을 떠나 있던 루트비히 비트겐슈타인이 있었고, 함께 간 헤르베르트 파이글은 강연 뒤 비트겐슈타인이 몇 시간 동안 열띠게 이야기했으며 이것이 그가 철학으로 돌아가는 계기가 되었다고 회고했습니다. 역설적으로 형식을 싫어한 브라우어르의 논리는 남들의 손에서 형식을 얻었습니다. 1925년 콜모고로프, 1930년 그의 제자 아런트 헤이팅이 직관주의 논리⁠(intuitionistic logic)⁠를 공리⁠(axiom)⁠로 적었고, 괴델은 고전 산술의 증명을 직관주의 산술의 증명으로 옮기는 번역을 보였습니다. 1960년대 말 로베어와 티어니가 세운 토포스⁠(topos)⁠에서는 내부 논리가 일반적으로 직관주의 논리여서, 그가 시작한 직관주의의 논리는 '진릿값⁠(truth value)⁠이 둘보다 많은 세계'의 자연스러운 논리로 다시 나타났습니다. 2차 세계대전 뒤 그는 독일 점령기의 처신 때문에 몇 달 정직되기도 했고, 1951년 은퇴한 뒤 1966년 블라리퀌의 집 앞에서 차에 치여 여든다섯에 세상을 떠났습니다.

오늘날 수학자 대부분은 배중률을 쓰는 고전 수학을 하지만, 직관주의는 뜻밖의 곳에서 살아났습니다. 직관주의 논리에서 'A 또는 B'의 증명은 둘 중 어느 쪽인지와 그 증명을 담고, 'A이면 B'의 증명은 A의 증명을 B의 증명으로 바꾸는 방법입니다. 이렇게 보면 증명은 곧 프로그램이 되고, 명제는 곧 자료형이 됩니다. 처치의 람다 계산⁠(lambda calculus)⁠과 이어진 이 대응(커리–하워드 대응⁠, Curry–Howard correspondence⁠)에서 페르 마르틴뢰프의 타입 이론⁠(type theory)⁠과, 컴퓨터가 증명을 확인하는 오늘날의 증명 보조기⁠(proof assistant)⁠들이 자라났습니다. 고정점 정리는 경제학의 균형 존재 증명과 게임 이론⁠(game theory)⁠의 내시 균형⁠(Nash equilibrium)⁠에서 핵심 도구가 되었습니다.

이어지는 곳. 고정점과 차원은 고정점, 위상수학, 중간값 정리에서, 배중률과 구성의 물음은 수학 기초론 논쟁, 무한을 다루는 법, 람다 대수에서 이어집니다. 논쟁의 상대는 다비트 힐베르트, 그의 논리를 형식으로 적은 사람은 콜모고로프와 괴델입니다.

관계.

• 영향을 받음 앙리 푸앵카레 — 수학의 바탕을 논리가 아니라 사람의 직관에 두었던 푸앵카레를 직관주의의 선구자로 꼽았습니다.
• 논쟁 다비트 힐베르트 — 무한에 배중률을 쓰지 말자는 그의 직관주의에 힐베르트는 형식주의로 맞섰고, 1928년 힐베르트는 그를 『수학 연보』 편집진에서 뺐습니다.
• 영향을 줌 안드레이 콜모고로프 — 1925년 콜모고로프는 그의 직관주의 논리를 형식적인 공리로 적는 논문을 냈습니다.
• 영향을 줌 루트비히 비트겐슈타인 — 1928년 빈 강연을 들은 비트겐슈타인이 철학으로 돌아가는 계기가 되었다고 함께 있던 헤르베르트 파이글이 회고했습니다.
• 영향을 줌 쿠르트 괴델 — 괴델은 1930년대 초 고전 산술을 직관주의 산술 안으로 옮기는 번역을 보여, 두 체계의 관계를 정확히 밝혔습니다.
• 영향을 줌 페르 마르틴뢰프 — 마르틴뢰프의 직관주의 타입 이론은 '증명이 있어야 참'이라는 그의 직관주의를, 명제와 타입⁠(type)⁠을 하나로 다루는 체계로 적은 것입니다.

연표.

• 1897년 암스테르담 대학에 들어가다
• 1905년 『삶, 예술, 신비주의』를 펴내다
• 1907년 학위 논문 「수학의 기초에 대하여」를 내다
• 1908년 「논리 원리의 신뢰할 수 없음」에서 무한에 대한 배중률을 의심하다
• 1911년 차원이 연속 변환에서 변하지 않음을 증명하다
• 1912년 고정점 정리를 발표하고 암스테르담 대학 교수가 되다
• 1918년 배중률 없이 집합론을 세우는 연구를 시작하다
• 1928년 빈에서 강연하고 『수학 연보』 편집진에서 밀려나다
• 1951년 암스테르담 대학에서 은퇴하다