무한을 다루는 법(Taming infinity)
끝이 없는 과정이나 모임을 유한한 규칙 하나로 바꿔 말하는 것이 무한을 다루는 수학의 공통된 수법이다. 극한(limit)은 '어떤 오차를 요구해도 그 뒤로는 그 안'이라는 약속으로, 일대일 대응(one-to-one correspondence)은 짝짓는 규칙으로, 귀납법은 한 걸음의 규칙으로 무한을 붙잡는다.
끝이 없는 것을 끝이 있는 머리로 어떻게 다룰까요? 아킬레우스가 앞서 가는 거북이를 따라잡으려면 거북이가 있던 자리를 차례로 무한히 많이 지나야 하는데, 그래도 그는 따라잡습니다. 자연수(natural number)와 짝수 가운데 어느 쪽이 많을까요?
고대: 무한을 비켜 가는 기술. 기원전 5세기 엘레아의 제논은 아킬레우스와 거북이 같은 역설로 운동과 무한 분할의 개념을 곤란하게 만들었고, 아리스토텔레스는 그 역설을 전하면서 무한을 둘로 나누었습니다. 언제든 하나 더 늘릴 수 있다는 잠재적 무한(potential infinity)은 받아들이되, 완결된 하나의 전체로서의 무한(실무한, actual infinity)은 받아들이지 않은 것입니다. 이 태도는 2,000년 가까이 수학을 지배했습니다. 유클리드는 소수(prime number)가 무한히 많다고 쓰지 않고 '주어진 어떤 개수보다도 많다'고 썼고(소수), 아르키메데스는 포물선(parabola) 조각의 넓이(area)가 삼각형의 4/3배임을 보이면서 사실상
급수(series): 끝없는 덧셈의 선물과 함정. 끝없이 더하는 합이 한 값에 한없이 다가가면 수렴(convergence)한다고 하고, 그렇지 않으면 발산(divergence)한다고 합니다(급수의 수렴과 발산(convergence and divergence of series)). 1350년 무렵 파리의 철학자이자 수학자 니콜 오렘은 조화급수(harmonic series)
극한: 무한을 유한한 게임으로. 17세기 말 뉴턴과 라이프니츠의 미적분(calculus)은 0은 아니지만 어떤 양보다도 작은 '무한소(infinitesimal)'로 계산했습니다. 결과는 놀랍도록 잘 맞았지만, 1734년 성직자이자 철학자 조지 버클리는 『분석가』에서 계산 도중에는 0이 아니었다가 끝에서 0이 되는 그 양들을 '사라진 양들의 유령'이라고 꼬집었습니다. 한 세기 가까이 지나 에콜 폴리테크니크에서 가르치던 코시가 1821년 『해석학(mathematical analysis) 강의』에서 극한을 해석학의 중심에 놓았고, 베를린의 카를 바이어슈트라스가 이것을 오늘날의 ε–δ 말투로 다듬었습니다. 요점은 무한을 두 사람의 유한한 게임으로 바꾸는 것입니다. 상대가 아무리 작은 허용 오차 ε를 내밀어도, 나는 '이 번호 N부터는 모두 그 안'이라고 답할 수 있어야 합니다. 급수:
일대일 대응: 세지 않고 크기 재기. 1638년 갈릴레이는 『새로운 두 과학』에서 자연수 1, 2, 3, …과 제곱수 1, 4, 9, …가 하나씩 짝지어진다는 것을 지적했습니다. 제곱수는 자연수의 일부인데 개수는 같아 보입니다. 갈릴레이는 '크다, 작다, 같다'는 말이 무한에는 맞지 않는다고 결론지었습니다. 두 세기 남짓 뒤 할레 대학의 칸토어는 정반대로, 짝지을 수 있으면 크기가 같다는 것을 무한의 크기의 정의로 삼았습니다(전단사(bijective), 집합의 크기(cardinality)). 짝짓는 규칙 하나가 무한히 많은 짝을 한꺼번에 정하니, 무한을 하나하나 셀 필요가 없습니다. 분수들을 분자와 분모의 합이 작은 것부터 대각선을 따라 늘어놓으면 모든 양의 유리수(rational number)에 자연수 번호가 붙습니다. 보기:
빽빽하게 들어찬 유리수가 자연수와 같은 크기라는 것은 충격이었고, 칸토어는 더 나아가 1874년 실수(real number)는 이런 목록에 다 담을 수 없다는 것을 증명했습니다. 1891년의 대각선 논법(diagonal argument)은 어떤 목록이 주어지든 그 목록에 없는 수를 목록 자체로부터 만들어 냅니다. 무한에도 크기의 차이가 있고(가산 집합, countable set), 어떤 집합(set)이든 그 멱집합(power set)이 더 크니 가장 큰 무한은 없습니다. √2처럼 0이 아닌 정수(integer) 계수 다항식(polynomial)의 근이 되는 수(대수적 수, algebraic number)는 번호를 붙여 셀 수 있으니, π나 e처럼 어떤 정수 계수 다항식의 근도 아닌 초월수(transcendental number)가 셀 수 없이 많다는 것도 한 줄로 나옵니다(대수적 수와 초월수(algebraic and transcendental numbers)). 그런데 자연수와 실수 사이에 중간 크기가 있느냐는 연속체 가설(continuum hypothesis)은 1940년 프린스턴 고등연구소의 괴델이 표준 공리(axiom)와 모순되지 않음을, 1963년 미국의 수학자 폴 코언이 부정해도 모순되지 않음을 보였습니다(둘 다 표준 공리 자체에 모순이 없다는 가정 아래서입니다). 그래서 이 질문은 답을 아직 못 찾은 문제가 아니라, 표준 공리만으로는 참도 거짓도 증명할 수 없는 문제입니다. 여기서 표준 공리란 1908년 에른스트 체르멜로가 처음 적고 뒤에 다듬어진 집합론(set theory)의 공리들(선택공리(axiom of choice)를 포함한 체르멜로–프렝켈 공리계)입니다. 괴팅겐의 힐베르트는 1925년 칸토어가 만든 낙원에서 아무도 우리를 쫓아내지 못할 것이라고 말했고, 빈 방이 없는 무한한 호텔도 손님을 한 칸씩 옮기면 새 손님을 받을 수 있다는 '힐베르트 호텔(Hilbert's hotel)'은 그의 강의에서 나온 이야기로 전합니다.
귀납법과 재귀(recursion): 한 걸음의 규칙. 모든 자연수에 대한 명제를 증명하려고 무한히 많은 경우를 확인할 수는 없습니다. 수학적 귀납법(mathematical induction)은 첫 경우와 'n에서 참이면 n + 1에서도 참'이라는 한 걸음만 확인하면 된다고 말합니다. 파스칼은 1654년 무렵 쓴 산술 삼각형에 대한 글에서 이 논법을 명시적으로 썼습니다(파스칼의 삼각형, Pascal's triangle). 거꾸로 페르마는 자연수는 끝없이 작아질 수 없다는 사실을 무기로 삼았습니다. 어떤 해가 있으면 더 작은 해가 있음을 보이면 해가 아예 없다는 무한 강하법입니다. 컴퓨터 과학에서는 같은 생각이 재귀와 점화식(recurrence relation)이 됩니다. 유한한 규칙 몇 줄이 무한히 많은 입력에 대한 답을 정하고, 생성함수(generating function)는 무한한 수열 전체를 함수(function) 하나에 담아 한꺼번에 계산합니다.
측도(measure): 무한히 많은 점, 길이 0. 구간에서 가운데 3분의 1을 끝없이 지워 남은 칸토어 집합(Cantor set)은 실수만큼 많은 점을 가지는데 길이의 합은 0입니다(측도 0, measure zero). 유리수는 수직선 어디에나 빽빽하지만 역시 길이 0입니다. 개수로 재는 무한과 길이로 재는 무한이 서로 다른 잣대인 것입니다. 길이를 이런 복잡한 점들의 집합까지 넓힌 잣대가 1902년 앙리 르베그의 측도입니다(르베그 적분과 측도, Lebesgue integral and measure). 칸토어 집합 위에서만 오르는 칸토어 함수(Cantor function)는 거의 모든 곳에서 기울기가 0인데도 0에서 1까지 올라갑니다. 1933년 콜모고로프는 이 길이의 언어로 확률(probability)을 공리화했습니다. 동전을 무한히 던지는 실험도 하나의 확률 공간이 되고, 큰 수의 법칙(law of large numbers)의 '확률 1로'는 '예외가 측도 0'이라는 뜻이 됩니다.
기하(geometry)와 계산: 무한을 안으로 들여오기. 원근법 그림에서 평행한 철길은 지평선의 한 점에서 만납니다. 17세기 프랑스의 건축가이자 수학자 제라르 데자르그는 이것을 받아들여 평행선들이 '무한히 먼 점'에서 만난다고 보는 사영기하(projective geometry)를 시작했고, 무한원점(point at infinity)을 보통 점처럼 다루자 예외가 사라지고 정리들이 깔끔해졌습니다. 푸앵카레의 원판 모형은 끝없는 쌍곡평면(hyperbolic plane) 전체를 유한한 원판 안에 담고, 복소평면(complex plane)에 무한대라는 점 하나를 더하면 극은 함수가 그 점으로 가는 곳일 뿐입니다. 계산 이론(theory of computation)도 무한을 규칙으로 가둡니다. 튜링의 기계는 끝없는 테이프를 쓰지만 상태표는 유한합니다(튜링 기계, Turing machine). 그런데 이런 유한한 규칙으로는 판정할 수 없는 질문이 있습니다. '이 프로그램이 언젠가 멈추는가'를 모든 프로그램에 대해 옳게 답하는 기계는 없다는 것이 대각선 논법으로 증명됩니다(정지 문제(halting problem), 불완전성 정리(incompleteness theorem)).
어긋남과 놀라움. 무한을 규칙으로 다루는 일은 몇 번이나 발밑이 꺼졌습니다. 1821년 코시는 연속함수들로 된 급수의 합은 연속이라고 적었지만, 1826년 노르웨이의 젊은 닐스 헨리크 아벨은 사인파(sinusoid)를 더한 푸리에 급수(Fourier series)
이어지는 곳. 극한은 근사를 끝까지 밀고 간 것이라 근사와 오차와 한 몸입니다. 대각선 논법이 정지 문제와 불완전성 정리로 이어지는 이야기는 자기 참조(self-reference)와 대각선에서, 무한히 많은 동전 던지기를 측도로 다루는 이야기는 무작위성에서 이어집니다. 짝지어도 변하지 않는 것을 크기로 삼는다는 생각은 대칭과 불변량(invariant)의 한 모습이고, 무한한 수열을 생성함수 하나로 바꾸는 수법은 표현 바꾸기에, 한 점 근처의 급수가 어디까지 통하는지는 국소에서 전체로에 있습니다.
이 생각이 나오는 긴 글
이 생각을 언급하는 페이지
- 극한
… 오차를 아무리 작게 요구해도 그에 맞는 δ가 있다는 것이 "극한이 1"이라는 말의 정확한 내용입니다(무한을 다루는 법). 그래서 극한은 그 점에서의 값과는 상관없습니다. 값이 없어도, 심지어 다른 값이 정해져 있어도, …
- 수 체계: 자연수에서 실수까지
… 하고, 수의 바탕을 무엇에 둘지는 수학 기초론 논쟁의 주제였습니다. 무한을 다루는 태도 전체는무한을 다루는 법에서 볼 수 있습니다.
- 급수의 수렴과 발산
… 기댓값이 급수로 정의될 때 절대 수렴을 요구하는 까닭은 기댓값에서 이어집니다. 무한을 다루는 태도는무한을 다루는 법에서, 몇 항에서 끊었을 때의 오차를 셈하는 태도는 근사와 오차에서 볼 수 있습니다.
- 수학 기초론 논쟁
… 않는 명제의 예는 연속체 가설입니다. 참과 거짓의 계산은 불 대수로, 무한을 대하는 태도의 차이는무한을 다루는 법으로 이어집니다. 브라우어르 자신의 가장 유명한 정리인 고정점 정리는 공교롭게도 비구성적 증명의 …
- 르베그 적분과 측도
… 비용으로 거리를 재는 최적 수송도 측도의 언어로 적힙니다. 무한히 많은 조각을 다루는 방법에 대해서는무한을 다루는 법을 보세요.
- 기술 집합론
… 기계⟧와 정지 문제에서 계산 가능성의 층을 세는 방식과도 닮았으며, 둘 다 자기 참조와 대각선과무한을 다루는 법으로 이어집니다.
- 사영기하
… 1, 2)뿐입니다. 원근법의 계산은 행렬과 선형변환으로, 무한히 먼 점을 더해 예외를 없애는 생각은무한을 다루는 법과 표현 바꾸기로 이어집니다. 점과 직선을 맞바꾸는 쌍대성은 쌍대성에서 다른 분야의 쌍대와 나란히 …