바젤 문제(Basel problem)

한 변이 $1, \tfrac12, \tfrac13, \dots$인 정사각형을 $N =$ 개 나란히 세워 봅시다. 바닥에 깔린 폭의 합은 조화급수⁠(harmonic series)⁠ 이고, $N$을 키우면 끝없이 늘어납니다. 정사각형들의 넓이⁠(area)⁠ 합 도 계속 늘기는 하지만, 2를 넘지 못하고 한 값에 모입니다. $n \ge 2$이면 $\tfrac{1}{n^2} \lt \tfrac{1}{n-1} - \tfrac{1}{n}$이고, 오른쪽을 모두 더하면 이웃끼리 지워져 1만 남기 때문입니다.

그 값이 무엇인지는 1650년 무렵부터 80년 넘게 수학자들을 괴롭힌 "바젤 문제"였습니다. 이탈리아의 수학자 피에트로 멩골리가 1650년 책에서 처음 물었고, 스위스 바젤의 야코프 베르누이가 1689년 책에 실어 널리 알려지면서 도시 이름이 붙었습니다. 1734년 오일러가 찾은 답은 $\pi^2/6 = 1.6449\ldots$이었습니다(발표는 1735년).

원도 각도도 없는 식에 왜 $\pi$가 나올까요? 오늘날 가장 깔끔한 설명은 톱니 모양 파동을 푸리에 급수⁠(Fourier series)⁠, 곧 여러 주파수의 사인파⁠(sinusoid)⁠의 합으로 쓰고 "에너지"를 두 가지 방법으로 세는 것입니다. 한 주기⁠(period)⁠ 동안 파동 높이를 제곱해 평균⁠(mean)⁠ 낸 값은, 성분마다 진폭⁠(amplitude)⁠을 제곱해 모두 더한 값의 절반과 같습니다. 이것을 파스발 항등식⁠(Parseval's identity)⁠이라 합니다(1799년 프랑스의 마르크앙투안 파스발이 적었습니다). $-\pi$에서 $\pi$까지 $y = x$로 오르는 톱니파는 주파수 $n$인 성분의 진폭이 $2/n$이고, 높이 제곱의 평균은 $\pi^2/3$입니다. 그러니 $\tfrac12 \sum 4/n^2 = \pi^2/3$, 곧 $\sum 1/n^2 = \pi^2/6$입니다. 진폭의 제곱이 $1/n^2$에 비례하고 한 주기의 길이가 $2\pi$라서, 원운동의 $\pi$가 이 합으로 흘러들어옵니다.

오일러는 더 놀라운 것을 보았습니다. 모든 자연수⁠(natural number)⁠는 소수⁠(prime number)⁠로 한 가지로만 분해되니, $\sum 1/n^2$은 소수마다 등비급수⁠(geometric series)⁠ $1 + p^{-2} + p^{-4} + \cdots = 1/(1-p^{-2})$를 곱한 것과 같습니다. 이제 이것을 확률로 읽어 봅시다. 무한히 많은 정수⁠(integer)⁠ 모두에 같은 확률을 줄 수는 없으니, "정수 전체에서 고르게 뽑기"는 뜻이 없습니다. 그래서 1부터 $N$까지에서 두 수를 고르게 뽑고, 서로소일 확률이 $N$을 한없이 키울 때 어디로 가는지를 봅니다. 두 수가 모두 $p$의 배수⁠(multiple)⁠일 확률은 $N$이 커질수록 $1/p^2$에 다가갑니다. 서로 다른 소수에 대한 이런 사건⁠(event)⁠들이 독립⁠(independence)⁠이라고 치면, 어떤 소수도 공통으로 갖지 않을 확률(서로소일 확률)은 $\prod (1 - 1/p^2) = 6/\pi^2 \approx 0.608$입니다. 유한한 $N$에서 사건들은 정확히 독립은 아니지만, 소수별 사건을 포함배제로 정확히 세고 오차를 따져 보면 극한값이 실제로 $6/\pi^2$임이 증명됩니다. 이 소수별 곱은 $s=2$를 1보다 큰 임의의 $s$로 바꾼 일반적인 제타 함수⁠(zeta function)⁠의 오일러 곱⁠(Euler product)⁠으로 이어져, 소수 정리⁠(prime number theorem)⁠를 증명하는 열쇠가 됩니다.

격자점⁠(lattice point)⁠ $(a, b)$가 원점에서 "보이려면" 원점과 사이에 다른 격자점이 없어야 하고, 이는 최대공약수 $\gcd(a,b) = 1$과 같은 말입니다. $\gcd(a, b) = g \gt 1$이면 $(a/g, b/g)$가 중간에서 시선을 가립니다. 흰검은 점을 끌어 보면 빨간 점들이 바로 이런 점입니다. $1 \le a, b \le$ 에서 보이는 점의 비율은 이고, $R$을 키우면 $6/\pi^2 = 0.6079\ldots$에 다가갑니다. 위의 확률을 그림으로 본 것입니다. 정수 격자라는 가장 이산적인 대상에서 원의 둘레 비가 나오는 것입니다.