리만 제타 함수(Riemann zeta function)

바젤 문제⁠(Basel problem)⁠의 합 $1 + \tfrac14 + \tfrac19 + \cdots$에서 지수 2를 변수 $s$로 바꾼 것이 제타 함수입니다. $s =$ 이면 $\zeta(s) =$ 입니다. s = 2로 $s = 1$에서는 조화급수⁠(harmonic series)⁠가 되어 한없이 커지니(발산⁠, divergence⁠), $s$를 1 쪽으로 끌면 값이 한없이 커집니다.

오일러는 이 합이 소수들에 대한 곱과 같다는 것을 알았습니다. 소수마다 등비급수⁠(geometric series)⁠ $1 + p^{-s} + p^{-2s} + \cdots = 1/(1 - p^{-s})$를 만들어 모두 곱하고 전개하면, 모든 $n^{-s}$이 정확히 한 번씩 나옵니다. 모든 자연수⁠(natural number)⁠가 소수의 곱으로 단 한 가지로 쓰이기 때문입니다(소인수분해⁠(prime factorization)⁠). $N =$ 까지 자른 합은 , 곱은 입니다. 곱을 전개하면 $N$ 이하의 모든 항에 더 많은 항까지 들어 있으니 곱 쪽이 늘 위에 있습니다. $s = 1$에서 합이 발산하니 곱도 발산해야 하고, 그러려면 소수가 무한히 많아야 합니다. 오일러는 같은 요령, 곧 등비급수 $1/(1-x^k)$들을 곱해 전개하는 방법으로 자연수를 순서 없이 합으로 쪼개는 방법의 수(분할수⁠, partition number⁠)도 다루었습니다.

리만은 $s$에 복소수⁠(complex number)⁠ $\sigma + it$를 넣었습니다. $n^{-s} = n^{-\sigma} e^{-it\ln n}$이니(오일러 공식⁠, Euler's formula⁠) 각 항은 길이 $n^{-\sigma}$인 화살표를 로그 $\ln n$에 비례한 각도로 돌린 것입니다. 합은 $\sigma > 1$에서만 한 값에 다가갑니다(수렴⁠, convergence⁠). 그래도 함수는 매끄럽게 이어서 $s = 1$ 한 점만 빼고 복소평면 전체로 넓힐 수 있습니다. 빠지는 $s = 1$은 값이 무한대로 치솟는 점, 곧 극입니다. 복소수 범위에서 미분⁠(differentiation)⁠가능한 함수는 한 영역에서의 값이 정해지면, 그 밖으로 매끄럽게 이을 수 있는 경우 잇는 방법이 단 하나뿐입니다(이을 수 있는지는 함수마다 따로 보여야 합니다). 그래서 넓힌 함수는 하나로 정해집니다. 이렇게 넓히는 일을 해석적 연속⁠(analytic continuation)⁠이라 합니다. 수렴반경⁠(radius of convergence)⁠ 밖으로 함수를 이어 가는 것과 같은 생각입니다. 이렇게 넓힌 함수에서 $\zeta(-2) = \zeta(-4) = \cdots = 0$이고(자명한 영점⁠, trivial zero⁠), $\zeta(-1) = -\tfrac{1}{12}$입니다. 이것은 $1 + 2 + 3 + \cdots$의 합이 아니라 이어 붙인 함수의 값입니다.

나머지 영점(자명하지 않은 영점⁠, nontrivial zero⁠)은 모두 $0 < \sigma < 1$인 띠 안에 있습니다. 왼쪽 그림은 $\sigma =$ 인 세로선 위에서 $|\zeta(\sigma + it)|$를 $t$에 따라 그린 것이고, 오른쪽은 $t = 0$부터 $t =$ 까지 $\zeta(\sigma + it)$가 복소평면에 남긴 자취입니다. 지금 값은 입니다. σ = 1/2로 t를 0부터 50까지 $\sigma = \tfrac12$이면 곡선이 $t \approx 14.13, 21.02, 25.01, \dots$에서 원점을 정확히 지나고(노란 눈금), $\sigma$를 조금만 옮겨도 원점을 비켜 갑니다. 이 영점들은 영점과 극⁠(zeros and poles)⁠에서 본 대로 둘레를 한 바퀴 돌면 색도 한 바퀴 도는 점이고, 도메인 컬러링⁠(domain coloring)⁠으로 그리면 한 세로선 위에 줄지어 있습니다.

리만 가설⁠(Riemann hypothesis)⁠은 자명하지 않은 영점이 모두 세로선 $\sigma = \tfrac12$(임계선⁠, critical line⁠) 위에 있다는 추측입니다. 1859년 리만이 제시했고, 수조 개가 넘는 영점이 계산으로 확인되었지만 증명은 없습니다. 2000년 미국의 클레이 수학연구소가 문제마다 100만 달러를 걸고 고른 일곱 개의 밀레니엄 문제 가운데 하나입니다. 자명하지 않은 영점 $\rho = \beta + i\gamma$(켤레 $\beta - i\gamma$와 한 쌍)마다 소수 계단 $\pi(x)$에 더해지는 파동이 하나씩 대응하고(구조가 푸리에 급수⁠(Fourier series)⁠와 닮았습니다), 그 파동의 크기는 대략 $x^{\beta}$처럼 자랍니다. 곧 영점의 실수부⁠(real part)⁠ $\beta$가 클수록 오차가 커집니다. 그래서 리만 가설은 소수 정리⁠(prime number theorem)⁠의 오차 $|\pi(x) - \mathrm{Li}(x)|$가 $\sqrt{x}\,\ln x$의 상수배를 넘지 않는다는 말과 같습니다(1901년 스웨덴의 헬게 폰 코흐가 보였습니다). 오차가 $\sqrt x$에 로그 인수가 붙은 정도로 작다는 뜻이니, 소수는 가능한 한 고르게 흩어져 있다는 주장입니다.

이어지는 곳. 짝수 $s$에서의 값은 $\zeta(2) = \pi^2/6$, $\zeta(4) = \pi^4/90$처럼 $\pi$로 닫히지만, 홀수 쪽은 알려진 것이 적습니다. $\zeta(3)$이 무리수⁠(irrational number)⁠라는 것은 1978년 프랑스의 로제 아페리가 증명했고, 2000년 탕기 리볼이 $\zeta(5), \zeta(7), \dots$ 가운데 무한히 많은 값이 무리수임을 보였지만, $\zeta(5)$ 하나가 무리수인지는 아직 모릅니다. $s$가 2 이상의 정수⁠(integer)⁠일 때, 1부터 $N$까지에서 $s$개의 정수를 고르게 뽑으면 그들이 공통 소인수를 갖지 않을 확률⁠(probability)⁠은 $N$이 커질수록 $1/\zeta(s)$에 다가갑니다. $s = 2$일 때가 두 정수가 서로소⁠(coprime)⁠일 확률의 극한⁠(limit)⁠ $6/\pi^2 \approx 0.608$이고, 그 계산은 바젤 문제에 있습니다. 이웃한 소수 사이가 얼마나 벌어질 수 있는지도 영점의 위치와 얽혀 있고, 그 질문은 쌍둥이 소수⁠(twin primes)⁠에서 이어집니다.