칸토어 함수(Cantor function)

칸토어 집합을 만들 때처럼 가운데 3분의 1을 지워 가며 계단을 쌓습니다. 대각선 $F_0(x) = x$에서 시작해, 매 단계 지우는 가운데 구간에서는 함수를 평평하게 두고(높이는 양 끝의 중간), 남은 두 조각에는 앞 단계의 그래프를 가로 1/3, 세로 1/2로 줄여 넣습니다. 깊이 $d =$ 입니다. 왼쪽은 계단 $F_d$와 그 아래 남은 구간들(주황), 오른쪽은 기울기 $F_d'$의 그래프입니다.

평평한 부분의 길이를 모두 더하면 이고(등비급수⁠(geometric series)⁠ $\tfrac13 + \tfrac29 + \cdots$의 앞부분), 오르는 부분의 기울기는 입니다. 깊이를 키우면 평평한 곳이 거의 전부를 덮고, 오르는 곳은 점점 좁고 가팔라집니다. 그래도 오른쪽 막대들의 넓이⁠(area)⁠ $(3/2)^d \times (2/3)^d = 1$은 그대로입니다. 이 계단들은 한 함수 $F$로 다가가고(극한⁠, limit⁠), 그 함수가 칸토어 함수입니다. 흔히 '악마의 계단⁠(devil's staircase)⁠'이라 부릅니다. 다가가는 방식은 균등 수렴⁠(uniform convergence)⁠입니다. 점마다 따로 다가가는 것이 아니라, 깊이 $d$의 계단과 $F$의 차이가 어느 $x$에서나 한꺼번에 $\tfrac16 \cdot 2^{-d}$를 넘지 않습니다. 그래서 연속인 계단들의 극한인 $F$도 연속입니다.

$F$는 연속이고 줄어들지 않으며 0에서 1까지 오릅니다. 그런데 칸토어 집합 밖의 모든 점, 곧 지워진 구간 위에서는 평평해서 미분계수⁠(derivative)⁠가 0입니다. 칸토어 집합은 측도 0(길이의 합을 얼마든지 작게 만들 수 있는 구간들로 덮이는 집합⁠(set)⁠)이니 거의 모든 점에서 $F' = 0$입니다. '거의 모든 점'은 측도 0⁠(measure zero)⁠인 집합 하나를 빼면 나머지 모든 점이라는 뜻입니다. 미적분의 기본정리⁠(fundamental theorem of calculus)⁠대로라면 $F'$을 적분⁠(integral)⁠한 값이 증가량 $F(1) - F(0) = 1$이어야 하는데, 0을 적분하면 0입니다.

어긋나는 까닭은 칸토어 집합의 점들에 있습니다. 거기서는 가까운 두 점을 잇는 기울기가 한없이 커져서 $F$가 미분⁠(differentiation)⁠가능하지 않습니다. 깊이 $k$에서 그 점을 품은 길이 $3^{-k}$의 조각 위에서 $F$가 $2^{-k}$만큼 오르니, 조각의 두 끝점 가운데 하나와 그 점을 잇는 기울기는 적어도 $\tfrac12 (3/2)^k$이고, $k$를 키우면 한없이 커지기 때문입니다. 우리가 쓰는 기본정리는 모든 점에서 미분가능하고 그 도함수⁠(derivative function)⁠가 적분 가능한 함수에 대한 약속이라 이런 점을 허락하지 않습니다. 비유하자면, 오른쪽 그림의 넓이 1은 깊이를 키울수록 폭이 0으로, 높이가 무한대로 가는 가시들이 되어 길이가 0인 집합 속으로 숨어 버립니다.

값을 직접 구할 수도 있습니다. 노란 점 $x$를 끌어 보세요. $x$를 3진법⁠(ternary)⁠으로 쓰면 입니다. 처음 나오는 1까지만 읽고(그 1은 그대로 둡니다), 그 앞의 2를 모두 1로 바꿔 이진법⁠(binary)⁠으로 읽으면 , 곧 $F(x) \approx$ 입니다. 0과 2만 쓰는 칸토어 집합의 점들은 이렇게 0과 1 사이의 모든 이진 전개⁠(binary expansion)⁠에 닿습니다. 그래서 $F$는 칸토어 집합에서 $[0, 1]$ 전체로 가는 전사⁠(surjective)⁠이고, 길이 0인 집합이 길이 1인 구간 전체로 펼쳐집니다. 칸토어 집합이 $[0, 1]$보다 작지 않다는 것(집합의 크기⁠, cardinality⁠)도 이 전사가 보여 줍니다.

이어지는 곳. 3진 자리마다 동전을 던져 0이나 2를 고르면 칸토어 집합 위의 무작위 점이 나옵니다. $F(x)$는 그 점이 $x$ 이하일 확률(누적 확률⁠(probability)⁠)입니다. 흔히 누적 확률이 끊김 없이(연속으로) 오르는 확률변수⁠(random variable)⁠라면 확률 밀도⁠(probability density)⁠가 있다고 생각합니다. 확률 밀도는 구간에 들어갈 확률이 그 구간 위에서 밀도 곡선 아래 넓이로 주어지는 함수입니다. 그런데 이 무작위 점은 한 점에 떨어질 확률이 0이라 누적 확률이 끊김 없이 오르면서도, 길이 0인 칸토어 집합에만 떨어지니 그런 밀도가 어디에도 없습니다. 연속이라고 밀도가 있는 것은 아니라는 대표적인 예입니다.

또 $F(x/3) = F(x)/2$라는 자기 닮음⁠(self-similarity)⁠ 때문에 어느 계단을 확대해도 전체와 같은 모양이 보입니다. 작은 부분에 전체의 모양이 되풀이되는 프랙털⁠(fractal)⁠의 성질로, 망델브로 집합⁠(Mandelbrot set)⁠에서도 비슷한 모습을 볼 수 있습니다. 마지막으로, 적분을 새로 세운 르베그 적분⁠(Lebesgue integral)⁠에서도 기본정리 $F(1) - F(0) = \int_0^1 F'$가 성립하려면 연속보다 강한 조건(절대 연속⁠, absolute continuity⁠)이 필요합니다. 서로 겹치지 않는 유한 개의 구간들의 길이 합이 충분히 작으면, 그 구간들 위의 증가량의 합도 작아야 한다는 조건입니다. 칸토어 함수는 길이의 합이 $(2/3)^d$로 얼마든지 작은 구간들 위에서 합쳐서 1만큼 오르니 이 조건을 어기고, 조건이 왜 필요한지 보여 주는 대표적인 예가 됩니다.