도박판에서 온 편지

1654년, 도중에 멈춘 내기의 판돈은 어떻게 나누어야 할까요? 두 수학자가 주고받은 편지에서 확률론이 태어났습니다.

이 글의 처럼 점선이 그어진 숫자는 좌우로 끌 수 있고(키보드 ←/→도 됩니다), 밑줄 친 말에 마우스를 올리면 그림에서 그 부분이 빛납니다. 그림 속 흰검은 점과 색 점도 직접 끌 수 있습니다. 색이 칠해진 선택지는 눌러서 바꿀 수 있습니다. 휴대폰에서는 마우스를 올리는 대신 누르면 됩니다.

두 사람이 32피스톨씩, 모두 64피스톨을 걸고 내기를 합니다. 한 판을 이길 가능성은 둘이 똑같고, 먼저 세 판을 이긴 사람이 판돈을 모두 가져갑니다. 그런데 A가 2승, B가 1승을 거둔 상황에서 내기를 그만두어야 하는 일이 생겼습니다. 64피스톨을 어떻게 나누어야 공정할까요?

A는 한 판만 더 이기면 되고 B는 두 판을 내리 이겨야 하니, A가 더 받아야 한다는 데는 누구나 동의합니다. 어려운 것은 얼마나 더 받느냐입니다. 이긴 판 수대로 2 : 1로 나눌까요, 아니면 다른 비율일까요? 이 물음은 '분배 문제⁠(problem of points)⁠'라는 이름으로 인쇄된 기록으로만 쳐도 160년 동안 풀리지 않았고, 1654년 파스칼과 페르마가 주고받은 편지에서 마침내 풀렸습니다. 그 풀이 방법이 오늘날 확률⁠(probability)⁠론의 출발점입니다.

피스톨은 당시 유럽에서 쓰이던 금화입니다. 32피스톨씩, 세 판 선승, 2 : 1이라는 설정은 파스칼이 1654년 7월 29일 페르마에게 보낸 편지에 나오는 예입니다. 파스칼에게 이런 문제들을 가져온 사람은 사교계 인사이자 문필가였던 슈발리에 드 메레(본명 앙투안 공보)였다고 전해집니다. 1651년 아버지가 세상을 떠난 뒤 몇 해 동안 파스칼은 젊은 귀족 친구 로아네즈 공작이나 드 메레 같은 파리 사교계 사람들과 어울렸습니다. 그런 귀족 살롱에서 카드와 주사위 내기는 흔한 오락이었습니다.

1 · 멈춘 내기판돈을 어떻게 나눌까

이 절의 물음은 이것입니다. 1654년 전에 사람들은 멈춘 내기를 어떤 규칙으로 나누자고 했고, 그 규칙들은 어디서 어긋났을까? 틀린 답을 먼저 보아 두면, 옳은 답이 무엇을 새로 보았는지가 또렷해집니다.

이 문제는 1654년보다 훨씬 오래되었습니다. 인쇄된 기록으로 가장 잘 알려진 것은 이탈리아의 수도사이자 수학자 루카 파치올리가 1494년에 낸 『산술 대전』입니다. 파치올리의 답은 단순했습니다. 지금까지 이긴 판 수에 비례해서 나눈다. 2 : 1이면 전체를 2 + 1 = 3조각으로 보고 A에게 2조각, B에게 1조각을 줍니다. 판돈의 3분의 2와 3분의 1, 64피스톨로는 약 42.7피스톨과 21.3피스톨입니다.

이 규칙이 그럴듯해 보인 데에는 까닭이 있습니다. 베네치아에서 인쇄된 『산술 대전』은 산술, 대수, 기하⁠(geometry)⁠와 상업 계산을 한데 모은 책인데, 복식부기⁠(double-entry bookkeeping)⁠를 처음 인쇄된 형태로 자세히 설명한 책으로 더 유명합니다. 복식부기는 거래 하나를 돈이 나간 쪽과 들어온 쪽의 두 칸에 함께 적어, 장부 양쪽의 합이 늘 맞도록 하는 회계법입니다. 이탈리아 상업 도시의 셈 학교에서 상인의 아들들이 익힌 문제는 대개 동업자들이 낸 돈에 비례해 이익을 나누는 것이었습니다. 이긴 판 수를 '낸 돈'처럼 보고 비례로 나누는 것은 그 세계에서 가장 자연스러운 답이었습니다. 빠진 것은 아직 일어나지 않은 일에 값을 매기는 생각이었습니다.

아래 그림은 세 가지 나눗셈을 나란히 보여 줍니다. 위에서부터 파치올리의 규칙, 바로 뒤에 볼 타르탈리아의 규칙, 그리고 파스칼과 페르마의 답입니다. 몇 판을 먼저 이기면 끝나는 내기인지 $N =$ , 멈춘 순간의 점수 A : B를 바꿔 보세요. 볼 것은 세 막대의 노란 부분이 서로 얼마나 다른가입니다.

지금 파치올리의 규칙은 A에게 를 줍니다. 3차방정식⁠(cubic equation)⁠의 풀이로 이름난 이탈리아의 수학자 니콜로 타르탈리아는 1556년 이 규칙의 약점을 짚었습니다. 3차방정식의 풀이를 두고 그가 카르다노와 다툰 이야기는 「원을 그리는 지수함수」 6절에 있습니다. 여섯 판을 먼저 이기는 내기가 1 : 0에서 멈추면 파치올리의 규칙은 판돈을 전부 앞선 사람에게 줍니다. 1 : 0을 비례로 나누면 1/(1+0) = 100%이기 때문입니다. 겨우 한 판 앞섰을 뿐인데 말입니다. 6판 내기, 1 : 0으로 확인해 보세요.

타르탈리아는 자기 규칙을 대신 내놓았습니다. 앞선 사람은 자기가 건 돈을 되찾고, 상대가 건 돈 가운데 (점수 차 ÷ $N$)만큼을 더 가져간다는 것입니다. 6판 내기 1 : 0이라면 점수 차가 1이므로 상대 돈의 1/6을 더 가져갑니다. 계산하면 32 + 32 × 1/6 ≈ 32 + 5.3 = 37.3피스톨이고, 판돈 64피스톨의 7/12(약 58%)입니다. 지금은 A에게 를 줍니다.

하지만 타르탈리아 자신도 확신하지 못했습니다. 그는 이 문제의 해결이 수학보다는 법적 판단에 가깝다는 취지로 적었습니다.

세 번째 막대가 파스칼과 페르마의 답입니다. 지금 A의 몫은 , 64피스톨로 치면 피스톨입니다. 파스칼의 예(3판, 2 : 1)에서는 48피스톨, 곧 3 : 1입니다. 파치올리 자신의 예(6판, 5 : 2)에서는 차이가 더 큽니다. 파치올리는 5 : 2로 나누라고 했지만 공정한 몫은 15 : 1입니다. 이 값들이 어디서 나오는지가 2절과 3절의 내용이니, 지금은 막대의 길이만 눈여겨보면 됩니다.

두 옛 규칙과 무엇이 다를까요? 파치올리와 타르탈리아는 지나간 판을 봅니다. 파스칼과 페르마는 남은 판을 봅니다.

지금 A는 판, B는 판을 더 이겨야 합니다. 판돈의 주인을 가르는 것은 이 두 수뿐입니다. 앞으로 벌어질 일은 앞으로의 판에서만 정해지고, 이미 끝난 판은 '앞으로 몇 판이 필요한가'를 통해서만 영향을 주기⁠(period)⁠ 때문입니다. 예를 들어 7판 내기의 5 : 3과 4판 내기의 2 : 0은 점수는 달라도 둘 다 "A는 2판, B는 4판 남음"이므로 같은 문제입니다(7 − 5 = 2, 7 − 3 = 4, 4 − 2 = 2, 4 − 0 = 4).

정리하면, 옛 규칙들은 이미 끝난 판의 점수로 나누었고, 옳은 답은 남은 판 수 두 개로만 정해집니다. 남은 판으로 몫을 셈하려면 아직 일어나지 않은 판들을 다룰 방법이 있어야 합니다.

1539년 의사이자 수학자 지롤라모 카르다노도 파치올리를 비판하면서 남은 판 수를 봐야 한다고 지적했지만, 그가 제시한 비율 역시 틀렸습니다. 올바른 답에는 새로운 생각 하나가 필요했습니다. 아직 일어나지 않은 일을 세는 방법입니다.

2 · 페르마의 방법아직 오지 않은 미래를 모두 적기

이 절의 물음은 이것입니다. 아직 하지 않은 판들의 결과를 어떻게 셈에 넣을까? 먼저 '공정하다'의 뜻부터 정해 둡니다. 파스칼과 페르마가 함께 받아들인 원칙은 이것입니다. 내기를 끝까지 했다면 A가 이겼을 가능성만큼 판돈을 A에게 준다. A가 이길 가능성이 4번 중 3번꼴이면 판돈의 3/4을 줍니다. 그러니 할 일은 '끝까지 했다면 A가 이길 가능성'을 구하는 것입니다.

가장 작은 경우로 시작합니다. 파스칼의 예(3판 선승, 2 : 1)에서 A는 1판, B는 2판을 더 이겨야 합니다. 앞으로 두 판을 더 한다고 치고, 두 판의 승자를 차례로 적으면 가능한 경우는 네 가지뿐입니다.

• AA, AB, BA: A가 적어도 한 판을 이기므로 A가 내기를 이깁니다.
• BB: B가 두 판을 내리 이기므로 B가 내기를 이깁니다.

판마다 두 사람이 이길 가능성이 같으니 네 경우도 똑같이 일어날 만합니다. A 편이 4가지 중 3가지이므로 A의 몫은 3/4이고, 피스톨로는 64 × 3/4 = 48피스톨입니다. 1절 그림의 세 번째 막대가 보여 준 값입니다.

페르마의 방법은 이것을 일반화한 것입니다. A에게 $r$판, B에게 $s$판이 남았다면 길어야 $r + s - 1$판 안에 승부가 납니다(위의 예에서는 1 + 2 − 1 = 2판). 왜 그럴까요? 그만큼 하고도 승부가 안 났다면 A는 많아야 $r - 1$판, B는 많아야 $s - 1$판을 이긴 것이고, 둘을 더해도 $r + s - 2$판밖에 안 되어 한 판이 모자랍니다. 그만큼의 판을 모두 한다고 치고, 일어날 수 있는 승패의 순서를 빠짐없이 적습니다. 판마다 반반이고 한 판의 결과가 다음 판에 영향을 주지 않으므로, 이 순서들은 모두 똑같이 일어날 만합니다. 그러니 A가 이기는 순서의 개수를 세어 전체 개수로 나누면 됩니다.

A에게 남은 판 수($r =$ )와 B에게 남은 판 수($s =$ )를 정해 봅시다. 그러면 $m = r + s - 1 =$ 판을 더 한다고 치고, 가능한 순서는 $2^m =$ 가지입니다. $2^m$은 2를 $m$번 곱한 수입니다. 판마다 승자가 A 아니면 B, 두 가지이므로 판이 하나 늘 때마다 순서의 가짓수가 두 배가 됩니다. 두 판이면 2 × 2 = 4가지(위의 AA, AB, BA, BB), 네 판이면 2 × 2 × 2 × 2 = 16가지입니다.

아래 그림은 이 순서들을 모두 늘어놓은 것입니다. 세로 한 줄을 위에서 아래로 읽으면 미래 하나입니다. 볼 것은 두 가지입니다. 맨 아래 큰 점(내기 전체의 승자)이 노란색인 줄이 몇 개인지, 그리고 점선이 줄들을 어디서 가르는지입니다.

A가 이기는 미래는 가지, B가 이기는 미래는 가지입니다. A는 남은 $m$판 가운데 $r$판 이상을 이기면 되므로, 점선 오른쪽의 묶음들을 모두 더하면 됩니다. 따라서 A의 공정한 몫은 입니다.

식에서 $\binom{m}{k}$는 '$m$판 가운데 A가 정확히 $k$판 이기는 순서의 개수'이고, 그림 아래에 적힌 묶음의 크기가 바로 이 수입니다. 3절에서 다시 봅니다. 기본값 $r = 2,\ s = 3$은 두 사람의 편지에서 실제로 다룬 경우입니다. $m = 4$판 가운데 A가 2판 이상 이기는 순서는 2판 6가지, 3판 4가지, 4판 1가지로 모두 11가지입니다. 16가지 중 11가지가 A 편이므로 11 : 5로 나눕니다.

$r = 1,\ s = 4$로 바꾸면 1절에서 본 파치올리의 예가 됩니다. B가 이기는 미래는 B가 네 판을 내리 이기는 단 하나뿐이어서 15 : 1이 나옵니다.

이 방법은 오늘날 확률을 다루는 기본 틀 그대로입니다. 일어날 수 있는 모든 결과를 모은 집합(모임)이 표본공간⁠(sample space)⁠이고, 그 가운데 "A가 이긴다"에 해당하는 결과들만 골라 낸 모임(부분집합⁠, subset⁠)이 사건입니다. 위의 작은 예에서 표본공간은 {AA, AB, BA, BB}, 사건⁠(event)⁠ "A가 이긴다"는 {AA, AB, BA}입니다. 모든 결과가 똑같이 일어날 만하다면 사건의 확률은 두 모임의 크기의 비(여기서는 3/4)이고, 확률을 구하는 일은 세는 문제가 됩니다.

파스칼의 편지에 따르면, 그가 이 방법을 파리의 동료 수학자 질 드 로베르발에게 보여 주자 로베르발이 반박했습니다. 실제 내기는 승부가 나는 순간 끝나는데, 끝난 뒤의 판까지 치는 것은 억지라는 것입니다. 그림에서 흐리게 그린 점이 바로 '실제로는 하지 않을 판'입니다.

파스칼의 답은 이것이었습니다. 그 판들은 누가 이기든 승자를 바꾸지 못한다. 가상의 판을 붙이는 까닭은 모든 미래를 같은 길이로 만들기 위해서입니다. 실제로 멈추는 순서들은 길이가 달라서 똑같이 일어날 만하지 않습니다. 기본값 $r = 2,\ s = 3$으로 보면, A가 두 판을 내리 이겨 두 판 만에 끝나는 순서 AA의 확률은 1/2 × 1/2 = 1/4이지만, 네 판까지 가는 순서, 예컨대 ABBA의 확률은 1/16입니다. 그러니 '실제로 멈추는 순서'들을 세기만 해서는 안 되고, 확률이 다른 것들에 무게를 따로 매겨야 합니다. 길이를 맞추면 모든 순서가 똑같이 1/16이 되어 세기만 하면 됩니다. AA는 뒤에 가상의 두 판을 붙인 AAAA, AAAB, AABA, AABB의 네 순서로 나뉘고, 이 넷을 합친 확률이 4/16 = 1/4로 실제 확률과 같습니다.

정리하면, 페르마의 방법은 '끝까지 한다고 치고 똑같이 일어날 만한 미래를 모두 적은 뒤, A 편인 것을 센다'입니다.

3 · 파스칼의 방법한 판씩 거슬러 올라가기

이 절의 물음은 이것입니다. 남은 판이 많아 미래가 수백 가지로 늘어나도, 그것을 전부 적지 않고 몫을 구할 수 있을까? 파스칼은 다른 길로 같은 답에 이르렀습니다. 모든 미래를 늘어놓는 대신 다음 한 판만 생각합니다.

먼저 기호 하나를 정합니다. A에게 $r$판, B에게 $s$판이 남았을 때 A가 받을 몫을 판돈 전체를 1로 친 비율로 적어 $V(r, s)$라 부릅니다. 예를 들어 2절의 결과는 $V(1, 2) = 3/4$, $V(2, 3) = 11/16$입니다.

다음 판을 A가 이기면 A에게 남은 판이 하나 줄어 상황은 $(r-1,\ s)$가 되고, B가 이기면 $(r,\ s-1)$이 됩니다. 두 경우는 반반이므로, 지금의 몫 $V(r, s)$는 두 상황에서 받을 몫의 평균⁠(mean)⁠이어야 합니다. 반반인 두 기회의 값을 평균으로 매기는 것이 공정한 까닭은 5절에서 하위헌스의 말로 다시 봅니다. 이미 끝난 상황은 답이 정해져 있습니다. $r = 0$이면 A가 이미 이겼으니 모두 가지고(몫 1), $s = 0$이면 B가 이미 이겼으니 하나도 못 가집니다(몫 0).

식을 말로 읽으면 '지금의 몫은, 다음 판을 A가 이긴 뒤의 몫과 B가 이긴 뒤의 몫을 반씩 섞은 것'입니다. 이렇게 한 값을 더 작은 경우의 값들로 적는 식을 점화식⁠(recurrence relation)⁠이라 합니다. 끝난 상황에서 출발해 한 걸음씩 거꾸로 채워 봅시다.

둘 다 한 판씩 남은 1 : 1은 당연히 반반이고, 그 값을 한 번 더 쓰면 2절에서 네 가지 미래를 세어 얻은 3/4이 나옵니다.

파스칼은 편지에서 2 : 1 상황을 이렇게 설명합니다(요지). A는 "다음 판을 지더라도 2 : 2가 되어 32피스톨은 내 몫이다. 나머지 32피스톨은 내가 가질 수도, 네가 가질 수도 있으니 반씩 나누자"고 말할 수 있다. 그러면 A는 32 + 16 = 48피스톨을 받습니다. 위의 두 번째 줄을 피스톨로 읽은 것입니다. 다음 판을 이기면 64(몫 1), 지면 2 : 2가 되어 32(몫 1/2)이고, 그 평균이 48(몫 3/4)입니다.

아래 왼쪽 표는 이 계산을 모든 칸에 해 둔 것입니다. 흰검은 점을 끌거나 칸을 눌러 칸을 고르고, 그 칸의 값이 어느 두 칸에서 오는지 화살표를 따라가 보세요. 칸에 마우스를 올리면 계산 한 줄이 나옵니다.

고른 칸의 값은 왼쪽 칸(다음 판을 A가 이긴 경우)과 아래 칸(B가 이긴 경우)의 평균입니다. 맨 왼쪽 열(모두 1)과 맨 아래 줄(모두 0)에서 출발하면 표 전체가 한 칸씩 채워집니다. 먼 미래를 모두 적지 않고도, 끝에서부터 거꾸로 한 걸음씩 되짚어 오면 되는 것입니다.

그런데 두 방법이 늘 같은 답을 낼까요? 까닭은 오른쪽의 파스칼의 삼각형에 있습니다. 삼각형의 각 수는 바로 위 두 수의 합입니다(1, 4, 6, 4, 1 줄의 6은 그 위의 3 + 3). 강조된 줄의 수들은 2절 그림 아래에 적힌 묶음의 크기와 똑같습니다. $m$판 중 A가 정확히 $k$판 이기는 순서의 수, 곧 이항계수⁠(binomial coefficient)⁠입니다. $\binom{m}{k}$로 적고 '$m$개에서 $k$개 고르기'라고 읽습니다.

손으로 확인해 봅시다. 네 판 가운데 A가 정확히 두 판을 이기는 순서는 AABB, ABAB, ABBA, BAAB, BABA, BBAA의 6가지입니다. 네 자리 가운데 A가 들어갈 두 자리를 고르는 방법의 수이므로 $\binom{4}{2} = 6$이고, 삼각형의 4번째 줄(맨 위의 1을 0번째 줄로 셉니다) 1, 4, 6, 4, 1의 가운데 수입니다. 이 수는 곱셈으로도 구할 수 있습니다.

여기서 $m!$('$m$ 팩토리얼⁠(factorial)⁠')은 1부터 $m$까지의 곱입니다(예: 1 × 2 × 3 × 4이므로 $4! = 24$). 그래서 $\binom{4}{2} = 24 / (2 \times 2) = 6$으로 위의 개수와 같습니다. 오른쪽 식의 $\sum_{k=r}^{m}$('시그마')는 '$k$를 $r$부터 $m$까지 바꿔 가며 뒤의 것을 모두 더한다'는 뜻입니다. 이 식은 2절의 셈을 그대로 옮긴 것입니다. A가 $r$판 이상 이기는 묶음들($k = r, \dots, m$)의 크기를 더하고 전체 $2^m$으로 나눕니다. 예컨대 $r = 2,\ s = 3$이면 $m = 4$이고 $(6 + 4 + 1)/16 = 11/16$입니다.

페르마는 모든 경우를 세었고, 파스칼은 한 판씩 쌓아 올렸습니다. 삼각형의 "위의 두 수를 더한다"는 규칙은 경우를 둘로 나누어 세는 것과 같습니다. 네 판 중 A가 두 판 이기는 6가지 순서를 첫 판으로 나누면, 첫 판을 A가 이긴 것(AABB, ABAB, ABBA: 남은 세 판에서 A가 한 판)이 3가지, B가 이긴 것(BAAB, BABA, BBAA: 남은 세 판에서 A가 두 판)이 3가지입니다. 파스칼의 점화식도 '다음 판을 누가 이기는가'로 둘로 나눈 것이니, 두 방법은 같은 셈을 서로 다른 순서로 한 것입니다. 이 이항계수들의 분포가 뒤에서 볼 이항분포⁠(binomial distribution)⁠입니다.

정리하면, 세는 방법(페르마)과 한 판씩 되짚는 방법(파스칼)은 파스칼의 삼각형이라는 같은 표를 서로 다른 쪽에서 읽은 것입니다.

파스칼은 1654년 무렵 『산술 삼각형론』을 쓰면서 이 삼각형의 성질을 정리하고 분배 문제에 쓰는 법까지 적었습니다. 책은 그가 죽은 뒤인 1665년에 나왔습니다. 삼각형 자체는 훨씬 오래되었습니다. 중국에서는 13세기 남송의 수학자 양휘의 책에 실려 있어 '양휘 삼각형'이라 부르고, 1303년 원나라의 수학자 주세걸이 쓴 『사원옥감』에 실린 그림도 유명합니다. 페르시아와 인도에도 비슷한 기록이 있고, 이탈리아에서는 '타르탈리아의 삼각형'이라고도 부릅니다. 인도의 기록은 시에서 긴 음절과 짧은 음절이 늘어서는 규칙을 연구하는 운율학⁠(prosody)⁠에서 나왔습니다. 10세기 무렵의 주석가 할라유다는 음절의 무늬를 세며 이 삼각형을 '메루산의 계단'이라 불렀습니다. 삼각형의 비스듬한 줄을 더하면 피보나치 수열⁠(Fibonacci sequence)⁠이 나오는 것도 같은 덧셈 규칙 덕분입니다. 여러 문명이 서로 다른 질문에서 같은 삼각형에 이른 이야기는 「세지 않고 세기」 2절에 있습니다.

4 · 슈발리에의 주사위더하지 말고 곱하라

이 절의 물음은 이것입니다. 드문 일이 '여러 번 해서 한 번이라도' 일어날 확률은 어떻게 구할까? 한 번의 확률에 횟수를 곱하면 될 것 같지만, 그렇지 않습니다.

드 메레가 가져온 질문은 하나가 더 있었습니다. 주사위 하나를 네 번 던져 6이 한 번이라도 나오는 쪽에 걸면 유리하다는 것은 도박꾼들 사이에 알려져 있었습니다. 주사위 두 개를 던지면 결과는 6 × 6 = 36가지이고, 두 개 모두 6이 나오는 것(6-6)은 그 가운데 하나입니다. 36가지 중 하나이니 6가지 중 하나인 경우보다 6배 드뭅니다. 그렇다면 던지는 횟수도 6배인 24번이면 똑같이 유리해야 할 것 같습니다. 그런데 계산해 보면 24번에 거는 쪽이 오히려 불리합니다.

던지는 횟수($n =$ )를 바꿔 보세요. 파란 곡선과 분홍 곡선이 각각 흰검은 점선(1/2)을 몇 번째에 넘는지가 볼 것입니다.

열쇠는 반대쪽에서 세는 것입니다. "한 번이라도 나온다"를 직접 세면 첫 번째에 나오는 경우, 두 번째에 나오는 경우… 가 서로 겹쳐서 복잡합니다. 그 반대 사건, 곧 여사건⁠(complementary event)⁠ "한 번도 안 나온다"는 간단합니다. 둘 가운데 정확히 하나가 반드시 일어나므로 두 확률의 합은 1이고, 그래서 "한 번이라도 나온다"의 확률은 1에서 "한 번도 안 나온다"의 확률을 뺀 값입니다.

"한 번도 안 나온다"의 확률은 곱셈으로 구합니다. 두 번 던지는 경우를 손으로 세어 봅시다. 두 번의 결과는 6 × 6 = 36가지이고, 둘 다 6이 아닌 것은 5 × 5 = 25가지입니다. 그러니 확률은 25/36 = 5/6 × 5/6입니다. 한 번의 결과가 다른 번의 결과에 영향을 주지 않을 때(이것을 독립⁠(independence)⁠이라 합니다) 이렇게 확률끼리 곱하면 됩니다. $n$번이면 5/6을 $n$번 곱한 $(5/6)^n$이고, 여기서 1을 빼면 답입니다.

그림 아래의 식이 지금 고른 $n$으로 같은 계산을 합니다. 주사위 둘이면 6-6이 아닐 확률이 35/36이므로 $(35/36)^n$을 1에서 뺍니다. 1/2을 처음 넘는 곳은 주사위 하나일 때 $n = 4$(0.5177), 주사위 둘일 때 $n = 25$(0.5055)입니다. 24번에서는 0.4914여서 거는 쪽이 조금 불리합니다.

흔히 '6이 나올 확률이 1/6이니 두 번 던지면 2/6'이라고 생각하지만, 그렇지 않습니다. 어림 직선은 이렇게 한 번의 확률을 $n$번 더한 것입니다. 두 번 던지는 경우로 틀린 곳을 봅시다. 1/6 + 1/6 = 12/36이지만, 36가지 가운데 6이 한 번이라도 나오는 것은 36 − 25 = 11가지뿐입니다. 첫 번째의 6(6가지)과 두 번째의 6(6가지)을 따로 세면 둘 다 6인 6-6을 두 번 세기 때문입니다. 던질수록 이런 중복이 쌓여, 주사위 하나로 일곱 번 던지면 7/6처럼 확률이 1을 넘는 엉터리가 됩니다. 곡선이 직선 아래로 휘는 만큼이 중복된 몫이고, 그것을 정확히 빼 주는 방법이 포함배제 원리⁠(inclusion–exclusion principle)⁠입니다.

그렇다면 "드문 정도에 비례해서 횟수를 늘린다"는 드 메레의 어림은 왜 거의 맞았을까요? 한 번의 확률이 $1/N$이라 합시다(주사위 하나면 $N = 6$, 6-6이면 $N = 36$). $n$번 모두 안 나올 확률은 $(1 - 1/N)^n$입니다. 이것을 $N$번씩 묶어 보면 실마리가 보입니다. 한 묶음, 다시 말해 $N$번 내리 안 나올 확률 $(1 - 1/N)^N$은 $N$이 6쯤만 되어도 거의 같은 값이고, $N$이 커질수록 한 값에 다가갑니다. $N$이 2나 3처럼 아주 작을 때만 0.25, 0.296으로 꽤 떨어져 있습니다.

이 '다가가는 값' 0.368…에는 이름이 있습니다. $N$을 한없이 키울 때 어떤 양이 한없이 가까워지는 값을 그 양의 극한⁠(limit)⁠이라 하고, $(1 - 1/N)^N$의 극한은 $1/e$로 적습니다. 그 역수⁠(inverse)⁠인 $e \approx 2.718$은 지수함수⁠(exponential function)⁠의 밑으로 쓰이는 수입니다. 그러니 $n$번은 약 $n/N$묶음이고, 모두 안 나올 확률은 약 0.368을 $n/N$번 곱한 값, 기호로는 $(1 - 1/N)^n \approx e^{-n/N}$입니다($e^{-x}$는 $x$가 자연수⁠(natural number)⁠일 때 $1/e$을 $x$번 곱한 값이고, 그 사이의 $x$로도 매끄럽게 이어집니다).

이 값이 1/2이 되려면 묶음 수가 얼마여야 할까요? 계산해 보면 $e$를 0.693제곱하면 2가 됩니다($e^{0.693} \approx 2$). 그러니 $e^{-0.693} = 1/e^{0.693} \approx 1/2$이고, 조건은 묶음 수 $n/N$이 약 0.693인 것입니다. 이렇게 '$e$를 몇 제곱해야 이 수가 되는가'를 돌려주는 함수⁠(function)⁠를 자연로그⁠(natural logarithm)⁠라 하고 ln으로 적습니다. 0.693은 '$e$를 몇 제곱해야 2가 되는가'의 답이므로 $\ln 2$('엘엔 2')이고, 조건은 $n/N = \ln 2$입니다.

그러니 필요한 횟수는 $n \approx N \ln 2 \approx 0.693\,N$이고, 정말로 $N$에 비례합니다. 드 메레의 직관에서 맞은 부분이 이것입니다. 틀린 부분은 비례상수입니다. 그는 주사위 하나에서 '6가지 중 하나에 4번'이라는 비율 4/6 ≈ 0.667을 가져왔지만 바른 상수는 $\ln 2 \approx 0.693$입니다. $N = 6$이면 어림은 6 × 0.693 ≈ 4.2번을 말하고, 실제로는 4번에서 절반을 넘습니다($N$이 작을 때는 위에서 본 0.335와 0.368의 차이만큼 어림이 조금 어긋납니다). 두 상수의 차이가 드러나는 것은 $N$이 클 때입니다. $N = 36$이면 $36 \ln 2 \approx 24.95$, 곧 25번이 필요합니다. 스물세 명만 모여도 생일이 같은 두 사람이 있을 확률이 절반을 넘는다는 생일 문제⁠(birthday problem)⁠에도 같은 계산이 나옵니다.

정리하면, '한 번이라도'의 확률은 '한 번도 안'의 확률을 1에서 빼서 구하고, 독립인 시행의 '한 번도 안'은 확률을 곱해 구합니다. 한 번의 확률을 횟수만큼 더하면 겹치는 경우를 여러 번 세게 됩니다.

그는 머리가 아주 좋지만 기하학자는 아닙니다. 아시다시피 그것은 큰 결점이지요.— 블레즈 파스칼, 페르마에게 보낸 편지(1654년 7월 29일). 드 메레를 두고. 당시 '기하학자'는 수학자를 뜻했습니다.

드 메레가 24번 내기에서 실제로 돈을 잃어 보고 차이를 알아챘다는 이야기가 흔히 전해집니다. 하지만 0.491과 0.5의 차이를 경험만으로 가려내려면 만 번이 넘는 내기가 필요하므로 의심하는 견해가 많습니다.

주사위의 경우의 수⁠(number of cases)⁠를 세는 일 자체는 더 오래되었습니다. 1절의 카르다노는 1560년대 무렵 『주사위 놀이에 관한 책』에서 두 주사위의 36가지 결과를 따지며 '똑같이 일어날 만한 경우'를 세는 방법을 썼습니다. 2절에서 미래를 늘어놓고 센 것과 같은 발상입니다. 이 책은 그가 죽은 뒤 1663년에야 출판되었습니다. 17세기 초에는 갈릴레이도 세 주사위의 합이 10이 되는 경우(27가지)가 9가 되는 경우(25가지)보다 많다는 것을 세어 보였습니다.

5 · 공정한 값과 긴 시행기댓값⁠(expected value)⁠과 큰 수의 법칙⁠(law of large numbers)⁠

이 절의 물음은 둘입니다. 첫째, 판돈을 나누는 셈을 '확률'이 아니라 '값'으로 말하면 무엇이 될까? 둘째, "A가 이길 확률이 3/4"이라는 말은 한 번뿐인 내기에서 정확히 무슨 뜻일까?

파스칼과 페르마의 편지는 출판되지 않았지만 소문은 퍼졌습니다. 1655년 파리를 찾은 네덜란드의 젊은 과학자 크리스티안 하위헌스는 이 문제들을 전해 들었고, 두 사람을 만나지 못한 채 스스로 답을 찾았습니다. 그 결과가 1657년에 나온 『주사위 놀이의 계산에 대하여』입니다. 확률을 다루어 출판된 첫 책으로 꼽히며, 이후 반세기 동안 이 분야의 교과서 노릇을 했습니다.

하위헌스의 출발점은 확률이 아니라 값이었습니다. 같은 가능성으로 $a$ 또는 $b$를 받는 기회는 $\tfrac{a+b}{2}$의 값어치가 있다는 원리입니다. 까닭은 이렇습니다. 두 사람이 똑같이 $\tfrac{a+b}{2}$씩 내고 반반의 내기를 해서 이긴 쪽이 $a$, 진 쪽이 $b$를 받기로 하면, 낸 돈의 합 $a + b$가 받는 돈의 합과 같아 아무도 손해 보지 않는 공정한 내기가 됩니다. 그러니 그 기회를 사는 공정한 값이 $\tfrac{a+b}{2}$입니다.

이것은 3절의 점화식 그대로입니다. 2 : 1 상황의 A는 "64피스톨 또는 32피스톨의 기회"를 쥐고 있으므로 그 값은 (64 + 32)/2 = 48피스톨입니다. 오늘날 이것을 기댓값이라고 부릅니다. 같은 값을 최종 결과로도 확인할 수 있습니다. 결국 받는 돈은 64 또는 0이고, 각각의 확률이 3/4과 1/4입니다. 결과마다 '받는 돈 × 그 확률'을 구해 모두 더하면 됩니다.

식의 기호를 읽어 둡니다. $X$는 A가 결국 받을 돈처럼 우연에 따라 값이 정해지는 수(확률변수⁠, random variable⁠)이고, $x_k$는 그 수가 가질 수 있는 값들(여기서는 64와 0)입니다. $P(X = x_k)$는 '$X$가 $x_k$일 확률', $E[X]$는 '$X$의 기댓값'이라 읽고, $\sum_k$는 3절에서처럼 모든 $k$에 대해 더한다는 뜻입니다.

기댓값은 이 내기에 들어가려면 얼마를 내야 공정한가, 곧 공정한 가격입니다. 분배 문제의 답은 "각자에게 자기 자리의 공정한 가격을 준다"로 정리됩니다. B의 자리는 0 × 3/4 + 64 × 1/4 = 16피스톨이고, 두 사람의 몫 48 + 16이 판돈 64와 맞습니다.

기댓값은 그림으로도 읽힙니다. 결과들을 수직선 위에 확률만큼의 무게로 올려놓으면 기댓값은 그 무게중심, 곧 저울이 평형을 이루는 받침점입니다. 64에 무게 3/4, 0에 무게 1/4을 올리면 받침점은 48에 옵니다. 받침점에서의 거리 × 무게를 양쪽에서 구하면 64 쪽은 16 × 3/4 = 12, 0 쪽은 48 × 1/4 = 12로 같아서 저울이 기울지 않습니다. 가까이 있는 무거운 쪽과 멀리 있는 가벼운 쪽이 균형을 이루는 것입니다.

결과가 이 받침점 주위로 얼마나 흩어지는지는 분산⁠(variance)⁠이 잽니다. 분산은 '기댓값에서 떨어진 거리의 제곱'의 기댓값입니다. 이 내기에서는 64와 0이 48에서 16과 48만큼 떨어져 있으므로, 분산은 16² × 3/4 + 48² × 1/4 = 192 + 576 = 768입니다.

768이라는 수는 피스톨로 읽기 어렵습니다. 제곱을 했으니 단위가 '피스톨의 제곱'이 되어 버렸기 때문입니다. 그래서 흔히 분산의 제곱근(제곱해서 분산이 되는 수)을 씁니다. 이것이 표준편차⁠(standard deviation)⁠이고, 여기서는 √768 ≈ 27.7피스톨입니다. '결과가 기댓값에서 보통 이만큼쯤 떨어져 있다'는 크기입니다.

'기댓값이 곧 공정한 가격'이라는 생각은 머지않아 시험대에 올랐습니다. 1713년 스위스 바젤 출신의 수학자 니콜라우스 베르누이(이 절 뒷부분에서 볼 야코프 베르누이의 조카)는 프랑스의 수학자 피에르 레몽 드 몽모르에게 보낸 편지에서 이상한 내기를 물었습니다. 그의 원래 예는 주사위였지만 흔히 동전으로 바꾸어 말합니다. 앞면이 처음 나올 때까지 동전을 던지고, 첫 번째에 나오면 1닢, 두 번째에 나오면 2닢, 세 번째면 4닢을 받습니다. 한 번 늦어질 때마다 상금이 두 배가 됩니다. 기댓값을 적으면

이 되어, 항을 더할수록 한없이 커집니다. 첫 번째에 앞면이 나올 확률은 1/2이고 그때 1닢, 두 번째에 처음 나올 확률은 1/2 × 1/2 = 1/4이고 그때 2닢이어서, 항마다 '확률 × 상금'이 늘 1/2입니다. 1/2을 끝없이 더하니 합에는 끝이 없습니다.

그렇다면 이 내기에 들어가려고 얼마를 내도 공정하다는 말이 됩니다. 그러나 20닢만 내라고 해도 선뜻 나설 사람은 드뭅니다. 절반의 확률로 1닢만 받고 끝나고, 20닢 넘게 받으려면 앞면이 여섯 번째 이후에야 처음 나와야 하는데 그 확률은 1/32뿐이기 때문입니다.

1738년 니콜라우스의 사촌 다니엘 베르누이는 페테르부르크 과학 아카데미의 논문집에서 답을 내놓았습니다. 사람이 따지는 것은 돈의 액수가 아니라 그 돈의 쓸모(효용⁠, utility⁠)이고, 이미 가진 돈이 많을수록 한 닢이 더해 주는 쓸모는 줄어든다는 것입니다. 그는 효용을 재산의 로그로 두었습니다. 로그는 재산이 두 배가 될 때마다 같은 양만큼만 늘어나는 함수여서, 상금이 두 배씩 뛰어도 효용은 한 칸씩만 오릅니다. 그러면 효용의 기댓값은 유한해집니다.

이 논문 때문에 문제는 '상트페테르부르크의 역설⁠(St. Petersburg paradox)⁠'이라 불립니다. 다니엘이 1725년부터 1733년까지 일한 이 아카데미에는 같은 무렵 젊은 오일러도 와 있었습니다. 오일러가 이 아카데미에서 쾨니히스베르크의 다리 문제를 푼 이야기는 「일곱 다리의 도시」에 있습니다. 이 역설이 남긴 교훈은, 기댓값이 여전히 계산의 중심이더라도 무엇의 기댓값을 재야 하는지는 수학만으로 정해지지 않는다는 것입니다. 오늘날 경제학의 기대 효용⁠(expected utility)⁠ 이론이 여기서 출발합니다.

이제 둘째 물음입니다. "A가 이길 확률이 3/4"이라는 말은 정확히 무슨 뜻일까요? 한 번의 내기에서 A는 이기거나 지거나 둘 중 하나입니다. 한 가지 대답은 "같은 상황을 서로 독립으로 아주 많이 되풀이하면 A가 이기는 비율이 3/4에 가까워진다"입니다.

'가까워진다'를 정확히 말하면 이렇습니다. 폭을 하나 정해 둡니다. 예를 들어 0.01이라 하면, 비율이 0.74와 0.76 사이를 벗어날 확률을 생각합니다. 되풀이 횟수가 늘수록 이 확률이 0으로 간다는 것입니다. 폭을 0.001로 좁혀도 마찬가지입니다. 이것을 처음 증명한 사람이 야코프 베르누이입니다.

동전을 던져 확인해 봅시다. 앞면의 확률은 1/2이니, 앞면 비율이 1/2로 모여야 합니다. 지금까지 번 던졌습니다. ▶ 처음부터 던지기 다른 동전들로 그림의 가로축은 로그 눈금이어서 1, 10, 100, 1000, 10000이 같은 간격으로 놓입니다. 처음 몇 번과 수천 번째를 한 화면에 보기 위해서입니다.

노란 동전은 번 중 번 앞면이 나와 비율이 입니다. 처음 몇십 번은 노란 동전도 다른 동전들도 크게 출렁이지만, 횟수가 늘수록 모두 1/2로 모여듭니다. 이것이 큰 수의 법칙입니다.

모이는 속도⁠(velocity)⁠도 정해져 있습니다. 대부분의 기록은 1/2 ± 1/√n인 띠(지금 ±) 안에 머뭅니다. $n$이 100이면 1/√100 = 0.1이니 띠는 0.4에서 0.6까지, 10,000이면 0.01이니 0.49에서 0.51까지입니다. 이 폭은 비율의 표준편차에서 나옵니다.

한 번 던진 결과를 앞면이면 1, 뒷면이면 0으로 적으면, 기댓값은 1/2이고 결과는 늘 1/2에서 1/2만큼 떨어져 있으니 분산은 (1/2)² = 1/4, 표준편차는 1/2입니다. 서로 독립인 값들을 더하면 분산도 그대로 더해지므로, $n$번 던진 앞면 수의 분산은 $n/4$, 표준편차는 $\sqrt n/2$입니다. 비율은 앞면 수를 $n$으로 나눈 것이니 표준편차도 $n$으로 나누어 $\tfrac{\sqrt n}{2n} = \tfrac{1}{2\sqrt n}$이 됩니다. 띠의 반폭 1/√n은 이 값의 두 배이고, 6절의 종 모양 곡선으로 계산하면 어느 순간에 보든 동전 하나가 이 띠 안에 있을 확률은 약 95%입니다.

띠의 폭이 던진 횟수의 제곱근에 반비례하므로, 정확도를 10배 높이려면 100배 더 던져야 합니다(√100 = 10). 이 제곱근이 흩어짐의 모양 전체에 어떻게 새겨지는지는 6절에서 봅니다.

한 가지 흔한 오해를 조심해야 합니다. 비율이 1/2로 간다고 해서 앞면과 뒷면의 개수 차이가 줄어드는 것은 아닙니다. 노란 동전의 앞면 수에서 $n/2$를 빼면 지금 입니다. 이 차이의 전형적인 크기는 $\sqrt n$에 비례해 오히려 자랍니다(표준편차가 $\sqrt n/2$). 비율이 1/2에 가까워지는 것은 지나간 편차가 "되갚아져서"가 아니라 더 큰 $n$으로 나누어 묽어지기 때문입니다. 동전은 기억이 없습니다. 이 차이가 걸음마다 ±1씩 움직이는 모습이 무작위 행보⁠(random walk)⁠입니다.

하위헌스의 책은 스승 프란스 판스호턴이 레이던에서 낸 수학 연습서의 부록으로 실렸고, 라틴어 번역도 판스호턴이 맡았습니다. 열네 개의 명제와 독자에게 남긴 문제 다섯 개가 전부인 얇은 책이지만, 유럽의 학자들이 읽는 라틴어로 인쇄되었다는 점이 컸습니다. 이 책 덕분에, 파리의 편지 몇 통에 머물던 방법을 처음으로 누구나 읽을 수 있게 되었습니다. 야코프 베르누이는 『추측술』 1부에 이 책 전체를 옮겨 싣고 한 명제씩 주석을 달았습니다.

베르누이는 이 정리를 증명하는 데 20년 가까이 매달렸다고 적었습니다. 증명이 담긴 『추측술』은 그가 죽고 8년 뒤인 1713년에 조카 니콜라우스 베르누이의 손을 거쳐 바젤에서 출판되었습니다.

증명을 끝내기 전, 베르누이는 1703년부터 1705년 죽을 때까지 라이프니츠와 편지로 이 문제를 다투었습니다. 라이프니츠는 우연한 일은 셀 수 없이 많은 조건에 달려 있으므로, 유한한 번의 관찰로는 그 확률을 결코 확정할 수 없다고 반박했습니다. 베르누이는 『추측술』 4부에서 이 반론에 답하려 했고, 그 답이 위의 정리입니다. 확정은 못 하더라도, 관찰을 늘리면 참 확률에서 정해 둔 폭보다 더 벗어날 확률을 원하는 만큼 작게 할 수 있다는 것입니다. 다만 이 정리는 확률을 알 때 비율이 어떻게 움직이는지를 말합니다. 비율을 보고 거꾸로 모르는 확률을 추정하는 일이 정당한지는 반세기 뒤 베이즈와 라플라스의 물음으로 남았습니다(7절).

베르누이의 눈은 도박판 너머를 향해 있었습니다. 책의 마지막 부분에서 그는 이 계산을 법정과 일상의 판단에 쓰려 했습니다. 확률이 확실성과 거의 같은 것, 예컨대 1000분의 999인 것을 '도덕적 확실성⁠(moral certainty)⁠'이라 부르고, 판사가 따를 이런 기준을 나라가 미리 정해 두면 좋겠다고 제안했습니다. '큰 수의 법칙'이라는 이름은 한참 뒤 1830년대에 프랑스의 수학자 시메옹 드니 푸아송이 붙였습니다. 그 이름을 널리 알린 1837년 책의 주제도 형사·민사 판결이 옳을 확률이었습니다. 이 정리 덕분에 확률은 도박판의 셈을 넘어, 법정과 사회처럼 관찰이 되풀이되는 곳의 판단을 따지는 도구가 되었습니다.

6 · 종 모양의 등장드무아브르가 본 곡선

이 절의 물음은 이것입니다. 동전을 많이 던졌을 때 앞면 수가 평균 주변에 어떤 모양으로 흩어질까? 큰 수의 법칙은 비율이 1/2로 간다고 말하지만, 그 주변에서 어떻게 흩어지는지는 말하지 않습니다.

이것이 왜 필요한지 예를 들어 봅시다. 동전을 100번 던져 앞면이 60번 이상 나올 확률을 구하려 합니다. 앞면이 정확히 60번 나오는 순서는 $\binom{100}{60}$가지이고 순서 하나하나의 확률은 $1/2^{100}$이니, 2절처럼 세면 이항계수 $\binom{100}{60}, \binom{100}{61}, \dots$를 100까지 모두 계산해 더한 뒤 $2^{100}$으로 나누어야 합니다. 이항계수 하나가 서른 자리 가까운 수입니다. 계산기가 없던 시절에는 엄청난 일이었습니다. (답은 약 0.028입니다.)

이 문제에 매달린 사람은 아브라암 드무아브르였습니다. 그는 1733년 라틴어 소책자에서, $n$이 클 때 이항계수의 윤곽이 하나의 매끄러운 곡선으로 근사된다는 것을 보였습니다. 아래 그림의 막대 하나하나가 '$n$번 던져 앞면이 정확히 $k$번 나올 확률'이고, 흰검은 곡선이 드무아브르의 곡선입니다. 동전 수($n =$ )와 앞면 확률($p =$ )을 바꿔 보세요. $n$이 커질수록 막대 꼭대기들이 곡선에 얼마나 붙는지가 볼 것입니다.

막대들의 윤곽은 종 모양 곡선에 빠르게 달라붙습니다. 지금 두 그림의 차이는 가장 큰 곳에서도 가장 높은 막대 높이의 입니다. 곡선의 중심은 평균 $np =$ , 폭은 표준편차 $\sigma = \sqrt{np(1-p)} =$ 입니다. 평균은 5절의 기댓값이고, 표준편차는 5절에서 본 대로 분산의 제곱근으로, 결과가 평균에서 보통 얼마나 떨어져 있는지를 결과와 같은 단위로 잰 값입니다. $p = 1/2$이면 $\sqrt{n \cdot \tfrac12 \cdot \tfrac12} = \sqrt n/2$로 5절의 값과 같습니다. 동전을 100번 던지면($p = 1/2$) 평균은 50번, 표준편차는 $\sqrt{100 \cdot \tfrac12 \cdot \tfrac12} = 5$번이어서, 앞면 수는 대개 45~55번 사이에 들어옵니다(약 73%).

식을 왼쪽부터 읽어 봅니다. 왼쪽은 앞면이 정확히 $k$번 나올 확률입니다. $k$번의 앞면이 들어갈 자리를 고르는 가짓수 $\binom{n}{k}$에, 그런 순서 하나의 확률(앞면 $k$번의 $p^k$와 뒷면 $n-k$번의 $(1-p)^{n-k}$)을 곱한 것입니다. 기호 ≈는 '거의 같다'로 읽습니다.

오른쪽은 $k$가 평균 $np$에서 얼마나 떨어졌는지만 보는 곡선입니다. 떨어진 거리 $k - np$를 표준편차 $\sigma$('시그마')로 나눈 값을 $x$라 하면, 곡선의 높이는 $e^{-x^2/2}$에 비례합니다. $e \approx 2.718$은 4절에서 본 수이고, $e^{-x^2/2}$는 $x$가 0에서 멀어질수록 빠르게 줄어듭니다. 평균에서 표준편차 1개만큼 떨어지면 꼭대기의 약 0.61배, 2개면 0.14배, 3개면 0.011배입니다. 종의 몸통이 평균 근처에 몰리고 양 끝이 급히 가라앉는 까닭입니다.

100번 던진 공정한 동전으로 확인해 봅시다. 앞면이 정확히 50번 나올 확률은 $\binom{100}{50}/2^{100} \approx 0.0796$이고, 오른쪽 식에 $k = 50$, $\sigma = 5$를 넣으면 지수 부분이 $e^0 = 1$이 되어 $1/(5\sqrt{2\pi}) \approx 0.0798$입니다. 둘의 차이는 0.0002쯤입니다.

드무아브르가 찾은 가장 중요한 사실은 폭이 $n$이 아니라 $\sqrt n$에 비례한다는 것입니다. 5절의 띠가 $1/\sqrt n$로 좁아진 것도, 개수 차이가 $\sqrt n$ 정도로 자란 것도 같은 사실의 두 얼굴입니다.

곡선의 모양은 지수함수 $e^{-x^2/2}$에서 오고, 앞에 붙은 $\sqrt{2\pi}$($\pi$는 원주율⁠(pi)⁠ 3.14…)는 곡선 아래 넓이⁠(area)⁠를 1로 맞추는 상수입니다. 막대들의 확률을 모두 더하면 1이듯, 곡선 아래 넓이도 1이어야 하기 때문입니다. 드무아브르는 처음에 이 상수를 수치로만 알았고, 스코틀랜드의 수학자 제임스 스털링이 1730년 책에서 그것이 $\sqrt{2\pi}$임을 밝혔습니다. 그 계산에서 나온 것이 큰 수의 팩토리얼을 어림하는 스털링 공식⁠(Stirling's formula)⁠입니다. 오늘날에는 $e^{-x^2}$의 그래프 아래 넓이 전체가 $\sqrt\pi$라는 가우스 적분⁠(Gaussian integral)⁠으로 설명합니다.

"60번 이상 나올 확률"처럼 여러 막대를 더하는 일은, 폭 1인 막대의 넓이를 더하는 일이므로 곡선 아래 넓이로 바꿀 수 있습니다. 막대들이 리만 합(가는 막대들의 넓이를 더해 곡선 아래 넓이를 어림한 것)이고 곡선 아래 넓이가 정적분(곡선과 가로축 사이의 넓이)인 셈입니다. 곡선 아래 넓이는 한 번 계산해 표로 만들어 두면 되니, 수백 개의 항을 더하는 계산이 표 하나를 찾아보는 일로 바뀌었습니다.

이 곡선은 동전에만 나오는 것이 아니었습니다. 라플라스는 1810년 무렵부터 서로 영향을 주지 않는(독립인) 작은 요인을 많이 더하면, 요인 하나하나가 어떤 분포를 따르든 합은 같은 종 모양에 가까워진다는 것을 보였습니다. 오늘날의 기준으로 정확히 말하면, 요인들의 흩어짐(분산)이 유한하고 어느 하나가 합을 좌우하지 않아야 합니다. 예를 들어 주사위 하나의 눈은 1부터 6까지 고르게 나오지만, 주사위 100개를 던진 눈의 합은 평균 350 근처에 몰린 종 모양으로 흩어집니다. 이것이 중심극한정리⁠(central limit theorem)⁠이고, 그 곡선이 정규분포⁠(normal distribution)⁠입니다. 동전 한 번 한 번이 바로 그 작은 요인이니, 위 그림은 이 정리의 가장 단순한 경우입니다. 라플라스는 1812년 『확률의 해석적 이론』에서 확률론을 집대성했습니다.

정리하면, 독립인 작은 요인을 많이 더한 값은 평균 주변에 종 모양으로 흩어지고, 그 폭은 더한 개수의 제곱근에 비례해 자랍니다.

드무아브르는 프랑스의 개신교도(위그노)였습니다. 1685년 루이 14세가 개신교도의 신앙 자유를 보장하던 낭트 칙령을 거두자, 열여덟 살의 그는 파리의 생마르탱 수도원에 갇혔습니다. 풀려난 그는 1687년 무렵 런던으로 건너가, 개인 교습과 도박 문제 풀이로 생계를 이었습니다. 뉴턴과 가까웠고 왕립학회 회원이 되었지만 대학의 자리는 끝내 얻지 못했습니다. 1718년 영어로 낸 『우연의 교리』는 하위헌스 이후 가장 널리 읽힌 확률 책이 되었습니다. 위에서 본 1733년의 소책자는 그로부터 15년 뒤의 일입니다.

라플라스와 같은 무렵, 종 모양은 다른 길로도 나타났습니다. 가우스는 1809년 천체 관측의 오차가 이 분포를 따른다고 보고, 이것을 최소제곱법⁠(method of least squares)⁠의 근거로 삼았습니다. 최소제곱법은 관측값과 예측값의 차이를 제곱해 더한 합이 가장 작아지도록 모르는 값을 정하는 방법입니다(그 이야기는 「잃어버린 소행성」에서 이어집니다). 1870년대에는 영국의 과학자 프랜시스 골턴이 못 사이로 구슬을 떨어뜨려 이 곡선을 눈앞에 쌓아 보이는 장치를 만들고, 1889년 『자연 유전』에서 소개했습니다. 오늘날 '골턴 보드'(흔히 '갈톤 보드')라 부르는 이 장치는 파스칼의 삼각형을 그대로 나무판에 옮긴 것입니다.

라플라스의 논증은 오늘의 기준으로는 엄밀하지 않았고, 정확히 어떤 조건에서 정리가 성립하는지도 흐릿했습니다. 그 조건을 따진 사람들은 19세기 후반 상트페테르부르크에 있었습니다. 파프누티 체비쇼프는 1867년 간단한 부등식 하나로 큰 수의 법칙을 몇 줄 만에 증명했습니다. 어떤 값이든 제 기댓값에서 표준편차의 $k$배보다 더 벗어날 확률은 $1/k^2$을 넘지 않는다는 부등식입니다. 예를 들어 표준편차의 두 배보다 더 벗어날 확률은 1/4 이하입니다. 같은 부등식을 프랑스의 비에네메가 1853년에 먼저 적었습니다. 5절에서 본 대로 동전 비율의 표준편차는 던질수록 줄어드니, 이 부등식을 비율에 쓰면 정해 둔 폭을 벗어날 확률도 0으로 갑니다. 베르누이가 20년을 들인 정리가 분산 하나로 끝난 것입니다.

체비쇼프는 1887년 중심극한정리에도 도전했고, 그 증명의 빈틈은 제자 안드레이 마르코프가 메웠습니다. 또 다른 제자 알렉산드르 랴푸노프는 1900–1901년, 특성함수⁠(characteristic function)⁠라는 도구(9절 '파동으로 증명하기'에서 봅니다)를 써서 오늘날 교과서에 실리는 넓은 조건으로 정리를 증명했습니다. 마르코프가 이 무렵 독립이 아닌 값들에도 큰 수의 법칙이 성립하는지 묻다가 만든 것이 9절의 마르코프 연쇄⁠(Markov chain)⁠입니다.

확률론은 결국 계산으로 옮긴 상식일 뿐이다.— 피에르시몽 라플라스, 『확률에 관한 철학적 시론』(1814)

그런데 라플라스에게 우연은 세계 쪽에 있지 않았습니다. 같은 책의 서문에서 그는 이렇게 썼습니다. 어느 순간 자연을 움직이는 모든 힘과 모든 것의 위치를 알고, 그것을 분석할 수 있는 지성이 있다면, 그에게는 불확실한 것이 하나도 없고 미래도 과거처럼 눈앞에 있으리라. 훗날 '라플라스의 악마⁠(Laplace's demon)⁠'라고 불린 상상입니다. 뉴턴 역학이 지배하는 세계에서 동전의 앞뒤는 이미 정해져 있고, 확률은 우리가 모르는 만큼을 셈하는 방법이라는 것입니다. 20세기의 양자역학은 우연이 자연 자체에 들어 있을 수 있다는 물음을 다시 열었지만, 어느 해석을 택하든 확률의 계산 규칙은 같습니다.

7 · 편지 이후도박에서 과학의 언어로

이 절의 물음은 이것입니다. 도박판의 셈이 어떻게 과학이 기대는 언어가 되었을까? 여기서부터는 역사가 중심이지만, 수학의 뼈대가 굳어지는 마지막 단계(콜모고로프의 공리⁠(axiom)⁠)도 이 절에 있습니다.

1654년 여름부터 가을까지 오간 편지 몇 통은 출판된 적도 없는 사적인 대화였습니다. 그런데도 그 안에 표본공간, 경우의 수 세기, 점화식, 기댓값의 씨앗이 모두 들어 있었습니다. 그 뒤의 발전을 분야별로 늘어놓으면 이렇습니다.

1654년 한 해에 파스칼의 편지(수학)와 '불의 밤'(종교)이 나란히 있습니다. 그 뒤로 연금과 보험, 국가 통계⁠(statistics)⁠가 수학의 발전과 맞물려 이어집니다. 지도의 선은 편지와 책, 망명한 사람이 오간 길입니다.

두 사람은 한 번도 직접 만난 적이 없는 것으로 알려져 있습니다. 편지에서 파스칼은 페르마의 조합 방법이 세 사람이 하는 내기에는 통하지 않는다고 의심했고, 페르마는 판을 늘려 세는 방법이 세 사람일 때도 그대로 맞는다는 것을 보였습니다. 서로 다른 두 방법이 같은 답을 확인해 준 셈입니다.

학술지가 아직 없던 시절, 새 결과는 이렇게 편지와 사설 모임을 타고 퍼졌습니다(편지 공화국). 1654년 초 파스칼은 파리의 수학자 모임에 라틴어 글을 보냈습니다. 수도사 메르센이 죽은 뒤 르 파이외르가 이끌던 이 모임은 1666년에 세워질 왕립 과학 아카데미의 앞선 모습이었습니다(과학 아카데미). 파스칼은 그 글에 끝냈거나 쓰고 있는 저작들을 늘어놓고, 그 가운데 하나에 '우연의 기하학'(aleae geometria)이라는 이름을 붙였습니다. 결과를 알 수 없는 우연과 증명으로 확실해지는 기하학, 어울리지 않아 보이는 두 말을 이은 이름입니다. 그러나 그 책은 끝내 나오지 않았습니다. 편지들 가운데 남은 것도 페르마가 죽은 뒤, 1679년 아들 사뮈엘이 엮은 유고집 『수학 잡록』(Varia opera mathematica)에 실리고서야 인쇄되었습니다. 그사이 방법을 세상에 퍼뜨린 것은 5절에서 본 하위헌스의 얇은 책이었습니다.

편지가 끝나자 파스칼의 삶은 방향을 틀었습니다. 한 달도 지나지 않은 1654년 11월 23일 밤, 파스칼은 두 시간가량 이어진 강렬한 종교 체험을 했습니다. 날짜와 시각을 적은 다음 줄에 '불'이라는 낱말 하나가 적혀 있어서 이 밤을 '불의 밤'이라 부릅니다. 그는 그 밤의 기록을 옷 안감에 꿰매 지녔고, 이 글은 그가 죽은 뒤에야 발견되었습니다. 이후 파스칼은 파리 남서쪽의 포르루아얄 수도원을 드나들며, 신의 은총과 인간의 무력함을 강조하던 얀센주의 편에 섰습니다.

그 편에서 벌인 논쟁은 '개연적'이라는 낱말을 둘러싼 것이기도 했습니다. 1656–57년 파스칼은 가명으로 쓴 『시골 친구에게 보낸 편지』로 예수회를 공격했는데, 표적 가운데 하나가 '개연론'이었습니다. 권위 있는 신학자 한 사람이라도 지지하는 '개연적 의견'이면, 반대 의견이 더 그럴듯해도 그 의견을 따를 수 있다는 도덕 신학의 교리입니다. 당시 '개연적'이라는 말은 흔히 이처럼 권위가 인정하는이라는 뜻에 가까웠습니다. 같은 사람이 같은 무렵 그 말을 세어서 잴 수 있는 가능성으로 바꾸어 놓고 있었던 셈입니다.

이 새 생각은 곧 일상의 판단으로 옮겨 갔습니다. 포르루아얄의 신학자 아르노와 니콜이 1662년에 낸 『포르루아얄 논리학』은 천둥이 무서워 떠는 사람을 예로 듭니다. 해악을 두려워하는 정도는 해악의 크기뿐 아니라 그 일이 일어날 확률에도 비례해야 한다고 썼습니다. 크기에 확률을 곱해 견주라는 말, 곧 5절에서 본 기댓값의 논리입니다.

파스칼은 같은 논리를 가장 큰 물음에 걸었습니다. 1670년 친구들이 그의 유고를 엮어 낸 『팡세』에는 '내기' 단편이 있습니다. 이 단편은 신이 있는지 이성으로 가릴 수 없어도 삶을 어느 쪽엔가 걸 수밖에 없다면, 믿는 쪽에 거는 것이 유리하다고 논합니다. 얻을 것이 무한한 행복이라면 그 확률이 0만 아니면 유한한 판돈을 넘어선다는 것입니다. 이 논증은 지금도 철학의 논쟁거리입니다. 그래도 결과의 값과 가능성을 함께 따져 선택하라는 틀은, 불확실한 상황에서 어느 선택이 나은지를 따지는 오늘날 결정 이론⁠(decision theory)⁠의 먼 조상으로 꼽힙니다.

18세기 영국의 목사 토머스 베이즈가 남긴 논문은 질문의 방향이 반대였습니다. 논문은 그가 죽은 뒤 1763년에 발표되었습니다. 파스칼과 페르마는 확률을 알 때 결과를 예측했지만, 베이즈는 결과를 보고 모르는 확률을 추정하려 했습니다. 동전을 10번 던져 앞면이 7번 나왔다면 이 동전의 앞면 확률은 얼마쯤일까요? 이 뒤집기의 핵심 도구가 조건부 확률⁠(conditional probability)⁠입니다. '어떤 일이 일어났다는 것을 알 때 다른 일의 확률'을 말합니다. 예를 들어 2절의 네 가지 미래 AA, AB, BA, BB에서 A가 내기를 이길 확률은 3/4이지만, 첫 판을 B가 이겼다는 것을 알면 남은 경우는 BA, BB 둘뿐이어서 A가 이길 확률은 1/2이 됩니다. 이 조건부 확률의 방향을 뒤집는 공식, 곧 '원인이 주어질 때 결과의 확률'에서 '결과가 주어질 때 원인의 확률'로 가는 공식이 베이즈 정리⁠(Bayes' theorem)⁠입니다.

라플라스도 1774년 무렵 독립적으로 같은 생각에 이르러 훨씬 넓게 발전시켰습니다. 그해 그가 낸 논문의 제목이 「사건으로부터 원인의 확률에 관하여」였습니다. 결과에서 원인을 거꾸로 추정하는 이 '역확률⁠(inverse probability)⁠'의 셈은 오늘날 흐린 사진과 CT를 되살리는 계산에서 사전확률⁠(prior probability)⁠로 다시 나타납니다(「거꾸로 푸는 문제는 왜 어려운가」 6절). 확률을 한 사람의 믿음의 정도로 보고 그것을 내기에 얼마를 걸겠느냐로 재자는 생각은 1926년 케임브리지의 프랭크 램지가 강연 「진리와 확률」에서 내놓았습니다(「완전한 무질서는 없다」 3절).

베이즈의 유고에서 이 논문을 찾아 왕립학회에 보낸 사람은 친구인 웨일스 출신의 목사 리처드 프라이스였습니다. 프라이스는 서문에서 이 방법이 결과에서 원인을 추론하는 길을 준다고 적었고, 부록에서는 세상에 갓 나온 사람이 해 뜨는 것을 거듭 볼수록 내일도 해가 뜨리라는 믿음이 얼마나 강해져야 하는지를 셈했습니다. 그보다 열다섯 해 앞선 1748년, 스코틀랜드의 철학자 데이비드 흄은 『인간 지성에 관한 탐구』에서 '지금까지 늘 그랬으니 앞으로도 그러리라'는 추론, 다시 말해 귀납에는 이성의 근거가 없고 습관이 있을 뿐이라고 했습니다. 프라이스의 부록은 이 물음에 확률로 답하려는 시도로 읽히기도 합니다. 다만 그 셈도 결과를 보기 전의 확률(사전확률)을 먼저 정해 두어야 하므로, 귀납의 근거를 한 단계 뒤로 옮겼을 뿐이라는 반론이 따릅니다.

마지막 조각은 20세기에 맞춰졌습니다. 1933년 안드레이 콜모고로프는 확률을 표본공간의 부분집합(사건)에 0과 1 사이의 수를 주는 규칙으로 정의했습니다. 확률은 0 이상이고, 표본공간 전체의 확률은 1이며, 겹치지 않는 사건들의 확률은 (번호를 붙일 수 있는 한 무한히 많아도) 더해진다는 세 가지 공리(증명 없이 출발점으로 받아들이는 약속)만으로 앞의 모든 결과가 다시 유도됩니다.

2절의 작은 예로 세 약속을 확인해 봅니다. 네 미래 AA, AB, BA, BB에 1/4씩 주면 모두 0 이상이고, 넷을 모두 모은 표본공간의 확률은 1/4 × 4 = 1입니다. 겹치지 않는 두 사건 {AA}와 {AB, BA}의 확률은 1/4 + 2/4 = 3/4로 더해지고, 이것이 사건 "A가 이긴다" = {AA, AB, BA}의 확률입니다. 4절의 여사건 규칙도 여기서 나옵니다. 사건과 그 여사건은 겹치지 않고 합치면 표본공간 전체이므로 두 확률의 합이 1입니다.

사건의 "또는", "그리고", "아니다"는 집합의 연산⁠(set operations)⁠인 합집합⁠(union)⁠, 교집합⁠(intersection)⁠, 여집합⁠(complement)⁠이 됩니다. 페르마가 가능한 미래를 모두 적어 세었던 일이 300년 만에 수학의 한 분야의 기초⁠(basics)⁠가 된 것입니다.

콜모고로프가 빌려 온 틀은 앙리 르베그가 1902년 길이와 넓이를 다시 정의하며 세운 측도⁠(measure)⁠의 이론이었습니다. 측도는 길이·넓이·부피처럼 모임에 '크기'를 매기는 규칙이고, 겹치지 않는 조각들의 크기는 더해집니다. 확률은 전체의 크기가 1인 측도입니다. 5절에서 기댓값은 결과마다 '값 × 확률'을 구해 더한 것이었습니다. 이 더하기를 다트를 던져 맞힌 점의 위치처럼 결과가 셀 수 없이 많은 경우로 넓힌 것이 르베그 적분⁠(Lebesgue integral)⁠이고, 이 틀에서 기댓값은 르베그 적분으로 정의됩니다. 1900년 파리의 국제 수학자 대회에서 힐베르트는 앞으로 풀어야 할 23개 문제를 내놓았습니다. 그 가운데 여섯째는 확률과 역학을 기하학처럼 공리 위에 세우라는 것이었는데, 콜모고로프의 책은 그 가운데 확률 쪽의 답으로 꼽힙니다.

콜모고로프의 틀에서 확률은 표본공간의 모든 부분집합이 아니라 '잴 수 있는' 사건들에만 주어집니다. 왜 모든 부분집합에 주지 못할까요? 0과 1 사이에서 실수⁠(real number)⁠ 하나를 고르게 고르는 경우를 생각하면, 어떤 집합⁠(set)⁠에 들 확률은 그 집합의 길이입니다. 길이라면 세 가지를 지켜야 합니다. 구간에는 제 길이를 주고, 옮겨도 변하지 않으며, 겹치지 않는 조각들의 길이는 조각이 셀 수 있을 만큼 많아도 더해져야 합니다. 1905년 이탈리아의 수학자 주세페 비탈리는 선택공리(무한히 많은 주머니에서 하나씩을 한꺼번에 골라 낼 수 있다는 공리)를 받아들이면, 이 세 가지를 지키면서 실수의 모든 부분집합에 길이를 줄 수는 없음을 보였습니다. 그래서 길이를 모순 없이 줄 수 있는 집합만 사건으로 삼습니다. 그 이야기는 「재는 순간 바뀐다」 2절에 있습니다.

공리는 확률을 셈하는 규칙만 정할 뿐, 확률이 무엇인지는 말하지 않습니다. 이 물음에는 두 갈래의 대답이 오래 맞서 왔습니다. 하나는 5절의 큰 수의 법칙처럼 확률을 '아주 많이 되풀이할 때의 비율'로 보는 빈도 해석입니다. 1866년 케임브리지의 논리학자 존 벤이 『우연의 논리』에서 이렇게 정의했고, 1920년대 오스트리아 출신의 수학자 리하르트 폰 미제스가 끝없이 긴 기록을 써서 다듬었습니다. 이 해석은 객관적이지만, 단 한 번뿐인 일에는 답하기 어렵습니다. 다른 하나는 확률을 한 사람의 믿음의 정도로 보는 주관 해석으로, 앞에서 본 램지와 1931년 이탈리아의 브루노 데 피네티가 세웠습니다. 이 해석은 내일 비가 올 확률처럼 한 번뿐인 일에도 값을 주지만, 사람마다 값이 다를 수 있습니다. 램지와 데 피네티는 믿음의 정도가 확률의 기본 규칙(0 이상이고, 전체는 1이고, 겹치지 않는 사건의 확률은 더해진다)을 어기면, 그 믿음대로 내기를 받는 사람은 어떤 결과가 나오든 돈을 잃게 짜인 내기 묶음을 피할 수 없다는 것을 보였습니다. 그래서 두 해석은 확률이 무엇인지에서는 갈라져도 셈하는 규칙은 같이 씁니다. 다만 데 피네티는 무한히 많은 사건에까지 더하기를 요구하는 콜모고로프의 셋째 공리는 받아들이지 않았습니다.

8 · 수학 밖으로연금, 보험, 그리고 국가의 숫자

이 절의 물음은 이것입니다. 판돈을 나누던 셈은 도박판 밖에서 처음 어디에 쓰였을까? 답은 큰 수의 법칙이 가장 먼저 눈에 띈 곳, 사람이 많이 모인 도시의 기록입니다.

도박판의 셈이 가장 먼저 쓸모를 찾은 곳은 돈과 죽음이 얽힌 곳이었습니다. 파스칼이 죽고 『포르루아얄 논리학』이 나온 1662년, 런던의 상인 존 그랜트는 역병을 감시하려고 교구마다 매주 내던 사망 기록을 모아 분석한 책을 냈습니다. 누가 언제 죽을지는 알 수 없어도, 큰 도시의 출생과 사망 비율은 해마다 놀랄 만큼 일정했습니다. 베르누이가 큰 수의 법칙을 증명하기 반세기 전에 그 모습이 먼저 숫자로 드러난 것입니다.

그 기록에는 다른 규칙성도 있었습니다. 해마다 세례를 받는 아이 가운데 남자아이가 여자아이보다 조금 많았습니다. 1710년 스코틀랜드 출신의 의사이자 문필가 존 아버스넛은 1629년부터 1710년까지 82년 동안의 런던 세례 기록에서 한 해도 빠짐없이 남자아이가 많았다는 사실을 증거로 들었습니다. 남녀가 태어날 가능성이 반반이라면 이런 일이 82년 내리 일어날 확률은 4절처럼 1/2을 82번 곱한 $(1/2)^{82} \approx 2 \times 10^{-25}$입니다. $10^{-25}$은 1을 10으로 25번 나눈 수이니, 소수점 아래에 0이 스물네 개 늘어선 뒤에야 2가 나오는 수입니다.

그는 이것을 우연이 아니라 신의 섭리의 증거라고 내세웠습니다. 결론은 신학이었지만 논증의 뼈대는 새로웠습니다. '우연뿐이라면 이만큼 드문 결과가 나왔다'고 계산해서 우연이라는 가설을 물리치는 것, 오늘날 유의성 검정⁠(significance test)⁠이라 부르는 방법의 첫 사례로 꼽힙니다. 두 세기 뒤 피셔가 차 맛을 가린다는 부인의 실험에서 쓴 셈이 이것입니다(「담배와 폐암」 5절). 아버스넛은 1692년 하위헌스의 책을 영어로 옮겨 낸 사람으로도 알려져 있습니다.

다음 무대는 나라의 빚이었습니다. 당시 유럽의 나라들은 전쟁 비용을 마련하려고 종신연금을 팔았습니다. 목돈을 받고, 산 사람이 살아 있는 동안 해마다 돈을 내주는 일종의 국채입니다. 그 공정한 값은 산 사람이 얼마나 더 살지에 달려 있으니 5절의 기댓값 문제입니다. 1671년 홀란트의 최고 행정가 얀 더 빗은 하위헌스의 방법으로 연금 값을 계산해 주 의회에 보고했습니다.

제대로 계산하려면 나이마다 몇 명이 살아남는지 알려 주는 표가 필요했습니다. 1693년 핼리 혜성으로 알려진 에드먼드 핼리가 브레슬라우(오늘날 폴란드의 브로츠와프)의 교회 기록으로 그런 나이별 생존표를 만들었습니다. 그랜트의 런던이 아니라 브레슬라우를 고른 데는 까닭이 있습니다. 런던의 기록에는 죽은 사람의 나이가 없고 드나드는 사람도 많았지만, 브레슬라우의 기록에는 나이가 적혀 있었고 인구도 비교적 안정되어 있었기 때문입니다. 핼리의 표는 연금 값이 나이에 따라 달라야 한다는 것을 숫자로 보여 주었습니다.

이 표로 연금 값을 손쉽게 셈하는 법은 6절의 드무아브르가 1725년 『생명 연금론』에서 내놓았습니다. 드무아브르는 런던의 커피하우스에서 도박꾼과 투자자의 계산 의뢰를 받아 생계를 이었다고 전해집니다. 선주와 상인들이 해상 보험을 거래하던 로이드 커피하우스(1688년 무렵)도 같은 도시에 있었습니다.

확률이 도박에서 연금·보험·통계로 옮겨 간 자리들입니다. 브레슬라우의 기록이 런던의 핼리에게 건너간 길, 파리에서 천문학과 확률을 배운 케틀레가 브뤼셀로 돌아간 길을 따라가 보세요.

숫자를 모으는 주체는 점점 국가가 되었습니다. '통계학'(Statistik)이라는 말도 국가(Staat)에서 왔습니다. 1749년 괴팅겐의 학자 고트프리트 아헨발이 나라의 형편을 기술하는 학문에 이 이름을 붙여 퍼뜨렸을 때만 해도, 내용은 주로 말로 된 서술이었습니다. 19세기에 여러 나라가 정기 인구 조사와 통계 기관을 갖추면서 이 말은 숫자의 학문이 되었습니다.

그 숫자에 6절의 종 모양을 입힌 사람이 아돌프 케틀레입니다. 브뤼셀 천문대를 세운 케틀레는 1835년 무렵부터, 천문학자들이 관측 오차에 쓰던 종 모양 곡선을 사람의 키와 가슴둘레, 범죄율 같은 사회 현상에 적용했습니다. 그리고 1835년 책에서 사회를 대표하는 '평균적 인간'을 내세웠습니다. 오차의 법칙이 천문학에서 어떻게 나왔는지는 「잃어버린 소행성」에서 이어집니다.

케틀레의 곡선을 유전 연구로 가져간 사람이 6절의 골턴입니다. 그는 재능이 유전된다고 보고, 1883년 '우생학⁠(eugenics)⁠'이라는 말을 만들어 '우수한' 사람들이 자녀를 더 많이 낳게 해 인류를 '개량'하자고 주장했습니다. 이 생각은 20세기에 미국 여러 주의 강제 불임법과 나치 독일의 정책으로 이어져 수많은 사람을 해쳤습니다. 회귀와 상관처럼 오늘날 쓰는 통계 도구 일부가 이 연구에서 나왔다는 사실과, 평균에서 벗어난 사람을 '결함'으로 본 그 전제가 틀렸다는 사실을 함께 기억해야 합니다.

9 · 이어지는 길확률이 닿는 곳

판돈을 나누던 셈은 이제 거의 모든 과학에 들어가 있습니다. 몇 갈래만 꼽아 봅니다.

• 무작위로 계산하기: 큰 수의 법칙을 거꾸로 쓰면, 무작위 실험을 많이 해서 넓이나 적분⁠(integral)⁠을 추정할 수 있습니다. 이것이 몬테카를로 방법⁠(Monte Carlo method)⁠입니다. 1777년 프랑스의 박물학자 뷔퐁 백작이 발표한 뷔퐁의 바늘⁠(Buffon's needle)⁠은 바늘을 던져 원주율 π를 구하는 문제로, 그 먼 조상입니다.
• 기다리는 시간: 주사위에서 6이 처음 나올 때까지 평균 몇 번 던져야 할까요? 던진 횟수는 던질 때마다 1씩 더해 센 수이고, $k$번째 던지기가 실제로 일어날 확률은 앞의 $k - 1$번에서 6이 한 번도 안 나올 확률 $(5/6)^{k-1}$입니다. 그래서 기댓값은 1 + 5/6 + (5/6)² + …입니다. 이처럼 같은 비율(5/6)로 줄어드는 항들을 끝없이 더한 것을 등비급수⁠(geometric series)⁠라 합니다. 합을 S라 하면 S = 1 + 5/6 × (1 + 5/6 + …) = 1 + 5/6 × S이므로, S − 5/6 × S = 1, 다시 말해 S/6 = 1이어서 S = 6번입니다. 한 번에 1/6의 확률이면 평균 6번에 한 번꼴이라는 직관 그대로입니다. 4절의 어림 $(1 - 1/N)^n \approx e^{-n/N}$을 로그로 적으면 $\ln(1 - 1/N) \approx -1/N$이고, 이것은 함수를 $x, x^2, x^3, \dots$의 합으로 펼치는 테일러 급수⁠(Taylor series)⁠의 첫 항입니다(「한 점에서 전부를」).
• 상태가 옮겨 다니는 과정: 3절의 표에서 한 칸은 다음 판의 결과에 따라 이웃 칸으로 옮겨 갑니다. "지금 상태만으로 다음 상태의 확률이 정해진다"는 이 구조가 마르코프 연쇄입니다. '어느 상태에서 어느 상태로 옮겨 갈 확률'들을 가로세로의 표로 모은 것이 행렬⁠(matrix)⁠이고, 지금 각 상태에 있을 확률들을 한 줄로 늘어놓은 것(분포)에 이 행렬을 곱하면 한 걸음 뒤의 분포가 나옵니다. 상태가 유한 개이고, 모든 상태를 서로 오갈 수 있고, 일정한 주기로 맴돌지도 않는 연쇄를 생각합시다. 이런 연쇄에서는 오래 지난 뒤의 분포가 한 걸음 더 옮겨도 바뀌지 않는 분포로 다가갑니다. 그 분포가 그 행렬의 고유벡터⁠(eigenvector)⁠입니다. 고유벡터는 행렬을 곱해도 방향은 그대로이고 크기만 몇 배가 되는 수의 줄인데, 여기서는 1배, 다시 말해 아예 바뀌지 않는 경우입니다.
• 거꾸로 셈하기: 3절에서 파스칼은 끝에서부터 한 판씩 거슬러 올라가며 값을 매겼습니다. 두 사람이 수를 고르는 게임에서 이 방법은 게임 트리⁠(game tree)⁠ 탐색이 됩니다. 평균을 내는 대신 내 차례에는 가장 큰 값을, 상대 차례에는 가장 작은 값을 끌어올리는 것입니다. 앞으로 받을 보상의 기댓값을 되짚어 계산하는 강화 학습⁠(reinforcement learning)⁠의 벨먼 방정식도 같은 뼈대입니다. 체스처럼 우연이 없는 게임에서도 끝에서부터 거슬러 올라가면 처음 국면의 승패가 이미 정해져 있다는 체르멜로의 정리는 「이기는 쪽이 존재한다」 1절에서 이어집니다.
• 파산까지: 두 사람이 한 닢씩 주고받으며 한쪽이 돈을 다 잃을 때까지 하는 내기는 경계가 있는 무작위 행보입니다. 이 '도박꾼의 파산⁠(gambler's ruin)⁠' 문제도 파스칼과 페르마 사이에서 다루어졌고, 하위헌스의 책 마지막 문제로 실렸습니다. 3절의 점화식처럼 한 칸의 값이 다음 걸음에 갈 수 있는 칸들의 값을 그 확률로 평균한 것과 같은 함수를 조화 함수⁠(harmonic function)⁠라 부릅니다. 도박꾼이 이길 확률이 막대 속 열의 정상 상태와 같은 식을 따른다는 이야기는 「라플라시안, 가장 많이 재사용된 식」 3절에 있습니다.
• 잡음 속의 확실성: 비트 하나하나는 제멋대로 뒤집혀도 긴 덩어리에서 뒤집히는 비율은 거의 정해져 있습니다. 이 큰 수의 법칙이, 잡음이 있는 통로로도 오류를 원하는 만큼 줄여 보낼 수 있다는 섀넌 정리의 핵심입니다(「잡음 너머로」 5절).
• 확률은 부호의 길이: 확률 $p$인 일에 약 $-\log_2 p$비트짜리 이름을 주는 것이 가장 짧은 부호이므로, 그럴듯함과 짧음은 한 몸입니다. 베이즈와 라플라스의 사전확률은 훗날 모든 컴퓨터 프로그램에 확률을 나누어 주는 '보편 사전확률'로 자랐습니다. 그것으로 '더 단순한 설명을 고르라'는 오컴의 면도날⁠(Occam's razor)⁠을 비트 수로 재게 된 이야기는 「압축하는 것이 이해하는 것이다」에 있습니다.
• 잰다는 것: 콜모고로프의 공리가 기대는 측도와 잴 수 없는 집합은 「재는 순간 바뀐다」에서 이어집니다. 그 글은 버스를 기다리는 평균 시간도 다룹니다. 무엇을 똑같이 일어날 만한 경우로 세느냐에 따라 기댓값이 달라지는 예입니다.
• 소수⁠(prime number)⁠의 확률: 소수는 무작위가 아니지만, 가우스는 큰 수 $x$ 근처의 수가 소수일 '확률'을 $1/\ln x$쯤으로 보고 소수 정리⁠(prime number theorem)⁠를 추측했습니다(「소수를 세는 사람들」). 확률적 직관은 지금도 정수론⁠(number theory)⁠의 추측을 이끄는 중요한 도구입니다.
• 파동으로 증명하기: 중심극한정리의 현대적 증명은 분포를 특성함수라는 새 함수로 바꾸어 봅니다. 이 변환은 함수를 여러 진동수⁠(frequency)⁠의 파동으로 나누는 푸리에 변환입니다. 주기함수⁠(periodic function)⁠를 파동들의 합으로 적는 푸리에 급수⁠(Fourier series)⁠를 주기가 없는 함수로 넓힌 것입니다. 독립인 값들을 더하면 분포는 복잡하게 뒤섞이지만, 특성함수는 그냥 곱해지기만 합니다. 그래서 n개를 곱한 뒤 n을 키워 극한을 보면, 종 모양 분포의 특성함수가 나온다는 것을 계산으로 보일 수 있습니다.
• 원인을 찾아서: 골턴의 회귀와 피어슨의 상관에서 피셔의 무작위 실험으로, 확률은 "무엇이 무엇을 일으키는가"를 묻는 도구가 되었습니다. 「담배와 폐암」에서 이어집니다. 라플라스의 악마가 왜 날씨를 맞히지 못하는지는 「나비의 날갯짓」에 있습니다.
• 줄 세우기: 6절의 스털링 공식으로 $\log_2 n!$을 어림하면, 카드 $n$장을 비교만으로 줄 세우는 어떤 방법도 최악에 대략 $n\log_2 n$번은 비교해야 한다는 벽이 나옵니다(비교 정렬의 하한⁠, comparison sorting lower bound⁠). 기준 카드(피벗⁠, pivot⁠) 하나를 골라 그보다 작은 것과 큰 것으로 가르기를 되풀이하는 퀵정렬(정렬 알고리즘⁠(sorting algorithm)⁠)에서 피벗을 무작위로 고르면(무작위 알고리즘⁠, randomized algorithm⁠), 평균 비교 횟수는 5절의 기댓값으로 계산됩니다. 「줄 세우기의 한계」에서 이어집니다.
• 확률로 읽는 글: 마르코프가 러시아 시인 푸시킨의 운문 소설 『예브게니 오네긴』의 글자를 세어 확률 연쇄를 시험하고, 섀넌이 영어의 엔트로피⁠(entropy)⁠, 곧 다음 글자를 예측하기 어려운 정도를 잰 이야기는 「말을 세는 기계」에 있습니다. 앞의 낱말들로 다음 낱말의 조건부 확률을 내는 오늘날의 언어 모델⁠(language model)⁠은 「다음 단어를 맞히는 기계」에서 이어집니다.