수학 개념 지도
확률과 통계(Probability and statistics)

이항분포(Binomial distribution)

성공 확률⁠(probability)⁠ p인 시행을 n번 했을 때 성공 횟수의 분포. 골턴 보드⁠(Galton board)⁠에서 공이 떨어지는 칸의 분포와 같다.

P(X=k)=(nk)pk(1−p)n−kP(X = k) = \binom{n}{k} p^k (1-p)^{n-k}
먼저 보면 좋은 개념확률파스칼의 삼각형

골턴 보드는 영국의 프랜시스 골턴이 1870년대에 만든 기구입니다. 비스듬히 세운 판에 못을 삼각형 모양으로 줄지어 박고, 위에서 공을 떨어뜨려 아래 칸들에 쌓이게 합니다. 공은 못을 하나 지날 때마다 확률 p=p = 로 오른쪽, 1−p1-p로 왼쪽으로 튑니다. 못이 n=n = 줄이면 공이 떨어지는 칸 번호는 "오른쪽으로 튄 횟수" k입니다. 멈추기 / 다시 비우기

청록 막대가 지금까지 쌓인 공, 흰검은 테두리가 이론값입니다.

못 하나를 지나는 일처럼 결과가 두 가지뿐이고 한쪽의 확률이 p인 시도를 베르누이 시행⁠(Bernoulli trial)⁠이라고 합니다(야코프 베르누이의 이름). 이항분포는 서로 독립⁠(independence)⁠인 베르누이 시행을 n번 했을 때 성공 횟수의 분포입니다. 동전 10번 던지기에서 앞면 수, 불량률 2%인 공장에서 100개 가운데 불량품 수가 모두 이항분포를 따릅니다.

n줄 가운데 오른쪽으로 튈 k줄을 고르는 방법의 수가 이항계수⁠(binomial coefficient)⁠이므로, k번 오른쪽으로 가는 경로는 (nk)\binom{n}{k}가지이고, 각 경로의 확률은 pk(1−p)n−kp^k(1-p)^{n-k}입니다. 경로의 수를 한 줄씩 적으면 바로 파스칼의 삼각형⁠(Pascal's triangle)⁠입니다. 한 칸에 도달하는 길의 수는 위의 두 칸에 도달하는 길의 수의 합이니까요. 보드 전체가 파스칼 삼각형을 확률로 바꾸는 기계입니다. 지금까지 개가 떨어졌습니다.

시행 하나를 성공이면 1, 실패면 0인 수로 적으면, 그 기댓값⁠(expected value)⁠은 p, 분산⁠(variance)⁠은 p(1−p)p(1-p)입니다. 합의 기댓값과 (독립일 때) 분산은 그냥 더해지므로 이항분포의 기댓값은 np=np = , 분산은 np(1−p)=np(1-p) = 입니다. 쌓인 공의 평균⁠(mean)⁠ 점점 np에 다가갑니다.

n을 늘리면 막대의 윤곽이 종 모양으로 매끄러워집니다. p가 0이나 1에 가까우면 분포가 한쪽으로 치우쳐서, 종 모양이 되려면 n이 더 커야 합니다(p = 0.05로 두고 확인해 보세요). 이것이 중심극한정리⁠(central limit theorem)⁠의 역사상 첫 번째 예이자 정규분포⁠(normal distribution)⁠가 처음 발견된 경로(드무아브르, 1733)입니다. p = 1/2이면 공의 경로는 왼쪽·오른쪽 걸음을 반복하는 무작위 행보⁠(random walk)⁠와 같습니다.

이항계수 (nk)=n!k!(n−k)!\binom{n}{k} = \frac{n!}{k!(n-k)!}는 계승(1부터 n까지의 곱 n!)으로 이루어져 있어서, n이 크면 직접 계산하기 어렵습니다. n!을 2πn (n/e)n\sqrt{2\pi n}\,(n/e)^n으로 어림하는 스털링 공식⁠(Stirling's formula)⁠을 넣으면 이항계수의 크기를 손으로 다룰 수 있게 되고, 이것이 드무아브르가 종 모양 곡선을 찾아낸 계산의 핵심이었습니다.

언어 모델⁠(language model)⁠에게 같은 문제를 N번 풀게 해 다수결로 답을 고를 때, 정답이 나온 횟수도 (풀이들이 서로 독립이라는 가정 아래) 이항분포 B(N, p)를 따릅니다. 이것으로 표본⁠(sample)⁠을 늘리는 다수결이 언제 도움이 되고 언제 소용없는지 셈할 수 있습니다(추론 모델).

관련 인물블레즈 파스칼야코프 베르누이아브라암 드무아브르토머스 베이즈피에르시몽 라플라스시메옹 드니 푸아송카를 바이어슈트라스프랜시스 골턴칼 피어슨G. H. 하디
관련된 시대와 장소골턴 연구소와 로담스테드: 통계학의 탄생
이 개념이 나오는 큰 생각근사와 오차무작위성

이 개념이 나오는 긴 글

확률 도박판에서 온 편지 1654년, 도중에 멈춘 내기의 판돈을 어떻게 나눌까? 두 수학자가 주고받은 편지에서 확률론이 태어났다. 소수 소수를 세는 사람들 소수는 제멋대로 흩어져 있는 것 같다. 그런데 멀리서 세어 보면 로그가 보인다. 최소제곱과 선형대수 잃어버린 소행성 1801년, 발견 몇 주 만에 태양 뒤로 사라진 세레스. 스물네 살의 가우스는 흩어진 관측값에서 궤도를 되찾았다. 조합론 세지 않고 세기 시의 운율을 세던 인도의 운율학자부터 오일러의 생성함수까지. 하나하나 늘어놓지 않고 경우의 수를 세는 법은 어떻게 자라났을까? 통신과 잡음 잡음 너머로 대서양 바닥의 케이블은 왜 신호를 뭉갰을까? 잡음이 있어도 오류 없이 보낼 수 있다는 섀넌의 정리와, 그 한계를 50년 동안 쫓은 부호들. 언어 모델 다음 단어를 맞히는 기계 다음 낱말을 짐작하는 일만으로 어디까지 갈 수 있을까? 마르코프의 글자 세기에서 섀넌의 추측 게임, 트랜스포머와 규모의 법칙, 사람의 선호까지. 밑바닥에는 확률의 곱셈 규칙과 로그 하나가 있고, 그 수학은 모델이 왜 그럴듯하게 틀리는지도 말해 준다.

이 개념 위에 세워진 것

중심극한정리최대가능도법추론 모델과 테스트 시점 계산

이 개념을 언급하는 페이지

  • 가우스 적분

    … 여기서 ≈는 n이 커질수록 두 값의 비가 1로 다가간다는 뜻입니다. 동전을 n번 던질 때 앞면 수의 분포(이항분포)는 n이 커지면 종 모양이 됩니다. 이항계수 속 계승들을 스털링 공식으로 바꾸면 정규분포의 식이 …

  • 기댓값

    … 그래서 두 주사위 합의 기댓값은 따로 계산할 필요 없이 3.5 + 3.5 = 7입니다. 같은 이유로이항분포의 기댓값도 동전 하나의 기댓값 p를 n번 더한 np 로 끝납니다. 강화 학습에서 한 상태의 가치는 …

  • 정규분포

    … 것이 확산 모델입니다. 이 곡선은 1733년 드무아브르가 동전을 많이 던졌을 때 앞면 수의 분포(이항분포)를 어림하다가 처음 찾았습니다. 1809년 가우스는 천체 관측값의 오차가 이 분포를 따른다고 보고 …

  • 중심극한정리

    … 분포가 표준정규분포(μ = 0, σ = 1인 정규분포)에 한없이 가까워집니다. 동전 던지기의 앞면 수인이항분포가 종 모양이 되는 것은 이 정리를 동전에 적용한 한 경우입니다. 평균은 큰 수의 법칙에 따라 μ로 …

  • 멱집합

    … 이항계수 \binom{n}{k} 이고, 동전 n 개를 던져 앞면이 k 개 나오는 경우의 수와 같습니다(이항분포). 부분집합을 0과 1의 줄로 적으면 집합의 연산은 비트 연산이 됩니다. 합집합은 OR, 교집합은 …

  • 파스칼의 삼각형

    … 고르는 셈). 갈림길마다 동전을 던져 방향을 정하면 이 길이 무작위 행보가 되고, 도착한 칸의 분포가이항분포\binom nk / 2^n 입니다. 크기 k 인 부분집합의 개수이므로 한 줄을 모두 더하면 멱집합의 …

  • 이항계수

    … 1/2^n 이므로 그 확률은 \binom nk / 2^n 입니다. 이 값들을 k마다 늘어놓은 것이이항분포이고, →를 +1, ↑를 −1로 읽으면 길은 무작위 행보의 자취가 됩니다. n이 크면 계승 계산이 …

  • 스털링 공식

    … n} 로 줄어듦을 알 수 있습니다. 앞면이 절반에서 조금 벗어난 k에 대해서도 같은 계산을 하면,이항분포의 막대 높이가 종 모양 곡선 e^{-x^2/2} 을 따른다는 드무아브르–라플라스 정리가 나옵니다. …

  • 무작위 대조 시험

    … 곳. 무작위 배정은 환자 집합을 동전으로 둘로 나누는 일이라, 사람마다 동전을 던지면 치료군의 크기는이항분포를 따릅니다. 부분마다와 전체의 결론이 엇갈리는 심슨의 역설은 집단마다 구성 비율이 달라서 생기는데, …

  • 해밍 거리

    … 엉뚱한 부호어로 '고쳐' 버립니다. 비트마다 독립적으로 확률 q로 뒤집힌다면 한 덩어리의 오류 개수는이항분포를 따르니, q가 작을 때 둘 이상일 확률은 7자리 가운데 두 자리를 고르는 21가지에서 나오는 약 …

  • 오류 정정 부호

    … 읽은 화소입니다. 오른쪽 곡선은 데이터 4비트 한 묶음이 틀릴 확률입니다. 통로에서 뒤집히는 비트 수는이항분포를 따르니 이항계수로 정확히 계산됩니다. 1950년 벨 연구소의 리처드 해밍이 만든 해밍 부호 …

  • 통로 부호화 정리

    … 일까요? n비트 부호어를 보내면 큰 수의 법칙에 따라 거의 언제나 nq개 안팎의 비트가 뒤집힙니다(이항분포). 그렇게 받을 법한 비트열은 이항계수 \binom{n}{nq} \approx 2^{nH(q)} …

  • 근사 이론

    … 큰 수의 법칙에 따라 k/n은 거의 언제나 x 근처에 있으니 기댓값은 f(x)에 다가갑니다(이항분포). 수렴은 느리지만, 존재를 보이는 데는 이보다 투명한 증명이 드뭅니다. 1937년 미국의 마셜 스톤은 …

  • 통계학

    … 바탕이 되는 확률: 확률, 조건부 확률, 확률변수, 기댓값, 분산. 자주 만나는 분포:이항분포와 정규분포. 표본이 커질 때 일어나는 일은 큰 수의 법칙과 중심극한정리가 말합니다. 요약: …

  • 확률변수

    … 바꿔 확인해 보세요. 같은 방법으로 동전 n개의 앞면 수는 지시 변수 n개의 합이라 기댓값이 np이고(이항분포), 모자를 무작위로 돌려받을 때 제 모자를 받는 사람 수의 기댓값은 n과 상관없이 …

  • 최대가능도법

    … 확률과 가능도. 두 계산에 쓴 식은 같습니다. 앞면 확률이 p인 동전을 n번 던져 앞면이 k번 나올 확률은이항분포의 식 P(K = k \mid p) = \binom{n}{k}\, p^{k} (1-p)^{n-k} 입니다. …

  • 추론 모델과 테스트 시점 계산

    … 맞을 확률 pass@N입니다. 위의 모형으로 정확히 계산한 값입니다. N개를 뽑으면 정답이 나온 횟수는이항분포B(N, p)를 따르고, 오답 하나하나가 나온 횟수는 평균 N(1-p)/m 근처에 모입니다. ⟦큰 수의 …

이 페이지가 가리키는 개념

프랜시스 골턴야코프 베르누이이항계수기댓값분산과 표준편차조건부 확률중심극한정리정규분포아브라암 드무아브르무작위 행보스털링 공식추론 모델과 테스트 시점 계산