확률(Probability)
일어날 수 있는 모든 결과의 집합(표본공간, sample space) 가운데 어떤 사건(event)이 차지하는 몫. 넓이(area)의 비율로 보면 가장 쉽다.
확률의 무대는 표본공간
아래 정사각형(넓이 1)을 표본공간으로 삼고 점이 어디에나 고르게 떨어진다고 하면, 사건의 확률은 곧 그 영역의 넓이입니다. 사각형 모서리를 끌어 사건 A, B를 바꿔 보세요.
지금
넓이를 모르더라도 점을 무작위로
결과가 연속적이면(과녁의 한 점, 대기 시간) 확률은 개수의 비가 아니라 넓이, 곧 적분입니다. 어떤 사건이 일어났다는 정보를 알면 표본공간 자체가 좁아지는데, 그것이 조건부 확률(conditional probability)입니다.
확률을 수학으로 다루는 전통은 흔히 1654년 파스칼과 페르마가 주고받은 편지에서 시작되었다고 봅니다. 도박이 중간에 멈췄을 때 판돈을 어떻게 나눌지를 두고, 두 사람은 앞으로 일어날 수 있는 경우를 모두 세어 답을 냈습니다. 그보다 앞서 카르다노도 주사위의 경우를 세는 글을 썼지만, 그 글은 1663년에야 출판되었습니다. 확률을 넓이처럼 다루는 오늘날의 틀은 1933년 콜모고로프가 세웠습니다. 그는 확률을 세 가지 공리(axiom)로 정했습니다. 모든 사건의 확률은 0 이상이고, 표본공간 전체의 확률은 1이며, 서로 겹치지 않는 사건들의 확률은 더해진다는 것입니다(사건이 무한히 많아도 번호를 붙일 수 있으면 마찬가지). 이 규칙들은 넓이나 길이가 따르는 규칙과 똑같아서, 확률을 르베그의 측도(measure) 이론 위에 올려놓을 수 있었습니다.
관측 하나가 들어올 때마다 확률을 고쳐 쓰는 규칙이 베이즈 정리(Bayes' theorem)입니다. 확률을 읽는 방법은 두 가지입니다. 하나는 '같은 시도를 아주 많이 되풀이할 때 그 일이 일어나는 비율(빈도)'이고, 다른 하나는 '아직 모르는 일에 대해 가진 믿음의 정도'입니다. 내일 비가 올 확률처럼 되풀이할 수 없는 일에도 확률을 말할 수 있는 것은 두 번째 읽기 덕분이고, 베이즈 정리는 그 믿음을 증거에 맞춰 고치는 방법을 줍니다.
확률의 직관이 얼마나 쉽게 틀리는지는 생일 문제(birthday problem)가 잘 보여 줍니다. 23명만 모여도 생일이 같은 두 사람이 있을 확률이 절반을 넘습니다.
확률은 무엇인가가 존재한다는 증명에도 쓰입니다. 무작위로 고른 대상이 어떤 성질을 가질 확률이 0보다 크면, 그 성질을 가진 대상이 적어도 하나는 실제로 있어야 합니다. 하나도 없다면 확률은 0일 테니까요. 1947년 에르되시는 이 논법을 사람들 사이의 관계에 썼습니다. n명의 모든 두 사람 사이를 동전을 던져 '서로 안다' 또는 '서로 모른다'로 정하면, k가 3 이상이고 n이
확률이 0이라고 해서 불가능한 것은 아닙니다. 0과 1 사이에서 실수(real number) 하나를 고르게 무작위로 고를 때, 그 수가 유리수(rational number)일 확률은 0입니다. 유리수는 하나, 둘, 셋 하고 번호를 붙일 수 있어서(가산 집합(countable set)) 첫째 유리수를 길이 ε/2인 구간으로, 둘째를 ε/4, 셋째를 ε/8인 구간으로 덮어 가면 모든 유리수를 길이의 합이 ε 이하인 구간들로 덮을 수 있습니다. ε은 얼마든지 작게 잡을 수 있으니 유리수들이 차지하는 '길이'는 0입니다(측도 0, measure zero). 그래도 1/2 같은 유리수가 뽑히는 것이 불가능한 일은 아닙니다. 1/2도 표본공간 [0, 1]에 들어 있는 결과이기 때문입니다. 사실 어느 한 수가 정확히 뽑힐 확률은 모두 0이지만, 한 번 뽑으면 어떤 수는 반드시 나옵니다. 연속적인 표본공간에서 '확률 0'은 '일어날 수 없다'가 아니라 '차지하는 몫이 없다'는 뜻입니다.
확률이 꼭 '진짜 우연'에서만 나오는 것은 아닙니다. 다음 상태가 지금 상태에 따라 규칙대로 정확히 정해지는 운동(결정론적 운동)도, 처음 상태의 아주 작은 차이가 빠르게 커지는 경우에는 처음 상태를 정확히 모르는 한 결과를 확률로밖에 말할 수 없습니다(혼돈, chaos). 대기의 움직임이 그런 경우이고, 일기 예보가 "비 올 확률 60%"처럼 확률로 나오는 이유입니다.
두 사건이 함께 일어난다고 해서 하나가 다른 하나를 일으킨 것은 아닙니다. 둘 다에 영향을 주는 제3의 요인, 곧 교란 변수(confounding variable)가 있을 수 있습니다. 원인 후보를 동전으로 정해 그런 요인과의 연결을 끊는 대표적인 방법이 무작위 대조 시험(randomized controlled trial)입니다.
가능한 결과마다 확률을 얼마씩 나누어 주었는지를 적은 것을 확률분포라고 합니다. 공정한 주사위의 분포는 여섯 눈에 1/6씩을 준 것입니다. 분포 하나가 얼마나 예측하기 어려운지는 정보 엔트로피(information entropy)라는 수 하나로 잴 수 있습니다. 공정한 동전은 1비트, 늘 앞면만 나오는 동전은 0비트입니다. 두 분포가 얼마나 다른지 잴 때는, 확률을 흙더미처럼 보고 한 분포의 모양에서 다른 분포의 모양으로 옮겨 쌓는 데 드는 최소 비용(옮긴 양 × 옮긴 거리의 합)을 쓸 수도 있습니다(최적 수송, optimal transport).
이 개념이 나오는 긴 글
이 개념 위에 세워진 것
이 개념을 언급하는 페이지
- 정적분
… 실수든 될 수 있는 확률변수는 확률을 곡선(확률밀도)으로 나타냅니다. 이때 값이 a와 b 사이에 들확률은 그 곡선 아래 a부터 b까지의 넓이입니다. 값에 확률밀도를 곱해 쌓은 적분은 기댓값입니다. 유명한 …
- 조건부 확률
"B가 일어났다"는 정보는 가능성의 세계를 줄입니다. 이제 B 바깥은 신경 쓸 필요가 없으니 B가 새표본공간이 되고, A의 확률은 그 안에서 A가 차지하는 몫으로 바뀝니다. 아래 정사각형의 왼쪽 기둥이 B(폭 …
- 베이즈 정리
… 둘을 잇는 다리가 양성인 사람 전체의 수 P(+) 입니다. 격자에서 보면 양성(큰 점)이라는 집합으로표본공간을 좁히고, 그 안에서 빨간 점이 차지하는 몫을 센 것입니다. 증거를 보기 전의 확률(여기서는 기저율)을 …
- 기댓값
주사위를 아주 많이 던지면 나온 눈의 평균은 어디로 갈까요? 각 값에 그확률을 곱해 더한 값, 곧 기댓값 입니다. 그림으로 보면 확률분포의 막대를 무게로 보고 수평이 맞는 받침점을 …
- 몬테카를로 방법
… 입니다. 더 뿌리기 새로 뿌리기 점 하나는 "사분원 안인가?"라는 동전 던지기 한 번과 같습니다. 성공확률이 \pi/4 이니, 큰 수의 법칙에 따라 비율은 그 값으로 모입니다. 오른쪽 그래프처럼 추정값은 …
- 뷔퐁의 바늘
… 간격이 1인 평행선이 그어진 바닥에 길이 l = 인 바늘을 아무렇게나 던지면, 바늘이 선에 걸칠확률은 얼마일까? 바늘 개를 던져 보니 개가 선에 걸렸습니다. 다시 던지기 분홍 바늘이 선에 걸친 바늘입니다. …
- 마르코프 연쇄
날씨가 오늘 날씨에만 달려 있다고 해 봅시다. 맑은 날 다음 날도 맑을확률, 흐려질 확률 (그 밖에는 비). 흐린 날이 계속 흐릴 확률 , 비가 올 확률 (나머지는 맑음). 비 온 …
- 생일 문제
한 반에 n = 명이 있을 때 생일이 같은 두 사람이 있을확률은 입니다. 직관보다 훨씬 큽니다. 23명이면 이미 절반을 넘고(약 50.7%), 57명이면 99%입니다. …
- 집합
… 크기⟧입니다. 확률에서는 일어날 수 있는 결과 전체가 집합(표본공간)이고 사건은 그 부분집합입니다(확률). 소수를 모은 소수 집합, 나머지가 같은 수끼리 묶는 동치류도 모두 집합입니다. 아무 조건이나 …
- 집합의 연산
… 사각형 안의 점 하나를 고르게(모든 점을 같은 확률로) 뽑는다고 하면, 점의 개수를 전체 개수로 나눈 값이확률입니다. 확률의 덧셈 법칙 P(A \cup B) = P(A) + P(B) - P(A \cap B) 은 이 …
- 포함배제 원리
… = \tfrac{8}{30} 입니다. 이 곱셈 공식이 오일러 피 함수의 공식입니다. 같은 셈을확률로 바꿔 볼 수 있습니다. 다만 "모든 정수 가운데 고르게 하나"를 뽑는 방법은 없으니, 1부터 N …
- 칸토어 집합
… + \cdots = 1 이고, 남은 집합의 길이는 0 입니다(정확한 말로는 측도 0).확률로 말하면 [0,1] 에서 고르게 고른 점이 이 집합에 들어갈 확률은 0입니다. 그런데 남은 점은 결코 …
- 소수 정리
… 대략 반비례한다는 말입니다. 이 "비율"은 구간 안에서 센 값이지, 정수 전체에서 하나를 고르게 뽑는확률이 아닙니다(그런 뽑기는 정의되지 않습니다). 이 밀도가 맞다면 x 까지의 소수 개수는 밀도를 적분한 …
- 바젤 문제
… + p^{-4} + \cdots = 1/(1-p^{-2}) 를 곱한 것과 같습니다. 이제 이것을확률로 읽어 봅시다. 무한히 많은 정수 모두에 같은 확률을 줄 수는 없으니, "정수 전체에서 고르게 뽑기"는 …
- 등비급수
… 모든 k에 대해 더하면 첫 항 p, 비율 1 − p인 등비급수라 합이 p / p = 1 이 됩니다(확률). 언젠가는 반드시 성공한다는 뜻입니다. 이웃한 항의 비율이 일정하지 않고 1/2, 2/3, 3/4, …
- 중국인의 나머지 정리
… 붙이기 조건과 같습니다(글자 그대로의 층은 정수환을 소수들의 공간으로 보는 대수기하학에 있습니다).확률로 옮기면 이렇습니다. 0부터 mn - 1 까지에서 고르게 하나를 뽑으면, m 으로 나눈 나머지와 n 으로 …
- 디피–헬먼 키 교환
… 이루고, 높이 A에서 a 를 되찾는 것은 g 의 역수를 한 번 곱하는 일입니다. 거듭제곱을 고르면 점들이무작위처럼 흩어집니다. 거듭제곱에서 지수를 되찾는 문제를 이산로그 라 합니다. 실수 위의 지수함수는 매끄럽게 …
- 소수 판정
… 전체의 4분의 1을 넘지 않는다는 것이 증명되어 있습니다. 합성수가 무작위로 고른 밑 20개를 모두 통과할확률은 4^{-20} \approx 10^{-12} 이하입니다. 이처럼 동전 던지기를 계산에 섞고, …
- 쌍둥이 소수
… 근처의 수 가운데 소수의 비율은 약 1/\ln p 입니다( p 근처의 구간에서 고르게 하나를 뽑으면 소수일확률이 그만큼입니다). 그러니 p 근처의 평균 간격은 약 \ln p 이고, 자연로그라서 아주 천천히 …
- 리만 제타 함수
… 2 이상의 정수일 때, 1부터 N 까지에서 s 개의 정수를 고르게 뽑으면 그들이 공통 소인수를 갖지 않을확률은 N 이 커질수록 1/\zeta(s) 에 다가갑니다. s = 2 일 때가 두 정수가 서로소일 확률의 극한 …
- 이항계수
… 동전을 n번 던져 앞면이 k번 나오는 결과는 →↑ 길처럼 \binom nk 개이고, 결과 하나하나의확률이 1/2^n 이므로 그 확률은 \binom nk / 2^n 입니다. 이 값들을 k마다 늘어놓은 것이 …
- 도박꾼의 파산
가진 돈 k = 닢으로 시작해 목표 N = 닢을 노립니다. 한 판마다확률p = 로 한 닢을 따고, 1-p 로 한 닢을 잃습니다. 돈이 0이 되면 파산, N이 되면 목표를 이루고 …
- 중앙값
… \le m) \ge \tfrac12 이고 P(X \ge m) \ge \tfrac12 인 m이 중앙값입니다(확률). 정규분포처럼 좌우 대칭이면 평균과 같지만, 기다리는 시간처럼 오른쪽 꼬리가 긴 지수분포에서는 …
- 대수적 수와 초월수
… 재도 거의 전부입니다. 대수적 수 전체는 측도 0이라, 0과 1 사이에서 고르게 고른 실수가 대수적일확률은 0입니다. 원하는 대상을 하나도 만들지 않고 '무작위로 고르면 거의 확실히 그렇다'로 존재를 보이는 이 …
- 칸토어 함수
… 던져 0이나 2를 고르면 칸토어 집합 위의 무작위 점이 나옵니다. F(x) 는 그 점이 x 이하일확률(누적 확률)입니다. 흔히 누적 확률이 끊김 없이(연속으로) 오르는 확률변수라면 확률 밀도가 있다고 …
- 측도 0
… \varepsilon 을 줄이면 맞는 다트도 줄어듭니다. 0과 1 사이에서 고르게 고른 수가 유리수일확률은 어떤 \varepsilon 보다도 작으니 0입니다. 그래도 유리수가 뽑히는 일이 불가능한 것은 …
- 로지스틱 사상
… 걸음 뒤로, 오른쪽이면 한 걸음 앞으로 가며 누적하면 무작위 행보가 됩니다. 우연이 전혀 없는 규칙이확률처럼 보이는 가장 단순한 예입니다. 규칙으로 무작위처럼 보이는 수를 만든다는 생각은 컴퓨터의 의사난수 …
- 분기
… 정해지지 않고 처음의 작은 치우침이나 잡음이 정합니다. 계와 잡음이 모두 좌우 대칭이라면 두 가지가 반반의확률로 나옵니다. 로렌츠 방정식은 여기 나온 분기들을 차례로 거칩니다. 매개변수 ρ를 올리면 ρ = 1에서 …
- 혼돈
… 성질을 에르고드성이라 합니다. 결정론판 큰 수의 법칙인 셈입니다. 그래서 혼돈계에서는 궤도 하나 대신확률분포를 예측합니다. 상태 공간을 칸으로 나누고 칸에서 칸으로 옮겨 가는 비율을 재면, 계를 다음 칸이 지금 …
- 심슨의 역설
… 없었고, 여성이 합격률 낮은 학과에 더 많이 지원한 것이 차이를 만들었습니다. 이어지는 곳. 부분마다의확률을 부분의 비율을 무게로 삼아 합치는 규칙(전확률 공식)은 베이즈 정리의 분모를 계산할 때 쓰는 바로 …
- 좁은 세상
… 두 점 사이 최단 경로 길이의 기댓값입니다. 뭉침 계수 C 는 한 점의 두 친구가 서로도 친구일확률(이웃 쌍 가운데 이어진 쌍의 비율)을 모든 점에 대해 평균 낸 것입니다. 다시 잇는 확률을 …
- 페이지랭크
… 그래프 위의 무작위 행보, 곧 마르코프 연쇄입니다. 오래 걸은 뒤 산책자가 각 페이지에 있을확률이 그 페이지의 페이지랭크입니다. d가 1보다 작으면 순간이동 덕분에 이 확률은 어디서 출발하든 같은 …
- 마할라노비스 거리
… A보다 (마할라노비스 거리로) 먼 점은 , B보다 먼 점은 입니다. 2차원 정규분포라면 거리가 d보다 멀확률은 정확히 P(d_M > d) = e^{-d^2/2} 이고(A는 , B는 ), 이 식은 가우스 적분을 …
- k-평균 군집
… 없이 데이터만 보고 구조를 찾는 비지도 학습입니다(기계 학습). 무리마다 정규분포를 가정하고 점을확률로 부드럽게 나눠 배정하면 가우스 혼합 모형이 되고, 그때 무리마다의 거리는 마할라노비스 거리가 …
- 최적 수송
… 이런 지점을 분위수라 하니, 분위수끼리의 짝짓기입니다. 흙의 총량을 1로 맞춰 두면 흙더미와 구덩이는 각각확률분포로 볼 수 있고, 이 최소 비용이 두 분포 사이의 거리인 1-바서슈타인 거리입니다(1969년 이 거리를 …
- 자카드 지수
… 무작위 순서로 섞은 뒤 각 집합에서 가장 앞에 오는 원소를 봅니다. 두 집합의 '맨 앞 원소'가 같을확률은 정확히 J입니다. 합집합의 원소 가운데 가장 앞에 온 것이 교집합에 속할 확률이기 때문입니다. …
- 쇠렌센–다이스 계수
… 중반부터 신경망은 학습하면서 줄여 나갈 '틀린 정도'(손실)로 1-D 를 씁니다. 픽셀마다 0이나 1 대신확률을 넣어 매끄럽게 바꾼 뒤 최적화하는데, 이것이 다이스 손실입니다. 이어지는 곳. 이름은 두 …
- 불 대수
… 됩니다(집합의 연산). 한 집합의 모든 부분집합, 곧 멱집합이 불 대수를 이루는 까닭이고,확률에서 사건을 '그리고·또는·아니다'로 묶는 계산도 같은 대수입니다. 벤 다이어그램(집합을 겹쳐 그린 원으로 …
- 지프의 법칙
… 막대는 1위 낱말 빈도에 대한 비율, 흰 점은 1/r입니다. 오른쪽 수는 실제 등장 횟수입니다. 이 법칙은확률분포로서도 독특합니다. 정규분포는 평균 근처에 몰려 있지만, 멱법칙은 드문 것들이 끝없이 길게 꼬리를 …
- 정보 엔트로피
드문 일이 일어나면 많이 놀라고, 뻔한 일이 일어나면 거의 놀라지 않습니다. 1948년 클로드 섀넌은확률이 p인 일이 일어났을 때 얻는 정보를 -\log_2 p 비트로 정했습니다. 확률 1/2인 일은 1비트, …
- 은닉 마르코프 모델
… 측정값으로 움직이는 물체의 위치를 차례로 추정하며 GPS와 우주선 항법에 쓰입니다. 은닉 마르코프 모델은확률모델 가운데 '숨은 원인 → 보이는 결과' 구조의 가장 단순한 예입니다.
- 비교 언어학
… 본 생일 문제처럼 우연한 닮음이 얼마나 자주 생기는지를 따져야 진짜 대응을 가려낼 수 있으니, 이것은확률의 문제이기도 합니다. 인도 캘커타에서 판사로 일하던 영국의 언어학자 윌리엄 존스가 1786년 …
- 신경망
… 시그모이드 \sigma(s) = 1/(1+e^{-s}) 로 0과 1 사이의 수를 냅니다. 이 수를 '노랑일확률'로 읽습니다. 자료: · 학습시키기 100걸음 새로 시작 배경 색은 신경망이 매긴 확률(파랑 0 … 노랑 …
- 교란순열
… n = 6이면 이미 0.0002 안쪽입니다. 손님이 열 명이든 백만 명이든 아무도 제 모자를 못 받을확률은 약 37%로 거의 같습니다. 실제로 n \ge 1 이면 D_n 은 n!/e 에 가장 가까운 정수입니다. …
- 별과 막대
… 나누는 것이므로 \binom{k+5}{5} 가지입니다. 두 개면 21가지입니다. 하지만 이 21가지가 같은확률로 나오지는 않습니다. (1, 2)는 (1, 1)보다 두 배 자주 나옵니다. 확률을 셀 때는 주사위를 …
- 확률적 방법
… 만들어 보이는 것입니다. 확률적 방법 은 반대로 갑니다. 대상을 무작위로 골랐을 때 원하는 성질을 가질확률이 0보다 크다는 것만 보입니다. 그러면 그런 대상이 적어도 하나 있어야 합니다. 어느 것인지는 몰라도 …
- 무작위 알고리즘
… 서로 다른 쪽으로 갈라져 다시 만나지 않습니다. 이 무리 안에서는 누가 먼저 뽑히든 확률이 같으니, 그확률은 2/(j-i+1) 입니다. 모든 쌍에 대해 더하면 조화급수가 나와 위의 식이 되고, 첫째 항은 2n …
- 허프만 부호
… 왼쪽 가지는 0, 오른쪽 가지는 1로 읽으며 내려가다 잎에 닿으면 한 글자가 끝납니다. 글자 i가 나올확률이 p_i , 부호 길이가 \ell_i 이면 한 글자에 드는 평균 비트 수는 기댓값 \sum p_i …
- 원천 부호화 정리
… 답했습니다. 이 기계처럼 기호가 하나씩 나오되, 각 기호가 앞의 기호들과 상관없이(독립적으로) 늘 같은확률분포에서 뽑히는 것을 원천이라 합니다. 답은 그 분포의 엔트로피 H 입니다. 위의 예라면 H = 0.5 …
- 렘펠–지브 압축
… 풀 때는 참조를 만날 때마다 이미 풀어 놓은 부분에서 그대로 베껴 오면 됩니다. 글자마다의확률표가 전혀 필요 없다는 점이 허프만 부호와 다릅니다. 글: . 세 글자 이상 겹칠 때만 참조로 …
- 오류 정정 부호
… 없습니다. 지금 q에서 용량은 비트당 입니다. 섀넌의 증명은 무작위로 고른 긴 부호가 거의 언제나 좋다는확률적 논증이었고, 받은 신호가 원래 부호어 근처에 몰린다는 것은 큰 수의 법칙에서 나옵니다. 용량에 …
- 결합 엔트로피와 조건부 엔트로피
… 날씨를 물을 수도 있습니다. 오늘 날씨가 x일 때 내일 날씨에 남은 불확실성 H(Y|X=x)를 오늘 날씨의확률로 평균한 것이 조건부 엔트로피 H(Y|X)입니다. H(X,Y) = -\sum_{x,y} …
- 쿨백–라이블러 발산
… 주는 정보를 정의했습니다. 참인 분포가 p이고 경쟁 가설이 q일 때 결과 i가 나오면, 두 가설의확률비(가능도비)의 로그 \log(p_i/q_i) 만큼 p 쪽으로 증거가 쌓입니다(이 값이 음수면 q …
- 최대 엔트로피 원리
… 따라가는 대신 확률로 다루어 온도·압력 같은 성질을 설명하는 물리학입니다. 우리가 아는 것을 만족하는확률분포는 대개 무수히 많습니다. 그 가운데 엔트로피가 가장 큰 것을 고르라는 것이 그의 제안입니다. …
- 산술 부호화
… 닐, 존 클리어리가 누구나 가져다 쓸 수 있는 구현을 발표하면서 널리 퍼졌습니다. a, b, c 세 글자가확률0.6, 0.3, 0.1로 나온다고 합시다. [0, 1)을 확률에 비례해 a는 [0, 0.6), b는 …
- 맥스웰의 악마와 란다우어 원리
… 흐릿해 상호 정보량이 1비트보다 작으면 얻는 일도 그만큼 줄어듭니다. 온도 T에서 에너지가 E인 상태의확률이 e^{-E/k_B T} 에 비례한다는 볼츠만 분포는 평균 에너지가 정해졌을 때 엔트로피가 가장 큰 …
- 공리와 공준
… 보였습니다(불완전성 정리). 공리의 방법은 기하와 수 너머로 퍼졌습니다. 1933년 콜모고로프는확률을 공리 세 개 위에 세웠고, 거리(거리 함수), 벡터 공간, 군도 모두 몇 개의 공리로 …
- 르베그 적분과 측도
… 가능한 함수의 푸리에 급수는 거의 어디서나 수렴한다는 것을 증명했습니다. 확률. 1933년 콜모고로프는확률을 전체의 측도가 1인 측도로 정의했습니다. 사건은 가측 집합이고, 확률변수는 가측 함수이며, …
- 근사 이론
… 통합니다. 테일러 급수로는 어림도 없는 함수들입니다. 1912년 하르키우의 세르게이 번스타인은확률로 이 정리를 다시 증명하며 다항식을 직접 적어 보였습니다. 앞면이 나올 확률이 x인 동전을 n번 던져 …
- 동역학계
… 몫과 같아집니다. 이 에르고딕 정리는 1931–32년 폰 노이만과 버코프가 증명했고, 결정론적인 계에확률이 들어오는 문이 되었습니다. 상태 하나 대신 상태의 분포를 한 걸음씩 옮기면 마르코프 연쇄가 되고, …
- 통계학
… 실험 없이도 인과를 말할 수 있는 조건을 따졌습니다. 이 위키의 통계 페이지들. 바탕이 되는 확률:확률, 조건부 확률, 확률변수, 기댓값, 분산. 자주 만나는 분포: 이항분포와 정규분포. …
- 확률변수
… 두 개를 던지면 결과는 (첫째 눈, 둘째 눈)의 짝 36가지 가운데 하나입니다. 이 36가지 결과의 모임이표본공간Ω입니다. 그런데 우리가 궁금한 것은 대개 짝 자체가 아니라 거기서 나오는 수, 예컨대 두 눈의 합입니다. …
- 기계 학습
… 아는 메일을 맞히는 것이 아니라 내일 올 메일을 맞히는 것입니다. 앞으로 올 예들도 학습 데이터와 같은확률분포에서 나온다고 가정하고, 그 분포 위의 평균 손실을 작게 하는 것이 목표입니다. 이것을 일반화라 …
- 인공지능
… 통계(1980년대 후반–2000년대). 그사이 방향이 바뀌었습니다. 확실한 규칙 대신 불확실한 믿음을확률로 다루게 된 것입니다. 주디아 펄은 1988년 책에서 베이즈 망을 정리했습니다. 베이즈 망은 '비가 …
- 모나드
… 해 따로 에일렌베르크와 존 무어가 보였습니다. 확률에도 모나드가 있습니다. 각 단계가 값 하나 대신확률분포를 돌려주면, 풀칠은 '가능한 중간값 b마다 P(b) × P(c | b)를 더하기', 곧 전확률 …
- 모노이드 범주와 끈 그림
… ⊗는 위에서 본 '독립인 두 과정을 나란히 놓기'입니다. 합성은 전이 행렬의 곱, 곧 중간 상태에 대해확률을 더하는 전확률 공식입니다. 여러 날의 전이를 이렇게 이어 붙이는 규칙이 채프먼–콜모고로프 방정식입니다. …