수학 개념 지도
확률과 통계(Probability and statistics)

기댓값(Expected value)

확률⁠(probability)⁠로 가중한 평균⁠(mean)⁠. 확률분포⁠(probability distribution)⁠를 막대 무게로 놓았을 때 시소가 수평을 이루는 받침점이다.

E[X]=∑kxk P(X=xk)E[X] = \sum_k x_k\,P(X = x_k)
먼저 보면 좋은 개념확률

주사위를 아주 많이 던지면 나온 눈의 평균은 어디로 갈까요? 각 값에 그 확률을 곱해 더한 값, 곧 기댓값입니다. 그림으로 보면 확률분포의 막대를 무게로 보고 수평이 맞는 받침점을 찾는 일입니다. 분포를 로 바꿔 보세요.

막대 높이가 확률(무게)이고, 아래 삼각형이 받침점 E[X]입니다. '조작된 주사위'에서는 막대 꼭대기 점을 끌어 확률을 바꿀 수 있습니다.

지금 기댓값은 입니다. 조작된 주사위에서 6의 막대를 높이면 받침점이 오른쪽으로 끌려갑니다. 무거운 쪽으로 무게중심이 옮겨 가는 것과 똑같습니다. 기댓값이 실제로 나오는 값일 필요는 없습니다. 공정한 주사위의 기댓값 3.5는 한 번도 나오지 않는 눈입니다.

기댓값은 더하기와 사이가 좋습니다. E[X+Y]=E[X]+E[Y]E[X + Y] = E[X] + E[Y]이고, X와 Y가 독립⁠(independence)⁠이 아니어도 성립합니다. 그래서 두 주사위 합의 기댓값은 따로 계산할 필요 없이 3.5 + 3.5 = 7입니다. 같은 이유로 이항분포⁠(binomial distribution)⁠의 기댓값도 동전 하나의 기댓값 p를 n번 더한 npnp로 끝납니다. 강화 학습⁠(reinforcement learning)⁠에서 한 상태의 가치는 앞으로 받을 보상(먼 미래일수록 γ배씩 깎은 것)의 합의 기댓값인데, 이 선형성 덕분에 '당장 받을 보상의 기댓값 + γ × 다음 상태 가치의 기댓값'으로 쪼개집니다(벨먼 방정식).

선형성은 뜻밖의 곳에서 힘을 씁니다. 모자 n개를 무작위로 돌려주면 자기 모자를 받는 사람 수의 기댓값은 한 사람당 1/n1/n씩 n명을 더한 1로, n과 상관이 없습니다. 아무도 자기 모자를 못 받는 교란순열⁠(derangement)⁠의 확률은 1/e1/e에 가까워집니다.

기댓값은 존재 증명에도 쓰입니다. 무작위로 고른 대상에서 어떤 값의 기댓값이 k라면, 그 값이 k 이상인 대상이 반드시 하나는 있습니다. 모든 대상의 값이 k보다 작다면 그 평균인 기댓값도 k보다 작을 테니까요. 반 학생들의 평균 점수가 70점이면 70점 이상인 학생이 적어도 한 명 있는 것과 같은 이치입니다. 이 단순한 논법이 확률적 방법⁠(probabilistic method)⁠의 기본 도구입니다.

값이 연속적이면(대기 시간처럼) 값 하나하나의 확률 대신 확률밀도⁠(probability density)⁠ f(x)f(x)를 씁니다. 곡선 ff 아래에서 구간 [a, b] 위의 넓이⁠(area)⁠가 값이 그 구간에 들어갈 확률이 되도록 정한 함수입니다. 이때 합은 적분⁠(integral)⁠ ∫x f(x) dx\int x\,f(x)\,dx가 되고, 받침점은 밀도 곡선 아래 넓이의 무게중심입니다. 값이 한없이 클 수 있으면 이 합이나 적분이 발산⁠(divergence)⁠해서 받침점이 없을 수도 있습니다. 아주 큰 값이 드물지만 충분히 자주 나오는 코시 분포⁠(Cauchy distribution)⁠가 그런 예입니다. 기댓값이 있을 때, 독립으로 되풀이한 표본⁠(sample)⁠의 평균이 기댓값으로 다가간다는 것이 큰 수의 법칙⁠(law of large numbers)⁠이고, 받침점 주변으로 무게가 얼마나 퍼져 있는지를 재는 것이 분산⁠(variance)⁠입니다.

평균 대신 한가운데 값을 쓸 수도 있습니다. 순서대로 늘어놓았을 때 가운데 오는 중앙값⁠(median)⁠은 극단적인 값 하나에 크게 흔들리지 않습니다.

기댓값은 확률을 무게로 삼은 가중평균입니다. 그런데 비교하는 두 대상에 무게가 다르게 붙으면, 부분마다의 순서가 전체에서 뒤집힐 수 있습니다. 치료법 A가 가벼운 환자 사이에서도 무거운 환자 사이에서도 B보다 나은데, A를 받은 환자 가운데 무거운 환자의 비율이 훨씬 높아서 전체 성공률로는 A가 뒤지는 심슨의 역설⁠(Simpson's paradox)⁠이 그 예입니다.

기댓값이라는 생각은 1654년 파스칼과 페르마가 멈춘 도박의 판돈을 나누던 편지에서 싹텄고, 1657년 네덜란드의 하위헌스가 『주사위 놀이의 계산에 관하여』에서 '공정한 판돈의 값'으로 체계적으로 다루었습니다. 이 책은 처음 출판된 확률 책으로 흔히 꼽힙니다.

이 개념이 나오는 큰 생각대칭과 불변량무작위성

이 개념이 나오는 긴 글

확률 도박판에서 온 편지 1654년, 도중에 멈춘 내기의 판돈을 어떻게 나눌까? 두 수학자가 주고받은 편지에서 확률론이 태어났다. 정수론과 암호 나머지로 지키는 비밀 한 번도 만난 적 없는 두 사람이 모두가 엿듣는 통신망에서 비밀 열쇠를 맞출 수 있을까? 답은 시계의 산수와 1640년 페르마의 정리에 있다. 최소제곱과 선형대수 잃어버린 소행성 1801년, 발견 몇 주 만에 태양 뒤로 사라진 세레스. 스물네 살의 가우스는 흩어진 관측값에서 궤도를 되찾았다. 계산언어학 말을 세는 기계 문법은 규칙일까, 확률일까? 파니니의 문법에서 촘스키의 위계, 섀넌의 영어 엔트로피, 오늘날의 언어 모델까지. 조합론 세지 않고 세기 시의 운율을 세던 인도의 운율학자부터 오일러의 생성함수까지. 하나하나 늘어놓지 않고 경우의 수를 세는 법은 어떻게 자라났을까? 램지 이론 완전한 무질서는 없다 여섯 명이 모이면 서로 아는 세 사람이나 서로 모르는 세 사람이 반드시 있다. 충분히 크면 어디에나 질서가 숨어 있다는 이론과, 그것을 동전 던지기로 증명한 에르되시. 알고리즘과 복잡도 줄 세우기의 한계 카드 천 장을 가장 빨리 줄 세우는 방법은? 인구조사의 천공 카드에서 퀵정렬까지, 그리고 어떤 방법도 넘을 수 없는 n log n의 벽. 정보 이론과 압축 짧게 보내기 모스 부호는 왜 E를 점 하나로 보낼까? 섀넌의 엔트로피가 정한 압축의 한계와, 허프만 부호에서 JPEG까지 그 한계에 다가간 방법들. 라플라시안 라플라시안, 가장 많이 재사용된 식 이웃의 평균에서 나를 뺀다. 이 한 줄이 열의 법칙이고, 도박꾼이 이길 확률이고, 전기 회로와 나무 세기이고, 북의 음색이고, 사진의 윤곽선이고, 그래프를 가르는 칼이고, 잡음에서 그림을 빚는 확산 모델의 밑그림이다. 측정의 수학 재는 순간 바뀐다 해안선의 길이는 자에 따라, 평균은 누구에게 묻느냐에 따라, 지표는 목표가 되는 순간 달라진다. 리처드슨의 국경과 프랙털 차원, 스티븐스의 척도, 버스 정류장과 타율의 역설, 스피어먼의 요인, 굿하트의 법칙과 보상 해킹을 한 줄로 꿴다. 게임과 증명 이기는 쪽이 존재한다 "이 판은 백이 이겼다"는 흑이 어떻게 두든 백에게 답이 있다는 말이다. 체스의 체르멜로 정리, ε–δ, 님의 이진법, 폰 노이만의 최소최대와 쌍대성, 논리의 한계를 재는 게임, 끝나지 않는 게임과 선택공리, 대화로 읽는 증명, 겨루며 배우는 신경망까지. 수학의 참을 두 사람의 게임으로 읽는다.

이 개념 위에 세워진 것

이 개념을 언급하는 페이지

이 페이지가 가리키는 개념