골턴 연구소와 로담스테드: 통계학의 탄생(The Galton Laboratory and Rothamsted: The Birth of Statistics)

19세기 말까지 '통계'는 나라의 인구와 사망을 집계하는 행정의 일이었고(통계학), 오차를 다루는 수학은 천문학자와 측량사의 것이었습니다(정규분포⁠(normal distribution)⁠, 최소제곱⁠(least squares)⁠). 두 전통을 합쳐 생물과 사회의 변이를 재는 학문을 만든 것은 1880년대부터 반세기 동안 런던과 그 근교의 몇몇 연구실이었습니다. 골턴의 인체 측정 실험실, 피어슨의 생물측정 연구실과 학술지 『바이오메트리카』, 그리고 피셔가 일한 하펜던의 로담스테드 농업 시험장입니다. 상관과 회귀, 카이제곱 검정⁠(chi-squared test)⁠, 분산분석⁠(analysis of variance)⁠, 무작위 실험이 여기서 나왔고, 같은 연구실들이 우생학의 본거지였습니다. 이 두 이야기는 따로 떼어 말할 수 없습니다.

년 ·

왜 빅토리아 시대의 영국이었을까요. 1859년 다윈의 『종의 기원』이 나온 뒤, 생물의 작은 변이가 어떻게 대물림되는지가 큰 질문이 되었습니다. 영국에는 출생과 사망을 등록하는 국가 통계의 전통이 있었고, 1854년 존 스노가 콜레라 사망자를 세어 원인을 찾은 것처럼 숫자로 사회 문제를 따지는 습관도 있었습니다. 상속받은 재산으로 평생 연구만 할 수 있는 신사 과학자들이 있었고, 제국과 산업의 경쟁 속에서 '국민의 자질'이 떨어진다는 불안도 컸습니다. 보어 전쟁(1899–1902) 때 지원병 가운데 상당수가 체격 미달로 떨어졌다는 보고는 정부 조사 위원회까지 낳았습니다. 변이를 재는 수학에 대한 관심과 인간을 '개량'하자는 우생학이 같은 토양에서 자랐습니다.

출발점은 골턴이었습니다. 1884년 런던의 국제 보건 박람회에 인체 측정 실험실을 열어 입장료를 낸 9,000명 넘는 방문객의 키와 팔 길이와 시력과 반응 속도⁠(velocity)⁠를 쟀습니다. 1886년 부모와 자녀의 키 자료에서 아주 큰 부모의 자녀는 부모만큼 크지 않고 아주 작은 부모의 자녀는 부모만큼 작지 않다는 평균으로의 회귀⁠(regression to the mean)⁠를 찾았고, 1888년 두 측정값이 함께 움직이는 정도를 상관으로 정의했습니다. 그의 구슬 판은 못에 부딪혀 좌우로 튕기는 구슬들이 이항분포⁠(binomial distribution)⁠를 거쳐 종 모양으로 쌓이는 것을 보여 주었습니다(중심극한정리⁠, central limit theorem⁠). 그는 그보다 앞선 1883년에 '우생학'이라는 말을 만든 사람이기도 합니다.

골턴의 생각을 수학의 체계로 만든 것은 유니버시티 칼리지 런던의 응용수학 교수 피어슨과 동물학자 월터 웰던이었습니다. 1890년대 웰던이 게의 몸 치수를 재어 오면 피어슨은 분포를 읽는 방법을 만들었고, 흩어짐을 재는 표준편차⁠(standard deviation)⁠라는 이름을 지었습니다. 1896년 무렵 상관계수⁠(correlation coefficient)⁠를 오늘날의 식으로 다듬었고, 1900년 관찰과 기대의 어긋남을 재는 카이제곱 검정을 내놓았습니다. 이를테면 주사위를 600번 던졌을 때 눈마다 나온 횟수와 기대 횟수 100의 차이를 제곱해 100으로 나눈 값을 모두 더하고, 이 값이 공정한 주사위에서 우연히 나오기 어려울 만큼 크면 주사위가 공정하다는 가정을 의심하는 방법입니다. 이어 1901년에는 점들에 가장 가까운 직선과 평면을 찾는 주성분 분석⁠(principal component analysis)⁠을 내놓았습니다. 같은 해 세 사람은 『바이오메트리카』를 창간했습니다. 1903년부터 런던의 직물상 조합이 피어슨의 생물측정 연구실에 돈을 댔고, 1904년 골턴이 세운 우생학 기록 사무소는 1907년 피어슨이 이끄는 '국민 우생학을 위한 골턴 연구소'가 되었습니다. 1911년 두 연구실이 합쳐 세계 첫 대학 통계학과가 되었습니다. 앨리스 리 같은 여성 연구원들이 손잡이를 돌리는 계산기로 상관표와 수표를 만들었고, 그 표들은 1914년 통계학자를 위한 수표집으로 묶였습니다.

이 학파는 곧 싸움에 휘말렸습니다. 1900년 그레고어 멘델의 유전 법칙이 재발견되자, 형질이 띄엄띄엄한 단위로 전해진다는 생물학자 윌리엄 베이트슨의 멘델파와, 키처럼 연속적인 형질의 상관을 재는 피어슨과 웰던의 생물측정학파가 서로를 부정했습니다. 싸움을 수학으로 끝낸 것은 1918년 피셔의 논문입니다. 효과가 작은 유전자가 아주 많이 모이면 멘델식의 띄엄띄엄한 유전이 모여 연속적인 종 모양 분포가 되고, 친척 사이의 상관도 그것으로 설명됩니다. 그는 흩어짐을 원인별 몫으로 나누며 표준편차의 제곱에 분산⁠(variance)⁠이라는 이름을 붙였습니다. 산업도 이 학파의 문을 두드렸습니다. 더블린의 기네스 양조장에서 보리와 맥아의 품질을 적은 표본⁠(sample)⁠으로 판단해야 했던 윌리엄 고셋은 1906–07년 피어슨의 연구실에서 공부했고, 회사가 직원의 실명 발표를 막자 '스튜던트'라는 필명으로 1908년 작은 표본의 t 분포⁠(t-distribution)⁠를 『바이오메트리카』에 실었습니다. 측정값이 정규분포를 따른다고 할 때, 표본이 몇 개뿐이어도 표본 평균⁠(mean)⁠이 참 평균에서 얼마나 벗어날 수 있는지를 알려 주는 분포로, 흩어짐까지 표본에서 어림해야 하는 불확실성 때문에 정규분포보다 꼬리가 두껍습니다.

로담스테드 시험장은 1843년 인조 비료로 사업을 일군 존 로즈가 자기 영지에 세운 농업 연구소로, 같은 밭을 구획으로 나눠 비료를 달리하며 밀의 수확을 기록하는 시험이 그때부터 이어졌습니다. 1919년 피어슨이 제안한 자리를 마다하고 이곳에 온 피셔는 70년 넘게 쌓인 자료를 분석하다 흙의 비옥도와 물 빠짐이 비료의 효과와 뒤섞인다는 벽에 부딪혔습니다(교란). 그의 답은 어느 구획에 어떤 처리를 할지 제비뽑기로 정하는 것이었습니다. 무작위로 배정하면 아무도 생각하지 못한 요인까지 평균적으로 고르게 나뉘고, 결과가 우연인지 따지는 확률⁠(probability)⁠의 근거도 실험자가 섞은 순서에서 나옵니다(무작위 대조 시험⁠, randomized controlled trial⁠). 밭을 블록으로 나누고 가로줄과 세로줄마다 처리가 한 번씩 오게 하는 라틴 방진⁠(Latin square)⁠, 수확량의 전체 흩어짐을 처리의 차이와 블록의 차이와 우연의 몫으로 쪼개 처리의 효과가 우연보다 큰지 보는 분산분석, 관찰한 자료가 나올 확률을 가장 크게 만드는 값을 모수⁠(parameter)⁠의 추정값으로 삼는 최대가능도법(최적화⁠(optimization)⁠, 로그)이 이곳에서 자랐습니다. 1925년의 『연구자를 위한 통계적 방법』은 0.05 기준을 퍼뜨렸습니다. 처리에 아무 효과가 없는데도 이만큼 극단적인 결과가 우연히 나올 확률이 스무 번에 한 번(5%)보다 작으면 효과가 있다고 보자는 것입니다. 1935년의 『실험 설계』는 차에 우유를 먼저 부었는지 맞힐 수 있다는 부인의 이야기로 이항계수⁠(binomial coefficient)⁠의 셈을 가르쳤습니다. 컵 8잔 가운데 우유를 먼저 부은 4잔을 고르는 방법은 $\binom{8}{4} = 70$가지이니, 순전히 찍어서 모두 맞힐 확률은 1/70입니다.

이 방법들을 만든 사람들은 우생학을 이끈 사람들이기도 했습니다. 골턴은 '우수한' 사람들이 자녀를 더 낳게 하자고 했고, 1911년 그의 유산으로 만든 첫 우생학 석좌교수는 피어슨이었습니다. 피어슨은 1925년 자기가 창간한 『우생학 연보』 첫 호에 유대인 이민 아동이 평균적으로 열등하니 이민을 막아야 한다는 논문을 공저로 실었고, 피셔는 학생 시절 케임브리지 대학 우생학회의 창립을 도운 뒤 평생 우생 정책을 옹호했습니다. 1912년 런던에서는 첫 국제 우생학 대회가 열렸습니다. 이런 주장들은 미국 여러 주의 강제 불임법과 이민 제한, 1933년 나치 독일의 강제 불임법을 뒷받침하는 데 쓰여 수많은 사람을 해쳤습니다. 상관이라는 도구 자체가 유전의 세기를 재려고 만들어졌다는 사실은 이 역사가 수학과 무관하지 않음을 보여 줍니다. 『우생학 연보』는 1954년 『인간 유전학 연보』로 이름을 바꾸었고, 2020년 유니버시티 칼리지 런던은 골턴과 피어슨의 이름을 건물과 강의실에서 떼어 냈습니다.

1933년 피어슨이 은퇴하자 그의 학과는 둘로 나뉘어 통계학은 아들 이건 피어슨이, 골턴 석좌는 피셔가 이어받았습니다. 두 사람과 폴란드 출신의 예지 네이만은 같은 건물 다른 층에서 가설 검정의 뜻을 두고 평생 다투었고, 네이만과 이건 피어슨이 1933년 정리한 두 종류의 오류(효과가 없는데 있다고 판정하는 오류와, 효과가 있는데 놓치는 오류)의 틀과, 이어서 네이만이 내놓은 신뢰 구간(같은 방법으로 자료를 모아 구간을 만드는 일을 되풀이하면 이를테면 95%의 경우 참값을 담는 구간)은 오늘날 교과서의 표준이 되었습니다. 학파의 영향은 제국을 따라 퍼졌습니다. 케임브리지 도서관에서 『바이오메트리카』를 우연히 읽고 통계학에 빠진 캘커타의 마할라노비스는 1931년 인도 통계 연구소를 세웠고, 1936년 그가 발표한 마할라노비스 거리⁠(Mahalanobis distance)⁠와, 꽃잎과 꽃받침의 치수로 붓꽃의 종을 가르는 같은 해 피셔의 판별 분석⁠(discriminant analysis)⁠은 같은 공분산 행렬⁠(covariance matrix)⁠, 곧 여러 측정값이 저마다 흩어지는 정도와 둘씩 함께 움직이는 정도를 모은 표를 썼습니다.

의학은 한 발 늦게 이 방법들을 받아들였습니다. 유니버시티 칼리지에서 피어슨의 강의를 들은 오스틴 브래드퍼드 힐은 런던 위생·열대의학 대학원에서 1937년 『랜싯』에 수식 없는 통계 강의를 연재했고, 1948년 결핵약 스트렙토마이신의 효과를 봉투 속 난수로 환자를 나눈 시험으로 보였습니다. 피셔가 밭에서 세운 원리가 병원으로 옮겨 온 것입니다. 1950년 그는 역학자 리처드 돌과 함께 폐암 환자와 다른 병의 환자를 짝지어 흡연 습관을 비교했고, 여기서 알고 싶은 $P(\text{폐암} \mid \text{흡연})$과 연구가 재는 $P(\text{흡연} \mid \text{폐암})$을 잇는 데는 조건부 확률⁠(conditional probability)⁠과 베이즈 정리⁠(Bayes' theorem)⁠가 필요했습니다. 1957년부터 피셔는 흡연 성향과 폐암을 함께 일으키는 체질이 있을 수 있다며 이 결론을 공격했습니다. 무작위 배정⁠(random assignment)⁠의 아버지가 무작위 배정 없이는 인과⁠(causation)⁠를 말할 수 없다고 맞선 이 논쟁은, 관찰 자료로 원인을 판단하는 힐의 관점들을 낳았습니다. 연관이 얼마나 센가, 다른 연구에서도 되풀이되는가, 원인이 결과보다 먼저 오는가, 많이 피울수록 위험이 커지는가 같은 아홉 가지 물음입니다.

이 학파의 방법은 곧 모든 분야의 것이 되었습니다. 미국 농과 대학들의 시험장, 벨 연구소의 품질 관리, 심리학과 경제학의 실험, 정부의 표본 조사⁠(sample survey)⁠가 피셔와 피어슨의 수표와 교과서로 일했습니다. 우생학은 2차 세계대전 뒤 나치의 범죄와 함께 신용을 잃었고, 그 자리는 분자 수준의 인간 유전학이 차지했습니다. 한편 0.05 기준을 기계적으로 쓰는 관행과 상관을 인과로 읽는 오류는 오늘날까지 통계학의 숙제로 남아 있습니다. 같은 도구가 무엇을 재고 어떻게 해석하느냐에 따라 치료법을 가려내기도 하고 차별을 정당화하기도 했다는 것이 이 연구실들이 남긴 가장 무거운 교훈입니다.

이어지는 곳. 상관이 인과가 아닌 까닭은 교란과 심슨의 역설⁠(Simpson's paradox)⁠에서, 무작위 배정이 교란을 끊는 원리는 무작위 대조 시험과 큰 수의 법칙⁠(law of large numbers)⁠에서 이어집니다. 피셔와 마할라노비스가 공부한 곳은 20세기 초 케임브리지에, 통계학이 공장의 품질 관리로 들어간 곳은 벨 연구소에, 같은 시대 확률론을 공리⁠(axiom)⁠로 세운 곳은 모스크바 수학 학파에 있습니다. 제비뽑기로 치우침을 지우는 생각은 무작위성에서, 흩어짐 속에서 참값을 가늠하는 일은 근사와 오차에서 분야를 가로질러 이어집니다.