존 튜키(John Tukey)

존 튜키는 1915년 미국 매사추세츠주의 항구 도시 뉴베드퍼드에서 태어났습니다. 부모는 둘 다 라틴어 교사였고, 그는 대학에 가기 전까지 학교에 다니지 않고 집에서 배웠습니다. 브라운 대학에서 화학을 공부한 뒤 프린스턴으로 가서 1939년 솔로몬 레프셰츠의 지도로 위상수학⁠(topology)⁠ 박사 학위를 받았습니다. 그가 어른이 된 20세기 중반은 통계학이 두 번 크게 바뀌던 때였습니다. 한 번은 피셔와 네이만이 확률⁠(probability)⁠ 이론 위에 추론의 수학을 세운 일이고, 또 한 번은 전쟁과 컴퓨터가 쏟아낸 거대한 양의 자료 앞에서 그 수학만으로는 모자라다는 것이 드러난 일입니다. 튜키는 두 번째 변화를 이끈 사람입니다.

나이 세 ·

그의 첫 이름은 순수 수학에서 나왔습니다. 1940년 위상수학 책에서 그는 오늘날 튜키의 보조정리라 불리는 원리를 썼습니다. 집합⁠(set)⁠들의 모임이 '유한 성질'을 가진다는 것은, 어떤 집합이 모임에 들어 있을 필요충분조건이 그 집합의 유한한 부분집합⁠(subset)⁠이 모두 모임에 들어 있는 것이라는 뜻입니다. 예를 들어 벡터⁠(vector)⁠들의 모임이 일차 독립⁠(linear independence)⁠인지는 유한 개씩만 살펴보면 알 수 있으니, 일차 독립인 집합들의 모임은 유한 성질을 가집니다. 튜키의 보조정리⁠(Tukey's lemma)⁠는 비어 있지 않은 이런 모임에는 더 늘릴 수 없는 원소(극대 원소⁠(element)⁠)가 반드시 있다는 것입니다. '가장 큰' 원소일 필요는 없고, 그보다 큰 것이 모임 안에 없다는 뜻입니다. 여기서 모든 벡터 공간⁠(vector space)⁠에 기저가 있다는 것이 곧바로 나옵니다. 더 늘릴 수 없는 일차 독립 집합이 곧 기저이기 때문입니다. 한 해 앞서 독일의 오스발트 타이히뮐러도 같은 원리를 냈습니다. 이 원리는 선택 공리⁠(axiom)⁠와 같은 힘을 가진 명제의 하나로 교과서에 실려 있습니다.

2차 세계대전은 그를 통계학으로 끌어냈습니다. 1941년 그는 프린스턴의 사격 통제 연구실에서 대공포의 조준과 탄도를 연구했는데, 여기서 통계학자 찰스 윈저와 함께 일하며 실제 자료를 다루는 법을 배웠습니다. 극단적인 값들을 버리지 않고 가장 가까운 정상적인 값으로 끌어당겨 평균⁠(mean)⁠을 내는 '윈저화'라는 기법의 이름을 튜키가 지은 것도 윈저를 기려서였습니다. 전쟁이 끝나자 그는 프린스턴의 교수와 벨 연구소의 연구원을 1945년부터 40년 동안 겸했습니다. 1947년 그는 벨 연구소의 메모에서 이진 숫자(binary digit)를 줄여 '비트(bit)'라 부르자고 했고, 이듬해 클로드 섀넌은 「통신의 수학적 이론」에서 이 낱말이 튜키의 제안이라고 밝혀 적었습니다. 1958년에는 한 수학 잡지의 글에서 계산기의 프로그램을 '소프트웨어'라 불렀는데, 이것이 인쇄물에서 이 낱말이 그런 뜻으로 쓰인 이른 예로 흔히 꼽힙니다.

그의 가장 유명한 업적은 고속 푸리에 변환(FFT)입니다. 1963년 대통령 과학 자문 위원회의 회의에서 IBM의 물리학자 리처드 가윈은, 그해 맺어진 부분 핵실험 금지 조약 이후 소련의 지하 핵실험을 지진계로 잡아내려면 엄청난 양의 신호를 진동수별로 나누어야 한다는 문제를 안고 있었습니다. 튜키가 빠른 계산의 아이디어를 스케치하자, 가윈은 IBM의 제임스 쿨리에게 그것을 프로그램으로 짜게 했고, 두 사람은 1965년 논문을 발표했습니다. 무엇이 빨라졌는지 봅시다. 신호의 표본⁠(sample)⁠ $N$개를 푸리에 급수⁠(Fourier series)⁠처럼 $N$개의 진동수⁠(frequency)⁠ 성분으로 나누는 이산 푸리에 변환⁠(discrete Fourier transform)⁠은, 진동수 하나마다 표본 $N$개에 1의 거듭제곱근⁠(roots of unity)⁠을 곱해 더해야 하니 곱셈이 $N^2$번쯤 필요합니다. 쿨리와 튜키는 표본을 짝수 번째와 홀수 번째로 나누었습니다. 두 절반을 따로 변환한 결과 $E_k$와 $O_k$를 구하면, 전체의 변환은 위의 식처럼 둘을 더하고 빼는 것만으로 얻어집니다. 절반을 다시 절반으로 나누기를 되풀이하면(분할 정복⁠, divide and conquer⁠), 곱셈은 $N \log_2 N$번쯤으로 줄어듭니다. $N = 1024$이면 약 100만 번이 약 1만 번이 되고, 표본이 100만 개면 5만 배쯤 빨라집니다(점근 표기법⁠, asymptotic notation⁠).

이 방법은 순식간에 퍼졌습니다. 지진학과 음향, 레이더, 의료 영상, 그리고 뒤에는 이산 코사인 변환⁠(discrete cosine transform)⁠을 쓰는 JPEG와 MP3 같은 압축까지, 신호를 진동수로 나누는 모든 곳에 FFT가 들어갔습니다. 그런데 1984년 연구자들은 가우스가 1805년 무렵 소행성의 궤도⁠(orbit)⁠를 계산하면서 거의 같은 방법을 썼다는 것을 발표되지 않은 원고에서 찾아냈습니다. 그 사이에도 몇몇 사람이 비슷한 계산법을 냈지만 널리 쓰이지 않았습니다. 좋은 계산법도 그것이 필요한 문제와 그것을 돌릴 컴퓨터를 만나야 세상을 바꾼다는 것을 보여 주는 이야기입니다(표현 바꾸기).

그는 신호의 스펙트럼을 실제 자료에서 믿을 만하게 추정하는 문제에도 오래 매달렸습니다. 1958년 랠프 블랙먼과 함께 낸 파워 스펙트럼⁠(power spectrum)⁠ 측정법은 위너의 이론을 유한한 길이의 잡음 섞인 자료에 맞게 다듬은 것이었고, 여기서 신호의 양 끝을 부드럽게 줄여 주는 창 함수⁠(window function)⁠에 동료 리처드 해밍의 이름을 붙인 '해밍 창⁠(Hamming window)⁠'이 나왔습니다. 1963년에는 동료들과 함께, 스펙트럼의 로그를 다시 푸리에 변환하면 메아리의 시간 간격이 봉우리로 드러난다는 것을 보이고 이것을 스펙트럼(spectrum)의 글자를 뒤섞어 '켑스트럼(cepstrum)'이라 불렀습니다. 장난 같은 이름이었지만 이 방법은 뒤에 음성 인식에서 목소리의 특징을 뽑는 표준 도구가 되었습니다. 낱말을 짓는 재주는 그의 특기여서, 표본을 하나씩 빼 가며 추정량의 흔들림을 재는 방법(영국의 통계학자 모리스 크누유가 1949년 처음 내놓은 것)에도 어디에나 쓰는 주머니칼이라는 뜻의 '잭나이프⁠(jackknife)⁠'라는 이름을 붙였습니다.

그의 가장 큰 도전은 통계학 자체를 향한 것이었습니다. 1962년 논문 「자료 분석의 미래」에서 그는, 확률 모형을 먼저 정하고 그 위에서 최적의 추론을 증명하는 수리 통계학만으로는 부족하며, 자료를 들여다보고 무엇을 물어야 할지 찾아내는 '자료 분석'이 독립⁠(independence)⁠된 과학이어야 한다고 주장했습니다. 이 논문에는 '틀린 질문에 대한 정확한 답보다, 옳은 질문에 대한 근사적인 답이 훨씬 낫다. 옳은 질문은 흔히 모호하다'는 그의 가장 유명한 문장이 있습니다(근사와 오차). 1977년의 『탐색적 자료 분석』은 이 생각을 연필과 종이로 할 수 있는 도구로 만들었습니다. 대표가 상자 그림입니다. 자료를 크기순으로 늘어놓고, 가운데 값인 중앙값⁠(median)⁠에 선을 긋고, 아래 4분의 1 지점과 위 4분의 1 지점 사이를 상자로 그립니다. 상자 밖으로는 상자 길이의 1.5배 안에 드는 가장 먼 값까지 수염을 긋고, 그보다 멀리 떨어진 값은 점으로 하나하나 찍어 눈에 띄게 합니다. 평균과 분산⁠(variance)⁠ 두 수 대신, 자료의 가운데와 퍼짐과 치우침과 튀는 값을 한눈에 보여 주는 그림입니다.

그는 자료를 여러 번 들여다보는 일의 위험도 정확히 알았습니다. 열 개의 집단을 두 개씩 비교하면 45쌍이 나옵니다. 각 비교에서 우연히 차이가 있다고 잘못 판단할 확률을 5%로 정해도, 만약 비교들이 서로 독립이라면 45번 가운데 적어도 한 번 잘못 판단할 확률은 $1 - 0.95^{45} \approx 0.9$에 이릅니다. 1953년 그는 모든 쌍을 한꺼번에 비교하면서 전체의 오류 확률을 5%로 묶는 방법을 내놓았고, 이것은 지금도 '튜키의 HSD(정직하게 유의한 차이)'라는 이름으로 통계학 교과서에 실려 있습니다. 그는 공적인 일도 많이 했습니다. 1950년대 초 킨제이 보고서의 통계 방법을 검토했고, 1960년부터 1980년까지 NBC 방송의 선거 개표 방송에서 이른 개표 결과로 승자를 예측하는 팀을 이끌었으며, 1965년에는 대통령 과학 자문 위원회의 환경 오염 패널을 이끌어 이산화탄소 증가가 기후를 바꿀 수 있다는 경고가 담긴 보고서를 냈습니다.

1965년 그는 프린스턴 통계학과를 세워 첫 학과장이 되었고, 1973년 국가 과학 훈장을 받았으며, 1985년 은퇴한 뒤 2000년 세상을 떠났습니다. 오늘날 '데이터 과학'이라 불리는 분야의 사람들은 흔히 그의 1962년 논문을 출발점으로 꼽습니다. 상자 그림은 거의 모든 통계 프로그램에 들어 있고, 비트와 소프트웨어는 일상어가 되었습니다. 2000년 한 과학 잡지가 뽑은 '20세기의 10대 알고리즘⁠(algorithm)⁠'에는 FFT가 댄치그의 단체법⁠(simplex method)⁠과 함께 올랐습니다. 모형보다 자료를 먼저 보라는 그의 태도는 거대한 자료에서 패턴을 찾는 기계 학습⁠(machine learning)⁠의 시대에 더욱 자주 인용됩니다.

이어지는 곳. FFT가 빠르게 하는 계산은 푸리에 급수와 이산 코사인 변환이고, 그 속도⁠(velocity)⁠의 비결은 분할 정복과 1의 거듭제곱근의 대칭입니다. 상자 그림의 뼈대는 중앙값이고, 자료를 먼저 보라는 태도는 통계학에서 이어집니다. 비트를 쓴 이론은 섀넌의 엔트로피⁠(entropy)⁠이며, 그가 40년 동안 드나든 곳은 벨 연구소입니다.

관계.

• 함께 연구 클로드 섀넌 — 벨 연구소의 동료로, 섀넌은 1948년 논문에서 이진 숫자를 '비트'라 부르자는 말이 튜키의 제안이라고 밝혔습니다.
• 함께 연구 리처드 해밍 — 벨 연구소에서 오래 함께 일했고, 튜키는 블랙먼과 쓴 스펙트럼 추정 연구에서 해밍이 제안한 창 함수를 '해밍 창'이라 불렀습니다.

연표.

• 1936년 브라운 대학에서 화학을 공부하고 졸업하다
• 1939년 프린스턴에서 위상수학으로 박사 학위를 받고 강사가 되다
• 1941년 사격 통제 연구실에서 전시 연구를 하며 통계학으로 돌아서다
• 1945년 벨 연구소와 프린스턴을 겸임하기 시작하다
• 1947년 '비트'라는 낱말을 짓다
• 1958년 블랙먼과 함께 파워 스펙트럼 추정법을 발표하다
• 1962년 「자료 분석의 미래」를 발표하다
• 1965년 쿨리와 고속 푸리에 변환을 발표하고 프린스턴 통계학과의 첫 학과장이 되다
• 1973년 국가 과학 훈장을 받다
• 1977년 『탐색적 자료 분석』을 펴내다
• 1985년 프린스턴과 벨 연구소에서 은퇴하다