리처드 해밍(Richard Hamming)

리처드 해밍은 1915년 시카고에서 태어나 시카고 대학과 네브래스카 대학에서 수학을 공부하고, 1942년 일리노이 대학에서 미분방정식⁠(differential equation)⁠에 관한 논문으로 박사 학위를 받았습니다. 1945년 로스앨러모스의 원자폭탄 계획에 합류해 계산 기계로 방정식을 푸는 일을 맡았고, 전쟁이 끝난 이듬해 뉴저지주 머리힐의 벨 연구소로 옮겨 30년 가까이 섀넌 같은 동료들과 한 복도를 썼습니다. 당시의 계산기는 전화 교환기에 쓰던 계전기⁠(relay)⁠로 돌아갔고, 접점 하나만 잘못 붙어도 계산 전체가 틀렸습니다. 기계의 오류를 어떻게 다룰 것인가가 그 시대 계산의 가장 현실적인 문제였습니다.

나이 세 ·

로스앨러모스로 가기 전 그는 루이빌 대학에서 1년쯤 가르쳤습니다. 1945년 4월 뉴멕시코 사막의 비밀 도시에 도착한 그가 맡은 일은 천공 카드⁠(punched card)⁠로 돌아가는 IBM 계산기로 폭탄 설계의 방정식을 푸는 것이었고, 아내 원다도 그곳에서 계산을 맡아 일했습니다. 물리학자들은 실험할 수 없는 일을 계산으로 대신했고, 계산이 틀리면 대가가 컸습니다. 해밍은 뒤에 이곳에서 물리학자 엔리코 페르미, 로버트 오펜하이머, 한스 베테, 리처드 파인먼 같은 사람들을 가까이서 지켜보며 무엇이 위대한 연구자를 다른 사람과 다르게 만드는지 궁금해지기 시작했다고 회고했습니다. 이 물음은 40년 뒤 그의 가장 유명한 강연이 됩니다.

그가 옮겨 간 벨 연구소는 미국의 전화를 사실상 독점하던 AT&T가 1925년 세운 연구소였습니다. 정부의 규제를 받는 독점 기업이었기에 전화 요금에서 나오는 안정된 돈으로 당장 쓸모가 보이지 않는 연구에도 투자할 수 있었고, 수학자와 물리학자와 공학자가 한 건물의 긴 복도를 오갔습니다. 해밍이 온 이듬해인 1947년 이곳에서 작은 전류로 큰 전류를 켜고 끄는 반도체 소자인 트랜지스터⁠(transistor)⁠가 발명되었습니다. 그는 수학 연구부에서 한동안 섀넌과 한 사무실을 썼고, 통계학자 존 튜키와도 가까이 일했습니다. 해밍은 사무실 문을 열어 두는 사람이 당장은 방해를 받아도 결국 더 중요한 문제를 만난다고 믿었고, 금요일 점심 뒤에는 '큰 생각⁠(big ideas)⁠'만 하기로 정해 두었다고 회고했습니다.

그가 여러 번 회고한 바로는, 1947년 무렵 그가 쓰던 벨 연구소의 계전기 계산기는 주말에 지키는 사람이 없어서 오류를 찾아내면 그 작업을 버리고 다음 작업으로 넘어가 버렸고, 월요일에 와 보면 계산이 날아가 있기 일쑤였습니다. 오류가 있다는 것을 알아낼 수 있다면 어디가 틀렸는지도 알아내 고칠 수 있지 않을까? 답은 1950년 『벨 시스템 기술 저널』에 실렸습니다. 일곱 자리에 1부터 7까지 번호를 매기고, 번호가 2의 거듭제곱인 1, 2, 4번 자리에 검사 비트를 둡니다. 번호를 이진법⁠(binary)⁠으로 적었을 때 1번 검사 비트는 끝자리가 1인 자리들(1, 3, 5, 7), 2번은 둘째 자리가 1인 자리들(2, 3, 6, 7), 4번은 셋째 자리가 1인 자리들(4, 5, 6, 7)의 1의 개수가 짝수가 되도록 맞춥니다(2로 나눈 나머지⁠(remainder)⁠). 어느 한 비트가 뒤집히면, 어긋난 검사들의 번호를 더한 값, 곧 어긋난 검사들을 이진수로 읽은 값이 틀린 자리의 번호입니다. 이를테면 5번 비트가 뒤집히면 5번 자리를 포함하는 1번과 4번 검사만 어긋나고, 1 + 4 = 5입니다. 데이터 4비트에 검사 3비트, 같은 비트를 세 번 보내는 대신 1.75배만 보내고도 오류 하나를 고칩니다.

이 부호 밑에는 새로운 거리가 있었습니다. 길이가 같은 두 비트열에서 서로 다른 자리의 개수, 해밍 거리입니다. 이를테면 1011과 1001의 해밍 거리는 1이고, 1011과 0100은 4입니다. 이 거리는 거리 함수⁠(metric)⁠의 세 규칙을 모두 지킵니다. 그 가운데 하나인 삼각부등식⁠(triangle inequality)⁠은 A에서 C까지의 거리가 A에서 B를 거쳐 C로 가는 거리보다 길 수 없다는 규칙입니다. 부호어끼리의 최소 거리가 d이면 $\lfloor (d-1)/2 \rfloor$개까지의 오류를 언제나 고칠 수 있습니다. 오류가 t개이고 2t가 d보다 작다면 받은 말은 보낸 부호어에서 거리 t 안에 있고, 삼각부등식에 따라 다른 모든 부호어에서는 d − t 이상, 곧 t보다 더 멀리 떨어져 있으니, 가장 가까운 부호어가 곧 보낸 부호어이기 때문입니다. 받은 말을 가장 가까운 부호어로 읽는 것은 비트열의 공간에 보로노이 다이어그램⁠(Voronoi diagram)⁠을 그리는 일입니다. 해밍 (7,4) 부호의 최소 거리는 3이고, 부호어 16개가 저마다 거리 1 이내의 말 8개(자기 자신과 한 비트씩 바꾼 7개)를 차지하면 $16 \times 8 = 2^7$, 곧 일곱 비트로 만들 수 있는 말 전체를 빈틈없이 나눠 가집니다. 이런 '완전 부호⁠(perfect code)⁠'는 드뭅니다. 같은 셈을 일반화하면, 부호어마다 반지름 t인 공이 겹치지 않아야 하니 부호어의 개수에 상한⁠(upper bound)⁠이 생기는데, 이것을 해밍 한계라 부릅니다.

벨 연구소가 특허를 먼저 출원하느라 해밍의 논문은 1950년 4월에야 나왔고, 그사이 섀넌은 1948년 「통신의 수학적 이론」에 동료의 이 부호를 예로 실었습니다. 그 예를 읽은 스위스 출신 물리학자 마르셀 골레이는 1949년 23비트 가운데 오류 셋을 고치는 또 다른 완전 부호를 내놓았습니다. 섀넌의 통로 부호화 정리⁠(noisy-channel coding theorem)⁠가 좋은 부호가 있다고 말했다면, 해밍은 골레이와 함께 실제로 쓸 수 있는 오류 정정 부호⁠(error-correcting code)⁠를 처음 만든 사람들 가운데 하나입니다. 이 생각은 1969년 화성 곁을 지난 매리너 탐사선의 부호, CD와 QR 코드의 리드–솔로몬 부호⁠(Reed–Solomon code)⁠, 곧 데이터를 다항식⁠(polynomial)⁠의 계수로 보고 그 다항식의 값을 여러 점에서 더 보내 여러 글자의 오류까지 고치는 부호로 이어졌습니다.

해밍 부호 자체도 지금 컴퓨터 안에서 일합니다. 서버의 기억 장치는 64비트 데이터마다 검사 비트 8개를 붙여, 한 비트가 틀리면 고치고 두 비트가 틀리면 알아차리는 확장 해밍 부호를 흔히 씁니다. 우주에서 날아오는 방사선이나 전기적 잡음이 기억 장치의 비트를 이따금 뒤집기 때문입니다. 주말마다 계산을 날려 먹던 계전기의 문제가 70년 뒤의 반도체 속에서 같은 모양으로 되풀이되는 셈입니다.

해밍은 스스로를 무엇보다 계산하는 사람으로 여겼습니다. 1962년에 낸 수치 해석 교과서 『과학자와 공학자를 위한 수치 방법』의 첫머리에는 "계산의 목적은 통찰이지 숫자가 아니다"라는 말이 적혀 있고, 이 말은 그의 좌우명처럼 인용됩니다. 신호의 주파수 성분을 어림할 때 자료의 양 끝을 부드럽게 줄여 주는 '해밍 창⁠(Hamming window)⁠'에도 이름을 남겼습니다. 1958년부터 2년 동안 미국 계산기 학회(ACM)의 회장을 지냈고, 1968년 수치 방법, 자동 부호화 체계, 오류 검출과 정정 부호에 대한 업적으로 세 번째 튜링상⁠(Turing Award)⁠ 수상자가 되었습니다.

1976년 벨 연구소를 떠난 그는 캘리포니아주 몬터레이의 해군 대학원에서 가르쳤습니다. 1986년 3월 벨코어에서 한 강연 「당신과 당신의 연구」는 지금도 과학자들 사이에서 널리 읽힙니다. 그는 벨 연구소 식당에서 다른 분야의 과학자들과 점심을 먹으며, 당신 분야에서 가장 중요한 문제가 무엇이냐고, 그리고 왜 그 문제를 연구하지 않느냐고 물었던 일을 들려주었습니다. 중요한 문제에 매달릴 용기, 문을 열어 두는 습관, 결과를 남에게 알리는 일의 중요성이 강연의 요지였습니다. 해군 대학원에서 오래 한 강의는 1997년 『과학과 공학을 하는 기술: 배우는 법을 배우기』로 나왔습니다. 1998년 1월 몬터레이에서 세상을 떠났고, 전기전자공학자협회(IEEE)는 1988년부터 정보 과학과 기술의 뛰어난 업적에 리처드 해밍 메달을 주고 있습니다.

이어지는 곳. 해밍 거리는 길이가 같을 때만 쓸 수 있어서, 글자가 빠지거나 끼어드는 오타에는 편집 거리⁠(edit distance)⁠가 필요합니다. 부호를 얼마나 촘촘하게 보낼 수 있는지의 한계는 통로 용량⁠(channel capacity)⁠과 섀넌–하틀리 정리⁠(Shannon–Hartley theorem)⁠가 정하고, 같은 연구소의 선배 나이퀴스트는 대역폭⁠(bandwidth)⁠이 B헤르츠인 선로로 1초에 보낼 수 있는 펄스가 2B개까지라는 것을 보였습니다. 해밍 메달의 1999년 수상자는 평균⁠(mean)⁠ 길이가 가장 짧은 접두 부호⁠(prefix code)⁠를 찾는 방법을 낸 허프만이었습니다. 여분을 더해 메시지를 지키는 오류 정정과, 여분을 짜내 메시지를 줄이는 허프만 부호⁠(Huffman coding)⁠나 원천 부호화 정리⁠(source coding theorem)⁠는 한 쌍입니다. 수치 해석이 늘 씨름하는 오차의 문제는 근사와 오차에 모았습니다.

관계.

• 함께 연구 클로드 섀넌 — 벨 연구소 수학 연구부에서 한동안 한 사무실을 썼고, 섀넌은 1948년 「통신의 수학적 이론」에 아직 발표되지 않은 해밍의 부호를 예로 실었습니다.

연표.

• 1942년 일리노이 대학에서 미분방정식 연구로 박사 학위를 받다
• 1945년 로스앨러모스의 원자폭탄 계획에서 계산을 맡다
• 1946년 벨 연구소로 옮기다
• 1947년 주말마다 작업을 버리는 계전기 계산기에 부딪히다
• 1950년 오류를 스스로 고치는 부호의 논문을 발표하다
• 1958년 미국 계산기 학회(ACM) 회장이 되다
• 1962년 『과학자와 공학자를 위한 수치 방법』을 펴내다
• 1968년 튜링상을 받다
• 1976년 벨 연구소를 떠나 몬터레이의 해군 대학원에서 가르치다
• 1986년 강연 「당신과 당신의 연구」를 하다
• 1997년 『과학과 공학을 하는 기술』을 펴내다