해리 나이퀴스트(Harry Nyquist)

해리 나이퀴스트는 1889년 스웨덴 베름란드 지방의 시골 마을에서 태어나, 열여덟 살이던 1907년 미국으로 이민했습니다. 노스다코타 대학에서 전기 공학을 공부하고 1917년 예일 대학에서 물리학 박사 학위를 받은 뒤 AT&T에 들어갔고, 1934년부터는 벨 연구소에서 은퇴할 때까지 일했습니다. 그가 일을 시작할 무렵 미국의 전화망은 대륙을 가로지르고 있었고, 전화 회사의 과제는 분명했습니다. 같은 전선으로 전신 부호를 얼마나 빨리 보낼 수 있는가, 신호를 키우면 잡음도 함께 커지는데 잡음은 어디서 오는가, 증폭기를 되먹임으로 이으면 왜 이따금 저절로 울어 대는가. 나이퀴스트는 이 세 물음 모두에 오래 남을 답을 주었습니다.

나이 세 ·

그가 들어간 AT&T는 1913년 반독점 소송을 피하는 대신 독립⁠(independence)⁠ 전화 회사들이 장거리망에 접속하도록 허용하기로 연방 정부와 타협했고, 그 뒤 정부의 규제를 받는 사실상의 독점 기업으로 자랐습니다. 1915년 1월 뉴욕과 샌프란시스코를 잇는 대륙 횡단 전화선이 개통되었는데, 수천 킬로미터를 지나며 약해지는 목소리를 되살린 것은 막 실용화된 진공관 증폭기였습니다. 전선으로 신호를 얼마나 빨리 보낼 수 있느냐는 물음은 그보다 훨씬 오래되었습니다. 1850년대 대서양 해저 케이블을 놓을 때 윌리엄 톰슨은 긴 케이블 속에서 신호가 번지는 방식을 계산했고, 느린 전보 속도⁠(velocity)⁠는 전신의 시대 내내 사업의 골칫거리였습니다. 나이퀴스트는 AT&T의 개발 연구 부서에서 이 오랜 물음을 다시 물었고, 1925년 AT&T와 웨스턴 일렉트릭의 연구 부서를 모아 벨 연구소가 생기자 1934년 그곳으로 옮겼습니다.

첫째는 속도입니다. 1924년 「전신 속도에 영향을 주는 몇 가지 요인」과 1928년 「전신 전송 이론의 몇 가지 주제」에서 그는, 대역폭(통로가 실어 나르는 진동수⁠(frequency)⁠의 폭)이 B헤르츠인 통로로는 1초에 서로 뒤섞이지 않고 구별되는 펄스를 2B개까지만 보낼 수 있음을 보였습니다. 신호를 사인파⁠(sinusoid)⁠들의 합으로 쪼개어 보면(푸리에 급수⁠, Fourier series⁠), 진동수가 B보다 높은 성분이 없는 신호는 1초에 2B번보다 잦게 '마음대로' 바뀔 수 없다는 뜻입니다. 그보다 빨리 보내면 펄스들이 서로를 덮습니다. 이것을 거꾸로 읽은 것이 표본화 정리⁠(sampling theorem)⁠입니다. B헤르츠보다 높은 성분이 없는 신호는 1초에 2B번 잰 값으로 완전히 정해집니다. 나이퀴스트 자신은 이 정리를 이런 꼴로 적지 않았지만, 뒤의 사람들은 이 경계에 '나이퀴스트 율⁠(Nyquist rate)⁠', 표본화 진동수의 절반에 '나이퀴스트 주파수⁠(Nyquist frequency)⁠'라는 이름을 붙였습니다.

표본화 정리의 역사는 여러 나라에 흩어져 있습니다. 영국의 수학자 에드먼드 휘터커는 1915년 보간 공식⁠(interpolation formula)⁠의 형태로, 소련의 블라디미르 코텔니코프는 1933년 통신 공학의 정리로 같은 결과에 이르렀습니다. 1949년 섀넌은 표본⁠(sample)⁠ 사이의 간격 $1/(2B)$를 '나이퀴스트 간격'이라 부르며 정리를 널리 알렸고, 그래서 영어권에서는 흔히 나이퀴스트–섀넌 표본화 정리, 러시아에서는 코텔니코프의 정리라 부릅니다.

같은 1928년 동료 랠프 하틀리는 펄스마다 M가지 높이를 고를 수 있다면 1초에 $2B\log_2 M$비트를 보낼 수 있다고 셈했습니다. 그렇다면 M을 한없이 늘리면 되지 않을까요? 그것을 막는 것이 잡음이고, 그 잡음의 정체를 밝힌 것이 나이퀴스트의 둘째 업적입니다. 벨 연구소의 물리학자 존 B. 존슨은 아무것도 연결하지 않은 저항기에서도 온도에 따라 세지는 요동 전압이 나온다는 것을 측정했고, 나이퀴스트는 같은 해 그 이론을 세웠습니다. 같은 온도의 두 저항기를 전송선으로 이어 두면 어느 쪽도 에너지를 한쪽으로 몰아 보낼 수 없다는 열역학의 논증에서, 요동 전압의 제곱 평균⁠(mean)⁠이 $4k_BTRB$, 곧 절대 온도⁠(absolute temperature)⁠ T, 저항 R, 대역폭 B에 비례한다는 식을 이끌어 냈습니다($k_B$는 온도를 에너지로 바꾸는 볼츠만 상수⁠(Boltzmann constant)⁠). 저항기가 무엇으로 만들어졌는지와는 상관이 없습니다. 이 식은 진동수가 아주 높지 않은 보통의 전자 회로에서 맞고, 상온에서도 수조 헤르츠를 넘는 진동수에서는 양자 효과로 잡음이 줄어든다는 보정을 나이퀴스트 자신이 논문에 적어 두었습니다.

이 열잡음은 수많은 전자의 작은 떨림이 더해진 것이라 중심극한정리⁠(central limit theorem)⁠에 따라 정규분포⁠(normal distribution)⁠를 따르고, 온도가 절대 영도⁠(absolute zero)⁠가 아닌 한 피할 수 없습니다. 대역폭을 넓히면 더 많은 펄스를 보낼 수 있지만 잡음도 대역폭에 비례해 늘어납니다. 20년 뒤 섀넌은 나이퀴스트의 2B, 하틀리의 로그, 그리고 이 정규분포 잡음을 한데 묶어 섀넌–하틀리 정리⁠(Shannon–Hartley theorem)⁠ $C = B\log_2(1 + S/N)$를 얻었습니다. 공식의 N에 들어가는 가장 기본적인, 어떤 회로도 피할 수 없는 잡음이 바로 나이퀴스트가 계산한 열잡음입니다.

셋째는 안정성입니다. 1927년 동료 기술자 해럴드 블랙은 증폭기의 출력 일부를 뒤집어 입력으로 되돌리는 음의 되먹임⁠(negative feedback)⁠으로 장거리 전화 증폭기의 왜곡을 크게 줄였지만, 되먹임 증폭기는 조건에 따라 스스로 진동하며 울기 시작했습니다. 1932년 나이퀴스트는 신호가 증폭기와 되먹임 고리를 한 바퀴 돌 때 몇 배로 커지고 얼마나 늦어지는지를 복소수⁠(complex number)⁠ 하나로 적고, 진동수를 바꾸어 가며 그 복소수가 복소평면⁠(complex plane)⁠에 그리는 곡선을 보자고 했습니다. 되먹임을 걸기 전의 증폭기가 안정하다면, 이 곡선이 점 −1을 감싸 돌 때 회로는 불안정하고 감싸지 않으면 안정합니다. 곡선이 한 점을 몇 번 감싸는지가 함수⁠(function)⁠의 영점과 극⁠(zeros and poles)⁠의 개수 차를 알려 준다는 편각 원리⁠(argument principle)⁠를 공학의 도구로 바꾼 것입니다. 곡선 위의 점을 크기와 각도로 읽는 극형식⁠(polar form)⁠이 그대로 증폭률과 위상⁠(phase)⁠ 지연이 됩니다.

되먹임의 이야기는 전화에서 시작해 훨씬 멀리 갔습니다. 블랙의 회고로는 1927년 8월 출근길 허드슨강 나룻배 위에서 떠올린 이 착상은 너무 상식에 어긋나 보여서 특허청이 영구 기관을 대하듯 의심했고, 특허를 받기까지 9년 넘게 걸렸습니다. 나이퀴스트의 판정법은 그런 증폭기를 안전하게 설계할 길을 열었고, 동료 헨드릭 보드는 1940년대에 이것을 증폭률과 위상을 진동수에 따라 그리는 보드 선도⁠(Bode plot)⁠로 넓혔습니다. 2차 세계대전 중 레이더와 대공포를 자동으로 움직이는 서보 기구⁠(servomechanism)⁠를 설계하던 공학자들이 이 도구를 가져가면서, 전화 증폭기의 판정법은 자동 제어 이론⁠(control theory)⁠의 기초⁠(basics)⁠가 되었습니다. 1948년 노버트 위너의 『사이버네틱스⁠(cybernetics)⁠』가 되먹임을 생물과 기계를 잇는 열쇠로 내세운 것도 이 흐름 위에 있습니다.

이 '나이퀴스트 판정법⁠(Nyquist stability criterion)⁠'은 지금도 자동 제어 교과서의 한가운데에 있습니다. 그는 평생 특허를 130건 넘게 받았고, 1924년 AT&T가 선보인 전송 사진, 곧 사진을 전선으로 보내는 체계의 개발에도 참여했습니다. 벨 연구소에서 특허를 유난히 많이 내는 기술자들을 살펴보니 나이퀴스트와 자주 식사하는 사람들이었다는 이야기가 전하는데, 사실인지 확인하기는 어렵지만 동료들이 그를 어떻게 기억했는지를 보여 줍니다. 1954년 벨 연구소에서 은퇴했고, 1960년 무선 공학자 협회(IRE)의 명예 메달을 받았으며, 1976년 텍사스주 할린전에서 세상을 떠났습니다. 속도의 한계, 잡음의 이론, 되먹임의 안정성⁠(stability)⁠이라는 세 갈래 모두에 그의 이름이 붙어 있습니다.

이어지는 곳. 사인파로 쪼개는 생각은 푸리에에게서 왔고, 편각 원리는 코시의 복소해석에서 왔습니다. 표본화 진동수가 모자랄 때 높은 진동수가 낮은 진동수로 접혀 들어오는 에일리어싱⁠(aliasing)⁠과 표본을 잇는 보간 공식은 표본화 정리에, 잡음 속에서 보낼 수 있는 최대 속도는 통로 용량⁠(channel capacity)⁠에 있습니다. 같은 연구소의 해밍은 잡음이 뒤집은 비트를 고치는 부호를 만들었고, 표본화한 신호를 코사인⁠(cosine)⁠ 성분으로 바꿔 줄이는 것이 이산 코사인 변환⁠(discrete cosine transform)⁠입니다. 한 바퀴의 회전⁠(rotation)⁠을 복소수의 곱으로 적는 방법은 오일러 공식⁠(Euler's formula)⁠이고, 신호를 시간이 아니라 진동수로 다시 적어 문제를 쉽게 만드는 생각의 여러 모습은 표현 바꾸기에 모았습니다.

관계.

• 영향을 받음 조제프 푸리에 — 전신 신호를 사인파의 합으로 쪼개어 보는 푸리에의 방법이, 대역폭 B인 통로로는 1초에 2B개의 펄스만 보낼 수 있다는 나이퀴스트의 논증의 바탕입니다.
• 영향을 받음 오귀스탱루이 코시 — 되먹임 증폭기의 안정 판정법은, 곡선이 한 점을 감싸 도는 횟수로 영점과 극의 개수 차를 세는 코시 복소해석의 편각 원리를 공학의 도구로 바꾼 것입니다.

연표.

• 1907년 스웨덴에서 미국으로 이민하다
• 1914년 노스다코타 대학에서 전기 공학을 공부하고 졸업하다
• 1917년 예일 대학에서 물리학 박사 학위를 받고 AT&T에 들어가다
• 1924년 「전신 속도에 영향을 주는 몇 가지 요인」을 발표하다
• 1928년 펄스 2B개의 한계와 열잡음의 이론을 내놓다
• 1932년 되먹임 증폭기의 안정 판정법을 발표하다
• 1934년 벨 연구소로 옮기다
• 1954년 벨 연구소에서 은퇴하다
• 1960년 무선 공학자 협회(IRE)의 명예 메달을 받다