수학 개념 지도
정보 이론

맥스웰의 악마와 란다우어 원리(Maxwell's demon and Landauer's principle)

분자를 보고 문을 여닫는 악마가 열역학 제2법칙⁠(second law of thermodynamics)⁠을 깨는 듯한 사고 실험⁠(thought experiment)⁠. 측정 자체는 원리적으로 비용 없이 할 수 있지만, 악마의 기억을 지우는 데 무작위 비트 하나마다 kT ln 2 이상의 열이 들어서 법칙이 지켜진다.

Q지우기≥kBTln⁡2  (비트당)  ≈  2.9×10−21 J    (T=300 K)Q_{\text{지우기}} \ge k_B T \ln 2 \;\text{(비트당)} \;\approx\; 2.9 \times 10^{-21}\,\text{J} \;\;(T = 300\,\text{K})
먼저 보면 좋은 개념정보 엔트로피확률

1867년 제임스 클러크 맥스웰은 스코틀랜드 물리학자 피터 거스리 테이트에게 보낸 편지에서, 그리고 1871년 책 『열 이론』에서 한 가지 사고 실험을 내놓았습니다. 기체가 든 그릇을 칸막이로 둘로 나누고 칸막이에 작은 문을 냅니다. 분자 하나하나를 볼 수 있는 작은 존재가 문을 지키며, 빠른 분자가 왼쪽에서 다가오면 오른쪽으로 들여보내고 느린 분자가 오른쪽에서 다가오면 왼쪽으로 들여보냅니다. 그러면 일을 전혀 하지 않고도 오른쪽은 뜨거워지고 왼쪽은 차가워집니다. 열은 저절로 뜨거운 쪽에서 차가운 쪽으로만 흐른다는 열역학 제2법칙이 깨지는 것처럼 보입니다. 이 존재에 '악마'라는 이름을 붙인 사람은 1874년의 윌리엄 톰슨(켈빈 경)입니다. 맥스웰 자신이 하려던 말은 제2법칙이 수많은 분자에 대한 통계적인 법칙이라는 것이었습니다.

아래 상자에는 서로 부딪치지 않는 기체 분자 100개가 들어 있습니다. 속도⁠(velocity)⁠의 각 성분은 정규분포⁠(normal distribution)⁠를 따르고(맥스웰과 오스트리아 물리학자 루트비히 볼츠만의 이름을 딴 맥스웰–볼츠만 분포⁠(Maxwell–Boltzmann distribution)⁠), 운동 에너지⁠(kinetic energy)⁠가 평균⁠(mean)⁠보다 큰 분자는 빨강, 작은 분자는 파랑입니다. 악마도 이 기준으로 빠르고 느림을 가립니다. 문: . 재생 / 멈춤 1000걸음 건너뛰기 처음으로

온도를 300 K(절대 온도⁠(absolute temperature)⁠ 300켈빈, 약 27°C)에서 출발시켰다고 치고, 각 칸의 온도는 그 칸 분자들의 평균 운동 에너지로 잽니다. 두 칸의 에너지를 합친 것은 처음과 같으니 악마는 에너지를 만들지 않고 나누기만 합니다. 문을 그냥 열어 두면 두 칸의 온도는 300 K 둘레에서 출렁일 뿐 벌어지지 않습니다. 이 출렁임은 분자가 100개뿐이라 눈에 보이는 것입니다. 출렁임의 상대적인 크기는 분자 수 N에 대해 1/N1/\sqrt N 정도로 줄어서(큰 수의 법칙⁠, law of large numbers⁠), 분자가 102310^{23}개쯤 되면 온도계로는 볼 수 없을 만큼 작아집니다. 분자 하나하나는 무작위 행보⁠(random walk)⁠처럼 오가지만, 전체로는 엔트로피⁠(entropy)⁠가 큰 쪽, 곧 고르게 섞인 쪽이 압도적으로 흔합니다(최대 엔트로피 원리⁠, principle of maximum entropy⁠).

1929년 헝가리 태생 물리학자 레오 실라르드는 악마를 가장 단순하게 줄였습니다. 분자 하나가 든 상자 가운데에 칸막이를 넣고, 분자가 어느 쪽에 있는지 봅니다. 답은 1비트입니다. 분자가 있는 쪽의 칸막이를 피스톤 삼아 온도 T의 열원(온도가 늘 T로 유지되는 큰 열 저장소)에 닿은 채 천천히 밀려나게 하면, 분자가 부피 V/2에서 V로 퍼지는 동안 W=∫V/2VkBTV′ dV′=kBTln⁡2W = \int_{V/2}^{V} \frac{k_B T}{V'}\,dV' = k_B T \ln 2의 일을 얻습니다(kBk_B는 볼츠만 상수⁠(Boltzmann constant)⁠, ln은 자연로그). 1비트의 정보가 kBTln⁡2k_B T \ln 2의 일로 바뀐 것입니다. 이 과정을 되풀이하면 열원 하나에서 끝없이 일을 뽑아내는 기관이 되니, 실라르드는 어딘가에서 적어도 그만큼의 엔트로피가 생겨야 한다고 보았고, 그 자리를 측정에서 찾았습니다. 1951년 프랑스 태생 물리학자 레옹 브릴루앙도 분자를 보려면 빛을 쏘아야 하고 그 빛이 엔트로피를 만든다고 논증했습니다.

답은 다른 곳에 있었습니다. 1961년 IBM의 물리학자 롤프 란다우어는 논리적으로 되돌릴 수 없는 연산, 곧 출력만 보고는 입력을 되찾을 수 없는 연산이 반드시 열을 낸다고 논증했습니다. 0이든 1이든 모두 0으로 만드는 '지우기'는 가능한 두 상태를 하나로 합칩니다. 0과 1이 반반인 비트를 지우면 기억 장치의 엔트로피가 kBln⁡2k_B \ln 2만큼 줄고, 제2법칙을 지키려면 주변의 엔트로피가 적어도 그만큼 늘어야 하니, 온도 T의 주변으로 열이 적어도 kBTln⁡2k_B T \ln 2만큼 나가야 합니다. 두 입력을 한 출력으로 합치는 AND 게이트(불 대수⁠, Boolean algebra⁠)도 입력의 정보를 버리므로, 같은 까닭으로 최소한의 열을 피할 수 없습니다. 1982년 같은 IBM의 찰스 베넷은 측정 자체는 원리적으로 되돌릴 수 있게 할 수 있음을 보이고 이야기를 마무리했습니다. 악마는 본 것을 비어 있는 기억에 베껴 두기만 하면 되지만, 기억이 가득 차면 되풀이하기 위해 지워야 하고, 바로 그 지우기가 얻은 일을 적어도 모두 되갚습니다. 위 상자에서도 악마가 적은 비트는 온도 차가 더 벌어지지 않은 뒤에도 계속 쌓입니다.

이 비용은 얼마나 클까요? 온도 에서 오늘날의 컴퓨터 칩은 비트 연산⁠(bitwise operation)⁠ 하나에 이보다 적어도 수천 배 많은 에너지를 쓰므로, 이 한계는 아직 멀리 있습니다. 2012년 프랑스 리옹 고등사범학교의 앙투안 베뤼와 동료들은 레이저로 골짜기가 둘인 에너지 지형(두 우물 퍼텐셜⁠, double-well potential⁠)을 만들고, 거기에 마이크로미터 크기의 실리카 구슬 하나를 가두었습니다. 구슬이 어느 골짜기에 있느냐가 0과 1입니다. 그리고 구슬이 어느 우물에 있든 한쪽 우물로 몰아넣는 방식으로 1비트를 지웠습니다. 지우기를 천천히 할수록 나온 열의 평균이 란다우어 한계 kBTln⁡2k_B T \ln 2에 다가가는 것을 측정해 『네이처』에 발표했습니다. 되돌릴 수 있는 계산만 쓰면 원리적으로는 지우기 없이 계산할 수 있다는 것도 베넷이 1973년에 튜링 기계⁠(Turing machine)⁠로 보였습니다.

이어지는 곳. 미시 상태들의 확률분포⁠(probability distribution)⁠ 하나에 대해 정의한 열역학의 엔트로피(깁스 엔트로피)와 섀넌의 정보 엔트로피(비트 단위)는 kBln⁡2k_B \ln 2라는 환산 계수만 다릅니다. 악마의 기록이 치우쳐 있으면 지우기 전에 압축해서(산술 부호화⁠, arithmetic coding⁠) 비용을 엔트로피만큼으로 줄일 수 있고, 기록 하나의 궁극적인 크기는 콜모고로프 복잡도⁠(Kolmogorov complexity)⁠입니다. 실라르드 기관⁠(Szilard engine)⁠의 1비트는 일반화할 수 있습니다. 측정으로 얻는 일의 상한⁠(upper bound)⁠은 악마의 기록과 분자의 상태 사이의 상호 정보량(비트 단위)에 kBTln⁡2k_B T \ln 2를 곱한 것입니다(2008년 사가와 다카히로와 우에다 마사히토). 측정이 흐릿해 상호 정보량⁠(mutual information)⁠이 1비트보다 작으면 얻는 일도 그만큼 줄어듭니다. 온도 T에서 에너지가 E인 상태의 확률⁠(probability)⁠이 e−E/kBTe^{-E/k_B T}에 비례한다는 볼츠만 분포⁠(Boltzmann distribution)⁠는 평균 에너지가 정해졌을 때 엔트로피가 가장 큰 분포이고, 속도의 정규분포가 바로 그 특별한 경우입니다.

이 개념이 나오는 긴 글

통신과 잡음 잡음 너머로 대서양 바닥의 케이블은 왜 신호를 뭉갰을까? 잡음이 있어도 오류 없이 보낼 수 있다는 섀넌의 정리와, 그 한계를 50년 동안 쫓은 부호들.

이 개념을 언급하는 페이지

이 페이지가 가리키는 개념