조사이아 윌러드 깁스(Josiah Willard Gibbs)

조사이아 윌러드 깁스는 1839년 미국 코네티컷주 뉴헤이븐에서, 같은 이름을 가진 예일 대학의 성서 문헌학 교수의 아들로 태어났습니다. 언어학자였던 아버지는 그해 노예선 아미스타드호에서 반란을 일으킨 아프리카인들의 말을 알아낼 통역자를 찾으려고 뉴욕 부두를 돌아다닌 사람으로도 알려져 있습니다. 당시 미국 과학은 유럽에 한참 뒤처져 있었고, 박사 학위를 주는 대학조차 드물었습니다. 물리학에서는 클라우지우스가 1865년 엔트로피⁠(entropy)⁠를 정의하며 열역학의 두 법칙이 섰지만, 그것으로 화학 반응이나 물질의 상태 변화를 어떻게 계산할지는 막막했고, 열이 수많은 분자의 운동이라는 생각은 아직 가설이었습니다. 깁스는 평생 거의 고향을 떠나지 않은 채, 열역학과 화학과 확률⁠(probability)⁠을 하나의 수학으로 엮었습니다.

나이 세 ·

1858년 예일 칼리지를 졸업한 그는 1863년 톱니바퀴의 이 모양을 기하학으로 다룬 논문으로 미국 최초의 공학 박사 학위를 받았습니다. 예일에서 라틴어와 자연철학을 가르치며 철도 브레이크를 개량해 1866년 특허를 얻었고, 그해부터 세 해 동안 파리, 베를린, 하이델베르크에서 유럽 최고의 수학자와 물리학자들의 강의를 들었습니다. 1871년 예일의 수리물리학 교수가 되었지만, 물려받은 재산이 있다는 이유로 아홉 해 동안 봉급을 받지 못했습니다. 1880년 볼티모어의 존스홉킨스 대학이 그를 부르려 하자 예일은 그제야 봉급을 주기⁠(period)⁠ 시작했습니다. 그는 결혼하지 않았고, 평생 태어난 집에서 누이 가족과 함께 살았습니다.

그의 첫 논문들은 1873년 지방 학회인 코네티컷 과학 아카데미의 회보에 실렸습니다. 그는 물질의 상태를 에너지 U를 엔트로피 S와 부피 V의 함수⁠(function)⁠로 보는 곡면으로 그렸습니다. 이 곡면의 한 점에서 S 방향의 기울기⁠(slope)⁠가 온도이고, V 방향의 기울기에 음의 부호를 붙인 것이 압력입니다(미분계수⁠(derivative)⁠). 얼음, 물, 수증기가 함께 있는 상태는 곡면에 한 평면이 여러 점에서 동시에 닿는 자리로 나타납니다. 외딴 학회지의 논문이었지만 영국의 맥스웰이 이것을 알아보았습니다. 맥스웰은 물의 열역학 곡면을 손수 석고로 빚어 한 벌을 깁스에게 보냈고, 자신의 열역학 교과서에 그의 방법을 소개했습니다.

1876년과 1878년 두 부분으로 나온 300쪽이 넘는 논문 「불균일한 물질의 평형에 대하여」는 화학 열역학의 기초⁠(basics)⁠가 되었습니다. 그는 물질마다 '화학 퍼텐셜⁠(chemical potential)⁠'이라는 양을 정의했습니다. 물이 높은 곳에서 낮은 곳으로 흐르듯 물질은 화학 퍼텐셜이 높은 곳에서 낮은 곳으로 옮겨 가고, 모든 곳에서 같아지면 멈춥니다. 여기서 상률⁠(phase rule)⁠이라는 간단한 공식이 나옵니다. 성분이 C가지이고 서로 다른 상태(상)가 P가지 함께 있을 때, 자유롭게 바꿀 수 있는 온도, 압력 같은 조건의 수는 C − P + 2입니다. 순수한 물(C = 1)에서 얼음, 물, 수증기(P = 3)가 함께 있으려면 바꿀 수 있는 조건이 0개이니, 온도와 압력이 딱 한 쌍으로 정해집니다. 이것이 물의 삼중점입니다. 온도와 압력이 일정할 때 반응은 오늘날 깁스 자유 에너지라 부르는 양 G = U − TS + pV가 줄어드는 쪽으로 가고, 가장 작은 곳에서 멈춥니다(최적화⁠(optimization)⁠). 에너지를 엔트로피의 함수로 보던 곡면을 온도와 압력의 함수로 바꿔 보는 이 변환은 르장드르 변환이라 불리며, 같은 정보를 다른 변수로 다시 적는 쌍대성⁠(duality)⁠의 한 예입니다. 이 논문은 독일의 오스트발트가 1892년, 프랑스의 르 샤틀리에가 1899년 번역하고서야 유럽 화학자들에게 널리 읽혔습니다.

강의에서 맥스웰의 전자기 이론을 가르치던 그는 해밀턴의 사원수⁠(quaternion)⁠가 물리학에는 거추장스럽다고 느꼈습니다. 사원수 둘을 곱하면 수 하나와 벡터⁠(vector)⁠ 하나가 섞여 나오는데, 물리학에 필요한 것은 각각 따로였습니다. 그는 이것을 둘로 쪼개 수를 내놓는 내적⁠(dot product)⁠과 벡터를 내놓는 외적을 정의하고, 1881년과 1884년 학생들을 위한 강의 노트 『벡터 해석의 기초』를 사적으로 인쇄해 돌렸습니다(벡터). 영국의 독학자 헤비사이드도 따로 같은 길에 이르렀습니다. 사원수를 지키려던 에든버러의 테이트는 1890년 자기 교과서의 서문에서 그의 체계를 해밀턴과 그라스만의 표기를 뒤섞은 '괴물'이라 불렀습니다. 1891년부터 『네이처』 지면에서 논쟁이 이어졌고, 깁스는 표기법은 물리학이 필요로 하는 것을 따라야 한다고 응수했습니다. 제자 윌슨이 그의 강의를 바탕으로 1901년 펴낸 교과서 『벡터 해석』이 퍼지면서 벡터가 이겼고, 오늘날 물리학과 공학의 기울기, 발산⁠(divergence)⁠, 회전⁠(rotation)⁠은 모두 이 표기로 적힙니다.

1898년 시카고의 물리학자 마이컬슨은 톱니 모양 파형의 푸리에 급수⁠(Fourier series)⁠를 기계로 더해 그려 보다가, 불연속점 근처에서 곡선이 톱니보다 높이 튀어 오르는 것을 보고 『네이처』에 의문을 실었습니다. 깁스는 1898–99년 이 편지에 답하며, 항을 아무리 많이 더해도 이 튀어 오름은 사라지지 않고 뛰는 높이의 약 9%로 남는다는 것을 설명했습니다. 튀어 오르는 폭은 불연속점 쪽으로 점점 좁아지지만 높이는 줄지 않는 것입니다. 점마다 보면 수렴⁠(convergence)⁠하지만 모든 점에서 한꺼번에 가까워지지는 않는, 균등 수렴⁠(uniform convergence)⁠이 깨지는 모습입니다. 영국의 윌브러햄이 1848년 먼저 기록했지만, 이 현상은 깁스 현상⁠(Gibbs phenomenon)⁠이라는 이름으로 알려졌습니다.

그의 마지막 책 『통계역학의 기본 원리』(1902)는 맥스웰과 볼츠만이 기체에서 시작한 확률의 방법을 모든 역학계로 넓혔습니다. 그는 실제 기체 한 통을 따라가는 대신, 같은 조건 아래 있지만 분자들의 상태만 다른 같은 계를 상상 속에서 수없이 많이 늘어놓았습니다. 이 모임을 앙상블이라 부르고, 그 가운데 몇 분의 몇이 어떤 상태에 있는지를 확률로 물었습니다. 온도가 T로 일정한 큰 열 저장고와 닿아 있는 계라면, 에너지가 E인 상태에 있을 확률은 $e^{-E/k_B T}$에 비례합니다(정준 분포⁠(canonical distribution)⁠, 지수 함수). 상태마다 점수 $-E/k_B T$를 매기고 그 지수를 합이 1이 되게 나누는 이 식은, 기계 학습⁠(machine learning)⁠에서 점수를 확률로 바꾸는 소프트맥스⁠(softmax)⁠와 같은 식입니다. 에너지가 ΔE만큼 다른 두 상태의 확률 비는 $e^{-\Delta E/k_B T}$이니, 온도가 낮으면 거의 모두 낮은 에너지에 모이고 온도가 높아지면 고르게 퍼집니다. 그는 엔트로피를 확률로 $S = -k_B \sum p_i \ln p_i$라 적었습니다(엔트로피, 로그). 이 틀은 분자의 에너지가 띄엄띄엄한 값만 갖는다는 양자역학이 나온 뒤에도 거의 그대로 살아남았습니다. 비슷한 무렵 베른의 젊은 아인슈타인도 깁스의 책을 모른 채 같은 방향의 논문들을 썼습니다.

반세기 가까이 지나 이 식은 전혀 다른 곳에서 다시 나타났습니다. 1948년 섀넌은 통신문 한 글자가 담은 정보의 양을 $-\sum p_i \log p_i$로 정의했는데, 볼츠만 상수⁠(Boltzmann constant)⁠만 빼면 깁스의 엔트로피와 똑같은 모양이었습니다. 1957년 미국의 제인스는 평균⁠(mean)⁠ 에너지만 알 때 엔트로피를 가장 크게 하는 분포를 고르면 바로 깁스의 정준 분포가 나온다는 것을 보이며, 통계역학을 '아는 것만 쓰고 모르는 것은 가장 고르게 둔' 추론으로 다시 읽었습니다(최대 엔트로피 원리⁠(principle of maximum entropy)⁠). 두 분포를 비교하는 $\sum p_i \ln p_i \ge \sum p_i \ln q_i$라는 부등식도 그의 이름을 따 깁스 부등식⁠(Gibbs' inequality)⁠이라 부르며, 오늘날 KL 발산⁠(KL divergence)⁠이 늘 0 이상이라는 사실의 뿌리입니다.

그는 조용한 사람이었고 제자도 많지 않았습니다. 벡터 교과서를 쓴 윌슨, 그리고 그의 지도 아래 예일의 첫 경제학 박사가 되어 경제의 평형을 물이 흐르는 수력 모형으로 만든 어빙 피셔가 그의 제자입니다. 유럽에서 먼저 인정받아, 1901년 런던 왕립학회가 가장 영예로운 상인 코플리 메달을 주었습니다. 1903년 뉴헤이븐에서 세상을 떠났습니다.

그의 확률 분포는 20세기 후반 물리학 밖으로도 퍼졌습니다. 1984년 미국의 게먼 형제는 잡음 섞인 영상을 복원하면서, 각 화소를 이웃이 주어졌을 때의 조건부 분포에서 차례로 뽑는 몬테카를로 방법을 쓰고 이것을 깁스 표집⁠(Gibbs sampling)⁠이라 불렀습니다. 이 방법은 마르코프 연쇄⁠(Markov chain)⁠로 복잡한 분포에서 표본⁠(sample)⁠을 뽑는 베이즈 통계⁠(Bayesian statistics)⁠의 기본 도구가 되었고, 1980년대의 볼츠만 기계 같은 신경망⁠(neural network)⁠도 깁스 분포 위에서 학습했습니다. 노버트 위너는 물리 법칙을 확실한 궤도⁠(orbit)⁠가 아니라 수많은 가능성 위의 확률로 본 깁스를 20세기 과학의 전환점으로 꼽았습니다. 개별 분자의 운명은 모르더라도 그 모임의 성질은 정확히 말할 수 있다는 그의 관점은 무작위성의 역사에서 한가운데 있습니다.

이어지는 곳. 그의 엔트로피는 엔트로피, 최대 엔트로피 원리, KL 발산으로, 벡터 해석은 벡터, 내적, 사원수로, 튀어 오르는 급수⁠(series)⁠는 깁스 현상과 푸리에 급수로 이어집니다. 앞선 맥스웰과 해밀턴, 같은 식을 정보에서 다시 찾은 섀넌, 그를 기린 노버트 위너를 함께 읽으면 좋습니다.

관계.

• 영향을 받음 제임스 클러크 맥스웰 — 그의 통계역학은 맥스웰과 볼츠만의 기체 분자 운동론을 일반화한 것이고, 거꾸로 맥스웰은 그의 1873년 열역학 곡면 논문에 감탄해 물의 곡면을 석고로 빚어 한 벌을 예일로 보냈습니다.
• 영향을 받음 윌리엄 로언 해밀턴 — 해밀턴의 사원수 곱을 수 부분(내적)과 벡터 부분(외적)으로 쪼개, 물리학자가 쓰기 쉬운 벡터 해석을 만들었습니다.
• 영향을 줌 노버트 위너 — 위너는 물리학에 확률의 세계관을 들여온 깁스를 20세기 과학의 전환점으로 꼽았고, 『사이버네틱스⁠(cybernetics)⁠』와 『인간의 인간적 활용』에서 그의 통계역학을 출발점으로 삼았습니다.

연표.

• 1858년 예일 칼리지를 졸업하다
• 1863년 톱니바퀴의 모양에 관한 논문으로 미국 최초의 공학 박사가 되다
• 1866년 철도 브레이크의 특허를 얻고 유럽으로 건너가 세 해 동안 공부하다
• 1871년 봉급 없는 예일 대학 수리물리학 교수가 되다
• 1873년 열역학을 곡면으로 나타내는 첫 논문들을 내다
• 1876년 「불균일한 물질의 평형에 대하여」의 첫 부분을 내다
• 1878년 그 논문을 완결하다
• 1880년 존스홉킨스 대학의 초빙을 계기로 예일에서 처음 봉급을 받다
• 1881년 벡터 해석 강의 노트를 사적으로 인쇄해 돌리다
• 1891년 『네이처』에서 테이트와 사원수·벡터 논쟁을 벌이다
• 1899년 『네이처』에 푸리에 급수의 튀어 오름을 설명하는 편지를 쓰다
• 1901년 왕립학회의 코플리 메달을 받다
• 1902년 『통계역학의 기본 원리』를 펴내다