워런 맥컬러(Warren McCulloch)

워런 맥컬러는 1898년 미국 뉴저지주 오렌지에서 법률가와 의사가 많은 집안에 태어났습니다. 1917년 퀘이커 교도의 대학인 해버퍼드에 들어갔을 때 그는 목사가 될 생각이었습니다. 그 자신의 회고에 따르면, 철학자 루퍼스 존스가 무엇을 하고 싶으냐고 묻자 그는 '사람이 알 수 있는 수란 무엇이며, 수를 알 수 있는 사람이란 무엇인가'를 알고 싶다고 답했고, 존스는 '친구여, 평생 바쁘겠구먼'이라고 했다고 합니다. 이 물음이 그의 평생의 주제였습니다. 20세기 초는 뇌와 논리가 각각 새롭게 이해되던 때였습니다. 스페인의 카할은 뇌가 서로 떨어진 신경세포들로 이루어져 있음을 보였고, 영국의 셰링턴은 세포 사이의 이음매를 시냅스라 불렀으며, 에드거 에이드리언은 신경의 신호가 켜짐과 꺼짐뿐인 '전부 아니면 전무'의 펄스라는 것을 쟀습니다. 한편 러셀과 화이트헤드는 모든 수학을 기호 논리⁠(symbolic logic)⁠로 적으려 하고 있었습니다.

나이 세 ·

그는 1차 세계대전 중 해군에서 훈련을 받은 뒤 1921년 예일에서 철학과 심리학을 마쳤고, 컬럼비아 대학에서 심리학 석사와 의학 박사 학위를 받았습니다. 뉴욕의 벨뷰 병원에서 신경과 수련을 하고 주립 정신 병원에서 환자를 돌보며, 그는 마음의 병이 뇌의 어떤 고장인지를 늘 물었습니다. 1934년부터 예일의 신경생리학 연구실에서 네덜란드 출신의 뒤세르 드 바렌과 함께 대뇌 피질의 한 곳을 자극하면 어느 곳이 반응하는지를 지도로 그렸고, 1941년 시카고의 일리노이 대학 의과대학에 있는 신경정신의학 연구소로 옮겼습니다. 그는 오래전부터 한 가지 생각을 품고 있었습니다. 뉴런 하나의 발화는 '참' 또는 '거짓'인 명제 하나와 같고, 뉴런들의 그물은 명제들을 잇는 논리와 같다는 것입니다. 그에게 모자란 것은 이 생각을 정확한 수학으로 만들 논리학자였습니다.

1941년 의대생 제롬 레트빈이 그에게 열여덟 살의 월터 피츠를 소개했습니다. 정규 교육을 받지 않은 채 대학가를 떠돌며 논리학을 독학한 소년이었습니다. 맥컬러는 머물 곳이 없던 피츠와 레트빈을 교외의 자기 집에 들였고, 가족이 잠든 밤 부엌 식탁에서 두 사람은 뇌와 논리를 두고 토론했습니다. 그 결과가 1943년 논문 「신경 활동에 내재한 생각들의 논리 계산」입니다. 맥컬러는 뉴런이 문턱⁠(threshold)⁠을 넘으면 발화한다는 생리학과, 억제성⁠(inhibitory)⁠ 시냅스 하나가 발화를 막을 수 있다는 관찰, 그리고 신경 회로가 고리를 이루어 신호를 되풀이해 돌릴 수 있다는 라파엘 로렌테 데 노의 '반향 회로⁠(reverberating circuit)⁠' 연구를 가져왔고, 피츠는 그것을 정리와 증명으로 만들었습니다. 이 모형에서 뉴런 몇 개로 '그리고', '또는', '아니다'를 만들 수 있으니 어떤 논리식이든 뉴런의 그물로 계산할 수 있고, 고리를 가진 그물은 기억을 가집니다(신경망⁠(neural network)⁠, 불 대수⁠(Boolean algebra)⁠). 자세한 수학은 피츠의 페이지에 있습니다.

1945년 그는 짧지만 기묘한 논문 「신경 그물의 위상(topology)이 정하는 가치의 이질 서열」을 썼습니다. 사람의 선호는 대개 줄 세울 수 있다고 여겨집니다. 사과를 배보다, 배를 귤보다 좋아하면 사과를 귤보다 좋아해야 합니다. 그런데 실제 동물이나 사람은 A를 B보다, B를 C보다, C를 A보다 고르는 순환적인 선택을 할 때가 있습니다. 가위바위보처럼, 이런 선호는 어떤 한 줄의 점수로도 나타낼 수 없습니다. 맥컬러는 뉴런의 그물이 이런 순환적인 선호를 자연스럽게 구현할 수 있음을 보이고, 위에서 아래로 명령이 내려가는 위계(hierarchy)와 달리 맨 위가 없는 이런 구조를 '이질 서열(heterarchy)'이라 불렀습니다. 이 낱말은 뒤에 인공지능⁠(artificial intelligence)⁠과 조직 이론에서 널리 쓰이게 되었습니다.

전쟁이 끝나자 그는 새로운 과학의 조직자가 되었습니다. 1946년부터 1953년까지 뉴욕에서 메이시 재단이 후원한 열 차례의 회의에서 그는 의장을 맡았습니다. 회의의 이름은 '생물과 사회 체계의 순환적 인과⁠(causation)⁠와 되먹임⁠(feedback)⁠ 기구'였다가, 1948년 노버트 위너의 책이 나온 뒤로는 '사이버네틱스'가 앞에 붙었습니다. 탁자에는 위너와 폰 노이만, 피츠, 인류학자 마거릿 미드와 그레고리 베이트슨, 정신분석가, 물리학자들이 둘러앉았고, 1951년에는 클로드 섀넌이 미로를 헤매며 길을 배우는 기계 쥐 테세우스를 선보였습니다. 되먹임, 정보, 뉴런의 논리라는 공통의 언어로 기계와 생물과 사회를 함께 설명하려는 이 모임에서, 오늘날의 인지 과학과 인공지능, 가족 치료 같은 분야의 씨앗이 뿌려졌습니다.

1952년 그는 MIT 전자 공학 연구소로 옮겨 피츠, 레트빈과 함께 연구실을 꾸렸습니다. 곧 위너가 이유를 밝히지 않은 채 그와 그의 무리와의 관계를 끊었고, 가장 큰 상처를 입은 사람은 피츠였습니다. 그래도 그의 생각은 젊은 세대에게 옮겨 갔습니다. 프린스턴의 대학원생이던 마빈 민스키는 맥컬러–피츠 뉴런에서 출발해 1951년 학습하는 신경망 기계를 만들고 1954년 신경망에 관한 박사 논문을 썼고, 뒤에 MIT 인공지능 연구의 중심이 되었습니다.

1959년 그는 레트빈, 칠레 출신의 움베르토 마투라나, 피츠와 함께 「개구리의 눈이 개구리의 뇌에게 말하는 것」을 발표했습니다. 그들은 개구리의 시신경 섬유 하나하나에 전극을 대고, 눈앞에 여러 가지 물체를 움직여 보이며 어떤 섬유가 반응하는지를 쟀습니다. 섬유들은 빛의 밝기를 점마다 그대로 전하지 않았습니다. 어떤 섬유는 경계가 뚜렷한 곳에, 어떤 섬유는 작고 어둡고 둥근 것이 움직일 때에만, 어떤 섬유는 움직이는 가장자리에, 어떤 섬유는 갑자기 어두워질 때에 반응했습니다. 둘째 종류를 그들은 '벌레 탐지기'라 불렀습니다. 눈이 뇌에게 보내는 것은 화소의 목록이 아니라 개구리의 삶에 중요한 특징들로 이미 번역된 신호였던 것입니다. 층마다 점점 복잡한 특징을 뽑아내는 오늘날의 합성곱 신경망⁠(convolutional neural network)⁠과 닮은 그림입니다. 다만 개구리의 특징 탐지기는 진화가 정해 둔 것이고, 신경망의 특징은 자료에서 학습된다는 점이 다릅니다.

그는 뇌가 믿을 수 없는 부품으로 어떻게 믿을 만하게 일하는지에도 관심이 많았습니다. 뉴런은 잘못 발화하기도 하고 마취나 술이 문턱을 흔들어 놓는데도, 우리는 대개 제대로 생각합니다. 이 물음은 폰 노이만이 1952년 칼텍 강연에서 다루고 1956년 논문으로 낸 「확률⁠(probability)⁠ 논리와 믿을 수 없는 부품으로 믿을 만한 생물을 합성하기」로 이어졌습니다. 폰 노이만은 맥컬러–피츠 뉴런을 부품으로 삼아, 같은 계산을 여러 벌 하고 다수결로 답을 고르면 오류가 크게 줄어든다는 것을 보였습니다. 부품 하나가 틀릴 확률이 $p$이고 세 벌이 서로 독립⁠(independence)⁠으로 틀리며 다수결을 내는 부분은 틀리지 않는다고 하면, 세 벌 가운데 둘 이상이 틀릴 확률은 $3p^2 - 2p^3$이어서, $p = 0.01$이면 약 0.0003이 됩니다. 남는 부품으로 오류를 이기는 이 생각은 오류 정정 부호⁠(error-correcting code)⁠와 같은 뿌리를 가집니다. 1960년대 맥컬러는 윌리엄 킬머와 함께, 뇌간의 그물체가 한 명의 지휘관 없이 정보가 가장 많은 곳이 그때그때 지휘를 맡는 방식으로 몸 전체의 상태를 정한다는 모형을 연구하며 이것을 '잠재적 지휘의 중복'이라 불렀습니다.

그는 시를 쓰고, 코네티컷의 농장에 늘 손님을 들이며, 긴 수염과 긴 문장으로 기억되는 사람이었습니다. 1961년 그는 젊은 날의 물음을 제목으로 삼은 강연 「사람이 알 수 있는 수란 무엇이며, 수를 알 수 있는 사람이란 무엇인가」를 했고, 1965년 논문들을 모아 『마음의 구현』을 펴냈습니다. 1969년 9월 그는 넉 달 먼저 떠난 피츠의 뒤를 따라 세상을 떠났습니다. 그가 연 길은 여러 갈래로 뻗었습니다. 문턱 뉴런은 로젠블랫의 퍼셉트론⁠(perceptron)⁠을 거쳐 오늘의 기계 학습⁠(machine learning)⁠으로, 뉴런 그물의 논리는 유한 오토마톤⁠(finite automaton)⁠으로, 되먹임과 순환 인과의 사고는 사이버네틱스와 인지 과학으로 이어졌습니다.

이어지는 곳. 1943년 논문의 수학은 월터 피츠의 페이지와 신경망, 퍼셉트론에서 이어집니다. 그 논리의 바탕은 불 대수이고, 유한한 뉴런 그물의 계산 능력은 유한 오토마톤과 정규 표현식⁠(regular expression)⁠이 정확히 답합니다. 메이시 회의에서 함께한 사람들은 위너와 폰 노이만이고, 남는 부품으로 오류를 이기는 생각은 오류 정정 부호에 있습니다.

관계.

• 영향을 받음 버트런드 러셀 — 러셀과 화이트헤드의 『수학 원리』와 카르나프의 기호 논리를 빌려, 뉴런의 발화를 명제로 적는 1943년 논문의 언어로 삼았습니다.
• 영향을 줌 존 폰 노이만 — 폰 노이만은 1945년 EDVAC 보고서에서 맥컬러–피츠 뉴런의 표기를 썼고, 1956년 논문에서는 이 뉴런을 부품으로 삼아 믿을 수 없는 부품으로 믿을 만한 기계를 만드는 문제를 풀었습니다.
• 영향을 줌 마빈 민스키 — 민스키는 맥컬러–피츠 뉴런에서 출발해 1951년 학습하는 신경망 기계를 만들고 1954년 신경망에 관한 박사 논문을 썼습니다.
• 함께 연구 클로드 섀넌 — 그가 의장을 맡은 메이시 회의에서 섀넌은 1951년 미로를 배우는 기계 쥐 테세우스를 선보이며 정보와 학습을 함께 토론했습니다.

연표.

• 1917년 퀘이커 교도의 대학인 해버퍼드에 들어가다
• 1921년 예일 대학을 졸업하다
• 1927년 컬럼비아 대학에서 의학 박사 학위를 받다
• 1934년 예일 신경생리학 연구실에서 대뇌 피질의 연결을 연구하다
• 1941년 일리노이 대학 의과대학의 신경정신의학 연구소로 옮기다
• 1943년 피츠와 논리 뉴런 논문을 발표하다
• 1946년 메이시 회의의 의장이 되다
• 1952년 MIT 전자 공학 연구소로 옮기다
• 1959년 「개구리의 눈이 개구리의 뇌에게 말하는 것」을 발표하다
• 1965년 논문 모음 『마음의 구현』을 펴내다