마빈 민스키(Marvin Minsky)

마빈 민스키는 1927년 뉴욕에서 안과 의사의 아들로 태어났습니다. 그가 대학에 들어갈 무렵 세상에는 막 전자식 컴퓨터가 생겨나고 있었고, 두 가지 물음이 함께 떠올랐습니다. 1943년 맥컬러와 피츠는 켜지거나 꺼지기만 하는 이상화된 뉴런을 이으면 AND, OR, NOT 같은 논리 연산을 모두 할 수 있다고 보였고, 1950년 튜링은 기계가 생각할 수 있느냐고 공개적으로 물었습니다. 뇌를 흉내 내어 지능을 만들 것인가, 아니면 논리와 기호를 다루는 프로그램으로 만들 것인가. 민스키는 처음에는 앞의 길을, 뒤에는 뒤의 길을 걸었고, 두 길이 갈라지고 다시 만나는 이야기의 한가운데에 평생 서 있었습니다.

나이 세 ·

그는 브롱크스 과학 고등학교와 필립스 아카데미를 거쳐, 2차 세계대전 막바지인 1944–45년 해군에서 복무한 뒤 하버드에 들어갔습니다. 전공은 수학이었지만 심리학 실험실과 신경해부학 실험실을 드나들며 뇌가 어떻게 배우는지를 함께 공부했습니다. 학부 졸업 논문은 가쿠타니의 고정점⁠(fixed point)⁠ 정리를 넓히는 것이었습니다. 한 점을 점 하나가 아니라 점들의 모임으로 보내는 사상이라도, 볼록하고 닫힌 유계 집합⁠(set)⁠ 위에서 몇 가지 조건(보내지는 모임마다 볼록하다는 것 등)만 맞으면, 자기가 보내지는 모임 안에 자기 자신이 드는 점이 있다는 정리입니다. 순수 수학의 훈련과 뇌에 대한 호기심이 이때부터 나란히 있었습니다.

1951년 프린스턴 대학원생이던 그는 동료 딘 에드먼즈와 함께 SNARC라는 기계를 지었습니다. 진공관 3,000개쯤과 B-24 폭격기의 자동 조종 장치에서 떼어 낸 부품으로 만든 이 기계에는 '뉴런' 40개가 있었고, 뉴런 사이의 연결마다 신호가 건너갈 확률⁠(probability)⁠을 정하는 손잡이가 달려 있었습니다. 기계는 미로 속의 쥐를 흉내 냈습니다. 쥐가 목표에 닿으면 방금 쓰인 연결들의 손잡이를 모터가 조금씩 돌려 그 연결이 다음에 더 잘 쓰이게 했습니다. 잘된 행동에 쓰인 연결을 굳힌다는 이 생각은 오늘날 강화 학습⁠(reinforcement learning)⁠이라 부르는 것의 원형이고, 연결의 세기를 경험으로 고친다는 점에서 뒤의 퍼셉트론과 신경망과 같은 줄기에 있습니다. 1954년 프린스턴 수학과에 낸 박사 논문도 이런 신경망 학습 기계에 관한 것이었습니다. 민스키의 회고에 따르면 심사 때 이것이 수학이냐는 물음이 나오자 위원이던 폰 노이만이 지금은 아니더라도 언젠가는 수학이 될 것이라는 취지로 답했다고 합니다.

1954년부터 3년 동안 하버드 소사이어티 오브 펠로스의 주니어 펠로로 있던 그는 뇌의 신경을 들여다보려다 현미경 하나를 발명했습니다. 보통의 현미경은 초점이 맞은 층뿐 아니라 그 위아래 층에서 오는 빛까지 모두 받아들이므로 두꺼운 조직은 뿌옇게 보입니다. 민스키는 빛을 작은 바늘구멍으로 조여 시료의 한 점만 비추고, 검출기 앞에도 그 점에 정확히 대응하는 두 번째 바늘구멍을 두었습니다. 초점이 맞지 않은 깊이에서 온 빛은 두 번째 구멍을 통과하지 못하니 한 점, 한 깊이의 빛만 남고, 이 점을 옮겨 가며 훑으면 조직을 층층이 자른 선명한 그림을 얻습니다. 1957년 특허를 출원한 이 공초점 현미경⁠(confocal microscope)⁠은 레이저와 컴퓨터가 값싸진 1980년대에야 널리 쓰이기 시작해, 오늘날 생물학 실험실의 기본 장비가 되었습니다.

1955년 민스키는 다트머스 대학의 존 매카시, IBM의 너새니얼 로체스터, 벨 연구소의 섀넌과 함께 이듬해 여름의 연구 모임을 제안하는 글을 썼습니다. 배움이나 지능의 모든 측면을 원리적으로 아주 정확히 기술할 수 있다면 기계가 그것을 흉내 내게 할 수 있으리라는 추측에서 출발하자는 제안이었고, '인공지능'이라는 이름은 이 모임과 함께 자리 잡았습니다. 섀넌과의 인연은 그보다 앞섰습니다. 대학원생 시절 여름 벨 연구소에서 지낸 민스키는 스위치를 켜면 상자에서 손이 나와 스위치를 다시 끄고 들어가는 '쓸모없는 기계'를 떠올렸고, 섀넌이 그것을 실제로 만들어 책상에 두었다고 전합니다. 1958년 MIT로 옮긴 민스키는 이듬해 매카시와 함께 MIT 인공지능 프로젝트를 시작했습니다. 매카시가 1962년 스탠퍼드로 떠난 뒤에도 민스키는 국방부 고등연구계획국(ARPA)의 넉넉한 연구비를 받아 이 모임을 키웠고, 1970년 이곳은 MIT 인공지능 연구소가 되었습니다. 밤새 컴퓨터를 붙들고 프로그램을 고치는 '해커' 문화가 태어난 곳도 이곳이었습니다.

1961년 논문 「인공지능을 향한 걸음」은 막 생겨난 분야의 지도를 그렸습니다. 그는 문제를 탐색, 패턴 인식, 학습, 계획, 귀납으로 나누고, 그 가운데 오래 남을 물음 하나에 이름을 붙였습니다. 공로 배분 문제입니다. 체스에서 마흔 수 만에 이겼다면 그 가운데 어느 수가 승리에 얼마나 기여했을까요? 결과는 맨 끝에 한 번만 알려지는데, 고쳐야 할 것은 그 앞의 수많은 결정입니다. 여러 층의 신경망에서 출력의 오차를 가운데 층의 연결들에 나누어 지우는 역전파⁠(backpropagation)⁠도, 게임의 승패를 앞선 수들에 거꾸로 나누어 주는 강화 학습도 이 물음에 대한 답입니다.

1967년 그는 계산 이론⁠(theory of computation)⁠의 교과서 『계산: 유한 기계와 무한 기계』를 냈습니다. 이 책은 맥컬러–피츠 뉴런의 그물이 기억이 유한한 기계, 곧 유한 오토마톤⁠(finite automaton)⁠과 정확히 같은 일을 한다는 사실에서 출발해 튜링 기계⁠(Turing machine)⁠, 정지 문제⁠(halting problem)⁠, 처치–튜링 논제⁠(Church–Turing thesis)⁠까지를 한 줄로 이었습니다. 그 안에는 민스키 자신의 발견도 있었습니다. 그는 자연수⁠(natural number)⁠를 하나씩 담는 칸(레지스터)과 '1 더하기', '0이면 건너뛰고 아니면 1 빼기'라는 두 명령만 가진 기계를 생각했습니다. 칸이 여럿이면 튜링 기계의 테이프를 수로 바꿔 담아 흉내 낼 수 있고, 칸 여러 개에 든 수 $a, b, c, d$는 수 하나 $2^a 3^b 5^c 7^d$로 묶을 수 있습니다. 소인수분해⁠(prime factorization)⁠가 한 가지뿐이니 이 수에서 원래의 네 수를 되찾을 수 있고, 칸 하나를 계산용으로 더 쓰면 곱하고 나누는 일도 두 명령만으로 할 수 있습니다. 그래서 칸 두 개짜리 기계가 이미 모든 계산을 할 수 있다는 것이 1961년의 결과입니다. 1962년에는 상태 7개, 기호 4개만으로 된 보편 튜링 기계⁠(universal Turing machine)⁠도 내놓았습니다.

1969년 그는 수학자 시모어 패퍼트와 함께 『퍼셉트론』을 펴냈습니다. 두 사람은 퍼셉트론을, 그림의 작은 조각만 보는 여러 판정기의 판정을 가중치⁠(weight)⁠로 더해 문턱⁠(threshold)⁠을 넘는지 보는 기계로 정의하고, 판정기 하나가 적어도 몇 개의 점을 보아야 하는지를 그 성질의 '차수'라 불렀습니다. 그러고는 성질마다 차수를 셈했습니다. 그림이 볼록한지는 차수가 3입니다. 도형 안의 어떤 두 점을 잡아도 그 가운데 점이 도형 안에 있으면 볼록하므로, 점 세 개씩만 보는 판정기들로 충분합니다. 반면 켜진 점의 개수가 짝수인지 홀수인지(가장 작은 경우가 XOR입니다)는 차수가 화면 전체의 점 수와 같아서, 어떤 판정기 하나는 반드시 화면 전체를 보아야 합니다. 그림이 한 덩어리로 이어져 있는지도 화면이 커지면 차수가 한없이 커집니다. 부분만 보는 기계로는 전체의 성질을 알아보기 어렵다는 것을 정확한 정리로 만든 것입니다. 같은 해 민스키는 인공지능 분야를 세운 공로로 튜링상⁠(Turing Award)⁠을 받았습니다.

이 책이 신경망 연구를 '죽였다'는 말이 흔히 전하지만, 이 위키의 로젠블랫 페이지에서 보듯 사정은 좀 더 복잡합니다. 연구비와 관심은 이미 기호와 규칙 쪽으로 옮겨 가고 있었고, 여러 층을 쌓으면 된다는 것은 알려져 있었지만 가운데 층을 학습시키는 방법이 없었습니다. 1986년 역전파가 널리 알려지며 신경망이 돌아오자, 민스키와 패퍼트는 1988년 증보판의 후기에서 새 연결주의⁠(connectionism)⁠가 1969년 책이 짚은 문제를 아직 풀지 못했다고 반박했습니다. 초기의 신경망 학습 기계를 지은 사람이 그 한계를 가장 날카롭게 증명한 사람이 되었다는 점은 역사의 아이러니로 자주 이야기됩니다.

그 뒤 민스키의 관심은 지식을 어떻게 담느냐로 옮겨 갔습니다. 1974년 보고서 「지식을 표현하기 위한 틀」에서 그는 '프레임'이라는 생각을 내놓았습니다. 방에 들어서는 사람은 벽과 천장과 문과 창이 있으리라고 미리 기대하고, 눈에 보이는 것으로 그 기대의 빈칸을 채우거나 고칩니다. 프레임은 이렇게 전형적인 상황마다 빈칸(슬롯)과 기본값을 가진 자료 구조이고, 이 생각은 지식 표현 연구와 뒤의 객체 지향 프로그래밍에 영향을 주었습니다. 1986년 책 『마음의 사회』에서는 마음이 하나하나는 전혀 똑똑하지 않은 수많은 작은 '행위자'들이 모여 일하는 사회라고 주장했고, 2006년 『감정 기계』에서 이 생각을 감정으로 넓혔습니다.

그는 제자와 동료를 통해서도 오래 남았습니다. 그의 지도로 박사 학위를 받은 매뉴얼 블럼은 계산 복잡도 이론⁠(computational complexity theory)⁠의 기초⁠(basics)⁠를 놓아 1995년 튜링상을 받았고, 패트릭 윈스턴은 1972년부터 25년 동안 MIT 인공지능 연구소를 이끌었습니다. 스탠리 큐브릭은 영화 「2001: 스페이스 오디세이」(1968)를 만들 때 생각하는 컴퓨터 HAL을 그리며 민스키에게 자문을 구했습니다. 민스키는 2016년 1월 보스턴에서 뇌출혈로 세상을 떠났습니다. 그가 남긴 두 갈래, 곧 학습하는 그물과 기호를 다루는 추론은 오늘날의 기계 학습⁠(machine learning)⁠ 안에서 다시 어떻게 합칠지가 물어지고 있습니다.

이어지는 곳. SNARC와 퍼셉트론이 고치던 연결의 세기는 오늘날 경사 하강법⁠(gradient descent)⁠으로 고치고, 그 기울기⁠(slope)⁠를 층층이 거꾸로 전하는 방법이 역전파입니다. 한 층짜리 퍼셉트론이 곧은 선으로만 가를 수 있다는 한계는 선형화⁠(linearization)⁠의 이야기와 이어집니다. 레지스터 기계⁠(register machine)⁠와 보편 튜링 기계는 튜링 기계와 람다 계산⁠(lambda calculus)⁠과 함께 처치–튜링 논제를 떠받치는 여러 기계 모형 가운데 하나이고, 같은 MIT에서 문법의 층을 세운 촘스키의 촘스키 위계⁠(Chomsky hierarchy)⁠도 같은 기계들로 설명됩니다.

관계.

• 영향을 받음 워런 맥컬러 — 맥컬러와 피츠가 1943년 문턱 뉴런의 그물이 논리 연산을 할 수 있다고 보인 논문이 민스키의 학습 기계 SNARC와 박사 논문의 출발점이었습니다.
• 영향을 받음 월터 피츠 — 1967년 책 『계산: 유한 기계와 무한 기계』는 맥컬러–피츠 뉴런의 그물이 유한 오토마톤과 같은 일을 한다는 사실을 교과서의 한 부분으로 정리했습니다.
• 영향을 받음 앨런 튜링 — 민스키는 튜링 기계를 가장 적은 부품으로 흉내 내는 문제를 파고들어, 레지스터 두 개짜리 기계와 상태 7개·기호 4개짜리 보편 튜링 기계를 내놓았습니다.
• 함께 연구 클로드 섀넌 — 1955년 매카시, 로체스터와 함께 다트머스 여름 연구 모임의 제안서를 썼고, 대학원생 시절 벨 연구소에서 떠올린 '스스로 스위치를 끄는 기계'를 섀넌이 실제로 만들었다고 전합니다.
• 논쟁 프랭크 로젠블랫 — 같은 브롱크스 과학 고등학교를 나온 두 사람은 학회에서 자주 맞섰고, 1969년 『퍼셉트론』은 로젠블랫의 한 층짜리 퍼셉트론이 알아볼 수 없는 성질들을 증명했습니다.
• 함께 연구 존 매카시 — 1955년 다트머스 여름 연구 모임의 제안서를 함께 썼고, 1959년 MIT에서 함께 인공지능 프로젝트를 시작했습니다.

연표.

• 1950년 하버드 대학 수학과를 졸업하다
• 1951년 딘 에드먼즈와 뉴런 40개를 흉내 낸 학습 기계 SNARC를 짓다
• 1954년 신경망 학습 기계에 관한 논문으로 프린스턴에서 박사 학위를 받다
• 1956년 매카시, 섀넌, 로체스터와 함께 제안한 다트머스 여름 연구 모임이 열리다
• 1957년 공초점 현미경의 특허를 출원하다
• 1959년 존 매카시와 MIT 인공지능 프로젝트를 시작하다
• 1961년 「인공지능을 향한 걸음」을 발표하다
• 1967년 『계산: 유한 기계와 무한 기계』를 펴내다
• 1969년 패퍼트와 『퍼셉트론』을 펴내고 튜링상을 받다
• 1974년 지식을 담는 '프레임'의 생각을 발표하다
• 1986년 『마음의 사회』를 펴내다