조지 불(George Boole)

조지 불은 1815년 잉글랜드 링컨에서 구두장이의 아들로 태어났습니다. 아버지는 망원경과 기계를 좋아한 사람이었지만 집안은 가난해서, 불은 대학을 다니지 못하고 라틴어와 그리스어, 프랑스어, 독일어와 수학을 거의 혼자 익혔습니다. 그의 시대 논리학은 2,000년 전 아리스토텔레스의 삼단논법⁠(syllogism)⁠에서 크게 벗어나지 않았습니다. 라이프니츠는 추론을 계산으로 바꾸는 꿈을 꾸었지만 이루지 못했습니다. 불은 그 계산을 실제로 쓸 수 있는 대수의 체계로 만든 사람입니다.

나이 세 ·

그는 열여섯 살에 보조 교사가 되어 집안을 먹여 살렸고, 열아홉 살에는 링컨에 자기 학교를 열었습니다. 가르치는 틈틈이 라그랑주와 라플라스를 읽으며 논문을 썼습니다. 1841년 『케임브리지 수학 저널』에 실린 논문은 좌표를 선형 변환해도 변환에서 정해지는 배수⁠(multiple)⁠가 곱해질 뿐 본질은 바뀌지 않는 식을 다루었습니다. 2차식 $ax^2 + bxy + cy^2$의 판별식⁠(discriminant)⁠ $b^2 - 4ac$가 그런 식입니다. 좌표를 돌리면 값이 그대로이고, 일반적인 선형 변환을 하면 그 변환의 행렬식⁠(determinant)⁠의 제곱이 곱해질 뿐입니다. 이 논문은 뒤에 케일리와 영국의 수학자 실베스터가 세운 불변식 이론의 씨앗이 되었습니다. 1844년에는 미분⁠(differentiation)⁠을 기호처럼 계산하는 연산자⁠(operator)⁠ 방법, 곧 '미분하기'를 D라는 기호로 적고 $D^2 - 3D + 2 = (D - 1)(D - 2)$처럼 수인 양 인수분해해 미분방정식⁠(differential equation)⁠을 푸는 방법에 관한 논문으로 왕립학회의 메달을 받았습니다. 학위 하나 없는 시골 교사의 일이었습니다.

그의 공부를 받쳐 준 것은 빅토리아 시대 영국의 독학 문화였습니다. 1833년 링컨에 세워진 기계공 강습소는 노동자와 장인에게 책과 강연을 내주는 곳이었는데, 아버지가 이곳의 관리를 맡으면서 불은 그 도서관의 수학책을 마음껏 읽을 수 있었습니다. 대학 밖의 그를 학계와 이어 준 사람은 『케임브리지 수학 저널』의 편집자 덩컨 그레고리였습니다. 그레고리는 그의 논문을 실어 주었고, 케임브리지에 들어가 학위를 밟고 싶다는 그에게 가족을 부양하는 처지에서 학부 과정을 새로 시작하기보다 지금처럼 연구를 이어 가라고 권했습니다. 미분을 기호처럼 떼어 계산하는 그레고리의 연산자 방법은 불이 논리를 대수로 다루는 발판이 되었습니다. 1842년부터는 런던 대학의 수학자이자 논리학자 드모르간과 편지를 주고받기 시작해 평생의 벗이 되었습니다.

논리로 눈을 돌린 계기는 1847년 드모르간과 에든버러의 철학자 윌리엄 해밀턴(사원수⁠(quaternion)⁠의 윌리엄 로언 해밀턴과는 다른 사람) 사이의 논쟁이었습니다. 그해 불은 『논리의 수학적 분석』을 냈고, 1849년 아일랜드에 새로 세워진 퀸스 칼리지 코크의 첫 수학 교수가 되었습니다. 대기근이 아직 끝나지 않은 때였습니다. 1854년 그곳에서 낸 『사고의 법칙』이 그의 대표작입니다.

퀸스 칼리지는 1845년 영국 정부가 코크, 골웨이, 벨파스트에 세운 대학으로, 종교를 묻지 않고 학생을 받았습니다. 가톨릭 주교들은 이 학교들을 '신 없는 대학'이라 비난하며 신자들에게 다니지 말라고 했고, 학생 수는 오랫동안 적었습니다. 학위 하나 없는 잉글랜드 사람이 교수로 뽑힌 데에는 드모르간을 비롯한 학자들의 추천서가 큰 몫을 했습니다. 기근으로 텅 빈 시골과 종교 갈등 한가운데에서, 불은 성실하게 가르치며 논리의 대수를 완성해 갔고, 학교 운영을 두고 학장과 공개적으로 다투기도 했습니다.

생각은 이렇습니다. 글자 x를 '붉은 것들'이라는 부류로, y를 '둥근 것들'로 읽으면 xy는 '붉고 둥근 것들'입니다. 1은 모든 것, 0은 아무것도 없음이고, 1 − x는 'x가 아닌 것들'입니다. 이 대수에는 보통의 대수에 없는 법칙이 하나 있습니다. 붉으면서 붉은 것은 그냥 붉은 것이니 $x^2 = x$입니다. 옮겨 묶으면 $x(1 - x) = 0$, 곧 어떤 것도 x이면서 동시에 x가 아닐 수 없다는 모순율⁠(law of contradiction)⁠이 됩니다. 불은 이 식을 만족하는 수가 0과 1뿐이라는 데 주목했습니다. 논리는 0과 1만 있는 대수이고, 추론은 식을 풀어 필요 없는 글자를 지우는 일이 됩니다. 한 가지 차이는 있습니다. 불은 덧셈 x + y를 서로 겹치지 않는 두 부류에만 썼고, 겹쳐도 되는 오늘날의 '또는'은 영국의 경제학자이자 논리학자 제번스 같은 다음 사람들이 다듬었습니다. 그렇게 정리된 것이 오늘날의 불 대수⁠(Boolean algebra)⁠이고, 부류를 모두 모은 것은 집합의 연산⁠(set operations)⁠과 멱집합⁠(power set)⁠이 이루는 구조와 같습니다. 부분집합⁠(subset)⁠이 '참·거짓 두 값으로 가는 함수⁠(function)⁠'와 일대일로 대응한다는 이 사실을 진릿값⁠(truth value)⁠이 더 많은 세계로 넓힌 것이 토포스⁠(topos)⁠이고, 그런 세계의 명제들은 불 대수 대신 그보다 약한 헤이팅 대수⁠(Heyting algebra)⁠를 이룹니다.

『사고의 법칙』의 뒤쪽 절반은 확률⁠(probability)⁠에 바쳐졌습니다. 사건⁠(event)⁠들을 '그리고·또는·아니다'로 묶은 논리식에 확률을 매기면, 알려진 확률에서 모르는 확률을 계산할 수 있다는 것이었습니다. 그는 사원수를 내놓은 해밀턴처럼, 대수의 법칙이 반드시 수의 법칙과 같을 필요는 없고 다루는 대상에 맞춰 고를 수 있다고 보았습니다. 이 생각은 영국 대수학의 흐름 위에 있었습니다.

그의 대수는 곧 다른 사람들 손에서 자랐습니다. 드모르간은 '그리고'와 '또는'이 부정을 사이에 두고 자리를 바꾼다는 법칙, 곧 'x이고 y'가 아니라는 말은 'x가 아니거나 y가 아니다'와 같다는 법칙을 정리했습니다. 불 대수의 참인 식에서 AND와 OR, 0과 1을 모두 맞바꾸면 다시 참인 식이 되는데, 이 성질은 쌍대성⁠(duality)⁠의 가장 깔끔한 예입니다. 제번스는 1864년 불의 덧셈을 겹쳐도 되는 '또는'으로 고쳤고, 1869년에는 건반을 눌러 삼단논법을 푸는 '논리 피아노'를 만들었습니다. 1880년 영국의 논리학자 벤은 부류를 겹친 원으로 그리는 그림(벤 다이어그램⁠, Venn diagram⁠)을 내놓았습니다. 미국의 철학자이자 논리학자 퍼스는 1886년 옛 제자에게 보낸 편지에서, 이런 논리 연산을 전기 회로로 할 수 있을 것이라고 적었습니다. 그 생각이 실제 회로가 되기까지는 반세기가 더 걸렸습니다.

그는 1855년 인도 측량국장을 지낸 조지 에베레스트(에베레스트산에 이름을 남긴 사람)의 조카 메리 에베레스트와 결혼해 딸 다섯을 두었습니다. 딸 앨리샤는 4차원 정다포체를 연구한 기하학자가 되었고, 막내 에설은 소설 『등에』를 썼습니다. 1864년 11월 비를 맞으며 강의하러 걸어간 뒤 앓아누웠고, 12월 마흔아홉 살에 폐렴으로 세상을 떠났습니다. 그의 대수가 전선으로 옮겨진 것은 『사고의 법칙』이 나오고 83년 뒤였습니다. 1937년 섀넌은 석사 논문에서 스위치를 직렬로 이으면 AND, 병렬로 이으면 OR가 된다는 것을 보였고, 오늘날의 디지털 칩은 모두 불의 0과 1로 설계됩니다.

20세기에 그의 이름은 수학의 기초⁠(basics)⁠와 공학 양쪽에서 커졌습니다. 러셀은 1901년의 한 글에서 순수 수학은 불이 『사고의 법칙』에서 발견했다고까지 썼습니다. 추론을 기호의 계산으로 바꾼 일이 수학 전체를 논리 위에 세우려는 기획의 출발점이었다는 뜻입니다. 공학 쪽에서는 섀넌의 논문이 곧 전화 교환 회로를 설계하는 도구가 되었고, 진공관과 트랜지스터⁠(transistor)⁠가 스위치를 대신한 뒤로 그의 0과 1은 컴퓨터의 모든 회로가 되었습니다. 검색창에 AND와 OR를 넣는 일, 데이터베이스에서 조건으로 자료를 거르는 일도 모두 불 대수입니다. 생각의 법칙을 대수의 식으로 바꿔 적은 한 시골 교사의 발상이, 한 세기 뒤 기계가 추론을 흉내 내는 바탕이 되었습니다.

이어지는 곳. 그의 대수는 불 대수에서 진리표⁠(truth table)⁠와 논리 회로로 직접 만져 볼 수 있습니다. 부류의 곱과 나머지는 곧 교집합⁠(intersection)⁠과 여집합⁠(complement)⁠이라 집합의 연산과, 한 집합⁠(set)⁠의 부분집합을 모두 모은 멱집합이 같은 구조를 이루고, 사건을 '그리고·또는·아니다'로 묶는 확률도 그 위에 서 있습니다. 논리를 전기 회로로 옮긴 클로드 섀넌, 기계적 계산 자체를 정의한 앨런 튜링, 논리로 수학의 기초를 세우려 한 버트런드 러셀과 그 기획의 한계를 보인 쿠르트 괴델이 그 뒤를 잇습니다. 입력을 읽으며 정해진 몇 가지 상태 사이를 옮겨 다니는 가장 단순한 계산 기계 유한 오토마타도 불의 논리로 짜인 회로로 만들어집니다.

관계.

• 영향을 받음 아리스토텔레스 — 『사고의 법칙』은 아리스토텔레스의 삼단논법을 자기 대수의 식으로 다시 끌어내, 옛 논리가 새 대수의 한 경우임을 보이려 했습니다.
• 영향을 받음 조제프루이 라그랑주 — 학교를 운영하며 라그랑주의 역학과 해석학⁠(mathematical analysis)⁠을 혼자 읽었고, 그 연산자 계산에서 기호를 대상에서 떼어 계산하는 습관을 얻었습니다.
• 영향을 줌 버트런드 러셀 — 러셀은 1901년의 한 글에서 순수 수학은 불이 『사고의 법칙』에서 발견했다고까지 썼습니다.
• 영향을 줌 클로드 섀넌 — 섀넌은 1937년 석사 논문에서 스위치 회로를 불 대수로 적고 설계할 수 있음을 보였습니다.

연표.

• 1831년 열여섯 살에 보조 교사로 일하기 시작하다
• 1834년 링컨에 자기 학교를 열다
• 1842년 드모르간과 편지를 주고받기 시작하다
• 1844년 미분 연산자에 관한 논문으로 왕립학회 메달을 받다
• 1847년 『논리의 수학적 분석』을 펴내다
• 1849년 퀸스 칼리지 코크의 첫 수학 교수가 되다
• 1854년 『사고의 법칙』을 펴내다
• 1855년 메리 에베레스트와 결혼하다
• 1857년 왕립학회 회원이 되다
• 1859년 『미분방정식론』을 펴내다