아서 케일리(Arthur Cayley)

아서 케일리는 1821년 영국 런던 근교 리치먼드에서 태어났습니다. 아버지는 러시아 상트페테르부르크에서 무역을 하던 영국 상인이었고, 케일리는 여덟 살까지 그 도시에서 자랐습니다. 그가 공부를 시작한 1840년대 영국 수학은 뉴턴 이후 한 세기 넘게 대륙에 뒤처졌다가 막 깨어나던 참이었습니다. 1837년 창간된 『케임브리지 수학 저널』을 중심으로 피콕, 드모르간, 불 같은 사람들이 기호를 수가 아닌 것에도 쓸 수 있는지 묻고 있었고, 1843년 해밀턴의 사원수⁠(quaternion)⁠는 곱하는 순서를 바꾸면 답이 달라지는 대수도 일관될 수 있음을 보였습니다. "대수의 기호는 꼭 수여야 하는가"라는 이 시대의 질문에, 케일리는 행렬과 군이라는 두 대상으로 답했습니다.

나이 세 ·

런던의 킹스 칼리지 학교를 거쳐 1838년 케임브리지 트리니티 칼리지에 들어간 그는 1842년 수학 졸업 시험에서 1등인 시니어 랭글러가 되었고, 더 어려운 스미스상 시험에서도 1등을 했습니다. 학생 시절부터 『케임브리지 수학 저널』에 논문을 쏟아 냈습니다. 그러나 칼리지의 연구원 자리를 이어 가려면 성공회 성직자가 되어야 했고, 이를 원하지 않은 그는 법률가의 길을 택했습니다. 1849년 변호사 자격을 얻어 14년 동안 런던에서 부동산 양도 문서를 다루며, 그 사이에 200편이 넘는 논문을 썼습니다. 1852년 왕립학회 회원이 되었습니다.

런던의 법원 거리에서 그는 평생의 동료를 만났습니다. 제임스 조지프 실베스터는 유대인이라는 이유로 케임브리지에서 공부를 마치고도 학위를 받지 못했고(당시 학위를 받으려면 성공회 신앙 조항에 서약해야 했습니다), 보험 계리사⁠(actuary)⁠로 일하며 법률을 공부하고 있었습니다. 두 사람은 링컨스 인 법학원 주변을 거닐며 수학 이야기를 나누었다고 전합니다. 1850년 행렬식⁠(determinant)⁠들이 태어나는 수의 배열에 라틴어로 '자궁'을 뜻하는 matrix라는 이름을 붙인 사람이 실베스터였고, 그 배열을 하나의 대상으로 계산한 사람이 케일리였습니다.

1858년 「행렬 이론에 관한 논고」에서 케일리는 수를 네모나게 늘어놓은 행렬을 수 하나처럼 더하고 곱했습니다. 더하기는 같은 자리끼리 더하는 것이고, 곱하기는 두 선형 변환을 잇달아 하는 것을 한 행렬로 적는 규칙입니다(행렬 곱). 그러면 수에서는 없던 일이 생깁니다. 90° 회전⁠(rotation)⁠한 뒤 가로축에 대해 뒤집는 것과, 뒤집은 뒤 회전하는 것은 결과가 달라서 AB와 BA가 다릅니다(회전 행렬⁠(rotation matrix)⁠). 0이 아닌 두 행렬을 곱해 0이 되기도 합니다. 행렬식이 0이 아니면 역행렬⁠(inverse matrix)⁠이 있다는 것도 그가 정리했습니다. 같은 논문에서 그는 행렬이 자신의 특성다항식⁠(characteristic polynomial)⁠을 만족한다는 정리를 적었습니다. 2×2 행렬이라면 위에 적은 식 $A^2 - (a+d)A + (ad-bc)I = 0$이 늘 성립한다는 것입니다. 그는 2×2와 3×3에서 확인했다고 쓰고, 일반적인 증명은 굳이 할 필요가 없다고 보았습니다. 사원수와 관련된 경우를 먼저 다룬 해밀턴의 이름이 함께 붙어 이것을 케일리–해밀턴 정리라 부르고, 오늘날 고유값⁠(eigenvalue)⁠을 다루는 기본 도구입니다.

그보다 네 해 앞선 1854년 논문 「기호 방정식 θⁿ = 1에 기대는 군의 이론에 대하여」에서 그는 군을 처음으로 추상적으로 정의했습니다. 갈루아의 군은 방정식의 근을 뒤섞는 순열⁠(permutation)⁠들의 모임이었는데, 케일리는 무엇을 뒤섞는지는 잊고 기호들의 곱셈 규칙만 남겼습니다. 곱이 결합 법칙을 만족하고, 아무것도 바꾸지 않는 기호가 있으며, 그 규칙이 모임 안에서 닫혀 있으면 군입니다. 그는 원소⁠(element)⁠가 유한한 경우를 다루며 어느 원소를 곱해도 모임 전체가 그대로 다시 나온다고 가정했는데, 오늘날 따로 요구하는 되돌리기(역원⁠, inverse element⁠)는 이 가정에서 따라 나옵니다. 그는 곱셈을 표 한 장(오늘날의 케일리 표⁠(Cayley table)⁠)으로 적고 원소가 넷인 군과 여섯인 군을 따져 보았습니다. 원소의 이름만 바꾸어 곱셈표가 같아지는 군을 한 가지로 치면, 원소가 넷인 군은 두 가지뿐입니다. 정삼각형을 제자리에 겹치는 여섯 가지 움직임(회전 셋, 뒤집기 셋)이 곱하는 순서에 따라 결과가 달라지는 여섯 원소의 군의 예입니다. 어떤 군이든 결국 순열의 군으로 옮겨 적을 수 있다는 사실도 그가 이 논문에서 지적했습니다. 이 사실을 모든 범주⁠(category)⁠로 넓힌 것이 요네다 보조정리⁠(Yoneda lemma)⁠입니다. 이 추상은 너무 일러 20년 넘게 거의 주목받지 못했고, 1878년 그가 군을 다시 다루며 원소를 점으로, 곱셈을 색칠한 화살표로 그린 그림(오늘날의 케일리 그래프⁠(Cayley graph)⁠)과 함께 비로소 퍼지기 시작했습니다(대칭과 불변량⁠(invariant)⁠).

실베스터와 함께 그가 가장 오래 매달린 주제는 불변식이었습니다. 변수를 바꿔 적어도 달라지지 않는 식을 찾는 것입니다. 이차식 $ax^2 + bx + c$에서 x를 x + t로 옮겨 적으면 계수는 모두 바뀌지만 판별식⁠(discriminant)⁠ $b^2 - 4ac$는 그대로입니다. 그래프를 옆으로 밀어도 근 사이의 간격은 변하지 않기 때문입니다. 케일리는 불의 1841년 논문에서 출발해 차수가 높은 식의 불변식을 체계적으로 계산하는 방법을 세웠고, 실베스터와 함께 '영국 불변식 학파'라 불린 거대한 계산의 전통을 만들었습니다. 이 전통은 1888–90년 힐베르트가 불변식이 언제나 유한 개의 기본 불변식으로 만들어진다는 것을, 그것을 하나하나 계산하지 않고 존재만으로 증명하면서 막을 내렸습니다(다항식⁠, polynomial⁠).

기하학에서 그는 1843년 차원이 몇이든 쓸 수 있는 해석 기하⁠(geometry)⁠를 다루었고, 1859년 「여섯째 양식론」에서 더 깊은 생각을 내놓았습니다. 원근법에서 자라난 사영기하⁠(projective geometry)⁠에는 길이가 없습니다. 멀리 있는 것은 작게, 가까운 것은 크게 비추기 때문입니다. 케일리는 평면에 원뿔곡선⁠(conic section)⁠ 하나를 '절대'로 정해 두고, 두 점을 지나는 직선이 이 곡선과 만나는 두 점까지 고려한 복비⁠(cross-ratio)⁠로 거리를 정의하면 유클리드의 거리가 그 특별한 경우로 나온다는 것을 보였습니다. 그는 이것을 "사영기하가 곧 모든 기하"라는 말로 요약했습니다. 1871년 젊은 펠릭스 클라인은 절대를 실제 원으로 고르면 원 안에서 로바쳅스키의 쌍곡기하⁠(hyperbolic geometry)⁠가 그대로 성립한다는 것을 알아챘고, 이것이 비유클리드 기하⁠(non-Euclidean geometry)⁠가 모순이 없다는 가장 깔끔한 증명 가운데 하나가 되었습니다.

그는 세는 문제에도 손을 댔습니다. 1857년 미분⁠(differentiation)⁠ 연산을 되풀이하는 방식을 셀 때 가지가 뻗어 나가는 그림을 '트리'라고 불렀고(트리), 1874–75년에는 이것을 화학에 썼습니다. 탄소 원자는 팔이 넷인 꼭짓점⁠(vertex)⁠, 수소는 팔이 하나인 끝점으로 보면 알케인 CₙH₂ₙ₊₂의 구조는 트리가 되고, 분자식이 같은데 구조가 다른 이성질체⁠(isomer)⁠의 수를 트리를 세어 구할 수 있습니다. 탄소가 넷인 부탄은 두 가지, 다섯인 펜테인은 세 가지, 여섯인 헥세인은 다섯 가지입니다. 1889년에는 꼭짓점 n개에 모두 이름을 붙였을 때 가능한 트리가 $n^{n-2}$개라는 공식을 발표했습니다. 꼭짓점이 셋이면 3개, 넷이면 16개입니다. 보르하르트가 1860년 행렬식으로 먼저 얻은 결과였지만 오늘날 케일리 공식⁠(Cayley's formula)⁠이라 부르고, 1918년 프뤼퍼는 각 트리를 길이 n − 2의 수열과 하나씩 짝짓는 일대일 대응⁠(one-to-one correspondence)⁠으로 이를 다시 증명했습니다. 1937년 헝가리 출신의 포여는 케일리의 화학 문제를 생성함수⁠(generating function)⁠와 군으로 세는 일반 이론으로 발전시켰습니다.

1878년 그는 런던 수학회 모임에서 네 가지 색으로 모든 지도를 칠할 수 있다는 추측이 증명되었는지 물었고, 이듬해 왜 이 문제가 어려운지를 설명하는 짧은 글을 왕립 지리학회 회보에 실었습니다. 한 점에서 세 나라만 만나는 지도만 따지면 된다는 것도 그가 지적했습니다. 1879년 켐프가 증명을 발표했고, 11년 뒤 그 증명의 오류가 드러나면서 4색 정리⁠(four color theorem)⁠는 한 세기 가까이 그래프 이론의 가장 유명한 문제로 남았습니다.

1863년 케임브리지에 새로 생긴 새들러 순수 수학 교수 자리가 그에게 돌아갔습니다. 봉급은 변호사 수입보다 적었지만 그는 기꺼이 돌아왔고, 같은 해 수전 몰린과 결혼했습니다. 그는 여성의 대학 교육을 지지했고, 산을 오르고 수채화를 그리고 소설을 즐겨 읽었다고 전합니다. 1882년에는 존스홉킨스 대학 교수로 있던 실베스터의 초청으로 미국 볼티모어에서 한 학기 강의했고, 같은 해 왕립학회의 코플리 메달을 받았습니다. 그의 논문은 거의 1,000편에 이르러, 1889년부터 나온 전집은 13권이 되었습니다. 1895년 케임브리지에서 세상을 떠났습니다.

그가 세운 대상들은 20세기 과학의 기본 언어가 되었습니다. 1925년 하이젠베르크가 원자의 스펙트럼을 설명하려고 만든 이상한 곱셈표를 보고 괴팅겐의 보른이 그것이 바로 행렬의 곱셈임을 알아본 것은 유명한 이야기입니다. 오늘날 컴퓨터 그래픽, 통계⁠(statistics)⁠, 기계 학습⁠(machine learning)⁠은 모두 행렬의 곱⁠(matrix multiplication)⁠으로 움직입니다. 수를 늘어놓은 표 하나가 변환 하나를 뜻한다는 그의 발상은 표현 바꾸기의 대표적인 예입니다. 그가 처음 앉은 새들러 교수 자리는 뒤에 포사이스와 홉슨을 거쳐 1931년 하디에게 이어졌습니다(20세기 초 케임브리지).

이어지는 곳. 그의 대수는 행렬, 행렬 곱, 행렬식, 고유벡터⁠(eigenvector)⁠로, 추상적인 군은 군과 순열로 이어집니다. 트리를 세는 공식은 트리와 최소 신장 트리⁠(minimum spanning tree)⁠에, 사영 계량은 사영기하와 쌍곡기하에 있습니다. 사원수의 해밀턴, 불변량의 씨앗을 뿌린 불, 그의 계량으로 비유클리드 기하를 정리한 펠릭스 클라인을 함께 읽으면 좋습니다.

관계.

• 영향을 받음 윌리엄 로언 해밀턴 — 해밀턴의 사원수가 나온 지 두 해 만인 1845년 팔원수⁠(octonion)⁠를 발표했고(그레이브스가 1843년 먼저 찾았지만 발표가 늦었습니다), 행렬이 자기 특성다항식을 만족한다는 그의 정리에는 뒤에 해밀턴의 이름이 함께 붙었습니다.
• 영향을 받음 조지 불 — 불이 1841년 『케임브리지 수학 저널』에 낸 선형 변환 아래의 불변량 논문에서 출발해, 1845년 불변식 이론⁠(invariant theory)⁠을 시작했습니다.
• 영향을 줌 펠릭스 클라인 — 1859년 원뿔곡선 하나를 기준으로 거리를 정의한 그의 사영 계량을, 클라인이 1871년 비유클리드 기하의 모형으로 썼습니다.

연표.

• 1838년 케임브리지 트리니티 칼리지에 들어가다
• 1842년 시니어 랭글러이자 스미스상 1등으로 졸업하다
• 1845년 선형 변환의 불변식과 팔원수에 관한 논문을 내다
• 1849년 변호사가 되어 런던에서 부동산 문서를 다루기 시작하다
• 1854년 군을 추상적으로 정의한 논문을 내다
• 1857년 트리를 세는 첫 논문을 내다
• 1858년 「행렬 이론에 관한 논고」를 발표하다
• 1859년 「여섯째 양식론」에서 원뿔곡선으로 거리를 정의하다
• 1863년 케임브리지의 초대 새들러 순수 수학 교수가 되고 결혼하다
• 1878년 런던 수학회에서 4색 문제가 풀렸는지 묻고, 군을 그래프로 그리다
• 1882년 존스홉킨스 대학에서 한 학기 강의하고 코플리 메달을 받다
• 1889년 이름 붙은 꼭짓점 n개 위의 트리가 n^(n−2)개임을 발표하다