층: 국소에서 전체로(Sheaf)

둥근 경주로를 카메라 세 대가 나눠 찍는다고 합시다. 각 카메라는 경주로의 한 구간(호)을 보고, 구간끼리는 조금씩 겹칩니다. 카메라마다 자기 구간의 노면 온도를 잰다면, 겹치는 곳에서 두 카메라의 값이 서로 맞기만 하면 경주로 전체의 온도 분포 하나를 이어 붙일 수 있고, 그 방법은 하나뿐입니다. 어느 점이든 적어도 한 카메라가 보고 있고, 두 카메라가 함께 보는 곳에서는 값이 같기 때문입니다. 이번에는 온도 대신 '동쪽에서 시계 반대 방향으로 잰 방향각'을 적게 합시다. 각은 한 바퀴마다 360°씩 더할 수 있으므로, 카메라 i는 자기 구간에서 잰 각에 $360°\times k_i$를 더해 적습니다. 구간 안에서는 각이 끊기지 않고 이어지게 적을 수 있습니다. 그런데 셋을 모두 이어 붙일 수 있을까요?

공간: . $k_1 =$ , $k_2 =$ , $k_3 =$ . 흰검은 점을 끌면 그 점에서 각 구간이 적은 각을 보여 줍니다.

원에서는 어떻게 해도 셋이 동시에 맞지 않습니다. U₁과 U₂가 맞으려면 $k_1 = k_2$, U₂와 U₃가 맞으려면 $k_2 = k_3$여야 하는데, U₃는 210°에서 시작해 360°를 넘어 390°까지 끊기지 않고 세어 가므로 0° 근처에서 U₁보다 360° 크게 적습니다. 세 곳의 어긋남 $(\theta_2-\theta_1) + (\theta_3-\theta_2) + (\theta_1-\theta_3)$을 더하면 $k_i$를 어떻게 골라도 늘 −360°, 곧 한 바퀴입니다. k를 바꾸면 한 곳의 어긋남이 줄어드는 만큼 다른 곳이 늘 뿐이지요. 같은 자료를 '나선'으로 펼친 공간에 놓으면 U₃와 U₁이 만나지 않으니 k를 모두 같게 해 이어 붙일 수 있습니다. 국소적으로는 어디서나 되는 일이 전체에서는 공간의 모양 때문에 안 되는 것입니다. 복소평면⁠(complex plane)⁠에서 편각(각도)을 원점을 도는 고리 위 전체에 연속으로 정할 수 없는 까닭이 이것이고(극형식⁠(polar form)⁠), 그래서 복소 로그를 원점을 도는 영역 전체에서 하나로 정할 수 없습니다.

이 이야기를 정확히 적는 틀이 층입니다. 위상 공간⁠(topological space)⁠ X의 열린 집합 U마다 'U 위의 자료'들의 집합⁠(set)⁠ $\mathcal F(U)$(그 원소⁠(element)⁠를 U 위의 단면이라 부릅니다)를 정하고, V ⊆ U이면 U 위의 자료를 V로 좁혀 보는 제한 $s\mapsto s|_V$를 정합니다. 제한은 U를 U로 좁히면 아무것도 하지 않고, 두 번에 나눠 좁히든 한 번에 좁히든 같아야 합니다. 이것을 준층(presheaf)이라 합니다. 열린 집합들을 포함 관계로 순서 지으면 범주⁠(category)⁠이고, 준층은 그 범주에서 집합의 범주로 가며 화살표의 방향을 뒤집는 함자⁠(functor)⁠입니다. 준층이 층(sheaf)이려면, U를 덮는 열린 집합들 $U = \bigcup_i U_i$가 무엇이든 다음 두 조건을 만족해야 합니다.

• 국소성. U 위의 두 단면이 모든 $U_i$로 좁혔을 때 같으면, 두 단면은 같다.
• 붙이기. 각 $U_i$ 위의 단면 $s_i$가 겹치는 곳마다 서로 맞으면($s_i|_{U_i\cap U_j} = s_j|_{U_i\cap U_j}$), 모든 i에 대해 $s|_{U_i} = s_i$인 U 위의 단면 s가 있다.

둘을 합치면 '겹치는 곳에서 맞는 국소 자료의 모음'과 '전체 자료'가 정확히 하나씩 대응한다는 뜻이고, 보편 성질⁠(universal property)⁠의 말로는 요약의 식처럼 $\mathcal F(U)$가 두 제한 사상의 동등자⁠(equalizer)⁠라는 뜻입니다.

무엇이 층이고 무엇이 아닌지가 이 정의의 요점을 보여 줍니다. 연속 함수는 층입니다. 연속은 점마다 그 근처만 보고 판정하는 성질이라, 조각마다 연속이고 겹치는 곳에서 맞는 함수들을 이어 붙이면 연속 함수가 됩니다. 미분⁠(differentiation)⁠ 가능한 함수, 미분방정식⁠(differential equation)⁠의 해도 같은 까닭으로 층을 이룹니다. 반면 유계인 함수는 층이 아닙니다. 실수⁠(real number)⁠ 직선을 구간 (n − 1, n + 1)들로 덮으면 f(x) = x는 구간마다 유계이고 겹치는 곳에서 서로 맞지만, 붙인 결과는 유계가 아닙니다. 상수 함수도 층이 아닙니다. 서로 떨어진 두 구간에서 각각 0과 1인 상수 함수는 겹치는 곳이 없어 조건 없이 붙지만, 붙인 결과는 상수가 아닙니다. 붙여서 나오는 것은 '국소적으로 상수인 함수'이고, 준층을 이렇게 가장 작게 고쳐 층으로 만드는 일을 층화(sheafification)라 합니다. 요컨대 층이 담는 성질은 국소적으로 확인되는 성질이고, 유계나 상수처럼 전체를 한꺼번에 봐야 하는 성질은 층이 되지 않습니다.

방향각의 예는 층의 조건이 무엇을 약속하지 않는지도 보여 줍니다. '각 구간 위에서 끊기지 않게 적은 방향각'들은 층을 이룹니다. 겹치는 곳에서 맞는 것들은 늘 붙습니다. 다만 층의 조건은 서로 맞는 국소 자료가 있다면 붙는다는 것이지, 그런 자료가 있다고 약속하지는 않습니다. 원 위에서는 각 구간마다 단면이 있는데도 전체 단면은 없습니다. 그림에서 겹치는 곳의 어긋남을 모은 것이 체흐 코호몰로지⁠(cohomology)⁠의 '1차 코사이클'이고, k를 바꿔서는 지울 수 없는 합 −360°가 그 코호몰로지 류입니다. 원의 이 코호몰로지 군은 정수⁠(integer)⁠ ℤ이고, 그 정수는 고리가 원점을 몇 바퀴 감는지입니다. 층 코호몰로지는 이렇게 '국소에서 전체로 가는 길이 어디서 막히는가'를 재는 도구입니다(국소에서 전체로).

중국인의 나머지 정리⁠(Chinese remainder theorem)⁠도 흔히 '국소 자료를 붙이는 일'로 설명합니다. 어디까지가 글자 그대로이고 어디부터가 비유인지 나눠 봅시다. 서로소⁠(coprime)⁠인 4와 9에 대해 '4로 나눈 나머지⁠(remainder)⁠'와 '9로 나눈 나머지'를 아무렇게나 정하면 36으로 나눈 나머지가 정확히 하나 정해집니다. 겹치는 부분이 없어 맞춰 볼 조건이 없는 붙이기와 같은 모양입니다. 서로소가 아니면 겹침이 생깁니다. 4와 6이라면 두 나머지가 2로 나눈 나머지에서 서로 맞아야 합니다. 3(mod 4)과 5(mod 6)는 둘 다 홀수라 맞고, 실제로 x ≡ 11(mod 12)로 정확히 하나 붙습니다. 3(mod 4)과 4(mod 6)는 홀짝이 달라 붙일 수 없습니다. 식으로는 $\mathbb Z/12\to\mathbb Z/4\times\mathbb Z/6\rightrightarrows\mathbb Z/2$가 동등자라는 것으로, 층의 조건과 같은 도식입니다. 여기까지는 '같은 모양'입니다. 글자 그대로의 층은 대수기하학에 있습니다. 정수환을 소수⁠(prime number)⁠들을 점으로 하는 공간(Spec ℤ)으로 보면, '2를 뺀 곳'과 '3을 뺀 곳'은 합쳐서 모든 소수를 덮고, 그 위의 함수는 각각 분모가 2의 거듭제곱인 수(ℤ[1/2])와 3의 거듭제곱인 수(ℤ[1/3])입니다. 두 곳에서 같은 수가 되는 짝을 붙이면 분모가 2의 거듭제곱이면서 3의 거듭제곱인 수, 곧 정수가 나옵니다. $\mathbb Z[1/2]\cap\mathbb Z[1/3] = \mathbb Z$라는 이 사실이 이 공간의 구조층이 만족하는 붙이기 조건 그 자체입니다.

공학에서도 같은 틀을 씁니다. 여러 센서가 서로 겹치는 영역을 관측할 때, 센서마다의 관측값을 단면으로, 겹치는 영역에서의 일치를 붙이기 조건으로 보면 '모든 관측과 맞는 하나의 전체 그림이 있는가'가 층의 질문이 됩니다. 마이클 로빈슨의 『위상적 신호 처리』(2014)는 관측이 정확히 맞지 않을 때 얼마나 어긋나는지를 재는 방법까지 이 틀로 다룹니다. 이것이 늘 새 계산법을 주는 것은 아니지만, 무엇이 국소적인 정보이고 무엇이 붙이는 조건인지를 분명히 적게 해 줍니다.

층은 1940–45년 오스트리아의 장교 포로수용소에 갇혀 있던 프랑스 수학자 장 르레가 만들었습니다. 그는 독일의 전쟁에 쓰일 수 있는 유체역학 연구를 드러내지 않으려고 대수적 위상수학⁠(topology)⁠에 몰두했고, 수용소 안에 세운 대학에서 강의하며 층과 스펙트럼 열이라는 도구를 내놓았습니다(1946년 발표). 앙리 카르탕의 세미나와 장피에르 세르가 1950년대에 이것을 복소해석과 대수기하학의 도구로 다듬었고, 그로텐디크는 '열린 집합'과 '덮개'의 개념 자체를 넓혀(그로텐디크 위상(Grothendieck topology)), 공간이 아닌 것 위에서도 층을 생각하게 했습니다. 한 공간 위의 층 전체가 이루는 범주는 토포스⁠(topos)⁠의 원형이고, 그로텐디크는 공간보다 이 범주가 더 근본적인 대상이라고 보았습니다.

이어지는 곳. 열린 집합으로 가까움을 말하는 방법은 위상수학에, 점 근처만 보고 판정하는 성질의 대표인 연속은 그 페이지에 있습니다. 준층이 방향을 뒤집는 함자이고 붙이기 조건이 동등자라는 것은 보편 성질의 말입니다. 국소 자료가 전체로 붙지 않는 까닭을 재는 생각은 국소에서 전체로가 여러 분야에서 따라가는 주제이고, 나머지를 붙이는 일은 중국인의 나머지 정리와 모듈러 산술에서 볼 수 있습니다. 편각⁠(argument)⁠이 한 바퀴 돌면 360° 어긋나는 현상은 극형식과 복소수⁠(complex number)⁠에서 다시 만나고, 층들이 이루는 세계와 그 안의 논리는 토포스와 직관주의 논리⁠(intuitionistic logic)⁠로 이어집니다.