층 (수학)
수학에서, 층(層, , )은 어떤 위상 공간에서, 각 점에 국소적 구조를 붙인 것이다. 국소성에 따라, 일련의 호환 조건들을 만족시키는 국소적인 데이터를 이어붙여서 대역적인 데이터를 정의할 수 있다.
층의 개념은 위상수학·대수기하학·미분기하학에서 널리 쓰인다.
층의 정의는 보통 다음과 같은 세 단계로 이루어진다.
범주 formula_1 위의, 범주 formula_2의 값을 갖는 준층(準層, , )은 함자 formula_3이다. 여기서 formula_4은 반대 범주를 뜻하므로, formula_5는 다시 말해 formula_1에서 formula_2로 가는 반변함자로 정의된다. 이러한 준층을 대상으로 하고, 준층 사이의 자연 변환을 사상으로 가지는 범주를 formula_8라고 표기한다.
대상 formula_9 위에서의 준층 formula_10의 단면(斷面, )들로 구성된 대상 formula_11을 다음과 같이 정의한다.
고전적인 예로 formula_1가 위상 공간 formula_14의 열린집합들의 범주 formula_15인 경우를 들 수 있다. 이 경우,
이 경우, formula_1 위의 formula_2 값을 갖는 준층 formula_5는 구체적으로 다음과 같은 데이터로 주어진다.
이들은 다음과 같은 함자의 공리들을 만족시켜야 한다. 임의의 열린집합들 formula_31에 대하여,
아래 정의에서, formula_34인 경우를 생각하자. (만약 formula_2가 구체적 범주라면, 이를 집합의 범주의 부분 범주로 여겨 아래 정의를 자명하게 일반화할 수 있다.)
범주 formula_1 속에 대상 formula_37가 주어졌다고 하자.
formula_1 위에는 요네다 매장으로 인한 준층
이 항상 존재한다. formula_1 위의 다른 준층
이 주어졌을 때, 요네다 준층에서 formula_5로 가는 준층 사상(자연 변환)들의 집합
를 정의할 수 있다. 각 준층 사상 formula_44은 formula_45의 각 "열린 부분 집합"에 formula_5의 단면을 대응시킨다.
formula_1 위에 그로텐디크 위상 formula_48가 주어졌다고 하자. 그렇다면, 임의의 대상 formula_37에 대하여, 덮개체들의 집합 formula_50이 존재하며, 각 덮개체 formula_51는 formula_1 위의 준층을 이룬다. 마찬가지로, 준층 사상들의 집합
를 정의할 수 있다. 각 준층 사상 formula_54는 formula_45의 덮개에 속하는 각 "열린 부분 집합"에 formula_5의 단면을 대응시킨다.
덮개체 formula_51는 정의에 따라 formula_58의 부분 함자이므로, 자연스러운 제약 함수
가 존재한다. 이 경우, 다음과 같은 정의를 내릴 수 있다.
formula_1 위의 층들 사이의 사상은 준층으로서의 사상이다. formula_14 위의 층들의 범주는 formula_71라고 쓰며, 이는 formula_72의 충만한 부분 범주이다.
만약 formula_1의 그로텐디크 위상이 그로텐디크 준위상으로 주어진다면, 분리 준층과 층의 정의를 더 구체적으로 서술할 수 있다. formula_1가 그로텐디크 준위상 formula_75가 주어진 범주이며, formula_14가 작은 곱 및 올곱을 갖는다고 하자. formula_1의 임의의 대상 formula_37 및 덮개
가 주어졌을 때, 임의의 formula_80에 대하여, 다음과 같은 사상들이 존재한다.
위 도형에서 formula_5에 대한 상을 취하면 다음과 같다.
이들에 대한 올곱을 취하면 다음과 같은 사상들을 얻는다.
이제, 사상들의 곱을 취하면 다음과 같은 사상들을 얻는다.
만약 왼쪽의 함수가 단사 함수라면, formula_5는 분리 준층이다. 만약 왼쪽의 함수가 오른쪽의 두 함수의 동등자를 이룬다면, formula_5는 층이다.
만약 formula_1가 어떤 위상 공간 formula_14의 열린집합들의 범주 formula_92라고 하자. 이 경우, 분리 준층과 층의 정의는 다음과 같이 번역된다.
모든 열린집합 formula_45 및 그 열린 덮개 formula_94에 대하여, 함수
를 정의하자. 이를 바탕으로, 다음과 같은 두 성질을 정의하자.
국소성 공리를 만족시키는 준층은 분리 준층이며, 결합성 공리를 만족시키는 분리 준층은 층이다.
두 층 formula_107 사이의 사상 formula_108는 함자 사이의 자연 변환이다. 즉, 모든 열린 부분집합 "U"에 대해서 formula_2 속의 사상들 formula_110를 모은 것들 가운데, 제한 사상들 res와 호환되는 것들이다. 즉, 두 열린 부분집합 formula_111에 대해서 다음의 그림이 가환하여야 한다.
이 정의를 조금 더 일반화하여, 서로 다른 위상 공간 위에 정의된 층 사이에도 사상을 정의할 수 있다. 두 위상 공간 formula_112 사이의 연속 함수 formula_113 및 층 formula_114, formula_115에 대하여,
두 위상 공간에 대한 층 사이의 사상은 다음과 같이 범주론적으로 정의할 수 있다. 위상 공간의 범주 formula_116 및 범주의 범주 formula_117를 생각하자. (엄밀하게 말하면, 주어진 그로텐디크 전체에 속하는 위상 공간·범주의 범주를 생각한다.) 이 경우, 자연스러운 함자
가 존재한다. 즉, formula_121는 다음과 같은 함자이다.
그렇다면
이므로, formula_125에 대한 층 사상 formula_126는 자연 변환 formula_127이다. 구체적으로, formula_125에 대한 층 사상 formula_108는 모든 열린 formula_130에 대해서 formula_2의 사상들 formula_132를 모은 것들 가운데, 모든 "Y"의 열린집합들 formula_133에 대해서 다음의 그림이 가환하는 경우이다.
만약 formula_134인 경우, 이는 이전의 정의와 일치한다.
준층 사이의 사상도 마찬가지로 정의한다.
층은 매우 일반적인 개념이며, 응용 분야에 따라 다양한 "괜찮은 층"의 개념들이 존재한다.
보통, 함수층의 경우 어떤 환의 층에 대한 가군을 이룬다. 이러한 층을 가군층이라고 한다. 마찬가지로, 어떤 다른 환의 층에 대한 아이디얼을 이루는 층을 아이디얼 층이라고 한다.
기하학적으로, 선다발이나 인자에 대응하는 층을 가역층이라고 한다.
가장 자명한, 모든 줄기가 같은 층을 상수층이라고 한다.
위상 공간 위의 층은 범주론적 접근 대신, 기하학적으로도 정의할 수 있다. 어떤 주어진 점 formula_135 근처에서 층 formula_5가 가질 수 있는 값들의 집합을 formula_5의 줄기라고 하고, 이러한 줄기들의 집합을 에탈레 공간이라고 한다. 그렇다면 층은 에탈레 공간의 단면들의 모임으로 정의할 수 있다.
(작은) 위치 formula_138 위의 층의 범주와 준층의 범주 사이에 자연스러운 포함 관계가 존재한다.
이 함자는 왼쪽 수반 함자 formula_140를 가지는데, 이를 준층의 층화(層化, )라고 한다.
위상 공간 사이의 연속 함수가 주어지면, 이로부터 그 위에 존재하는 층들의 사상을 유도할 수 있다. 이는 함자를 이룬다. 구체적으로, 위상 공간 사이의 연속 함수 formula_113가 주어졌다고 하고, 위상 공간 formula_14 위의, 아벨 군 값을 가진 층과 층 사상들의 범주를 formula_71라고 하자. 그렇다면 다음과 같은 함자들이 존재한다.
이들은 서로 수반 함자이다. 여기서 formula_149는 유도 범주, formula_150은 오른쪽 유도 함자를 나타낸다.
직상 함자 formula_153는 다음과 같다. formula_154이라면, 열린집합 formula_155에 대하여
이다. 역상 함자 formula_157는 다음과 같다. formula_158라면, formula_14 위에 다음과 같은 준층을 정의할 수 있다. formula_27에 대하여,
여기서 formula_162은 귀납적 극한이다. 이 준층에 층화()를 가한 층을 역상 함자 formula_157라고 한다.
콤팩트 지지 직상 formula_164은 다음과 같이 정의된다. 모든 열린집합 formula_165에 대하여,
여기서 formula_167라는 것은
가 고유 함수임을 뜻한다. 콤팩트 지지 직상은 직상의 부분 함자이며, 만약 formula_125가 고유 함수라면 콤팩트 지지 직상과 직상은 일치한다.
콤팩트 지지 직상 함자 formula_147는 왼쪽 완전 함자이며, 그 오른쪽 전유도 함자()
를 취할 수 있다. 여기서 formula_172는 유도 범주를 뜻한다.
이 함자는 오른쪽 수반 함자를 가지며, 이를 예외 역상()
이라고 한다. 표기와 달리, 예외 역상 함자를 오른쪽 전유도 함자로 하는 함자 formula_174는 일반적으로 존재하지 않는다.
임의의 formula_37에 대하여, 단면 함자
는 동형 사상과 단사 사상을 보존하지만, 전사 사상은 일반적으로 보존하지 않는다. 만약 어떤 아벨 범주 formula_177에 값을 가진 층의 경우,
는 왼쪽 완전 함자이며, 따라서 이 함자의 오른쪽 유도 함자를 정의할 수 있다. 이 함자들을 층 코호몰로지라고 한다. 층들의 완전열에 대응하여 층 코호몰로지 군들의 긴 완전열이 존재한다.
아주 많은 예들이 있다.
위상 공간 formula_14의 각 열린집합 formula_27에 대하여 formula_181를 실수 연속 함수의 집합이라고 하자. 그렇다면 formula_2는 formula_92 위에 층을 이룬다. 이 경우, 값을 가지는 범주는 집합의 범주 formula_184, 아벨 군의 범주 formula_185, 또는 실수 벡터 공간의 범주 formula_186일 수 있다.
매끄러운 다양체 formula_187 위에 층 formula_188를 다음과 같의 정의하자. 열린 부분집합 formula_189에 대해 formula_190는 모든 실수값 매끄러운 함수들의 집합이다. 이는 아벨 군 또는 실수 벡터 공간 값을 갖는 층을 이룬다.
위상 공간 formula_193 사이의 연속 함수 formula_194가 주어졌다고 하자. (예를 들어, formula_195는 formula_14 위의 올다발일 수 있다.) 그렇다면 층 formula_5를 다음과 같이 정의하자.
이러한 formula_125를 formula_200의 단면이라고 한다. formula_5는 (아벨 군 또는 실수 벡터 공간 값을 갖는) 층이며, formula_5의 에탈레 공간은 formula_195이다.
국소 콤팩트하지만 콤팩트하지 않은 공간 formula_14 위에, 유계 연속 함수들의 준층 formula_205을 생각하자. 이는 준층을 이루지만, 일반적으로 층을 이루지 못한다. 예를 들어, formula_14 위의 비유계 연속 함수 formula_207를 생각하자. formula_14에, 폐포가 모두 콤팩트한 열린 덮개 formula_209를 잡으면, formula_210는 (콤팩트 공간 formula_211 위의 연속 함수이므로) 유계 함수이지만, 이들을 이어붙인 함수 formula_125는 유계함수가 아니다.
층 이론이 정확히 언제, 누구에 의하여 제창되었는지는 말하기 쉽지 않지만, 해석적 연속의 개념의 발달과 더불어서 같이 발달된 것으로 생각된다. 아무튼, 코호몰로지 이론의 기초로부터 독자적인 이론으로 발달되는 데에는 대략 15년 가량의 시간이 걸렸다.
층 이론은 대수적 위상수학에서, 코호몰로지의 개념을 일반화하기 위하여 정의되었다. 고전적으로 이는 베티 수로서 여겨졌으나, 대수적 위상수학의 여러 정의를 하기 위해서는 이를 아벨 군으로 대체하여야 한다는 것이 밝혀졌다.
1932년에 에두아르트 체흐는 체흐 코호몰로지의 개념을 정의하였고, 1936년에는 열린 덮개의 신경(nerve)을 정의하였다. 이것은 열린 덮개에 어떤 단체 복합체를 대응시킨 것이다. 체흐의 정의는 이전의 정의들보다 더 추상적이다.
체흐와 제임스 워델 알렉산더, 안드레이 콜모고로프의 업적을 바탕으로, 1938년에 해슬러 휘트니는 공사슬 복합체를 사용하여 코호몰로지를 최초로 현대적으로 정의하였다.
이 코호몰로지 이론들은 (현대적인 용어로는) 상수층을 계수로 하고 있었다. 1943년에 노먼 스틴로드는 이를 일반화하여, 위치마다 계수가 바뀔 수 있는, 즉 국소 계수를 가지는 호몰로지에 대한 이론을 발표하였다.
1945년에 장 르레는 제2차 세계 대전에서 포로 상태에 최초로 훗날 층 이론과 스펙트럼 열의 최초의 등장으로 여겨지게 되는 논문을 출판하였다. 이후 프랑스의 수학자들은 층 이론의 유용함을 곧 알아차렸다. 1947년 앙리 카르탕이 앙드레 베유에게 보낸 편지에서, 층 이론을 이용한 새로운 드람 정리의 증명 방법을 공개하였다.
르레는 열린집합 대신에 닫힌 집합들을 이용하여 층을 정의하였는데, 이는 차후 카라파스()로 불리게 된다. 이 정의는 1948년 카르탕 세미나(Cartan seminar)에서 최초로 체계화되었다.
1950년 카르탕 세미나에서는 층 이론이 카라파스 대신 에탈레 공간을 사용하여 재정의되었다. 이 세미나에서는 줄기 및 지지집합을 가진 코호몰로지가 최초로 등장하였다. 또한, 연속 함수의 스펙트럼 열이 정의되었다.
층 이론은 대수적 위상수학과 독립적으로, 다변수 복소해석학에서 또한 시초를 찾을 수 있다. 1950년에 오카 기요시는 다변수 복소해석학에서 아이디얼들의 층을 정의하였다. 이후 1951년에는 오카의 업적을 바탕으로, 카르탕 세미나에서 다변수 복소해석학의 카르탕 정리가 증명되었다.
곧 1953년 앙리 카르탕과 장피에르 세르는 벡터 다발을 일반화한 연접층을 도입하였고, 해석적 연접층의 층 코호몰로지의 유한성 정리를 증명하였다. 또한 세르는 세르 쌍대성을 증명하였다. 1954년에 세르는 유명한 논문 〈대수적 연접층〉 에서 대수기하학에서 쓸 수 있는 층 이론을 처음으로 소개하였다. 이 논문에서의 아이디어는 프리드리히 히르체브루흐에 의해서 사용되어 더욱 발달된 후 차후 1956년에 〈대수기하학에서의 위상수학적 방법〉이라는 제목으로 출판되었고, 또한 1956년 오스카 자리스키가 대수적 층 이론에 대한 논문을 발표하였다.
또한, 1958년 경 도입된 사토 미키오의 초함수(hyperfunction) 또한 자연스럽게 층 이론을 통해 정의할 수 있다는 것이 밝혀졌다.
알렉산더 그로텐디크는 범주론 및 호몰로지 대수학적인 기법으로, 층의 개념을 매우 일반적이고 추상적인 방법으로 재정의하였다. 1955년 캔자스 대학교에서의 강의에서 그로텐디크는 아벨 범주와 준층의 개념을 정의하였고, 단사 분해(injective resolution)의 개념을 도입하였다. 이로서, 임의의 위상 공간 위에서 층 코호몰로지 군은 유도 함자 및 단사층의 개념을 통해 자연스럽게 정의할 수 있게 되었다.
1957년에 그로텐디크는 유명한 도호쿠 대학 수학 저널 논문에서 호몰로지 대수학의 기초를 새롭게 썼다. 그로텐디크는 또한 그로텐디크 쌍대성(, 특이점을 가진 대수다양체에도 적용될 수 있는 세르 쌍대성의 일반화)를 증명하였다.
1958년에 로제 고드망의 표준적인 층 이론 교재 가 출판되면서, 층 이론은 현대 수학의 주류 언어의 일부가 되었고, 더이상 대수적 위상수학에서뿐만이 아니라 대부분의 수학 분야에서 쓰이게 되었다.
층들의 범주를 토포스라고 한다. 모든 토포스는 내부적 논리학을 가지며, 이 논리는 고차 직관 논리의 일종이다. 토포스 이론을 사용하여, 이 논리에 크립키-주아얄 의미론이라는 의미론을 부여할 수 있음이 알려졌다. 이는 솔 크립키의 크립키 의미론을 토포스에 대하여 일반화한 것이다.