層論

數學上，在給定拓撲空間 _X_ 上的一個**層（sheaf）** （或譯**束**、**捆**）_F_ 對於 _X_ 的每個開集給出一個集合或者一個更豐富的結構 _F_(_U_)。這個結構 _F_(_U_) 和把開集_限制（restricting）_ 到更小的子集的操作相容，並且可以把小的開集_粘_起來得到更大的。一個**預層（presheaf）** 和一個層相似，但它可能不可以粘起來。事實上，層使得我們可以用一種細緻的方式討論什麼是_局部性質_，就像應用在_函數_上的層。

## 簡介

層用於拓撲，代數幾何和微分幾何，只要想跟蹤給定的幾何空間的隨著每個開集變化的代數數據，就可以用層。他們是研究_局部有變化_（依賴於所選開集的）的對象的_全局工具_。這樣，它們是研究有局部本質的實體的全局行為的自然工具，例如開集，解析函數，流形，等等。

作為一個典型的例子，考慮拓撲空間 _X_, 對於每個 _X_ 中的開集 _U_，令 _F_(_U_) 為所有連續函數 _U_ → **R** 的集合。如果 _V_ 是 _U_ 的開子集，則 _U_ 上的函數可以限制到 _V_ 上，而我們得到映射 _F_(_U_) → _F_(_V_)。"粘合" 描述了下列過程：假設 _U_i 是給定的開集其並為 _U_，對於每個 _i_ 我們給定一個元素 _f_i ∈ _F_（_U_i），一個連續函數 _f_i : _U_i → **R**。如果這些函數在重合的地方相等，則我們可以一種唯一的方式把他們粘起來得到一個連續函數 _f_ : _U_ → **R**，它和所有給定的函數 _f_i 一致。所有集合 _F_(_U_) 的類和限制映射 _F_(_U_) → _F_(_V_) 成為一個 _X_ 上的集合的層。進一步的，每個 _F_(_U_) 是一個交換環，而限制映射是環同態，這使 _F_ 成為 _X_ 上的環的層。

作為很相似的例子，考慮一個微分流形 _X_，對於 _X_ 的每個開集 _U_，令 _F_(_U_) 為所有可微函數 _U_ → **R** 的集合。這裡同樣的有粘合，並且我們得到 _X_ 上的環的層。另一個 _X_ 上的層是，對於 _X_ 的每個開集 _U_ 給定所有定義在 _U_ 上的可微向量場的向量空間。限制和粘合向量場和函數上的操作一樣，然後我們得到流形 _X_ 上的向量空間的層。

## 形式化定義

要定義層，我們分兩步進行。第一步是引入_預層_的概念，它抓住了把局部信息和拓撲空間聯繫起來的思想。第二步是引入額外的公理，稱為_粘合公理_，它抓住了把局部信息粘合起來得到全局信息的想法。

### 預層的定義

假設 _X_ 為一個拓撲空間，而 **C** 是一個範疇（這經常是集合的範疇，交換群的範疇，交換環的範疇，或是一個固定的環上的模的範疇)。一個 **C** 中的對象在空間 _X_ 上的**預層（presheaf）** 由如下數據給出：

* 對於每個 _X_ 中的開集，給定 **C** 中一個對象 _F_（_U_）
* 對於每個開集之間的包含關係 _V_ ⊂ _U_，給定範疇 **C** 中的一個態射 resU,_V_ : _F_(_U_) → _F_(_V_)。這稱為**限制態射**。該限制態射滿足以下兩點性質：
  * 對於 _X_ 中每個開集 _U_，我們有 resU,_U_ = idF(_U_)，也即，從 _U_ 到 _U_ 的限制是 _F_(_U_) 上的恆等態射。
  * 給定任何三個開集 _W_ ⊂ _V_ ⊂ _U_，我們有 resV,_W_ ○ resU,_V_ = resU,_W_, 也即從 _U_ 到 _V_ 再到 _W_ 的限制和從 _U_ 直接到 _W_ 的限制相同。

這個定義可以用範疇論的術語很自然的表達。首先我們定義 _X_ 上的開集的範疇為範疇 TopX，其對象是 _X_ 的開集而其態射為包含映射。TopX 就成了和 _X_ 的開子集上的偏序⊂相關的範疇。一個 _X_ 上的 **C** 預層就是從 TopX 到 **C** 的反變函子。

若 _F_ 是一個 _X_ 上的 **C**- 值預層，而 _U_ 是一個 _X_ 的開子集，則 _F(U)_ 稱為 _F_ 在 _U_ 上的_截面_。（這是因為和纖維叢的截面相似；參看下面的內容）。若 **C** 是一個具體範疇，則 _F(U)_ 的每個元素稱為一個_截面_。_F(U)_ 也常記為 Γ（_U_,_F_）。

### 粘合公理

_高層次的討論請參看主條目粘合公理_

層是小開集上面的截面可以粘合成為大開集上的截面的預層。這裡粘合公理會以一種要求 **C** 為一個具體範疇的形式給出。

令 _U_ 為一個開集族 {_Ui_} 的併集。對於每個 _Ui_，選定一個截面在 _Ui_ 上的 _fi_。我們稱 _fi_ 是_相容的_如果對於每個 _i_ 和 _j_, 

　
: resUi,_Ui_∩_Uj_(_fi_) = resUj,_Ui_∩_Uj_(_fj_).

直觀的講，如果 _fi_ 表示函數，這是在說任何兩個相容的函數在它們重疊的地方一致。層公理說我們可以從 _fi_ 產生一個唯一的 _U_ 上的截面 _f_，其到每個 _Ui_ 的限制為 _fi_, 也即，resU,_Ui_(_f_)=_fi_。有時，這會分為兩個公理，一個保證存在性，而另一個保證唯一性。

## 例子

除了簡介中給出的連續函數的層，可微函數的層和向量場的層之外，截面的層也是很重要的例子。假設 _E_ 和 _X_ 為拓撲空間而 π : _E_ → _X_ 是一個連續函數。對於 _X_ 中的每個開集 _U_，令 _F_(_U_) 為使得 π(_f_(_x_)) = _x_ 對於所有 _U_ 中的 _x_ 成立的所有連續映射 _f_ : _U_ → _E_ 的集合。這樣的函數 _f_ 稱為 **π 的截面**。不難驗證 _F_ 是 _X_ 上集合的層。實際上，每個 _X_ 上集合的層基本上都是這個類型，對於某一個特殊的映射 π 來說；參看下面的內容。

給定一個 _X_ 上的層 _F_ on _X_,_F_(_X_) 的元素也稱為**全局截面**，這是一個從上面的例子中來的術語。

進一步的例子：

* 任何纖維叢產生一個集合的層，通過取截面就可以得到。
* 賦環空間是有賦交換環層的空間；特別重要的有局部賦環空間，其中每個莖（參看下面）是局部環。
* 概形是特殊的局部賦環空間，在代數幾何中很重要；模的層在相關理論中很重要。

## 層的態射

令 _F_ 和 _G_ 為 _X_ 上兩個層，都在範疇 _C_ 中取值。我們定義從 _G_ 到 _F_ 的態射為一族在範疇 _C_ 內對於所有在 _X_ 中的開 _U_ 的態射 φU : _G_(_U_) → _F_(_U_)，它們和限制映射可交換。也就是，下面的圖必須可交換

對於 _X_ 中的每一對開集 _U_ ⊆ _V_。若 _F_ 和 _G_ 視為從 TopX 到 _C_ 的反變函子，則它們之間的態射不過就是一個自然變換（natural transformation）。採用這個定義，所有 _X_ 上的 _C_- 值層構成一個範疇（一個函子範疇）。_X_ 上的層的一個_同構_就是這個範疇里的一個同構。

可以把這個概念推廣到不同空間上的層之間的態射。令 _f_ : _X_ → _Y_ 為一個兩個拓撲空間之間的連續函數，並令 _F_ 為 _X_ 上的層且 _G_ 為 _Y_ 上的層，二者都在 _C_ 中取值。那麼從 _G_ 到 _F_ 的相對於 _f_ 的態射為一族態射 φU : _G_(_U_) → _F_(_f_−1(_U_)) 對於 _Y_ 中每個開集 _U_，使得圖

對於 _Y_ 中每一對開集 _U_ ⊆ _V_ 可交換。前面的定義是 _f_ 是 _X_ 上的恆等映射時的特殊情況。

在一般情況中範疇理論的表述稍微複雜一點。令 Top 為從拓撲空間範疇 **Top** 到小範疇範疇 **Cat** 的反變函子，它把每個拓撲空間 _X_ 映到其開集的偏序集範疇 TopX。這裡 Top (_f_) 是一個反變函子，從 TopY 到 TopX，把每個開集映到它的原象。把 _F_ 和 Top (_f_) 複合，我們得到一個從 TopY 到 _C_ 的反變函子。一個從 _G_ 到 _F_ 相對於 _f_ 的態射就是從 _G_ 到 _F_ ○ Top(_f_) 的自然變換。

注意上面所有這些對於預層也成立。

## 層在一點的莖和函數的芽

固定 _X_ 中一點 _x_。我們要研究 _F_ 在點 _x_ 附近的行為。在分析術語中，我們要在越來越靠近點 _x_ 時取某種極限。相應的概念是 _F_(_N_) 在 _N_ 跑遍 _x_ 的以包含關係排序的領域時的有向極限（direct limit，用範疇論術語，這是一個余極限（colimit）的例子）。我們把該極限記為 _Fx_ 並稱它為 _F_ 在 _x_ 的**莖（stalk）** 。如果 _F_ 是 _X_ 上的 **C**- 值層，則莖 _Fx_ 是 **C** 的一個對象，對於像交換群範疇或交換環範疇這樣的範疇來說。

對於任意包含 _x_ 的開集 _U_，存在一個從 _F_(_U_) 到 _Fx_ 的態射。如果 **C** 是一個具體範疇，則應用這個態射到 _Fx_ 中的一個元素 _f_ 上就得到 _Fx_ 的一個元素，稱為 _f_ 在 _x_ 的**芽（germ）** 。

這和在數學的其他地方所用的_函數的芽_的概念對應。直觀的講，函數 _f_ 在 _x_ 的芽決定了 _f_ 在 _x_ 的局部行為；它是 _f_ 的一種_幽靈_，只在離 _x_ 很近的地方可以看。參看局部環中給出的詳細例子。

對於某些層，芽的行為很好，可以給出好的局部信息；解析函數在一點附近的芽通過它的冪級數擴張決定了函數在一個小領域的取值。但是，有些層行為不好；光滑函數的芽在任意一點都不決定任何一個該點的小領域的函數值。作為一個例子，取任何隆起函數。它在它為 1 的區間是常數函數的局部行為，但是知道隆起函數在一點附近是常數 1 並不告訴你函數在哪裡開始衰減；從它局部的行為，你甚至不能肯定它是一個隆起函數！

## 層的平展空間

層論發展的早期，就證明了給定層 _X_ 上的 _F_ 和給定一個特定拓撲空間 _E_ 以及一個從 _E_ 到 _X_ 的連續函數一樣。更精確的講：對於一個 _X_ 上的集合層 _F_，存在一個局域同胚

　
: π: _E_ → _X_

使得 _F_ 和上節例子中所述的 π 的截面層同構。

進一步的有，空間 _E_ 是確定的，最多差一個 _F_ 的同胚。這是 _F_ 的_莖空間_：每個莖給了離散拓撲，並且我們取所有莖的不交並，而 π 把所有的莖 _F_x 映射到 _x_。這個莖的空間的拓撲可以取為這樣一個拓撲，它使得層 _F_ 可以從 π 截面的層中重建出來。

在高一級的抽象中，我們可以說 _X_ 上的集合的層的範疇是等價於到 _X_ 的局部同胚的範疇的。（也可以從可表示函子的理論的角度來考慮這樣一個空間；歷史表明這個理論也在 1950 年代中期發展出來）。

在 Godement 的深具影響的關於同調代數和層論的書中（_Topologie Algebrique et Theorie des Faisceaux_, R. Godement），空間 _E_ 被稱為 **espace étalé**(平展空間); 在那本書中，層事實上_定義_為從局部同胚的截面得到；上面給出的函子方式的定義後來才出現，但現在更為普遍。

上面的考慮對於 _X_ 上的 **C** 層也成立：我們還是從莖的空間出發，每個莖是 **C** 中的一個對象，而截面自然也成為 _C_ 中的對象。

給定任意連續映射 _g_ : _Z_ → _X_, 相應的截面的層給了上述方式的莖的空間 _E_ 和一個局部同胚 π : _E_ → _X_。在某種意義上，這是處理映射 _g_ 的所有 ' 分支 '，並且是以 ' 儘可能最好的方式 '。這可以用共軛函子表示；但是從某種意義上講層的更廣泛的概念遠離了幾何直覺。

## 推廣

可以定義一個交換群的層的上同調理論（層上同調），它可以給出很多有用的更具體的信息。主要的問題是長正合序列的存在性來自於層的一個正合序列。在應用中，重點曾被放在比有限復空間更不行為良好的空間的層上。例如，代數幾何中有 Zariski 拓撲的空間很少滿足豪斯多夫性質。

代數幾何的情況最早是 Jean-Pierre Serre（塞爾）通過發展 Cech 上同調的相似物來處理的；這樣做可以，但是一般來講這種構造沒有好的性質。然後格羅滕迪克（Alexander Grothendieck）使用全局截面函子的導函子，給出了更好的解決方案。

格羅滕迪克想要發展層的一個上同調理論，以得到更強的結果，並且，特別的有，能夠允許 Weil 猜想的證明。通過精確的分析定義層所需的 _X_ 的性質，他在一個範疇上定義了格羅滕迪克拓撲的概念（這有些兜圈子 — 參看拓撲斯理論的背景和創立（background and genesis of topos theory））。

有格羅滕迪克拓撲的一個範疇稱為一個 _site（站）_ 。可以在任意站上定義層的概念。站的概念後來導致 Lawvere 發展出基本拓撲斯的概念。

## 歷史

**層論**最初的起源很難確認 — 它們可能和解析延拓的思想共存。可以識別的獨立的層論才從上同調的基礎工作中出現大約花了 15 年的時間。

* 1936 年 Eduard Čech 引入_神經（Nerve）_ 構造，以將一個簡單復形關聯到一個開覆蓋。
* 1938 年 Hassler Whitney 給出上同調的一個 ' 現代 ' 定義，歸納了自 J. W. Alexander 和 Kolmogorov 首次定義_余鏈（cochain）_ 以來的工作。
* 1943 年諾曼・斯廷羅德發表了關於_帶局部係數_的同調類的工作。
* 1945 年 Jean Leray 發表了作為 POW 進行的工作，由應用到偏微分方程理論的不動點定理的證明作為其動機；它是層論和譜序列的開始。
* 1947 年昂利・嘉當在和安德烈・韋伊的通信中用層的方法重新證明了德拉姆定理。Leray 在他的課程中通過閉集（後來的_殼（carapaces）_ ) 給了一個層的定義。
* 1948 年卡當研討班首次寫下層論
* 1950 年卡當研討班的層論 ' 第二版 ': 使用了層空間（_éspace étalé_，平展空間）的定義，採用莖方面的結構。支集和有支集的上同調被引入。連續映射導致了譜序列。同時 Kiyoshi Oka 在多復變量中引入和理想的層相似的思想。
* 1951 年嘉當研討班基於 Oka 的工作證明了定理 A 和 B]。
* 1953 年一致層的有限性定理在解析理論中由卡當和塞爾證明，塞爾對偶性也得到了證明。
* 1954 年塞爾的論文 _Faisceaux algébriques cohérents_（發表於 1955 年）把層引入代數幾何。這些思想很快為 Hirzebruch 所採用，他在 1956 年寫了一本拓撲方法的重要著作。
* 1955 年格羅滕迪克在堪薩斯的講演中定義了可交換範疇和_預層_，然後使用單射解決（injective resolution）使得層上同調可以在所有拓撲空間作為導函子直接使用。
* 1956 年扎里斯基（Oscar Zariski）的報告_代數層論，第二個夏季學院的科學報告：多復變量 [1954 年，Boulder (Col.)]_, 第三部，美國數學學會公告，t. 62, 1956 年，117-141 頁.
* 1957 年格羅滕迪克的 _Tohoku_ 論文重寫了同調代數；他證明了格羅滕迪克對偶性（也即，對於可能有奇點的代數簇的塞爾對偶性）。
* 1958 年 Godement 關於層論的著作出版。大約同一時間 Mikio Sato 建議了他的超函數，它具有層論的本質。
* 1957 年以後：格羅滕迪克按照代數幾何的需要擴展了層論，引入：概形和其上的一般層，_局部上同調_，導範疇（derived category，與 Verdier 的共同工作)，以及格羅滕迪克拓撲。也出現了他極有影響的同調代數的 ' 六操作 ' 的概形思想。

至此，層成為數學的一個主流部分，其應用根本不局限於代數拓撲。後來層範疇的邏輯被發現是直覺邏輯（該發現現在經常被稱為 Kripke-Joyal 語義，但可能應該歸功於一系列作者）。這表明層論的某些方面甚至可以追述到萊布尼茲。

## 參看

* Gerbe
* 堆 (範疇論)

## 參考

* _Topologie algébrique et théorie des faisceaux_, Roger Godement
* _The Theory of Sheaves_ (University of Chicago Press,1964) R. G. Swan（concise lecture notes）
* _Sheaf Theory_ (London Math. Soc.Lecture Note Series 20, Cambridge University Press, 1975) B. R. Tennison（pedagogic treatment）
* _Sheaf Theory_, 2nd Edition (1997) Glen E. Bredon（oriented towards conventional topological applications）
* _Sheaves in Geometry and Logic_ (Springer-Verlag, 1992) S. Mac Lane and I. Moerdijk（category theory and toposes emphasised）
* _Topological methods in algebraic geometry_ (Springer-Verlag, Berlin, 1995) F. Hirzebruch（updated edition of a classic using enough sheaf theory to show its power）
* _Sheaves on Manifolds_ (1990) M. Kashiwara and P. Schapira (advanced techniques such as the derived category and vanishing cycles on the most reasonable spaces)