层 (数学)

数学中，层（sheaf，或译束、捆）是一种系统地追踪数据的工具。数据附着在拓扑空间的开集上，局部定义于开集本身。例如，数据可以是定义在开集上的连续函数环。这些数据的行为是良好的：可限制在更小的开集中，而且（直观地说）每个数据都是其组成数据之和。这样，它们是研究有局部本质的实体的全局行为的自然工具，例如开集，解析函数，流形，等等。
研究层的数学领域叫做层论（sheaf theory）。
从概念上讲，层是比较一般、抽象的数学对象，其正确定义是相当技术性的。例如，根据分配给开集的数据类型，可分为集合层、环层等。
相同类型的层之间可以定义映射（或称态射），这使得（同类型的）层构成了一个范畴。另一方面，每个连续映射都关联着直像函子（将定义域上的层与态射送到到达域的层与态射）和反像函子（代表相反的运算）。这些函子及其部分变体是层论的重要组成部分。
层由于其普遍性与多功能性，在拓扑学，特别是代数几何与微分几何中有多种应用。
定义与例子.
在很多数学分支中，很多定义在拓扑空间"X"上的结构（如微分流形）可很自然地「局部化」或「限制到」开子集formula_1：典型例子如连续实值或复值函数、"n"次可微函数、有界实值函数、向量场、空间上任意向量丛的截面等等。将数据限制在更小开子集上的能力产生了预层（presheaf）的概念，粗略地说就是局部数据可粘合到全局数据。
预层.
设"X"为拓扑空间，C是范畴（常是集合范畴、交换群范畴、交换环范畴，或固定的环上的模范畴)。C中的物件在空间"X"上的预层（presheaf） formula_2 由如下数据给出：
预层的很多例子来自不同类函数：对任意"U"，可给其上的连续实值函数集formula_20分配限制映射，限制映射就是将"U"上的连续函数限制到开子集"V"，且又是连续函数。两条预层公理立即得到检验，从而给出预层例子。这可以扩展成全纯函数层formula_21与光滑函数层formula_22。
另一类常见例子是将"U"上的常实值函数集分配给"U"，这个预层也叫做关联于formula_23的常预层，记作formula_24。
这个定义可以用范畴论的术语很自然的表达。首先我们定义"X"上的开集的范畴为范畴formula_25，其对象是"X"的开集而其态射为包含映射。formula_25就成了和"X"的开子集上的偏序⊂相关的范畴。"X"上的C预层就是从formula_25到C的反变函子。
层.
给定预层，很自然的问题是，它在开集"U"上的截面在多大程度上由到"U"开子集的限制决定。确切地讲，预层的截面由限制条件唯一决定时，即成为层。
层是满足以下两条公理的预层：
两个公理中，关于开覆盖的假设等价于假设formula_39。
公理2保证存在的截面"s"称作截面formula_40的粘合（gluing）、连接（concatenation）或整理（collation）。据公理1，是唯一的。满足公理2的一致前提的截面formula_41常称作相容（compatible），于是公理1、2共同说明：任何成对相容截面的集合都可唯一地粘合起来。分离预层（separated presheaf）或单预层（monopresheaf）是满足公理1的预层。
上述由连续函数组成的预层是层。这简化为检验给定连续函数formula_42（在交formula_43上一致）是否有唯一的连续函数formula_44，其限制等于formula_45。相比之下，常预层常常不是层，因为不满足空集上的局部性公理。
预层和层一般用大写字母表示，"F"尤为常见，应为法语表示“层”的"faisceau"的首字母。花体字母也常见，如formula_46。
可以证明，要指定一个层，只需指定其对底空间拓扑基开集的限制即可。此外，还可证明，只要验证覆盖的开集是否符合层公理即可。这个观察用来构造代数几何中十分重要的准凝聚层。这里所说的拓扑空间是交换环"R"的谱，其点是"R"中的素理想"p"。开集formula_47构成了空间上的扎里斯基拓扑的基。给定"R"基"M"，Spec "R"上有层formula_48，满足
还有一种与前述等价的层表示。当且仅当对任意开"U"、"U"的任意开覆盖formula_50，都有formula_51是纤维积formula_52时，预层formula_46是层。这在构造层时特别有用，例如若formula_54是阿贝尔层，则层态射formula_55的核也是层，因为射影极限与射影极限可交换。上核不总是层，因为诱导极限不一定与射影极限可交换。一种解决方法是考虑诺特拓扑空间：开集都紧，由于有限射影极限与诱导极限可交换，所以上核是层了。
更多例子.
连续映射的截面层.
拓扑空间的任何连续映射formula_56决定了"X"上的层formula_57，方法是置
这样的"s"一般叫做"f"的截面，这个例子也就是formula_5中的元素通常叫截面的原因。当"f"是纤维丛在基空间上的投影时，这种构造尤为重要。例如，光滑函数层是平凡丛截面层。另一例：
的截面层是"U"上复对数的分支集合分配给任意"U"的层。
给定一个点"x"与阿贝尔群"S"，摩天层（skyscraper sheaf）formula_61的定义如下：若"U"是含"x"的开集，则formula_62；否则formula_63，是平凡群。若开集都包含"x"，则限制映射是"S"上的恒等映射，否则是零映射。
流形上的层.
"n"维formula_64流形"M"上，有很多重要的层，如"j"阶连续可微函数层formula_65。它在某开"U"上的截面是formula_66函数formula_67。对formula_68，这个层称为结构层，记作formula_69。非零formula_64函数也形成一个层，记作formula_71。（度为"p"的）微分形式也形成层formula_72。所有例子中，限制态射都由限制函数或形式给出。
将"U"分配到"U"上的紧支持函数不是层，因为一般没法传递到更小开子集后仍保留这性质。相反，这形成了上层的对偶概念，其中限制映射的方向与层相反。然而，从这些向量空间的对偶空间中确实可得到一个层，即分布层。
不是层的预层.
除了上述常预层外，还有很多不是层的预层：
限制映射formula_75是formula_76在第一坐标的投影，限制映射formula_77是formula_76在第二坐标的投影。"F"是不分离的预层：全局截面由3个数确定，但截面在formula_79上的值则只决定了其中2个数字。因此，虽然可将formula_79上的任意两截面粘在一起，但没有唯一的粘合。
复解析空间和代数几何的动机.
层的历史动机之一来自研究复流形、复解析几何与代数几何中的概形论。这是因为在前面的所有情形中，我们考虑的都是拓扑空间"X"及赋予其复流形、复解析空间或概形结构的结构层formula_87。这种为拓扑空间配备层的观点对局部赋环空间理论至关重要（下详）。
复流形的技术挑战.
引入层的主要历史动机之一，是构造一种跟踪复流形上全纯函数的结构。例如，紧复流形"X"（如复射影空间或齐次多项式射影空间的趋零轨迹）上，唯一的全纯函数是formula_88是常函数。这意味着存在2个不同构的紧复流形formula_89，全局全纯函数环formula_90则同构。这与光滑流形相反，当中每个流形"M"都可嵌入formula_91，于是其光滑函数环formula_92来自于对光滑函数formula_93的限制。考虑复流形"X"上的全纯函数环的另一个复杂性在于，给定足够小的开集formula_1，全纯函数将同构于formula_95。层是处理这种复杂性的直接工具，因为层能跟踪任意开子集formula_1上"X"的底拓扑空间的全纯结构。这意味着，随着"U"变得越来越复杂，环formula_97可通过粘合formula_98表达。注意，当要强调结构层所关联的空间时，有时这个层被表示为formula_99或只是formula_87、formula_101。
用层追踪子流形.
另一个常见的层的例子见于复子流形formula_102。有相关层formula_103，取开子集formula_1，并给出formula_105上的全纯函数环。这种形式化非常强大，激发了很多同调代数，如层上同调，因为相交理论可用这类层从塞尔相交公式中建立起来。
态射.
令"F"和"G"为"X"上两个层，都在范畴"C"中取值。我们定义从"G"到"F"的态射为一族在范畴"C"内对于所有在"X"中的开"U"的态射formula_106，它们和限制映射可交换。也就是，下面的图必须可交换
对于"X"中的每一对开集formula_107。若"F"和"G"视为formula_108的反变函子，则它们之间的态射不过就是自然变换。采用这个定义，所有"X"上的"C"-值层构成一个范畴（一个函子范畴）。"X"上的层的一个"同构"就是这个范畴里的一个同构。
可以把这个概念推广到不同空间上的层之间的态射。令formula_109为一个两个拓扑空间之间的连续函数，并令"F"为"X"上的层且"G"为"Y"上的层，二者都在"C"中取值。那么从"G"到"F"的相对于"f"的态射为一族态射formula_110对于"Y"中每个开集"U"，使得图
对于"Y"中每一对开集formula_107可交换。前面的定义是"f"是"X"上的恒等映射时的特殊情况。
在一般情况中范畴理论的表述稍微复杂一点。令Top为从拓扑空间范畴Top到小范畴范畴Cat的反变函子，它把每个拓扑空间"X"映到其开集的偏序集范畴formula_25。这里formula_113是反变函子，把每个开集映到它的原象。把"F"和Top("f")复合，得到formula_114的反变函子。一个从"G"到"F"相对于"f"的态射就是formula_115的自然变换。
注意上面所有这些对于预层也成立。
层的茎.
层formula_46的茎（stalk）formula_117捕捉了层在点formula_118“周围”的性质，推广了函数的芽（germ）。此处的“周围”是说要观察点附近越来越小的邻域。没有足够小的邻域时，就要考虑某种极限，更确切地说茎的定义是
有向极限（direct limit，用范畴论术语，这是一个余极限（colimit）的例子）是包含给定点"x"的"X"的所有开子集。即，茎的一个元素由"x"的某开邻域上的截面给出。两个这样的截面的限制若在更小的邻域上一致，则视作等价。
自然态射formula_120将formula_5中的截面"x"发送到"x"处的芽，推广了芽的通常定义。
很多时候，知道了层的茎就足以控制层。例如，从茎就能判断层的态射是单射、满射还是同构，这样来看层是由茎（局部数据）决定的；相对地，全局截面（整个空间"X"上的截面formula_122）携带的全局信息通常就少些，例如对紧复流形"X"，全纯函数层的全局截面就只是formula_123，因为任何全纯函数
由刘维尔定理都是常值的。
将预层变为层.
预层数据取出、表示为层总是很有用。事实证明，取预层"F"再产生新层"aF"总有最好的方法，称作层化（sheafification）或取与预层相关联的层"F"，如常预层（上详）的层化称作常层（constant sheaf）。不过，其截面是局部常值函数。
层formula_125可用"F"的平展空间构造，即作为映射
的截面层。另一种构造是通过预层到预层的函子"L"，渐进地改进预层的性质：对任意预层"F"，formula_127是分离预层；对任意分离预层"F"，formula_127是层。相关层formula_125由formula_130给出。
层formula_125是对预层"F"的最佳近似，下列泛性质使其变得更精确：有预层的自然态射formula_132，使得对任意层"G"、任意预层态射formula_133，都有唯一的层态射formula_134使formula_135。其实"a"是从层范畴到预层范畴的包含函子（或遗忘函子）的左伴随函子，"i"是伴随的单位。这样，层范畴变为预层的Giraud子范畴。这就是为什么在构造层态射或层张量积的上核时会出现层化函子，而非在构造核时出现。
子层、商层.
若"K"是阿贝尔群的层"F"的子层，则商层"Q"是与预层formula_136相联系的层；即，商层符合阿贝尔群层的正合序列（exact sequence）：
（这也称作层扩张。）
令formula_138为阿贝尔群层。层"F"到"G"的态射的集合formula_139形成阿贝尔群（由"G"的阿贝尔群结构决定）。则，"F"与"G"的层同态记作
是阿贝尔群层formula_141，其中formula_142是formula_143给出的"U"上的层（此处不需层化）。"F"、"G"的直和是formula_144给出的层，"F"、"G"的张量积是与预层formula_145相关联的层。
所有运算都可扩张到环层"A"上的模层；"A"是常层formula_146时，以上是特殊情形。
基本泛函性.
由于（预）层的数据取决于基空间的开子集，不同拓扑空间上的层彼此无关，即之间没有态射。不过，给定两拓扑空间之间的连续映射formula_147，则前推和拉回将"X"上的层和"Y"上的层联系起来，反之亦然。
直像.
层formula_46在"X"上的前推（也称作直像）是层
其中"V"是"Y"的开子集，因此根据"f"的连续性，其预像在"X"中是开的。
这构造恢复了上述摩天层formula_61：
其中formula_152是包含，而"S"被视作单元集上的层（由formula_153）。
对于局部紧空间之间的映射，有紧支撑集的直像是直像的子层。由定义，formula_154包含支撑集为"V"上的紧合映射的formula_155。若"f"自身紧合，则formula_156，但一般不一致。
逆像.
拉回或逆像则相反，在"X"上从"Y"上的层formula_157产生层formula_158。若"f"是开子集的包含，则逆像只是一个限制，即对开的formula_3，由formula_160给出。现有某空间"X"，如对一些开子集formula_84，formula_162且"F"的限制对所有开子集为常值，则层"F"是局部常层。在很多拓扑空间"X"上，这种层等价于基本群formula_163的表示。
对一般映射"f"而言，formula_158的定义更复杂，在逆像函子处很详细。从自然识别的角度来看，茎是拉回中的基本特例，其中"i"如上：
更一般地说，茎满足formula_166
零扩张.
对开子集的包含formula_167，"U"上阿贝尔群层的零扩张的定义是
对"X"上的层formula_157，这构造在某种意义上是formula_172的补充，其中"i"是"U"之补的包含：
因此，这些函子十分利于将"X"的层理论问题简化为分层问题（即将"X"分解为更小的局部闭子集）。
补.
更一般范畴中的层.
上述（预）层的formula_176只是集合，很多时候跟踪界面上的附加结构也很重要。例如，连续函数层的截面自然形成了实向量空间，限制是其间的线性映射。
在任意范畴"C"中取值的预层是这样定义的：将"X"上的开集范畴视作偏序范畴formula_177，其对象是"X"的开集，态射是包含。则，"X"上的"C"值预层等同于formula_178的反变函子。这函子范畴中的态射（也称作自然变换）与上面定义的态射相同，由定义自明。
若目标范畴"C"允许所有极限，则对任意开集"U"的每个开覆盖formula_179，若下图是等化子，则"C"值预层是层：
其中第一个映射是下面的限制映射之积：
那对箭头是两组限制集之积：
及
若"C"是阿贝尔范畴，则这条件也可改写为要求有正合序列
这层条件的特殊情形是："U"是空集，索引集"I"也是空集。这时层条件要求formula_185是"C"中的终对象。
赋环空间与模层.
在代数几何与微分几何等学科中，空间伴随着环的自然层，常称作结构层，记作formula_101。这样的对子formula_187称作赋环空间。很多种空间都可定义为某种赋环空间。通常，结构层的所有茎formula_188都是局部环，这时称作局部赋环空间。
例如，"n"维formula_64流形"M"是局部赋环空间，其结构层包含"M"的开子集上的formula_64函数。局部赋环空间的性质，意味着"x"点非零的函数在"x"的足够小的开邻域上也非零。有人将实（或复）流形定义为局部赋环空间，且局部同构于formula_91（或formula_192）的开子集及formula_64（或全纯）函数的层组成的对子。相似地，代数几何的基础空间概念——概形，是与环的谱局部同构的局部赋环空间。
给定赋环空间，模层是层formula_194，使对开集formula_195是formula_196模；对每个开集的包含formula_197，限制映射formula_198与限制映射formula_199相容：formula_200，对"fs"的限制是"f"的限制乘以"s"的限制。
最重要的几何对象是模的层。例如，向量丛与formula_101模的局部自由层间存在一一对应关系。这范式适用于实向量丛、复向量丛和代数几何中的向量丛（其中formula_202分别包含光滑函数、全纯函数与正规函数）。微分方程解的层是D模，即微分算子层上的模。在任何拓扑空间上，常层formula_146上的模都与上述意义的阿贝尔群层是一样的。
对环层的模层，有个不寻常的逆像函子，通常记作formula_204，与formula_205不同。
模层的有限性条件.
交换环上模的有限性条件也会引起类似的模层的有限性条件：若对每个点formula_118，存在"x"的开邻域"U"、自然数"n"（可能取决于"U"）及层的满射formula_207，则formula_194称作有限生成；若满射是formula_209（"m"也是自然数），则称作有限表示。与凝聚模的概念相似，若formula_194是有限类，且对每个开集"U"、每个层态射formula_211（不必是满射），formula_212的核也是有限类，则称formula_194是凝聚层。formula_101若作为自身上的模是凝聚的，则也是凝聚的。与模类似，凝聚一般是个严格强于有限表示的条件。冈凝聚定理指出，复流形上全纯函数层是凝聚的。
层的平展空间.
上面的例子中可以观察到，有些层是以截面层的形式自然出现的。实际上，集合的所有层都可表为拓扑空间的截面层，前者即是平展空间。
层论发展的早期，就证明了给定层"X"上的"F"和给定一个特定拓扑空间"E"以及一个从"E"到"X"的连续函数一样。更精确的讲：对于一个"X"上的集合层"F"，存在一个局域同胚
使得"F"和上节例子中所述的π的截面层同构。
进一步的有，空间"E"是确定的，最多差一个"F"的同胚。这是"F"的"茎空间"：每个茎给了离散拓扑，并且我们取所有茎的不交并，而π把所有的茎"F""x"映射到"x"。这个茎的空间的拓扑可以取为这样一个拓扑，它使得层"F"可以从π截面的层中重建出来。
在高一级的抽象中，我们可以说"X"上的集合的层的范畴是等价于到"X"的局部同胚的范畴的。（也可以从可表示函子的理论的角度来考虑这样一个空间；历史表明这个理论也在1950年代中期发展出来）。
在Godement的深具影响的关于同调代数和层论的书中（"Topologie Algebrique et Theorie des Faisceaux", R. Godement），空间"E"被称为平展空间（espace étalé）；在那本书中，层事实上"定义"为从局部同胚的截面得到；上面给出的函子方式的定义后来才出现，但现在更为普遍。
上面的考虑对于"X"上的C层也成立：我们还是从茎的空间出发，每个茎是C中的一个对象，而截面自然也成为"C"中的对象。
给定任意连续映射"g" : "Z" → "X",相应的截面的层给了上述方式的茎的空间"E"和一个局部同胚π : "E" → "X"。在某种意义上，这是处理映射"g"的所有'分支'，并且是以'尽可能最好的方式'。这可以用共轭函子表示；但是从某种意义上讲层的更广泛的概念远离了几何直觉。
层上同调.
在开集"U"固定、层被视为变量的情形中，集合formula_5也常表示为formula_216
如上所述，这函子并不保留满态射，层满态射formula_217是具有以下性质的映射：对任意截面formula_218，有覆盖formula_179，其中formula_220 的开子集，使限制formula_221在formula_222的像中；但"g"本身不一定在formula_176的像中。这种现象的一个具体例子是全纯函数层与非零全纯函数间的指数映射
这映射是满态射，相当于说，任意非零全纯函数"g"（如在某"C"的开子集上）允许局部的复对数，即将"g"限制到适当的开子集后，有复对数。不过"g"不一定有全局对数。
层上同调捕捉到了这一现象：对阿贝尔群层正合序列
（即满态射formula_226，核是formula_227），有长正合序列formula_228通过序列，第一上同调群formula_229是formula_230截面之间映射的非满射性的度量。
有几种不同方法构造层上同调。将其定义为formula_231的导出函子，这方法在理论上很令人满意，但由于基于单射消解，在具体计算中用处不大。Godement消解是另一种通用但实际无法使用的方法。
计算层上同调.
特别是在流形上的层的背景下，层上同调通常可由软层、细层和弛层的消解来计算。例如，单位分解表明，流形上的光滑函数层是软的。更高阶上同调群formula_232对软层为零，这就提供了计算其他层的上同调的方法，例如德拉姆复形是任何光滑流形上的常层formula_233的消解，于是formula_233的层上同调等于其德拉姆上同调。
另一种方法是切赫上同调，是第一个为层发展的上同调论，非常适合具体计算，如计算复射影空间formula_235的凝聚层上同调。其将空间开子集上的截面同空间上的上同调类联系起来。切赫上同调与导出函子上同调往往能算出相同的上同调群，但对某些病态空间，切赫上同调能给出正确的formula_236，而给出错误的更高阶上同调群。为解决这问题，让-路易·韦迪耶提出了超覆叠，不仅能给出正确的高阶上同调群，还允许用来自另一空间的某些态射替换上述开子集。这种灵活性在部分应用中非常有必要，如皮埃尔·德利涅的混合霍奇结构构造。
很多其他凝聚层上同调群存在于空间"X"嵌入已知上同调的空间（如formula_235或一些加权射影空间）formula_238找到的。这样，这些环境空间上的已知的层上同调群可与层formula_239相关联，给出formula_240。例如，计算射影面曲线的凝聚层上同调就很容易。这空间中的一个重要定理是用与层上同调群相关的谱序列找到的霍奇分解，是德利涅证明的。本质上，formula_241页的项formula_242是光滑射影簇"X"的层上同调的退化，即formula_243。这给出了上同调群上的正规霍奇结构formula_244。后来发现，这些上同调群很容易用格里菲斯留数计算，见雅可比理想。这类定理引出了关于代数簇上同调的最深刻的定理之一——分解定理，为混合霍奇模奠定了基础。
计算某些上同调群的另一种简便方法是博雷尔–韦伊–博特定理，将一些标志流形上的线丛的上同调群与李群的不可约表示联系起来。比如说，这定理可用来轻松计算射影空间和格拉斯曼流形上所有线丛的上同调群。
很多时候，层有一种对偶理论，推广了庞加莱对偶性。见凝聚对偶性与韦迪耶对偶性。
层的导出范畴.
（举例来说，某空间"X"上阿贝尔群的）层范畴的导出范畴可记作formula_245，是层上同调概念的避风港，因为有以下关系：
formula_205是formula_248的左伴随（已经在阿贝尔群层的级别），给出了伴随
其中formula_251是导出函子。后一个函子包含了层上同调的概念，因为formula_252 for formula_253
与formula_248相似，也可推导出具有紧支撑集的直像formula_255。根据下面的同构，formula_256参数化了"f"的纤维的具有紧支撑集的上同调：
这同构是基变换定理的一例。还有伴随
不同于上述所有函子，扭（或特殊）反像函子formula_259一般只定义在派生范畴的层级上，即函子不是阿贝尔范畴间的某函子的导出函子。若formula_260，"X"是"n"维光滑有向流形，则
这种计算，以及函子与对偶性的相容性（见韦迪耶对偶性）蕴含着对庞加莱对偶性的高深见解。在概形上的准凝聚层中，有类似的对偶性，称作凝聚对偶性。
错致层是formula_245中的某些对象，即复层（但一般不是真（proper）层），是研究奇点几何的重要工具。
凝聚层的导出范畴与格罗滕迪克群.
层导出范畴的另一重要应用是概形"X"上凝聚层的导出范畴，记作formula_263。格罗滕迪克在研究相交理论时使用了导出范畴与K-理论，即子概形formula_264的交积在K-理论中表示为formula_265其中formula_266是凝聚层，由其结构层给出的formula_101模定义。
景与意象（拓扑斯）.
安德烈·韦伊的韦伊猜想认为，有限域上的代数簇有一种上同调论，可给出黎曼猜想的类似理论。复流形的上同调可定义为欧氏拓扑中局部常层formula_268的层上同调，这意味着将正示性的韦伊上同调论定义为常层的层上同调。但是，这样的簇上唯一的经典拓扑是扎里斯基拓扑，其开集非常少，以至于不可约簇上任何扎里斯基常层的上同调都为零。亚历山大·格罗滕迪克通过引入格罗滕迪克拓扑解决了这问题，其公理化了“覆叠”的概念。格罗滕迪克的独到见解是，层的定义只取决于拓扑空间的开集，而非单个点。公理化了覆叠的概念，就可以把开集换成其他对象。预层可把每个对象作为数据，而层就是在新覆叠概念下满足粘合公理的预层。这使得格罗滕迪克能定义平展上同调和ℓ进上同调，最终用于证明韦伊猜想。
具有格罗滕迪克拓扑的范畴叫做景（site）。景上的层范畴称作意象（topos，或音译拓扑斯）或格罗滕迪克意象。意象的概念后来被William Lawvere和Miles Tierney抽象化，以定义基本意向，与数理逻辑有关。
历史.
层论最初的起源很难确认—它们可能和解析延拓的思想共存。可以识别的独立的层论才从上同调的基础工作中出现大约花了15年的时间。 
至此，层成为数学的一个主流部分，其应用根本不局限于代数拓扑。后来层范畴的逻辑被发现是直觉逻辑（该发现现在经常被称为Kripke-Joyal语义，但可能应该归功于一系列作者）。这表明层论的某些方面甚至可以追述到莱布尼兹。