層 (数学)
数学における層（そう、, ）とは、位相空間上で連続的に変化する様々な数学的構造をとらえるための概念であり、大域的なデータを局所的に取り出すこと、および局所的なデータの貼り合わせ可能性によって定式化される。より形式的に、大域から局所への移行のみを考える概念は前層（ぜんそう、）とよばれる。
を位相空間とする。 上の集合の前層 とは、以下のデータが与えられているものである：
これらは次の2つの条件を満たさなければならない：
各開集合 "U" に対応付けられる "F"("U") がどれも加群の構造を持ち、制限写像がどれも加群の準同型となっているならば "X" 上の加群の前層、同じく "F"("U") がどれも環であって制限写像がどれも環準同型ならば "X" 上の環の前層、といったように "F"("U") たちのもつ構造によって前層をクラスに分けることができる。
各開集合 "U" に対して "F"("U") の元を前層 "F" の "U" 上の切断（せつだん、section）あるいは断面（だんめん）と呼ぶ。開集合の包含関係 "U" ⊂ "V" と "V" 上の切断 "s" ∈ "F"("V") が与えられたとき、
と記して、"s"| を切断 "s" の "U" への制限 (restriction) と呼ぶ。
圏論の言葉で言えば、"X" の開集合系（これは包含関係に関する順序集合となる） "T" を圏と見なすとき、"X" 上の前層とは "T" から集合の圏への反変関手のことであるということができる。また、可換群の（あるいは加群の）前層や環の前層は "T" から可換群の圏や環の圏への反変関手のことであり、同様にして "T" から適当な圏 "C" への反変関手として "C" に値を持つ前層が定義される。二つの前層を関手と見なして、その間の自然変換となるものを前層の射または前層の準同型とよぶ。
位相空間 "X" 上の前層はその切断が局所的な切断の張り合わせで定義できるとき層と呼ばれる。正確には "X" 上の層とは、前層 "F" = {"F"("U"), } であって、"X" の各開集合 "U" に対して開被覆
が任意に与えられたとき、"F"("U") の元 "s", "t" が任意の λ に対して
を満たすならば常に "s" = "t" が成立（既約性条件）し、さらに切断の族 が常に
を満たすものであるならば常に、"F"("U") の元 "s" で
をすべての に対して満たすものが存在する（閉条件）ようなもののことをいう。
発見的な方法でいうと、層の射は層の間の写像のようなものである。しかし、層は位相空間の各開集合に対するデータを含んでいるので、層の射は、各開集合上の写像の整合性条件を満たす集まりとして定義される。
"F" と "G" を圏 C に値をもつ "X" 上の 2つの層とする。射 φ: "G" → "F" は、"X" の各開集合 "U" に対し、制限と両立するような射 φ("U"): "G"("U") → "F"("U") からなる。言い換えると、開集合 "U" のすべての開部分集合 "V" に対し、次の図式が可換となる：
層を特別な種類の関手としても表現できることを思い出そう。このとき、層の射は対応する関手の自然変換である。射のこの概念により、任意の C に対し "X" 上の C に値を持つ層の圏が存在する。その対象は C に値を持つ層であり、射は層の射である。層の"同型射"はこの圏における同型射である。
層の同型射は各開集合 "U" 上の同型射であることを証明できる。言い換えると、φ が同型射であることと、各 "U" に対し φ("U") が同型射であることが同値である。同じことは単射についても正しいが、全射については正しくない。層コホモロジーを参照。
層の射の定義において貼りあわせの公理を用いなかったことに注意しよう。したがって、上の定義は前層に対しても意味をなす。すると C に値を持つ前層の圏は関手圏、"O"("X") から C への反変関手の圏である。
層 formula_9 の茎 (stalk) formula_10 は、点 "x" ∈ "X" の「まわり」の層の性質を捕らえる。ここに、「まわり」の意味は、概念的に言うと、その点のいくらでも小さい近傍を見るということであるが、もちろん、単独の近傍では十分小さくないので、ある種の極限をとらなければならない。
茎は、与えられた点 "x" を含む "X" のすべての開集合上での帰納極限
によって定義される。言い換えると、茎の元は、"x" のある開近傍上の切断により与えられ、2つのそのような切断は、より小さな近傍でそれらの制限が一致するとき、同じであると考える。
自然な射 "F"("U") → "F" は "F"("U") の切断 "s" をその芽 (germ) へ写す。これは芽の通常の定義を一般化する。
茎の別の定義方法は、
であり、ここに "i" は一点空間 {"x"} から "X" への包含である。同値性はの定義から導かれる。
多くの状況下で、層の茎を知ることは、層自身を知るに充分である。例えば、層の射が単射、全射、あるいは同型射であるか否かは、茎の上で調べることができる。のような構成においても、茎が使われる。
局所同相写像 は 上のエタール束とよばれる。 上の層と 上のエタール束の間には自然な対応がある。
エタール束 に対応する層 は各開集合 に対してその上の への切断の空間 を与え、開集合の包含関係に対して切断の制限写像を対応させることで定義される。 の点 について、茎 は における の逆像と自然に対応する。
逆に、層 に対応するエタール束 は の茎の合併集合 formula_13 に、次のようにして位相を入れることで構成される(射影 は の寄せ集めで作られる)。任意の開集合 と の任意の元 について ( は茎 における の芽) とおき、 の形にかける集合全てで生成されるような開集合系をE上で考える。
Xを位相空間とする。X の開集合 U に対して、その上の複素数値連続関数のなす空間を C(U) とかくことにする。開集合の包含関係 V ⊆ U に対して関数の定義域の制限 C(U) → C(V) を考えることでX 上の層が得られる。点x におけるこの層の芽とはxのまわりでの関数の局所的な振る舞いを表していると考えることができる。
同様に、複素多様体に対しその上の正則関数のなす層を考えることができる。
Mを集合とするとき、離散位相を考えてMを位相空間とみなせる。このとき、直積空間X × MからXへの第一成分への射影写像は局所同相写像になっていて、X上のエタールバンドルを与えている。これに対応する層はMが定めるX上の定数層と呼ばれる。
Xを位相空間とする。一点集合が定めるX上の定数層はO(X)上Xによって表現される関手yX = Hom(-, X)だと見なすことができる。より一般にyXの部分層とXの開集合の間に自然な対応があり、X上の層からXの開集合たちとその間の包含関係を復元できることがわかる。簡素な空間 (sober space) と呼ばれるクラスの分離空間についてはその開集合系からもとの空間と位相同型な位相空間を得ることができる。このことから層は位相空間の圏論的・「代数／組み合わせ」的な言い換えを与えているとも考えられる。
前層Pに対してその層化 aP が、普遍性 Hom(P, F) ≡ Hom(aP, F) (Fは任意の層)を満たすような層として定義される。この定義から、とくにすでに層であるような前層 P に対して層化 aP を考えれば、PとaPは自然に同型であることが要請される。集合の前層については実際に層化を考えることができ、加群や環の前層など付加的な構造を付与した場合でもたいていの場合には層化が可能である。
層化の構成には何通りかの方法がある。たとえば層に付随するエタールバンドルの構成を前層に対して同様に実行することでエタールバンドルが得られ、このエタールバンドルに付随する層を考えることで層化が得られる。
層の概念が最初にはっきりと現れたのは、第二次世界大戦中のジャン・ルレーによる偏微分方程式の研究だと言われている。その後、アンリ・カルタンのセミナーで形式的な整備が進められた。
なお、アンリ・カルタンをはじめとするフランスの数学者達の層の解明は、岡潔が見出した不定域イデアルという概念をも基にしている。岡の複素関数論の不定域イデアルが基本内容を構成しそれを取り出し形式化したものが層の内容とされる。
さらに任意の係数体上の多様体にコホモロジー理論を構築することを目的の一つとして、1955年にジャン＝ピエール・セールによって代数幾何学に層の概念が持ち込まれた。アレクサンドル・グロタンディークによりこの考えが推し進められ、スキーム上有意義な「層」を表現しうるトポスの概念が得られた。ほかに層が決定的に用いられる理論として佐藤幹夫らに端を発する偏微分方程式系の解析（"D"-加群の理論）があげられる。