群作用
数学における群作用（ぐんさよう、）は、群を用いて対象の対称性を記述する方法である。
物体の本質的な要素を集合によって表し、物体の対称性をその集合上の（その集合の全単射な変換からなる群）によって記述するとき、この群は（特に集合が有限集合であるとき）置換群 あるいは（特に集合がベクトル空間で、群作用が線型変換などであるとき）変換群 と呼ばれる。
群作用は、群の各元がある集合上の全単射な変換（対称変換）の如く「作用」するけれども、それがそのような変換と同一視される必要は無いという点において、の柔軟な一般化となっている。これにより、物体の対称性のより包括的な記述が可能になる。これはたとえば多面体に対して、その頂点全体の成す集合、辺全体の成す集合、面の成す集合といったいくつかの異なる集合に同じ群を作用させることによって得られる。
"G" が群で "X" が集合であるとき、群作用は "G" から "X" の対称群への群準同型として定義することができる。この作用は群 "G" の各元に対して "X" の置換を以下のように割り当てる。
ここでは "G" の各元が置換として表現されているので、このような群作用は群の置換表現 としても知られる。
群作用を考えることによって得られる抽象化は、幾何学的な考え方をより抽象的な対象にも応用できるという面で非常に強力である。多くの数学的対象はその上で定義される自然な群作用というものを持っており、特に群は別な群や自分自身への群作用を考えることができる。このような一般性を持つにもかかわらず、群作用の理論は（軌道-安定化群定理 のような）適用範囲の広い定理を含み、さまざまな分野での深い結果を示すのに用いられる。
"G" を群、"X" を集合とするとき、"G" の "X" への左群作用 とは、外部二項演算
で、以下の二つの公理を満たすものを言う。このとき、集合 "X" は左 "G"-集合 と呼ばれ、また群 "G" は "X" に（左から）作用 するという。紛れの虞が無いならば "g" • "x" などの演算を省略して "gx" のようにしばしば略記する。
二つの公理から、"G" の各元 "g" に対して "x" ∈ "X" を "g" • "x" へ写す写像は "X" から "X" への全単射となることが従う（逆写像が "x" を "g"• "x" に写す写像によって与えられる）。したがって、群 "G" の "X" への作用を、群 "G" から "X" 上の全単射全体の成す対称群 Sym("X") への群準同型として定義することもできる。
まったく同様に、群 "G" の集合 "X" への右群作用 を写像 "R": "X" × "G" → "X"; ("x", "g") ↦ "R"("x", "g") =: "x" • "g" と二つの公理
によって定義することができる。右作用と左作用の違いは、"gh" のような積の "x" への作用の順番であり、左作用ならば "h" を先に作用させてから "g" が作用するが、右作用では "g" が先に作用してから "h" が作用する。右作用に群の反転演算を合わせれば左作用が得られる。実際、"R" が右作用ならば
は左作用である。これは
から確認できる。同様に任意の左作用を右作用にすることもできる。したがって、右作用を考えることで新しく得られるものは特に無いため、理論上は左群作用のみを主に考え、これを単に群作用と称する。群 "G" の "X" への作用が、
空でない集合上の任意の自由作用は忠実である。群 "G" の "X" への作用が忠実であるための必要十分条件は、群準同型 "G" → Sym("X") の核が自明であることである。従って、"G" の "X" への忠実な作用があれば、"G" は "X" 上の置換群のある部分群（"G" の Sym("X") における像）に同型である。
任意の群 "G" の左からの乗法による自身への作用は正則であり、したがって忠実でもある。従って、任意の群 "G" はそれ自身の元上の対称群 Sym("G") に埋め込める（これはとして知られる）。
群 "G" が "X" に忠実に作用しない場合も、群を少し変更して忠実作用を得ることができる。"N" = {"g" ∈ "G" | "gx" = "x" (∀"x" ∈ "X")} と置けば、"N" は "G" の正規部分群である（実際、これは群準同型 "G" → Sym("X") の核になっている）。剰余群 "G"/"N" は ("gN") • "x" := "gx" と置くことにより "X" に忠実に作用する。"X" への "G" のもともとの作用が忠実であることと "N" = {"e"} であることとは同値である。
群 "G" が集合 "X" に作用しているとき、"X" の点 "x" の軌道 とは、"G" の各元を "x" に作用させた要素の集合である。"x" の軌道を "Gx" で表せば、
と書くことができる。群の性質から、"X" における（各点の）"G" の作用に関する軌道全体の成す集合が "X" の類別を与えることが保証される。この類別に対応する同値関係 ∼ は「"x" ∼ "y" となる必要十分条件は "gx" = "y" となる "g" ∈ "G" が存在すること」として得られる。軌道はこの同値関係に関する同値類であり、二つの元 "x", "y" が同値であることは、それらが属する軌道が一致 ("Gx" = "Gy") することとして述べることもできる。
"G" の作用に関する "X" の軌道全体の成す集合は "X"/"G"（あるいは多少稀だが "G" ⧵"X"）で表され、"G" の作用による "X" の商 とも呼ばれる。幾何学的な設定では軌道空間 とも、代数的な設定では余不変式 の空間とも呼ばれ、"X" で表される（これに対して不変式（不動点）の全体は "X" で表される。余不変式の全体が「商」なのに対し、不変式の全体は「部分集合」となる）。余不変式の概念と記法は特に群コホモロジーと群ホモロジー（これも同様の添字の上付き・下付きで区別する慣習がある）で用いられる。
"X" の部分集合 "Y" に対し、
とする。部分集合 "Y" が "G" の作用に関して安定あるいは不変 であるとは、"GY" = "Y"（これは "GY" ⊆ "Y" としても同じ）が成り立つことを言う。このとき、"G" は "Y" にも作用している。また、部分集合 "Y" が "G" の作用で固定される あるいは "G" が自明に作用するとは、"G" の各元 "g" と "Y" の各元 "y" に対して "gy" = "y" が成立することを言う。"G" の作用で固定される任意の部分群は "G"-不変だが、逆は正しくない。
任意の軌道は、"G" が推移的に作用する "X" の "G"-不変部分集合である。"G" の "X" への作用が推移的であるための必要十分条件は、全ての元が同値、すなわち軌道がただ一つであることである。
"X" の各元 "x" に対して、"x" の安定化部分群あるいは固定部分群 、等方部分群 もしくは小群 などと呼ばれる "G" の部分群を、"x" を固定する "G" の元全体の成す集合
によって定める。これは "G" の部分群だが、大抵は正規部分群でない。"G" の "X" への作用が自由であるための必要十分条件は、任意の固定部分群が自明であることである。群準同型 "G" → Sym("X") の核 "N" は、"X" の全ての元 "x" に関する固定部分群 "G" の交わりによって与えられる。
軌道と固定部分群は近い関係にある。"X" の元 "x" を一つ固定して、写像
を考える。この写像の像は "x" の属する軌道であり、余像は "G" の左剰余類全体の成す集合である。集合論における標準商定理により、 "G" /"G" と "Gx" との間には自然な全単射が存在する。具体的にはこの全単射は "hG" と "hx" との対応によって与えられる。このことは、軌道・固定群定理 として知られる。
"G" と "X" が共に有限ならば、軌道・固定群定理とラグランジュの定理から
が得られる。この結果はそれぞれの対象を数えることができるという点で特に有用である。
二つの元 "x" および "y" が同じ軌道に属すならば、それらの固定部分群 "G" および "G" は互いに共軛であり、特に同型であることに注意。より詳しく、 "G" = "gG""g" が成立する。このように、互いに共軛な固定部分群を持つ点は、同じ軌道型 を持つという。
軌道・固定群定理に近い関係のある結果にバーンサイドの補題
がある。ここで "X" は "g" によって固定される "X" の元全体の成す集合である。この結果は主に "G" と "X" が有限であるときに用いられ、軌道の総数は群の元ごとの不動点の数の平均に等しいことを示すものと解釈される。
有限 "G"-集合の形式差 全体の成す集合は、非交和を加法、直積を乗法として、バーンサイド環と呼ばれる環を成す。
"X" の "G"-不変元 とは、"G" の全ての元に対して常に "gx" = "x" となるような "X" の元 "x" のことをいう。"X" の "G"-不変元の全体を "X" で表して、"X" の "G"-不変部分集合と呼ぶ。"X" が"G"-加群であるときは、"X" は "G" の "X" に係数を持つ 0-次群コホモロジー群であり、高次のコホモロジー群は "G"-不変部分集合をとる函手の導来函手となる。
群作用の概念は、群作用に付随する「作用亜群」
を対応させることによってより広い文脈において考えることができる。こうすることで、表示やファイバー付けといったような亜群の理論における手法が使えるようになる。さらに言えば、作用の固定化群は頂点群 であり、作用の軌道は作用亜群の成分である。詳細は を参照.
この作用亜群には「亜群の被覆射」"p": "G"′ → "G" が考えられる。これにより、このような射と位相幾何学における被覆写像とが関連付けられる。
"X" および "Y" がともに "G"-集合であるとき、"X" から "Y" への "G"-集合の射あるいは準同型 とは、写像 "f": "X" → "Y" であって、"G" の任意の元 "g" と "X" の任意の元 "x" に対して
を満たすものを言う。"G"-集合の射は "G"-同変写像 あるいは "G"-写像 ともいう。
そのような "G"-集合の射 "f" が全単射ならば、その逆写像も "G"-集合の射であり、"f" は "G"-集合の同型（写像）であるという。また、二つの "G"-集合 "X" および "Y" は、その間に "G"-集合の同型写像が存在するとき、"G"-集合として同型 であるといい、実用上は同じものとして区別されないことも多い。
同型の例：
この射の概念を合わせて考えることにより、"G"-集合全体の集まりは圏を成す。この圏はグロタンディーク・トポスである（実は古典メタ論理を仮定すれば、このトポスはブール的にもなる）。
"G" が位相群、"X" が位相空間であるとき、写像 "G" × "X" → "X" が"G" × "X" の積位相に関して連続であるような "G" の "X" への連続群作用 を考えることもよくある。この場合、位相空間 "X" を "G"-空間 とも呼ぶ。任意の群は離散位相に関する位相群と見ることができるから、これは実際には一般化になっている。既に述べた各種概念はこの文脈でもそのまま考えることができるが、"G"-空間の間の射としては "G" の作用と両立する「連続写像」を考えるのが普通である。商 "X"/"G" には "X" から誘導される商位相を入れて位相空間としたものを、この作用に関する商空間 と呼ぶ。正則、自由、推移的な作用に対する同型射について上述した主張は、連続群作用に対してはもはや正しくない。
"G" が位相空間 "X" に作用する離散群であるとき、作用が固有不連続あるいは真性不連続 であるのは、"X" の各点 "x" に対して開近傍 "U" が存在して、"g"("U") ∩ "U" ≠ ∅ となるような "G" の元 "g" 全体成す集合が、ただ一つ単位元のみからなるようにできるときである。"X" が別の位相空間 "Y" の正則被覆空間であるとき、デック変換群の "X" への作用は固有不連続かつ自由である。群 "G" の弧状連結位相空間 "X" への、任意の自由かつ固有不連続な作用は、このようにして得られる。商写像 "X" ↦ "X"/"G" は正則被覆写像であり、デック変換群は "G" の "X" への作用によって与えられる。さらに、"X" が単連結ならば "X"/"G" の基本群は "G" に同型である。これらの結果は で、適当な局所条件の下での、離散群のハウスドルフ空間への不連続作用の軌道空間の基本亜群や、空間の基本亜群の軌道亜群などを含む形に一般化されている。これにより、対称平方の基本群などが計算できるようになる。
群 "G" の局所コンパクト空間 "X" への作用が余コンパクト であるとは、"X" のコンパクト部分集合 "A" で "GA" = "X" となるようなものが存在するときに言う。完全不連続作用に対しては、余コンパクト性は商空間 "X"/"G" のコンパクト性に同値である。
"G" の "X" への作用が固有 ("proper") であるとは、写像 "G" × "X" → "X" × "X"; ("g", "x") ↦ ("gx", "x") is a 固有写像 (proper map) であるときに言う。
α: "G" × "X" → "X" を位相群 "G" の位相空間 "X" への作用とする。作用 α が強連続 であるとは、"X" の各元 "x" に対して、写像 "g" ↦ α("x") がそれぞれの位相に関して連続であるときに言う。このような作用は、"X" 上の連続写像全体の成す空間への "G" の作用を
によって誘導する。
強連続作用 α に対する平滑点あるいはスムース点 とは、"g" ↦ α("x") が滑らか（つまり、連続かつ各階の導函数が全て連続）であるような "X" の点 "x" のことをいう。
モノイドの集合への作用（モノイド作用）を、群作用と同じ二つの公理によって定義することができる。しかし、この場合は作用素が全単射となり同値関係を定めるというようなことは期待できない。
集合への作用を考える代わりに、群やモノイドの適当な圏の対象への作用を考えることもできる。これはある圏の対象 "X" からはじめて、"X" への作用を "X" の自己準同型全体の成すモノイドへのモノイド準同型として定めたものである。対象 "X" が台となる集合を持つならば、既に述べた各種の定義や結果はこの場合でも有効である。例えば、ベクトル空間の圏を考えることにより、この方法で群の表現が得られる。
群 "G" をすべての射が可逆な単一対象圏とみなせば、群作用とは "G" から集合の圏 Set への函手、群の表現はベクトル空間の圏への函手に他ならない。同様に、"G"-集合の間の射は群作用函手の間の自然変換である。このアナロジーとして、亜群の作用を亜群から集合の圏あるいはもっと別の圏への函手として定義することができる。
圏の言葉を使わずとも、集合 "X" への群の作用を、それが誘導する "X" の冪集合 2 への作用を調べることによって拡張することもできる。これは例えば、24元集合上の巨大なマシュー群の作用や、有限幾何学のある種の模型の対称性を調べることなどに対して有用である。