表現論
すべての群 G は、単一の対象をもつ圏とみなすことができる。この圏の射は、まさに G の元である。任意の圏 C が与えられると、C での G の表現は、G から C への函手である。そのような函手は、C の中の対象 X と、G から X の自己同型群 Aut(X) への群準同型を選択する。
C がF 上のベクトル空間の圏(英語版)(category of vector spaces) VectF の場合は、この定義が線型表現と同値である。同様に、集合論的表現はまさに集合の圏(category of sets)の中の G の表現である。
他の例として、位相空間の圏(category of topological spaces) Top を考える。Top の表現は、G から位相空間 X の準同型群への準同型である。
線型表現と密接な関係付けられる表現の 2つのタイプは、
射影表現(英語版)(projective representation):射影空間の圏の中で、これらはスカラー変換を違いを除いた線型表現として記述される。
アフィン表現(英語版)(affine representation):アフィン空間の圏の中で、たとえば、ユークリッド空間上にアフィンに作用するユークリッド群(Euclidean group)がある。
有限ではない群の表現を研究するとき、ユニタリ表現は、有限群の実表現と複素表現の良い一般化をもたらす。
マシュケの定理のような結果や平均をとることに依存するユニタリな性質は、平均を積分へ置き換えることにより、より一般的な群へと一般化することができ、定義可能な積分の考えをもたらす。このことはハール測度を使いコンパクト群(compact group)や局所コンパクト群(locally compact group)に対してなされ、結果として得られる理論が抽象調和解析である。
任意の体上で、有限群で良い表現論的性質を持つ別のクラスは、リー型の有限群(英語版)(finite groups of Lie type)である。重要な例は、有限体上の線型代数群(linear algebraic group)である。線型代数群の表現とリー群の表現は、これらの無限次元の群の例を拡張し、後者はリー代数の表現と密接に関連する。有限群の指標理論の重要性は、リー群やリー代数の表現にとってはウェイト(weights)が類似する理論となる。
有限群 G の表現は、直接、群環 F[G] を通して、代数表現へも結びついている。群環は、F 上の G の元を基底とするベクトル空間であり、積の操作は、群の操作と群操作とスカラー積が可換であることを要求する線型性により定義される。
ここに [x1, x2] は、リーブラケットであり、行列の交換子 MN − NM を一般化したものである。
表現を定義する第二番目の方法は、G の元 g を線型写像 φ(g): V → V へ写すことを定義とする方法である。この写像は、
φ ( g 1 g 2 ) = φ ( g 1 ) ∘ φ ( g 2 ) for all g 1 , g 2 ∈ G {\displaystyle \varphi (g_{1}g_{2})=\varphi (g_{1})\circ \varphi (g_{2})\quad {\text{for all }}g_{1},g_{2}\in G\,\!}
を満たし、他の場合も同様である。この方法は、より抽象的であるが、この観点からは表現は以下のように統一的となる。
ベクトル空間 V 上の群 G の表現は、群準同型 φ: G → GL(V, F) である。
ベクトル空間 V 上の結合代数 A の表現は、代数準同型(英語版)(algebra homomorphism) φ: A → EndF(V) である。
ベクトル空間 V 上のリー代数の表現は、リー代数準同型(英語版)(Lie algebra homomorphism) φ: a → gl(V, F) である。
線型代数群(より一般には、アフィン群スキーム(英語版)(group scheme))は、R や C よりも一般的な体上でのリー群の代数幾何学と類似している。特に、有限体上では、線型代数群はリー型の有限群(英語版)(finite groups of Lie type)をもたらす。線型代数群はリー群の分類と非常によく似た分類ができるが、ザリスキー位相が比較的弱いため解析学のテクニックがもはや有効でないので、それらの表現論は異なっていて少ししか理解されておらず、別のテクニックを必要とする。