群の表現
群 G の各元 g に対して線形空間 V 上の線形変換 T(g) が対応し、
T ( g h ) = T ( g ) T ( h ) {\displaystyle T(gh)=T(g)T(h)}
が成り立つとき、g を T(g) に対応させる写像 T: G → GL(V) を群 G の線形空間 V 上の表現といい、線形空間 V を群 G の表現空間という。すなわち群 G の表現とは「群 G から線形空間 V 上の正則な線形変換のつくる群への準同型写像」のことである。
v ∈ V, g ∈ G に対して T(g)v のことを単に g ⋅ v あるいは gv と表すことが多い。
表現空間は群上の加群と見ることもできる。このとき表現空間は群環 CG 上表現加群と呼ばれ、このことを強調するために VCG と表すこともある。
対応 g ↦ T(g) は一般には単射であるとは限らない。たとえば、すべての元 g に恒等変換を対応させるものも表現であって、これは恒等表現あるいは自明表現(英語版)と呼ばれる。一方、対応 g ↦ T(g) が単射のときはその表現は忠実な表現であるという。
群 G の2つの表現 (T1, V) と (T2, W) が与えられたとき、ある線型同型 S: V → W が存在して、すべての元 g に対して相似変換
S T 1 ( g ) S − 1 = T 2 ( g ) {\displaystyle ST_{1}(g)S^{-1}=T_{2}(g)}
で繋がるならば、表現 T1 と T2 は同値あるいは同型であるといい、両者は本質的には同じ表現である。この条件はすべての元 g に対して次の図式が可換であるといってもよい。
V ⟶ T 1 ( g ) V S ↓ ↓ S W ⟶ T 2 ( g ) W {\displaystyle {\begin{array}{ccc}V&{\stackrel {T_{1}(g)}{\longrightarrow }}&V\\{\scriptstyle S}\downarrow &&\downarrow {\scriptstyle S}\\W&{\stackrel {T_{2}(g)}{\longrightarrow }}&W\end{array}}}
なお、一般に、全単射とは限らないこのような変換を絡作用素(英語版)という。
表現空間を明示したいときは組 (V, T) で表現を表す。表現空間 V の次元 n を表現の次元という。表現空間 V に適当な基底を導入すれば、T(g) は具体的に n 次正方行列で書き表せるから、群 G の表現とは「Gから正則行列の成す群 GLn への準同型写像である」といってもよい。このとき行列 T(g) を g の表現行列と呼ぶ。
つまり群 G に対応して行列の集合 Γ = { T ( g ) ∣ g ∈ G } {\displaystyle \Gamma =\{\,T(g)\mid g\in G\,\}} があり、任意の群の元 g, h に対して T(gh) = T(g)T(h) が成り立つとき、これらの行列を群 G の表現行列という。