表現論
(W, ψ) を群 G の表現とする。すべての v ∈ V に対し g ・ v ∈ V となるという意味(セールは、このようなの V を G の下に安定と呼んだ)で、V が G の作用により不変な W の線型部分空間であるとき、V を部分表現(subrepresentation)と呼ぶ。φ(g) を ψ(g) の V への制限と定義することにより、(V, φ) は G の表現となり、W の V への制限は同変写像となる。商空間 W/V も G の表現として定義することができる。
W がちょうど 2つの部分表現しか持っていないとき、つまり、自明な部分空間(英語版)(trivial subspace) {0} と W 自身以外には部分表現空間を持たない場合、この表現を既約(irreducible)という。W が非自明な表現を持つとき、可約(reducible)という。
既約表現の定義は、シューアの補題を含んでいる。既約表現の間の同変写像 α: V → W は、その核と像が部分表現となるので、零射か、同型射となる。特に、V = W のとき、これは V の同変な自己準同型が基礎となる体 F 上の結合多元代数を形成する。F が代数的閉体であれば、既約な表現の同変自己準同型は、恒等元のスカラー倍のみである。
既約表現は、表現論の基本ブロックであり、表現 W が既約でないならば、ある意味、単純な部分表現と商表現から構成される。W が有限次元であれば、部分表現も商表現も次元がより小さなものとなる。
群 G のユニタリ表現は、実もしくは複素の完備ヒルベルト空間 V 上の G の線型表現 φ であり、φ(g) がすべての G の元 g に対しユニタリ作用素となっている。そのような表現は、1920年代以来、特にヘルマン・ワイルと彼が発展を動機付けたことのにより、広く量子力学へ応用されてきた。中でも、もっとも有名なことは、エフゲニー・ウィグナーによるポアンカレ群の表現(英語版)(representations of the Poincaré group)である。(特定の群というよりも任意の群 G に対しての応用上有益であるが、)応用上有益なユニタリ表現の一般論を構成する開拓者の一人は、ジョージ・マッケイ(英語版)(George Mackey)であり、拡張された理論はハリッシュ・チャンドラ(英語版)(Harish-Chandra)他により1950年代と1960年代に開発された。
ユニタリ表現論の主要な目的は、「ユニタリ双対(unitary dual)」、つまり、G の既約ユニタリ表現の空間を記述することである。G が局所コンパクトなハウスドルフ的位相群で、表現は強連続(英語版)(strongly continuous)である場合が最も良く知られた理論である。