表現論
リー群は滑らかな多様体でもある群である。実数や複素数上の行列の多くの古典群が、リー群である。物理や化学で重要な群の多くはリー群であり、リー群の表現論はこれらの分野への群論の応用上で決定的である。
リー群の表現論は、最初に、コンパクト表現理論の結果を適用することため、コンパクト群を考えることで発展することができた。この理論は、ワイルのユニタリトリック(英語版)(Weyl's unitary trick)を使い、半単純リー代数の有限次元表現へ拡張できる。半単純な実リー群 G はそれぞれ複素化を持っていて、複素化は複素リー群 G であり、最大コンパクト部分群 K を持っている。G の有限次元表現は、K の有限次元表現に密接に対応する。
一般のリー群は、可解リー群(英語版)(solvable Lie group)と半単純リー群の直積である(これをレヴィ分解(英語版)(Levi decomposition)という)。可解リー群の表現の分類は、一般には困難であるが、実践的には容易である場合が多い。半単純の直積の表現は、マッケイ理論(英語版)(Mackey theory)という一般的な結果により解析され、この方法はポアンカレ群の表現のウィグナーの分類(Wigner's classification)を使い一般化されたものである。
{\displaystyle \chi _{\varphi }(g)=\mathrm {Tr} (\varphi (g))\ .}
ここに T r {\displaystyle \mathrm {Tr} } はトレースである。G の既約表現は、その指標により完全に決定される。
マシュケの定理は、たとえば、有限体のような正の標数の体に対しても、p が群 G の位数と互いに素である限り一般的に成り立つ。p と |G| が共通因子を持っているとき、半単純でない G-表現が存在し、モジュラー表現論と呼ばれる分野で研究されている。
平均をとるテクニックは、F が実数や複素数のとき、任意の G-表現は V 上の内積 ⟨ ⋅ , ⋅ ⟩ {\displaystyle \langle \cdot ,\cdot \rangle } を保存する。G のすべての元 g と W の w に対し、
⟨ g ⋅ v , g ⋅ w ⟩ = ⟨ v , w ⟩ {\displaystyle \langle g\cdot v,g\cdot w\rangle =\langle v,w\rangle }
という意味である。よって、任意の G-表現はユニタリである。
ユニタリ表現は、マシュケの定理が表現の直交補空間を取るころにより証明することができるので、自動的に半単純である。
中山正
岩堀長慶
柏原正樹
大島利雄
中島啓
小林俊行
荒川知幸
伊山修
加藤周
有限群 G のモジュラー表現は、体の標数が |G| と互いに素ではない(公約数を持っている)あるような体の上の表現であり、したがって、マシュケの定理はもはや成り立たない(なぜならば、|G| が F で可逆ではなく、したがって割ることができないからである)。にもかかわらず、リチャード・ブラウアー(英語版)(Richard Brauer)は、指標理論の多くをモジュラー表現へ拡張した。この理論は、初期の有限単純群の分類(classification of finite simple groups)の発展に重要な貢献をし、特に、シローの2-部分群が「あまりに小さすぎる」ので純群論的な方法を適用することが難しい単純群に対して、貢献した。
群論への応用を持つことと同様に、モジュラー表現は、他の数学の分野である代数幾何学、符号理論、組み合わせ論や数論で自然に応用される。
G が可換なの場合は、ユニタリ双対は指標(character)の空間となる。一方、G がコンパクトな場合は、ピーター・ワイルの定理(英語版)(Peter–Weyl theorem)は、既約ユニタリ表現は有限次元であり、ユニタリ双対は離散的であることを示している。たとえば、G が円の群 S であるときは、指標は整数で与えられ、ユニタリ双対は Z となる。
非コンパクトな G に対して、表現がユニタリとなるかという疑問は微妙である。既約ユニタリ表現は「許容的(admissible)」である必要があり(ハリッシュ・チャンドラ加群(英語版)(Harish-Chandra module)のように)、容易に許容表現が非退化な不変半双線型形式を持つことを示すことができるが、いつこの形式が正定値となるかを決定することが困難である。ユニタリ双対の有効な記述は、実簡約的なリー群(以下に議論するが、)のような比較的うまく定義できる群の場合でさえ、表現論の重要な未解決問題である。たとえば、SL(2, R)(英語版)やローレンツ群(英語版)のように、多くの特殊な群については解かれている。