表現論
用語
ベクトル空間 V を φ の表現空間(representation space)といい、その次元を（有限であれば）表現の次元と呼ぶ（たとえば、では次数と呼ばれている）。準同型 φ が文脈により明らかな場合は、V 自身を表現と呼ぶことが多い。明らかでない場合は、表現を (V, φ) と記す。
V が有限次元 n のとき、V の基底を選び、Fⁿ と V して、体 F に成分を持つ行列表現が得られる。
有効な表現、あるいは忠実表現(faithful representation)とは、準同型 φ が単射的であるときの表現 (V, φ) をいう。
部分表現、商、既約表現
(W, ψ) を群 G の表現とする。すべての v ∈ V に対し g ・ v ∈ V となるという意味（セールは、このようなの V を G の下に安定と呼んだ）で、V が G の作用により不変な W の線型部分空間であるとき、V を部分表現(subrepresentation)と呼ぶ。φ(g) を ψ(g) の V への制限と定義することにより、(V, φ) は G の表現となり、W の V への制限は同変写像となる。商空間 W/V も G の表現として定義することができる。
W がちょうど 2つの部分表現しか持っていないとき、つまり、自明な部分空間(trivial subspace) {0} と W 自身以外には部分表現空間を持たない場合、この表現を既約(irreducible)という。W が非自明な表現を持つとき、可約(reducible)という。
既約表現の定義は、シューアの補題を含んでいる。既約表現の間の同変写像 α: V → W は、その核と像が部分表現となるので、零射か、同型射となる。特に、V = W のとき、これは V の同変な自己準同型が基礎となる体 F 上の結合多元代数を形成する。F が代数的閉体であれば、既約な表現の同変自己準同型は、恒等元のスカラー倍のみである。
既約表現は、表現論の基本ブロックであり、表現 W が既約でないならば、ある意味、単純な部分表現と商表現から構成される。W が有限次元であれば、部分表現も商表現も次元がより小さなものとなる。
モジュラー表現
有限群 G のモジュラー表現は、体の標数が |G| と互いに素ではない（公約数を持っている）あるような体の上の表現であり、したがって、マシュケの定理はもはや成り立たない（なぜならば、|G| が F で可逆ではなく、したがって割ることができないからである）。にもかかわらず、リチャード・ブラウアー(Richard Brauer)は、指標理論の多くをモジュラー表現へ拡張した。この理論は、初期の有限単純群の分類(classification of finite simple groups)の発展に重要な貢献をし、特に、シローの2-部分群が「あまりに小さすぎる」ので純群論的な方法を適用することが難しい単純群に対して、貢献した。
群論への応用を持つことと同様に、モジュラー表現は、他の数学の分野である代数幾何学、符号理論、組み合わせ論や数論で自然に応用される。
ユニタリ表現
群 G のユニタリ表現は、実もしくは複素の完備ヒルベルト空間 V 上の G の線型表現 φ であり、φ(g) がすべての G の元 g に対しユニタリ作用素となっている。そのような表現は、1920年代以来、特にヘルマン・ワイルと彼が発展を動機付けたことのにより、広く量子力学へ応用されてきた。中でも、もっとも有名なことは、エフゲニー・ウィグナーによるポアンカレ群の表現(representations of the Poincaré group)である。（特定の群というよりも任意の群 G に対しての応用上有益であるが、）応用上有益なユニタリ表現の一般論を構成する開拓者の一人は、ジョージ・マッケイ(George Mackey)であり、拡張された理論はハリッシュ・チャンドラ(Harish-Chandra)他により1950年代と1960年代に開発された。
ユニタリ表現論の主要な目的は、「ユニタリ双対(unitary dual)」、つまり、G の既約ユニタリ表現の空間を記述することである。G が局所コンパクトなハウスドルフ的位相群で、表現は強連続(strongly continuous)である場合が最も良く知られた理論である。G が可換なの場合は、ユニタリ双対は指標(character)の空間となる。一方、G がコンパクトな場合は、ピーター・ワイルの定理(Peter–Weyl theorem)は、既約ユニタリ表現は有限次元であり、ユニタリ双対は離散的であることを示している。たとえば、G が円の群 S¹ であるときは、指標は整数で与えられ、ユニタリ双対は Z となる。
非コンパクトな G に対して、表現がユニタリとなるかという疑問は微妙である。既約ユニタリ表現は「許容的(admissible)」である必要があり（ハリッシュ・チャンドラ加群(Harish-Chandra module)のように）、容易に許容表現が非退化な不変半双線型形式を持つことを示すことができるが、いつこの形式が正定値となるかを決定することが困難である。ユニタリ双対の有効な記述は、実簡約的なリー群（以下に議論するが、）のような比較的うまく定義できる群の場合でさえ、表現論の重要な未解決問題である。たとえば、SL(2, R)やローレンツ群のように、多くの特殊な群については解かれている。
調和解析
円の群 S¹ と整数 Z やより一般的にトーラス Tⁿ と Zⁿ の間の双対関係は、解析的にはフーリエ級数の理論としてよく知られている。フーリエ変換は、実ベクトル空間上の指標の空間が双対ベクトル空間(dual vector space)であるという事実を表している。このようにして、ユニタリ表現と調和解析は密接に関連し合っていて、抽象調和解析はこの関係を利用して、局所コンパクト位相群と関連する空間の函数の解析を発展させた。
主要な目的は、フーリエ変換やプランシュレルの定理の一般的な形を提供することである。このことは、ユニタリ双対(unitary dual)上の測度と、G 上の二乗可積分函数の空間 L²(G) の正規表現とユニタリ双対上のL²函数空間の間の同型を構成することで達成される。ポントリャーギン双対とピーター・ワイルの定理は、可換群とコンパクトな群でそれぞれ達成された。
別なアプローチは、既約ではないすべてのユニタリ表現を考えることを意味している。これらは圏を構成し、淡中・クライン双対性(Tannaka–Krein duality)は、ユニタリ表現のカテゴリからコンパクト群を再現する方法をもたらした。
群が可換でもコンパクトでもない場合に、アレクサンドル・グロタンディークが淡中・クライン双対性を線型代数群(linear algebraic group)と淡中圏の間の関係へ拡張したにもかかわらず、プランシュレルの定理やフーリエ変換に類似する一般論は知られていない。
調和解析は G 上の函数解析から G の等質空間(homogeneous space)上の函数へ拡張された。特に、この理論は対称空間(symmetric space)に対して発展し、保型形式論をもたらした（以下に議論する）。
リー群
リー群は滑らかな多様体でもある群である。実数や複素数上の行列の多くの古典群が、リー群である。物理や化学で重要な群の多くはリー群であり、リー群の表現論はこれらの分野への群論の応用上で決定的である。
リー群の表現論は、最初に、コンパクト表現理論の結果を適用することため、コンパクト群を考えることで発展することができた。この理論は、ワイルのユニタリトリック(Weyl's unitary trick)を使い、半単純リー代数の有限次元表現へ拡張できる。半単純な実リー群 G はそれぞれ複素化を持っていて、複素化は複素リー群 Gᶜ であり、最大コンパクト部分群 K を持っている。G の有限次元表現は、K の有限次元表現に密接に対応する。
一般のリー群は、可解リー群(solvable Lie group)と半単純リー群の直積である（これをレヴィ分解(Levi decomposition)という）。可解リー群の表現の分類は、一般には困難であるが、実践的には容易である場合が多い。半単純の直積の表現は、マッケイ理論(Mackey theory)という一般的な結果により解析され、この方法はポアンカレ群の表現のウィグナーの分類(Wigner's classification)を使い一般化されたものである。
リー代数
体 F 上のリー代数は、リーブラケットと呼ばれヤコビ恒等式を満たす歪対称双線型作用を持つベクトル空間である。特に、リー代数は、単位元でのリー群の接空間として発生し、「無限小対称性」として相互作用を導く リー代数の表現論の重要なアプローチは、リー代数の対応する表現論を研究するためであるが、リー代数の表現論は本質的に興味深いものを持っている。。
リー代数は、リー群のように、半単純な部分と可解な部分へと分解するレヴィ分解をもつが、一般には扱いにくい可解リー代数の表現がついて回る。これとは対蹠的に、半単純リー代数の有限次元表現はエリー・カルタンの仕事以来、完全に理解されている。半単純リー代数 g の表現は、その上ではリーブラケットが 0 となる（可換である）ような g の本質的に最大生成部分代数 h である、カルタン部分代数(Cartan subalgebra)を選択することにより解析される。g の表現は、h の作用の固有空間であるウェイト空間(weight spaces)と指標の無限小の類似へと分解することができる。したがって、半単純リー代数の構造は、ウェイトの発生可能な組み合わせを容易に理解するという表現の解析へと還元される。
無限次元リー代数
表現が研究されている無限次元リー代数のクラスは多数ある。これらの中で重要なクラスは、カッツ・ムーディ代数である。カッツ・ムーディ代数の命名は、ヴィクトル・カッツ(Victor Kac)とロバート・ムーディ(Robert Moody)に因んでいて、彼らは独立のこれらの代数を発見した。これらの代数は、有限次元の半単純リー代数の一般化であり、組み合わせ的な多くの性質を共有している。このことは、カッツ・ムーディ代数が半単純リー代数の表現と同じ方法で理解できる表現のクラスを持っていることを意味する。
アフィンリー代数は特別な種類のカッツ・ムーディ代数で、数学でも理論物理学でも重要で、特に共形場理論や完全可解モデルの理論では重要である。カッツ(Kac)は、ある組み合わせ的な恒等式であり、アフィンカッツ・ムーディ代数の表現論の基礎となっているマクドナルド恒等式(Macdonald identities)のエレガントな証明を発見した。
超リー代数
超リー代数(Lie superalgebra)は、リー代数の一般化であり、基礎となっているベクトル空間が Z₂-次数付きで、歪対称性を持り、リーブラケットのヤコビ恒等式の符号が変形している。これらの表現は、リー代数の表現論に同じである。
線型代数群
線型代数群（より一般には、アフィン群スキーム(group scheme)）は、R や C よりも一般的な体上でのリー群の代数幾何学と類似している。特に、有限体上では、線型代数群はリー型の有限群(finite groups of Lie type)をもたらす。線型代数群はリー群の分類と非常によく似た分類ができるが、ザリスキー位相が比較的弱いため解析学のテクニックがもはや有効でないので、それらの表現論は異なっていて少ししか理解されていなく、別のテクニックを必要とする。
不変式理論
不変式理論は、群の表現を形成する函数上への効果の観点から、代数多様体上の群作用を研究する。古典的には、不変式論は、与えられた線型群の変換の下に不変な多項式函数をどのように明確に記述するかを扱った。現代的なアプローチでは、これらの表現がどのように既約表現への分解するかを解析する。
無限群の不変式論は、線型代数、特に二次形式や行列式の発展に不可分に結びついている。（多項式の不変性と幾何学が）互いに強く影響しあう射影幾何学では、不変式論はこの問題を系統的に研究することに使われ、1960年代の間にダヴィッド・マンフォード(David Mumford)により、新しい息吹が幾何学的不変式論の形で吹き込まれた。
半単純リー代数の表現論は、根拠を不変式論に持っていて 表現論と代数幾何学の強い結びつきは、微分幾何学で多くの平行な考え方を持つ。この平行性はフェリックス・クラインのエルランゲンプログラムやエリー・カルタンの接続(connections)に始まり、群と対称性を幾何学の心臓部とする。現代の発展は、表現論と不変式論との結びつきを、ホロノミー(holonomy)や微分作用素や多変数複素関数の理論のような分野へ広がっている。
保型形式と数論
保型形式は、モジュラ形式の多変数の解析函数への一般化であり、解析函数は通常、多変数であり、同じような変換性質を持っている。この一般化は、モジュラ群 PSL₂ (R) と半単純リー群 G による合同部分群(congruence subgroup)や離散部分群(discrete subgroup) Γ を置き換える。まさにモジュラ形式が上半平面の商 H =  PSL₂ (R)/SO(2) の上の微分形式とみなすことができるように、保型形式は  上の微分形式とみなすことができる。ここに K は典型的な G の最大コンパクト部分群(maximal compact subgroup)である。しかし、注意深くみると、商空間は特異点を持っている。半単純なリー群のコンパクト群による商は、対称空間(symmetric space)であり、したがって保型形式の理論は対称空間上の調和解析と密接に関係する。
一般論が発達する以前、ヒルベルトモジュラ形式(Hilbert modular form)やジーゲルモジュラ形式(Siegel modular form)などの多くの重要な場合が詳細に研究された。この理論の重要な結果として、セルバーグ跡公式と、ロバート・ラングランズによるリーマン・ロッホの定理が保型形式の空間の次元の計算に適用されたことが上げられる。「保型表現」の考え方は、G が代数群の場合に、アデール的代数群として扱うことで、重要な値を求めることができることを証明した。完全に哲学的な結論として、ラングランズ・プログラムは、表現論と保型形式の数論的性質の間の関係を発展させた。
結合代数
ある意味で、結合代数の表現論は、群やリー群の表現の両方を一般化する。群の表現は、対応する群環の表現を導くことに対し、リー代数の表現は、リー代数の普遍包絡代数の表現が全単射的に対応する。しかしながら、一般の結合代数の表現論は、群とリー群の表現論のすべての性質を持つわけはない。
加群の理論
結合代数の表現を考える場合、基礎となる体を忘れて、単純に環としての結合代数と加群としての表現を考えることができる。このアプローチは、驚くほど豊かで、表現論の多くの結果が、環上の加群についての結果の特別な場合と解釈することができる。
ホップ代数と量子群
ホップ代数(Hopf algebra)は、一方で群やリー代数の表現論を特殊なケースとして保持する結合代数の表現論を改善する方法をもたらした。特に、2つの表現のテンソル積は、双対ベクトル空間の表現としての表現となっている。
群に付随したホップ代数は、結合代数の構造をもり、したがって、本来は群の変形としてあるいは普遍包絡代数として現れるため、ホップ代数を限定することに使われるにもかかわらず、一般にはホップ代数は量子群(quantum group)として知られている。量子群の表現論は、リー代数やリー群の表現論は、たとえば、柏原の結晶基底(crystal basis)のような驚くべき内面的性質を持っている。
圏の表現
群は圏を形成するので、他の圏の表現を考えることもできる。最も単純な一般化は、単一の対象をもつ圏であるモノイドである。群はすべての射が可逆なモノイドである。一般のモノイドは任意の圏で表現を持つ。集合の圏では、これらはモノイド作用(monoid action)であるが、ベクトル空間や他の対象の上のモノイド表現を研究することができる。
さらに一般的に、表現される圏がひとつの対象しか持たないという前提を緩めることができる。まったく一般的に、これは単純に圏の間の函手の理論であり、少ししか知られていない。
表現論に重要なインパクトをもつ特別な場合に箙（えびら）の表現論がある。箙は単純に有向グラフ（ループと多重な矢印があってもよい）であるが、グラフの経路を考えることにより圏（と代数）を形成することができる。そのような圏／代数の表現は、表現論のいくつかの面を説明する。たとえば、群に関しての半単純ではない表現論の問題を、箙に関する半単純な表現の場合へ還元することを可能とする。