位相群
これはすなわち、偶数次生成元上の多項式環と奇数次生成元上の外積代数との代数のテンソル積である。
特に、連結リー群 G に対し、G の有理係数コホモロジー環は奇数時の生成元上の外積代数である。さらには、連結リー群 G は極大コンパクト部分群(英語版) K を(共軛を除いて一意に)持ち、K の G への包含はホモトピー同値になる。したがって、リー群のホモトピー型を記述することは、コンパクトリー群のそれに帰着される。例えば、SL(2, R) の極大コンパクト部分群は円周群 SO(2) で、その等質空間 SL(2, R)/SO(2) は双曲平面(英語版)に同一視できる。双曲平面は可縮であるから、円周群の SL(2, R) への包含写像はホモトピー同値になる。
最後に、コンパクト連結リー群はキリング(英語版)、カルタン、ヴァイルによって分類がされた。結果として、リー群の取りうるホモトピー型の本質的に完全な記述ができる。例えば、高々三次元のコンパクト連結リー群は、トーラス、二次特殊ユニタリ群 SU(2)(三次元球面 S に微分同相)、その剰余群 SU(2)/{±1} ≅ SO(3)(三次元実射影空間(英語版) RP に微分同相)の何れかである。
位相群 G の位相空間 X への(連続)作用は、G の X への群作用であって、対応する写像 G × X → X が連続となるものをいう。同様に、位相群 G の実または複素線型空間 V における表現(線型表現)は、G の V への連続作用であって、各 g ∈ G に対する写像 v ↦ gv が V 上の線型変換となるものを言う。
群作用および表現論は特にコンパクト群に対してはよくわかっており、それは有限群の表現論(英語版)の内容を一般化するものになっている。例えば、コンパクト群の任意の有限次元表現は既約表現の直和である。また、コンパクト群の無限次元ユニタリ表現は、ヒルベルト空間として既約表現(これらはすべて有限次元)の直和に分解することができる。これはピーター–ワイルの定理(英語版)の一部である。例えば、フーリエ級数論が述べるのは、円周群 S の複素ヒルベルト空間 L(S) におけるユニタリ表現の分解である。S の既約表現はすべて一次元であり、適当な整数 n に対する z ↦ z の形をしている(ここで S は非零複素数の成す乗法群 C* の部分群と見ている)。これら既約表現は L(S) に各々重複度 1 で現れる。
全てのコンパクト連結リー群の既約表現は、分類が済んでいる。特に各既約表現の指標はワイルの指標公式で与えられる。
より一般に、局所コンパクト群は、ハール測度によって与えられる自然な測度および積分の概念が入り、調和解析の豊かな理論を含む。局所コンパクト群の任意のユニタリ表現は、既約ユニタリ表現の直積分(英語版)として記述できる。
この分解は G がI-型(アーベル群や半単純リー群などの重要な例の大部分がこれに含まれる)ならば本質的に一意である。基本的な例はフーリエ変換で、これは実数の加法群 R のヒルベルト空間 L(R) への作用を R の既約ユニタリ表現の直積分に分解する。R の既約ユニタリ表現はすべて一次元で、適当な a ∈ R に対する x ↦ e の形をしている。
局所コンパクト群の既約ユニタリ表現は無限次元となり得る。表現論の大きな目標は、認容表現(英語版)(許容表現)のラングランズ分類(英語版)に関係して、半単純リー群に対するユニタリ双対(既約ユニタリ表現全体の成す空間)を求めることである。ユニタリ双対は、SL(2,R)(英語版)など多くの場合について知られているが、全てではない。
局所コンパクトアーベル群 G に対しては、任意の既約ユニタリ表現は一次元である。この場合、ユニタリ双対 ˆG は群となり、実は局所コンパクトアーベル群になる。ポントリャーギン双対性とは、局所コンパクトアーベル群 G に対して ˆG のユニタリ双対がもとの群 G に等しいことを述べるものである。例えば、整数の加法群 Z の双対群は円周群 S であり、実数の加法群 R の双対群は R に同型である。
任意の局所コンパクト群 G は十分多くの既約ユニタリ表現を持ち、例えば G の任意の点を区別することができる (ゲルファント–ライコフの定理(英語版))。対照的に、局所コンパクトでない位相群の表現論は、特別な場合を除きほとんど発展しておらず、おそらく一般論を期待するのは妥当でない。例えば、アーベルなバナッハ・リー群(英語版)でそのヒルベルト空間上の任意の表現が自明となるものはたくさんある。