位相群
準同型
位相群 G, H に対し、写像 G → H が位相群の準同型であるとは、それが連続な群準同型となるときに言う。位相群の同型は、群同型であって、なおかつ台となる位相空間の間の同相でもある。これは単に連続な群同型であるという条件よりも強く、逆写像もまた連続でなければならない。代数的な群同型だが位相群としては同型でないという位相群の例が存在する。実際、任意の非離散位相群に対し、その位相を離散位相に取り換えた位相群を考えれば、台となる群は同じ（特に同型）だが、位相群としては同型にならない。
すべての位相群と、それらの間のすべての準同型を併せたものは、ひとつの圏を成す。
ヒルベルトの第五問題
位相群とリー群との間の関係について、いくつか強力な結果が存在する。まず、リー群の間の任意の連続準同型 G → H は滑らかになる。これにより、位相群がリー群の構造を持つならば、その構造は一意に決まる。また、カルタンの定理は、リー群の任意の閉部分群がリー部分群、特に滑らかな部分多様体となることを述べる。
ヒルベルトの第五問題は、位相多様体の構造を持つ位相群 G がリー群となるか（つまり、滑らかな多様体の構造が入り、群演算が滑らかであるようにできるか）を問うものである。この問題はGleason, Montgomery, Zippinらによって肯定的に解決された。実は G は実解析的構造を持つ。この可微分構造を用いて、G のリー環を定義することができる（これは被覆空間の違いを除いて連結群 G を決定する線型代数学的な対象である）。結果として、ヒルベルトの第五問題の解は、位相多様体であるような位相群の分類という代数的な問題に帰着されたが、一般には複雑な問題である。
この定理は位相群の広範なクラスに対しても帰結を持つ。まず、任意のコンパクト群（ハウスドルフと仮定する）はコンパクトリー群の射影極限である。その重要な場合の一つが射有限群と呼ばれる有限群の射影極限で、例えば p-進整数全体の成す加法群 Zₚ や、体の絶対ガロワ群は射有限群である。さらに任意の連結局所コンパクト群が、連結リー群の射影極限になる。他の極端な例で、完全不連結局所コンパクト群（TDLC群）は常にコンパクト開部分群を含み、それは射有限群である必要がある。例えば、局所コンパクト群 GL(n,Qₚ) はコンパクト開部分群 GL(n,Zₚ)（これは有限群 GL(n,Z/pʳ) の r → ∞ の射影極限）を含む。
（局所）コンパクト群の表現
位相群 G の位相空間 X への（連続）作用は、G の X への群作用であって、対応する写像 G × X → X が連続となるものをいう。同様に、位相群 G の実または複素線型空間 V における表現（線型表現）は、G の V への連続作用であって、各 g ∈ G に対する写像 v ↦ gv が V 上の線型変換となるものを言う。
群作用および表現論は特にコンパクト群に対してはよくわかっており、それは有限群の表現論の内容を一般化するものになっている。例えば、コンパクト群の任意の有限次元表現は既約表現の直和である。また、コンパクト群の無限次元ユニタリ表現は、ヒルベルト空間として既約表現（これらはすべて有限次元）の直和に分解することができる。これはピーター–ワイルの定理の一部である。例えば、フーリエ級数論が述べるのは、円周群 S¹ の複素ヒルベルト空間 L²(S¹) におけるユニタリ表現の分解である。S¹ の既約表現はすべて一次元であり、適当な整数 n に対する z ↦ zⁿ の形をしている（ここで S¹ は非零複素数の成す乗法群 C* の部分群と見ている）。これら既約表現は L²(S¹) に各々重複度 1 で現れる。
全てのコンパクト連結リー群の既約表現は、分類が済んでいる。特に各既約表現の指標はワイルの指標公式で与えられる。
より一般に、局所コンパクト群は、ハール測度によって与えられる自然な測度および積分の概念が入り、調和解析の豊かな理論を含む。局所コンパクト群の任意のユニタリ表現は、既約ユニタリ表現の直積分として記述できる。この分解は G がI-型（アーベル群や半単純リー群などの重要な例の大部分がこれに含まれる）ならば本質的に一意である。基本的な例はフーリエ変換で、これは実数の加法群 R のヒルベルト空間 L²(R) への作用を R の既約ユニタリ表現の直積分に分解する。R の既約ユニタリ表現はすべて一次元で、適当な a ∈ R に対する x ↦ e²πiax の形をしている。
局所コンパクト群の既約ユニタリ表現は無限次元となり得る。表現論の大きな目標は、認容表現（許容表現）のラングランズ分類に関係して、半単純リー群に対するユニタリ双対（既約ユニタリ表現全体の成す空間）を求めることである。ユニタリ双対は、SL(2,R)など多くの場合について知られているが、全てではない。
局所コンパクトアーベル群 G に対しては、任意の既約ユニタリ表現は一次元である。この場合、ユニタリ双対  は群となり、実は局所コンパクトアーベル群になる。ポントリャーギン双対性とは、局所コンパクトアーベル群 G に対して  のユニタリ双対がもとの群 G に等しいことを述べるものである。例えば、整数の加法群 Z の双対群は円周群 S¹ であり、実数の加法群 R の双対群は R に同型である。
任意の局所コンパクト群 G は十分多くの既約ユニタリ表現を持ち、例えば G の任意の点を区別することができる （ゲルファント–ライコフの定理）。対照的に、局所コンパクトでない位相群の表現論は、特別な場合を除きほとんど発展しておらず、おそらく一般論を期待するのは妥当でない。例えば、アーベルなバナッハ・リー群でそのヒルベルト空間上の任意の表現が自明となるものはたくさんある。
位相群のホモトピー論
位相群はすべての位相空間の中でも特別のものだが、それはそれらのホモトピー型の意味でもそうである。基本となるのは、位相群 G が弧状連結な位相空間である分類空間 BG を決定することである（分類空間は、緩やかな仮定の下で位相空間上の主 G-束を分類する）。群 G はホモトピー圏において BG のループ空間に同型である。これは G のホモトピー型に様々な制約があることを意味する。これら制約の中にはH空間の広い文脈で満足されるものもある。
例えば、位相群 G の基本群はアーベル群である（より一般に、G のホモトピー群のホワイトヘッド積は零になる）。また、任意の体 k に対するコホモロジー環 H*(G, k) はホップ代数の構造を持つ。ハインツ・ホップとアルマン・ボレルによるホップ代数の構造定理の観点から、これは位相群の取りうるコホモロジー環に強い制約をかけるものになっている。特に、G が弧状連結な位相群でその有理係数コホモロジー環 H*(G, Q) が各次数で有限次元となるならば、この環は Q 上の自由次数付き可換環でなければならない。これはすなわち、偶数次生成元上の多項式環と奇数次生成元上の外積代数との代数のテンソル積である。
特に、連結リー群 G に対し、G の有理係数コホモロジー環は奇数時の生成元上の外積代数である。さらには、連結リー群 G は極大コンパクト部分群 K を（共軛を除いて一意に）持ち、K の G への包含はホモトピー同値になる。したがって、リー群のホモトピー型を記述することは、コンパクトリー群のそれに帰着される。例えば、SL(2, R) の極大コンパクト部分群は円周群 SO(2) で、その等質空間 SL(2, R)/SO(2) は双曲平面に同一視できる。双曲平面は可縮であるから、円周群の SL(2, R) への包含写像はホモトピー同値になる。
最後に、コンパクト連結リー群はキリング、カルタン、ヴァイルによって分類がされた。結果として、リー群の取りうるホモトピー型の本質的に完全な記述ができる。例えば、高々三次元のコンパクト連結リー群は、トーラス、二次特殊ユニタリ群 SU(2)（三次元球面 S³ に微分同相）、その剰余群 SU(2)/{±1} ≅ SO(3)（三次元実射影空間 RP³ に微分同相）の何れかである。