表示论

术语

向量空间 称为 的表示空间，而其维度（如果有限）则称为此表示的维度（有些文献中又称为度，例如）。取决于映射 是否由上下文清楚可知，通常将一个表示记为 或更清晰的。
若  是  维空间，我们可以为 选择一组基，并由此将 视作 从而还原 上的矩阵表示。
若表示 满足  是单射，我们称这个表示是一个有效表示，或忠实表示。

子表示、商表示、不可约表示

如果  是（例如）群  的表示，而  的子空间 在  的作用下不变，即  对于所有 中的向量 成立（塞尔 称这样的 为“在  作用下稳定”），那么  被称为 的子表示：通过定义 为  在子空间 上的限制，  形成对 的表示，并且从 到  的包含映射是一个等变映射。此外，商空间  也具有 的表示的结构，称为商表示。
如果  只有两个子表示，即平凡子空间 与  本身，那么这个表示被称为不可约表示；反之，如果  拥有非平凡子表示，那么  就被称为可约表示。
不可约表示的定义蕴涵了舒尔引理：不可约表示 和  之间的等变映射 要么是平凡映射，要么是同构；这是由于 的核和像分别是 和  的子表示。特别地，若 ，舒尔引理说明了 的等变自同态组成一个其基域 上的结合可除代数。如果  是代数封闭的，那么不可约表示的等变自同态就只有恒等映射的标量倍数这一种。
不可约表示是表示论的基本组成部分：如果表示 是可约表示，那么它可以由一个子表示和商表示组成，两者在某种意义上都比原来的表示更简单：例如，如果  是有限维表示，那么其子表示和商表示的维度都比 的更小。

模表示

有限群 的模表示即在特征与 不互质的域上的表示；这种情况下，马施克定理不再成立（这是由于 在该域里不是可逆元）。尽管如此，理查德·布劳尔（Richard Brauer）仍将许多特征标理论的内容延伸到模表示。他的理论在有限单群分类的早期进展中扮演了重要的角色，尤其是对于一些西罗p-子群“太小”的单群，纯群论的方法对它们的分类不再适用。
除了在群论中有应用之外，模表示也自然地出现在数学的其它分支中，如代数几何、编码理论、组合数学、和数论。

酉表示

群  的酉表示是 在实或（通常是）复希尔伯特空间  上的表示，使得对于所有、 都是一个酉算子。自1920年代起，受赫尔曼·外尔的影响，酉表示广泛地应用于量子力学，并因此启发了酉表示理论的发展，主要由尤金·维格纳对庞加莱群表示的分析推动。乔治·麦基是建立酉表示的一般理论的先驱之一，而到了1950和1960年代，钱德拉等人建成了一套全面的理论。
酉表示论的主要目标之一是描述“酉对偶”，即  的所有不可约酉表示的空间。酉表示理论最完善的一部分是在 局部紧豪斯多夫拓扑群、表示为强连续映射的情况下。。</ref>若  是阿贝尔群，那么酉对偶就是特征标的空间，而当 是紧致群时，彼得-外尔定理声明不可约酉表示都是有限维表示，并且酉对偶是离散的。例如，若  是圆群 ，那么特征标是由整数给出的，因此  的酉对偶就是。
对于非紧致的，酉表示的判定是个微妙的问题。虽然不可约酉表示必须是“可容许表示”（例如钱德拉模），并且要检测出可容许表示是否具有非退化的不变半双线性形式是比较容易的，然而要判断这个形式是否正定却非常困难。对酉对偶进行有效的描述，哪怕只是对于实半单李群（见下文）等相对规整的群的情况，仍然是表示论中的一个重要的开放问题。这个问题对于许多特殊的群，例如2次特殊线性群 以及洛仑兹群等，已有解答。

调和分析

圆群 与整数 的对偶，或更一般地， 维环面 与  的对偶，在分析中以傅里叶级数理论的形式为人所熟知。类似地，傅里叶变换也表明了实向量空间的特征标空间就是对偶空间。因此，酉表示理论和调和分析密切相关，而抽象调和分析则进一步深入研究两者间的关系，建立了对局部紧拓扑群及其相关空间上的函数的分析。
抽象调和分析的一大目标是为傅里叶变换和普朗歇尔定理提供一个统一的形式。为了达成这一点，须在酉对偶上构造一个测度，并构造从 于在 上平方可积函数的空间 上的正则表示，到  酉表示上的  函数空间的同构。庞特里亚金对偶性和彼得-外尔定理分别在 为阿贝尔群和为紧致群的情况达成了这一目标。
另一种研究手段则是考虑所有的酉表示，而不仅是不可约的酉表示。这样，由于所有的酉表示构成一个范畴，因此淡中-克莱恩对偶提供了从酉表示的范畴还原出紧致群的方法。
对于非紧、非交换的群，虽然有部分较完整的理论，如格罗滕迪克对淡中-克莱恩对偶的推广，建立了线性代数群和淡中范畴之间的联系；但目前还没有一般的理论可以视为普朗歇尔定理或傅里叶逆定理的类比。
调和分析也从对群 上的函数的分析延伸到了对 的齐性空间上的函数的分析。该理论最完善的是关于对称空间的部分，并给出了一套自守形式的理论（见下文讨论）。

李代数

域  上的李代数是一个带有满足雅可比恒等式的斜对称双线性运算的 -向量空间，该双线性运算称为李括号。李代数主要作为李群在恒等元上的切空间出现，因而可以把它们视作“无穷小的对称”。一方面，研究李群表示的重要方法之一是研究它们对应的李代数的表示，但另一方面李代数表示自身也有研究的意义。
和李群相似，李代数也可以通过列维分解分成半单李代数和可解李代数，而且可解李代数的表示一般来说同样棘手。但与李群不同的是，半单李代数的有限维表示已经由埃利·嘉当完全解决。对半单李代数 的表示的分析可以通过选定一个嘉当子代数进行，这个嘉当子代数本质上是 中使得李括号为零（即“阿贝尔”）的极大子代数。 的表示可以分解成“权空间”，即子代数 的作用的特征空间，同时也是特征标在无穷小情形中的类比。这样，半单李代数的结构的研究就约化成对可能出现的权重的表示的较简单的组合学分析。

无限维李代数

人们已经研究过许多类无限维李代数的表示论，其中比较重要的一类是卡茨-穆迪代数，以维克多·卡茨和罗伯特·穆迪命名。这些代数构成有限维半单李代数的推广，并有许多共有的组合学性质。这说明它们有一类表示可以像对半单李代数的表示一样研究。
仿射李代数是卡茨-穆迪代数的一种特例，在理论物理、尤其是共形场论和准确解模型理论中有重要意义。此外，基于仿射卡茨-穆迪代数，卡茨发现了麦克唐纳恒等式的一个优雅证明。

李超代数

李超代数是李代数的推广。作为向量空间，李超代数额外带有 分次，而李括号的斜对称性和雅可比恒等式等公理中的符号也作相应变化。李超代数的表示论与李代数的表示论有许多相似之处。

线性代数群

线性代数群（或更一般的，仿射群概形）是李群在代数几何的类比，但在除 和  之外的更一般的域上也可定义。特别地，在有限域上，线性代数群给出有限李型群。虽然对线性代数群可如李群类似地进行分类，但是它们的表示论却非常不同（而且人们尚未能很好理解），并且要求的技巧也不一样；这是由于扎里斯基拓扑相对而言是较弱的拓扑，使得分析中的技巧不再适用。

不变量理论

不变量理论研究代数簇上的群作用，主要着眼于群作用在函数上的影响，而这正好构成了群的表示。经典的不变量理论研究的问题是：给定一个线性群，要求明确描述出何种多项式函数在该群的作用下“不变”。现代理论则着重分析如何将这些表示分解为不可约表示。
无限群的不变量理论与线性代数的发展、尤其是与二次型和行列式理论的发展密不可分。不变量理论与射影几何相互间也有很强的相互影响：不变量理论可用于对射影几何进行系统化整理，而在1960年代，戴维·芒福德以他的几何不变量理论为射影几何注入了新的生机。
此外，半单李群的表示论也来源于不变量理论，而且表示论和微分几何之间也有平行于和代数几何之间的坚强联系。这种联系始于菲利克斯·克莱因的爱尔兰根纲领和埃利·嘉当的嘉当联络，将群和对称性放在几何研究的中心地位。现代的发展将表示论和不变量理论联系到和乐、微分算子、多复变量理论等多种领域。

自守形式与数论

自守形式是模形式向更一般的解析函数、甚至是多复变量函数上的推广，带有相似的变换性质。这个推广包括将模群2次射影线性群  及其一个选定的子群替换成一个半单李群 及离散子群 。正如模形式可被视作上半空间 的一个商空间上的微分形式，自守形式也可以视作 上的微分形式（或类似的对象），其中 （通常）是  极大紧子群。然而这里需要注意，这个商通常带有奇异点。半单李群对紧子群的商是对称空间，因此自守形式的理论与对称空间上的调和分析有密切联系。
在总体理论成形之前，人们将希尔伯特模形式和西格尔模形式等许多重要特例研究透彻，得到包括有塞尔伯格迹公式等重要结论，以及罗伯特·朗兰兹对可以用黎曼－罗赫定理计算自守形式的空间的维度这一领悟。后来发展的“自守表示”的概念，也检验了在 为代数群的情况、将其作为伊代尔代数群处理的这一技术的巨大价值。作为这一整套理论的总结，朗兰兹纲领围绕表示与自守形式的数论性质之间的联系而发展起来。

结合代数

在某种意义上，结合代数表示同时推广了群表示和李代数表示。群的表示诱导出对应的群环或群代数的表示，而李代数的表示则与它的泛包络代数的表示一一对应。然而，一般的结合代数的表示论并不完全具有群表示及李代数表示的良好性质。

模论

在考虑结合代数的表示时，我们可以忽略系数域，而直接将结合代数视为一个环，并将它的表示视为一个模。这种方法出人意料地卓有成效：许多表示论的结论可以解释为关于环上的模的结论的种种特例。

霍普夫代数与量子群

霍普夫代数提供了一个改善结合代数的表示论的方法，与此同时仍保有群表示和李代数表示作为特例。特别地，两个表示的张量积仍然是表示，表示的对偶空间亦然。
群对应的霍普夫代数具有交换代数的结构，因此一般的霍普夫代数有时也称为量子群，然而量子群一词通常只用于指从群或群的泛包络代数形变而成的、特定的霍普夫代数身上。量子群的表示论为李群、李代数的表示增添了新的思想，柏原正树的结晶基底理论就是一例。

对范畴的表示

由于群也是范畴，对群的表示可以推广到对其它范畴的表示。最简单的推广是对幺半群的表示。幺半群是只有单一对象的范畴，因此作为范畴，群是所有态射均可逆的幺半群。
幺半群在任何范畴上均有表示。例如，幺半群在集合范畴上的表示即幺半群作用。向量空间及其它对象上的幺半群表示也有研究意义。
更一般地，我们还可以放松“所表示的范畴只有一个对象”这一假设。在最极端广泛的意义下，表示不过是范畴之间的函子，除此之外并没有太多可以研究的内容。
但是，有一个特例对表示论有非常重要的影响：箭图表示论。简而言之，箭图就是有向图（允许存在自环和多重边）；然而我们可以通过考虑箭图里的路径，而将它看作一个范畴（并且还可以看作一个代数）。对这样的范畴或代数的表示启发了表示论的许多方面。例如，在某些情况下，我们可以将非半单的群表示论的问题约化成半单的箭图表示论的问题。