表示論

表示論（Representation theory）是數學中抽象代數的一支。旨在抽象代數結構中的元素「表示」成向量空間上的線性變換，並研究這些代數結構上的模，藉以研究結構的性質。略言之，表示論將一代數對象表作較具體的矩陣，並使得原結構中的代數運算對應到矩陣加法和矩陣乘法。此法可施於群、結合代數及李代數等多種代數結構；其中肇源最早，用途也最廣的是群表示論。設$G$為群，其在域$F$（常取複數域$F = \mathbb{C}$）表示是一$F$-矢量空間$V$及映至一般線性群之群同態

$$\rho: G \to \mathrm{GL}(V)$$

假設$V$有限維，則上述同態即是將$G$的元素映成可逆矩陣，並使得群運算對應到矩陣乘法。

表示論的妙用在於能將抽象代數問題轉為較容易解決的線性代數問題。此外，群還可以表示在無窮維空間上；例如，若考慮無窮維希爾伯特空間上的表示，並要求一些連續性條件，此時表示論就牽涉到一些泛函分析的課題，數學分析的方法就可以用於解決群論的問題。表示論在自然科學中也有應用。對稱性的問題離不開群，而群的研究又有賴於其表示，最明顯的例子便是李群及李代數表示論在量子力學中的關鍵角色。

表示論的一大特點是它遍布數學各個領域。這個特點有兩個方面。首先，表示論的應用十分廣泛：除了在代數的影響之外，表示論

- 通過調和分析闡明並推廣了傅立葉分析。
- 通過不變量理論和愛爾蘭根綱領與幾何學建立了聯繫
- 通過自守形式和朗蘭茲綱領對數論產生了影響。

另一方面，研究表示論的途徑也相當多元化，應用了代數幾何、模塊理論、解析數論、微分幾何、算子理論、代數組合學和拓撲學的思想和方法

「表示」的概念後來也得到進一步的推廣，例如範疇的表示。表示論所施的代數對象可被視為特定的範疇，而表示本身則是從對象範疇到向量空間範疇的函子。這個表述方式立即指向兩種顯然的推廣：其一，代數對象可換成成更一般的範疇；其二，向量空間範疇也可換成其它較好理解的範疇。

注意不要將「表示」與代數對象的「展示」混淆，如群的展示。

## 定義和概念

設 $V$ 為域 $F$ 上的向量空間。例如，設 $V$ 為 $\mathbb{R}^n$ 或 $\mathbb{C}^n$，即標準 $n$ -維實/複列向量空間。這種情況下，表示論的思路是運用 $n\times n$ 實/復矩陣具體地處理抽象代數。

這種處理方法主要可以用於三種代數對象：群、結合代數及李代數。

- 可逆 $n\times n$ 矩陣的集合配以矩陣乘法形成一個群，而群表示則是通過用可逆矩陣來描述（即「表示」）群的元素以分析群的性質。
- 配以矩陣加法和乘法，所有 $n\times n$ 矩陣的集合形成一個結合代數，因此可以引出代數表示。
- 如果我們將矩陣乘法 $MN$ 換成交換子 $MN-NM$，那麼所有 $n\times n$ 矩陣的集合則變成了一個李代數，因此引出李代數表示.

以上可以推廣的人任意域 $F$ 和任意 $F$-向量空間 $V$，只需用線性映射代替矩陣，並用映射的複合代替矩陣乘法：這樣我們可以分別得到 $V$ 的自同構所組成的群 $\mathrm{GL}(V,F)$， $V$ 的自同態所組成的結合代數 $\mathrm{End}_F(V)$，及對應的李代數 $\mathfrak{gl}(V,F)$。

### 定義

表示的定義有兩種。

第一種方法利用了作用的思想，對矩陣以矩陣乘法的方式在列向量空間上的作用進行推廣。設 $V$ 為數域 $F$ 上的向量空間，我們說群 $G$ 或（結合或李）代數 $A$ 在向量空間 $V$ 上的表示是一個映射

$$\Phi\colon G\times V \to V \quad\text{or}\quad \Phi\colon A\times V \to V$$

並滿足如下兩個性質。第一，對 $G$ 中任意元素 $g$ （或 $A$ 中任意元素 $a$），映射

$$\begin{align}\varphi(g)\colon V& \to V\\ v & \mapsto \Phi(g, v)\end{align}$$

是（$F$ -）線性映射，也就是說$\Phi$關於第一個變量將群$G$中的元素映照成$V$上的線性變換；第二，若我們記 $\Phi(g,v)$ 為 $g.v$，那麼對 $G$ 中任意 $g_1$、$g_2$ 和 $V$ 中任意 $v$，有：

$$(1)\quad e \cdot v = v$$

$$(2)\quad g_1\cdot (g_2 \cdot v) = (g_1g_2) \cdot v$$

其中 $e$ 是 $G$ 的單位元，而 $g_1g_2$ 是 $G$ 中的積。對於結合代數也有類似要求，唯一例外是對於不具有乘法恆等元的結合代數需忽略等式(1)。等式(2)則是矩陣乘法結合律的抽象表達。這個等式對於矩陣交換子運算不成立，並且不存在交換子運算的恆等元。因此對於李代數，唯一的要求是對於 $A$ 中任意 $x_1$、$x_2$ 及 $V$ 中任意 $v$，有：

$$(2')\quad x_1\cdot (x_2 \cdot v) - x_2\cdot (x_1 \cdot v) = [x_1,x_2] \cdot v$$

其中 $[x_1,x_2]$ 是李括號，即矩陣交換子 $MN-NM$ 的推廣。

第二種定義表示的方法聚焦在將 $g\in G$ 映到線性映射 $\varphi(g):V\to V$ 的映射 $\varphi$，要求滿足

$$\varphi(g_1 g_2) = \varphi(g_1)\circ \varphi(g_2) \quad \forall g_1,g_2 \in G \,\!$$

其它兩種情況也類似。這種方法更簡潔也更抽象。從這個觀點出發：

- 群 $G$ 在向量空間 $V$ 上的表示即群同態 $\varphi:G\to\mathrm{GL}(V,F)$。
- 結合代數 $A$ 在向量空間 $V$ 上的表示即代數同態 $\varphi:A\to\mathrm{End}_F(V)$。
- 李代數 $\mathfrak{a}$ 在向量空間 $V$ 上的表示即李代數同態 $\varphi:\mathfrak{a}\to\mathfrak{gl}(V,F)$。

### 術語

向量空間 $V$ 稱為 $\varphi$ 的表示空間，而其維度（如果有限）則稱為此表示的維度（有些文獻中又稱為度，例如）。取決於映射 $\varphi$ 是否由上下文清楚可知，通常將一個表示記為 $V$ 或更清晰的 $(V,\varphi)$。

若 $V$ 是 $n$ 維空間，我們可以為 $V$ 選擇一組基，並由此將 $V$ 視作 $F^n$ 從而還原 $F$ 上的矩陣表示。

若表示 $(V,\varphi)$ 滿足 $\varphi$ 是單射，我們稱這個表示是一個有效表示，或忠實表示。

### 等變映射和同構

設 $V$ 和 $W$ 為 $F$ 上的向量空間，$(V,\varphi)$ 和 $(W,\psi)$ 為群 $G$ 的表示；從 $V$ 到 $W$ 的等變映射為線性映射 $\alpha:V\to W$ 使得

$$\alpha( g\cdot v ) = g \cdot \alpha(v)$$

對於所有 $G$ 中的元素 $g$ 以及 $V$ 中的向量 $v$ 成立。若等價地用映射 $\varphi:G\to\mathrm{GL}(V)$ 與 $\psi:G\to\mathrm{GL}(W)$ 來描述，則需使得

$$\alpha\circ \phi(g) = \psi(g)\circ \alpha$$

對於所有 $G$ 中的元素都成立。

結合代數與李代數的表示之間的等變映射也可類似定義。如果映射 $\alpha$ 可逆，那麼我們稱它為同構，並說表示 $V$ 和 $W$（或更精確地， $\varphi$ 與 $\psi$）為同構表示。

若兩個表示同構，那它們在一切實用意義上都是「相同」的：它們為所表示的群或代數提供的資訊並無二致。因此，表示論致力於「在同構意義下」對所有的表示進行分類。

### 子表示、商表示、不可約表示

如果 $(W,\psi)$ 是（例如）群 $G$ 的表示，而 $W$ 的子空間 $V$ 在 $G$ 的作用下不變，即 $g.v\in V$ 對於所有 $V$ 中的向量 $v$ 成立（塞爾稱這樣的 $V$ 為「在 $G$ 作用下穩定」），那麼 $V$ 被稱為 $W$ 的子表示：通過定義 $\varphi(g)$ 為 $\psi(g)$ 在子空間 $V$ 上的限制， $(V,\varphi)$ 形成對 $G$ 的表示，並且從 $V$ 到 $W$ 的包含映射是一個等變映射。此外，商空間 $W/V$ 也具有 $G$ 的表示的結構，稱為商表示。

如果 $W$ 只有兩個子表示，即平凡子空間 $\{0\}$ 與 $W$ 本身，那麼這個表示被稱為不可約表示；反之，如果 $W$ 擁有非平凡子表示，那麼 $W$ 就被稱為可約表示。

不可約表示的定義蘊涵了舒爾引理：不可約表示 $V$ 和 $W$ 之間的等變映射 $\alpha:V\to W$ 要麼是平凡映射，要麼是同構；這是由於 $\alpha$ 的核和像分別是 $V$ 和 $W$ 的子表示。特別地，若 $V=W$，舒爾引理說明了 $V$ 的等變自同態組成一個其基域 $F$ 上的結合可除代數。如果 $F$ 是代數封閉的，那麼不可約表示的等變自同態就只有恆等映射的標量倍數這一種。

不可約表示是表示論的基本組成部分：如果表示 $W$ 是可約表示，那麼它可以由一個子表示和商表示組成，兩者在某種意義上都比原來的表示更簡單：例如，如果 $W$ 是有限維表示，那麼其子表示和商表示的維度都比 $W$ 的更小。

### 直和與不可分表示

如果 $(V,\varphi)$ 和 $(W,\psi)$ 是（例如）群 $G$ 的表示，那麼通過定義

$$g\cdot (v,w) = (g\cdot v, g\cdot w).$$

使 $G$ 典範地表示在 $V$ 和 $W$ 的直和 $V\oplus W$ 上。

兩個表示的直和表示所包含的群 $G$ 的資訊並不具有比兩個表示單獨所包含的更多。如果一個表示是兩個非平凡子表示的直和，那麼原表示被稱為可分表示，否則則稱為不可分表示。

在一些好的情況下，所有表示都是不可約表示的直和：這樣的表示被稱為半單表示。這種情形下，我們只需研究不可約表示就夠了。在其它情況下，我們還必須研究不可分表示是如何由不可約表示通過子表示對商表示的擴張構造而成。

## 分支和主題

表示論以其分支數目之多、群和代數的表示的研究途徑之豐富而著稱。雖然它們如上所述的基本概念有共通之處，然而它們的細節卻大相逕庭。具體來說，不同分支之間至少有以下三重差異：

- 表示論因表示對象的不同而不同。群、結合代數、李代數各有數種類別，而不同類別各自的表示論各有它們獨特的風格。
- 表示論因表示空間本質的不同而不同。最突出的是有限維表示和無限維表示的區別。在無限維的情形中，表示空間的額外結構（例如，空間是否巴拿赫空間、希爾伯特空間等）也有重要意義。即使在有限維的情況下，表示空間上還可以額外附加各種代數結構。
- 表示論因表示空間的係數域的不同而不同。其中最常用的係數域是複數域；其它重要的情形還包括實數域、有限域、p進數域等。另外，正特徵域與非代數封閉域會額外地為表示論增加難度。

### 有限群

群表示是有限群的研究中的一個非常有力的工具。此外，群表示也出現在有限群論對幾何和晶體學的應用中。其中，有限群的表示既展示了群表示論的許多一般特性，同時也指明了通向表示論其它分支的途徑。

在零特徵域中，有限群 $G$ 的表示論有許多簡便的性質。首先，作為馬施克定理的推論之一，$G$ 的所以表示都是半單的（即完全可約的）。馬施克定理聲明，任何 $G$ 的表示 $W$ 的任何子表示 $V$ 都有一個 $G$-不變的補空間。其中一個證法為，先任意選取從 $W$ 到 $V$ 的投影 $\pi$，並將其替換為其在 $G$ 中的「平均」

$$\pi_G(x) = \frac1{|G|}\sum_{g\in G} g\cdot \pi(g^{-1}\cdot x).$$

$\pi_G$ 是等變映射，此外它的核即所求的補空間。

$G$ 的有限維表示可以通過特徵標理論理解：表示 $\varphi:G\to\mathrm{GL}(V)$ 的特徵標是一個類函數 $\chi_\varphi:G\to F$，由式子

$$\chi_{\varphi}(g) = \mathrm{Tr}(\varphi(g))\,$$

給出；這裡 $\mathrm{Tr}$ 代表線性算子的跡。$G$ 的不可約表示由它的特徵標完全確定。

更一般地，對於特定的特徵為 $p$ 的域，馬施克定理仍然成立，唯一要求是 $p$ 與 $G$ 的階互質。如果 $p$ 與 $|G|$ 有公約數，那麼將存在非半單的 $G$ 的表示；這是子分支模表示論的主題。

取平均的技法另外還表明，如果 $F$ 是實數域或複數域，那麼任何 $G$ 的表示都保持 $V$ 上的某個內積 $\langle\cdot,\cdot\rangle$ 不變，即

$$\langle g\cdot v,g\cdot w\rangle = \langle v,w\rangle$$

對於所有 $g\in G$ 和 $v\in V$ 成立。因此，任何 $G$ 的表示都是酉表示。

酉表示天然是半單的，這是由於任何子表示關於這個內積的正交補仍是子表示，因而可以引出馬施克定理的結論。在研究非有限群時，酉表示提供了對有限群的實或復表示的一個合理推廣。

像馬施克定理或酉性質等依賴於取平均技法的結論，可以通過將平均替換成積分，而進一步推廣到更一般的群：只要可以在群上定義適當的積分的概念。對於緊群和局部緊群，可以通過哈爾測度定義積分，所得的理論被稱為抽象調和分析。

在任意域上都還有一類有限群具有良好的表示論，這類群稱為有限李型群，重要的例子包括有限域上的線性代數群。線性代數群和李群的表示論將這些例子延伸到無限維群，後者的表示論更與李代數表示密切相關。而「權」（weight）於李群、李代數表示論中的重要性，恰恰類比特徵標理論之於有限群的表示論。

有限群的表示還與群代數的表示直接相關。$G$ 的群代數 $F[G]$ 是 $F$-向量空間，基底為 $G$ 的元素；而在群運算和線性公理的基礎上，再要求群運算和標量乘法之間可交換，即誘導得出 $F[G]$ 上的乘法運算。

### 模表示

有限群 $G$ 的模表示即在特徵與 $|G|$ 不互質的域上的表示；這種情況下，馬施克定理不再成立（這是由於 $|G|$ 在該域裡不是可逆元）。儘管如此，理察·布勞爾（Richard Brauer）仍將許多特徵標理論的內容延伸到模表示。他的理論在有限單群分類的早期進展中扮演了重要的角色，尤其是對於一些西羅p-子群「太小」的單群，純群論的方法對它們的分類不再適用。

除了在群論中有應用之外，模表示也自然地出現在數學的其它分支中，如代數幾何、編碼理論、組合數學、和數論。

### 酉表示

群 $G$ 的酉表示是 $G$ 在實或（通常是）復希爾伯特空間 $V$ 上的表示 $\varphi$，使得對於所有 $g\in G$、$\phi(g)$ 都是一個酉算子。自1920年代起，受赫爾曼·外爾的影響，酉表示廣泛地應用於量子力學，並因此啟發了酉表示理論的發展，主要由尤金·維格納對龐加萊群表示的分析推動。喬治·麥基是建立酉表示的一般理論的先驅之一，而到了1950和1960年代，錢德拉等人建成了一套全面的理論。

酉表示論的主要目標之一是描述「酉對偶」，即 $G$ 的所有不可約酉表示的空間。酉表示理論最完善的一部分是在 $G$ 局部緊豪斯多夫拓撲群、表示為強連續映射的情況下。若 $G$ 是阿貝爾群，那麼酉對偶就是特徵標的空間，而當 $G$ 是緊緻群時，彼得-外爾定理聲明不可約酉表示都是有限維表示，並且酉對偶是離散的。例如，若 $G$ 是圓群 $S^1$，那麼特徵標是由整數給出的，因此 $G$ 的酉對偶就是 $\mathbb{Z}$。

對於非緊緻的 $G$，酉表示的判定是個微妙的問題。雖然不可約酉表示必須是「可容許表示」（例如錢德拉模），並且要檢測出可容許表示是否具有非退化的不變半雙線性形式是比較容易的，然而要判斷這個形式是否正定卻非常困難。對酉對偶進行有效的描述，哪怕只是對於實半單李群（見下文）等相對規整的群的情況，仍然是表示論中的一個重要的開放問題。這個問題對於許多特殊的群，例如2次特殊線性群 $\mathrm{SL}_2(\mathbb{R})$以及洛侖茲群等，已有解答。

### 調和分析

圓群 $S^1$ 與整數 $\mathbb{Z}$ 的對偶，或更一般地，$n$ 維環面 $\mathbb{T}^n$ 與 $\mathbb{Z}^n$ 的對偶，在分析中以傅立葉級數理論的形式為人所熟知。類似地，傅立葉變換也表明了實向量空間的特徵標空間就是對偶空間。因此，酉表示理論和調和分析密切相關，而抽象調和分析則進一步深入研究兩者間的關係，建立了對局部緊拓撲群及其相關空間上的函數的分析。

抽象調和分析的一大目標是為傅立葉變換和普朗歇爾定理提供一個統一的形式。為了達成這一點，須在酉對偶上構造一個測度，並構造從 $G$ 於在 $G$ 上平方可積函數的空間 $L^2(G)$ 上的正則表示，到 $G$ 酉表示上的$L^2$ 函數空間的同構。龐特里亞金對偶性和彼得-外爾定理分別在 $G$ 為阿貝爾群和為緊緻群的情況達成了這一目標。

另一種研究手段則是考慮所有的酉表示，而不僅是不可約的酉表示。這樣，由於所有的酉表示構成一個範疇，因此淡中-克萊恩對偶提供了從酉表示的範疇還原出緊緻群的方法。

對於非緊、非交換的群，雖然有部分較完整的理論，如格羅滕迪克對淡中-克萊恩對偶的推廣，建立了線性代數群和淡中範疇之間的聯繫；但目前還沒有一般的理論可以視為普朗歇爾定理或傅立葉逆定理的類比。

調和分析也從對群 $G$ 上的函數的分析延伸到了對 $G$ 的齊性空間上的函數的分析。該理論最完善的是關於對稱空間的部分，並給出了一套自守形式的理論（見下文討論）。

### 李群

李群是同時具有光滑流形結構的群。許多經典的實數或複數矩陣群都是李群。另外，許多在物理和化學裡很重要的群也是李群，而這些李群的表示論是群論在這些領域上的應用至關重要。

要建立李群的表示論，可以先考慮緊緻李群，使得緊緻群表示論的結論有用武之地。要將這部分理論延伸到半單李群的有限維表示，只需運用外爾的「酉技法」：每一個半單實李群 $G$ 都有一個複化，得到一個復李群 $G_c$，而這個復李群有一個極大緊子群 $K$。$G$ 的有限維表示和 $K$ 的有限維表示密切相關。

此外，每一個李群都是一個可解李群和一個半單李群的半直積（即列維分解）。對可解李群的表示進行總體的分類是個棘手的問題，但對於實際應用的特例情況，分類常常比較容易解決。對於半直積的表示，我們可以用「麥基理論」這個一般性的結論進行分析；這一理論也推廣了維格納對龐加萊群的表示進行分類時所用的方法。

### 李代數

域 $F$ 上的李代數是一個帶有滿足雅可比恆等式的斜對稱雙線性運算的 $F$-向量空間，該雙線性運算稱為李括號。李代數主要作為李群在恆等元上的切空間出現，因而可以把它們視作「無窮小的對稱」。一方面，研究李群表示的重要方法之一是研究它們對應的李代數的表示，但另一方面李代數表示自身也有研究的意義。

和李群相似，李代數也可以通過列維分解分成半單李代數和可解李代數，而且可解李代數的表示一般來說同樣棘手。但與李群不同的是，半單李代數的有限維表示已經由埃利·嘉當完全解決。對半單李代數 $\mathfrak{g}$ 的表示的分析可以通過選定一個嘉當子代數進行，這個嘉當子代數本質上是 $\mathfrak{g}$ 中使得李括號為零（即「阿貝爾」）的極大子代數 $\mathfrak{h}$。$\mathfrak{g}$ 的表示可以分解成「權空間」，即子代數 $\mathfrak{h}$ 的作用的特徵空間，同時也是特徵標在無窮小情形中的類比。這樣，半單李代數的結構的研究就約化成對可能出現的權重的表示的較簡單的組合學分析。

#### 無限維李代數

人們已經研究過許多類無限維李代數的表示論，其中比較重要的一類是卡茨-穆迪代數，以維克多·卡茨和羅伯特·穆迪命名。這些代數構成有限維半單李代數的推廣，並有許多共有的組合學性質。這說明它們有一類表示可以像對半單李代數的表示一樣研究。

仿射李代數是卡茨-穆迪代數的一種特例，在理論物理、尤其是共形場論和準確解模型理論中有重要意義。此外，基於仿射卡茨-穆迪代數，卡茨發現了麥克唐納恆等式的一個優雅證明。

#### 李超代數

李超代數是李代數的推廣。作為向量空間，李超代數額外帶有 $\mathbb{Z}_2$ 分次，而李括號的斜對稱性和雅可比恆等式等公理中的符號也作相應變化。李超代數的表示論與李代數的表示論有許多相似之處。

### 線性代數群

線性代數群（或更一般的，仿射群概形）是李群在代數幾何的類比，但在除 $\mathbb{R}$ 和 $\mathbb{C}$ 之外的更一般的域上也可定義。特別地，在有限域上，線性代數群給出有限李型群。雖然對線性代數群可如李群類似地進行分類，但是它們的表示論卻非常不同（而且人們尚未能很好理解），並且要求的技巧也不一樣；這是由於扎里斯基拓撲相對而言是較弱的拓撲，使得分析中的技巧不再適用。

### 不變量理論

不變量理論研究代數簇上的群作用，主要著眼於群作用在函數上的影響，而這正好構成了群的表示。經典的不變量理論研究的問題是：給定一個線性群，要求明確描述出何種多項式函數在該群的作用下「不變」。現代理論則著重分析如何將這些表示分解為不可約表示。

無限群的不變量理論與線性代數的發展、尤其是與二次型和行列式理論的發展密不可分。不變量理論與射影幾何相互間也有很強的相互影響：不變量理論可用於對射影幾何進行系統化整理，而在1960年代，戴維·芒福德以他的幾何不變量理論為射影幾何注入了新的生機。

此外，半單李群的表示論也來源於不變量理論，而且表示論和微分幾何之間也有平行於和代數幾何之間的堅強聯繫。這種聯繫始於菲利克斯·克萊因的愛爾蘭根綱領和埃利·嘉當的嘉當聯絡，將群和對稱性放在幾何研究的中心地位。現代的發展將表示論和不變量理論聯繫到和樂、微分算子、多復變量理論等多種領域。

### 自守形式與數論

自守形式是模形式向更一般的解析函數、甚至是多復變量函數上的推廣，帶有相似的變換性質。這個推廣包括將模群2次射影線性群 $\mathrm{PSL}_2(\mathbb{R})$ 及其一個選定的子群替換成一個半單李群 $\mathrm{PSL}_2(\mathbb{R})$ 及離散子群 $\Gamma$。正如模形式可被視作上半空間 $\mathbb{H}=\mathrm{PSL}_2(\mathbb{R})/\mathrm{SO}(2)$ 的一個商空間上的微分形式，自守形式也可以視作 $\Gamma \setminus G/K$ 上的微分形式（或類似的對象），其中 $K$（通常）是 $G$ 極大緊子群。然而這裡需要注意，這個商通常帶有奇異點。半單李群對緊子群的商是對稱空間，因此自守形式的理論與對稱空間上的調和分析有密切聯繫。

在總體理論成形之前，人們將希爾伯特模形式和西格爾模形式等許多重要特例研究透徹，得到包括有塞爾伯格跡公式等重要結論，以及羅伯特·朗蘭茲對可以用黎曼－羅赫定理計算自守形式的空間的維度這一領悟。後來發展的「自守表示」的概念，也檢驗了在 $G$ 為代數群的情況、將其作為伊代爾代數群處理的這一技術的巨大價值。作為這一整套理論的總結，朗蘭茲綱領圍繞表示與自守形式的數論性質之間的聯繫而發展起來。

### 結合代數

在某種意義上，結合代數表示同時推廣了群表示和李代數表示。群的表示誘導出對應的群環或群代數的表示，而李代數的表示則與它的泛包絡代數的表示一一對應。然而，一般的結合代數的表示論並不完全具有群表示及李代數表示的良好性質。

#### 模論

在考慮結合代數的表示時，我們可以忽略係數域，而直接將結合代數視為一個環，並將它的表示視為一個模。這種方法出人意料地卓有成效：許多表示論的結論可以解釋為關於環上的模的結論的種種特例。

#### 霍普夫代數與量子群

霍普夫代數提供了一個改善結合代數的表示論的方法，與此同時仍保有群表示和李代數表示作為特例。特別地，兩個表示的張量積仍然是表示，表示的對偶空間亦然。

群對應的霍普夫代數具有交換代數的結構，因此一般的霍普夫代數有時也稱為量子群，然而量子群一詞通常只用於指從群或群的泛包絡代數形變而成的、特定的霍普夫代數身上。量子群的表示論為李群、李代數的表示增添了新的思想，柏原正樹的結晶基底理論就是一例。

## 推廣

### 集合論表示

群 $G$ 在集合 $X$ 上的集合論表示（亦稱群作用或「置換表示」）是函數 $\rho:G\to X^X$ 給出——其中 $X^X$ 指代從 $X$ 到 $X$ 的所有函數的集合——並要求對於所有 $G$ 中的元素 $g_1$、$g_2$ 和 $X$ 中的元素 $x$ 滿足：

$$\rho(1)[x] = x$$

$$\rho(g_1 g_2)[x]=\rho(g_1)[\rho(g_2)[x]].$$

這個條件與群的公理一道蘊涵了對於每一個 $G$ 中的元素 $g$，$\rho(g)$ 都是一個雙射函數（或稱置換）。因此，我們也可以等價地定義置換表示為從 $G$ 到 $X$ 上的對稱群 $S_X$ 的群同態。

### 其它範疇中的表示

任何群 $G$ 都可以視作是只有一個元素的範疇；範疇里的態射即 $G$ 中的元素。給定任意範疇 $\mathcal{C}$，$G$ 在 $\mathcal{C}$ 上的表示即從 $G$ 到 $\mathcal{C}$ 的函子。這種函子從範疇 $\mathcal{C}$ 選擇一個對象 $X$，並選擇一個從 $G$ 到 $X$ 的自同構群 $\mathrm{Aut}(X)$ 的群同構。

若 $\mathcal{C}=\mathrm{Vect}_F$ 為 $F$-向量空間的範疇，以上定義等價於線性表示的定義。類似地，集合論表示即 $G$ 在集合範疇上的表示。

至於其它例子，可以考慮拓撲空間範疇 $\mathbf{Top}$。$G$ 在 $\mathbf{Top}$ 上的表示即從 $G$ 到拓撲空間 $X$ 的自同胚群的群同構。

另外還有兩種表示與線性表示密切相關：

- 射影表示：在射影空間（如實射影空間）範疇上的表示。射影表示也可以視為「忽略標量變換的線性表示」。
- 仿射表示：在仿射空間範疇上的表示。例如，歐幾里得群仿射地作用在歐幾里得空間上，即形成了對歐幾里得群的仿射表示。

### 對範疇的表示

由於群也是範疇，對群的表示可以推廣到對其它範疇的表示。最簡單的推廣是對么半群的表示。么半群是只有單一對象的範疇，因此作為範疇，群是所有態射均可逆的么半群。

么半群在任何範疇上均有表示。例如，么半群在集合範疇上的表示即么半群作用。向量空間及其它對象上的么半群表示也有研究意義。

更一般地，我們還可以放鬆「所表示的範疇只有一個對象」這一假設。在最極端廣泛的意義下，表示不過是範疇之間的函子，除此之外並沒有太多可以研究的內容。

但是，有一個特例對表示論有非常重要的影響：箭圖表示論。簡而言之，箭圖就是有向圖（允許存在自環和多重邊）；然而我們可以通過考慮箭圖裡的路徑，而將它看作一個範疇（並且還可以看作一個代數）。對這樣的範疇或代數的表示啟發了表示論的許多方面。例如，在某些情況下，我們可以將非半單的群表示論的問題約化成半單的箭圖表示論的問題。