表示论

術語

向量空間  稱為  的表示空間，而其維度（如果有限）則稱為此表示的維度（有些文獻中又稱為度，例如）。取決於映射  是否由上下文清楚可知，通常將一個表示記為  或更清晰的 。
若  是  維空間，我們可以為  選擇一組基，並由此將  視作  從而還原  上的矩陣表示。
若表示  滿足  是單射，我們稱這個表示是一個有效表示，或忠實表示。

子表示、商表示、不可約表示

如果  是（例如）群  的表示，而  的子空間  在  的作用下不變，即  對於所有  中的向量  成立（塞爾 稱這樣的  為「在  作用下穩定」），那麼  被稱為  的子表示：通過定義  為  在子空間  上的限制，  形成對  的表示，並且從  到  的包含映射是一個等變映射。此外，商空間  也具有  的表示的結構，稱為商表示。
如果  只有兩個子表示，即平凡子空間  與  本身，那麼這個表示被稱為不可約表示；反之，如果  擁有非平凡子表示，那麼  就被稱為可約表示。
不可約表示的定義蘊涵了舒爾引理：不可約表示  和  之間的等變映射  要麼是平凡映射，要麼是同構；這是由於  的核和像分別是  和  的子表示。特別地，若 ，舒爾引理說明了  的等變自同態組成一個其基域  上的結合可除代數。如果  是代數封閉的，那麼不可約表示的等變自同態就只有恆等映射的純量倍數這一種。
不可約表示是表示論的基本組成部分：如果表示  是可約表示，那麼它可以由一個子表示和商表示組成，兩者在某種意義上都比原來的表示更簡單：例如，如果  是有限維表示，那麼其子表示和商表示的維度都比  的更小。

模表示

有限群  的模表示即在特徵與  不互質的域上的表示；這種情況下，馬施克定理不再成立（這是由於  在該域裡不是可逆元）。儘管如此，理察·布勞爾（Richard Brauer）仍將許多特徵標理論的內容延伸到模表示。他的理論在有限單群分類的早期進展中扮演了重要的角色，尤其是對於一些西羅p-子群「太小」的單群，純群論的方法對它們的分類不再適用。
除了在群論中有應用之外，模表示也自然地出現在數學的其它分支中，如代數幾何、編碼理論、組合數學、和數論。

酉表示

群  的酉表示是  在實或（通常是）復希爾伯特空間  上的表示 ，使得對於所有 、 都是一個酉算子。自1920年代起，受赫爾曼·外爾的影響，酉表示廣泛地應用於量子力學，並因此啟發了酉表示理論的發展，主要由尤金·維格納對龐加萊群表示的分析推動。喬治·麥基是建立酉表示的一般理論的先驅之一，而到了1950和1960年代，錢德拉等人建成了一套全面的理論。
酉表示論的主要目標之一是描述「酉對偶」，即  的所有不可約酉表示的空間。酉表示理論最完善的一部分是在  局部緊豪斯多夫拓撲群、表示為強連續映射的情況下。。</ref>若  是阿貝爾群，那麼酉對偶就是特徵標的空間，而當  是緊緻群時，彼得-外爾定理聲明不可約酉表示都是有限維表示，並且酉對偶是離散的。例如，若  是圓群 ，那麼特徵標是由整數給出的，因此  的酉對偶就是 。
對於非緊緻的 ，酉表示的判定是個微妙的問題。雖然不可約酉表示必須是「可容許表示」（例如錢德拉模），並且要檢測出可容許表示是否具有非退化的不變半雙線性形式是比較容易的，然而要判斷這個形式是否正定卻非常困難。對酉對偶進行有效的描述，哪怕只是對於實半單李群（見下文）等相對規整的群的情況，仍然是表示論中的一個重要的開放問題。這個問題對於許多特殊的群，例如2次特殊線性群 以及洛侖茲群等，已有解答。

調和分析

圓群  與整數  的對偶，或更一般地， 維環面  與  的對偶，在分析中以傅立葉級數理論的形式為人所熟知。類似地，傅立葉變換也表明了實向量空間的特徵標空間就是對偶空間。因此，酉表示理論和調和分析密切相關，而抽象調和分析則進一步深入研究兩者間的關係，建立了對局部緊拓撲群及其相關空間上的函數的分析。
抽象調和分析的一大目標是為傅立葉變換和普朗歇爾定理提供一個統一的形式。為了達成這一點，須在酉對偶上構造一個測度，並構造從  於在  上平方可積函數的空間  上的正則表示，到  酉表示上的  函數空間的同構。龐特里亞金對偶性和彼得-外爾定理分別在  為阿貝爾群和為緊緻群的情況達成了這一目標。
另一種研究手段則是考慮所有的酉表示，而不僅是不可約的酉表示。這樣，由於所有的酉表示構成一個範疇，因此淡中-克萊恩對偶提供了從酉表示的範疇還原出緊緻群的方法。
對於非緊、非交換的群，雖然有部分較完整的理論，如格羅滕迪克對淡中-克萊恩對偶的推廣，建立了線性代數群和淡中範疇之間的聯繫；但目前還沒有一般的理論可以視為普朗歇爾定理或傅立葉逆定理的類比。
調和分析也從對群  上的函數的分析延伸到了對  的齊性空間上的函數的分析。該理論最完善的是關於對稱空間的部分，並給出了一套自守形式的理論（見下文討論）。

李代數

域  上的李代數是一個帶有滿足雅可比恆等式的斜對稱雙線性運算的 -向量空間，該雙線性運算稱為李括號。李代數主要作為李群在恆等元上的切空間出現，因而可以把它們視作「無窮小的對稱」。一方面，研究李群表示的重要方法之一是研究它們對應的李代數的表示，但另一方面李代數表示自身也有研究的意義。
和李群相似，李代數也可以通過列維分解分成半單李代數和可解李代數，而且可解李代數的表示一般來說同樣棘手。但與李群不同的是，半單李代數的有限維表示已經由埃利·嘉當完全解決。對半單李代數  的表示的分析可以通過選定一個嘉當子代數進行，這個嘉當子代數本質上是  中使得李括號為零（即「阿貝爾」）的極大子代數 。 的表示可以分解成「權空間」，即子代數  的作用的特徵空間，同時也是特徵標在無窮小情形中的類比。這樣，半單李代數的結構的研究就約化成對可能出現的權重的表示的較簡單的組合學分析。

無限維李代數

人們已經研究過許多類無限維李代數的表示論，其中比較重要的一類是卡茨-穆迪代數，以維克多·卡茨和羅伯特·穆迪命名。這些代數構成有限維半單李代數的推廣，並有許多共有的組合學性質。這說明它們有一類表示可以像對半單李代數的表示一樣研究。
仿射李代數是卡茨-穆迪代數的一種特例，在理論物理、尤其是共形場論和準確解模型理論中有重要意義。此外，基於仿射卡茨-穆迪代數，卡茨發現了麥克唐納恆等式的一個優雅證明。

李超代數

李超代數是李代數的推廣。作為向量空間，李超代數額外帶有  分次，而李括號的斜對稱性和雅可比恆等式等公理中的符號也作相應變化。李超代數的表示論與李代數的表示論有許多相似之處。

線性代數群

線性代數群（或更一般的，仿射群概形）是李群在代數幾何的類比，但在除  和  之外的更一般的域上也可定義。特別地，在有限域上，線性代數群給出有限李型群。雖然對線性代數群可如李群類似地進行分類，但是它們的表示論卻非常不同（而且人們尚未能很好理解），並且要求的技巧也不一樣；這是由於扎里斯基拓撲相對而言是較弱的拓撲，使得分析中的技巧不再適用。

不變量理論

不變量理論研究代數簇上的群作用，主要著眼於群作用在函數上的影響，而這正好構成了群的表示。經典的不變量理論研究的問題是：給定一個線性群，要求明確描述出何種多項式函數在該群的作用下「不變」。現代理論則著重分析如何將這些表示分解為不可約表示。
無限群的不變量理論與線性代數的發展、尤其是與二次型和行列式理論的發展密不可分。不變量理論與射影幾何相互間也有很強的相互影響：不變量理論可用於對射影幾何進行系統化整理，而在1960年代，戴維·芒福德以他的幾何不變量理論為射影幾何注入了新的生機。
此外，半單李群的表示論也來源於不變量理論，而且表示論和微分幾何之間也有平行於和代數幾何之間的堅強聯繫。這種聯繫始於菲利克斯·克萊因的愛爾蘭根綱領和埃利·嘉當的嘉當聯絡，將群和對稱性放在幾何研究的中心地位。現代的發展將表示論和不變量理論聯繫到和樂、微分算子、多復變量理論等多種領域。

自守形式與數論

自守形式是模形式向更一般的解析函數、甚至是多復變量函數上的推廣，帶有相似的變換性質。這個推廣包括將模群2次射影線性群  及其一個選定的子群替換成一個半單李群  及離散子群 。正如模形式可被視作上半空間  的一個商空間上的微分形式，自守形式也可以視作  上的微分形式（或類似的對象），其中 （通常）是  極大緊子群。然而這裡需要注意，這個商通常帶有奇異點。半單李群對緊子群的商是對稱空間，因此自守形式的理論與對稱空間上的調和分析有密切聯繫。
在總體理論成形之前，人們將希爾伯特模形式和西格爾模形式等許多重要特例研究透徹，得到包括有塞爾伯格跡公式等重要結論，以及羅伯特·朗蘭茲對可以用黎曼－羅赫定理計算自守形式的空間的維度這一領悟。後來發展的「自守表示」的概念，也檢驗了在  為代數群的情況、將其作為伊代爾代數群處理的這一技術的巨大價值。作為這一整套理論的總結，朗蘭茲綱領圍繞表示與自守形式的數論性質之間的聯繫而發展起來。

結合代數

在某種意義上，結合代數表示同時推廣了群表示和李代數表示。群的表示誘導出對應的群環或群代數的表示，而李代數的表示則與它的泛包絡代數的表示一一對應。然而，一般的結合代數的表示論並不完全具有群表示及李代數表示的良好性質。

模論

在考慮結合代數的表示時，我們可以忽略係數域，而直接將結合代數視為一個環，並將它的表示視為一個模。這種方法出人意料地卓有成效：許多表示論的結論可以解釋為關於環上的模的結論的種種特例。

霍普夫代數與量子群

霍普夫代數提供了一個改善結合代數的表示論的方法，與此同時仍保有群表示和李代數表示作為特例。特別地，兩個表示的張量積仍然是表示，表示的對偶空間亦然。
群對應的霍普夫代數具有交換代數的結構，因此一般的霍普夫代數有時也稱為量子群，然而量子群一詞通常只用於指從群或群的泛包絡代數形變而成的、特定的霍普夫代數身上。量子群的表示論為李群、李代數的表示增添了新的思想，柏原正樹的結晶基底理論就是一例。

對範疇的表示

由於群也是範疇，對群的表示可以推廣到對其它範疇的表示。最簡單的推廣是對么半群的表示。么半群是只有單一對象的範疇，因此作為範疇，群是所有態射均可逆的么半群。
么半群在任何範疇上均有表示。例如，么半群在集合範疇上的表示即么半群作用。向量空間及其它對象上的么半群表示也有研究意義。
更一般地，我們還可以放鬆「所表示的範疇只有一個對象」這一假設。在最極端廣泛的意義下，表示不過是範疇之間的函子，除此之外並沒有太多可以研究的內容。
但是，有一個特例對表示論有非常重要的影響：箭圖表示論。簡而言之，箭圖就是有向圖（允許存在自環和多重邊）；然而我們可以通過考慮箭圖裡的路徑，而將它看作一個範疇（並且還可以看作一個代數）。對這樣的範疇或代數的表示啟發了表示論的許多方面。例如，在某些情況下，我們可以將非半單的群表示論的問題約化成半單的箭圖表示論的問題。