Représentation des groupes finis
préparation à l’agrégation

Alexis Tchoudjem
Université Lyon I
10 février 2016

1

Références
1. Vinberg, Algebra ;2. J. -P. Serre, Représentations linéaires des groupes finis ;3. Guy Henniart, Représentations linéaires des groupes finis, disponible
ici : www.math.polytechnique.fr/xups/xups09-01.pdf ;4. Alperin, Groups and representations ;5. Isaacs, Character theory of finite groups ;6. Fulton & Harris Representation theory.

Table des matières
1 Références

2

2 Sous-espaces invariants

2

3 Complète réductibilité des représentations linéaires des groupes
finis
6
4 Caractères des représentations de groupes finis

7

5 L’espace hermitien des fonctions centrales

7

6 Table des caractères de A5

11

7 Théorème de Burnside

12

8 Représentations induites

132Sous-espaces invariants
Soit k un corps.

Définition 1 Une représentation k−linéaire d’un groupe G est un morphismede groupes :G → GL(V ) .
Si R : G → GL(V ) et S : G → GL(U ) sont des représentations d’ungroupe G, un morphisme de R vers S est une application k−linéaire φ : V →2

U telle que le diagramme :
R(g)

V


φ

U

R(g)

/V


φ

/U

commute pour tout g ∈ g. Si φ est un isomorphisme, on dit que R ' S.
Les sous-espaces invariants jouent un rôle important dans la structure desreprésentations linéaires. De quoi s’agit-il ?
Définition 2 Soit R : G → GL(V ) une représentation linéaire d’un groupe
G. On dit qu’un sous-espace U ≤ V est invariant s’il l’est vis à vis de tous
les endomorphismes R(g), g ∈ G.
Si U ≤ V est un sous-espace invariant d’une représentation R : G →GL(V ), alors la sous-représentation RU : G → GL(U ), g 7→ R(g)|U et la représentation quotient RV /U : G → GL(V /U ), g 7→ (v mod U 7→ R(g)v mod U )sont aussi des représentations linéaires de G.
Définition 3 Une représentation R : G → GL(V ) est irréductible si V 6= 0<

et s’il n’existe pas de sous-espace invariant 0 6= U 6= V .
Exercice 1 a) Les représentations de dimension 1 sont irréductibles.
 cos t − sin t b) La représentation R : R → GL2 (R), t 7→ 

sin t

cos t

 est irréduc-tible.
 cos t− sin t 

sin t

cos t

c) La représentation R : R → GL2 (C), t 7→  n’est pas

irréductible.
d) L’isomorphisme S4 ' SO3 (Z) définit une représentation irréductibleréelle de S4 de dimension 3 (l’isomorphisme s’obtient en faisant agir
 ±1 
SO3 (Z) sur ses quatre 3−Sylow ou sur les quatre droites ±  ±1 ).





1

Cette dernière représentation est aussi irréductible sur C ! grâce à la proposition suivante :3

Proposition 2.1 Soit G → GLn (R) une représentation irréductible de dimension n impaire. Alors R : G → GLn (C) la « complexification » de R est
aussi irréductible.
Démonstration : Indication : soit 0 6= W < Cn un sous-espace invariant.
Alors W ∩ W est un sous-R−espace invariant de Rn donc c’est 0. De mêmeW + W ∩ Rn est un sous-espace invariant de Rn donc W + W = Cn . D’où
q.e.d.
n = dim W + dim W = 2 dim W absurde !

Exercice 2 Soit V un k−espace vectoriel de base e1 , ..., en . La représentationde Sn définie par R(s)ei := es(i) , s ∈ Sn , est la représentation monomiale.
a) La représentation monomiale n’est pas irréductible car elle a au moins
deux sous-représentations non triviales : l’une de dimension 1 : k(e1 +PP.... + en ) l’autre de dimension n − 1 : V0 := { ni=1 xi ei : ni=1 xi = 0}.
b) La sous-représentation V0 est irréductible en caractéristique nulle.
Remarque importante : si ϕ : V → U est un morphisme de représentations, alors ker ϕ est une sous-représentation de V et Imϕ est une sousreprésentation de U .
Voici une conséquence :Théorème 2.2 Tout morphisme entre deux représentations irréductibles est
soit nul soit un isomorphisme.
Dorénavant nous ne considérerons que les représentations dedimension finie.
Théorème 2.3 (Lemme de Schur) Sur un corps algébriquement clos, tout
endomorphisme d’une représentation irréductible est soit nul soit un multiple
de l’identité.
Corollaire 2.3.1 Toute représentation irréductible d’un groupe abélien sur
un corps algébriquement clos est de dimension 1.
Démonstration : (exo)q.e.d.

Définition 4 Une représentation linéaire R : G → GL(V ) est complètement
réductible si tout sous-espace invariant U ≤ V admet un supplémentaire
invariant.
4



t
 e

Exercice 3 a) La représentation R → GL2 (C), t 7→ 



0 

0 e−t

 est com-plètement réductible.


 1 t b) La représentation S → GL2 (C), t 7→ 

0 1

 est réductible mais noncomplètement.
Théorème 2.4 Chaque sous-représentation et chaque quotient d’une représentation complètement réductible restent complètement réductibles.
Démonstration : (exo)q.e.d.

Théorème 2.5 Soit R : G → GL(V ) une représentation linéaire.
Si R est une représentation complètement réductible, alors V se décompose en somme directe de sous-espaces invariants minimaux † .
P(ii)(i) Réciproquement, si V est une somme i Vi (non nécessairement directe) de sous-espaces invariants minimaux, alors R est une représentation complètement réductible. De plus, si U ≤ V est un sous-espaceinvariant, alors on peut choisir comme supplémentaire invariant une
somme de certains Vi .
Démonstration : (i) : (exo)P(ii) Si V = ni=1 Vi . Si U ≤ V est invariant. On choisit I ≤ {1, ..., n}P
un sous-ensemble de cardinal maximal tel que i∈I Vi ∩ U = 0. Alors U ⊕P( i∈I Vi ) = V .
q.e.d.
Exercice 4 a) En caractéristique nulle, la représentation monomiale est
complètement réductible.
b) En caractéristique nulle, la représentation Ad : GLn (k) → GL(Mn (K)),
A 7→ (X 7→ AXA−1 ) est complètement réductible (indication : vérifierque hIn i et {X ∈ Mn (K) : trM = 0} sont des sous-espaces invariants
minimaux).
Corollaire 2.5.1 Une représentation est complètement réductible si et seulement si elle est isomorphe à une somme directe de représentations irréductibles.
†. i.e. minimaux parmi les sous-espaces invariants non nuls

5Corollaire 2.5.2 Soit R : G → GL(V ) une représentation complètement
réductible isomorphe à une somme directe de représentations irréductibles⊕ni=1 Ri . Alors toute sous-représentation et toute représentation quotient de
R est isomorphe à une somme directe ⊕i∈I Ri pour une partie I ⊆ {1, ..., n}.
Théorème 2.6 (de Burnside) Soit R : G → GL(V ) une représentation
irréductible sur un corps algébriquement clos k. Alors la sous-algèbre deEndk (V ) engendré par les R(g), g ∈ G, coïncide avec Endk (V ).
Démonstration : cf. Les Maths en tête, algèbre , X. Gourdon, problème
IV . 7
q.e.d.
Exercice 5 Montrer que si R : G → GL(V ) est une représentation irréductible sur un corps de algébriquement clos, alors :a) toute forme bilinéaire non nulle invariante sur V est non dégénérée ;b) deux telles formes sont proportionnelles ;c) si une telle forme existe, alors elle est symétrique ou antisymétrique.

3

Complète réductibilité des représentations linéaires des groupes finis

Théorème 3.1 (théorème de Maschke) Soit R : G → GL(V ) une représentation k−linéaire d’un groupe fini G d’ordre premier à la caractéristique dek. Alors tout sous-espace invariant U ≤ V a un supplémentaire G−invariant.
Démonstration : Soit p : V → U une projection linéaire surjective (ça1 P−1existe toujours !). On pose π := |G|g∈G R(g) ◦ p ◦ R(g) . C’est un endomorphisme de V , on a π ◦ R(g) = R(g) ◦ π pour tout g ∈ G. Donc ker π et
π sont des sous-espaces G−invariants. De plus π 2 = π (exo) Donc π est une
projection et Imπ ⊕ ker π = V avec Imπ = U .
q.e.d.
Exercice 6 Démontrer que la représentation C− linéaire de S4 induite parl’isomorphisme S4 ' SO3 (Z) est irréductible (indication : il suffit de vérifier
qu’il n’y a pas de droite invariante !)Exercice 7 Si p est un nombre premier, alors la sous-représentation { pi=1 xi ei :Pp
i=1 xi = 0} de la représentation monomiale de Sp est indécomposable maisn’est pas irréductible.
P

On s’intéresse dorénavant aux représentations sur C.
6

4

Caractères des représentations de groupes finis

Définition 5 Soit R : G → GL(V ) une représentation, son caractère χR est
la fonction G → C, g 7→ trace(R(g)).
Remarques :i) La terminologie est traditionnelle mais peut prêter à confusion si legroupe G est abélien !
ii) Deux représentations isomorphes ont le même caractère (et réciproquement ? patience ...).
iii) La fonction χR est clairement constante sur les classes de conjugaison.
iv) Si G est fini, alors pour tout g ∈ G, χR (g −1 ) = χR (g) (exo)v) Si R est la somme directe de deux sous-représentations R1 et R2 , alors
χR = χR1 + χR2 .
Exercice 8 χR (1) est la dimension de la représentation R.

5

L’espace hermitien des fonctions centrales

Soit G un groupe fini. On note FC(G) le C−espace vectoriel des « fonctions de classe » i.e. des fonctions G → C constantes sur les classes deconjugaison i.e. des fonctions f : G → C telles que f (gh) = f (hg) pour tousg, h ∈ G.
On munit CG du produit scalaire hermitien :∀f, ϕ ∈ CG , hf, ϕi :=1 X
f (g)ϕ(g) .
|G| g∈G

On note Irr(G) l’ensemble des classes d’isomorphisme des représentations
irréductibles de G.
À l’aide du lemme de Schur, on peut démontrer le résultat fondamental
suivant :Théorème 5.1 La famille (χR )R∈Irr(G) est une base orthonormale du sousespace FC(G).
En particulier, le nombre de classes d’isomorphisme de représentations
irréductibles de G est aussi le nombre de classes de conjugaison de G !
PRemarque : pour toute fonction f ∈ FC(G), f = R∈Irr(G) hχR , f iχR .
7

Les χR , R ∈ Irr(G), sont appelés les caractères irréductibles de G.
Les valeurs des (χR )R∈Irr(G) sont présentées sous forme de tableau, appelé table des caractères de G, dont la première ligne indique les classes deconjugaison de G (chaque classe est représentée par un de ses éléments et on
indique aussi le cardinal de la classe ; et la première colonne indique la listedes χR . On inscrit le coefficient χR (g) à l’intersection de la colonne g et dela ligne χR ).
Exercice 9 (table des caractères de S3 )1 : 1 (12) : 3 (123) : 2
χ1

1

1

1

χsign

1

−1

1

χR0

2

0

−1

Exercice 10 Déterminer la table des caractères de D4 , groupe diédral d’ordre
8.
Nombreuses et considérables sont les conséquences du théorème précédent. Par exemple :(1) Deux représentations R et R0 de G sont isomorphes si et seulement si
leurs caractères sont égaux ( ce qui justifie le terme caractère).
(2) Si R est une représentation de G, alors R est somme directe de sousrepreésentations irréductibles Ri . Dans cette décomposition, le nombrede Ri dans une classe ρ ∈ Irr(G) donnée est hR, ρi.
(3) Une condition nécessaire et suffisante pour qu’une représentation R soit
irréductible est hχR , χR i = 1.
(4) Plus généralement, si une fonction f ∈ FC(G) est une combinaison
linéaire à coefficients entiers de caractères irréductibles de G, alors f est
un caractère irréductible si χ(1) ≥ 0 et hχ, χi = 1.
(5) Avec un peu de théorie des nombres (les χR (g) sont des entiers algébriques pour toute représentation R et tout g ∈ G !), la dimension de|G|(cf. Serre, Représentoute représentation irréductible de G divise |Z(G)|tations linéaires des groupes finis).
(6) le théorème de Burnside ! i.e. : tout groupe fini d’ordre pa q b , où p, q sontdes nombres premiers et a, b ∈ Z≥1 est résoluble !
On note CG le C−espace vectoriel CG de base eg : G → C, h 7→ δg,h ,g ∈ G, muni du produit C−bilinéaire eg eh := egh .
8

Exercice 11 En considérant la représentation régulière de G : RG : G →GL(CG), ∀ g ∈ G, RG (g)(eh ) = egh . Montrer que :dim2 R = |G|

X
R∈Irr(G)∀X

1 6= g ∈ G,

dim RχR (g) = 0 .

R∈Irr(G)Lemme 5.2 Si R : G → GL(V ) est une représentation, on note R∗ : G →GL(V ∗ ), g 7→ t R(g −1 ) la représentation duale . On a χR = χR∗ et R est
irréductible ⇔ R∗ l’est !
Démonstration : (exo)
Démonstration du résultat fondamental :q.e.d.

1) Soient R : G → GL(V ), R0 : G → GL(V 0 ) deux représentations irréductibles non isomorphes. Soit f : V → V 0 une application C−linéaire. AlorsP
0−1: V → V 0 est G−équivariante donc nulle d’après leg∈G R (g)f R(g)lemme de Schur.
Soit e1 , ..., en une base V et soit e01 , ..., e0n0 une base de V 0 . Soit f l’endomorphisme élémentaire « Ei,j » pour 1 ≤ i ≤ n0 , 1 ≤ j ≤ n.
P
Alors dans les bases e, e0 le k, lème coefficient de la matrice g∈G R0 (g)f R(g)−1P
est g∈G R0 (g)ki R(g −1 )jl = 0 (pour tous i, j, k, l). Donc :
0

n
n
X
1 X
1 XX
R(g −1 )j,j
R0 (g)i,i
χR (g)χR0 (g) =|G| g∈G|G| g∈G j=1
i=1
0

n X
n X
1 X
=
R(g −1 )j,j R0 (g)i,i = 0 .
|G| j=1 i=1 g∈G

|

{z

}

=0

2) De même, on montre que hχR , χR i = 1 si R ∈ Irr(G).
3) Pour montrer que les χR , R ∈ Irr(G) engendrent FC(G), il suffit demontrer que si f est une fonction centrale orthogonale à tous les χR ,R ∈ Irr(G), alors f est nulle. Soit f une telle fonction.
P
Posons FR := g∈G f (g)R(g) pour toute représentation R de G. On a :∀h ∈ G, FR R(h) =Xf (g)R(gh) =g∈GXf (gh−1 )R(g)g∈G= (car f est une fonction centrale !)

X
g∈G

9

f (h−1 g)R(g) =Xg∈Gf (g)R(hg)= R(h)FR .
Donc si R est irréductible FR est une homothétie. Or, trace(FR ) =|G|hχR∗ , f i = 0. Donc FR = 0. Or toute représentation est somme directe d’irréductibles donc FR = 0 pour toute représentation R. En particulier pour la représentation régulière RG . En particuleir, dans CG,P
FRG (e1 ) = g∈G f (g)eg = 0 ⇒ f = 0.
q.e.d.
Exercice 12 Trouver la table des caractères de S4 .
Réponse :1 : 1 (12) : 6 (12)(34) : 3 (123) : 8 (1234) : 6
χ1

1

1

1

1

1

χ2

3

1

−1

0

−1

χ3

2

0

2

−1

0

χ4

3

−1

−1

0

−1

χsign

1

−1

1

1

−1

Exercice 13 Le groupe des quaternions d’ordre 8 a la même table de caractères que D4 bien que non isomorphe. Jusitifer cette affirmation.
Exercice 14 Démontrer cette autre formule d’orthogonalité :∀g ∈ G,X

χR (g)χR (g −1 ) =R∈Irr(G)|G||C|

où C est la classe de conjugaison de g, et :∀Xg, h ∈ G non conjugués ,χR (g)χR (h−1 ) = 0 .

R∈Irr(G)Indication : soit C une classe de conjugaison ; on considère la fonction cenP
trale 1C : g 7→ 1 si g ∈ C, 0 sinon. On a 1C = R∈irr(G) xR χR où xR =|C|hχR , 1C i = |G|χR (C) où χR (C) est la valeur de χR sur C ...
Exercice 15 Soit G un groupe fini et ρ : G → GL(V ) une représentation
irréductible (sur C de dimension d. Alors nous allons montrer que d||G|. On
note χ le caractère de ρ.
10Pa) Soit C une classe de conjugaison de G. Alors l’élément g∈C g est dansle centre de l’algèbre CG.
Pb) En déduire qu’il existe un scalaire λ tel que pour tout v ∈ V , g∈C ρ(g)v =λv indication : le lemme de Schur !
c) Montrer que λ = |C|χ(C)où χ(C) est la valeur de χ sur la classe dedconjugaison C.
Pd) Déduire du fait que g∈C g induit un endomorphisme du Z−module detype fini ZG que λ est un entier algébrique (indication : V est un sousP
espace stable de CG donc λ est une valeur propre de g∈C g)..
est un entier algébrique ete) En utilisant que hχ, χi = 1, montrer que |G|dconclure.
Exercice 16 Trouver la table des caractères du groupe alterné A4 . Existe-t-il
des représentations irréductibles de S4 dont la restriction à A4 est réductible ?

6

Table des caractères de A5
cf. Alperin, Groups and representations
1. Déterminer les classes de conjugaison de A5 et donner leur cardinal.
2. Il y a un unique caractère irréductible de A5 de degré 1, noté χ1 .
3. Donner un caractère irréductible de A5 de degré 4. On le note χ2 .
4. Soit P2 l’ensemble des parties de cardinal 2 de {1, 2, 3, 4, 5}. Pourchaque I ∈ P2 on note eI un le Iième vecteur de la base canonique deCP2 . On définit une représentation ρ : A5 → GL(CP2 ) par ρ(g)(eI ) :=eg(I) .
Donner le caractère χρ associé.
5. Montrer que χρ = χ1 + χ − 2 + χ3 où χ3 est un caractère irréductible
de degré 5.
6. Montrer qu’il reste à trouver deux caractères irréductibles de degré 3.
7. Compléter la table des caractères de A5 :
χ1 1

1

1

1

χ2 4 −2

1

−1 −1

χ3 5

3

−1

0

0

χ4 3

a

c

e

e0

χ5 3

b

d

f

f0

11

1

7

Théorème de Burnside
cf. Alperin, groups and representations

Théorème 7.1 Soit G un groupe d’ordre pa q b où a, b ≥ 1 et p, q sont desnombres premiers. Alors G est résoluble.
Exercice 17 Donner des exemples de groupes simples non abéliens dont
l’ordre a trois facteurs premiers.
Démonstration : (sous forme d’exercice) Par récurrence sur a + b. On peutbien sûr supposer p 6= q.
C’est évident si a + b ≥ 1. Supposons a + b ≥ 2 et que le théorème est vrai
pour a0 , b0 tels que a0 + b0 < a + b.
a) Soit Q un q−Sylow de G. Justifier qu’il existe 1 6= g ∈ G tel que Q ≤ C(g)le centralisateur de g.
b) Montrer que [G : C(g)] = pn pour un certain n ≥ 0.
c) Conclure si n = 0.
d) Supposons n > 0. Soit C la classe de conjugaison de g. Montrer que|C|χ(g)est un entier algébrique pour tout caractère irréductible de G.
χ(1)e) Montrer, à l’aide d’une formule d’orthogonalité, qu’il existe un caractère
irréductible χ de G tel que p 6 |χ(1) et χ(g) 6= 0.
f ) Montrer que χ(g)est un entier algébrique de module ≤ 1.
χ(1)sont de module ≤ 1.
g) Montrer que tous les conjugués algébriques de χ(g)χ(1)h) En faisant un produit, montrer que |χ(g)| = χ(1).
i) Montrer que si ρ est la représentation irréductible de G correspondant àρ, ρ(g) est une homothétie.
j) Montrer que g ∈ Z(G) et conclure !
q.e.d.

Exercice 18 Montrer que les tables de caractères des groupes Sn sont à coefficients entiers.
Indication :a) Montrer que si g ∈ Sn est d’ordre m, alors g et g k sont conjugués pour
tout k premier avec m.
12b) On note ζm une racine primitive mième de l’unité. Montrer que si g est
d’ordre m, alors χ(g) ∈ Q(ζm ) et en déduire que les conjugés algébriquesde χ(g) sont de la forme χ(g k ) pour un k premier à mc) Conclure. Remarque, on peut construire directement les représentations
irréductibles de Sn sur Q (cf. Fulton & Harris).
Exercice19 cf. Isaacs.
Soit Q8 
le sous-groupe de SL2 (C) engendré par les


 0

−1 

1

0

matrices  i et 

0 
.
0 −i

a) Montrer que Q8 est d’ordre 8 et que sa table de caractères est à coefficients
entiers.
b) Montrer que néanmoins, l’unique représentation irréductible de Q8 dedegré 2 n’est pas réalisable sur R i.e. si ρ : Q8 → GL2 (C) est une représentation irréductible, alors ρ(Q8 ) 6⊆ GL2 (R).

8

Représentations induites

Soient H ≤ G. Soit ρ : H → GL(W ) une représentation du sous-groupe
H. Comment construire des représentations (éventuellement irréductibles) deG à partir de ρ ?
G∀∀
Définition 6 On note IndG
H (W ) := IndH (ρ) := {f : G → W : h ∈ H, g ∈G, f (hg) = ρ(h)(f (g))}. C’est une représentation de G pour l’action :∀−1
x ∈ G, ∀ g ∈ G, ∀ F ∈ IndG
H (W ), g.F (x) := F (xg ) .

En général, si ρ est irréductible, la représentation induite IndG
H (ρ) n’est
pas forcément irréductible mais on peut souvent analyser ses composantes
irréductibles.
Exercice 20 Vérifier que IndG
H (W ) = HomCH (CG, W ) où CH agit sur CG
par multiplication à gauche et CG sur lui même par multiplication à droite.
Proposition
8.1 Il existe un morphisme de CH−modules : ϕ : W → IndG
H (W ),

 g.w

si g ∈ H

 0

si g 6∈ H

w 7→ 

Ce morphisme induit un isomorphisme

G
HomG (IndG
H W, V ) ' HomH (W, ResH (V ))pour tout G−module V .
13

Exercice 21 Vérifier que si χ est le caractère de ρ, alors le caractère deIndG
H (ρ) est :∀x ∈ G, IndG
H (χρ )(x) =

1
|H|

X

χρ (gxg −1 ) .

g∈Ggxg −1 ∈HnExercice 22 Décrire les représentations induites IndD
Cn (ρh ) où Cn ≤ Dn est
le sous-groupe distingué cyclique d’indice 2 dans le groupe diédral, et ρh sontles représentations de Cn de dimension 1.

14

Index
caractère, 7
caractères irréductibles, 8complètement réductible, 4fonctions de classe, 7
irréductible, 3
représentation duale, 9
représentation induite, 13
sous-représentation, 3table des caractères, 815