# Théorie des groupes/Annexe/Représentations du groupe symétrique d'indice trois

En mathématiques les représentations du groupe symétrique d'indice trois noté S$_3$ sont un exemple simple d'application de la théorie des représentations d'un groupe fini.
Sur un corps de caractéristique nulle et contenant toutes les racines sixièmes de l'unité, il existe trois représentations irréductibles du groupe symétrique d'indice trois, la représentation triviale, celle correspondant à la signature et une d'ordre deux correspondant aux isométries linéaires laissant invariant un triangle équilatéral.
L’analyse des représentations de S$_3$ est une illustration des concepts comme le théorème de Maschke, le caractère, la représentation régulière, les représentations induites et la réciprocité de Frobenius. Les constructions des différentes représentations sont ici réalisées manuellement, ce que permet la petitesse de l’ordre du groupe.

## Représentations du groupe S$_3$
### Représentation régulière

Le groupe est d'ordre suffisamment limité pour permettre une représentation matricielle exhaustive de la représentation régulière. Si cette méthode est trop lourde pour être envisagé ne serait-ce que pour S$_4$, elle est ici praticable.
Le groupe S$_3$ contient 6 éléments et 3 classes de conjugaison, la première ne contient que l'identité notée 1, la deuxième les transpositions t$_1$ = (23), t$_2$ = (13) et t$_3$ = (12) et la troisième les deux 3-cycles c$_1$ = (123) et c$_2$ = (132). Si V est l’espace vectoriel de la représentation régulière gauche, notée ici ρ, alors (1, c$_1$, c$_2$, t$_1$, t$_2$, t$_3$) est la base canonique de la représentation, à l’ordre près.
Soit ρ le morphisme de groupes de S$_3$ dans le groupe général linéaire GL(V) de V. Soient x et y deux éléments de G et donc de la base de V. Par définition de la représentation régulière, ρ$_x$(y) = xy. On en déduit les matrices M$_x$ de la représentation :
$M_{1}={\begin{pmatrix}1&0&0&0&0&0\\0&1&0&0&0&0\\0&0&1&0&0&0\\0&0&0&1&0&0\\0&0&0&0&1&0\\0&0&0&0&0&1\end{pmatrix}}$ $,\quad M_{c_{1}}={\begin{pmatrix}0&0&1&0&0&0\\1&0&0&0&0&0\\0&1&0&0&0&0\\0&0&0&0&1&0\\0&0&0&0&0&1\\0&0&0&1&0&0\end{pmatrix}}$ $,\quad M_{c_{2}}={\begin{pmatrix}0&1&0&0&0&0\\0&0&1&0&0&0\\1&0&0&0&0&0\\0&0&0&0&0&1\\0&0&0&1&0&0\\0&0&0&0&1&0\end{pmatrix}}$
$M_{t_{1}}={\begin{pmatrix}0&0&0&1&0&0\\0&0&0&0&1&0\\0&0&0&0&0&1\\1&0&0&0&0&0\\0&1&0&0&0&0\\0&0&1&0&0&0\end{pmatrix}}$ $,\quad M_{t_{2}}={\begin{pmatrix}0&0&0&0&1&0\\0&0&0&0&0&1\\0&0&0&1&0&0\\0&0&1&0&0&0\\1&0&0&0&0&0\\0&1&0&0&0&0\end{pmatrix}}\quad$ $,\quad M_{t_{3}}={\begin{pmatrix}0&0&0&0&0&1\\0&0&0&1&0&0\\0&0&0&0&1&0\\0&1&0&0&0&0\\0&0&1&0&0&0\\1&0&0&0&0&0\end{pmatrix}}$
On remarque l’existence de deux vecteurs propres pour toutes les images de ρ :
$f_{1}=1+c_{1}+c_{2}+t_{1}+t_{2}+t_{3}\quad {\text{et}}\quad f_{2}=1+c_{1}+c_{2}-t_{1}-t_{2}-t_{3}\;$
Toute permutation laisse f$_1$ invariant, toute permutation paire laisse f$_2$ invariant et toute permutation impaire transforme f$_2$ en –f$_2$. On obtient ainsi deux représentations de degré 1, l'une t est la représentation triviale, associant 1 à chaque élément de S$_3$, l'autre σ associe la signature. Ces représentations sont de degré 1 donc irréductibles.
| | 1 | c$_1$ | c$_2$ | t$_1$ | t$_2$ | t$_3$ |
| t | 1 | 1 | 1 | 1 | 1 | 1 |
| σ | 1 | 1 | 1 | -1 | -1 | -1 |

### Théorème de Maschke

Recherchons les autres représentations, le théorème de Maschke indique qu’elles sont toutes sommes directes de représentations irréductibles, il suffit donc de connaître toutes les représentations irréductibles.
Tout sous-espace vectoriel stable pour la représentation possède un supplémentaire stable pour cette représentation, le théorème de Maschke indique une méthode pour le trouver. Soit F le sous-espace vectoriel engendré par f$_1$ et f$_2$ et p le projecteur sur F parallèlement à l'espace engendré par c$_1$, c$_2$, t$_1$, t$_2$, alors le projecteur p$_0$ défini par l'égalité suivante possède un noyau stable par toutes les images de ρ.
$p_{0}={\frac {1}{6}}\sum _{t\in G}\rho _{t}\circ p\circ \rho _{t}^{-1}$
Dans la base canonique, on obtient les matrices P et P$_0$ des deux projecteurs :
$P={\begin{pmatrix}1&0&0&0&0&0\\1&0&0&0&0&0\\1&0&0&0&0&0\\0&0&0&0&0&1\\0&0&0&0&0&1\\0&0&0&0&0&1\end{pmatrix}},\quad P_{0}={\frac {1}{3}}{\begin{pmatrix}1&1&1&0&0&0\\1&1&1&0&0&0\\1&1&1&0&0&0\\0&0&0&1&1&1\\0&0&0&1&1&1\\0&0&0&1&1&1\end{pmatrix}}$
Notons G le noyau de p$_0$. Le projecteur p$_0$ est composé de deux matrices bloc égales, c’est la matrice du projecteur dont le noyau est composé des vecteurs colonnes de somme nulle. Notons G le noyau de p$_0$. Si j désigne la racine cubique de l'unité, alors on obtient la base suivante de G
$g_{1}=1+j.c_{1}+j^{2}.c_{2}\quad g_{2}=1+j^{2}.c_{1}+j.c_{2}\quad g_{3}=t_{1}+j.t_{2}+j^{2}.t_{3}\quad g_{4}=t_{1}+j^{2}.t_{2}+j.t_{3}$
Considérons alors la représentation (G, φ) la représentation où φ est la restriction de ρ à G. Si G$_x$ est la matrice de φ$_x$ dans la base (g$_i$) pour x élément de S$_3$, on obtient :
$G_{1}={\begin{pmatrix}1&0&0&0\\0&1&0&0\\0&0&1&0\\0&0&0&1\end{pmatrix}},\quad G_{c_{1}}={\begin{pmatrix}j^{2}&0&0&0\\0&j&0&0\\0&0&j&0\\0&0&0&j^{2}\end{pmatrix}},\quad G_{c_{2}}={\begin{pmatrix}j&0&0&0\\0&j^{2}&0&0\\0&0&j^{2}&0\\0&0&0&j\end{pmatrix}}$
$G_{t_{1}}={\begin{pmatrix}0&0&1&0\\0&0&0&1\\1&0&0&0\\0&1&0&0\end{pmatrix}},\quad G_{t_{2}}={\begin{pmatrix}0&0&j&0\\0&0&0&j^{2}\\j^{2}&0&0&0\\0&j&0&0\end{pmatrix}},\quad G_{t_{3}}={\begin{pmatrix}0&0&j^{2}&0\\0&0&0&j\\j&0&0&0\\0&j^{2}&0&0\end{pmatrix}}$
On remarque alors que l'espace vectoriel H engendré par g$_1$ et g$_3$ est un sous-espace stable par φ, il possède le supplémentaire engendré par g$_2$ et g$_4$ aussi stable et dont la représentation est isomorphe à celle de H. Soit θ la restriction de φ à H, (H, θ) est une représentation de degré 2, elle est présente deux fois dans la représentation ρ. Cette représentation est irréductible car sinon ρ serait une représentation de matrices diagonales et son ensemble d'arrivée serait un groupe abélien, ce qui est impossible car ce groupe est isomorphe à S$_3$ qui ne l'est pas.
Considérons la base de H composée des deux vecteurs suivants h$_1$ = g$_1$ + g$_3$ et h$_1$ = i.(g$_1$ - g$_3$) où i désigne un complexe imaginaire de carré égal à -1. Soit H$_x$ la matrice de θ$_x$ dans cette base. On a alors :
$H_{1}={\begin{pmatrix}1&0\\0&1\end{pmatrix}},\quad H_{c_{2}}={\begin{pmatrix}cos{\frac {2\pi }{3}}&-sin{\frac {2\pi }{3}}\\sin{\frac {2\pi }{3}}&cos{\frac {2\pi }{3}}\end{pmatrix}},\quad H_{c_{1}}={\begin{pmatrix}cos{\frac {-2\pi }{3}}&-sin{\frac {-2\pi }{3}}\\sin{\frac {-2\pi }{3}}&cos{\frac {-2\pi }{3}}\end{pmatrix}}$
$H_{t_{1}}={\begin{pmatrix}1&0\\0&-1\end{pmatrix}},\quad H_{t_{2}}={\begin{pmatrix}cos{\frac {2\pi }{3}}&sin{\frac {2\pi }{3}}\\sin{\frac {2\pi }{3}}&-cos{\frac {-2\pi }{3}}\end{pmatrix}},\quad H_{t_{3}}={\begin{pmatrix}cos{\frac {-2\pi }{3}}&sin{\frac {-2\pi }{3}}\\sin{\frac {-2\pi }{3}}&-cos{\frac {-2\pi }{3}}\end{pmatrix}}$
On reconnaît le groupe diédral du triangle représenté sur la figure de droite, les rotations c$_1$ et c$_2$ sont au nombre de deux, elle déplace le point 1 vers j ou j$_2$ si le plan est identifié au plan complexe, les trois symétries, correspondant aux transpositions ont un axe représenté en rouge sur la figure.
En conclusion, la représentation régulière est composée d'une somme directe de quatre représentations : deux de degré 1, la représentation triviale et celle associée à la signature, et deux de degré 2, isomorphes et correspondant aux applications linéaires laissant un triangle invariant.

## Caractère
### Orthogonalité

Le caractère d'une représentation correspond à la fonction du groupe dans le corps qui à un élément s associe la trace de sa représentation. Dans les paragraphes précédents, cinq représentations ont été explicitées, la représentation régulière ρ, la triviale t, celle associée à la signature σ, celle associée à φ de degré 4 et enfin celle de θ de degré 2.
Si, à chaque valeur du groupe, on associe son caractère, on obtient le tableau suivant :
| Car. de S$_3$ | 1 | t$_1$ | t$_2$ | t$_3$ | c$_1$ | c$_2$ |
| ρ | 6 | 0 | 0 | 0 | 0 | 0 |
| σ | 1 | -1 | -1 | -1 | 1 | 1 |
| t | 1 | 1 | 1 | 1 | 1 | 1 |
| φ | 4 | 0 | 0 | 0 | -2 | -2 |
| θ | 2 | 0 | 0 | 0 | -1 | -1 |
Les caractères sont associés à un produit hermitien. Si χ$_1$ et χ$_2$ sont deux caractères et si z désigne le nombre complexe conjugué de z, alors leur produit est le suivant :
$<\chi _{1}\,|\,\chi _{2}>={\frac {1}{6}}\sum _{s\in S_{3}}\chi _{1}(s){\overline {\chi _{2}(s)}}.$
Un caractère est irréductible si et seulement si sa norme, pour ce produit scalaire, est égale à 1. Il est donc simple de vérifier que φ n’est pas une représentation irréductible, mais que θ l'est :
$<\chi _{\varphi }\,|\,\chi _{\varphi }>={\frac {1}{6}}(4^{2}+2^{2}+2^{2})=4\quad {\text{et}}\quad <\chi _{\theta }\,|\,\chi _{\theta }>={\frac {1}{6}}(2^{2}+(-1)^{2}+(-1)^{2})=1.$
Deux représentations irréductibles sont orthogonales, il est simple de vérifier ce fait dans l'exemple S$_3$ :
$<\chi _{\sigma }\,|\,\chi _{\theta }>={\frac {1}{6}}(1\times 2+3(-1\times 0)+2(1\times -1))=0\quad {\text{ou encore}}\quad <\chi _{t}\,|\,\chi _{\theta }>={\frac {1}{6}}(1\times 2+3(1\times 0)+2(1\times -1)=0.$

### Fonction centrale

Dans le cas de S$_3$ les caractères utilisés ici sont tous constants sur les classes de conjugaison. Cette propriété est générale à tous les groupes et toutes les représentations. Une fonction centrale est une application définie dans un groupe et constante sur chaque classe de conjugaison.
Les représentations irréductibles possèdent une autre propriété, il en existe autant que de classes de conjugaison. Dans le cas de S$_3$, il existe exactement trois classes de conjugaisons, celle de l'unité, celle des transpositions t et celle des cycles d'ordre trois c. Il existe de même trois représentations irréductibles, la triviale t, celle associée à la signature σ et celle de degré 2 fidèle (c'est-à-dire injective) θ. Pour cette raison, les tableaux représentant les caractères des représentations d'un groupe sont des tableaux carrés, ne contenant que les représentations irréductibles, car les autres s'en déduisent par produit direct et définis sur les classes de conjugaison. On obtient pour le groupe S$_3$ le tableau suivant :
| Car. irr. | 1 | c | t |
| t | 1 | 1 | 1 |
| σ | 1 | 1 | -1 |
| θ | 2 | -1 | 0 |
La famille des caractères irréductibles est une famille libre car orthogonale, elle est génératrice car de cardinal la dimension de l'espace, c’est donc une base orthonormale des fonctions centrales. Cette propriété permet, à l'aide d'un caractère de déterminer la nature de la représentation à un isomorphisme près. Si χ est le caractère d'une représentation r et χ$_i$ le caractère d'une représentation irréductible i, le produit hermitien <χ$_r$ | χ$_i$> indique le nombre de copies de la représentation i présente dans r. Une opération de même nature que la Transformée de Fourier permet alors de déterminer toute représentation une fois les représentations irréductibles et leurs caractères connus. On vérifie par exemple que :
$<\chi _{\rho }\,|\,\chi _{t}>={\frac {1}{6}}{\Big1.(6\times 1)+2.(0\times 1)+3.(0\times 1){\Big )}=1$
$<\chi _{\rho }\,|\,\chi _{\sigma }>={\frac {1}{6}}{\Big1.(6\times 1)+2.(0\times 1)+3.(0\times -1){\Big )}=1$
$<\chi _{\rho }\,|\,\chi _{\theta }>={\frac {1}{6}}{\Big1.(6\times 2)+2.(0\times -1)+3.(0\times 0){\Big )}=2$
En conséquence, la représentation régulière contient une copie de la représentation triviale, une de la représentation signature et deux de la représentation θ, l'unique représentation de degré 2.
Dans le cas général, si h désigne le nombre de classes de conjugaison, d$_i$ pour i compris entre 1 et h (qui est aussi le nombre de représentations irréductibles) le degré de la i-ième représentation irréductible et g l’ordre du groupe on dispose de la formule :
$g=\sum _{i=1}^{h}d_{i}^{2}$
qui, dans le cas particulier du groupe S$_3$, donne :
$6=1^{2}+1^{2}+2^{2}.$

## Représentation induite
### Représentation induite par Z/3Z

Il existe une autre méthode pour -onstruire une représentation, il suffit de considérer une représentation d'un sous-groupe et de construire la représentation induite. C'est l'approche utilisée dans ce paragraphe pour déterminer l'unique représentation irréductible fidèle de S$_3$.
Considérons H le sous-groupe {1, c$_1$, c$_2$}, E une droite vectorielle complexe de base e$_1$, (E, α) la représentation de H de caractère (1, j, j$^2$) et (F, β) la représentation de S$_3$ induite par α. Comme l’ensemble S$_3$/H des classes à gauche de S$_3$ suivant H est la paire {H, t$_1$H}, la théorie assure que F est un plan de base (e$_1$,e$_2$), où e$_2$ est l'image de e$_1$ par β(t$_1$). Il ne reste plus qu’à déterminer l'image de cette base par la représentation β :
de
$\beta _{c_{1}}(e_{1})=j.e_{1},\quad \beta _{c_{2}}(e_{1})=j^{2}.e_{1},\quad \beta _{t_{1}}(e_{1})=e_{2}$
on déduit
$\beta _{t_{2}}(e_{1})=(\beta _{t_{1}}\circ \beta _{c_{1}})(e_{1})=j.e_{2}\quad {\text{et}}\quad \beta _{t_{3}}(e_{1})=(\beta _{t_{1}}\circ \beta _{c_{2}})(e_{1})=j^{2}.e_{2},$
puis
$\beta _{c_{1}}(e_{2})=\beta _{t_{3}}(e_{1})=j^{2}.e_{2},\quad \beta _{c_{2}}(e_{2})=\beta _{t_{2}}(e_{1})=j.e_{2},\quad \beta _{t_{1}}(e_{2})=e_{1},\quad \beta _{t_{2}}(e_{2})=\beta _{c_{2}}(e_{1})=j^{2}.e_{1},\quad \beta _{t_{3}}(e_{2})=\beta _{c_{1}}(e_{1})=j.e_{1}.$
On en déduit la représentation matricielle B$_x$, où x est un élément de S$_3$, de β :
$B_{1}={\begin{pmatrix}1&0\\0&1\end{pmatrix}},\quad B_{c_{1}}={\begin{pmatrix}j&0\\0&j^{2}\end{pmatrix}},\quad B_{c_{2}}={\begin{pmatrix}j^{2}&0\\0&j\end{pmatrix}},\quad B_{t_{1}}={\begin{pmatrix}0&1\\1&0\end{pmatrix}},\quad H_{t_{2}}={\begin{pmatrix}0&j\\j^{2}&0\end{pmatrix}},\quad H_{t_{3}}={\begin{pmatrix}0&j^{2}\\j&0\end{pmatrix}}.$
Son caractère est égal à celui de θ (l'unique représentation irréductible de degré 2), β et θ sont donc isomorphes.

### Formule de Frobenius

La formule de réciprocité de Frobenius permet de déterminer la nature de la représentation induite avant même de réaliser sa construction. Elle donne le produit scalaire de deux caractères dans S$_3$ en fonction du produit scalaire dans H :
$<Ind_{H}^{S_{3}}\,\chi _{\alpha }\,|\,\chi _{\theta }>_{S_{3}}=<\chi _{\alpha }\,|\,Res_{H}^{S_{3}}\,\chi _{\theta }>_{H}={\frac {1}{3}}{\Big1\times 2+j\times (-1)+j^{2}\times (-1){\Big )}=1\;$
Ici, Ind signifie le caractère de la représentation induite et Res signifie le caractère de la restriction à H.
Si K désigne le sous-groupe {1, t$_1$} et γ la représentation qui associe -1 à t$_1$, il est possible de déterminer a priori la nature de γ :
$<Ind_{K}^{S_{3}}\,\chi _{\gamma }\,|\,\chi _{\theta }>_{S_{3}}=<\chi _{\gamma }\,|\,Res_{K}^{S_{3}}\,\chi _{\theta }>_{K}={\frac {1}{2}}{\Big1\times 2+(-1)\times 0{\Big )}=1\;$
$<Ind_{K}^{S_{3}}\,\chi _{\gamma }\,|\,\chi _{\sigma }>_{S_{3}}=<\chi _{\gamma }\,|\,Res_{K}^{S_{3}}\,\chi _{\sigma }>_{K}={\frac {1}{2}}{\Big1\times 1+(-1)\times (-1){\Big )}=1\;$
La représentation de S$_3$ induite par la représentation non triviale de K est donc la somme directe des représentations θ et σ.