# Théorie des groupes/Groupes alternés
## Définitions et premières propriétés

Soit E un ensemble fini. Les permutations paires de E constituent le noyau de l'homomorphisme $\sigma \mapsto \epsilon (\sigma )$ de $S_{E}$ dans $\{1,-1\}$ et forment donc un sous-groupe normal de $S_{E}$.
Soit E un ensemble fini. On appelle groupe alterné de E et on note $A_{E}$ ou ${\mathfrak {A}}(E)$ le sous-groupe de $S_{E}$ formé par les permutations paires. Si E est l’ensemble $\{1,2,\ldots ,n\}$, on écrit $A_{n}$ ou ${\mathfrak {A}}_{n}$ plutôt que $A_{E}$ ou ${\mathfrak {A}}(E)$.
Puisque $A_{E}$ est le noyau d'un homomorphisme de groupe partant de $S_{E}$, $A_{E}$ est sous-groupe normal de $S_{E}$. Nous verrons dans un instant que ce sous-groupe est même caractéristique.
Si E et F sont deux ensembles finis équipotents, les groupes $A_{E}$ et $A_{F}$ sont isomorphes. En effet, soit f une bijection de E sur F. Nous avons vu que l'isomorphisme
    $\sigma \mapsto f\sigma f^{-1}$
de $S_{E}$ sur $S_{F}$ applique les transpositions sur les transpositions, donc il induit un isomorphisme de $A_{E}$ sur $A_{F}$.
En général, les énoncés relatifs à $S_{n}$ et à $A_{n}$ s'étendent facilement à $S_{X}$ et à $A_{X}$, pour un ensemble X de cardinal n, par la considération d'un isomorphisme de $S_{X}$ sur $S_{n}$ du type dont il vient d’être question. Nous ferons souvent cette extension de façon implicite.
Si n est un nombre naturel $\geq 2$, il existe au moins une transposition dans $S_{n}$, donc l'homomorphisme $S_{n}\to \{1,-1\}:\sigma \mapsto \epsilon (\sigma )$ est surjectif, donc son noyau est d'indice 2 dans le groupe de départ, donc
Si $n\geq 2$, $A_{n}$ est d'indice 2 dans $S_{n}$ et est donc d'ordre $n!/2$.
Remarques. 1) Si n est un nombre naturel $\geq$2, le seul homomorphisme non trivial du groupe $S_{n}$ dans le groupe {1, -1} est l'homomorphisme signature $\epsilon$. En effet, soit f un tel homomorphisme. Puisque f n’est pas trivial et que les transpositions engendrent $S_{n}$, il existe au moins une transposition dont la valeur par f est -1. Comme les transpositions sont toutes conjuguées les unes des autres (voir l'effet de la conjugaison sur la décomposition en cycles), f les applique toutes sur -1. (En effet, on vérifie facilement qu'un homomorphisme d'un groupe G dans un groupe commutatif applique toujours deux éléments conjugués sur la même valeur.) Ainsi, f possède une propriété dont nous avons vu qu'elle caractérise $\epsilon$.
2) Il résulte de la précédente remarque que si n $\geq$2, $A_{n}$ est le seul sous-groupe d'indice 2 dans $S_{n}$. En effet, soit H un sous-groupe d'indice 2 de $S_{n}$. D'après un exercice sur le chapitre Sous-groupe distingué, groupe quotient, H est normal dans $S_{n}$. Le groupe quotient $S_{n}/H$ est d'ordre 2, donc il existe un (et un seul) isomorphisme $\sigma$ de $S_{n}/H$ sur {1, -1}. Si $\varphi$ désigne l'homomorphisme canonique de $S_{n}$ sur $S_{n}/H$, H est le noyau de $\varphi$ et donc aussi de $\sigma \circ \varphi$. Mais $\sigma \circ \varphi$ est un homomorphisme non trivial de $S_{n}$ dans {1, -1}, donc, d’après la précédente remarque, c’est l'homomorphisme signature $\epsilon$. Ainsi, H est le noyau de $\epsilon$, donc est égal à $A_{n}$. Nous avons donc bien prouvé que si n $\geq$2, $A_{n}$ est le seul sous-groupe d'indice 2 dans $S_{n}$. Il en résulte que $A_{n}$ est un sous-groupe caractéristique dans $S_{n}$ (même, évidemment, si n < 2).
$A_{n}$ est le sous-groupe de $S_{n}$ engendré par les cycles de longueur 3.
Prouvons d’abord que le sous-groupe de $S_{n}$ engendré par les cycles de longueur 3 est contenu dans $A_{n}$. Il suffit évidemment de prouver que tout cycle de longueur 3 dans $S_{n}$ appartient à $A_{n}$. Un tel cycle est de la forme (a b c), où a, b, et c sont trois éléments distincts de {1, 2, ..., n}. Alors (a b c) = (a b)(b c), donc (a b c) est le produit de deux transpositions, donc est une permutation paire, donc appartient à $A_{n}$. (On a d'ailleurs vu dans le chapitre Groupes symétriques finis qu'un cycle est une permutation paire si et seulement s'il est de longueur impaire.) Réciproquement, prouvons que si C$_3$ désigne le sous-groupe de $S_{n}$ engendré par les cycles de longueur 3, $A_{n}$ est contenu dans C$_3$. Soit s un élément de $A_{n}$ ; il s'agit de prouver que s appartient à C$_3$. Puisque s est une permutation paire, on peut l'écrire comme un produit de permutations toutes de la forme t$_1$t$_2$, où t$_1$ et t$_2$ sont des transpositions. Il suffit donc de prouver que le produit de deux transpositions t$_1$ et t$_2$ appartient toujours à C$_3$. Si les supports de t$_1$ et de t$_2$ sont égaux, t$_1$ et t$_2$ sont égales, donc leur produit est la permutation identique et appartient bien à C$_3$. Si les supports de t$_1$ et de t$_2$ ont un et un seul élément commun, elles sont de la forme (a b) et (b c), a, b et c étant trois éléments distincts ; alors (a b)(b c) = (a b c) comme déjà noté, donc t$_1$t$_2$ est un cycle de longueur 3 et appartient bien à C$_3$. Enfin, si les supports de t$_1$ et de t$_2$ sont disjoints, nous avons t$_1$ = (a b) et t$_2$ = (c d), où a, b, c, d sont quatre éléments distincts. Alors t$_1$t$_2$ = (a b)(c d) = (a b c)(b c d), donc t$_1$t$_2$ est le produit de deux cycles de longueur 3 et appartient bien à C$_3$, ce qui achève la démonstration.

## Sous-groupes distingués des groupes alternés

L'objet principal de ce qui suit est de prouver que pour tout nombre naturel $n\geq 5$, le groupe alterné $A_{n}$ est un groupe simple (non commutatif).
Les quatre éléments 1, (1 2) (3 4), (1 3) (2 4) et (1 4) (2 3) forment un sous-groupe V de $A_{4}$, qui est caractéristique dans $A_{4}$ et dans $S_{4}$. Le groupe V est un groupe de Klein, c'est-à-dire un produit direct de deux groupes d'ordre 2. C'est le seul sous-groupe d'ordre 4 de $A_{4}$.
Démonstration. Comme on le vérifie facilement, V est un sous-groupe de $A_{4}$. (Pour prouver que le produit de deux éléments distincts de V – {1} appartient à V, il suffit de calculer (a b) (c d) (a c) (b d), tous les cas se ramenant à celui-là.) Les éléments de V sont les éléments s de $A_{4}$ tels que s$^2$ = 1 (rappel : les transpositions n'appartiennent pas à $A_{4}$), donc V est un sous-groupe caractéristique de $A_{4}$. Puisque $A_{4}$ est lui-même sous-groupe caractéristique de $S_{4}$, V est donc un sous-groupe caractéristique de $S_{4}$. Nous avons vu (dans un exercice du chapitre Produit direct et somme restreinte) qu'un groupe où le carré de tout élément est égal à l'élément neutre est un produit direct de groupes d'ordre 2. Puisque V est d'ordre 4, il est donc produit direct de deux sous-groupes d'ordre 2. $A_{4}$ n'a pas d'élément d'ordre 4, car un tel élément devrait être un cycle de longueur 4 et on a vu au chapitre Groupes symétriques finis qu'un cycle de longueur paire est une permutation impaire. Donc si H est un sous-groupe d'ordre 4 de $A_{4}$, tout élément s de H satisfait à la condition s$^2$ = 1. On a noté que les éléments s de $A_{4}$ satisfaisant à cette condition sont les éléments de V, donc H est contenu dans V, donc H = V pour motif de cardinal. Ceci prouve que V est le seul sous-groupe d'ordre 4 de $A_{4}$. (Pour prouver ce dernier point, on aurait pu dire aussi que, d'après ce qui précède, V est un 2-sous-groupe de Sylow normal de $A_{4}$ et est donc l'unique 2-sous-groupe de Sylow de $A_{4}$.)
Note : un sous-groupe K d'ordre 2 de V est distingué dans V (parce que V est commutatif), V est distingué dans $S_{4}$ comme nous venons de le voir, et pourtant K n’est pas distingué dans $S_{4}$. (En effet, nous avons vu dans les exercices sur la conjugaison que tout sous-groupe distingué d'ordre 2 est contenu dans le centre et il résulte d'un exercice sur les groupes symétriques que le centre de $S_{4}$ est réduit à l'élément neutre.) Cela montre qu'un sous-groupe distingué d'un sous-groupe distingué d'un groupe G n’est pas forcément distingué dans G.
Soit n un nombre naturel. Si un sous-groupe distingué de A$_n$ comprend un cycle d'ordre 3, il est égal à A$_n$ tout entier.
Démonstration. Puisque A$_n$ est engendré par les cycles d'ordre 3, il suffit évidemment de prouver que si γ$_1$ et γ$_2$ sont deux cycles d'ordre 3, un au moins des deux cycles γ$_2$ et γ$_2$$^{-1}$ est conjugué de γ$_1$ dans A$_n$ (et non seulement dans S$_n$). On sait que γ$_2$ est conjugué de γ$_1$ dans S$_n$, donc il existe une permutation σ ∈ S$_n$ telle que γ$_2$ = σ γ$_1$ σ$^{-1}$. Si la permutation σ est paire, γ$_2$ est conjugué de γ$_1$ dans A$_n$ et notre argument est vrai. Si la permutation σ est impaire, écrivons γ$_2$ = (a b c). Alors γ$_2$$^{-1}$ = (c b a) = (a c) γ$_2$ (a c)$^{-1}$, donc γ$_2$$^{-1}$ = (a c) σ γ$_1$ σ$^{-1}$ (a c)$^{-1}$, où la permutation (a c) σ est paire, et notre argument est encore vrai.
Remarque. On prouve facilement que si n ≥ 5, deux cycles d'ordre 3 appartenant à S$_n$ sont toujours conjugués dans A$_n$.
Soit n un nombre naturel. Le groupe alterné $A_{n}$ est simple si et seulement si n est égal à 3 ou ≥ 5. Les sous-groupes distingués de $A_{4}$ sont 1, $A_{4}$ et le groupe V défini ci-avant.
Démonstration Si n ≤ 2, $A_{n}$ est réduit à l'élément neutre et n'est donc pas simple. Si n = 3, $A_{n}$ est d'ordre 3 ; comme 3 est premier, $A_{3}$ est un groupe simple commutatif. Nous pouvons donc supposer n ≥ 4.
Supposons que H soit un sous-groupe distingué de $A_{n}$, distinct de 1 et de $A_{n}$. Nous allons en tirer une contradiction si n ≥ 5 et prouver que H = V si n = 4. Il est clair que cela démontrera l'énoncé.
Parmi les éléments de H distincts de l'élément neutre, choisissons une permutation, soit σ, dont le support ait le moins d'éléments possible. Puisque σ n’est pas la permutation identique, elle admet au moins une orbite non ponctuelle. (On dira ici « orbite de σ » pour « orbite de ⟨σ⟩ ».)
Premier cas : toutes les orbites non ponctuelles de σ ont exactement deux éléments. Puisque la permutation σ est paire, elle a au moins deux telles orbites. Prouvons que ceci est impossible si n ≥ 5. Choisissons deux transpositions (a b) et (c d) dans la décomposition de σ en produit de cycles à supports disjoints. Puisque nous supposons n ≥ 5, nous pouvons choisir dans {1, ... , n} un élément e distinct de a, b, c et d. Posons φ = (c d e). La permutation φ σ φ$^{-1}$ σ$^{-1}$ appartient à H ; en effet, c’est le produit de σ$^{-1}$, qui appartient à H, par φ σ φ$^{-1}$, qui appartient également à H (puisque c’est le conjugué de l'élément σ de H par l'élément φ de A$_n$ et que H est distingué dans A$_n$). De plus, la permutation φ σ φ$^{-1}$ σ$^{-1}$ n’est pas la permutation identique. En effet, φ σ φ$^{-1}$ σ$^{-1}$(c) = φ σ φ$^{-1}$(d) = φ σ (c) = φ(d) = e. D'autre part, tout point fixe de σ distinct de e est hors du support {c, d, e} de φ, donc est point fixe de φ, donc est point fixe de φ σ φ$^{-1}$ σ$^{-1}$, qui admet en outre pour points fixes a et b, qui ne sont pas points fixes de σ. Ainsi, φ σ φ$^{-1}$ σ$^{-1}$ est un élément de H – {1} dont le support compte moins d'éléments que celui de σ, ce qui contredit la façon dont nous avons choisi σ.
La contradiction obtenue prouve que dans le premier cas (où toutes les orbites non ponctuelles de σ ont exactement deux éléments), n < 5, d'où n = 4. Donc H est un sous-groupe distingué de A$_4$ qui comprend un produit (a b) (c d) de deux transpositions à supports disjoints. Un tel élément appartient à V – {1}, où V est le sous-groupe de A$_4$ défini plus haut. Mais les éléments de V – {1} sont conjugués entre eux dans A$_4$ (et non seulement dans S$_4$), car si x, y, z, t sont distincts, le conjugué de (x y) (z t) par la permutation paire (x y z) est (y z) (x t). Donc H est un sous-groupe distingué de A$_4$ qui contient V. L'ordre de H divise donc l’ordre 12 de A$_4$ et est multiple de l’ordre 4 de V. Ce n'est possible que si H est égal à V ou à A$_4$. Par hypothèse, H n’est pas égal à A$_4$, donc il est égal à V.
Le théorème est donc vrai dans le premier cas, où toutes les orbites non ponctuelles de σ ont exactement deux éléments. Supposons maintenant qu’il y a au moins une orbite non ponctuelle de σ qui compte au moins trois éléments. Autrement dit, il y a dans la décomposition de σ un cycle de longueur au moins 3. Soit (a b c ... ) un tel cycle. Puisque H n’est pas A$_n$ tout entier, il résulte du lemme 2 que σ n’est pas un cycle d'ordre 3. Donc σ déplace au moins un élément autre que a, b et c. Si parmi les éléments autres que a, b et c, σ n'en déplaçait qu'un, σ serait un cycle d'ordre 4 et donc une permutation impaire, ce qui contredit les hypothèses. Ainsi, le support de σ comprend au moins deux éléments distincts de a, b et c, donc le support de σ compte au moins 5 éléments. Nous pouvons donc choisir dans le support de σ deux éléments d et e distincts de a, de b et de σ$^{-1}$(a). Posons φ = (b d e). Comme plus haut, on montre que φ σ φ$^{-1}$ σ$^{-1}$ appartient à H. La valeur de φ σ φ$^{-1}$ σ$^{-1}$ en b est φ σ φ$^{-1}$(a) = φ σ (a) = φ(b) = d, donc φ σ φ$^{-1}$ σ$^{-1}$ n’est pas la permutation identique et appartient donc à H – {1}.
D'autre part, nous avons choisi d et e distincts de σ$^{-1}$(a) et, puisque a est distinct de c = σ(b), il est clair que b est distinct de σ$^{-1}$(a). Ainsi, σ$^{-1}$(a) n'appartient pas au support {b, d, e} de φ, autrement dit σ$^{-1}$(a) est point fixe de φ. Dès lors, φ σ φ$^{-1}$ σ$^{-1}$(a) = φ σ ( φ$^{-1}$ (σ$^{-1}$(a)) = φ σ (σ$^{-1}$(a)) = φ(a) = a, donc a est point fixe de φ σ φ$^{-1}$ σ$^{-1}$.
D'autre part, d’après la façon dont nous avons choisi d et e, tous les éléments du support {b, d, e} de φ appartiennent au support de σ, autrement dit tout point fixe de σ est point fixe de φ, donc tout point fixe de σ est point fixe de φ σ φ$^{-1}$ σ$^{-1}$. Ainsi φ σ φ$^{-1}$ σ$^{-1}$ est un élément de H – {1} dont le support est strictement contenu dans celui de σ, ce qui contredit la façon dont nous avons choisi σ. Ceci achève la démonstration du théorème.
Remarques.
* Nous avons montré que pour n ≥ 5, le groupe $A_{n}$ est simple. Puisque, pour ces valeurs de n, $A_{n}$ est non commutatif (on a même vu dans un exercice que son centre est réduit à l'élément neutre), les groupes $A_{n}$, pour n ≥ 5, sont des groupes simples non commutatifs.
* On aurait pu traiter à part le cas de A$_4$, en notant que A$_4$ est formé des quatre éléments de V et de huit cycles d'ordre 3. Si un sous-groupe distingué de A$_4$ n’est pas contenu dans V, il comprend un cycle d'ordre 3, donc, d’après un lemme ci-dessus, il est égal à A$_4$ tout entier. Si maintenant un sous-groupe distingué H de A$_4$ est contenu dans V, son ordre divise 4 ; cet ordre ne peut pas être égal à 2, car (exercices de la série Conjugaison) un sous-groupe distingué d'ordre 2 est contenu dans le centre et (exercices sur les groupes alternés) le centre de A$_4$ est réduit à l'élément neutre ; donc H est égal à 1 ou à V.