# Théorie des groupes/Commutateurs, groupe dérivé
## Commutateurs d'éléments et de sous-groupes

Soient G un groupe, x et y deux éléments de G. L'élément $\ x^{-1}y^{-1}xy$ de G est appelé le commutateur de x et y et nous le noterons (x, y) ou, de préférence, [x, y].
Remarque. Cette définition est celle qu'adopte Bourbaki. D'autres auteurs désignent comme le commutateur de x et y l'élément $\ xyx^{-1}y^{-1}$. Il est clair que le commutateur de x et de y selon une de ces définitions est le commutateur de x$^{-1}$ et y$^{-1}$ selon l'autre définition, ce qui permet de traduire facilement un énoncé relatif à une définition en un énoncé relatif à l'autre définition.
Il est clair que [y, x] = [x, y]$^{-1}$. D'autre part, [x, y] = (yx)$^{-1}$xy, donc [x, y] = 1 si et seulement si x et y commutent.
Soient G un groupe, A et B deux sous-groupes de G. On note (A, B) ou, de préférence, [A, B] le sous-groupe de G engendré par les éléments de la forme [a, b], avec $a\in A,b\in B$.
Remarques
* Nous avons vu que, si x et y sont deux éléments de G, la relation [x, y] = 1 a lieu si et seulement si x et y commutent. Il en résulte que [A, B] = 1 si et seulement tout élément de A commute avec tout élément de B.
* Il est clair que si A$_1$ et B$_1$ sont des sous-groupes de G contenus dans A et dans B respectivement, [A$_1$, B$_1$] est contenu dans [A, B] (puisqu’il y a une partie génératrice de [A$_1$, B$_1$] qui est contenue dans [A, B]).
* Soit X l’ensemble des commutateurs $[a,b]=a^{-1}b^{-1}ab$ avec $a\in A$ et $b\in B$, soit Y l’ensemble des commutateurs $[b,a]=b^{-1}a^{-1}ba$ avec $a\in A$ et $b\in B$. Par définition, [A, B] est le sous-groupe de G engendré par X et [B, A] est le sous-groupe de G engendré par Y. Il est clair que $Y=X^{-1}$, donc X et Y engendrent le même sous-groupe, donc [A, B] = [B, A].
Soient G un groupe, A et B des sous-groupes de G. La relation [A, B] ⊆ B a lieu si et seulement si A normalise B.
Supposons [A, B] ⊆ B et prouvons que A normalise B. Puisque l’ensemble des commutateurs a$^{-1}$b$^{-1}$ab, avec a dans A et b dans B, est contenu dans [A, B], nous avons a$^{-1}$b$^{-1}$ab ∈ B pour tout a ∈ A et tout b ∈ B. Cela entraîne a$^{-1}$b$^{-1}$a ∈ B pour tout a ∈ A et tout b ∈ B, donc A normalise B. Réciproquement, supposons que A normalise B. Alors a$^{-1}$b$^{-1}$a ∈ B pour tout a ∈ A et tout b ∈ B, donc a$^{-1}$b$^{-1}$ab ∈ B pour tout a ∈ A et tout b ∈ B, donc tout commutateur [a, b], avec a dans A et b dans B, appartient à B. Puisque [A, B] est le sous-groupe de G engendré par ces commutateurs et que B est un sous-groupe de G, [A, B] est donc contenu dans B.
Soient G$_1$ et G$_2$ deux groupes, A et B deux sous-groupes de G$_1$, f un homomorphisme de G$_1$ dans G$_2$. L'image de [A, B] par f est [f(A), f(B)].
Désignons par X l’ensemble des commutateurs [a, b] avec a dans A et b dans B. Il est clair que f(X) est l’ensemble Y des commutateurs [a', b'] avec a' dans f(A) et b' dans f(B). En passant aux sous-groupes engendrés, nous trouvons <f(X)> = <Y>, ce qui peut s'écrire f(<X>) = <Y>. Par définition de [A, B], <X> est égal à [A, B] et, de même, <Y> est égal à [f(A), f(B)], d'où l'énoncé.
On en déduit facilement le corollaire suivant :
Soient G un groupe, A et B deux sous-groupes de G. Si A et B sont normaux dans G (resp. caractéristiques dans G, resp. stables par tout endomorphisme de G, resp. stables par tout endomorphisme surjectif de G), [A, B] l'est aussi.
(Pour ce qui est des sous-groupes normaux, on se rappellera qu'un sous-groupe de G est normal dans G si et seulement s'il est stable par tout automorphisme intérieur de G.)

## Groupe dérivé

Soit G un groupe. On appelle groupe dérivé de G et on note D(G) ou G' le sous-groupe [G, G] de G, autrement dit le sous-groupe de G engendré par les commutateurs d'éléments de G.
Remarques
* Le groupe dérivé de G n’est pas forcément réduit à l’ensemble des commutateurs d'éléments de G.
* Le groupe dérivé de G est parfois appelé groupe des commutateurs de G, ce qui est un abus de langage, vu la remarque précédente.
* Nous avons vu que, si A et B sont deux sous-groupes de G, [A, B] = 1 si et seulement tout élément de A commute avec tout élément de B. En faisant A = B = G, nous trouvons que D(G) = 1 si et seulement G est commutatif.
* Si nous désignons par C l'ensemble des commutateurs de G, alors $C=C^{-1}$ (puisque [b,a] est l'inverse de [a,b]), donc D(G), qui est le sous-groupe de G engendré par C, est aussi le sous-monoïde de G engendré par C, autrement dit D(G) est l'ensemble des produits de commutateurs d'éléments de G.
Soit f un homomorphisme d'un groupe G$_1$ dans un groupe G$_2$. Alors f(D(G$_1$)) est contenu dans D(G$_2$). Si f est surjectif, on a l'égalité.
Nous avons vu que si A et B sont deux sous-groupes de G$_1$, l'image de [A, B] par f est [f(A), f(B)]. En faisant A = B = G$_1$, nous trouvons que l'image de D(G$_1$) par f est [f(G$_1$), f(G$_1$)]. Comme [f(G$_1$), f(G$_1$)] est contenu dans [G$_2$, G$_2$] = D(G$_2$) et lui est égal si f est surjectif, l'énoncé en résulte.
Le groupe dérivé d'un groupe G est un sous-groupe caractéristique (et donc distingué) de G.
En faisant G$_1$ = G$_2$ = G dans le théorème précédent, nous trouvons que D(G) est stable par tout endomorphisme de G. A fortiori, c’est un sous-groupe caractéristique de G.
Soit f un homomorphisme d'un groupe G dans un groupe abélien A. Le groupe dérivé de G est contenu dans le noyau de f. Si $\ \pi$ désigne l'homomorphisme canonique de G sur G/D(G), tout homomorphisme de G dans un groupe abélien A s'écrit de façon unique $\ {\tilde {f}}\circ \pi$, où $\ {\tilde {f}}$ est un homomorphisme de G/D(G) dans A. Autre formulation : soient G un groupe et A un groupe abélien, soit $\pi$ l'homomorphisme canonique de G sur G/D(G); alors $g\mapsto g\circ \pi$ définit une bijection de Hom(G/D(G), A) sur Hom(G, A).
D'après un théorème précédent, f(D(G)) est contenu dans D(A). Puisque A est abélien, D(A) = 1, donc f(D(G)) = 1, ce qui prouve la première assertion de l'énoncé. La seconde en résulte, compte tenu des théorèmes sur la décomposition d'un homomorphisme (chapitre sur les sous-groupes distingués et les groupes quotients).
Soit G un groupe. Le groupe quotient G/D(G) est commutatif.
Soit $\ \pi$ l'homomorphisme canonique de G sur G/D(G). Puisque $\ \pi$ est surjectif, nous avons, d’après un précédent théorème, $\ \pi (D(G))$ = $\ D(\pi (G))$, autrement dit $\ \pi (D(G))$ = D(G/D(G)). Le premier membre est égal à D(G)/D(G) et est donc réduit à l'élément neutre. Le second membre D(G/D(G)) est donc réduit à l'élément neutre. Nous avons vu que le dérivé d'un groupe est réduit à l'élément neutre si et seulement si ce groupe est commutatif, donc G/D(G) est commutatif. (On peut évidemment donner une démonstration plus directe.)
G étant un groupe, le groupe (commutatif) G/D(G) est appelé l'abélianisé de G. On le note parfois G$_{ab}$.
Soit G un groupe. Tout sous-groupe de G contenant D(G) est distingué dans G.
Nous avons vu (chapitre Sous-groupes distingués et groupes quotients, section Sous-groupes d'un groupe quotient) que si G est un groupe et H un sous-groupe distingué de G, alors un sous-groupe K de G contenant H est distingué dans G si et seulement si K/H est distingué dans G/H. Dans le cas où H = D(G), le quotient G/H = G/D(G) est commutatif, donc tous ses sous-groupes sont distingués. Il en résulte que tout sous-groupe K de G contenant D(G) est distingué dans G.
Remarque. On trouvera une autre démonstration dans les exercices.
Soient G un groupe et H un sous-groupe distingué de G. Pour que le quotient G/H soit commutatif, il faut et il suffit que H contienne D(G).
Si le quotient G/H est commutatif, alors, d’après un des théorèmes ci-dessus, D(G) est contenu dans le noyau de l'homomorphisme canonique de G sur G/H, c'est-à-dire est contenu dans H. Réciproquement, soit H un sous-groupe distingué de G contenant D(G). Alors, d’après le troisième théorème d'isomorphisme, G/H est isomorphe au quotient de G/D(G) par H/D(G). Comme G/D(G) est commutatif et que tout quotient d'un groupe commutatif est commutatif, G/H est commutatif.
Le sous-groupe dérivé d'un groupe G est donc le plus petit sous-groupe normal H de G tel que G/H soit abélien.
Soient G un groupe et X une partie génératrice de G. Le dérivé de G est le sous-groupe normal de G engendré par les commutateurs [x, y], où x et y parcourent X.
Désignons par H le sous-groupe normal de G engendré par les commutateurs [x, y], où x et y parcourent X. Puisque D(G) est lui-même un sous-groupe normal de G qui comprend les commutateurs en question, nous avons, par minimalité du sous-groupe normal engendré, $H\subseteq D(G)$. Il reste à prouver que D(G) est contenu dans H. Désignons par $\varphi$ l'homomorphisme canonique de G sur G/H. Puisque X est une partie génératrice de G et que $\varphi$ est surjectif, il résulte d'un théorème démontré au chapitre Groupes, premières notions que $\varphi (X)$ est une partie génératrice de G/H. Puisque H comprend tous les commutateurs [x, y] avec x et y dans X, tous les éléments de $\varphi (X)$ commutent entre eux (en effet, si x et y sont des éléments de X, le commutateur [x, y] appartient à H, donc $\varphi ([x,y])$ est l'élément neutre de G/H, or $\varphi$ étant un homomorphisme, $\varphi ([x,y])=[\varphi (x),\varphi (y)]$, d'où $[\varphi (x),\varphi (y)]=1$, ce qui prouve que $\varphi (x)$ et $\varphi (y)$ commutent). Ainsi, G/H admet une partie génératrice dont tous les éléments commutent entre eux. D'après un théorème démontré au chapitre Conjugaison, centralisateur, normalisateur, il en résulte que le groupe G/H est commutatif. D'après un théorème ci-dessus, H contient donc D(G), ce qui achève la démonstration.
Remarque. Dans le théorème précédent, X ne contient pas nécessairement l'inverse de chacun de ses éléments ; on peut donc légitimement se demander si le théorème n'est valable qu'avec la définition des commutateurs adoptée dans ce cours, c'est-à-dire [x, y] = x$^{-1}$y$^{-1}$xy (et non [x, y] = xyx$^{-1}$y$^{-1}$) pour tous x et y dans G. En examinant la démonstration ci-dessus, on peut constater qu'elle ne repose que sur des résultats indépendants de la définition choisie pour le commutateur de deux éléments d'un groupe. Le théorème est donc valable tel quel indépendamment de la définition choisie.
Une autre façon de voir cela consiste à montrer que le sous-groupe normal de G engendré par Com$_1$(X) est égal au sous-groupe normal de G engendré par Com$_2$(X), où Com$_1$(X) (resp. Com$_2$(X)) est l'ensemble des éléments de la forme x$^{-1}$y$^{-1}$xy (resp. xyx$^{-1}$y$^{-1}$) avec x et y dans X. Pour ce faire, remarquons tout d'abord que tout élément de Com$_1$(X) est conjugué d'un élément de Com$_2$(X) : en effet, si a et b sont deux éléments d'un groupe, ab est toujours conjugué de ba, puisque ab = a(ba)a$^{-1}$ ; on obtient donc l'argument en posant a = x$^{-1}$y$^{-1}$ et b = xy. De même, tout élément de Com$_2$(X) est conjugué d'un élément de Com$_1$(X). Il en résulte que les conjugués des éléments de Com$_1$(X) sont exactement les conjugués des éléments de Com$_2$(X), car la relation d'équivalence sur G « être conjugué à » est transitive. Or nous avons vu dans un exercice de la série Conjugaison, centralisateur, normalisateur que dans un groupe quelconque G$_0$, le sous-groupe normal engendré par une partie Y de G$_0$ est le sous-groupe de G$_0$ engendré par les conjugués des éléments de Y. Le sous-groupe normal de G engendré par Com$_1$(X) (resp. Com$_2$(X)) est donc le sous-groupe de G engendré par les conjugués des éléments de Com$_1$(X) (resp. Com$_2$(X)). On en déduit que le sous-groupe normal de G engendré par Com$_1$(X) est égal au sous-groupe normal de G engendré par Com$_2$(X), comme annoncé.
Le dérivé du groupe symétrique S$_n$ est le groupe alterné A$_n$.
Désignons par $\ \epsilon$ l'homomorphisme de S$_n$ dans {1, - 1} qui applique $\sigma$ sur sa signature. Puisque le groupe d'arrivée de cet homomorphisme est commutatif, il résulte d'un théorème ci-dessus que D(S$_n$) est contenu dans le noyau de $\epsilon$, autrement dit est contenu dans A$_n$. Prouvons que réciproquement, A$_n$ est contenu dans D(S$_n$). Puisque A$_n$ est engendré par les cycles d'ordre 3, il suffit de prouver que tout cycle d'ordre 3 est un commutateur d'éléments de S$_n$. Soit (a b c) un cycle d'ordre 3. Puisqu’il est d'ordre 3, il est le carré de son inverse (c b a) :
    $(1)\qquad (abc)=(cba)(cba)$.
Puisque (c b a) et (a b c) ont la même structure cyclique, ils sont conjugués l'un de l'autre. Nous pouvons d'ailleurs préciser que $(cba)=(ac)(abc)(ac)^{-1}$. En remplaçant par cette valeur le second facteur (c b a) du second membre de (1), nous trouvons
    $(abc)=(cba)(ac)(cba)^{-1}(ac)^{-1}$,
ce qui prouve bien que $(abc)$ est un commutateur, comme annoncé.
Remarques
* Pour prouver que (a b c) est un commutateur, on aurait aussi pu noter que (a b c) = (a b) (a c) (a b)$^{-1}$ (a c)$^{-1}$.
* Comme déjà dit, le groupe dérivé d'un groupe G n’est pas forcément réduit aux commutateurs d'éléments de G. On verra cependant dans les exercices que tout élément de A$_n$ est un commutateur d'éléments de S$_n$.

## Compléments

On va donner dans cette section quelques résultats qui ne figurent pas dans tous les livres d’introduction à la théorie des groupes.
Soient x, y, z des éléments d'un groupe G. On écrit x$^y$ pour y$^{-1}$xy, notation qu’il ne faut évidemment pas confondre avec la notation x$^n$, où n est un entier relatif. On a toujours x$^{yz}$ = (x$^y$)$^z$ (composition des automorphismes intérieurs).
Soient x, y, z des éléments d'un groupe G. On a les identités suivantes :
1° [x, y]$^{-1}$ = [y, x]
2° x$^y$ = x [x, y]
3° x$^y$ = [y, x$^{-1}$] x
4° [x, y]$^z$ = [x$^z$, y$^z$]
5° [x, yz] = [x, z] [x, y]$^z$
6° $\ \lbrack x,yz\rbrack =\lbrack x,z\rbrack \cdot \lbrack z,\lbrack y,x\rbrack \ \rbrack \cdot \lbrack x,y\rbrack$
7° [xy, z] = [x, z]$^y$ [y, z]
8° $\ \lbrack xy,z\rbrack =\lbrack x,z\rbrack \cdot \lbrack \ \lbrack x,z\rbrack ,y\rbrack \cdot \lbrack y,z\rbrack$
9° $\ [x,y^{-1}]=([x,y]^{y^{-1}})^{-1}$
10° [x, y$^{-1}$] = [ [y$^{-1}$, x], y] [y, x]
$\ [\ [x,y^{-1}],z]^{y}\ \ [\ [y,z^{-1}],x]^{z}\ \ [\ [z,x^{-1}],y]^{x}=1.$
Démonstration. La relation 1° a déjà été notée. La relation 4° s'obtient en appliquant l'égalité f([x, y]) = [f(x), f(y)] , vraie pour tout homomorphisme de groupes f, au cas où f est l'automorphisme intérieur $\ x\mapsto z^{-1}xz$. La relation 2° s'obtient par un calcul immédiat. Il en est de même de 3°, qu'on peut aussi tirer de 2° en passant aux inverses et en remplaçant x par x$^{-1}$. La relation 5° se vérifie par calcul. On peut obtenir 6° à partir de 5° en remplaçant dans 5° [x, y]$^z$ par une valeur tirée de 3°. On peut tirer 7° de 5° en passant aux inverses et en faisant un changement de variables. On peut tirer 8° de 7° à l'aide de 2° comme on a tiré 6° de 5° à l'aide de 3° ; on peut aussi tirer 8° de 6° en passant aux inverses et en faisant un changement de variables. On obtient 9° en faisant z = y$^{-1}$ dans 5°. On obtient 10° en faisant y = z$^{-1}$ dans 6° et en opérant un changement de variable. Pour prouver 11° (l'identité de Hall-Wittt), on peut abréger les calculs en notant que le premier facteur de l'identité peut s'écrire
    $\ [\ [x,y^{-1}],z]^{y}\ =T(x,z,y)^{-1}T(y,x,z),$
où on pose:
$\ T(a,b,c)=aba^{-1}ca.$
Des expressions analogues des deux autres facteurs de l'identité de Hall-Witt s'obtiennent à partir de celle-ci par une permuation circulaire des variables et quand on multiplie les trois résultats membre à membre, chaque facteur T est détruit par le facteur T$^{-1}$ qui suit.
Soient G un groupe et A, B deux sous-groupes de G ; alors A et B normalisent [A, B], autrement dit [A, B] est sous-groupe normal du sous-groupe <A, B> de G engendré par A et B.
Démonstration. Soient a et a' deux éléments de A, soit b un élément de B. D'après la septième des identités énumérées plus haut,
$\ [aa',b]=[a,b]^{a'}[a',b].$
Ceci donne
$\ [a,b]^{a'}=[aa',b][a',b]^{-1}.$
Les deux facteurs du second membre appartiennent à [A, B], donc $\ [a,b]^{a'}$ appartient à [A, B]. Puisque les [a, b], avec a dans A et b dans B, engendrent [A, B], il en résulte que A normalise [A, B]. De même, B normalise [B, A] = [A, B].
Soient G un groupe, N un sous-groupe normal de G et H, K, L trois sous-groupes de G. Si deux des sous-groupes [ [H, K], L], [ [K, L], H] et [ [L, H], K] sont contenus dans N, le troisième l'est aussi.
Démonstration. Il suffit de prouver que
    $(1)$ si [ [K, L], H] et [ [L, H], K] sont contenus dans N, [ [H, K], L] l'est aussi.
(Les autres cas s'en déduisent par une permutation circulaire des variables.)
Commençons par le prouver dans le cas particulier où N = 1.
Dans ce cas, [ [K, L], H] = [ [L, H], K] = 1 et il s'agit de prouver que [ [H, K], L] = 1.
Cette thèse revient à dire que tout élément de L commute avec tout élément de [H, K] ; puique [H, K] est engendré par les éléments [h, k] avec h dans H et k dans K, la thèse revient à dire que pour tout h dans H, pour tout k dans K et pour tout l dans L, [ [h, k], l] = 1.
D'après l'identité de Hall-Witt,
    $\ (2)\qquad [\ [h,k],l]^{k^{-1}}\ \ [\ [k^{-1},l^{-1}],h]^{l}\ \ [\ [l,h^{-1}],k^{-1}]^{h}=1.$
D'après les hypothèses [ [K, L], H] = [ [L, H], K] = 1, nous avons $[\ [k^{-1},l^{-1}],h]=[\ [l,h^{-1}],k^{-1}]=1,$ d'où $[\ [k^{-1},l^{-1}],h]^{l}=[\ [l,h^{-1}],k^{-1}]^{h}=1,$ donc (2) donne $\ [\ [h,k],l]^{k^{-1}}=1,$ donc [ [h, k], l] = 1. Comme nous l'avons vu, cela prouve la thèse (1) dans le cas particulier où N = 1.
Passons au cas général. Désignons par p l'homomorphisme canonique de G sur G/N. Alors
    [ [p(K), p(L)], p(H)] = p([ [K, L], H]).
Puisque [ [K, L], H] est supposé contenu dans N, le second membre est égal à {N}, autrement dit au sous-groupe de G/N réduit à l'élément neutre. Donc [ [p(K), p(L)], p(H)] est le sous-groupe de G/N réduit à l'élément neutre. De même, [ [p(L), p(H)], p(K)] est le sous-groupe de G/N réduit à l'élément neutre. D'après la première partie de la démonstration, [ [p(H), p(K)], p(L)] est le sous-groupe de G/N réduit à l'élément neutre. Autrement dit, [ [p(H), p(K)], p(L)] = {N}, ce qui revient à dire que [ [H, K], L] est contenu dans N. Le théorème est donc démontré.
Soient G un groupe et H, K, L trois sous-groupes normaux de G. Alors
    [ [H, K], L] est contenu dans [ [K, L], H] [ [L, H], K].
Démonstration. Puisque H, K et L sont supposés normaux dans G, [ [K, L], H] et [ [L, H], K] le sont aussi, donc [ [K, L], H] [ [L, H], K] est un sous-groupe normal de G. Comme il contient [ [K, L], H] et [ [L, H], K], il résulte du théorème des trois sous-groupes qu’il contient [ [H, K], L].
Ce corollaire du théorème des trois sous-groupes permet de démontrer certaines propriétés de la suite centrale descendante d'un groupe.
Remarque. Si H, K et L sont des sous-groupes d'un groupe G, [ [H, K], L] n’est pas forcément égal au sous-groupe de G engendré par les éléments [ [h, k], l] avec h dans H, k dans K et l dans L. (Voir les exercices.)