# Groupe nilpotent

En théorie des groupes, les groupes nilpotents forment une certaine classe de groupes contenue dans celle des groupes résolubles et contenant celle des groupes abéliens. Les groupes nilpotents apparaissent dans la théorie de Galois et dans la classification des groupes de Lie ou des groupes algébriques linéaires.

## Définition

Soit G un groupe noté multiplicativement, d'élément neutre e. Si A et B sont deux sous-groupes de G, on note [A,B] le sous-groupe engendré par les commutateurs de la forme [x,y] pour x dans A et y dans B.
On définit alors par récurrence une suite de sous-groupes de G, notés C$^n$(G), par : C$^1$(G) = G et C$^{n+1}$(G) = [G, C$^n$(G)].
Cette suite — qu'on note aussi (γ$_n$(G))$_n$ — est appelée la suite centrale descendante de G. On dit que G est nilpotent s'il existe un entier n tel que C$^n$(G) = { e }. En outre, si G est un groupe nilpotent, sa classe de nilpotence est le plus petit entier n tel que C$^{n+1}$(G) = { e }.
On peut également définir la nilpotence à l'aide de la suite centrale (en) ascendante (ζ$_n$(G))$_n$ de G, définie par récurrence de la façon suivante : ζ$_0$(G) = { e } et ζ$_{n+1}$(G) est le sous-groupe de G formé par les éléments x de G tels que, pour tout élément g de G, [g, x] appartienne à ζ$_n$(G). Cette suite est également la suite de sous-groupes normaux de G définie comme suit : ζ$_0$(G) = { e } et, pour tout n, ζ$_{n+1}$(G) est le seul sous-groupe de G contenant ζ$_n$(G) et tel que ζ$_{n+1}$(G)/ζ$_n$(G) soit le centre de G/ζ$_n$(G). (Par exemple, ζ$_1$(G) est le centre de G.) On prouve que G est nilpotent si et seulement si sa suite centrale ascendante atteint G et que, dans ce cas, la classe de nilpotence de G est le plus petit nombre naturel n tel que ζ$_n$(G) = G.

## Exemples

* Un groupe est nilpotent de classe 0 si et seulement s'il est trivial.
* Un groupe est nilpotent de classe 1 si et seulement s'il est abélien et non trivial.
* Pour tout anneau unitaire R non nul (non nécessairement commutatif), le groupe de Heisenberg sur R est nilpotent de classe 2. Plus généralement, le sous-groupe du groupe général linéaire GL$_n$(R) formé des matrices triangulaires supérieures avec des 1 sur la diagonale principale est nilpotent de classe n – 1. D'après les premières propriétés ci-dessous, tous les conjugués (dans GL$_n$(R)) de ses sous-groupes sont donc nilpotents. Lorsque R est un corps commutatif, le théorème de Kolchin les caractérise : ce sont les groupes de matrices unipotentes, c'est-à-dire de la forme I$_n$ + N, où N est une matrice nilpotente.
* L'exemple précédent est un cas particulier de la situation suivante : soient A un anneau (unitaire, non forcément commutatif) et P un sous-pseudo-anneau de A (autrement dit, P est un sous-groupe du groupe additif de A et est stable pour la multiplication). Soit n un nombre entier ≥ 1 tel que le produit de n éléments de P soit toujours nul. (Un pseudo-anneau pour lequel il existe un tel n est dit nilpotent.) Alors 1 + P est un sous-groupe du groupe multiplicatif des éléments inversibles de A et est nilpotent de classe ≤ n – 1.
* Un p-groupe fini est nilpotent. Plus précisément (par récurrence) : si n ≥ 2, un groupe d'ordre p$^n$ est nilpotent de classe au plus n – 1.
* Un groupe diédral est nilpotent si et seulement si son ordre est une puissance de deux.

## Propriétés

* Un sous-groupe d'un groupe nilpotent est nilpotent. L'image d'un groupe nilpotent par un morphisme de groupes est un groupe nilpotent.
* Soit Z(G) le centre d'un groupe nilpotent G. Si G n'est pas le groupe trivial, alors Z(G) n'est pas non plus trivial. Plus généralement, si N est un sous-groupe normal non trivial de G, alors N ∩ Z(G) n'est pas non plus trivial. (Si on ne suppose pas N normal dans G, cet énoncé n'est plus vrai. Prendre par exemple pour G le groupe diédral D$_8$ d'ordre 8 et pour N un sous-groupe d'ordre 2 de D$_8$ non contenu dans le sous-groupe cyclique d'ordre 4 de D$_8$.)
* Un groupe G non trivial est nilpotent de classe c (≥ 1) si et seulement si G/Z(G) est nilpotent de classe c – 1.
* Tout groupe nilpotent est résoluble. Plus précisément, on prouve que si un groupe est nilpotent de classe ≤ 2$^n$ – 1, il est résoluble de classe ≤ n.
* La classe de nilpotence d'un groupe nilpotent ne peut pas être, inversement, majorée en fonction de sa classe de résolubilité. Par exemple, le groupe diédral d'ordre 2$^r$, avec r > 1, est nilpotent de classe r – 1, alors que la classe de résolubilité d'un groupe diédral est ≤ 2.
* Un groupe nilpotent est noethérien (en) si et seulement s'il est de type fini. Il est dans ce cas non seulement résoluble mais polycyclique (en) et même super-résoluble.
* Tout groupe nilpotent est clairement de Engel (en), c'est-à-dire qu'il vérifie :$\forall x,y\in {\text{G}},\exists m\in \mathbb {N} ,[[[y,x],x]\ldots ,x]=e\quad \mathrm {o{\grave {u}}} ~x~\mathrm {est~{\acute {e}}crit} ~m~{\text{fois}}.$Il existe une réciproque partielle : tout groupe de Engel noethérien (en particulier tout groupe de Engel fini) est nilpotent$^,$. Il existe des groupes de Engel de type fini non nilpotents, mais on ne sait pas s'il en existe qui soient « n-Engel » pour un certain entier n, c'est-à-dire pour lesquels le m ci-dessus peut être fixé égal à n pour tous les éléments x et y du groupe.
* Les éléments d'ordre fini d'un groupe nilpotent G forment un sous-groupe de G. Ce sous-groupe est appelé le sous-groupe de torsion de G. C'est un sous-groupe pleinement caractéristique de G. Pour tout nombre premier p, les éléments de G ayant pour ordres des puissances de p forment eux aussi un sous-groupe de G, sous-groupe lui aussi pleinement caractéristique. Si on désigne ce sous-groupe de G par T$_p$, le sous-groupe de torsion de G est la somme restreinte des T$_p$ (où p parcourt tous les nombres premiers).
* Le fait que les éléments d'ordre fini d'un groupe nilpotent G forment un sous-groupe de G peut se préciser comme suit : si G est un groupe nilpotent de classe c, si x et y sont deux éléments d'ordres finis de G, si n est un nombre naturel tel que x$^n$ = y$^n$ = 1, alors (xy)$^{nc}$ = 1.
* Si G est un groupe fini, les conditions suivantes sont équivalentes :
* G est nilpotent ;
* tout sous-groupe de G est sous-normal dans G, c'est-à-dire que si H est un sous-groupe de G, il existe une séquence finie croissante de sous-groupes allant de H à G telle que chacun de ces sous-groupes soit normal dans le suivant ;
* tout sous-groupe propre de G est sous-groupe propre de son normalisateur dans G ;
* tout sous-groupe maximal de G est normal dans G ;
* G est produit direct de ses sous-groupes de Sylow ;
* G est un produit direct de groupes dont les ordres sont des puissances de nombres premiers ;
* pour tout nombre premier p, G est p-clos (anglais p-closed), c'est-à-dire que les éléments de G dont l'ordre est puissance de p forment un sous-groupe de G, ou encore que G admet un p-sous-groupe de Sylow normal (qui est alors l'unique p-sous-groupe de Sylow de G) ;
* G vérifie une « réciproque » forte du théorème de Lagrange : pour tout diviseur d de |G|, G possède un sous-groupe normal d'ordre d.
* Pour un groupe infini G, on a encore 1 ⇒ 2 ⇒ 3 ⇒ 4, avec
* G est nilpotent ;
* tout sous-groupe de G est sous-normal dans G, c'est-à-dire que si H est un sous-groupe de G, il existe une séquence finie croissante de sous-groupes allant de H à G telle que chacun de ces sous-groupes soit normal dans le suivant ;
* tout sous-groupe propre de G est sous-groupe propre de son normalisateur dans G ;
* tout sous-groupe maximal de G est normal dans G.

## Groupes nilpotents de classe ≤ 2

Un groupe G est nilpotent de classe ≤ 2 si et seulement si le dérivé de G est contenu dans le centre de G, ce qui revient à dire que pour tous éléments x, y de G, le commutateur [x, y] = x$^{-1}$y$^{-1}$xy appartient au centre de G. Avec la notation a$^z$ = z$^{-1}$az pour a et z dans G, G est nilpotent de classe ≤ 2 si et seulement si [x, y]$^z$ = [x, y] pour tous éléments x, y, z de G. Soit G un groupe nilpotent de classe ≤ 2. Les identités
    $\ [xy,z]=[x,z]^{y}[y,z]$
et
    $\ [z,xy]=[z,y][z,x]^{y},$
vraies dans tout groupe, deviennent dans G
    $\ [xy,z]=[x,z][y,z]$
et
    $\ [z,xy]=[z,y][z,x]=[z,x][z,y].$
Donc si a est un élément de G, l'application f$_a$ : x ↦ [a, x] et l'application g$_a$ : x ↦ [x, a] sont des endomorphismes de G. On a donc
    $\ [x^{r},y]=[x,y]^{r}$
et
    $\ [x,y^{r}]=[x,y]^{r}$
pour tous éléments x, y de G et tout entier rationnel r.
De ces relations et du fait que les commutateurs d'éléments de G appartiennent au centre de G, on déduit la relation
    (1) $\ (xy)^{n}=x^{n}y{^{n}}[y,x]^{n(n-1)/2}$
pour tous éléments x, y de G et tout entier naturel n. Cette formule peut être démontrée directement par récurrence sur n, ou encore déduite de l'identité suivante, vraie dans tout groupe :
    $\ (xy)^{n}=x^{n}\ y\ [y,x^{n-1}]\ y\ [y,x^{n-2}]...[y,x^{2}]\ y\ [y,x]\ y.$
La formule (1) sert par exemple dans la détermination de la structure des groupes hamiltoniens.