# Sous-groupe de Fitting

Soit G un groupe, au sens mathématique. Le sous-groupe de Fitting de G est un certain sous-groupe caractéristique de G qui intervient de façon importante dans la partie de la théorie des groupes finis appelée analyse locale.

## Théorème de Fitting

Le théorème de Fitting, énoncé et démontré par Hans Fitting en 1938, peut s'énoncer comme suit :
Si H$_1$, ...., H$_n$ sont des sous-groupes normaux nilpotents de G, de classes de nilpotence respectives c$_1$, ...., c$_n$, alors le sous-groupe de G engendré par H$_1$, … , H$_n$ est lui aussi un sous-groupe normal nilpotent de G et sa classe de nilpotence est inférieure ou égale à la somme c$_1$ + .... + c$_n$ de celles des H$_i$.
Dans ce qui suit, on donne une démonstration dans le langage des commutateurs de sous-groupes. On peut rédiger la démonstration en donnant la préférence aux commutateurs d'éléments.
Si X et Y sont deux parties d'un groupe G, nous noterons XY et nous appellerons produit de X et de Y (dans cet ordre) l'ensemble des éléments de G de la forme xy avec x dans X et y dans Y. On sait que si H et K sont des sous-groupes normaux de G, le sous-groupe de G engendré par H et K est leur produit HK = KH. On en tire par récurrence sur n que si K$_1$, ...., K$_n$ sont des sous-groupes normaux de G, alors le sous-groupe de G engendré par K$_1$, ...., K$_n$ est leur produit K$_1$ .... K$_n$, où l'ordre des facteurs n'a pas d'importance. On sait que le sous-groupe engendré par une famille de sous-groupes normaux est lui-même un sous-groupe normal, donc K$_1$ .... K$_n$ est un sous-groupe normal de G.
Pour des sous-groupes (non forcément normaux) L$_1$, ...., L$_n$ de G, n étant un nombre naturel au moins égal à 1, on définit [L$_1$, ...., L$_n$] par récurrence sur n en posant
    [L$_1$] = L$_1$
et
    [L$_1$, ...., L$_n$] = [ [L$_1$, ...., L$_{n-1}$], L$_n$]
si n > 1. (Le symbole [L, M], où L et M sont des sous-groupes de G, est défini à l'article Commutateur (théorie des groupes).)
En particulier, si les L$_i$ sont tous égaux à un même sous-groupe L de G, [L$_1$, ...., L$_n$] = C$^n$(L), où C$^n$(L) est le n-ième sous-groupe apparaissant dans la suite centrale descendante de L. (Rappelons que cette suite se définit par récurrence sur n en posant C$^1$(L) = L et, pour n > 1, C$^n$(L) = [L, C$^{n-1}$(L)] = [C$^{n-1}$(L), L].)
On sait que si A et B sont deux sous-groupes normaux de G, alors [A, B] est un sous-groupe normal de G. On en tire par récurrence sur n que si L$_1$, ...., L$_n$ sont des sous-groupes normaux de G, alors [L$_1$, ...., L$_n$] est un sous-groupe normal de G.
Lemme. Soient N$_1$, ...., N$_s$ des sous-groupes normaux de G. Si i$_1$ < ... < i$_k$ sont des éléments de {1, 2, ... , s}, alors
    $[N_{1},....,N_{s}]\subseteq [N_{i_{1}},....,N_{i_{k}}].$
Démonstration par récurrence sur s, en distinguant les deux cas i$_k$ < s et i$_k$ = s, et en utilisant le fait que si A et B sont des sous-groupes normaux de G, alors [A, B] est contenu dans A et dans B.
Pour prouver le théorème de Fitting, il suffit de prouver que si H et K sont des sous-groupes normaux nilpotents de G, de classes de nilpotence respectives c$_1$ et c$_2$, alors HK est lui aussi un sous-groupe normal nilpotent de G et sa classe de nilpotence est inférieure ou égale à c$_1$ + c$_2$. (Le cas général s'en déduit par récurrence.)
Que HK soit normal résulte du fait que le sous-groupe engendré par une famille de sous-groupes normaux de G est lui-même normal dans G. Il reste donc à démontrer que HK est nilpotent de classe au plus c$_1$ + c$_2$.
On sait que, si H, K, L sont des sous-groupes normaux de G, alors [HK, L] = [H, L] [K, L], ce qui peut encore s'écrire [L, HK] = [L, H] [L, K]. On en tire par récurrence que C$^n$(HK) est le produit (au sens défini ci-dessus) des sous-groupes de G de la forme [A$_1$, ...., A$_n$], où, pour tout i, A$_i$ est égal à H ou à K. Si n = c$_1$ + c$_2$ + 1, il y a ou bien au moins c$_1$ + 1 des A$_i$ qui sont égaux à H, ou bien c$_2$ + 1 des A$_i$ qui sont égaux à K. D'après le lemme ci-dessus, il en résulte que, pour cette valeur de n, [A$_1$, ...., A$_n$] est contenu dans $C^{c_{1}+1}(H)=1$ ou dans $C^{c_{2}+1}(K)=1$. Dans les deux cas, [A$_1$, ...., A$_n$] = 1, donc $C^{c_{1}+c_{2}+1}(HK)=1$, donc HK est nilpotent de classe au plus c$_1$ + c$_2$, comme annoncé.

## Définition du sous-groupe de Fitting

Il résulte du théorème de Fitting que si le groupe G est fini, le sous-groupe F(G) de G engendré par les sous-groupes normaux nilpotents de G est lui-même normal et nilpotent. Il est clair que F(G) est alors le plus grand (relativement à l'inclusion) des sous-groupes normaux nilpotents de G et que c'est un sous-groupe caractéristique de G. On pose dès lors la définition suivante :
Si G est un groupe fini, on appelle sous-groupe de Fitting de G et on note F(G) ou Fit(G) le plus grand (relativement à l'inclusion) des sous-groupes normaux nilpotents de G.
On montre que si G est un groupe fini et que, pour tout diviseur premier p de l'ordre de G, on désigne par O$_p$(G) l'intersection de tous les p-sous-groupes de Sylow de G (intersection qui est aussi le plus grand p-sous-groupe normal de G), alors F(G) est le produit direct des O$_p$(G), où p parcourt les diviseurs premiers de l'ordre de G.
Prouvons que si le groupe G est infini, il n'a pas forcément un plus grand sous-groupe normal nilpotent. On sait que le sous-groupe du groupe général linéaire GL$_n$(K) formé des matrices triangulaires supérieures avec des 1 sur la diagonale principale est nilpotent de classe n – 1. Il existe donc une suite infinie (G$_n$) telle que, pour chaque n, G$_n$ soit un groupe nilpotent de classe n. Désignons par G la somme restreinte externe de la famille (G$_n$). Chaque G$_n$ est un sous-groupe normal nilpotent de G et les G$_n$ engendrent G. Donc, si G avait un plus grand sous-groupe normal nilpotent, ce sous-groupe serait G tout entier, donc G serait nilpotent. Soit alors c la classe de nilpotence de G; chaque G$_n$ serait nilpotent de classe ≤ c, ce qui est faux si n > c.
On ne peut donc pas définir de façon générale le sous-groupe de Fitting d'un groupe comme le plus grand de ses sous-groupes normaux nilpotents. Certains auteurs disent qu'un groupe (non forcément fini) G admet un sous-groupe de Fitting si et seulement s'il admet un plus grand sous-groupe normal nilpotent (et c'est alors ce sous-groupe qui est appelé le sous-groupe de Fitting de G). Selon cette définition, un groupe infini n'a pas forcément de sous-groupe de Fitting. D'autres auteurs définissent le sous-groupe de Fitting d'un groupe quelconque G comme le sous-groupe de G engendré par les sous-groupes normaux nilpotents de G. Avec cette définition, tout groupe admet un sous-groupe de Fitting (qui n'est pas forcément nilpotent).