# Théorie des groupes/Sous-groupes caractéristiques

On a vu qu'un sous-groupe H d'un groupe G est distingué (dans G) si et seulement s'il est invariant par tout automorphisme intérieur de G, c'est-à-dire si, pour tout automorphisme intérieur $\sigma$ de G, $\sigma$(H) = H. Nous allons maintenant considérer des sous-groupes de G possédant une propriété plus forte.
On dit qu'un sous-groupe H d'un groupe G est un sous-groupe caractéristique de G si H est invariant par tout automorphisme de G, c'est-à-dire si pour tout automorphisme $\sigma$ de G, $\sigma$(H) = H.
D'après la remarque initiale, tout sous-groupe caractéristique d'un groupe G est sous-groupe distingué de G.
Pour qu'un sous-groupe H d'un groupe G soit caractéristique dans G, il suffit qu’il soit stable pour tout automorphisme de G, c'est-à-dire qu'on ait $\sigma (H)\subseteq H$ pour tout automorphisme $\sigma$ de G. En effet, si cette relation est vraie pour tout automorphisme de G, alors, pour tout automorphisme $\sigma$ de G, cette relation est vraie à la fois pour $\sigma$ et pour $\sigma ^{-1}$. On a donc à la fois $\sigma (H)\subseteq H$ et $\sigma ^{-1}(H)\subseteq H$; or cette dernière relation donne $H\subseteq \sigma (H)$, d'où finalement $\sigma$(H) = H.
Soient G$_1$ et G$_2$ deux groupes isomorphes, $\varphi$ un isomorphisme de G$_1$ sur G$_2$. Un sous-groupe H de G$_1$ est sous-groupe caractéristique de G$_1$ si et seulement si $\varphi$(H) est sous-groupe caractéristique de G$_2$.
Supposons H caractéristique dans G$_1$ et prouvons que $\varphi$(H) est caractéristique dans G$_2$. Soit $\sigma$ un automorphisme de G$_2$. Il s'agit de prouver que $\sigma (\varphi (H))=\varphi (H)$. Cela s'écrit encore $\varphi ^{-1}\sigma \varphi (H)=H$, ce qui est bien vrai puisque $\varphi ^{-1}\sigma \varphi$ est un automorphisme de G$_1$ et que H est supposé caractéristique dans G$_1$. Nous avons donc bien prouvé que si H est caractéristique dans G$_1$, alors $\varphi$(H) est caractéristique dans G$_2$. Pour démontrer l'implication réciproque, on peut par exemple appliquer ce qui précède à l'isomorphisme $\varphi ^{-1}$.
Soit G un groupe.
* Les sous-groupes 1 et G sont évidemment des sous-groupes caractéristiques de G.
* Si un sous-groupe de G est seul de son ordre parmi les sous-groupes de G, c’est un sous-groupe caractéristique de G. (Noter que les automorphismes de G conservent l’ordre d'un sous-groupe.)
* Si un sous-groupe de G est seul de son indice (dans G) parmi les sous-groupes de G, c’est un sous-groupe caractéristique de G. (Noter que les automorphismes de G conservent l'indice d'un sous-groupe.)
* Si G est fini, si un sous-groupe de Sylow de G est distingué dans G, ce sous-groupe est caractéristique dans G. (On sait que tous les sous-groupes de Sylow d'un ordre donné de G sont conjugués, donc un sous-groupe de Sylow de G qui est distingué dans G est seul de son ordre parmi les sous-groupes de G.)
* Si G est monogène, tout sous-groupe de G est sous-groupe caractéristique de G. (Si G est fini, on a vu que tout sous-groupe de G est seul de son ordre parmi les sous-groupes de G. Si G est infini, le théorème ci-dessus permet de se ramener au cas où G = Z. On a vu que tout sous-groupe de Z est de la forme $n$Z, où n est un nombre naturel. Si n > 0, $n$Z est d'indice n dans Z et si n = 0, $n$Z est d'indice infini dans Z. Il en résulte que chaque sous-groupe de Z est seul de son indice parmi les sous-groupes de Z. On pourrait aussi noter que les seuls automorphismes de Z sont l'identité et le passage à l'opposé.)
* Si H est un sous-groupe de G stable pour tout endomorphisme de G, c'est-à-dire tel que $f(H)\subseteq H$ pour tout endomorphisme f de G (un tel sous-groupe est parfois appelé pleinement invariant), H est a fortiori stable pour tout automorphisme de G, donc est un sous-groupe caractéristique de G.
* Soit n un nombre naturel. Le sous-groupe de G engendré par les n-ièmes puissances d'éléments de G (c'est-à-dire par les éléments de la forme x$^n$, où x parcourt G) est caractéristique dans G. (En effet, il est clair que ce sous-groupe est stable par tout endomorphisme de G.) Cela fournit une nouvelle preuve de ce que $n$Z est sous-groupe caractéristique de Z.
* Soit n un nombre naturel. Le sous-groupe de G engendré par les racines n-ièmes de 1 (c'est-à-dire par les éléments x de G tels que x$^n$ = 1) est caractéristique dans G. (En effet, il est clair que ce sous-groupe est stable par tout endomorphisme de G.) Cela fournit une nouvelle preuve de ce que tout sous-groupe d'un groupe fini cyclique est caractéristique.
* Soit H un groupe; désignons par G le produit direct $H\times H$ de H par lui-même. Comme on l'a vu dans le chapitre Produit direct et somme restreinte, les « facteurs » $H\times \{1\}$ et $\{1\}\times H$ sont des sous-groupes distingués de G. D'autre part, ils sont images l'un de l'autre par l'automorphisme $(x,y)\mapsto (y,x)$ de G et, si H n’est pas trivial, ils sont distincts. Cela montre qu'un sous-groupe distingué n’est pas forcément caractéristique.
De façon informelle, on peut dire que si un sous-groupe K d'un groupe G peut se « caractériser » comme étant le sous-groupe de G possédant une certaine propriété qui ne dépend que de la structure de groupe de G (et non de la nature de ses éléments), K est caractéristique dans G. (C'est évident si on considère qu'une propriété qui ne dépend que de la structure de groupe de G est par définition une propriété qui subsiste par application de tout automorphisme de G.) On devine ainsi, par exemple, que si G est un groupe fini et p un nombre premier, le sous-groupe de G engendré par les p-sous-groupes de Sylow de G est un sous-groupe caractéristique de G, ce qui est facile à démontrer.
Le centre d'un groupe G est un sous-groupe caractéristique de G.
Prouvons que si $\alpha$ est un endomorphisme surjectif de G, alors $\alpha (Z(G))\subseteq Z(G)$. Soit c un élément de Z(G); il s'agit de prouver que $\alpha (c)\in Z(G)$. Puisque c appartient au centre de G, nous avons cx = xc pour tout élément x de G, d'où $\alpha (c)\alpha (x)=\alpha (x)\alpha (c)$ pour tout élément x de G. Puisque $\alpha$ est supposé surjectif, tout élément de G est de la forme $\alpha (x)$ pour un certain élément x de G, donc la relation obtenue montre que $\alpha (c)$ appartient au centre de G, comme annoncé. Nous avons donc bien prouvé que si $\alpha$ est un endomorphisme surjectif de G, alors $\alpha (Z(G))\subseteq Z(G)$. C'est vrai a fortiori si $\alpha$ est un automorphisme de G, donc Z(G) est caractéristique dans G.
Remarque. Nous venons de prouver que le centre de G est stable pour tout endomorphisme surjectif de G. En revanche, le centre de G n’est pas forcément stable pour tout endomorphisme de G (voir exercice). Cela montre qu'un sous-groupe caractéristique d'un groupe G n’est pas forcément stable pour tout endomorphisme de G.
Soient G un groupe et H un sous-groupe caractéristique de G. Tout sous-groupe caractéristique de H est caractéristique dans G.
Soient K un sous-groupe caractéristique de H et $\sigma$ un automorphisme de G. Il s'agit de prouver que $\sigma$(K) = K. Puisque H est caractéristique dans G, $\sigma$ induit un automorphisme $\sigma _{H}:x\mapsto \sigma (x)$ de H. Puisque K est caractéristique dans H, nous avons $\sigma _{H}(K)=K$, autrement dit $\sigma (K)=K$, comme annoncé.
Soient G un groupe et H un sous-groupe distingué de G. Tout sous-groupe caractéristique de H est distingué dans G.
Soient K un sous-groupe caractéristique de H et g un élément de G. Il s'agit de prouver que gKg$^{-1}$ = K. Puisque H est distingué dans G, l'automorphisme intérieur $x\mapsto gxg^{-1}$ de G induit un automorphisme (non forcément intérieur) $x\mapsto gxg^{-1}$ de H. Puisque K est caractéristique dans H, K est invariant par cet automorphisme de H, autrement dit gKg$^{-1}$ = K, comme annoncé.