# Théorie des groupes/Opérations transitives, plusieurs fois transitives et primitives

On va exposer ici quelques notions sur les opérations transitives, les opérations n fois transitives et les opérations primitives d'un groupe sur un ensemble. On se limitera à quelques énoncés qui permettront de résoudre dans un chapitre suivant la question de la simplicité des groupes linéaires spéciaux projectifs. Quelques compléments seront donnés en exercice.

## Rappels

Si un groupe G opère sur un ensemble X, si H est un sous-groupe de G, l'opération de G induit de façon évidente une opération de H sur X. C'est toujours de cette opération qu’il s'agira quand nous parlerons d'une opération de H sans préciser laquelle.
Le noyau d'une action d'un groupe G sur un ensemble X est le noyau de l'homomorphisme de G dans S$_X$ associé à cette action. C'est donc l’ensemble des éléments de G qui fixent tous les éléments de X.
Une action d'un groupe G sur un ensemble X est dite fidèle si l'homomorphisme correspondant de G dans S$_X$ est injectif. Cela revient à dire que le noyau de cette action est réduit à l'élément neutre de G, autrement dit que le seul élément de G qui fixe tout point de X est l'élément neutre.
Soit G un groupe opérant sur un ensemble X, soit K le noyau de cette opération. Il existe une et une seule opération de G/K sur X telle que, pour tout élément g de G et tout élément x de X, on ait
$(gK)x=gx.$
Démonstration. Appliquer le premier théorème d'isomorphisme à l'homomorphisme de G dans S$_X$ associé à l'opération de G sur X.
Une action d'un groupe G sur un ensemble X est dite transitive lorsqu'elle possède une et une seule orbite. Cela revient à dire que X n’est pas vide et que, pour tous éléments x, y de X, il existe un élément g de G tel que gx = y.
Si un groupe G opère transitivement sur un ensemble X, on dit que X est un G-ensemble homogène ou encore un G-espace homogène.
Soit G un groupe opérant sur un ensemble X. Si deux points x, y de X appartiennent à la même orbite, leurs stabilisateurs dans G sont conjugués dans G. Plus précisément, si g est un élément de G tel que y = gx, alors Stab(y) = g(Stab(x))g$^{-1}$.

## Opérations k fois transitives

Soit G un groupe opérant sur un ensemble X, soit k un nombre naturel. On dit que G opère k-transitivement sur X, ou encore que l'opération de G sur X est k-transitive, ou encore que le G-ensemble X est k-transitif, et même chose avec « k fois transitif » au lieu de « k-transitif » etc., si les deux conditions suivantes sont satisfaites :
a) $\vert X\vert \geq k$; b) pour tout k-uplet $(x_{1},\ldots x_{k})$ d'éléments de X deux à deux distincts et pour tout k-uplet $(y_{1},\ldots y_{k})$ d'éléments de X deux à deux distincts, il existe un élément g de G tel que, pour tout i ($1\leq i\leq k$), on ait $\ gx_{i}=y_{i}$.
Il est clair qu'un G-ensemble est 1-transitif si et seulement s'il est transitif.

## Opérations primitives

Soit G un groupe opérant sur un ensemble X. Une partie B de X est appelée un bloc de cette opération si, pour tout élément g de G, B et gB sont égaux ou disjoints.
Il est clair que l’ensemble vide, les parties de X à un élément et X lui-même sont des blocs relativement à n’importe quelle opération de groupe sur X.
Soit G un groupe opérant sur un ensemble X. L'ensemble vide, les parties de X à un élément et X lui-même sont appelés les blocs triviaux de cette opération.
Une opération d'un groupe G sur un ensemble X est dite primitive si elle est transitive et qu'elle n'a pour blocs que les blocs triviaux.
Toute opération deux fois transitive d'un groupe sur un ensemble est primitive.
Démonstration. Soit G un groupe opérant de façon deux fois transitive sur un ensemble X. Soit B une partie de X distincte de X et comptant au moins deux éléments. Il s'agit de prouver que B n’est pas un bloc de l'opération en question. Par hypothèse sur B, nous pouvons choisir deux éléments distincts x et y dans B et un élément z de X qui n'appartient pas à B. Puisque l'opération de G sur X est deux fois transitive, il existe un élément g de G tel que gx = y et gy = z. Alors B et gB ne sont pas disjoints (car ils comprennent tous deux y) et ils ne sont pas égaux (car gB comprend z, qui n'appartient pas à B), donc B n’est pas un bloc.
Soient G un groupe opérant sur un ensemble X, soit H un sous-groupe normal de G, alors les Hx, où x parcourt X, sont des blocs.
Démonstration. Soit x un élément de X, prouvons que Hx est un bloc. Pour tout élément g de G, nous avons gH = Hg (puisque H est sous-groupe normal de G), d'où gHx = Hgx. Si $\ gHx\cap Hx\neq \varnothing$ on a donc $\ Hgx\cap Hx\neq \varnothing$, d'où (comme deux orbites pour l'action de H sont égales ou disjointes) Hgx = Hx, autrement dit gHx = Hx, ce qui prouve que Hx est un bloc.
Soit G un groupe opérant primitivement sur un ensemble X, soit H un sous-groupe normal de G non contenu dans le noyau de cette opération. Alors l'opération de H sur X est transitive.
Démonstration. Puisque, par définition, une opération primitive est transitive, l'opération de G est transitive, donc X n’est pas vide. Il reste à prouver que, pour tout élément x de X, Hx = X. D'après le lemme précédent, Hx est un bloc de l'opération de G sur X. Puisque l'opération de G est supposée primitive, il suffit donc de prouver que Hx a au moins deux éléments. Puisque H n'est pas inclus dans le noyau de l'opération, il contient un élément h qui ne fixe pas un élément y de X. Puisque G agit transitivement, il contient un élément g tel que y = gx. On a alors hgx ≠ gx, autrement dit kx ≠ x pour k = g$^{–1}$hg, élément de H car H est normal dans G. Ainsi, Hx contient au moins deux éléments : x et kx.
Soient G un groupe, soient H, S des sous-groupes de G tels que G = HS. Si K est un sous-groupe normal de S dont les conjugués dans G engendrent G, alors G est engendré par H et K. Si, de plus, H est normal dans G et K commutatif, alors H contient le dérivé de G.
Démonstration. D'après les hypothèses, G est engendré par
$\cup _{g\in G}gKg^{-1}=\cup _{h\in H,s\in S}hsKs^{-1}h^{-1}=\cup _{h\in H}hKh^{-1}$
donc par H et K. Si de plus H est normal dans G, on en déduit G = HK. D'après le second théorème d'isomorphisme, G/H est donc isomorphe à un quotient de K. Si, de plus, K est commutatif, G/H est donc commutatif, donc H contient le dérivé de G.
Le théorème suivant est une des différentes formes du critère d'Iwasawa qu'on trouve dans la littérature.
Soit G un groupe parfait (c'est-à-dire égal à son dérivé) opérant de façon primitive sur un ensemble X. Supposons qu’il existe un élément x de X tel que le stabilisateur G$_x$ de x admette un sous-groupe A abélien et normal dans G$_x$ dont les conjugués dans G engendrent G. Alors
    a) si H est un sous-groupe normal de G non contenu dans le noyau de l'action de G sur X, H = G;
    b) si X comprend au moins deux éléments, le quotient de G par le noyau de l'opération de G sur X est un groupe simple.
Démonstration. Commençons par prouver la partie a) de l'énoncé. Soit H un sous-groupe normal de G non contenu dans le noyau de l'action de G sur X. Il s'agit de prouver que H = G. Puisque G opère primitivement sur X, il résulte d'un théorème ci-dessus que H opère transitivement sur X. D'après l'argument de Frattini (forme générale), on a donc G = HS, où S désigne le stabilisateur de x dans G. Donc, d’après le précédent lemme, H contient le dérivé de G. Puisque, par hypothèse, G est parfait, H est donc égal à G, ce qui prouve la partie a) de l'énoncé.
La partie b) se tire facilement de la partie a). Par définition d'une action primitive, l'action de G sur X est transitive, donc, puisque X est supposé comprendre au moins deux éléments, cette action n'est par triviale, autrement dit, si K désigne le noyau de cette action, le groupe G/K n'est pas trivial, ce qui est une première condition à satisfaire pour être simple. Soit maintenant N un sous-groupe normal de G/K non réduit à l'élément neutre. D'après le théorème de correspondance, N est de la forme H/K, où H est un sous-groupe normal de G contenant K et non réduit à K. D'après la partie a) de l'énoncé, H est égal à G tout entier, donc N, étant égal à H/K, est égal à G/K tout entier, ce qui achève de prouver que le groupe G/K est simple.