# Théorie des groupes/Exercices/Théorème de Maschke
## Problème 1

Soit p un nombre premier, soit F un corps commutatif de caractéristique p (par exemple le corps $\mathbb {Z} /p\mathbb {Z}$), soit V un F-espace vectoriel de dimension 2, soit $(v_{1},v_{2})$ une base de V. Désignons par f l'endomorphisme de V qui applique $v_{1}$ sur $v_{1}+v_{2}$ et qui laisse $v_{2}$ fixe.
a) Prouver que f est un automorphisme de V et que le sous-groupe G de GL(V) engendré par f est d'ordre fini.
On prouve par récurrence sur n que pour tout nombre naturel n, $f^{n}(v_{1})=v_{1}+nv_{2}$ et $f^{n}(v_{2})=v_{2}$. En faisant n = p et en tenant compte que F est de caractéristique p, on trouve que $f^{p}=id_{V}$, ce qui prouve à la fois que f est un automorphisme (admettant $f^{p-1}$ pour réciproque) et que son ordre dans GL(V) est égal à p (car cet ordre est distinct de 1). Pour prouver que f est un automorphisme, il n'était évidemment pas nécessaire d'utiliser l'hypothèse selon laquelle F est de caractéristique non nulle, car l'endomorphisme de V qui applique $v_{1}$ sur $v_{1}-v_{2}$ et qui laisse $v_{2}$ fixe est de toute façon réciproque de f. On pourrait aussi se contenter de noter que le déterminant de la matrice de f dans la base $(v_{1},v_{2})$ est non nul.
b) Dans les notations du point a), prouver que V admet un sous-espace invariant par G qui n'a pas de supplémentaire (dans V) invariant par G et que V n'est pas complètement réductible pour G. (Cela montre que ni dans la partie 1° ni dans la partie 2° du théorème de Maschke, on ne peut supprimer l'hypothèse selon laquelle la caractéristique du corps ne divise pas l'ordre du groupe linéaire.)
Puisque $v_{2}$ est point fixe de f et que G est engendré par f, $Fv_{2}$ est invariant par G. Le lecteur vérifiera facilement que pour démontrer l'énoncé b), il suffit de prouver que $Fv_{2}$ est le seul sous-espace de dimension 1 de V qui soit invariant par G. Soit donc $Fv$, avec $v\in V\setminus \{0\}$, un sous-espace de dimension 1 de V, invariant par G. Il s'agit de prouver que
    (thèse 1) $\qquad Fv=Fv_{2}.$
Soit
    (2) $\qquad v=av_{1}+bv_{2}$
la décomposition de v dans la base $(v_{1},v_{2})$ de V. Puisque $Fv$ est supposé invariant par G = <f>, il existe un scalaire c, évidemment non nul, tel que f(v) = cv, ce qui, d'après (2), peut s'écrire
    $f(av_{1}+bv_{2})=cav_{1}+cbv_{2}.$
D'après la définition de f, ceci revient à
    $av_{1}+av_{2}+bv_{2}=cav_{1}+cbv_{2},$
d'où, puisque $(v_{1},v_{2})$ est une base de V,
    (3) $\qquad a=ca$
et
    (4) $\qquad a+b=cb.$
Si c est distinct de 1, (3) donne a = 0; si maintenant c est égal à 1, (4) donne encore a = 0. Donc a est nul dans chaque cas, donc (2) donne $v=bv_{2}$. Puisque v est non nul, on a donc $Fv=Fv_{2},$ ce qui est la thèse (1).

## Problème 2

Soit F un corps commutatif infini. Donner un exemple de la situation suivante (contre-exemple à une extension indue du théorème de Maschke) : V est un F-espace vectoriel de dimension finie, G un sous-groupe infini de GL(V), V admet un sous-espace invariant par G qui n'a pas de supplémentaire (dans V) invariant par G, V n'est pas complètement réductible pour G. (Indication : on peut s'inspirer de la solution du problème 1.)
Choisissons un F-espace vectoriel V de dimension 2 et une base $(v_{1},v_{2})$ de V. Les automorphismes de V qui fixent $v_{2}$ forment clairement un sous-groupe de GL(V). Désignons par G ce sous-groupe de GL(V). Les éléments de G sont en correspondance biunivoque avec les matrices de la forme
    ${\begin{pmatrix}a&0\\b&1\\\end{pmatrix}}$
où a parcourt $F\setminus \{0\}$ et où b parcourt F. Puisque F est infini, ces matrices sont en quantité infinie, donc G est infini. D'après la définition de G,
    (1) le sous-espace $Fv_{2}$ de V est invariant par G.
Prouvons que le seul sous-espace de dimension 1 de V qui soit invariant par G est $Fv_{2}$. Désignons par f l'endomorphisme de V qui applique $v_{1}$ sur $v_{1}+v_{2}$ et qui fixe $v_{2}$. C'est un automorphisme de V, par exemple parce qu'il admet pour réciproque l'endomorphisme de V qui applique $v_{1}$ sur $v_{1}-v_{2}$ et qui fixe $v_{2}$. De plus, f appartient à V. Comme dans la solution du problème 1, on montrera que le seul sous-espace de dimension 1 de V qui soit invariant par f est $Fv_{2}$. Puisque f appartient à G, un sous-espace de dimension 1 de V invariant par G doit donc être égal à $Fv_{2}$. Joint à (1), cela montre que, comme annoncé, le seul sous-espace de dimension 1 de V qui soit invariant par G est $Fv_{2}$. Comme dans la solution du problème 1, on en tire que V et G répondent à la question.

## Problème 3 (facile)

Soit F un corps commutatif, soit V un F-espace vectoriel, soit G un sous-groupe de GL(V). On suppose que V est irréductible pour G. Prouver que $\mathrm {dim} (V)\leq \vert G\vert .$
Choisissons un élément a non nul de V. Le sous-espace W de V engendré par les g(a), où g parcourt G, est invariant par G et non nul, donc, puisque V est supposé irréductible pour G, W est égal à G tout entier. Donc les g(a), où g parcourt G, forment une partie génératrice de V. Comme le cardinal de cette partie génératrice est $\leq \vert G\vert$, on a donc $\mathrm {dim} (V)\leq \vert G\vert .$
| Produit en couronne | Représentations complexes des groupes finis, 1 |