# Théorème de Lie-Kolchin

Le théorème de Lie-Kolchin est un résultat de trigonalisabilité des sous-groupes connexes et résolubles du groupe des matrices inversibles GL$_n$(K), où K est un corps algébriquement clos de caractéristique quelconque. Démontré en 1948, il tient son nom de son auteur, Ellis Kolchin, et de son analogie avec le théorème de Lie sur les algèbres de Lie résolubles (en caractéristique nulle), démontré en 1876 par Sophus Lie.

## Énoncé

Définition — On dit qu'une partie E de M$_n$(K) est trigonalisable s'il existe une base de trigonalisation commune à tous les éléments de E.
Théorème de Lie-Kolchin — Pour tout corps K algébriquement clos, tout sous-groupe connexe résoluble de GL$_n$(K) est trigonalisable.
La topologie sur GL$_n$(K) est ici, implicitement, celle de Zariski. (Pour K égal au corps ℂ des nombres complexes, la même démonstration fournit, avec la topologie usuelle sur GL$_n$(ℂ) – i.e. celle induite par la topologie produit sur M$_n$(ℂ) ≃ ℂ$^{(n2)}$ – un résultat analogue mais moins puissant, puisque cette topologie est plus fine donc possède moins de connexes.) Ce théorème est parfois énoncé avec l'hypothèse supplémentaire (superflue mais inoffensive, puisque l'adhérence du sous-groupe est encore connexe et résoluble) que le sous-groupe considéré est fermé dans GL$_n$(K), c'est-à-dire est en fait un groupe algébrique linéaire. Cette version est un cas particulier du théorème du point fixe de Borel (en).

## Démonstration

La preuve repose sur les deux lemmes suivants.
Le premier, purement algébrique, généralise à un ensemble de matrices qui commutent le fait que, sur un corps algébriquement clos ou même seulement contenant toutes les valeurs propres d'une matrice donnée, cette matrice est trigonalisable. (Lorsque ce corps est ℂ, on démontre par la même méthode la généralisation analogue du résultat plus précis démontré en 1909 par Schur : le changement de base peut être choisi unitaire.)
Lemme 1 (Frobenius, 1896) — Soient K un corps algébriquement clos et G une partie de M$_n$(K) constituée de matrices qui commutent, alors G est trigonalisable.
Si toutes les matrices de G sont des matrices d'homothéties (en particulier si n = 0), le résultat est vrai. Raisonnons par récurrence sur n, en supposant, pour un n > 0, que le lemme est vrai en toute dimension strictement inférieure à n, et en le démontrant en dimension n sous l'hypothèse que G contient un élément g qui n'est pas une matrice d'homothétie.
Soient V un sous-espace propre (non nul) de g (il en existe car K est algébriquement clos) et d sa dimension (qui est donc strictement comprise entre 0 et n). Comme tous les éléments de G commutent, V est G-stable.
$g={\begin{pmatrix}\varphi _{1}(g)&\psi (g)\\0&\varphi _{2}(g)\end{pmatrix}},$
pour certaines applications
$\varphi _{1}:G\to M_{d}(K),\quad \varphi _{2}:G\to M_{n-d}(K)\quad {\text{et}}\quad \psi :G\to M_{d,n-d}(K)$
qui vérifient entre autres :
$\forall g_{1},g_{2}\in G\quad \varphi _{1}(g_{1}g_{2})=\varphi _{1}(g_{1})\varphi _{1}(g_{2})\quad {\text{et}}\quad \varphi _{2}(g_{1}g_{2})=\varphi _{2}(g_{1})\varphi _{2}(g_{2}).$
Les images de φ$_1$ et φ$_2$ sont donc des ensembles de matrices qui commutent. Comme d et n – d sont strictement inférieurs à n, on peut appliquer l'hypothèse de récurrence, à savoir qu'il existe une base de trigonalisation pour φ$_1$(G), en des matrices triangulaires supérieures, et une pour φ$_2$(G), et l'on conclut en concaténant ces deux bases.
Le second lemme sera applicable aux sous-groupes connexes G de GL$_n$(K).
Lemme 2 — Le groupe dérivé D(G) de tout groupe topologique connexe G est connexe.
Soit $S$ l'ensemble des commutateurs et $\Phi :(M,N)\in G\times G\mapsto MNM^{-1}N^{-1}\in S$. $G\times G$ est connexe et $\Phi$ est continue donc $\Phi (G\times G)=S$ est connexe. Soit $m\geq 1$ et $S_{m}$ l'ensemble des produits $s_{1}\dots s_{m}$ avec s$_{i}\in S$. C'est l'image par l'application continue $(g_{1},\dots ,g_{m})\mapsto g_{1}\dots g_{m}$ de $S^{m}$ qui est connexe car $S$ l'est. Ainsi, $S_{m}$ est connexe. Or, $D(G)=\{Id\}\cup \left(\cup _{m\geq 1}S_{m}\right)$, comme $Id\in S_{m}$ pour tout $m\geq 1$, $D(G)$ est connexe.
Vient enfin la démonstration du théorème.
Si G est abélien (en particulier si n = 0), le résultat est vrai d'après le lemme 1, sans même supposer G connexe. Raisonnons par récurrence sur n, en supposant, pour un n > 0, que le théorème est vrai en toute dimension strictement inférieure à n, et en le démontrant en dimension n sous l'hypothèse que G est non abélien.
* Montrons d'abord que K$^n$ possède un sous-espace vectoriel G-stable non trivial, c'est-à-dire distinct de {0} et de K$^n$.
** Notons :
*** m la classe de résolubilité de G, c'est-à-dire l'entier (> 1 puisque G est supposé non abélien) tel que D$^{m–1}$(G) soit commutatif mais non réduit au neutre,
*** H = D$^{m–1}$(G),
*** P l'ensemble des vecteurs (non nuls) propres simultanément pour tous les éléments de H
*** et pour un tel vecteur p, χ$_p$(h) la valeur propre associée à p et à un élément h de H.
** Fixons un vecteur v dans P (il en existe d'après le lemme 1). Le sous-groupe H est normal dans G (parce que le sous-groupe dérivé d'un groupe est caractéristique) et l'on en déduit que pour tout élément g de G, gv appartient encore à P (avec χ$_{gv}$(h) = χ$_v$(g$^{–1}$hg) pour tout h dans H). Pour h fixé, l'image de G par l'application g ↦ χ$_{gv}$(h) est finie car incluse dans l'ensemble des valeurs propres de h. Elle est de plus connexe car l'application est continue. C'est donc un singleton, si bien que le sous-espace Vect(Gv) est propre pour h. Par construction, ce sous-espace est G-stable et non réduit au vecteur nul.
** Montrons par l'absurde qu'il n'est pas non plus égal à K$^n$. S'il l'était, chaque élément de h de H serait une homothétie. De plus, comme h appartient à D(G) (car m > 1), son déterminant est égal à 1 donc son rapport d'homothétie – notons-le χ(h) – serait une racine n-ième de l'unité. L'ensemble des χ(h) quand h parcourt H serait alors fini, mais aussi connexe (car H est connexe d'après le lemme 2), donc réduit à {1}. Ainsi, H serait réduit au neutre, ce qui contredirait la définition de m.
* On sait à présent que K$^n$ possède un sous-espace vectoriel G-stable V dont la dimension d est strictement comprise entre 0 et n. Alors, dans une base de K$^n$ formée en complétant une base de V, un élément de G a pour forme :$g={\begin{pmatrix}\varphi _{1}(g)&\psi (g)\\0&\varphi _{2}(g)\end{pmatrix}}$et les applications$\varphi _{1}:G\to GL_{d}(K),\quad \varphi _{2}:G\to GL_{n-d}(K)$sont continues en tant que projections et sont des morphismes de groupes. Or l'image d'un groupe résoluble par un morphisme de groupes est résoluble. L'image d'un connexe par une application continue étant connexe, on peut, comme dans le lemme 1, appliquer l'hypothèse de récurrence pour conclure.

## Théorème de Kolchin

Kolchin a démontré la même année la variante purement algébrique suivante, pour les sous-groupes constitués uniquement de matrices unipotentes, c'est-à-dire de la forme I$_n$ + N, où N est une matrice nilpotente. D'après ce théorème (valable pour un corps non nécessairement algébriquement clos) un tel groupe est automatiquement nilpotent puisque conjugué, dans GL$_n$(K), à un sous-groupe du groupe nilpotent des matrices triangulaires supérieures avec des 1 sur la diagonale principale. Une matrice triangulaire supérieure (resp. inférieure) dont tous les coefficients diagonaux sont égaux à 1 est appelée une matrice unitriangulaire supérieure (resp. inférieure).
Théorème de Kolchin — Pour tout corps commutatif K, tout sous-groupe$^,$ (et même tout sous-demi-groupe$^,$) de GL$_n$(K) constitué de matrices unipotentes est trigonalisable.
Ceci peut être vu$^,$ comme un analogue du théorème de Engel sur les algèbres de Lie.
Pour un corps gauche, il existe des résultats partiels dans cette direction.