<figure><img src="image_1.png" /></figure>

BLAISE PASCAL

CAROLINE GRUSON ET SÉVERINE LEIDWANGER

Cônes nilpotents des super algèbres de Lie
orthosymplectiques

Volume 17, n° 2 (2010), p. 303-326.

<http://ambp.cedram.org/item?id=AMBP_2010__17_2_303_0>

© Annales mathématiques Blaise Pascal, 2010, tous droits réservés.

L'accès aux articles de la revue « Annales mathématiques Blaise Pascal » (http://ambp.cedram.org/), implique l'accord avec les conditions générales d'utilisation (http://ambp.cedram.org/legal/). Toute utilisation commerciale ou impression systématique est constitutive d'une infraction pénale. Toute copie ou impression de ce fichier doit contenir la présente mention de copyright.

Publication éditée par le laboratoire de mathématiques
de l'université Blaise-Pascal, UMR 6620 du CNRS
Clermont-Ferrand — France
# Cônes nilpotents des super algèbres de Lie
orthosymplectiques

CAROLINE GRUSON

SÉVERINE LEIDWANGER

## Résumé

Nous étudions le cône nilpotent impair des super algèbres de Lie orthosymplectiques. Nous nous intéressons aux orbites nilpotentes impaires qui le constituent, à la relation d'ordre sur leurs adhérences et donnons une désingularisation de ce cône.

*Odd nilpotent cone of orthosymplectic Lie superalgebras*

## Abstract

We study the odd nilpotent cone of orthosymplectic Lie superalgebras, we look at nilpotent orbits and their closure ordering and we give a desingularisation of the cone.

## 1. Introduction

Soient $m, n$ deux entiers positifs et soit $\mathfrak{g} = osp(m, 2n) = \mathfrak{g}_0 \oplus \mathfrak{g}_1$ la super algèbre de Lie orthosymplectique correspondante. On note $ad : \mathfrak{g} \to End(\mathfrak{g})$ l'action adjointe. Soit $\mathcal{N}_1$ (resp. $\mathcal{N}_0$) le cône formé des $X \in osp(m, 2n)_1$, (resp. $X \in osp(m, 2n)_0$) tel que $ad(X)$ est un élément nilpotent de $End(\mathfrak{g})$ : c'est le nilcône impair (resp. le nilcône pair).

Depuis les travaux de Springer ([10], [11]), il est bien connu que les orbites nilpotentes d'une algèbre de Lie semi-simple $\mathfrak{a}$ sont intimement liées aux représentations irréductibles du groupe de Weyl de $\mathfrak{a}$ et l'un des éléments de cette construction de Springer est la désingularisation du cône nilpotent de $\mathfrak{a}$ par un fibré vectoriel au dessus de la variété des sous-algèbres de Borel de $\mathfrak{a}$.

<footnote>*Mots-clés:* Super algèbres de Lie, Orbites nilpotentes, Groupes algébriques, Désingularisation des cônes nilpotents.</footnote>

<footnote>*Classification math.*: 17BXX,14LXX.</footnote>
C. GRUSON et S. LEIDWANGER

Dans cet article, nous nous intéressons au cône nilpotent impair $N_1$ de $\mathfrak{g}$. D'une part nous étudions les orbites nilpotentes qui le constituent et leurs liens avec les orbites nilpotentes du cône nilpotent pair $N_0$, liens obtenus par l'intermédiaire de l'application $\kappa$, définie par $\mathfrak{g}_1 \to \mathfrak{g}_0$, $X \mapsto \frac{1}{2}[X, X]$. Nous donnons une nouvelle description de la paramétrisation de ces orbites obtenue par Kraft et Procesi dans [7], la nôtre étant fondée sur la paramétrisation des orbites nilpotentes paires (Proposition 3.1). Nous étudions ensuite la relation d'ordre (partiel) d'inclusion sur les (Zariski) adhérences des orbites nilpotentes impaires en utilisant les résultats correspondants de Ohta [9], Djoković et Litvinov [2] sur les orbites nilpotentes réelles classiques (Proposition 3.6).

Cette relation d'ordre a pour corollaire l'irréductibilité des fibres de la restriction de $\kappa$ à $N_1$ dont nous donnons une description (Proposition 3.11). Remarquons que la fibre de 0 est exactement le cône autocummutant dont la géométrie est étroitement reliée à la connaissance de la cohomologie de $\mathfrak{g}$ ([3], [4]).

D'autre part, nous donnons, dans les cas $\mathbf{osp}(2n+1, 2n)$ et $\mathbf{osp}(2n, 2n)$, une désingularisation de ce nilcône, analogue à celle de Springer pour $N_0$, sous la forme d'un fibré vectoriel au dessus de la variété des drapeaux de la partie paire (Théorème 5.3).

Dans ce but, nous introduisons la notion de sous-algèbre de Borel mixte (Définition 4.1) et nous montrons que ces sous-algèbres de Borel rencontrent toutes les orbites nilpotentes.

Nous remercions chaleureusement Laurent Gruson, Frédéric Han et Nicolas Perrin pour de nombreuses discussions et Michel Duflo pour ses remarques.

## 2. Notations, définitions, rappels

Le corps de base est celui des nombres complexes.

Soient $m \ge 1, n \ge 1$ deux entiers. Soit $V = V_0 \oplus V_1$, un espace vectoriel $\mathbb{Z}/2\mathbb{Z}$-gradué de dimension $m + \varepsilon 2n$ ($\dim V_0 = m, \dim V_1 = 2n$), muni d'une forme bilinéaire orthosymplectique non dégénérée $B :$ on a $B_{|V_0 \times V_0}$ est symétrique, $B_{|V_1 \times V_1}$ est alternée et $B_{|V_0 \times V_1}$ et $B_{|V_1 \times V_0}$ sont nulles.

On choisit des bases de $V_0$ et de $V_1$ comme suit : si $m = 2p$ on prend une base $e'_1, \dots, e'_{2p}$ de $V_0$ avec $B(e'_i, e'_j) = \delta_{i,2p+1-j}$, si $m = 2p + 1$ une base $e_0, \dots e_{2p}$ avec $B(e_i, e_j) = \delta_{i,2p-j}$. Soit $f_1, \dots, f_{2n}$ une base de $V_1$
vérifiant $B(f_i, f_j) = \delta_{i,2n+1-j}$ si $i \le j$, $B(f_i, f_j) = -\delta_{i,2n+1-j}$ si $i > j$. On identifie les endomorphismes de $V$ avec les matrices correspondantes dans ces bases.

On considère la super algèbre de Lie $osp(m, 2n)$ constituée des matrices des endormorphismes de $V$ qui respectent $B$.

On a $\mathfrak{g} = osp(m, 2n) = \mathfrak{g}_0 \oplus \mathfrak{g}_1$ avec $\mathfrak{g}_0 = \mathfrak{o}(m) \times \mathfrak{sp}(2n)$ et $\mathfrak{g}_1 \simeq V_0 \otimes V_1$. Remarquons qu’un élément de $osp(m, 2n)$ est une matrice par blocs de la forme $\begin{pmatrix} a & u^* \\ u & b \end{pmatrix}$, où $a \in \mathfrak{o}(m)$, $b \in \mathfrak{sp}(2n)$, $u \in \operatorname{Hom}(V_0, V_1)$ et $u^*$ se déduit de $u$ par

$$V_0 \xrightarrow{u} V_1 \xrightarrow{\sim} V_1^* \xrightarrow{t u} V_0^* \xrightarrow{\sim} V_0.$$

Soit $G_0 = SO(m) \times SP(2n)$, c'est un groupe algébrique complexe connexe. On connaît par [12] l'anneau $S(\mathfrak{g}_1^*)^{G_0}$, c'est un anneau de polynômes. On notera $\mathcal{N}_1$ le lieu d'annulation de tous les éléments homogènes non constants de $S(\mathfrak{g}_1^*)^{G_0}$, c'est le cône nilpotent impair (ou nilcône pair de $\mathfrak{g}$). Remarquons que, selon la terminologie de Mumford, c'est le lieu instable du $G_0$-module $\mathfrak{g}_1$ et selon la terminologie de Kac dans [6], le nilcône du $\mathfrak{g}_0$-module $\mathfrak{g}_1$. Il est constitué des éléments $X$ de $\mathfrak{g}_1$ tels que l'endomorphisme $ad(X)$ de $\mathfrak{g}$ est nilpotent. On note $\mathcal{N}_0$ le cône nilpotent de la partie paire.

Soit $\kappa$ l'application de $\mathfrak{g}_1$ dans $\mathfrak{g}_0$ définie par $\kappa(X) = \frac{1}{2}[X, X]$.

$$ \begin{array}{rcl} \kappa: \mathcal{N}_1 & \to & \mathcal{N}_0 \\ u & \mapsto & (u^* \circ u, u \circ u^*). \end{array} $$

On remarque que comme le crochet de $\mathfrak{g}$ restreint à la partie impaire est symétrique, $\kappa$ n'est pas identiquement nulle.

## 2.1. Diagrammes

Une partition $\lambda = (\lambda_1, \dots, \lambda_s)$ est une suite décroissante d'entiers strictement positifs. Les $\lambda_i$ sont appelées *parts* de $\lambda$. Le nombre de parts, noté $l(\lambda)$, est la longueur de $\lambda$. Si $\sum_1^s \lambda_i = n$, on dit que $\lambda$ est une partition de $n$. On appelle sous-partition toute suite décroissante d'entiers formée d'une sous-suite décroissante de $\lambda$ et éventuellement de 0.

On note $D(\lambda)$ le diagramme de Young de forme $\lambda$.

**Définition 2.1.** Un diagramme gradué $D$ est un diagramme de Young dans lequel chaque case est remplie par un 0 ou un 1, de telle manière
que les étiquettes alternent sur les lignes. Deux diagrammes gradués sont considérés comme égaux si l'on peut passer de l'un à l'autre en échangeant des lignes de même longueur. Un sous-diagramme de $D$ est un diagramme obtenu en effaçant des lignes de $D$.

À un diagramme gradué on associe deux partitions $d_0$ et $d_1$, correspondant aux diagrammes obtenus en effaçant les cases 1 (resp. les cases 0) dans le diagramme gradué et en réordonnant les lignes afin d'obtenir le diagramme d'une partition. On peut voir un exemple sur la figure 2.1.

<figure><img src="image_2.png" /><figcaption>FIGURE 2.1. $D, d_0, d_1$</figcaption></figure>

Une ligne commençant par une case étiquetée 0 (resp. 1) est dite *paire* (resp. *impaire*).

## 2.2. Paramétrisation des orbites nilpotentes des algèbres de Lie symplectiques et orthogonales

La paramétrisation des orbites nilpotentes des algèbres de Lie semi-simples complexes est décrite dans [1].

**Proposition 2.2 ([1]).** – Les orbites nilpotentes sous $SO(2n + 1)$ de $\mathfrak{o}(2n + 1)$ sont paramétrées par les partitions de $2n + 1$ pour lesquelles les parts paires apparaissent avec une multiplicité paire, on note indifféremment $P_{\mathfrak{o}(2n+1)\text{etiq}}$ ou $P_{\mathfrak{o}(2n+1)}$ l'ensemble de ces partitions.
On a par exemple $P_{\mathfrak{o}(5)\text{etiq}} = \{(5), (3, 1, 1), (2, 2, 1), (1, 1, 1, 1, 1)\}$.

- Celles de $\mathfrak{o}(2n)$ sous $O(2n)$ sont paramétrées par les partitions $\lambda$ de $2n$ pour lesquelles les parts paires apparaissent avec multiplicité paire, notons $P_{\mathfrak{o}(2n)}$ cet ensemble.

- Celles de $\mathfrak{o}(2n)$ sous $SO(2n)$ sont paramétrées par les partitions $\lambda$ de $2n$ pour lesquelles les parts paires apparaissent avec multiplicité paire excepté pour les partitions formées uniquement de parts paires apparaissant avec des multiplicités paires, appelées **très paires**. Dans ce cas on considère les partitions étiquetées $\lambda^I$ et $\lambda^{II}$ correspondant à
## CÔNES NILPOTENTS IMPAIRS

deux orbites différentes. Les étiquettes I et II étant définies grâce aux diagrammes de Dynkin pondérés (lem 5.3.5 [1]). On note $P_{o(2n)etiq}$ l'ensemble de ces partitions étiquetées. On a par exemple

$$ P_{o(8)etiq} = \{(7, 1), ((5, 3), (4^2)^I, (4^2)^{II}, (5, 1^3), (3^2, 1^2), (3, 2^2, 1), (3, 1^5), (2^4)^I, (2^4)^{II}, (2^2, 1^4), (1^8)\}. $$

- Celles de sp(2n) sous SP(2n) sont paramétrées par des partitions de 2n pour lesquelles les parts impaires apparaissent avec une multiplicité paire, notons $P_{sp(2n)}$ l'ensemble de ces partitions. On a par exemple $P_{sp(4)} = \{(4), (2, 2), (2, 1, 1), (1, 1, 1, 1)\}$.

On en déduit une paramétrisation des $G_0$-orbites nilpotentes de $\mathcal{N}_0$ de la super algèbre de Lie osp(m, 2n). Elles sont paramétrées par des paires de partitions $(\lambda, \mu) \in P_{o(m)etiq} \times P_{sp(2n)}$.

### 2.3. Paramétrisation des $O(m) \times SP(2n)$-orbites nilpotentes de $Hom(V_0, V_1) \times Hom(V_1, V_0)$

Nous rappelons ici les résultats de Kraft et Procesi ([7]).

**Proposition 2.3 ([7]).** Les $O(m) \times SP(2n)$-orbites nilpotentes de $\mathfrak{g}_1$ sont paramétrées par des diagrammes gradués D formés des diagrammes gradués indécomposables décrits ci-après. On note $O_D$ l'orbite associée à D.

Soit p un entier quelconque, les différents diagrammes indécomposables sont

(1) une ligne paire de longueur $4p + 1, p \ge 0$

(2) une ligne impaire de longueur $4p - 1, p \ge 1$

(3) deux lignes paires de longueur $4p - 1, p \ge 1$

(4) deux lignes impaires de longueur $4p + 1, p \ge 0$

(5) deux lignes, l'une paire l'autre impaire de longueur $2p, p \ge 1$.

On note $\mathcal{D}(m, 2n)$ l'ensemble des diagrammes gradués formés par ces diagrammes gradués indécomposables.

### 3. L'application $\kappa$

Dans le cas de la super algèbre de Lie osp(m, 2n) avec m impair, les $O(m) \times SP(2n)$-orbites nilpotentes de $\mathfrak{g}_1$ et les $G_0$-orbites de $\mathfrak{g}_1$ sont les
C. GRUSON et S. LEIDWANGER

mêmes, la proposition précédente nous permet donc de paramétrer les
orbites nilpotentes de $\mathfrak{g}_1$.

Dans le cas de osp$(m, 2n)$ avec $m$ pair, ce n'est pas le cas. Certaines
$O(m) \times SP(2n)$-orbites sont l'union de deux $G_0$-orbites distinctes dans $\mathfrak{g}_1$
qu'on ne peut différencier par les diagrammes.

On donne dans un premier temps une nouvelle description des dia-
grammes apparaissant dans la proposition 2.3.

**Proposition 3.1.** Soient $m \ge 1, n \ge 0$, $\nu$ une partition de $m + 2n$. Les $O(m) \times SP(2n)$-orbites nilpotentes de osp$(m, 2n)$ dans $\mathfrak{g}_1$ sont paramétrées par des diagrammes gradués $D(\nu)$ tels que

(1) le nombre $k$ de lignes de longueur paire de $D(\nu)$ est pair, et dans $D(\nu)$ il y a $k/2$ lignes paires (resp. impaires) de cette longueur.

(2) Soit $(d_0, d_1)$ le couple de partitions associé à $D(\nu)$ (cf définition 2.1), on a $(d_0, d_1) \in P_{o(m)} \times P_{sp(2n)}$.

Démonstration. Soient $D \in \mathcal{D}(m, 2n)$ et $O_D$ la $O(m) \times SP(2n)$-orbite associée, la condition 1 de la proposition provient du cas 5 de la proposition 2.3. Soit $X = (u, u^*) \in O_D$. Les diagrammes gradués nous donnent la dimension des noyaux des $X^i$. Or on a $[X, X] = 2 \begin{pmatrix} u^* & 0 \\ 0 & u \end{pmatrix} \in \mathcal{N}_0$. Lorsque dans le diagramme gradué on efface les cases étiquetées 1 (resp. 0) on ne garde que la dimension des noyaux des homomorphismes de $V_0$ dans $V_0$ (resp. $V_1$ dans $V_1$) obtenus en restreignant les $X^{2i}$ à $V_0$ (resp. $V_1$). On obtient ainsi une partition indexant une (ou deux) orbites de $o(m)$ (resp. $sp(2n)$). On a donc $(d_0, d_1) \in P_{o(m)} \times P_{sp(2n)}$.

Montrons que $(d_0, d_1) \in P_{o(m) \times sp(2n)}$ et que deux diagrammes gradués de même forme ne peuvent avoir deux couples de partitions associées égaux.

Supposons qu'il existe deux diagrammes $D$ et $D'$ distincts de forme $\nu$
et de couples de partitions associées $(\lambda, \mu)$. Cela signifie que, dans l'un des
diagrammes on a une ligne paire de longueur $2k$ (et pas de ligne impaire
de même longueur), et dans l'autre une ligne impaire de longueur $2k$ (et
pas de ligne paire de même longueur). Mais ceci est en contradiction avec
le fait que le diagramme gradué est formé d'éléments de la proposition
2.3.

Il reste à montrer qu’avec un couple de partitions $(\lambda, \mu) \in P_{o(m)} \times P_{sp(2n)}$ on peut former un diagramme gradué, et qu’en rajoutant la condition 1 de la proposition, ce diagramme est toujours dans $\mathcal{D}(m, 2n)$.
C. GRUSON et S. LEIDWANGER

Soit $D = (d_0^i, d_1)$ un diagramme gradué étiqueté, on note $O_D$ la $G_0$-orbite nilpotente telle que $\kappa(O_D) = O_{d_0^i, d_1}$.

*Démonstration.* Soit $D \in \mathcal{D}(m, 2n)_{etiq}$ et $(d_0^i, d_1)$ son couple de partitions associé. Si $d_0$ est très paire (i.e. $i = I$ ou $i = II$) alors clairement $O_D$ est unique. Si $d_0$ n'est pas très paire le résulat découle de la proposition précédente, et du lemme 4.3 de [7]. □

Il existe une relation d'ordre (partiel) d'inclusion sur les (Zariski) adhérences des $G_0$-orbites nilpotentes impaires. Soit $D \in \mathcal{D}(m, 2n)$, $D' \in \mathcal{D}(m, 2n)$, on écrit que $O_D \le O_{D'}$ si $O_D$ est contenue dans l'adhérence de Zariski de $O_{D'}$.

Il en existe aussi une sur l'ensemble $\mathcal{D}(m, 2n)$ (resp. $\mathcal{D}(m, 2n)_{etiq}$). On peut en trouver une définition dans [9]( resp. [2]).

**Définition 3.4 ([9]).** – Soit $D \in \mathcal{D}(m, 2n)$, on désigne par $\mathcal{D}$ le diagramme gradué obtenu à partir de $D$ en effaçant la première colonne. Soit $k$ un entier supérieur ou égal à 1. On définit $D^{(k)}$ par récurrence, on pose $D^{(0)} = D$ et $D^{(k)} := \mathcal{D}^{(k-1)}$.

– Soient $D, D' \in \mathcal{D}(m, 2n)$, on a $D \le D'$ si pour $k \ge 1$, $n_0(D^{(k)}) \le n_0(D'^{(k)})$ et $n_1(D^{(k)}) \le n_1(D'^{(k)})$ où $n_0(D)$ (resp. $n_1(D)$) est le nombre de 0 (resp. 1) dans $D$.

On note $\Gamma(m, 2n)$ le diagramme de Hasse de cet ordre sur $\mathcal{D}(m, 2n)$.

À partir de $\Gamma(m, 2n)$ on construit un diagramme de Hasse $\Delta(m, 2n)$ sur $\mathcal{D}(m, 2n)_{etiq}$ (en suivant [2]) afin de prendre en compte le cas des diagrammes $D$ pour lesquels $d_0$ est une partition très paire, et qui indexent donc deux orbites différentes. Soient $D, D' \in \mathcal{D}(m, 2n)$ deux diagrammes différents, on note $D \to D'$, si $D < D'$ et s'il n'existe pas $D'' \in \mathcal{D}(m, 2n)$ tel que $D < D'' < D'$. Si la $O(m) \times SP(2n)$-orbite paramétrée par $D$ n'est pas connexe on dit que $D$ est *instable* (sinon il est dit *stable*).

**Définition 3.5 ([2]).** $\Delta(m, 2n)$ est obtenu à partir de $\Gamma(m, 2n)$ en faisant les modification suivantes :

(1) pour chaque paire $(D, D')$ telle que $D \to D'$ et $D$ ou $D'$ est instable, on efface l'arête entre $D$ et $D'$.

(2) On remplace chaque noeud $D$ par deux noeuds, $D^I$ et $D^{II}$.

(3) On insère deux arêtes pour chaque arête effacée dans le point 1 de la façon suivante :
CÔNES NILPOTENTS IMPAIRS

- si $D$ est stable et $D'$ instable : on joint $D$ à $D'^I$ et à $D'^{II}$,

- si $D'$ est stable et $D$ instable : on joint $D^I$ et $D^{II}$ à $D'$,

- si $D$ et $D'$ sont tous deux instables : on joint $D^I$ à $D'^I$ et $D^{II}$ à $D'^{II}$.

Comme dans le cas des paires symétriques ([9], [2]) on a la proposition suivante :

**Proposition 3.6.** Soient $D$ et $D'$ des diagrammes gradués étiquetés. On a $O_D \leq O_{D'}$ si et seulement si $D \leq D'$ où ($\leq$) a pour diagramme de Hasse $\Delta(m, 2n)$. On a donc $\overline{O_{D'}} = \bigcup_{D \leq D'} O_D$.

*Démonstration.* Le fait que, si $O_D \subset \overline{O_{D'}}$ alors $D \leq D'$, est évident. La démonstration de l'ordre sur les adhérences des $O(m) \times SP(2n)$-orbites est basée sur les résultats de [9], celle sur l'ordre des adhérences des $G_0$-orbites sur ceux de [2]. On rappelle en annexe les différentes notations liées aux paires symétriques en suivant celles de [9].

**Lemme 3.7.** Soient $D$ et $D'$ deux diagrammes gradués tels que

- leurs premières colonnes coïncident,

- $D \leq D'$, où $\leq$ est l'ordre de la définition 3.4,

- $D$ et $D'$ indexent les orbites de type (DIII) ou (CI) (cf annexe).

Soient $O_{(DIII),D}$ et $O_{(DIII),D'}$ (resp. $O_{(CI),D}$ et $O_{(CI),D'}$) ces orbites. Dans ce cas $D^{(1)}$ et $D'^{(1)}$ indexent deux $O(m) \times SP(2n)$-orbites $O_{D^{(1)}}$ et $O_{D'^{(1)}}$ et on a $D^{(1)} \leq D'^{(1)}$. Si $O_{(DIII),D} \subset \overline{O_{(DIII),D'}}$ (resp. $O_{(CI),D} \subset \overline{O_{(CI),D'}}$) on a alors $O_{D^{(1)}} \subset \overline{O_{D'^{(1)}}}$.

*Démonstration.* On adapte la démonstration du lemme 7 de [9]. Les rap-pels de définition et de notation concernant les paires symétriques sont donnés en annexe.

En effaçant la première colonne de ces éléments indécomposables on re-trouve les éléments indécomposables indexant les $O(m) \times SP(2n)$-orbites. On va démontrer le lemme pour les orbites de type (DIII), l'autre cas se traitant de la même façon.

Soient $W = W_0 \oplus W_1$, $U = U_0 \oplus U_1$ deux espaces vectoriels munis d'une involution notée $s_W$ (resp. $s_U$). On munit $W$ d'une forme bilinéaire ortho-gonale non dégénérée $B_W$ on a : $B_{W|_{W_0 \times W_1}}$ est orthogonale, $B_{W|_{W_0 \times W_1}}$ et $B_{W|_{W_1 \times W_0}}$ sont nulles. On munit $U$ d'une forme bilinéaire orthosymplec-tique non dégénérée notée $B_U$.
C. GRUSON et S. LEIDWANGER

On pose :

$$
L(W, U) := \operatorname{Hom}(W, U), L^{-}(W, U) := \{X \in L(W, U) / s_{W}Xs_{U} = -X\}.
$$

On définit l'adjoint $X^* \in L(U, V)$ de $X$ par $B_U(Xw, u) = B_W(w, X^*u)$ pour $(w, v) \in W \times V$.

On note $K(U) = O(m) \times SP(2n)$, $K(W) = O(W) \cap GL(W_0) \times GL(W_1)$,
$\mathfrak{p}(W) = \{X \in \mathfrak{g}(W) / \theta(X) = -X\}$ (cf annexe).

On a alors : $K(W) \times K(U)$ agit sur $L^{-}(W, U)$ par $(g, h)X = gXh^{-1}$.

En appliquant le lemme 11 ([9]) et les définitions données en annexe,
on peut définir deux morphismes :

$$
\mathfrak{p}(W) \stackrel{\rho}{\hookrightarrow} L^{-}(W, U) \xrightarrow{\pi} \mathfrak{g}_{1}, \pi(X) = XX^{*}, \rho(X) = X^{*}X.
$$

On pose $M := \rho^{-1}(O_{(DIII),D'}$, on a $\rho(\overline{M}) = \overline{O_{(DIII),D'}}$ ([9], p206). De
même $\pi(\overline{M}) = \overline{O}_{D'(1)}$. Puisque $D \leq D'$ on a $O_{(DIII),D} \subset \overline{O_{(DIII),D'}}$. Or
on a $\overline{O_{(DIII),D'}} = \rho(\overline{M})$. Il existe donc $Y \in \overline{M}$ tel que $\rho(Y) \in O_{(DIII),D}$.
On a, d'autre part, $\pi(\rho^{-1}(O_{(DIII),D})) = O_{D(1)}$ (lemme 14,(2),[9]). On en
déduit que $\pi(Y) \in O_{D(1)} \cap \pi(\overline{M})$ c'est-à-dire $\pi(Y) \in \overline{O}_{D'(1)}$. On a donc
$O_{D(1)} \subset \overline{O}_{D'(1)}$. $\square$

En jouant sur le fait qu’on peut échanger le rôle des 0 et des 1 dans les cas traités par [9], on remarque que tous les cas qui restent sont traités dans la table v de [9].

Il reste à présent à démontrer que si $D \leq D'$, où $\leq$ a pour diagramme
de Hasse $\Delta(m, 2n)$, alors les $G_0$-orbites associées vérifient $O_D \subset \bar{O}_{D'}$.

Pour cela on utilise les résultats de [2]. Soient $D$ et $D'$ deux diagrammes
gradués instables tels que $D' < D$ dans $\Gamma(m, 2n)$. Si, pour tout $D''$ tel que
$D' < D'' < D$, $D''$ est instable, on dit que $(D, D')$ est une *paire pure*.

**Lemma 3.8.** *Si* $(D, D')$ *est une paire pure alors* $d_0 = d'_0$.

Démonstration. - On est dans le cas où $m = 2p$.

Soit $D$ un diagramme gradué tel que $d_0$ est très paire.

On va démontrer le lemme en montrant qu’il est vrai pour les indécom-
posables. On vérifie facilement que les seuls indécomposables possibles
avec $d_0$ très paire correspondent aux cas (3), (4), (5) de la proposition 2.3.
On traite en détail le cas (3), le raisonnement étant similaire pour les
autres cas.

On construit tous les diagrammes possibles $D' < D$ tels que $d'_0 < d_0$ et $d'_0$ est très paire.
CÔNES NILPOTENTS IMPAIRS

On peut les voir sur la figure 3.1.

Soit $D'' = (d_0'', d_1'')$ le diagramme formé

- d'un indécomposable correspondant au cas (5) obtenu à partir du cas (3) en enlevant deux cases paires,

- de deux lignes paires de longueur 1.

Il est représenté sur la figure 3.1.

On vérifie aisément que $d_0''$ n'est pas très paire et que $D' < D'' < D$.

<figure><img src="image_3.png" /><figcaption>FIGURE 3.1.</figcaption></figure>

On a donc montré que si, $D' < D$ avec $d_0''$ et $d_0$ très paires et $d_0'' < d_0$, alors la paire $(D, D')$ n'est pas pure. $\square$
<figure><img src="image_4.png" /><figcaption>FIGURE 3.2.</figcaption></figure>
Il suffit de montrer (Théorème 3.7 [2]) que pour une paire pure $(D, D')$,
$\overline{O}_{D_I} \cap O_{D'} = O_{D'I}$. Or on a :

$$
O_{D'I} \cup O_{D'II} = O_{D'} \subset \overline{O}_D = \overline{O}_{DI} \cup \overline{O}_{DII}.
$$

Si $O_{D'I} \subset \overline{O}_{DII}$ alors, par continuité de $\kappa$, on a $\kappa(O_{D'I}) \subset \kappa(\overline{O}_{DII})$, i.e.
$O_{d'_0 I, d'_1} \subset \overline{O}_{d'_0 II, d_1}$, ce qui n'est pas le cas. On a donc $\overline{O}_{DI} \cap O_{D'} = O_{D'I}$. $\square$

On peut voir le diagramme de Hasse de l'ordre sur les $G_0$-orbites nilpotentes impaires de osp(4, 4) sur la figure 3.2 (les orbites sont représentées par leurs diagrammes gradués étiquetés, on a aussi indiqué la dimension des orbites que l'on calculera dans la suite).

On s'intéresse à présent à l'application $\kappa$. On décrit ses fibres au dessus de chaque orbite paire. En utilisant la proposition 3.1 on obtient facilement le lemme ci-dessous.

**Lemme 3.9.** Soit $O_{\lambda,\mu}$ une $G_0$-orbite nilpotente de $\mathfrak{g}_0$

$$
\kappa^{-1}(O_{\lambda,\mu}) = \{O_D \in \mathcal{N}_1, D \in \mathcal{D}(m, 2n) \text{ tel que } d_0 = \lambda, d_1 = \mu\}
$$

Remarque 3.10. - La fibre est vide la plupart du temps car c'est le cas si dans $\mu$ il n'y a pas de part égale à $\lambda_i - 1$, $\lambda_i$ ou $\lambda_i + 1$.

**Lemme 3.11.** Soient $(\lambda, \mu) \in P_{\mathfrak{o}(m)\mathfrak{etiq}} \times P_{\mathfrak{sp}(2n)}$ telles que $\lambda$ et $\mu$ comportent au plus une sous-partition en commun de la forme $(k, k, k-1, k-1)$, $k \ge 1$.

Il existe un unique diagramme gradué étiqueté maximal $D_{\max(\lambda,\mu)}$ véri-
fiant $(d_0, d_1) = (\lambda, \mu)$. On a $\kappa^{-1}(\overline{O}_{\lambda,\mu}) = \overline{O}_{D_{\max(\lambda,\mu)}}$. En d'autres termes,
$\kappa^{-1}(\overline{O}_{\lambda,\mu})$ est irréductible.

Démonstration. Supposons que $\lambda$ et $\mu$ ne comportent pas de sous-partition
en commun de la forme $(k, k, k-1, k-1)$ avec $k > 1$. Pour que $\kappa^{-1}(O_{\lambda,\mu})$
contienne plus d'une orbite il faut que dans $\lambda$ (resp. $\mu$) il y ait $2k$ (resp.
$2l$) parts égales à 1. On remarque alors que si $\lambda$ est très paire $\kappa^{-1}(O_{\lambda^i,\mu})$
où $i \in \{I, II\}$ ne contient qu'une orbite. On en déduit que si $\kappa^{-1}(O_{\lambda,\mu})$
contient plusieurs orbites alors l'ordre sur ces orbites a pour diagramme
de Hasse $\Gamma(m, 2n)$. Il suffit ensuite de montrer que $D_{\max(\lambda,\mu)}$ existe. Ceci
résulte du fait que l'ensemble $\mathbf{D}_{\lambda,\mu} = \{D \in \mathcal{D}(m, 2n)/(d_0, d_1) = (\lambda, \mu)\}$
est totalement ordonné.

Soit $D_{res}$ (resp. $D_{ind}$) le diagramme obtenu à partir de $D \in \mathbf{D}_{\lambda,\mu}$ en effaçant toutes les lignes de longueur $l > 2$ (resp. de longueur $l \le 2$). Tous les $D_{ind}$ sont les mêmes pour $D \in \mathbf{D}_{\lambda,\mu}$.
Les diagrammes $D_{res}$ possibles sont dessinés sur la figure 3.3.

On a donc $n_0(D_{res}^{(1)}) = n_1(D_{res}^{(1)}) = m \in \mathbb{N}$ et $n_0(D_{res}^{(2)}) = n_1(D_{res}^{(2)}) = 0$ i.e. l'ensemble $\{D_{res}/D \in \mathbf{D}_{\lambda,\mu}\}$ est totalement ordonné. Soit $D, D' \in \mathbf{D}_{\lambda,\mu}$ on a $n_0(D^{(k)}) = n_0(D_{ind}^{(k)}) + n_0(D_{res}^{(k)}) = n_0(D_{ind}^{(k)}) + n_0(D_{res}^{(k)})$ et donc soit $D \leq D'$ soit $D \geq D'$.

Supposons que $\lambda$ et $\mu$ comportent en commun une seule sous-partition de la forme $(k, k, k-1, k-1)$, $k \geq 1$. On peut construire deux diagrammes gradués, l'un admettant comme sous-diagramme $D_1 = (2k, 2k, 2k-2, 2k-2)$, l'autre $D_2 = (2k-1, 2k-1, 2k-1, 2k-1, 2k-1)$. On ne s'intéresse qu'à ces sous-diagrammes les restes des deux diagrammes étant identiques. Pour les comparer on efface les $2k-2$ premières colonnes qui sont identiques. Les deux diagrammes $D_1^{(2k-2)}$ et $D_2^{(2k-2)}$ restant sont ceux de la figure 3.3 d'une part avec $p=2, q=0$ d'autre part avec $p=0, q=1$. On en déduit que $D_{max(\lambda,\mu)}$ existe. $\square$

<figure><img src="image_5.png" /><figcaption>FIGURE 3.3.</figcaption></figure>

*Remarque 3.12.* Si $\lambda$ et $\mu$ comportent deux sous-partitions communes de la forme $(k, k, k-1, k-1)$ et $(l, l, l-1, l-1)$, $k \geq 1$ et $l \geq 1$, alors certains diagrammes ne sont pas comparables. En effet, on construit les quatre sous-diagrammes possibles $D_1 = (2k, 2k, 2k-2, 2k-2, \dots, 2l, 2l, 2l-2, 2l-2)$, $D_2 = (2k, 2k, 2k-2, 2k-2, \dots, 2l-1, 2l-1, 2l-1, 2l-1, 2l-1)$, $D_3 = (2k-1, 2k-1, 2k-1, 2k-1, \dots, 2l, 2l, 2l-2, 2l-2)$ et $D_4 = (2k-1, 2k-1, 2k-1, 2k-1, \dots, 2l-1, 2l-1, 2l-1, 2l-1)$). On vérifie facilement que $D_2$ et $D_3$ ne sont pas comparables.

On en déduit le corollaire suivant :
CÔNES NILPOTENTS IMPAIRS

**Corollaire 3.13.** Le cône nilpotent impair $\mathcal{N}_1$ de osp$(m, 2n)$ est irréductible.

*Démonstration.* D'après la proposition 3.11, il suffit de donner tous les diagrammes gradués étiquetés possibles paramétrant une orbite maximale et de vérifier d'une part que dans aucun des cas $d_0$ n'est très paire d'autre part que $\lambda$ et $\mu$ comportent au plus une seule sous-partition commune de la forme $(k, k, k-1, k-1)$, $k \ge 1$. Les diagrammes gradués étiquetés possibles sont décrits sur la figure 3.4.

<figure><img src="image_6.png" /><figcaption>FIGURE 3.4.</figcaption></figure>
En effet, sauf dans le cas 4a, c'est un diagramme de forme "hook", dont la ligne la plus longue est impaire et de longueur maximale et la colonne est constituée de cases signées isolées en cardinal nécessaire pour compléter. Dans le cas 4a il est formé de deux lignes impaires et d'une colonne constituée de cases signées isolées en cardinal nécessaire pour compléter.

Il est évident que dans les cas ci-dessus $\lambda$ et $\mu$ vérifient les hypothèses de la proposition 4. $\square$

On s'intéresse ensuite à la fibre au dessus d'un élément quelconque de $\mathcal{N}_0$. Pour en donner la dimension, on a besoin de la dimension des orbites nilpotentes impaires, que l'on trouve dans [7].

**Proposition 3.14 ([7]).** Soient $D \in \mathcal{D}(m, 2n)$ un diagramme gradué et $O_D$ la $O(m) \times SP(2n)$-orbite associée. On a

$$ \dim O_D = \frac{1}{2}(\dim \kappa(O_D) + \dim V_0 \times \dim V_1 - \Delta_D), $$

où

$$ \Delta_D = \sum_{i \equiv 1 \pmod 2} P_i I_i, $$

$P_i$ (resp. $I_i$) désignant le nombre de lignes paires (resp. impaires) de $D$ de longueur $i$.

On remarque que, dans le cas où $m$ est pair, la $O(m) \times SP(2n)$-orbite paramétrée par un diagramme $D$ tel que $d_0$ est une partition très paire, se décompose en deux composantes connexes de même dimension.

On peut à présent donner la dimension d'une fibre de $\kappa$ au dessus d'un élément :

**Proposition 3.15.** Soit $X_0 \in \mathcal{N}_0$. Soit $(\lambda, \mu) \in P_{\mathfrak{o}(m)\mathfrak{etiq}} \times P_{\mathfrak{sp}(2n)}$ tel que $X_0 \in O_{\lambda,\mu}$ et $D_{\max(\lambda,\mu)} \in \mathcal{D}(m, 2n)$ tel que $O_{D_{\max(\lambda,\mu)}} \subset \kappa^{-1}(O_{\lambda,\mu})$. On a alors

$$ \dim \kappa^{-1}(X_0) = \frac{1}{2}(\dim O_{\lambda,\mu} + \dim V_0 \times \dim V_1 - \Delta_{D_{\max(\lambda,\mu)}}). $$

*Démonstration.* D'après la proposition 3.11 on sait qu'il existe une orbite maximale dans $\kappa^{-1}(O_{\lambda,\mu})$, notons-la $O_{D_{\max(\lambda,\mu)}}$.

On regarde $\kappa : O_{D_{\max(\lambda,\mu)}} \to O_{\lambda,\mu}$. Les fibres de ce morphisme sont équidimensionnelles et on a $\dim \kappa^{-1}(X_0) = \dim O_{\lambda,\mu} - \dim O_{D_{\max(\lambda,\mu)}}$. Le résultat découle de la proposition précédente. $\square$
On peut voir les dimensions des $G_0$-orbites nilpotentes impaires de $osp(4, 4)$ sur la figure 3.2.

## 4. Sous-algèbres de Borel mixtes

Rappelons d'abord les choix de bases que nous avons faits pour $V_0$ et $V_1$ :

- Si $\dim(V_0) = 2p + 1$, alors on choisit une base $e_0, \dots, e_{2p}$ telles que $B(e_i, e_j) = \delta_{i,2p-j}$, ce qui fait que les sous-espaces engendrés par $e_0, \dots, e_{p-1}$ et $e_{p+1}, \dots, e_{2p}$ sont totalement isotropes et en dualité, le vecteur $e_p$ étant anisotrope.

- Si $\dim(V_0) = 2p$, on choisit une base $e'_1, \dots, e'_{2p}$ t.q. $B(e'_i, e'_j) = \delta_{i,2p+1-j}$, ce qui fait que les sous-espaces engendrés par $e'_1, \dots, e'_p$ et $e'_{p+1}, \dots, e'_{2p}$ sont totalement isotropes et en dualité.

- On choisit une base $f_1, \dots, f_{2n}$ de $V_1$ telle que $B(f_i, f_j) = \delta_{i,2n+1-j}$ si $i \le j$ et $B(f_i, f_j) = -\delta_{i,2n+1-j}$ si $i > j$. Les sous-espaces engendrés par $f_1, \dots, f_n$ et $f_{n+1}, \dots, f_{2n}$ sont totalement isotropes et en dualité. Soit $\mathfrak{b}_0$ la sous-algèbre de Borel de $\mathfrak{g}_0$ qui préserve les drapeaux partielis définis par les suites de générateurs :

- Si $\dim(V_0) = 2p + 1$, $e_0, \dots, e_{p-1}$, $f_1, \dots, f_n$,

- Si $\dim(V_0) = 2p$, $e'_1, \dots, e'_p$, $f_1, \dots, f_n$.

Cette sous-algèbre préserve bien entendu les drapeaux complets définis par les bases choisies de $V_0$ et $V_1$, mais elle est déjà déterminée par les vecteurs sus-mentionnés. En effet, on complète le drapeau en passant aux sous-espaces orthogonaux (on a $<e_0, \dots, e_{p-1}>^{\perp}=<e_0, \dots, e_p>$, $<e'_1, \dots, e'_p>^{\perp}=<e'_1, \dots, e'_{p+1}>$, $<f_1, \dots, f_n>^{\perp}=<f_1, \dots, f_n>$, $<f_1, \dots, f_{n-1}>^{\perp}=<f_1, \dots, f_{n+1}>$, et ainsi de suite).

On sait ([5], [8]) que les sous-algèbres de Borel de $\mathfrak{g}$ qui contiennent $\mathfrak{b}_0$ ne sont pas deux-à-deux conjuguées et que les classes de conjugaison sont en correspondance avec les ordres sur les vecteurs $e_0, \dots, e_{p-1}$, $f_1, \dots, f_n$ (resp. $e'_1, \dots, e'_p$, $f_1, \dots, f_n$) qui préservent l'ordre croissant sur les $e_i$ (resp. $e'_i$) et les $f_j$.

Dans [5], Kac choisit la sous-algèbre de Borel correspondant à l'ordre $e_0, \dots, e_{p-1}$, $f_1, \dots, f_n$ (resp. $e'_1, \dots, e'_p$, $f_1, \dots, f_n$) pour étudier la théorie des représentations.
C. GRUSON et S. LEIDWANGER

En observant la forme des matrices de représentants des orbites nilpotentes impaires, on constate que cette sous-algèbre de Borel ne les rencontra pas toutes : elle ne rencontre que les orbites du cône autocommutant.

Nous nous intéressons ici aux sous-algèbres de Borel qui mélangent le plus vecteurs pairs et impairs.

**Définition 4.1.** La sous-algèbre de Borel *mixte* contenant $b_0$ est définie par l'ordre suivant sur les vecteurs :

• Cas 1) $\mathbf{osp}(2n+1, 2n) : e_0, f_1, e_1, \dots, e_{n-1}, f_n$.

• Cas 2) $\mathbf{osp}(2n, 2n) : f_1, e'_1, f_2, \dots, e'_{n-1}, f_n, e'_n$.

• Cas 3) $\mathbf{osp}(2p+1, 2n)$ avec

a) $p < n : f_1, \dots, f_{n-p}, e_0, f_{n-p+1}, e_1, \dots, e_{p-1}, f_n$.

b) $p > n : e_0, e_{p-n}, f_1, e_{p-n+1}, \dots, e_{p-1}, f_n$.

• Cas 4) $\mathbf{osp}(2p, 2n)$ avec

a) $p < n : f_1, \dots, f_{n-p+1}, e'_1, f_{n-p+2}, e'_2, \dots, f_n, e'_p$.

b) $p > n : e'_1, e'_{p-n}, f_1, e'_{p-n+1}, \dots, f_n, e'_p$.

Pour toute sous-algèbre de Borel $b_0$ de $\mathfrak{g}_0$, on construit de la même manière une unique sous-algèbre de Borel mixte de $\mathfrak{g}$ contenant $b_0$. On notera $\mathcal{B}_M$ l'ensemble des sous-algèbres mixtes de $\mathfrak{g}$.

**Proposition 4.2.** *La sous-algèbre de Borel mixte rencontre toutes les orbites nilpotentes impaires.*

*Démonstration.* D'après le corollaire 3.13 on sait qu'il n'existe qu'une orbite nilpotente maximale. Dans tous les cas le diagramme gradué étiqueté qui lui correspond est décrit sur la figure 3.4. On vérifie que cette orbite rencontre la sous-algèbre de Borel mixte. On ne fait ici que le premier cas les autres se traitant de la même façon. On le montre par récurrence sur $n$. Soit $(u, u^*)$ un élément de $\mathcal{N}_1$. De $d_0$ (et donc des connaissances sur l'orbite nilpotente de $\mathfrak{o}(2n+1)$) on déduit que le noyau de $u$ contient un vecteur isotrope de $V_0$, que l'on note $x$. On considère l'hyperplan $H_0$ orthogonal à $x$ dans $V_0$. On remarque que $u(H_0) \subsetneq V_1$ puisque $H_0$ contient $x$. Soit $y$ un élément de $V_1$ orthogonal à $u(H_0)$. Soit $H_1$ l'espace vectoriel orthogonal à $y$ dans $V_1$.

On considère ensuite les espaces vectoriels

$W_0 = H_0/Cx$ and $W_1 = H_1/Cy$.

On remarque que $W = W_0 \oplus W_1$ est un espace vectoriel orthosymplectic de dimension $(2n - 1, 2n - 2)$ et que $u$ induit un élément nilpotent
impair de osp(W) : on peut lui appliquer l'hypothèse de récurrence. Et le résultat en découle.

Pour conclure, on aura besoin du lemme connu suivant :

**Lemme 4.3.** Notons $\mathfrak{b}_1$ la partie impaire d'une sous-algèbre de Borel de $\mathfrak{g}$. La réunion des orbites sous $G_0$ qui rencontrent $\mathfrak{b}_1$ est fermée dans $\mathfrak{g}_1$.

*Démonstration du lemme 4.3.* Soit $Gr$ la grassmannienne des sous-espaces de dimension $mn$ de $\mathfrak{g}_1$. Pour toute sous-algèbre de Borel, $\mathfrak{b}_1$ est un élément de $Gr$ dont le stabilisateur dans $SO(m) \times Sp(2n)$ contient le sous-groupe $B_0$ de $G_0$ d'algèbre de Lie la partie paire de la sous-algèbre de Borel choisie. Son orbite dans $Gr$ est donc Zariski-fermée. Soit $I \subset Gr \times \mathfrak{g}_1$ l'ensemble des couples $(V, u)$ dans $Gr \times \mathfrak{g}_1$ avec $u \in V$.

On note $p_1, p_2$ les projections de $I$ sur chaque facteur. La réunion des orbites qui rencontrent $\mathfrak{b}_1$ est

$$ \bigcup_{g \in SO(m) \times Sp(2n)} p_2(p_1^{-1}(g \cdot \mathfrak{b}_1)). $$

Comme $p_1$ est continue et $p_2$ est propre, cet ensemble est bien Zariski-fermé. $\square$

La réunion des orbites nilpotentes impaires qui rencontrent $\mathfrak{b}_1$ est donc un fermé qui contient l'orbite nilpotente impaire maximale, d'où le résultat. $\square$

**5. Désingularisation du nilcône impair des super algèbres de type osp(2n + 1, 2n) et osp(2n, 2n).**

Nous commençons par traiter en détails le cas de osp(2n + 1, 2n).

On considère que, grâce à la forme orthosymplectique, les espaces $V_0$ et $V_1$ sont identifiés avec leurs duaux.

Soit $X = G_0/B_0$ la variété des drapeaux de la partie paire de $\mathfrak{g}$. On note $\mathcal{O}_X$ le faisceau structural de $X$.

Notons

$$ \{0\} = E_0 \subset E_1 \subset \dots \subset E_{2n+1} = V_0 $$

le drapeau tautologique de $V_0 \otimes \mathcal{O}_X$ et

$$ \{0\} = F_0 \subset F_1 \subset \dots \subset F_{2n} = V_1 $$

le drapeau tautologique de $V_1 \otimes \mathcal{O}_X$.
C. GRUSON et S. LEIDWANGER

Soit

$$ \varphi_i : \operatorname{Hom}(E_{i+1}, F_i) \to \operatorname{Hom}(E_i, F_i) $$

obtenue par restriction pour $1 \le i \le 2n$ et soit

$$ \psi_i : \operatorname{Hom}(E_i, F_{i-1}) \to \operatorname{Hom}(E_i, F_i) $$

obtenue par l'inclusion $F_{i-1} \subset F_i$, $2 \le i \le 2n$.

Soit $\chi : \bigoplus_i \operatorname{Hom}(E_{i+1}, F_i) \to \bigoplus_i \operatorname{Hom}(E_i, F_i)$ le morphisme dont la matrice par blocs est

$$ \left( \begin{array}{ccccc} \varphi_1 & 0 & 0 & \dots & 0 \\ -\psi_2 & \varphi_2 & 0 & \dots & 0 \\ 0 & -\psi_3 & \varphi_3 & \dots & 0 \\ \vdots & \vdots & \vdots & \ddots & \vdots \\ 0 & 0 & 0 & \dots & \varphi_{2n} \end{array} \right) $$

Alors $\chi$ est surjective donc $\operatorname{Ker}\chi$ définit un fibré au dessus de $X$. On notera $\tilde{\mathcal{N}}_1$ ce fibré.

**Proposition 5.1.** *Le fibré $\tilde{\mathcal{N}}_1$ au dessus de la variété de drapeaux $X$ est une désingularisation du nilcône impair $\mathcal{N}_1$ de $\mathfrak{g}$*

*Démonstration.* On a un morphisme $f : \tilde{\mathcal{N}}_1 \to \mathfrak{g}_1$. Soit $\mathbf{U}$ l'ouvert de $\tilde{\mathcal{N}}_1$ tel que : si une collection $(u_1, \dots, u_{2n})$ d'homomorphismes $u_i : E_{i+1} \to F_i$ est un élément de $\tilde{\mathcal{N}}_1$, $(u_1, \dots, u_{2n}) \in \mathbf{U}$ si et seulement si chaque $u_i$ est surjectif. On a $f(u_1, \dots, u_{2n}) = u_{2n} \in \mathfrak{g}_1$.

Montrons que $u_{2n} \in \mathcal{N}_1 : u_1$ est la restriction de $u_{2n}$ à $E_2$. Sa restriction à $E_1$ est nulle. Donc le noyau de $u_{2n}$ contient $E_1$ et lui est donc égal puisque $u_{2n}$ est une application surjective. Le morphisme $u_{2n}^*$ a pour image $E_1^\perp = E_{2n}$ puisque, pour tout élément $g \in \mathfrak{g}_1$, $(Kerg)^\perp = \mathrm{Img}^*$. Or $u_{2n}$ envoie $E_{2n}$ dans $F_{2n-1}$, on reproduit le raisonnement en remplaçant $V_0$ par $E_{2n}/E_1$ et $V_1$ par $F_{2n-1}/F_1$ : on se retrouve avec la même situation pour $\mathfrak{osp}(2n - 1, 2n - 2)$. On procède par récurrence : on vérifie que les choses marchent pour $\mathfrak{osp}(3, 2)$, où on a la situation suivante :

les drapeaux sont

$$ E_0 \subset E_1 \subset E_2 \subset E_3, F_0 \subset F_1 \subset F_2 $$

et on a :

$$ \mathrm{Ker} u_2 = E_1, \mathrm{Im} u_2 = F_2, u_{2|E_2} : E_2 \to F_1. $$

D'autre part, $u_2^* : F_2 \to E_2 = E_1^\perp$.
Donc $u_2 \circ u_2^*$ va de $F_2$ dans $F_1$. Or $u_2^*|_{F_1}$ va de $F_1$ dans $E_1$ ce qui fait que $u_2^* \circ u_2 \circ u_2^*$ va de $F_2$ dans $E_1$, et $E_1$ est le noyau de $u_2$ ce qui fait que $(u_2 \circ u_2^*)^2 = 0$, donc $(u_2, u_2^*)$ est un élément du nilcône $\mathcal{N}_1$.

Le morphisme $f$ est un isomorphisme de $\mathbf{U}$ sur l'ouvert $\mathbf{S}$ de $\mathcal{N}_1$ formé des éléments surjectifs : si $(u, u^*) \in \mathbf{S}$, dim $\mathrm{Ker} u = 1$, donc dim $\mathrm{Ker}(u^* \circ u) = 1$ la suite des noyaux itérés des puissances de $u^* \circ u$ forme un drapeau complet et est donc un élément de $\mathbf{U}$. $\square$

*Remarque 5.2.* On peut réinterpréter $\tilde{\mathcal{N}}_1$ comme suit :

$$ \tilde{\mathcal{N}}_1 = \{(\mathfrak{b}, x) \in \mathcal{B}_M \times \mathcal{N}_1, x \in \mathfrak{b}\}. $$

**Théorème 5.3.** Le fibré vectoriel $\tilde{\mathcal{N}}_1 = \{(\mathfrak{b}, x) \in \mathcal{B}_M \times \mathcal{N}_1, x \in \mathfrak{b}\}$ au dessus de $G_0/B_0$ est une désingularisation de $\mathcal{N}_1$ pour osp(2n + 1, 2n) et osp(2n, 2n).

*Démonstration.* Supposons que $\mathfrak{g} = \mathbf{osp}(2n + 1, 2n)$. Soit $O_{D_{max}}$ la grosse orbite. Soit $\mathbf{U} = \{\mathcal{B}_M \times O_{D_{max}}\}$. C'est un ouvert de $\tilde{\mathcal{N}}_1$.

Soit $x = (u, v) \in O_{D_{max}}$. Montrons qu'on peut lui associer un drapeau complet $(W_i)$ correspondant à une sous-algèbre de Borel mixte.

On utilise le diagramme indexant l'orbite maximale de $\mathcal{N}_1$ (et donc la description des noyaux de $x \in O_{D_{max}}$ qu'il contient).

On pose :

- pour $i$ de $1$ à $n+1$, $W_{2i-1} = \mathrm{ker}(x^i)|_{V_0} \oplus \mathrm{ker}(x^{i-1})|_{V_1}$,

- pour $j$ de $1$ à $n$, $W_{2j} = \mathrm{ker}(x^j)$.

D'après le diagramme de $O_{D_{max}}$ on remarque que $\dim W_{2i-1} = i + i - 1$ de même $\dim W_{2j} = \dim \mathrm{ker}(x^j) = 2j$.

De plus on a $W_i \cap V_0 = E_{\lfloor \frac{i+1}{2} \rfloor}$, $W_i \cap V_1 = F_{\lfloor \frac{i}{2} \rfloor}$, $((E_i), (F_j)) \in X$. On obtient donc que $(W_i)$ est un drapeau complet correspondant à une sous-algèbre de Borel mixte de osp(2n + 1, 2n).

Supposons à présent que $\mathfrak{g} = \mathbf{osp}(2n, 2n)$. Soit $O_{D_{max}}$ la grosse orbite. Soit $\mathbf{U} = \{\mathcal{B}_M \times O_{D_{max}}\}$. C'est un ouvert de $\tilde{\mathcal{N}}_1$.

Soit $x = (u, v) \in O_{D_{max}}$. Montrons qu'on peut lui associer un drapeau complet $(W_i)$.

On sait que pour o(2n), $\lambda_{max} = (2n - 1, 1)$. On en déduit qu'il existe un vecteur $\alpha \in V_0$ anisotrope tel que $\alpha \in \mathrm{ker}x$. Soit $V'_0 = V_0|_{<\alpha>}$.

On pose :

$$ W_{2i-1} = \mathrm{ker}(x^i)|_{V_1} \oplus \mathrm{ker}(x^{i-1})|_{V'_0}, \quad W_{2i} = \mathrm{ker}(x^i)|_{(V'_0 \oplus V_1)}, $$
– pour $i$ de $n+1$ à $2n$,

$$W_{2i-1} = \ker(x^{i-1})_{|V_0} \oplus \ker(x^{i-1})_{|V_1}, \quad W_{2i} = \ker(x^i)_{|V_1} \oplus \ker(x^{i-1})_{|V_0}.$$

On a $W_i \cap V_0 = E_{\lfloor \frac{i}{2} \rfloor}$, $W_i \cap V_1 = F_{\lfloor \frac{i+1}{2} \rfloor}$. Comme ci-dessus on vérifie aisément que ce drapeau est complet. Et donc $(W_i)$ est bien un drapeau complet correspondant à une sous-algèbre de Borel mixte de $\mathbf{osp}(2n, 2n)$. $\square$

<figure><img src="image_7.png" /></figure>

**Remarques 5.4.** – On voit que cet énoncé est un analogue de la désingularisation de Springer pour le cône nilpotent classique : si on note $\tilde{\mathcal{N}}_0 = \{(\mathfrak{b}_0, x) \in X \times \mathcal{N}_0, x \in \mathfrak{b}_0\}$, qui est le fibré cotangent à la variété des drapeaux $X$, $\tilde{\mathcal{N}}_0$ est une désingularisation du cône nilpotent pair $\mathcal{N}_0$.

– Dans les cas où les rangs des deux composantes de la partie paire diffèrent, cette construction ne permet pas de reconstituer un drapeau complet de $V_0 \oplus V_1$ car tout élément nilpotent de l'orbite maximale a un noyau de dimension au moins 2.

**Corollaire 5.5.** *L'application $g : \tilde{\mathcal{N}}_1 \to \tilde{\mathcal{N}}_0$ définie par $g((\mathfrak{b}, (u, u^*))) = (\mathfrak{b}_0, (u^* \circ u, u \circ u^*))$ est un morphisme compatible avec $\kappa$.*

*Démonstration.* Il suffit juste de montrer que le diagramme suivant commute :

<figure><img src="image_8.png" /></figure>

Ce qui est évident car par construction on a $\pi_0(g((\mathfrak{b}, (u, u^*)))) = (u^* \circ u, u \circ u^*)$ et $\kappa((\pi_1(\mathfrak{b}, (u, u^*)))) = (u^* \circ u, u \circ u^*)$. $\square$

<figure><img src="image_9.png" /></figure>

## 6. Annexe

Dans cette partie on rappelle quelques notions et notations (voir [9]) sur les paires symétriques classiques, nécessaires à la démonstration de l'ordre sur les adhérences de Zariski des orbites nilpotentes impaires.

Soit $G$ un groupe algébrique réductif d'algèbre de Lie $\mathfrak{g}$ et $\theta$ une involution de $G$. On note aussi $\theta$ l'involution induite sur $\mathfrak{g}$. Soit $\mathfrak{g} = \mathfrak{k} + \mathfrak{p}$ la décomposition de Cartan de $\mathfrak{g}$ par rapport à $\theta$. On note $(\mathfrak{g}, \mathfrak{k})$ la paire symétrique définie par $(G, \theta)$. Soit $V$ un $\mathbb{C}$-espace vectoriel de dimension finie,
CÔNES NILPOTENTS IMPAIRS

s une involution sur V. On munit V d'une forme bilinéaire non dégénérée
θ-invariante. On pose $G(V) := \{g \in GL(V)/g^* = g^{-1}\}$, $K(V) := \{g \in G(V)/\theta(g) = g\}$, $\mathfrak{k}(V) := LieK(V)$, $\mathfrak{p}(V) = \{X \in g(V)/\theta(X) = -X\}$.
$(g(V), \mathfrak{k}(V))$ est une paire symétrique.

Les paires symétriques qui nous intéressent sont celles de type

$$
(\text{DIII}) \text{ c'est-à-dire } (\mathfrak{o}(2n, \mathbb{C}), \mathfrak{gl}(n, \mathbb{C}))
$$

et de type

$$
(\text{CI}) \text{ c'est-à-dire } (\mathfrak{sp}(2n, \mathbb{C}), \mathfrak{gl}(n, \mathbb{C})).
$$

Les diagrammes indécomposables qui paramètrent les $K(V)$-orbites nil-
potentes dans $\mathfrak{p}(V)$ sont les suivants. Pour le type (DIII) :

- deux lignes impaires de longueur *l* paire,

- deux lignes paires de longueur *l* paire,

- deux lignes, l'une paire l'autre impaire de longueur *l* impaire.

Pour le type (CI) :

- une ligne impaire de longueur paire,

- une ligne paire de longueur paire,

- deux lignes impaires de longueur *l* impaire.

Références

[1] D. H. COLLINGWOOD & W. M. McGOVERN – *Nilpotent orbits in semisimple lie algebras*, Van Nostrand Reinhold, 1993.

[2] D. Z. DJOKOVIĆ & M. LITVINOV – « The closure ordering of nil-potent orbits of the complex symmetric pair $so_{p+q}, so_p \times so_q$ », *Canad. J. Math.* **55** (2003), p. 1155–1190.

[3] C. GRUSON – « Finitude de l’homologie de certains modules de dimension finie sur une super algèbre de lie », *Ann. Inst. Fourier* **47** (1997), p. 531–553.

[4] —, « Sur l'idéal autocommutant des super algèbres de lie basiques classiques et étranges », *Ann. Inst. Fourier* **50** (2000), p. 807–831.

[5] V. KAC – « Representations of classical Lie superalgebras », in *Differential geometrical methods in mathematical physics, II (Proc. Conf., Univ. Bonn, Bonn, 1977)*, Lecture Notes in Math., vol. 676, Springer, Berlin, 1978, p. 597–626.
C. GRUSON et S. LEIDWANGER

[6] V. KAC – « Some remarks on nilpotent orbits », *J. of Algebra* **64** (1980), p. 190–213.

[7] H. KRAFT & C. PROCESI – « On the geometry of conjugacy classes in classical groups », *Comment. Math. Helv.* (1982), p. 539–602.

[8] J. VAN DE LEUR – « Contragredient lie superalgebras of finite growth », Ph.D. thesis, Utrecht University, 1986.

[9] T. OHTA – « The closures of nilpotent orbits in the classical symmetric pairs and their singularities », *Tohoku Math. J.* **43** (1991), p. 161–211.

[10] T. SPRINGER – « A construction of representations of weyl groups », *Invent. Math.* **44** (1978), p. 279–293.

[11] T. A. SPRINGER – « Quelques applications de la cohomologie d'intersection », in *Bourbaki Seminar, Vol. 1981/1982*, Astérisque, vol. 92, Soc. Math. France, Paris, 1982, p. 249–273.

[12] T. VUST – « Sur la théorie des invariants des groupes classiques », *Ann. Inst. Fourier* **26** (1976), p. 1–31.

CAROLINE GRUSON

Institut Elie Cartan, UMR 7502 du
CNRS

Faculté des sciences

Université Henri Poincaré (Nancy 1)

BP 239

54506 VANDOEUVRE-LES-NANCY CEDEX

FRANCE

gruson@iecn.u-nancy.fr

SÉVERINE LEIDWANGER

Institut de mathématiques de Jussieu,
UMR 7586,

Equipe de Théorie des Groupes

Case 7012

2 place Jussieu

F-75251 Paris Cedex 05

FRANCE

leidwang@math.jussieu.fr