ANNALES
DE LA FACULTÉ
DES SCIENCES
DE TOULOUSE
Mathématiques

NICOLÁS ARANCIBIA, COLETTE MŒGLIN ET DAVID RENARD

Paquets d'Arthur des groupes classiques et unitaires

Tome XXVII, n° 5 (2018), p. 1023-1105.

<http://afst.cedram.org/item?id=AFST_2018_6_27_5_1023_0>

© Université Paul Sabatier, Toulouse, 2018, tous droits réservés.

L'accès aux articles de la revue « Annales de la faculté des sciences de Toulouse Mathématiques » (http://afst.cedram.org/), implique l'accord avec les conditions générales d'utilisation (http://afst.cedram.org/legal/). Toute reproduction en tout ou partie de cet article sous quelque forme que ce soit pour tout usage autre que l'utilisation à fin strictement personnelle du copiste est constitutive d'une infraction pénale. Toute copie ou impression de ce fichier doit contenir la présente mention de copyright.

cedram

Article mis en ligne dans le cadre du
Centre de diffusion des revues académiques de mathématiques
http://www.cedram.org/
# Paquets d'Arthur des groupes classiques et unitaires (*)

NICOLÁS ARANCIBIA (1), COLETTE MŒGLIN (2) ET DAVID RENARD (3)

**RÉSUMÉ.** — Soit $G = G(\mathbb{R})$ le groupe des points réels d'un groupe algébrique connexe réductif quasi-déployé défini sur $\mathbb{R}$. Supposons de plus que $G$ soit un groupe classique (symplectique, spécial orthogonal ou unitaire). Nous montrons que les paquets de représentations irréductibles unitaires et cohomologiques définies par Adams et Johnson en 1987 coïncident avec ceux définis plus récemment par J. Arthur dans son travail sur la classification du spectre automorphe discret des groupes classiques (C.-P. Mok pour les groupes unitaires). Pour cela, nous calculons le transfert endoscopique des distributions stables sur $G$ supportées par ces paquets vers le groupe $GL_N$ tordu en termes de modules standard et nous montrons qu'il est égal à la trace tordue prescrite par Arthur.

**ABSTRACT.** — Let $G = G(\mathbb{R})$ be the group of real points of a quasi-split connected reductive algebraic group defined over $\mathbb{R}$. Assume furthermore that $G$ is a classical group (symplectic, special orthogonal or unitary). We show that the packets of irreducible unitary cohomological representations defined by Adams and Johnson in 1987 coincide with the ones defined recently by J. Arthur in his work on the classification of the discrete automorphic spectrum of classical groups (C.-P. Mok for unitary groups). For this, we compute the endoscopic transfer of the stable distributions on $G$ supported by these packets to twisted $GL_N$ in terms of standard modules and show that it coincides with the twisted trace prescribed by Arthur.

## 1. Introduction

En [10], Arthur a donné une description des représentations automorphes de carré intégrable des groupes classiques quasi-déployés, le cas des groupes

<footnote>(*) Reçu le 30 novembre 2016, accepté le 7 février 2017.</footnote>

<footnote>(1) Institut Mathématique de Jussieu — nicolas.arancibia@imj-prg.fr</footnote>

<footnote>(2) CNRS, Institut Mathématique de Jussieu — colette.moeğlin@imj-prg.fr</footnote>

<footnote>(3) Centre de Mathématiques Laurent Schwartz, École Polytechnique — david.renard@polytechnique.edu</footnote>

<footnote>Le troisième auteur a bénéficié d’une aide de l’agence nationale de la recherche ANR-13-BS01-0012 FERPLAY.</footnote>

<footnote>Article proposé par Laurent Clozel.</footnote>
unitaires ayant été traité ensuite dans [44]. Dans les deux cas cette descrip-
tion ramène la situation à celle des groupes généraux linéaires, les groupes
**GL**<sub>N</sub> sur un corps de nombres. Pour ces groupes **GL**<sub>N</sub>, c'est le théorème de
multiplicité un fort qui est utilisé en plus de la description des représenta-
tions automorphes de carré intégrable : la situation en les places non rami-
fiées pour une représentation automorphe induite de représentations de carré
intégrable, détermine la situation en toutes les places. En [10] et ses généra-
lisations, un théorème du même ordre est démontré. Notons N la dimension
de la représentation naturelle du L-groupe du groupe classique ou unitaire
considéré, groupe que l'on note **G**; ce groupe est supposé quasi-déployé et
défini sur un corps de nombres que l'on ne nomme pas, car il n'apparaît pas
dans l'article. Le théorème de multiplicité un fort est presque vrai pour **G**,
c'est-à-dire que la situation aux places non ramifiées d'une représentation
automorphe de carré intégrable de **G** détermine uniquement une représen-
tation automorphe de **GL**<sub>N</sub>, obtenue comme induite de représentation de
carré intégrable. Ceci est établi via la stabilisation de la formule des traces
tordue et la fonctorialité de Langlands en les places non ramifiées. En les
autres places, la représentation de **GL**<sub>N</sub> détermine à son tour une représen-
tation virtuelle de longueur finie, qu'il vaut mieux voir comme une somme
(avec a priori des multiplicités) de représentations irréductibles. Le résultat
complet démontré en [10] et [44], nous dit quand un produit (restreint) en
toutes les places d'une de ces représentations irréductibles est effectivement
une représentation automorphe de carré intégrable de **G** et avec quelle mul-
tiplicité elle intervient. Les multiplicités se décomposent en deux types de
facteurs : des multiplicités de nature globale, calculées explicitement en [10]
et [44], et des multiplicités locales devant elles être calculées par des pro-
priétés de transfert endoscopique. Ce qui n'apparaît pas dans les travaux
sus-cités est la description explicite de ces représentations irréductibles et de
ces multiplicités locales aux places ramifiées. Le cas des places finies a été
réglé dans [39], et en particulier en ces places les multiplicités locales sont
un. Dans cet article, nous nous intéressons aux places archimédiennes.

Notons donc maintenant **G** un groupe classique quasi-déployé défini sur
**R**, et **G** = **G**(**R**) le groupe de ses points réels. Supposons pour simplifier
que **G** soit symplectique ou spécial orthogonal, nous ferons quelques re-
marques sur le cas des groupes unitaires à la fin de cette introduction. Soit
**Std**<sub>**G**</sub> : <sup>**L**</sup>**G** → **GL**<sub>**N**</sub>(**C**) la représentation standard de son L-groupe. Soit
ψ<sub>**G**</sub> : W<sub>**R**</sub> × **SL**<sub>2</sub>(**R**) → <sup>**L**</sup>**G** un paramètre d'Arthur (voir section 2.2), et no-
tons ψ = **Std**<sub>**G**</sub> ◦ ψ<sub>**G**</sub>, que l'on peut voir comme un paramètre d'Arthur pour
le groupe **G**<sub>**N**</sub> := **GL**<sub>**N**</sub>(**R**). Comme nous l'avons dit au début de cette in-
troduction, le spectre automorphe discret est bien compris pour **GL**<sub>**N**</sub>, et
en particulier, on sait associer à ψ une représentation irréductible unitaire
de $G_N$, composante locale d'une représentation automorphe de carré intégrable, et que nous notons $\Pi_\psi$ (section 3.2). Le paramètre $\psi$ provenant d'un paramètre pour un groupe classique, la représentation $\Pi_\psi$ est autoduale, c'est-à-dire qu'elle est stable sous l'action de l'automorphisme extérieur $\theta_N$ de $\mathbf{GL}_N$ (section 5.1). Posons $G_N^+ = G_N \times \langle \theta_N \rangle$ et $\tilde{G}_N := G_N^+ \setminus G_N$. Ce dernier est un espace tordu pour $G_N$, et la représentation $\Pi_\psi$ admet des extensions comme représentations de l'espace tordu $\tilde{G}_N$, deux d'entre-elles étant égales à un multiple scalaire près. Lorsqu'on fixe une donnée de Whittaker (section 5.2) pour le groupe $G_N$, on peut distinguer grâce à la théorie des fonctionnelles de Whittaker l'une de ces extensions, que l'on note $\Pi_\psi^+$. On note $\mathrm{Tr}_{\theta_N}(\Pi_\psi)$ la trace de $\Pi_\psi^+$, c'est une distribution sur $\tilde{G}_N$.

D'autre part, Arthur définit dans [10] un paquet $\Pi_{\psi_G}$ attaché au paramètre $\psi_G$, c'est-à-dire un ensemble fini de représentations unitaires irréductibles de $G$, ayant toute même caractère infinitésimal (facilement déterminé par $\psi_G$). Ce paquet est caractérisé par le fait que certaines distributions sur $G$, qui sont des combinaisons linéaires de caractères-distributions des membres du paquet doivent vérifier des identités de transfert endoscopique. Il y a deux types de telles identités. Les premières sont les identités endoscopiques ordinaires qui relient les combinaisons linéaires mentionnées ci-dessus à d'autres, qui vivent sur un groupe endoscopique $H$ (qui est un produit de deux groupes classiques) de $G$, via la théorie de Langlands-Shelstad. Les secondes sont les identités endoscopiques tordues, où le groupe $G$ et la représentation standard $\mathrm{Std}_G$ de son $L$-groupe sont des données endoscopiques elliptiques pour le groupe tordu $(G_N, \theta_N)$. Ce sont ces identités qui sont cruciales dans ce travail. Le point de départ est que le paquet d'Arthur $\Pi_{\psi_G}$ est le support d'une distribution stablement invariante sur $G$, que nous notons $\Theta_{\Pi_{\psi_G}}^{st}$, et qui est donc une certaine combinaison linéaire bien déterminée de caractères-distributions des représentations dans $\Pi_{\psi_G}$. La théorie de l'endoscopie tordue ([31, 37, 52]) transfère de telles distributions stablement invariantes sur $G$ vers des distributions sur $\tilde{G}_{N_\Z}$ invariantes sous l'action par conjugaison de $G_N$, par une application $\mathrm{Trans}_G^{\tilde{G}_N}$ (transfert spectral). Cette application est ici totalement déterminée, et pas seulement à une constante multiplicative près, et ceci grâce à la donnée de Whittaker qui a été fixée sur $G_N$. L'identité endoscopique tordue, fondamentale pour nous, s'écrit alors

$$ \mathrm{Trans}_G^{\tilde{G}_N}(\Theta_{\Pi_{\psi_G}}^{st}) = \mathrm{Tr}_{\theta_N}(\Pi_\psi). \qquad (1.1) $$

Le problème, comme nous l'avons mentionné, c'est que dans ces travaux d'Arthur, les membres des paquets $\Pi_{\psi_G}$ ne sont pas identifiés dans une classification connue, par exemple dans la classification de Langlands. Il en
est de même de la forme exacte des combinaisons linéaires des caractères distributions formées à partir de ce paquet et qui entrent dans les identités endoscopiques. Or, pour un paramètre d'Arthur $\psi_G$ comme ci-dessus, d'autres constructions de paquets ont été proposés. Dans [1], ceci est fait dans un cadre totalement général (c'est-à-dire plus général que les groupes classiques). Un paquet $\Pi_{\psi_G}^{ABV}$ y est défini, celui-ci est le support d'une distribution stablement invariante $\Theta_{\Pi_{\psi_G}^{ABV}}^{st}$ et il est conjecturé que cette construction coïncide dans les cas étudiés avec celles de [10]. D'autre part, il est établi dans [1] que les paquets qui y sont définis vérifient les identités endoscopiques ordinaires. Ainsi, pour montrer la conjecture, il suffit d'établir que ces derniers satisfont aussi à l'identité endoscopique tordue (1.1), c'est-à-dire que l'on peut remplacer le terme de gauche de cette identité par $\text{Trans}_{\tilde{G}}^{\tilde{G}_N}(\Theta_{\Pi_{\psi_G}^{ABV}}^{st})$. Les identités endoscopiques ordinaires ne jouent donc aucun rôle dans cet article et nous n'en dirons rien de plus. Notons au passage que les constructions de [1] utilisent des invariants géométriques sophistiqués des représentations (les « cycles caractéristiques »), et que ceux-ci sont incalculables en pratique, ce qui fait que les membres des paquets $\Pi_{\psi_G}^{ABV}$ ne sont pas identifiés eux non plus dans une classification connue.

Pour un certain type de paramètres d'Arthur $\psi_G$, auxquels nous allons nous référer dans cette article sous la dénomination peut-être abusive de « paramètres d'Adams-Johnson », une autre construction avait été proposé antérieurement à [1] par Adams et Johnson ([3]). La propriété fondamentale de ces paramètres est que le caractère infinitésimal qui leur est associé est entier et régulier. Là encore, un paquet $\Pi_{\psi_G}^{AJ}$ est défini, et celui-ci est le support d'une distribution stablement invariante $\Theta_{\Pi_{\psi_G}^{AJ}}^{st}$. Cette fois, les membres du paquet sont bien identifiés, ce sont des représentations cohomologiques unitaires, c'est-à-dire des modules $A_q(\lambda)$ de Vogan-Zuckerman ([60], voir aussi [29, Chap. 5]). Il a été vérifié par les auteurs de [1] que leur construction coïncide avec celle de [3]. Si les paramètres d'Adams-Johnson ne sont qu'un type particulier de paramètre d'Arthur, ils jouent néanmoins un rôle important dans tous les problèmes liés aux relations entre formes automorphes et cohomologie des variétés.

Nous pouvons maintenant énoncer le résultat principal de cet article :

**THÉORÈME 1.1.** — *Soit $\psi_G$ un paramètre d'Adams-Johnson du groupe classique $G$. Alors*

$$ \text{Trans}_{\tilde{G}}^{\tilde{G}_N}(\Theta_{\Pi_{\psi_G}^{AJ}}^{st}) = \text{Tr}_{\theta_N}(\Pi_{\psi_G}). \qquad (1.2) $$

*En conséquence, le paquet d'Arthur $\Pi_{\psi_G}^{AJ}$ est égal au paquet d'Adams-Johnson $\Pi_{\psi_G}^{AJ}$.*
Donnons maintenant quelques détails sur la façon d’établir ce résultat. L’idée est de passer par le transfert spectral tempéré établi par Mezo ([37]) et précisé dans l’appendice. Soit $\phi_G : W_R \to L^G$ un paramètre de Langlands. Pour les groupes réels, Langlands ([34]) a défini le paquet correspondant $\Pi_{\phi_G}$. Lorsque le paquet est tempéré, la somme des caractères-distributions des membres du paquet est une distribution stablement invariante sur $G$. Ce n’est plus vrai si le paquet n’est pas tempéré, mais dans ce cas, on définit le pseudo-paquet $\tilde{\Pi}_{\phi_G}$ dont les éléments sont les représentations standard, i.e. des induites paraboliques de représentations essentiellement tempérées dont les éléments de $\Pi_{\phi_G}$ sont les sous-représentations de Langlands (dans cet article, nous utilisons la version de la classification de Langlands en termes de sous-représentations des représentations standard, et non de quotients comme il est le plus souvent l’usage). Alors la somme des caractères-distributions des membres du pseudo-paquet $\tilde{\Pi}_{\phi_G}$ est une distribution stablement invariante notée $\Theta_{\tilde{\Pi}_{\phi_G}}$. Soit $\phi = \text{Std}_G \circ \phi_G$, paramètre de Langlands pour $G_N$, et soit $\tilde{\Pi}_{\phi}$ la représentation standard $\theta_N$-stable de $G_N$ qui lui est associée. Le résultat de Mezo est alors que

$$ \text{Trans}_{G}^{\tilde{\Pi}_{\phi_G}}(\Theta_{\tilde{\Pi}_{\phi_G}}) = \text{Tr}_{\theta_N}(\tilde{\Pi}_{\phi}). \quad (1.3) $$

Mezo démontre cette égalité à une constante multiplicative près, et c’est cette ambiguïté qui est levée dans l’appendice. Dans leur article, Adams et Johnson ont aussi écrit explicitement $\Theta_{\tilde{\Pi}_{\phi_G}}^{st}$ comme combinaison linéaire de $\Theta_{\tilde{\Pi}_{\phi_G}}$, ceci vient des résolutions de Johnson pour les $A_q(\lambda)$ de [25]. Disons que l’on a

$$ \Theta_{\tilde{\Pi}_{\phi_G}^{AJ}}^{st} = \sum_{\phi_G} a_{\phi_G} \tilde{\Theta}_{\phi_G}^{st}. \quad (1.4) $$

Les coefficients $a_{\phi_G}$ sont en fait des signes et la somme est bien entendu à support fini. Grâce au résultat de Mezo, le membre de gauche s’écrit donc (toujours en posant $\phi = \text{Std}_G \circ \phi_G$)

$$ \text{Trans}_{G}^{\tilde{\Pi}_{\phi_G}}(\Theta_{\tilde{\Pi}_{\phi_G}}^{st}) = \sum_{\phi_G} a_{\phi_G} \text{Tr}_{\theta_N}(\tilde{\Pi}_{\phi}), \quad (1.5) $$

et l’on est ramené à démontrer que

$$ \sum_{\phi_G} a_{\phi_G} \text{Tr}_{\theta_N}(\tilde{\Pi}_{\phi}) = \text{Tr}_{\theta_N}(\tilde{\Pi}_{\psi}). \quad (1.6) $$

Notre approche est de le faire par récurrence sur la longueur $r$ d’une décomposition $\psi = \bigoplus_{i=1,...,r} \psi_i$ du paramètres $\psi$ en « paramètres élémentaires ». Le cas où $r=1$, c’est-à-dire que $\psi$ est élémentaire, se sépare en deux sous-cas disjoints. Le premier est celui où $\psi_G$ est le paramètre d’Arthur d’un
caractère quadratique de $G$. On montre par un argument global que le paquet d'Arthur $\Pi_{\psi_G}$ est un singleton (section 10.2). L'identité (1.2) est alors établie par Arthur dans [10], et (1.6) est alors une conséquence qui nous servira dans l'étape de récurrence. Le second cas élémentaire est celui où $\psi$ est le paramètre d'une représentation de Speh $\theta_N$-stable de $G_N$, $N$ pair. Il est traité dans la section 10.3, à partir de la formule pour la trace tordue d'une telle représentation établie dans la section 6. Pour obtenir cette formule, nous partons du fait qu'une représentation de Speh est un cas particulier de $A_q(\lambda)$ de Vogan-Zuckerman, et qu'elle admet donc une résolution de Johnson par des modules standard, c'est-à-dire que l'on a un complexe exact de la forme

$$0 \to \mathbf{Speh} \to X_0 \to X_1 \to \dots \to X_{\ell_{max}} \to 0 \quad (1.7)$$

où les $X_i$ sont des sommes directes de représentations standard $X(w)$, indexées par $w \in \mathfrak{S}_{N/2}$, et $X_i$ est la somme des $X(w)$ pour $w \in \mathfrak{S}_{N/2}$ de longueur $i$ (la longueur usuelle dans le groupe symétrique), et bien sûr **Speh** = $\Pi_{\psi}$ est une représentation de Speh. Une telle résolution implique immédiatement une formule pour le caractère-distribution de cette représentation comme somme alternée des caractère des $X_i$. Mais ici, ce n'est pas le caractère-distribution de **Speh** que nous voulons calculer, mais sa trace tordue. Nous montrons, en suivant les argument de Johnson que le complexe (1.7) de représentations de $G_N$ peut être muni d'une structure de complexe de représentations du groupe $G_N^+$. Les représentations standard $\theta_N$-stables du complexe, les seules qui vont contribuer à la trace tordue, sont indexées par les involutions $w$ du groupe $\mathfrak{S}_{N/2}$. Elles sont donc étendues au groupe $G_N^+$, cette extension étant l'une des deux possibles $X(w)^{\pm}$, mais qui n'est pas nécessairement celle, disons $X(w)^{+}$, déterminée par la donnée de Whittaker. Nous calculons alors par un argument combinatoire le signe par lequel l'extension de $X(w)$, $w$ involution de $\mathfrak{S}_{N/2}$, diffère de $X(w)^{+}$. Ceci nous donne la contribution de ce $X(w)$ à la trace tordue. Nous introduisons une fonction longueur sur l'ensemble $\mathcal{J}_{N/2}$ des involutions de $\mathfrak{S}_{N/2}$, appelée $\theta$-longueur et notée $\ell_{\theta}$, et au final, la trace tordue de la Speh s'écrit

$$\mathrm{Tr}_{\theta_N}(\mathbf{Speh}) = \sum_{w \in \mathcal{J}_{N/2}} (-1)^{\ell_{\theta}(w)} \mathrm{Tr}_{\theta_N}(X(w)). \quad (1.8)$$

Il reste donc à comparer les termes extrêmes de

$$\sum_{\phi_G} a_{\phi_G} \mathrm{Tr}_{\theta_N}(\tilde{\Pi}_{\phi}) = \mathrm{Tr}_{\theta_N}(\Pi_{\psi}) = \mathrm{Tr}_{\theta_N}(\mathbf{Speh}) \\ = \sum_{w \in \mathcal{J}_{N/2}} (-1)^{\ell_{\theta}(w)} \mathrm{Tr}_{\theta_N}(X(w)). \quad (1.9)$$

Ceci se fait en exhibant une bijection entre l'ensemble des $\phi_G$ intervenant dans le terme de gauche avec $\mathcal{J}_{N/2}$ et en vérifiant que si $\phi_G$ correspond à $w$,
alors $X(w) = \tilde{\Pi}_{\phi}$ et $(-1)^{\ell_{\theta}(w)} = a_{\phi_G}$ (rappelons que d'après Adams-Johnson $a_{\phi_G}$ est bien un signe). Cette comparaison passe par les représentations des groupe unitaires $\mathcal{U}(b, c)$ avec $b+c = N/2$. Les représentations de $\mathcal{U}(b, c)$ sont reliées à celles de $G$ par le foncteur d'induction cohomologique de Zuckerman, et à celles de $G_N$ par changement de base vers $\mathbf{GL}_{N/2}(\mathbb{C})$ suivi d'une induction cohomologique de $\mathbf{GL}_{N/2}(\mathbb{C})$ vers $G_N$.

Une fois démontré le résultat principal pour les paramètres élémentaires, on passe à la démonstration du cas général par récurrence sur la longueur de la décomposition de $\psi$ en paramètres élémentaires. Dans une telle décomposition, on a au plus un seul paramètre élémentaire du premier type décrit ci-dessus, et donc dans l'étape de récurrence, on suppose qu'on ajoute un paramètre élémentaire $\psi_1$ du second type (paramètre d'une Speh) à un paramètre $\psi'$. L'idée est la suivante : de même que le transfert endoscopique ordinaire commute à l'induction parabolique, le transfert endoscopique (spectral) tordu de $G$ vers $\tilde{G}_N$ commute à un certain foncteur d'induction, un peu délicat à décrire exactement malheureusement, mais dont voici l'ingrédient principal. Supposons que $N = N_1 + N'$, avec $N_1 = 2n_1$, et soit **Speh** une représentation de Speh $\theta_{N_1}$-stable de $G_{N_1}$. Soit $M$ le sous-groupe de Levi standard de $G_N$ isomorphe à $G_{N_1} \times G_{N'}$. Posons $\theta_M = \theta_{N_1} \times \theta_{N'}$, que l'on voit comme un automorphisme d'ordre 2 de $M$, puis $M^+ = M \rtimes \langle \theta_M \rangle$ et $\tilde{M} = M^+ \setminus M$. On considère la catégorie des représentations $\pi_M^+$ de $\tilde{M}$ dont la restriction $\pi_M$ à $M$ est de longueur finie, et telle que tous les sous-quotients irréductibles de $\pi_M$ sont des produits tensoriels de la forme $\pi_1 \otimes \pi'$, avec $\pi_1$ une représentation irréductible de $G_{N_1}$, sous-représentation de Langlands de l'une des représentations $X(w), w \in \mathfrak{S}_{n_1}$, apparaissant dans la résolution de Johnson de **Speh**, et $\pi'$ une représentation irréductible de $G_{N'}$ dont on suppose seulement que le caractère infinitésimal $\lambda'$ est fixé, et vérifie une certaine condition (cf. hypothèse (7.1), le paramètre de la Speh doit être grand devant $\lambda'$, et cette condition va être vérifiée lorsqu'on part d'un paramètre d'Adams-Johnson). On montre tout d'abord (lemme 7.3) que si $\pi_1$ et $\pi'$ vérifient ces hypothèses, alors $\text{Ind}_P^{\tilde{G}_N}(\pi_1 \otimes \pi')$ est irréductible, $P$ étant ici le sous-groupe parabolique standard de facteur de Levi $M$. Grâce aux propriétés fines des opérateurs d'entrelacement (section 7.4), on construit un foncteur d'induction $\text{Ind}_{\tilde{M}}^{\tilde{G}_N}$ de cette catégorie de représentations de $\tilde{M}$ vers les représentations de $\tilde{G}_N$, ayant la propriété suivante : la donnée de Whittaker pour $G_N$ induit une donnée de Whittaker pour $M$. Supposons que $\pi_M$ soit une représentation irréductible $\theta_M$-stable de $M$ dans la catégorie décrite ci-dessus, et soit $\pi_M^+$ extension à $\tilde{M}$ distinguée par la donnée de Whittaker. Alors $\text{Ind}_{\tilde{M}}^{\tilde{G}_N}(\pi_M^+)$ est l'extension de $\text{Ind}_M^{\tilde{G}_N}(\pi_M)$ distinguée par la donnée de
Whittaker. Ces résultats sont les plus techniques, mais aussi les plus prometteurs de l'article, car on espère les réutiliser dans un contexte plus général que celui des paramètres d'Adams-Johnson, et ils faisaient partie de la thèse du premier auteur.

Pour le changement de base des groupes unitaires, les résultats analogues avaient été obtenus par Johnson dans [26], en s'appuyant sur le transfert tempéré établi par Clozel [22] dans ce cas (et dont le résultat de Mezo est une généralisation). Nous reprenons rapidement notre démarche pour montrer qu'elle s'adapte sans difficulté aux groupes unitaires (c'est même plus simple techniquement).

Décrivons brièvement le contenu de l'article. Les premières sections sont purement formelles, elles servent à rappeler les notations et résultats de la littérature essentiels à la suite de l'article. La section 2 concerne les paramètres de Langlands et d'Arthur, et la classification de Langlands. On y rappelle la définition des distributions stables attachées aux paramètres de Langlands (lorsque le paramètre n'est pas tempéré, on introduit les « pseudopquets », constitués de représentations induites à partir de tempérées). La section 3 présente la classification du dual admissible des groupes $GL_N(\mathbb{R})$. On y rappelle aussi la définition de la représentation attachée à un paramètre d'Arthur (dans le cas de $GL_N$, les paquets d'Arthur sont des singletons), le cas basique étant celui des représentations de Speh. La section 4 introduit la classification de Beilinson-Bernstein pour les groupes unitaires. Comme nous l'avons expliqué, ceci va nous permettre de faire le lien entre les termes de gauche et de droite de (1.6). La section 5 concerne les représentations de l'espace tordu $\tilde{G}_N$ (ou de manière presque équivalente, du groupe $G_N^+$) et de leur normalisation à l'aide des modèles de Whittaker. Ceci permet de définir précisément le terme de droite de (1.2) (autrement seulement défini à une constante multiplicative près). La section 6 est consacrée au calcul de la trace tordue des représentations de Speh autoduales et la section 7 au foncteur d'induction parabolique « tordu ». La section 8 rappelle les résultats d'Adams et Johnson dans un contexte général, en rappelant en particulier la définition des paquets $\Pi_{\psi_G}^{AJ}$, de la combinaison linéaire stable des caractères-distributions $\Theta_{\Pi_{\psi_G}^{AJ}}^{st}$ et son expression en termes de pseudopquets obtenue à partir des résolutions de Johnson. La section 9 introduit les groupes classiques orthogonaux et symplectiques considérés, leur représentation standard, l'application de transfert spectral $\text{Trans}_{\tilde{G}_N}$ et détaille la forme des paramètres d'Adams-Johnson pour ces groupes. La section 10 est consacrée à la démonstration du résultat principal. La section 11 adapte l'énoncé du résultat principal et sa démonstration aux groupes unitaires, en parcourant rapidement les modifications superficielles à effectuer. Enfin l'appendice précise le résultat de Mezo en levant l'ambiguïté de celui-ci. Il
présente un intérêt indépendant du reste de l'article et le résultat est obtenu par des méthodes globales.

Le résultat principal de cet article est utilisé comme hypothèse dans de nombreux travaux. Citons en particulier [14, 15, 21, 19, 30, 45, 55]. (1)

Dans certains cas particuliers, le premier auteur avait déjà obtenu dans sa thèse le résultat principal (sous l'hypothèse que les représentations de Speh vivent dans des $GL_{2n}(\mathbb{R})$ avec $n \le 4$). Une partie des résultats de cet article sont issus (tels quels ou sous une forme ayant évoluée avec le temps) de cette thèse du premier auteur [4], en particulier dans le chapitre 7.

## 2. Paramètres de Langlands et d'Arthur

### 2.1. Paramètres de Langlands et pseudo-paquets

Nous renvoyons le lecteur à [16] pour plus de détails sur les objets introduits dans cette section.

Soient $\mathbf{G}$ un groupe algébrique réductif connexe défini sur $\mathbb{R}$, $\hat{\mathcal{G}}$ son dual de Langlands, et $^LG = \hat{\mathcal{G}} \times W_{\mathbb{R}}$ son $L$-groupe, où bien sûr $W_{\mathbb{R}}$ est le groupe de Weil de $\mathbb{R}$.

Le groupe $\hat{\mathcal{G}}$ agit par conjugaison sur l'ensemble des paramètres de Langlands $\phi: W_{\mathbb{R}} \to {}^LG$, et l'on note $\Phi(G)$ l'ensemble de ces classes de conjugaison. On note $\Phi_{\text{temp}}(G)$ l'ensemble des classes de conjugaison de paramètres de Langlands d'image bornée.

Le théorème de classification de Langlands donne l'existence d'une partition de l'ensemble $\Pi(G)$ des classes d'équivalence de représentations irréductibles du groupe $G := \mathbf{G}(\mathbb{R})$

$$ \Pi(G) = \coprod_{\phi \in \Phi(G)} \Pi_{\phi} \qquad (2.1) $$

en $L$-paquets (ou paquets de Langlands) $\Pi_{\phi}$. Le point essentiel est bien entendu les propriétés de cette partition. Donnons-en quelques unes. Tous les éléments d'un paquet ont même caractère infinitésimal. Pour les représentations tempérées, on a

$$ \Pi_{\text{temp}}(G) = \coprod_{\phi \in \Phi_{\text{temp}}(G)} \Pi_{\phi} \qquad (2.2) $$

<footnote>(1) Dans [14, 15, 19], l'hypothèse en question permet simplement de simplifier la démonstration de certains résultats.</footnote>
Lorsque $\pi$ est une représentation de longueur finie de $G$, notons $\Theta_\pi$ son caractère : c'est une distribution invariante sur $G$. Pour tout $\phi \in \Phi_{\text{temp}}(G)$, notons

$$ \Theta_{\Pi_{\phi}} = \sum_{\pi \in \Pi_{\phi}} \Theta_{\pi}. \qquad (2.3) $$

C'est une distribution *stablement invariante* sur $G$. Pour ce qui concerne cette notion, nous renvoyons par exemple à [17, 51]. Ceci n'est plus vrai pour un paquet non tempéré. Soit $\phi \in \Phi(G)$, non nécessairement tempéré. Toute représentation $\pi \in \Pi_\phi$ est obtenue dans la classification de Langlands comme l'unique sous-représentation irréductible d'une représentation standard $I(\pi)$, induite parabolique d'une représentation essentiellement tempérée.

**DÉFinition 2.1.** — Soit $\phi \in \Phi(G)$ un paramètre de Langlands. Appelons « pseudo-paquet », et notons $\tilde{\Pi}_\phi$, l'ensemble des $I(\pi)$ pour $\pi \in \Pi_\phi$. Posons :

$$ \Theta_{\tilde{\Pi}_{\phi}} = \sum_{\pi \in \tilde{\Pi}_{\phi}} \Theta_{I(\pi)}. \qquad (2.4) $$

Il est bien connu ([3, Lem. 4.3], [51]) que $\Theta_{\tilde{\Pi}_{\phi_G}}$ est une distribution stablement invariante sur $G$. Remarquons que lorsque $\phi$ est tempéré, on a $\Theta_{\Pi_{\phi}} = \Theta_{\tilde{\Pi}_{\phi}}$.

## 2.2. Paramètres d'Arthur

Les notations sont les mêmes que dans la section précédente.

**DÉFinition 2.2.** — Un paramètre d'Arthur pour $G$ est un morphisme de groupes continu

$$ \psi : W_{\mathbb{R}} \times \mathbf{SL}_2(\mathbb{C}) \to \mathcal{L}G \\ \text{tel que} $$

(1) la restriction de $\psi$ à $W_{\mathbb{R}}$ est un paramètre de Langlands tempéré,

(2) la restriction de $\psi$ à $\mathbf{SL}_2(\mathbb{C})$ est algébrique.

Le groupe $\hat{G}$ agit par conjugaison sur l'ensemble des paramètres d'Arthur, et l'on note $\Psi(G)$ l'ensemble de ces classes de conjugaison. On identifie $\Phi_{\text{temp}}(G)$ à l'ensemble des paramètres d'Arthur de restriction triviale à $\mathbf{SL}_2(\mathbb{C})$.

À tout paramètre d'Arthur $\psi$, on associe un paramètre de Langlands

$$ \phi_{\psi} : W_{\mathbb{R}} \to \mathcal{L}G, \quad w \longmapsto \psi \left( w, \begin{pmatrix} |w|^{\frac{1}{2}} & 0 \\ 0 & |w|^{-\frac{1}{2}} \end{pmatrix} \right), \qquad (2.5) $$
où $w \mapsto |w|$ est le morphisme de groupe de $W_R$ dans $\mathbb{R}_+^\times$ défini de la manière suivante. Rappelons que $W_R$ peut être vu comme le groupe engendré par $\mathbb{C}^\times$ et un élément $j$ tel que $j^2 = -1$ (cf. [1, Def. 5.2]). On pose alors $|j| = 1$ et $|z| = z\bar{z}$ si $z \in \mathbb{C}^\times$.

Dans [5, 8], J. Arthur conjecture (pour des groupes définis sur un corps local $F$) l'existence de paquets $\Pi_\psi$ attachés aux paramètres $\psi \in \Psi(G)$, devant posséder certaines propriétés, énoncées dans l'introduction.

Pour $F$ archimédien, Adams et Johnson ont proposé pour une certaine classe de paramètres $\psi$ (les « paramètres d'Adams-Johnson », voir section 8) une définition de paquets $\Pi_\psi^{AJ}$ possédant aussi un certain nombre des propriétés requises, en particulier l'existence d'une distribution stable $\Theta_{\Pi_\psi^{AJ}}^{st}$ explicite, et la compatibilité à l'endoscopie standard. Comme il a été expliqué dans l'introduction, J.Arthur pour les groupes classiques, puis C-P. Mok pour les groupes unitaires ont donné une définition des paquets ayant toutes les propriétés voulues, en les caractérisant par les identités endoscopiques standard (transfert spectral vers leurs groupes endoscopiques standard) et par les identités endoscopiques tordues venant du fait que ces groupes peuvent être vu comme faisant partie d'une donnée endoscopique tordue d'un groupe général linéaire. Notre but dans cet article est de montrer que les paquets définis par Adams-Johnson et ceux définis par Arthur et Mok coïncident (pour un même paramètre, bien entendu) dans les cas où ils sont tous deux définis. Pour cela, il suffit donc de montrer que les premiers satisfont les identités endoscopiques tordues avec les groupes généraux linéaires.

### 3. Le groupe $G_N = \text{GL}_N(\mathbb{R})$ et ses représentations

Dans cette section, nous introduisons des notations concernant le groupe général linéaire et ses représentations. Soit $N$ un entier positif. Notons $\mathbf{G}_N$ le groupe général linéaire $\mathbf{GL}_N$ défini sur le corps des réels (avec la convention que $\mathbf{G}_0$ est le groupe trivial), $G_N = \mathbf{GL}_N(\mathbb{R})$ le groupe de ses points réels, et $\hat{\mathbf{G}}_N$ le groupe dual de Langlands (isomorphe à $\mathbf{GL}_N(\mathbb{C})$).

Soit $N_1, \dots, N_r \in \mathbb{N}^\times$ tels que $\sum_{i=1}^r N_i = N$. Le sous-groupe $M = M_{N_1, \dots, N_r}$ des matrices diagonales par blocs de taille respective $N_1, \dots, N_r$, isomorphe à $G_{N_1} \times G_{N_2} \times \dots \times G_{N_r}$ est un sous-groupe de Levi standard de $G_N$, et le sous-groupe parabolique $P = P_{N_1, \dots, N_r}$ contenant $M$ et le sous-groupe de Borel des matrices triangulaires supérieures est un sous-groupe parabolique standard de radical unipotent $N = N_{N_1, \dots, N_r}$. Pour tout $1 \le i \le r$, soit $\pi_i$ une représentation de $G_{N_i}$ de longueur finie. Nous notons alors $\pi_1 \times \pi_2 \times \dots \times \pi_r$ la représentation obtenue par induction parabolique
(normalisée) à partir de la représentation $\pi_1 \otimes \pi_2 \otimes \cdots \otimes \pi_r$ de $M$ relativement au sous-groupe parabolique $P$.

Notons $\nu = \nu_N$ le caractère $g \mapsto |\det g|$ de $G_N$. Pour toute représentation $\pi$ de $G_N$ et tout $s \in \mathbb{C}$, notons de manière abrégé $\pi\nu^s$ le produit tensoriel $\pi \otimes \nu^s$.

Soit $\mathfrak{h}_{d,N}$ la sous-algèbre de Lie des matrices diagonales de $\mathcal{M}_N(\mathbb{C})$, identifiée naturellement à $\mathbb{C}^N$, et de même pour son dual $\mathfrak{h}_{d,N}^*$. Via l'isomorphisme d'Harish-Chandra, un caractère infinitésimal pour $G_N$ est donné par un élément de $\mathfrak{h}_{d,N}^*$ et donc par un élément $\lambda = (\lambda_1, \dots, \lambda_N) \in \mathbb{C}^N$, où plutôt par une orbite de tels éléments sous l'action du groupe de Weyl, ici identifié au groupe $\mathfrak{S}_N$. Un tel caractère infinitésimal est entier si les $\lambda_i - \lambda_j$ sont entiers, et régulier si les $\lambda_i$ sont distincts.

Nous allons maintenant rappeler la classification de Langlands de $\Pi(\mathbf{GL}) := \coprod_{N \in \mathbb{N}} \Pi(G_N)$ en termes de représentations irréductibles de $G_1$ et $G_2$. Par souci d'alléger un peu la terminologie, nous appelons « séries discrètes unitaires » ce que l'on devrait appeler « séries discrètes modulo le centre » et « séries discrètes » les représentations obtenues par produit tensoriel d'une série discrète unitaire et d'un caractère.

Le groupe $G_1 = \mathbf{GL}_1(\mathbb{R}) \simeq \mathbb{R}^\times$ est abélien, et ses représentations irréductibles sont de la forme

$$ \gamma(s, \epsilon) : \mathbb{R}^\times \to \mathbb{C}^\times, \quad x \mapsto |x|^s \mathrm{sgn}(x)^\epsilon, \quad (s \in \mathbb{C}), (\epsilon \in \{0, 1\}). \quad (3.1) $$

Un tel caractère est unitaire si et seulement si $s \in i\mathbb{R}$. En général, posons

$$ e(\gamma(s, \epsilon)) = \Re e(s). \quad (3.2) $$

Considérons deux caractères $\gamma(s_i, \epsilon_i)$, $i = 1, 2$, comme ci-dessus. La série principale $\gamma(s_1, \epsilon_1) \times \gamma(s_2, \epsilon_2)$ de $G_2$ est réductible si et seulement si $s_1 - s_2 = n \in \mathbb{Z}^\times$ et $\epsilon_1 + \epsilon_2 \equiv n + 1 \pmod 2$ et dans ce cas l'un des deux sous-quotient irréductible de celle-ci est une série discrète que l'on note $\delta(s_1, s_2)$. Les équivalences entre ces séries discrètes font l'on peut imposer $n = s_2 - s_1 \in \mathbb{N}^\times$. À équivalence près, les séries discrètes de $G_2$ sont donc les

$$ \delta(s_1, s_2), \quad s_1, s_2 \in \mathbb{C}, \quad s_2 - s_1 \in \mathbb{N}^\times. \quad (3.3) $$

Une telle série discrète est unitaire si et seulement si $s_1 + s_2 \in i\mathbb{R}$. En général, posons

$$ e(\delta(s_1, s_2)) = \frac{\Re e(s_1 + s_2)}{2}. \quad (3.4) $$

Si $\tau$ est l'un des caractères $\gamma(\epsilon, s)$ ou bien l'une des séries discrètes $\delta(s_1, s_2)$, on a

$$ \tau = \nu^{e(\tau)} \tau^u, $$

où $\tau^u$ est de même type que $\tau$, mais unitaire.
DÉFINITION 3.1. — Supposons que pour tout $i = 1, \dots, l$, on se donne une série discrète $\tau_i$ qui est soit l'une des séries discrètes (3.1) de $\mathbf{GL}_1(\mathbb{R})$ ou bien l'une des séries discrètes (3.3) de $\mathbf{GL}_2(\mathbb{R})$. On dit que $\tau = (\tau_1, \dots, \tau_l)$ est écrit dans un ordre standard si $e(\tau_1) \le \dots \le e(\tau_l)$ et dans un ordre standard inverse si $e(\tau_1) \ge \dots \ge e(\tau_l)$.

Le théorème de classification de Langlands s'énonce alors ainsi :

THÉORÈME 3.2. — Soit $\tau = (\tau_1, \dots, \tau_l)$ comme dans la définition ci-dessus, écrit dans un ordre standard, alors :

(1) La représentation $X(\tau) = \tau_1 \times \dots \times \tau_l$ possède une unique sous-représentation irréductible $\bar{X}(\tau)$, apparaissant avec multiplicité un dans la suite de Jordan-Hölder de $X(\tau)$. Cette représentation $\bar{X}(\tau)$, est aussi l'unique quotient irréductible de la représentation

$$ \tilde{X}(\tau) := \tau_l \times \tau_{l-1} \times \dots \times \tau_2 \times \tau_1. $$

(2) L'application $\tau \mapsto \bar{X}(\tau)$ réalise une bijection entre l'ensemble des ensembles avec multiplicités de séries discrètes et $\Pi(\mathbf{GL})$.

Les représentations $X(\tau)$, $\tilde{X}(\tau)$ sont appelées représentations standard.

Remarque 3.3. — Les représentations $X(\tau)$ et $\bar{X}(\tau)$ ne dépendent pas du choix d'un ordre standard sur les $\tau_i$ (parmi tous les ordres standard possibles). Il en est de même de $\tilde{X}(\tau)$ et de l'ordre standard inverse choisi pour l'écrire. C'est un cas particulier d'un théorème de B. Speh rappelé plus loin (Théorème 7.4). Ceci nous permet d'adopter les notations suivantes : si $\tau = (\tau_1, \dots, \tau_l)$, on note

$$ \times_{i=1,\dots,r} \tau_i = \tau_1 \times \dots \times \tau_l $$

et

$$ \times_{i=1,\dots,r} \tau_i, \quad \times_{i=1,\dots,r} \tau_i $$

le produit des $\tau_i$ obtenu en les permutant pour les mettre dans un ordre standard et un ordre standard inverse respectivement.

Remarque 3.4. — Le caractère infinitésimal de $\bar{X}(\tau)$ est donné par $(\lambda_1, \dots, \lambda_N)$ si et seulement si l'ensemble avec multiplicité $\{\lambda_1, \dots, \lambda_N\}$ est constitué des $s_i$ pour les $i$ tels que $\tau_i = \gamma(s_i, \epsilon_i)$ et des $s_{i,1}, s_{i,2}$ pour les $i$ tels que $\tau_i = \delta(s_{i,1}, s_{i,2})$.

## 3.1. Classification de Langlands pour $\mathbf{GL}_N(\mathbb{R})$ avec $L$-groupe

Pour $\mathbf{G} = \mathbf{GL}_N$, les paquets de Langlands sont des singletons, et (2.1) constitue donc une classification de $\Pi(G_N)$. Ce fait nous autorise à noter de la
même manière le paquet associé à un paramètre $\phi$, et l'unique représentation qu'il contient : $\Pi_{\phi}$. Il en est de même du pseudo-paquet $\tilde{\Pi}_{\phi}$ attaché à $\phi$.

Comme le L-groupe est ici un produit direct, $^LG_N = \hat{G}_N \times W_\mathbb{R}$, on peut voir simplement un paramètre de Langlands $\phi$ comme une représentation de dimension $N$ de $W_\mathbb{R}$. Cette représentation est complètement réductible. Les représentations irréductibles de $W_\mathbb{R}$ vont paramétrer les séries discrètes. Elles sont donc de dimension 1 ou 2. Rappelons tout ceci brièvement.

Les représentations irréductibles de $W_\mathbb{C} \simeq \mathbb{C}^\times$ sont de dimension 1 puisque $\mathbb{C}^\times$ est abélien. Elles sont paramétrées par les couples $(s_1, s_2) \in \mathbb{C}\times\mathbb{C}$ avec $s_1 - s_2 \in \mathbb{Z}$ de la manière suivante :

$$ \chi_{s_1, s_2}(z) = |z|^{s_1+s_2} \left( \frac{z}{|z|} \right)^{s_1-s_2} = z^{s_1} \bar{z}^{s_2}. \qquad (3.5) $$

La représentation $\chi_{s_1, s_2}$ est unitaire si $s_1 + s_2 \in i\mathbb{R}$.

Les représentations irréductibles de $W_\mathbb{R}$ sont facilement obtenues à partir des $\chi_{s,n}$ par la théorie de Mackey. Posons

$$ V(s_1, s_2) = \mathrm{Ind}_{\mathbb{C}^\times}^{W_\mathbb{R}}(\chi_{s_1, s_2}). \qquad (3.6) $$

Si $s_1 - s_2 \neq 0$, $V(s_1, s_2)$ est une représentation irréductible de $W_\mathbb{R}$. De plus $V(s_1, s_2) \sim V(s'_1, s'_2)$ si et seulement si $\{s_1, s_2\} = \{s'_1, s'_2\}$.

Si $s_1 - s_2 = 0$, $V(s_1, s_2)$ est réductible. Notons respectivement **Triv** and **sgn** les caractères de $W_\mathbb{R}$ obtenus par relèvement des caractères de $W_\mathbb{R}/(W_\mathbb{R})_0 \simeq \mathbb{Z}/2\mathbb{Z}$. Notons aussi $|\cdot|^s$ le caractère de $W_\mathbb{R}$ donné explicitement sur les générateurs par $z \mapsto |z|^s$, $(z \in \mathbb{C}^\times)$, $j \mapsto 1$. Alors $V(s, s)$ se décompose comme $V(s, s) \simeq \mathbf{Triv} \otimes |\cdot|^{2s} \oplus \mathbf{sgn} \otimes |\cdot|^{2s}$. Posons

$$ W(s, \epsilon) = \begin{cases} \mathbf{Triv} \otimes |\cdot|^s & \text{si } \epsilon = 0 \\ \mathbf{sgn} \otimes |\cdot|^s & \text{si } \epsilon = 1. \end{cases} \qquad (3.7) $$

**PROPOSITION 3.5.** — Les représentations irréductibles de $W_\mathbb{R}$ sont à équivalence près :

(1) les représentations $W(s, \epsilon)$, $s \in \mathbb{C}$, $\epsilon \in \{0, 1\}$, de dimension 1,

(2) les représentations $V(s_1, s_2)$, $s_1, s_2 \in \mathbb{C}$, $s_2 - s_1 \in \mathbb{N}^\times$, de dimension 2.

Elles sont unitaires si et seulement si $s \in i\mathbb{R}$ (cas (1)) et $s_1 + s_2 \in i\mathbb{R}$ (cas (2)).
**PROPOSITION 3.6.** — Les séries discrètes de $G_1$ et $G_2$ sont respective-
ment en bijection avec les représentations irréductibles de $W_\mathbb{R}$ de dimension 1
et 2, cette correspondance étant

$$
\begin{align*}
\gamma_{s,\epsilon} &\leftrightarrow W(s, \epsilon), & s \in \mathbb{C}, \epsilon \in \{0, 1\}, \\
\delta(s_1, s_2) &\leftrightarrow V(s_1, s_2), & s_1, s_2 \in \mathbb{C}, s_2 - s_1 \in \mathbb{N}^{\times},
\end{align*}
$$

où $\gamma_{s,\epsilon}$ est défini en (3.1) et $\delta(s_1, s_2)$ est défini en (3.3).

La bijection entre Π(G_N) et Φ(G_N) s'en déduit alors de la manière suivante. Soit φ ∈ Φ(G_N), considéré comme une représentation de dimension N de W_ℝ. Cette représentation se décompose en une somme de représentations irréductibles de W_ℝ, écrivons ceci φ = ⊕_i=1^r φ_i avec chaque φ_i équivalente à l'une des représentations de W_ℝ dans GL_1(C) ou GL_2(C) définies ci-dessus. Notons δ_i la série discrète correspondant à φ_i. Le multi-ensemble de séries discrètes {δ_i}i=1,...,r paramètre une classe d'équivalence de représentations irréductibles Π_φ de G_N d'après le théorème 3.2. Ceci définit la bijection voulue :

$$
\Phi(G_N) \to \Pi(G_N), \quad \phi \mapsto \Pi_{\phi}. \tag{3.8}
$$

3.2. Paramètres et paquets d'Arthur pour $G_N$

Un paramètre d'Arthur pour $G_N$ est un morphisme continu $\psi : W_\mathbb{R} \times \mathbf{SL}_2(\mathbb{C}) \to {}^L G_N = \hat{G}_N \times W_\mathbb{R}$ vérifiant les propriétés énoncées dans la définition 2.2. Comme pour les paramètres de Langlands, le fait que le $L$-groupe de $G_N$ soit un produit direct nous autorise à considérer $\psi$ comme un morphisme de $W_\mathbb{R} \times \mathbf{SL}_2(\mathbb{C})$ dans $\hat{G}_N = \mathbf{GL}_N(\mathbb{C})$, c'est-à-dire comme une représentation de dimension $N$ de $W_\mathbb{R} \times \mathbf{SL}_2(\mathbb{C})$. Là encore, comme pour les paramètres de Langlands, une telle représentation est complètement réductible. Elle s'écrit donc comme une somme directe

$$
\psi = \bigoplus_{i=1, \dots, r} \psi_i, \quad \psi_i : W_{\mathbb{R}} \times \mathbf{SL}_2(\mathbb{C}) \to \mathbf{GL}_{N_i}(\mathbb{C}) \quad (3.9)
$$

avec $\psi_i$ irréductible et $\sum_{i=1}^r N_i = N$. Les représentations irréductibles de $W_\mathbb{R} \times \mathbf{SL}_2(\mathbb{C})$ sont des produits tensoriels de représentations irréductibles de $W_\mathbb{R}$ avec des représentations irréductibles de $\mathbf{SL}_2(\mathbb{C})$. Les représentations irréductibles de $W_\mathbb{R}$ ont été décrites ci-dessus. Celles qui apparaissent ici ont en plus la propriété d'être à image bornée, ce sont donc les représentations $W(s, \epsilon)$, $s \in i\mathbb{R}$, $\epsilon \in \{0, 1\}$, de dimension 1, et les représentations $V(s_1, s_2)$, $s_1 + s_2 \in i\mathbb{R}$, $s_2 - s_1 \in \mathbb{N}^*$, de dimension 2. Les classes de représentations irréductibles de $\mathbf{SL}_2(\mathbb{C})$ sont déterminées par leur dimension, et l'on note $R_d$ un choix de représentation irréductible de dimension $d$ de $\mathbf{SL}_2(\mathbb{C})$ (ou sa
classe d'équivalence). Les représentations irréductibles de $W_R \times SL_2(\mathbb{C})$ qui nous intéressent sont donc à équivalence près

$$ W(s, \epsilon) \otimes R_n, \quad V(s_1, s_2) \otimes R_n, \quad s_2 - s_1 \in \mathbb{N}^\times, \epsilon \in \{0, 1\}, s, s_1 + s_2 \in i\mathbb{R}. \qquad (3.10) $$

Comme les paquets de Langlands, les paquets d'Arthur pour $G_N$ sont des singletons, et l'on a donc $\Pi_\psi = \Pi_{\phi_\psi}$, ceci désignant à la fois le paquet et l'unique représentation qu'il contient. Nous allons maintenant décrire la représentation $\Pi_\psi$ associée à un paramètre d'Arthur $\psi$, en commençant par les $\psi$ irréductibles.

Notons **Triv** et **sgn** respectivement les caractères triviaux et **sgn** de $\mathbb{R}^\times = GL_1(\mathbb{R})$, (bien que les mêmes notations désignent aussi des caractères de $W_R$, il n'y a pas de risque de confusion). Si $\epsilon \in \{\text{Triv}, \text{sgn}\}$, et si $n \in \mathbb{N}^\times$, notons $\epsilon_n$ le caractère de $G_n$ obtenu en composant $\epsilon$ et le déterminant det : $G_n \to \mathbb{R}^\times$. On a alors

$$ \text{Si } \psi = W(s, 0) \otimes R_n, \quad \Pi_{\psi} = \text{Triv}_n \nu^s = \nu^s \qquad (3.11) $$

$$ \text{Si } \psi = W(s, 1) \otimes R_n, \quad \Pi_{\psi} = \text{sgn}_n \nu^s \qquad (3.12) $$

Remarquons que ces représentations sont des caractères unitaires de $G_n$, car on a pris $s \in i\mathbb{R}$.

**DÉFinition 3.7** (Représentation de Speh). — Soit $\delta$ une série discrète unitaire de $G_2$. Considérons le module standard

$$ I(\delta, n) = \delta \nu^{-\frac{n-1}{2}} \times \delta \nu^{-\frac{n-3}{2}} \times \cdots \times \delta \nu^{-\frac{n-1}{2}}, \qquad (3.13) $$

et notons **Speh**($\delta, n$) son unique sous-module irréductible. Si $\delta = \delta(s_1, s_2)$, $s_2 - s_1 \in \mathbb{N}^\times$ et $s_1 + s_2 \in i\mathbb{R}$, on peut réécrire ceci comme

$$ I(\delta(s_1, s_2), n) = \times_{i=1}^{n} \delta \left( s_1 - \frac{n+1}{2} + i, s_2 - \frac{n+1}{2} + i \right). \qquad (3.14) $$

On a alors,

$$ \text{si } \psi = V(s_1, s_2) \otimes R_n, \quad \Pi_{\psi} = \text{Speh}(\delta(s_1, s_2), n). \qquad (3.15) $$

Les représentations **Speh**($\delta, n$) sont unitaires.

Nous venons donc de déterminer $\Pi_\psi$ lorsque $\psi$ est irréductible. Pour le cas général, nous laissons au lecteur le soin de montrer que l'on a le résultat suivant.

**Proposition 3.8.** — Si $\psi = \bigoplus_{i=1,...,r} \psi_i$ est une décomposition en irréductibles, alors

$$ \Pi_{\psi} = \times_{i} \Pi_{\psi_{i}}. \qquad (3.16) $$
Par définition, $\Pi_{\psi} = \Pi_{\phi_{\psi}}$ et l'exercice consiste à montrer que le paramètre de Langlands de la représentation irréductible $\times_i \Pi_{\psi_i}$ est bien $\phi_{\psi}$.

Remarque 3.9. — Un résultat de Vogan [59] (voir aussi [12, 54]) affirme que cette représentation est unitaire et irréductible, en particulier, elle ne dépend pas de l'ordre dans lequel on prend le produit.

## 4. Paramètres de Beilinson-Bernstein pour $U(p, q)$

Dans cette section, $\mathbf{G}$ est le groupe unitaire $U(p, q)$. Posons $p+q=N$. Fixons une involution de Cartan $\tau$ de $G$, et soit $K = G^{\tau}$ le sous-groupe compact maximal de $G$ correspondant. On a $K \simeq U(p) \times U(q)$, et $K_{\mathbb{C}} \simeq \mathbf{G}\mathbf{L}_p(\mathbb{C}) \times \mathbf{G}\mathbf{L}_q(\mathbb{C})$. Soit $\mathcal{B}$ la variété des drapeaux de $\mathfrak{g}$. Donnons un paramétrage combinatoire de $K_{\mathbb{C}}\backslash\mathcal{B}$. Pour cela, notons $\mathfrak{J}_N$ l'ensemble des involutions du groupe symétrique $\mathfrak{S}_N$ et introduisons l'ensemble $\mathfrak{J}_N^{p,q,\pm}$ dont les éléments sont des couples $(\eta, f_{\eta})$, où $\eta \in \mathfrak{J}_N$ et $f_{\eta}$ est une application de l'ensemble des points fixes de $\eta$ à valeurs dans $\{\pm 1\}$ qui vérifie, si l'on note $m$ le nombre de 2-cycles dans la décomposition en cycle de $\eta$ :

$$m + |f_{\eta}^{-1}(\{1\})| = p, \quad m + |f_{\eta}^{-1}(\{-1\})| = q.$$

Adoptons une notation symbolique assez commode pour les éléments de $\mathfrak{J}_N^{p,q,\pm}$ en écrivant par exemple :

$$\bar{\eta} = (+-1+23--312)$$

pour désigner l'élément dont les points fixes $(i)$ de l'involution sous-jacente $\eta$ sont repérés un signe $\pm$ en position $i$, et bien entendu $f_{\eta}((i)) = \pm$. Les 2-cycles $(ij)$ sont donnés par les positions $i$ et $j$ où apparaissent les mêmes nombres, ici $(3, 10)$, $(5, 11)$ et $(6, 9)$. L'élément donné ici est dans $\mathfrak{J}_{11}^{5,6,\pm}$. Par exemple, pour $(p, q) = (2, 1)$, on a

$$\mathfrak{J}_3^{2,1,\pm} = \{(++), (+-), (---), (11+), (1+1), (+11)\}.$$

Le théorème 2.2.8 de [61] donne une paramétrisation explicite de $K_{\mathbb{C}}\backslash\mathcal{B}$ par $\mathfrak{J}_N^{p,q,\pm}$. Notons

$$\bar{\eta} \in \mathfrak{J}_N^{p,q,\pm} \mapsto Q_{\bar{\eta}} \in K_{\mathbb{C}}\backslash\mathcal{B}$$

cette bijection. L'ordre naturel sur $K_{\mathbb{C}}\backslash\mathcal{B}$ induit par transport de structure un ordre sur $\mathfrak{J}_N^{p,q,\pm}$ qui est décrit en partie dans la section 2.4 de [61]. Seules certaines arêtes du diagramme de Hasse sont données dans [61], pour avoir la description complète de l'ordre, il faut rajouter les arêtes obtenues par la « condition d'échange » (3) de [36]. On peut aussi définir facilement une
fonction longueur $\ell_{\mathfrak{J}}$ sur $\mathcal{I}_N^{p,q,\pm}$ qui va coïncider avec la dimension des orbites
via la bijection. Pour cela, posons pour tout $\bar{\eta} = (\eta, f_\eta) \in \mathcal{I}_N^{p,q,\pm}$,

$$
\ell_{\mathfrak{J}}(\bar{\eta}) = \frac{1}{2}(p(p-1) + q(q-1)) \\
+ \sum_{\substack{i<j \\ \text{2-cycles } (ij) \text{ de } \eta,}} ((j-i) - |\{\text{2-cycles } (kl) \text{ de } \eta, \ k<i<l<j\}|).
$$

Nous pouvons maintenant décrire plus précisément l'ordre sur $\mathcal{I}_N^{p,q,\pm}$ :
il est gradué par la fonction $\ell_{\mathfrak{J}}$, et il suffit de donner la liste des couples
d'éléments $(\bar{\eta}, \bar{\eta}') \in \mathcal{I}_N^{p,q,\pm} \times \mathcal{I}_N^{p,q,\pm}$ tels que $\ell_{\mathfrak{J}}(\bar{\eta}) = \ell_{\mathfrak{J}}(\bar{\eta}') + 1$ et $\bar{\eta} \ge \bar{\eta}'$, c'est-
à-dire les arêtes du diagramme de Hasse. On a une arête lorsque l'écriture
symbolique de $\bar{\eta}'$ est obtenue à partir de celle pour $\bar{\eta}$ soit en remplaçant 2
symboles consécutifs de la forme (aa), $a \in \mathbb{N}^\times$ (correspondant à un un 2-cycle
$(i, i+1)$) par $(+-)$ ou $(-+)$, soit en permutant deux symboles consécutifs qui
ne sont pas tout deux des signes (par exemple $(1+1)$ et $(+1)$) (cf. [61]), et il
faut ensuite ajouter toutes les arêtes obtenues par la condition d'échange (3)
de [36].

Fixons maintenant une représentation $F$ de dimension finie de $G = U(p, q)$. Notons $\Pi_F(G)$ l'ensemble des classes d'équivalence de représentations irréductibles de $G$ ayant même caractère infinitésimal que $F$. Les sous-groupes de Cartan de $G = U(p, q)$ étant connexes, la paramétrisation de Beilinson-Bernstein ([13], voir aussi [38], [56, Chap. 6] et [58, Cor. 2.2]) nous donne une bijection

$$
\mathcal{I}_N^{p,q,\pm} \simeq K_C \setminus \mathcal{B} \simeq \Pi_F(G).
$$

Remarque 4.1. — Dans cette description, la partition de $\Pi_F(G)$ en $L$-paquets est particulièrement simple : deux paramètres $\bar{\eta}, \bar{\eta}' \in \mathcal{I}_N^{p,q,\pm}$ correspondent à des représentations dans le même $L$-paquet si et seulement si les involutions sous-jacentes $\eta$ et $\eta'$ dans $\mathcal{I}_N$ sont égales. Ceci nous donne une paramétrisation de $\Phi(G)$ par $\mathcal{I}_N$. On voit dans ce cas que la longueur ne dépend pas des éléments du paquet. Nous verrons plus loin que la longueur $\ell_{\mathfrak{J}}$ est reliée à la longueur de Vogan, notée dans cet article $\ell_V$ ([57, 58]). La propriété mentionnée ci-dessus pour les paquets de Langlands est en fait une propriété générale de la longueur de Vogan.
# 5. L'espace tordu $\tilde{G}_N$, le groupe non connexe $G_N^+$ et leurs représentations

## 5.1. L'espace tordu $\tilde{G}_N$ et ses représentations

On note $\tau : g \mapsto {}^t g^{-1}$ l'involution de Cartan de $G_N$. Soit $J_N \in G_N$ la matrice antidiagonale

$$ \begin{pmatrix} & & 1 \\ & -1 & \\ & & 1 \\ (-1)^{N-1} & \cdot & \cdot \end{pmatrix} $$

On note $\theta_N : G_N \to G_N$ l'automorphisme défini par $g \mapsto J_N \, {}^t g^{-1} J_N^{-1}$. C'est un automorphisme intérieur à l'involution de Cartan $\tau$, mais qui a l'avantage de préserver l'épinglage standard.

Nous pouvons maintenant définir le produit semi-direct $G_N^+ = G_N \times \langle \theta_N \rangle$. C'est un groupe algébrique réductif non connexe. L'automorphisme $\theta_N$ étant d'ordre 2, ce groupe compte deux composantes connexes, et l'on note $\tilde{G}_N = G_N \times \theta_N$ celle qui ne contient pas l'élément neutre. On note $\tilde{G}_N$ l'ensemble des points réels de $\tilde{G}_N$. On obtient ainsi un espace tordu au sens de Lassesse [33]. Pour le lecteur intéressé, remarquons que la construction ci-dessus est particulièrement simple puisque l'espace tordu en question est l'ensemble des points réels d'une composante connexe d'un groupe algébrique, comme c'est le cas d'ailleurs de tous les espaces tordus pour lesquels on sait faire des choses intéressantes (par exemple, la stabilisation de la formule des traces).

On appelle représentation de l'espace tordu $\tilde{G}_N$ (ou pour faire bref représentation tordue) tout triplet $(\tilde{\pi}, \pi, V)$ où $V$ est un $\mathbb{C}$-espace vectoriel muni d'une représentation $\pi$ de $G_N$ et où $\tilde{\pi}$ est une application $\tilde{\pi} : \tilde{G}_N \to GL(V)$ tels que

$$ \tilde{\pi}(g_1 \tilde{x} g_2) = \pi(g_1) \tilde{\pi}(\tilde{x}) \pi(g_2), \quad (g_1, g_2 \in G_N, \tilde{x} \in \tilde{G}_N). \quad (5.1) $$

Si $(\pi, V)$ est une représentation de $G_N$, on note $\pi^{\theta_N}$ la représentation définie par

$$ \pi^{\theta_N}(g) = \pi(\theta_N(g)), \quad (g \in G_N). \quad (5.2) $$

Si $(\pi, V)$ est une représentation de $G_N$ telle que $\pi^{\theta_N}$ est équivalente à $\pi$, on dit que $\pi$ est $\theta_N$-stable. Si $(\pi, V)$ est une représentation unitaire irréductible, ou bien un module d'Harish-Chandra irréductible, ceci est équivalent
au fait que $(\pi, V)$ soit équivalente à sa contragrédiente. On dit alors aussi que $\pi$ est autoduale.

Si $(\tilde{\pi}, \pi, V)$ est une représentation de l'espace tordu $\tilde{G}_N$, il résulte de (5.1) que $\tilde{\pi}(\theta_N)$ entrelace $\pi$ et $\pi^{\theta_N}$. Si l'on est dans une situation où le lemme de Schur s'applique, par exemple si $\pi$ est une représentation unitaire irréductible de $G_N$, alors $\tilde{\pi}(\theta_N)$ est en fait déterminé par $\pi$ à un scalaire non nul près. Réciproquement, si $A$ est un opérateur d'entrelacement inversible entre $\pi$ et $\pi^{\theta_N}$, on peut définir $\tilde{\pi} : \tilde{G}_N \to GL(V)$ par $\tilde{\pi}(g\theta_N) = \pi(g)A, g \in G_N$, et ceci fait de $(\tilde{\pi}, \pi, V)$ une représentation de l'espace tordu $\tilde{G}_N$.

La définition de représentation d'espace tordu s'adapte facilement aux modules de Harish-Chandra, nous laissons au lecteur le soin de faire ce travail. Soit $(\tilde{\pi}, \pi, V)$ une représentation de l'espace tordu $\tilde{G}_N$, telle que le caractère de $\pi$ soit bien défini comme distribution sur $G_N$ par la théorie d'Harish-Chandra (par exemple, $\pi$ est de longueur finie et admissible, à valeurs dans un espace topologique localement convexe raisonnable). On peut alors définir de façon analogue le caractère tordu de $\tilde{\pi}$. Tout d'abord, remarquons que $\tilde{G}_N$ est muni d'une mesure invariante par les deux actions de $G_N$: on transporte une mesure de Haar sur $G_N$ vers $\tilde{G}_N$ par le difféomorphisme $g \mapsto g\theta_N = g \times \theta_N$. Ensuite, pour toute fonction test $f \in \tilde{H}_N = \mathscr{C}_c^\infty(\tilde{G}_N)$, l'opérateur

$$ \tilde{\pi}(f) = \int_{\tilde{G}_N} f(\tilde{y}) \tilde{\pi}(\tilde{y}) \, dy $$

est un opérateur à traces, et

$$ f \in \tilde{H}_N \mapsto \mathrm{Tr}(\tilde{\pi}(f)) \qquad (5.3) $$

est une distribution sur $\tilde{G}_N$, invariante par l'action adjointe de $G_N$.

## 5.2. Normalisation des extensions à $G_N^+$

Soit $(\tilde{\pi}, \pi, V)$ une représentation de l'espace tordu $\tilde{G}_N$, telle que $\tilde{\pi}(\theta_N)^2 = \mathrm{Id}_V$. Alors on peut définir une représentation $\pi^+$ du groupe $G_N^+$ dont la restriction à $G_N$ est $\pi$ en posant $\pi^+(g\theta_N) = \pi(g)\tilde{\pi}(\theta_N)$. Par exemple, si $(\pi, V)$ est une représentation irréductible unitaire, ou un module d'Harish-Chandra irréductible), et que $\pi^{\theta_N}$ est équivalente à $\pi$, alors ce lemme entraîne que l'on peut choisir l'opérateur d'entrelacement $A$ réalisant cette équivalence de sorte que $A^2 = \mathrm{Id}$, et ainsi permettre de définir deux extensions (les seules possibles) à $G_N^+$, disons $\pi^+$ et $\pi^-$, en posant respectivement $\pi^+(\theta_N) = A$ et $\pi^+(\theta_N) = -A$. Réciproquement, une représentation du groupe $G_N^+$ définit
naturellement une représentation de l'espace tordu $\tilde{G}_N$. Ainsi, l'on voit que l'on dispose de trois notions très proches :

Les représentations $(\pi, V)$ de $G_N$ telles que $\pi^{\theta_N}$ est équivalente à $\pi$. (5.4)

Les représentations $(\tilde{\pi}, \pi, V)$ de l'espace tordu $\tilde{G}_N$. (5.5)

Les représentations $(\pi^+, V)$ du groupe $G_N^+$. (5.6)

Il sera commode d'énoncer certains résultats en termes de représentations du groupe $G_N^+$. Par exemple, si $(\pi^+, V)$ est une telle représentation avec $A = \pi^+(\theta_N) \in \mathbf{GL}(V)$, et si $(\tilde{\pi}, \pi, V)$ est la représentation de l'espace tordu associé, on pose

$$ \mathrm{Tr}(\pi^+(f)) = \mathrm{Tr}(\tilde{\pi}(f)) \quad (f \in \tilde{\mathcal{H}}_N). \qquad (5.7) $$

Ceci définit une distribution sur $\tilde{G}_N$, invariante pour l'action par conjugaison de $G_N$. On peut exprimer $\tilde{\pi}(f)$ en fonction de $\pi := \pi^+|_{G_N}$ et $A$ par :

$$ \tilde{\pi}(f) = \int_{\tilde{G}_N} f(\tilde{y}) \tilde{\pi}(\tilde{y}) \, dy = \int_{G_N} f(g\theta) \pi(g) A \, dg. \qquad (5.8) $$

Remarquons que si la représentation $(\pi^+, V)$ de $G_N^+$ est donnée par une représentation $(\pi, V)$ de $G_N$ et un opérateur d'entrelacement inversible $A$ entre $\pi$ et $\pi^{\theta_N}$ vérifiant $A^2 = \mathrm{Id}_V$, et que $(\pi^-, V)$ est l'extension de $\pi$ à $G_N^+$ obtenue en remplaçant $A$ par $-A$, alors

$$ \mathrm{Tr}(\pi^+(f)) = - \mathrm{Tr}(\pi^-(f)), \quad (f \in \tilde{\mathcal{H}}_N). \qquad (5.9) $$

Soit $(\pi, V)$ une représentation irréductible de $G_N$ à laquelle s'applique le lemme de Schur et supposons que $\pi^{\theta_N}$ est équivalente à $\pi$. Nous allons expliquer comment imposer un choix entre les deux extensions $\pi^\pm$ de $\pi$ à $G_N^+$, grâce aux fonctionnelles de Whittaker.

On fixe une donnée de Whittaker $(B_d, \chi)$ de $G_N$ de la manière suivante. On considère sur $\mathbb{R}$ le caractère additif $\psi : x \mapsto \exp 2i\pi x$ et l'on définit sur le radical unipotent $N_d$ du sous-groupe de Borel $B_d$ des matrices triangulaires supérieures dans $G_N$ le caractère

$$ \chi : (n_{ij}) \mapsto \psi(n_{12} + n_{23} + \cdots + n_{N-1,N}). $$

Soit $(\pi, V)$ une représentation de $G_N$ dans un espace vectoriel topologique localement convexe raisonnable (Hilbert, Banach, Fréchet, limite inductive de Fréchet, etc.). Soit $V_\infty$ le sous-espace des vecteurs $\mathcal{C}^\infty$ de $V$ et $V_\infty^*$ son dual topologique. Une fonctionnelle de Whittaker sur $(\pi, V)$ est un élément $\Omega \in V_\infty^*$ telle que

$$ \Omega(\pi(n)v) = \chi(n) \Omega(v), \quad (v \in V_\infty, n \in N_d). \qquad (5.10) $$
Remarque 5.1. — Le sous-groupe unipotent $N_d$ est stable par $\theta_N$ et $\chi(\theta_N(n)) = \chi(n)$ pour tout $n \in N_d$.

Supposons tout d'abord $(\pi, V)$ tempérée (en particulier unitaire) et irréductible. Alors, un résultat de Shalika [50] affirme que $(\pi, V)$ admet une fonctionnelle de Whittaker non nulle, unique à un scalaire non nul près.

Soit $P = MN$ un sous-groupe parabolique standard de $G_N$ de facteur de Levi $M$ et de radical unipotent $N$. La donnée de Whittaker $(B_d, \chi)$ sur $G_N$ définit par restriction une donnée de Whittaker $(B_M, \chi_M) = (B_d \cap M, \chi_{|M \cap N_d})$ pour $M$. Il est clair que le résultat de Shalika s'étend immédiatement aux représentations tempérées de $M$, et même à celles qui sont essentiellement tempérées, c'est-à-dire produit tensoriel d'une représentation tempérée avec une représentation de dimension un. Supposons plus généralement que $(\sigma, V)$ soit une représentation de longueur finie de $M$ admettant une fonctionnelle de Whittaker non nulle $\Omega_M$ (pour la donnée de Whittaker $(B_M, \chi_M)$). Rappelons comment définir une fonctionnelle de Whittaker non nulle sur $\text{Ind}_P^{G_N}(\sigma)$. Pour ceci, nous suivons la discussion dans [10, p. 111], auquel nous renvoyons pour les notations (usuelles) non introduites ici (voir aussi [6]). Soit $\lambda \in \mathfrak{a}_{M,\mathbb{C}}^*$ et $\sigma_\lambda$ la torsion de $\sigma$ par le caractère de $M$ défini par $\lambda$. On réalise l'espace de la représentation induite $\text{Ind}_P^{G_N}(\sigma)$ comme un espace de Hilbert $\mathcal{H}_P(\sigma)$ de fonctions sur le sous-groupe compact maximal $K = G_N^\tau$, cet espace restant le même lorsque $\sigma$ est remplacée par $\sigma_\lambda$ (c'est l'action de $G_N$ qui change). Si $h \in \mathcal{H}_P(\sigma)$, il faut poser

$$h_{\sigma, \lambda}(x) = \sigma(M_P(x)) \cdot h(K_P(x)) e^{(\lambda + \rho_P)(H_P(x))}, \quad (x \in G_N) \quad (5.11)$$

pour obtenir un vecteur dans l'espace usuel de $\text{Ind}_P^{G_N}(\sigma_\lambda)$. Soient $\bar{w}_l$ et $\bar{w}_l^M$ les éléments les plus longs dans les groupes de Weyl de $G_N$ et $M$ respectivement, posons $\bar{w}_M = \bar{w}_l \bar{w}_l^M$, $M' = \bar{w}_M \cdot M$ et soit $P' = M'N'$ le sous-groupe parabolique standard de $G_N$ de facteur de Levi standard $M'$. Fixons un représentant $w_M$ de $\bar{w}_M$ dans $G_N$ (nous le ferons explicitement plus tard en (7.7)). Pour tout $h \in \mathcal{H}_P(\sigma)$, l'intégrale de Whittaker

$$\mathrm{Wh}(h, \sigma_\lambda) = \int_{N'} \Omega_M(h_{\sigma, \lambda}(w_M^{-1}n')) \chi(n')^{-1} \mathrm{d}n', \quad (h \in \mathcal{H}_P(\sigma)) \quad (5.12)$$

converge absolument lorsque $\Re(\lambda)$ se trouve dans un certain cône et admet un prolongement analytique comme fonction de $\lambda \in \mathfrak{a}_{M,\mathbb{C}}^*$ à $\mathfrak{a}_{M,\mathbb{C}}^*$ tout entier ([48, Prop. 3.2], voir aussi [49, Lem. 3.6.8 et Cor. 3.6.11]). La fonctionnelle

$$\Omega : h \in \mathcal{H}_P(\sigma) \mapsto \mathrm{Wh}(h, \sigma) \quad (5.13)$$

est alors une fonctionnelle de Whittaker non nulle pour $\text{Ind}_P^{G_N}(\sigma)$. Remarquons que ces définitions dépendent du choix de $w_M$.
Lorsque la fonctionnelle de Whittaker $\Omega_M$ est unique à une constante multiplicative près, il est expliqué dans [49] que l'induite $\text{Ind}_P^{G_N}(\sigma)$ admet à un scalaire près une unique fonctionnelle de Whittaker, qui est donc celle notée $\Omega$ définie ci-dessus. En particulier, les représentations standard admettent une fonctionnelle de Whittaker non nulle, unique à un scalaire non nul près.

Soit $(\pi, V)$ une représentation irréductible $\theta_N$-stable de $G_N$. On fixe une extension $\pi^+$ de $\pi$ à $G_N^+$ de la manière suivante. Soit $(\rho, W)$ la représentation standard d'unique sous-représentation irréductible $(\pi, V)$. Comme nous l'avons remarqué plus haut, la représentation standard $(\rho, W)$ admet une unique droite de fonctionnelles de Whittaker. Fixons l'une d'elle, $\Omega$, non nulle, mais remarquons que ce choix n'a aucune incidence sur ce qui suit. Il découle des théorèmes de classification que $\rho$ est aussi $\theta_N$-stable. Soit $\mathcal{A}$ un opérateur d'entrelacement non nul entre $\rho$ et $\rho^{\theta_N}$. En tenant compte de la remarque 5.1, on calcule pour tout $v \in V_\infty$ et tout $n \in N_d$,

$$ \Omega \circ \mathcal{A}(\rho(n)v) = \Omega(\rho^{\theta_N}(n)\mathcal{A}(v)) = \Omega(\rho(\theta_N(n))\mathcal{A}(v)) = \chi(n) \Omega \circ \mathcal{A}(v), $$

ce qui montre que $\Omega \circ \mathcal{A}$ est aussi une fonctionnelle de Whittaker non nulle pour $(\rho, V)$. Il existe donc $c \in \mathbb{C}^\times$ tel que $\Omega \circ \mathcal{A} = c\Omega$. Posons $\rho^+(\theta_N) = c^{-1}\mathcal{A}$. On a alors $\Omega = \Omega \circ \rho^+(\theta_N)$ et $\rho^+(\theta_N)^2 = \text{Id}_W$, ce qui fait que l'on définit ainsi une extension $\rho^+$ de $\rho$ à $G_N^+$.

L'opérateur d'entrelacement $\mathcal{A}$ fixé comme ci-dessus préserve l'unique sous-représentation irréductible $\pi$, et définit ainsi une extension de $\pi$ à $G_N^+$. Celle-ci ne dépend pas des choix faits pour la construire (autres que celui de la donnée de Whittaker). On note encore $\pi^+ = (\tilde{\pi}, \pi, V)$ la représentation de l'espace tordu $\tilde{G}_N$ donnée par $\pi^+$.

**DÉFINITION 5.2.** — Soit $(\pi, V)$ une représentation irréductible $\theta_N$-stable de $G_N$. L'extension $\pi^+$ de $\pi$ à $G_N^+$ ou à $\tilde{G}_N$ construite ci-dessus sera appelée extension canonique, ou encore extension déterminée par la donnée de Whittaker.

**Remarque 5.3.** — Ceci n'est pas la façon dont procède Arthur dans [10, p. 63-64], pour définir les extensions canoniques, mais les deux définitions sont en fait équivalentes. Pour vérifier cette assertion, remarquons que celle-ci est tautologique pour les représentations tempérées. Grâce aux propriétés d'analyticité de la normalisation d'Arthur ([10, p. 64]) et à celles des fonctionnelles de Whittaker obtenues par prolongement analytique de l'intégrale (5.12), il suffit de vérifier l'assertion dans le domaine de convergence, domaine dans lequel un calcul direct permet de conclure.
DÉFINITION 5.4. — Soit $\pi$ une représentation autoduale de $G_N$ et soit $\pi^+$ son extension à $G_N^+$ ou à $\tilde{G}_N$ déterminée par la donnée de Whittaker. On pose alors

$$ \mathrm{Tr}_{\theta_N}(\pi(f)) = \mathrm{Tr}(\pi^+(f)) \quad (f \in \tilde{\mathcal{H}}_N). $$

# 6. Trace tordue des représentations de Speh autoduales

## 6.1. Résolution de la représentation triviale de $GL_n(\mathbb{C})$

On adopte dans cette section les notations sur les représentations des groupes complexes de [11], appliquées au groupe $GL_n(\mathbb{C})$. On note $\rho$ la demi-somme des racines de $GL_n(\mathbb{C})$ et pour tout $w \in \mathfrak{S}_n$ (identifié au groupe de Weyl de $GL_n(\mathbb{C})$), on considère la série principale $X(\rho, -w\rho)$. Si $w = 1$, cette série principale est tempérée et si $w = w_0$, l'élément de plus grande longueur de $\mathfrak{S}_N$, cette série principale a pour unique sous-module irréductible la représentation triviale $\mathrm{Triv}_n$. En général, pour tout $w \in \mathfrak{S}_n$, $X(\rho, -w\rho)$ a pour unique sous-module irréductible une représentation que l'on note $\bar{X}(\rho, -w\rho)$.

On note $\bar{\theta}$ l'automorphisme de $GL_n(\mathbb{C})$ conjugué par $J_n$ (cf. section 5.1) de l'automorphisme $g \mapsto {}^t\bar{g}^{-1}$. On remarque que l'image par $\bar{\theta}$ de $X(\rho, -w\rho)$ est la série principale $X(\rho, -w^{-1}\rho)$. On munit le groupe de Coxeter $\mathfrak{S}_n$ de son ordre de Bruhat $\le_B$ et de sa longueur usuelle $\ell_{\mathfrak{S}}$. Lorsqu'il n'y a pas de risque de confusion avec une autre longueur, ce qui est le cas dans ce paragraphe, nous la notons simplement $\ell$. Pour tout $w, w' \in \mathfrak{S}_n$ tel que $\ell(w) = \ell(w') + 1$ et $w' \le_B w$, il existe un morphisme surjectif de $X(\rho, -w\rho)$ sur $X(\rho, -w'\rho)$, unique à un scalaire près. L'existence d'un tel morphisme surjectif est un exercice facile dans $GL(2, \mathbb{C})$. L'unicité à un scalaire près vient de ce que $X(\rho, -w'\rho)$ a un unique sous-module irréductible qui intervient avec multiplicité un dans $X(\rho, -w\rho)$, c'est une propriété des polynômes de Kazhdan–Lusztig. Notons $f_{w,w'}$ un tel morphisme et posons $f_{w,w'} = 0$ si la condition sur les longueurs est vérifiée mais pas celle sur l'ordre.

Pour $i = 0, \dots, \ell(w_0)$, on note $X_i := \bigoplus_{w | \ell(w) = i} X(\rho, -w\rho)$. Se donner pour tout $i \in 1, \dots, \ell(w_0)$ un morphisme $\phi_i$ de $X_i$ dans $X_{i-1}$, revient bien évidemment à se donner une famille de morphismes $(f_{w,w'})_{\{(w,w') | \ell(w)=i, \ell(w')=i-1\}}$ et réciproquement.

Le résultat suivant est un cas particulier de ceux de [25].
PROPOSITION 6.1.

(1) Il existe des choix de $f_{w,w'}$ comme ci-dessus de sorte que la suite d'applications

$$
\begin{equation} \tag{6.1}
\begin{split}
0 \to \operatorname{Triv}_n \to X(\rho, -w_0\rho) \to \dots \to X_i \xrightarrow{\phi_i} X_{i-1} \\
\qquad \to \dots \to X(\rho, -\rho) \to 0
\end{split}
\end{equation}
\text{soit un complexe exact.}
$$

(2) On peut fixer la famille des $f_{w,w'}$ de sorte que pour tout $w \in \mathfrak{S}_n$, il existe un morphisme $\bar{\theta}$-invariant $A_w^{\bar{\theta}}$ de $X(\rho, -w\rho)$ dans $X(\rho, -w^{-1}\rho)$ vérifiant, quels que soient $w, w'$ avec $\ell(w') = \ell(w)-1$, $A_w^{\bar{\theta}} \circ A_{w'}^{\bar{\theta}} = 1$ et $A_{w'}^{\bar{\theta}} \circ f_{w^{-1},w'} \circ A_w^{\bar{\theta}} = f_{w,w'}$.

Démonstration. — Le (1) est dû à Johnson dans un cadre beaucoup plus général. Donnons le point clé de la démonstration qui permet d'obtenir aussi (2). Johnson construit récursivement (ici en faisant décroître l'indice) les applications $f_{w,w'}$. Supposons que les applications sont construites jusqu'à $\phi_{i+1} : X_{i+1} \to X_i$, alors Johnson montre que pour tout $w' \in \mathfrak{S}_n$ de longueur $i-1$, $\bar{X}(\rho, -w'\rho)$ intervient avec multiplicité un dans le conoyau $Y_i = X_i/\phi_{i+1}(X_{i+1})$ et que dim $\operatorname{Hom}_{\mathfrak{GL}_n(\mathbb{C})}(Y_i, X(\rho, -w'\rho)) = 1$. Soit $f_{i,w'}$ un morphisme non nul dans $\operatorname{Hom}_{\mathfrak{GL}_n(\mathbb{C})}(Y_i, X(\rho, -w'\rho))$. En sommant sur les $w'$, on obtient un morphisme de $X_i$ dans $X_{i-1}$ qui convient. On a donc une totale liberté sur les choix de $f_{i,w'}$. Avec cela on obtient aussi facilement (2). $\square$

6.2. Résolution de Johnson de Speh $(\delta(-\frac{p}{2}, \frac{p}{2}), n)$

Soit $p, n \in \mathbb{N}^\times$ tels que $p > n - 1$ et soit **Speh** $(\delta(-\frac{p}{2}, \frac{p}{2}), n)$ la re-
présentation de **Speh** de $G_N = G_{2n} = \mathbf{GL}_{2n}(\mathbb{R})$ de la définition 3.7. Il se
trouve que cette représentation est un $A_q(\lambda)$ de Vogan-Zuckerman (voir par
exemple [29, p. 330] pour une définition de ces représentations). En effet, il
existe une sous-algèbre parabolique complexe $\tau$-stable $\mathfrak{q} = \mathfrak{l} \oplus \mathfrak{u}$ de $M_{2n}(\mathbb{C})$
telle que le sous-groupe de Levi $L$ associé soit la copie de $\mathbf{GL}_{2n}(\mathbb{C})$ naturelle-
ment contenue dans $\mathbf{GL}_{2n}(\mathbb{R})$. Le caractère $\lambda$ de $L = \mathbf{GL}_n(\mathbb{C})$ que l'on induit
cohomologiquement est $\mu_{p,n} : g \mapsto (\det g)^{p-n}$. Le caractère infinitésimal de
**Speh** $(\delta(-\frac{p}{2}, \frac{p}{2}), n)$ est donné par

$$
\left( \begin{array}{ccc}
\frac{-p - (n-1)}{2} & \frac{-p - (n-3)}{2} & \cdots, \\
\frac{-p + (n-1)}{2} & \frac{p - (n-1)}{2} & \frac{p - (n-3)}{2} & \cdots, \\
\multicolumn{4}{c}{\frac{p + (n-1)}{2}}
\end{array} \right) \quad (6.2)
$$
et la condition $p > n - 1$ assure que ce caractère infinitésimal est bien entier et régulier.

On obtient une résolution de Johnson de **Speh** ($\delta(-\frac{p}{2}, \frac{p}{2}), n$) de la manière suivante : on tensorise par $\mu_{p,n}$ la résolution de la représentation triviale de $\mathbf{GL}_n(\mathbb{C})$ de la section 6.1. Avec les notations de cette section, les modules standards apparaissant dans cette résolution sont donc les $X(\rho, -w\rho) \otimes \mu_{p,n}$, $w \in \mathfrak{S}_n$. Comme dans [25], on induit ensuite cohomologiquement de $\mathbf{GL}_n(\mathbb{C})$ à $\mathbf{GL}_{2n}(\mathbb{R})$ ces modules, pour obtenir des modules standard que nous notons $X(ww_0) = X(ww_0, n, p)$ qui fournissent les termes d'une résolution de **Speh** ($\delta(-\frac{p}{2}, \frac{p}{2}), n$). Remarquons que nous avons inversé l'ordre de l'indexation sur le groupe $\mathfrak{S}_n$ en multipliant par l'élément le plus long $w_0$. En utilisant la comparaison entre la classification des représentations irréductible « à la Langlands » et la classification « à la Vogan-Zuckerman » (cf. [56, Chap. 6] ou [29, Chap. 11]) on calcule que le module standard $X(w) = X(w, n, p)$ de $\mathbf{GL}_{2n}(\mathbb{R})$ indexé par $w$ dans cette résolution peut être décrit d'une autre manière, comme induite parabolique ordinaire d'une représentation essentiellement de carré intégrable modulo le centre, à savoir

$$ 
\begin{aligned}
X(w) &= X(w, n, p) \\
&= \times_{i=1}^{n} \delta \left( \frac{-p - (n-1)}{2} + (i-1), \frac{p - (n-1)}{2} + (w(i)-1) \right). \quad (6.3)
\end{aligned}
 $$

La résolution de Johnson s'écrit alors

$$ 0 \to \mathbf{Speh}(\delta(-\frac{p}{2}, \frac{p}{2}), n) \to X_0 \to X_1 \to \dots \to X_{\frac{n(n-1)}{2}} \to 0 \quad (6.4) $$

où $X_0 = X(1)$ et plus généralement $X_i$ est la somme des $X(s)$, $s \in \mathfrak{S}_n$, avec $\ell(s) = \ell_{\mathfrak{S}}(s) = i$. Remarquons que le module standard $X(1)$ avait été noté $I(\delta(-\frac{p}{2}, \frac{p}{2}), n)$ en (3.14). La résolution de Johnson induit une identité de représentations virtuelles dans le groupe de Grothendieck :

$$ [\mathbf{Speh}(\delta(-\frac{p}{2}, \frac{p}{2}), n)] = \sum_{s \in \mathfrak{S}_n} (-1)^{\ell_{\mathfrak{S}}(s)} [X(s)], \quad (6.5) $$

ce qui donne en prenant le caractère une identité de distributions

$$ \Theta_{\mathbf{Speh}}(\delta(-\frac{p}{2}, \frac{p}{2}), n) = \sum_{s \in \mathfrak{S}_N} (-1)^{\ell_{\mathfrak{S}}(s)} \Theta_{X(s)}. \quad (6.6) $$

Dans cet article, ce ne sont pas les identités (6.5) et (6.6), qui nous sont utiles, mais leurs analogues qui donnent la trace tordue de **Speh** ($\delta(-\frac{p}{2}, \frac{p}{2}), n$) et que nous établissons dans la section suivante.
### 6.3. Trace tordue de Speh $(\delta(-\frac{p}{2}, \frac{p}{2}), n)$

Nous voudrions maintenant obtenir une formule analogue à (6.6), mais pour la trace tordue $\text{Tr}_{\theta_N}(\text{Speh}(\delta(-\frac{p}{2}, \frac{p}{2})), n)$. Pour cela, introduisons la définition suivante :

**DÉFinition 6.2.** — Notons $\mathfrak{I}_n$ l'ensemble des involutions de $\mathfrak{S}_n$. Soit $w \in \mathfrak{I}_n$. On définit la $\theta$-longueur de $w$ en posant :

$$ \ell_{\theta}(w) = \frac{\ell(w)}{2} + \frac{|i \in [1, n]; w(i) > i|}{2}. $$

C'est le nombre d'orbites pour l'action de $\theta$ dans l'ensemble $\mathcal{E}_w$ des couples formés de deux caractères de la forme $z \mapsto z^i/\bar{z}^w(i)$, $i \in [1, n]$, ces couples étant indexés par les $(i, j) \in [1, n]^2$ vérifiant $i < j$; et $w(i) > w(j)$. Evidemment $|\mathcal{E}_w| = \ell(w)$. Cette $\theta$-longueur a aussi été introduite et étudiée dans [24], via la remarque suivante.

**Remarque 6.3.** — Nous avons déjà rencontré cette fonction longueur dans la section 4. En effet,

$$ \ell_{\mathfrak{I}}(\eta) = \ell_{\theta}(\eta) + \frac{1}{2}(p(p-1) + q(q-1)), \quad (6.7) $$

où ici, la longueur du terme de gauche est celle définie sur $\mathfrak{I}_n$ dans la section 4. La vérification de cette égalité est un exercice combinatoire un peu fastidieux, pour lequel la lecture de [24] nous a été d'une aide précieuse. On peut s'en servir pour démontrer le résultat de la section 10.3. Mais comme nous donnerons aussi un autre argument qui permet d'éviter d'utiliser cette égalité (et même qui la démontre), nous le laissons au lecteur.

On rappelle que chaque module standard $X(w)$, pour $w$ une involution, est muni d'une action de $\theta = \theta_N$. Cette action est celle qui laisse invariante toute fonctionnelle de Whittaker.

**THÉORÈME 6.4.** — La trace tordue (cf. déf. 5.4) de $\text{Speh}(\delta(-\frac{p}{2}, \frac{p}{2}), n)$ est donnée par

$$ \text{Tr}_{\theta_N} \left( \text{Speh} \left( \delta \left( -\frac{p}{2}, \frac{p}{2} \right), n \right) \right) = \sum_{w \in \mathfrak{I}_n} (-1)^{\ell_{\theta}(w)} \text{Tr}_{\theta_N} (X(w)). \quad (6.8) $$

**Démonstration.** — On note ici simplement $\ell = \ell_{\mathfrak{S}}$ la longueur usuelle dans le groupe symétrique. Le complexe (6.4) qui résout $\text{Speh}(\delta(-\frac{p}{2}, \frac{p}{2}), n)$, est muni d'une action de $\theta = \theta_N$. Il est très vraisemblable que cette action est l'image fonctorielle de celle de $\bar{\theta}$ de la proposition 6.1, mais plutôt que de vérifier cela, il est plus simple de reprendre l'argument donné dans cette proposition pour ajuster les choix des $f_{w,w'}$. Les morphismes dans la résolution (6.4) sont obtenus comme somme de morphismes $f_{w,w'} : X(w) \to X(w')$ où ici
$\ell_{w'} = \ell(w) + 1$. Rappelons que nous avons renversé l'indexation entre (6.1) et (6.4) en multipliant par $w_0$, mais à ce changement d'indice près, les $f_{w,w'}$ sont les images par le foncteur d'induction cohomologique des $f_{w,w'}$ de (6.1). On obtient pour tout $w \in \mathfrak{S}_n$ un morphisme $A_\theta(w)$ de $X(w)$ dans $X(w^{-1})$. Si $w$ n'est pas une involution, $X(w) \oplus X(w^{-1})$ est $\theta$-stable, mais la contribution à la trace tordue est nulle. Pour tout $w \in \mathfrak{J}_n$, on note alors $\text{Tr}_{A_\theta}(X(w))$ la trace tordue de $X(w)$ pour l'action de $\theta$ donnée par l'opérateur $A_\theta(w)$. On impose comme cela est loisible, quitte à multiplier tous les choix de $A_\theta$ par $-1$, que l'action de $A_\theta(1)$, pour $w = 1$ est l'action de $\theta$ normalisée par le modèle de Whittaker. On obtient alors immédiatement que l'injection de la représentation de **Speh** dans $X(1)$ est $\theta$-invariante et que l'on a :

$$ \text{Tr}_{\theta_N} \left( \mathbf{Speh} \left( \delta \left( -\frac{p}{2}, \frac{p}{2} \right), n \right) \right) = \sum_{w \in \mathfrak{J}_n} (-1)^{\ell(w)} \text{Tr}_{A_\theta} (X(w)). \quad (6.9) $$

Pour démontrer le théorème, il suffit de voir que $A_\theta$ sur $X(w)$ (pour $w$ une involution) diffère de l'action de $\theta$ normalisée par les modèles de Whittaker par le signe $(-1)^{\ell_\theta(w)-\ell(w)}$. C'est ce que nous allons voir maintenant, en commençant par un lemme technique.

LEMME 6.5. — Soit $w \in \mathfrak{J}_n$ une involution qui n'est pas l'identité. Alors l'un des deux cas suivant a lieu (non exclusivement) :

(1) soit il existe une involution, $w' \in \mathfrak{J}_n$ telle que $\ell(w') = \ell(w) - 1$, $w' < w$ et $\ell_\theta(w') = \ell_\theta(w) - 1$;

(2) soit il existe $w' \in \mathfrak{J}_n$ et $s \in \mathfrak{S}_n$ tels que $\ell(w') = \ell(s) - 1 = \ell(w) - 2$, $w < s < w'$ et $\ell_\theta(w') = \ell_\theta(w) - 1$.

Démonstration. — On peut très bien démontrer ce lemme en exhibant $w'$, $s$ pour tout $w$. Mais un référé nous en a donné une preuve élégante.

Soit $\mathcal{X}$ un sous-ensemble de $\{1, \dots, n-1\}$ tel que si $i \in \mathcal{X}$ alors $i+1 \notin \mathcal{X}$. À $\mathcal{X}$ on associe une involution qui est le produit des involutions échangeant $i$ et $i+1$ pour tout $i \in \mathcal{X}$. On note $\sigma_{\mathcal{X}}$ cette involution. Soit $w$ une involution, alors il existe un sous-ensemble $\mathcal{X}$ tel que $w$ soit conjugué dans $\mathfrak{S}_n$ de $\sigma_{\mathcal{X}}$. Et on vérifie, par exemple par récurrence sur $n$ que l'on peut écrire $w = \tau^{-1}\sigma_{\mathcal{X}}\tau$ où $\tau \in \mathfrak{S}_n$ avec les longueurs qui s'ajoutent, c'est-à-dire

$$ \ell(w) = 2\ell(\tau) + \ell(\sigma_{\mathcal{X}}). \quad (6.10) $$

Les $\theta$-longueur sont très faciles à calculer : soit $y$ une involution. On note $\text{Inv}(y)$ l'ensemble des couples $(i, j)$ tels que $1 \le i < j \le n$ tels que $y(i) > y(j)$ et $\text{Exc}(y)$ l'ensemble des couples $(i, y(i))$ tel que $i < y(i)$. Alors $\ell_\theta(y) = \frac{|\text{Inv}(y)| + |\text{Exc}(y)|}{2}$. En revenant à (6.10), on trouve que $\ell_\theta(w) = \ell(\tau) + |\mathcal{X}|$.

Supposons que $\tau$ soit l'identité, on fixe alors $i \in \mathcal{X}$ car par hypothèse $\mathcal{X}$ n'est pas vide. On note $\mathcal{X}'$ l'ensemble $\mathcal{X}$ privé de $i$ et $w' = \sigma_{\mathcal{X}'}$ répond à (1).
Supposons maintenant que $\tau$ ne soit pas l'identité. On fixe une symétrie élémentaire, $\tau_0$ tel que $\tau' := \tau_0\tau < \tau$ et on pose $w' = (\tau')^{-1}\sigma_X\tau'$ et $s = \tau^{-1}\sigma_X\tau'$. Ces deux éléments de $\mathfrak{S}_n$ répondent à (2). $\square$

En multipliant par l'élément le plus long $w_0$, on obtient

**COROLLAIRE 6.6.** — Soit $w \in \mathfrak{J}_n$ une involution qui n'est pas l'élément le plus long $w_0$. Alors l'un des deux cas suivant a lieu (non exclusivement) :

(1) soit il existe une involution, $w' \in \mathfrak{J}_n$ telle que $\ell(w') = \ell(w) + 1$, $w' > w$ et $\ell_\theta(w') = \ell_\theta(w) + 1$;

(2) soit il existe $w' \in \mathfrak{J}_n$ et $s \in \mathfrak{S}_n$ tels que $\ell(w') = \ell(s) + 1 = \ell(w) + 2$, $w' > s > w$ et $\ell_\theta(w') = \ell_\theta(w) + 1$.

**Remarque 6.7.** — Plaçons nous dans le cas de (2) en fixant $w'$. Alors $s$ et $s^{-1}$ sont les seuls éléments $s'$ vérifiant $w < s' < w'$ et en particulier l'exactitude du complexe (6.4) entraîne que $f_{s,w'} \circ f_{w,s} + f_{s^{-1},w'} \circ f_{w,s^{-1}} = 0$.

Pour tout $w \in \mathfrak{J}_n$, notons $\theta(w)$ l'action de $\theta$ sur $X(w)$ normalisée par les modèles de Whittaker. Nous avons vu ci-dessus qu'il suffisait de montrer le résultat suivant pour terminer la démonstration du théorème 6.4.

**LEMME 6.8.** — Pour tout $w \in \mathfrak{J}_n$, on a $A_\theta(w) = (-1)^{\ell_\theta(w)-\ell(w)}\theta(w)$.

**Démonstration.** — Soit $\epsilon_0$ le signe tel que $A_\theta(w_0) = \epsilon_0\theta(w_0)$, où $w_0$ est l'élément de plus grande longueur de $\mathfrak{S}_n$. On montre que $A_\theta(w) = \epsilon_0(-1)^{\ell_\theta(w_0)-\ell(w_0)}(-1)^{\ell_\theta(w)-\ell(w)}\theta(w)$ par récurrence descendante sur la longueur de $w$. Ceci est donc vrai par construction pour l'élément $w = w_0$. On fixe $w \in \mathfrak{J}_n$ qui n'est pas $w_0$ et on lui applique le corollaire 6.6. Plaçons nous dans le cas (1) de ce corollaire. On fixe $w'$ comme dans (1) et on remarque que $f_{w,w'}$ permet de remonter une fonctionnelle de Whittaker $\Omega_{w'}$ sur $X(w')$ en une fonctionnelle de Whittaker $\Omega_w = \Omega_{w'} \circ f_{w,w'}$ sur $X(w')$. Remarquons que les morphismes $f_{w',w}$ sont surjectifs. C'est une propriété héritée des morphismes de la résolution (6.1) pour lesquels cela avait été noté. Notons $\sigma(w)$ le signe que l'on cherche à calculer; par hypothèse de récurrence, on a $\sigma(w') := \epsilon_0(-1)^{\ell_\theta(w_0)-\ell(w_0)}(-1)^{\ell_\theta(w')-\ell(w')}$. On a donc

$$ \begin{aligned} \Omega_w \circ A_\theta(w) &= \Omega_{w'} \circ f_{w,w'} \circ A_\theta(w) = \Omega_{w'} \circ A_\theta(w') \circ f_{w,w'} \\ &= \sigma(w')\Omega_{w'} \circ f_{w,w'} = \sigma(w')\Omega_w. \end{aligned} $$

On en déduit $\sigma(w) = \sigma(w')$. Or $\ell_\theta(w) = \ell_\theta(w') - 1$ et $\ell(w) = \ell(w') - 1$, et on obtient l'assertion cherchée.

Plaçons nous dans le cas (2) en fixant $w'$ et $s$ et en reprenant les notations $\sigma(w)$, $\sigma(w')$. On a $\ell(w') = \ell(w) + 2$ et $\ell_\theta(w') = \ell_\theta(w) + 1$. On cherche donc à montrer que $\sigma(w) = -\sigma(w')$. On fixe encore une fonctionnelle de
Whittaker $\Omega_{w'}$ sur $X(w')$ et on note $\Omega_w$ la fonctionnelle de Whittaker telle que $\Omega_w = \Omega_{w'} \circ f_{s,w'} \circ f_{w,s}$. On a alors :

$$ \Omega_w \circ A_\theta(w) = \Omega_{w'} \circ f_{s,w'} \circ f_{w,s} \circ A_\theta(w) = \Omega_{w'} \circ A_\theta(w') \circ f_{s^{-1},w'} \circ f_{w,s^{-1}}. $$

Ici on utilise la remarque 6.7 pour remplacer $f_{s^{-1},w'} \circ f_{w,s^{-1}}$ par $-f_{s,w'} \circ f_{w,s}$, et l'on obtient

$$ \Omega_w \circ A_\theta(w) = -\Omega_{w'} \circ A_\theta(w') \circ f_{s,w'} \circ f_{w,s} = -\sigma(w')\Omega_w. $$

C'est bien le changement de signe cherché. On calcule $\epsilon_0$ sur l'identité 1 de $\mathfrak{S}_n$: par construction $\sigma(1) = 1$. Ainsi $\epsilon_0 = (-1)^{\ell_\theta(1)-\ell(1)}(-1)^{\ell_\theta(w_0)-\ell(w_0)} = (-1)^{\ell_\theta(w_0)-\ell(w_0)}$ et ceci termine la démonstration du lemme, et donc du théorème. $\square$

Remarque 6.9. — Nous aurons besoin plus loin de pousser les égalités (6.6) et (6.8) au cas où $p = n - 1$. Le caractère infinitésimal de **Speh**($\delta(-\frac{p}{2}, \frac{p}{2})$, $p+1$) n'est plus régulier (0 apparaît avec une multipli-cité 2) dans le caractère infinitésimal. Par continuation cohérente (cf. [56, Chap. 7]), (6.6) et (6.8) restent valides, avec la convention

$$ \delta(0, 0) = \text{Triv} \times \text{sgn}. $$

## 7. Induction parabolique tordue

Le but de cette section est de définir un foncteur d'induction parabolique « tordu » d'un sous-espace de Levi tordu $\tilde{M}$ vers l'espace tordu $\tilde{G}_N$. Nous commençons par fixer des notations pour tout le reste de cette section.

### 7.1. Notations

Soient $a$ un entier au moins égal à 1, $N_1 = 2a$ et considérons la représen-tation **Speh**($\delta(-\frac{p}{2}, \frac{p}{2})$, $a$) de $\mathbf{GL}_{N_1}(\mathbb{R})$. Soit $N'$ un autre entier au moins égal à 1, et soit $\lambda' = (\lambda'_1, \dots, \lambda'_{N'}) \in \mathbb{C}^{N'}$. On fait dans la suite l'hypothèse suivante :

$$ \frac{p - (a - 1)}{2} > |\lambda'_{i}|, \quad (1 \le i \le N'). \qquad (7.1) $$

Soit $M$ le sous-groupe de Levi standard de $\mathbf{GL}_N(\mathbb{R})$ isomorphe à $\mathbf{GL}_{N_1}(\mathbb{R}) \times \mathbf{GL}_{N'}(\mathbb{R})$ et soit $P = MN$ le sous-groupe parabolique standard de facteur de Levi $M$.

En (6.3), nous avons défini des modules standard $X(w) = X(w, a, p)$, $w \in \mathfrak{S}_a$, qui entrent dans la résolution de Johnson de **Speh**($\delta(-\frac{p}{2}, \frac{p}{2})$, $a$).
Ces modules standard sont en position de Langlands et admettent un unique sous-module irréductible que nous notons $\bar{X}(w)$.

**DÉFINITION 7.1.** — Soit $\mathcal{E}$ l'ensemble des représentations irréductibles $\pi_M = \pi_1 \otimes \pi'$ de $M$ telles que

(1) $\pi_1$ est une représentation irréductible de $\mathbf{GL}_{N_1}(\mathbb{R})$ parmi les $\bar{X}(w)$, $w \in \mathcal{G}_a$ (ce sont les représentations irréductibles de même caractère infinitésimal que $\mathbf{Speh}(\delta(-\frac{p}{2}, \frac{p}{2}), a)$ dont le paramètre dans le $\mathcal{G}$-ordre de Bruhat (cf. [57, 58]) est inférieur ou égal à celui de $\mathbf{Speh}(\delta(-\frac{p}{2}, \frac{p}{2}), a)$).

(2) $\pi'$ est une représentation irréductible de $\mathbf{GL}_{N'}(\mathbb{R})$ de caractère infinitésimal $\lambda'$.

*Remarque 7.2.* — Les propriétés du $\mathcal{G}$-ordre de Bruhat impliquent immédiatement que l'ensemble $\mathcal{E}$ possède la propriété suivante : si $\pi_M = \pi_1 \otimes \pi'$ est dans $\mathcal{E}$, et si $X_{\pi_M}$ est le module standard dont $\pi_M$ est l'unique sous-module irréductible, alors tous les sous-quotients irréductibles de $X_{\pi_M}$ sont dans $\mathcal{E}$.

## 7.2. Un résultat d'irréductibilité d'induite

Le résultat d'irréductibilité suivant est crucial pour la suite.

**LEMME 7.3.** — Pour toute représentation $\pi_M \in \mathcal{E}$, $\mathrm{Ind}_P^{\mathbf{GL}_N(\mathbb{R})}(\pi_M)$ est irréductible.

*Démonstration.* — On réalise l'induite comme quotient d'un module standard dont les exposants sont dans la chambre de Weyl positive et comme sous-module d'un module standard dont les exposants sont dans la chambre de Weyl négative, ces deux modules standard ayant même sous-quotient de Langlands. Cela force l'induite à être ce sous-quotient de Langlands et a fortiori à être irréductible. Donnons une idée de la démonstration, les détails se trouvent dans [4, Lem 3.1.2].

La représentation $\pi_1 = \bar{X}(w)$ est donc l'unique sous-représentation irréductible du module standard $X(w)$. Notons $I'$ le module standard de $\mathbf{GL}_{N'}(\mathbb{R})$ dont $\pi'$ est un sous-module irréductible et $I$ le module standard de $\mathbf{GL}_N(\mathbb{R})$ dont les exposants sont dans la chambre de Weyl négative et dont le caractère est celui de l'induite $X(w) \times I'$ (les représentations $X(w) \times I'$ et $I$ sont des induites à partir de la même représentation du sous-groupe de Levi $M$, mais pour $I$, on induit d'un sous-groupe parabolique qui n'est pas $P$, mais celui qui met les exposants de $X(w) \times I'$ dans un ordre standard). Par des opérations élémentaires dans $\mathbf{GL}_3(\mathbb{R})$ et $\mathbf{GL}_4(\mathbb{R})$, on fait des échanges
de facteurs pour ramener cette induite à I et on vérifie à chaque fois que ces échanges sont des isomorphismes. On procède ensuite de même avec le parabolique qui met les exposants de $X(w) \times I'$ dans un ordre standard inverse. Ainsi la démonstration repose in fine sur le résultat suivant dû à B. Speh ([53]).

THÉORÈME 7.4. — Pour $i = 1, 2$, $\eta_i$ désigne soit **Triv** soit **sgn**, c'est-à-dire une représentation de $G_1 = \mathbf{GL}_1(\mathbb{R})$, auquel cas on pose $n_i = 1$, soit une série discrète $\delta_i = \delta(-\frac{p_i}{2}, \frac{p_i}{2})$ de $G_2 = \mathbf{GL}_2(\mathbb{R})$, auquel cas on pose $n_i = 2$. Alors la représentation

$$ \eta_1\nu^{t_1} \times \eta_2\nu^{t_2}, \quad t_i \in \mathbb{C}, \quad i = 1, 2, $$

de $G_{n_1+n_2} = \mathbf{GL}_{n_1+n_2}(\mathbb{R})$ est réductible si et seulement si $t_1 - t_2 \in \mathbb{R}$ et si l'on est dans un des cas suivant :

(1) $n_1 = n_2 = 1$, $\eta_1 = \eta_2$, $t_1 - t_2 \in 2\mathbb{Z} + 1$.

(2) $n_1 = n_2 = 1$, $\eta_1 \neq \eta_2$, $t_1 - t_2 \in 2\mathbb{Z}^\times$.

(3) $n_i = 2, n_j = 1, \{i, j\} = \{1, 2\}, t_1 - t_2 \in \mathbb{Z}, -\frac{p_i}{2} + |t_1 - t_2| \in \mathbb{N}^\times$.

(4) $n_1 = n_2 = 2, t_1 - t_2 \in \mathbb{Z}, -\frac{|p_1 - p_2|}{2} + |t_1 - t_2| \in \mathbb{N}^\times$.

En particulier, si $p'$ et $p''$ sont des demi-entiers, une induite de la forme $\delta(-p'', p') \times \tau$, où $\tau$ est une représentation irréductible de $\mathbf{GL}_b(\mathbb{R})$ avec $b = 1$ ou 2, est irréductible si le caractère infinitésimal de $\tau$ est de la forme $(m)$ ou $(m', m)$ avec $m$ et $m'$ des demi-entiers vérifiant :

$$ p' \ge m \ge m' \ge -p''. \qquad (7.2) $$

C'est ce critère qui sert dans les échanges de facteurs mentionnés ci-dessus, et plus précisément, on l'applique avec $p' \ge p/2 - (a-1)/2$ et $-p'' \le -p/2 + (a-1)/2$, l'hypothèse (7.1) garantissant que l'on a bien (7.2). $\square$

Notons la conséquence suivante du lemme 7.3.

COROLLAIRE 7.5. — Soient $X(w)$, $w \in \mathfrak{S}_n$, une des représentations standard de $\mathbf{GL}_{N_1}(\mathbb{R})$ définie en (6.3) et $X'$ un module standard de $\mathbf{GL}_{N'}$ de caractère infinitésimal $\lambda'$. Considérons

$$ X(w) \times X'. $$

Cette représentation n'est pas une représentation standard a priori car les facteurs ne sont pas forcément dans un ordre standard. Les arguments de la démonstration du lemme 7.3 montrent que l'on peut permuter les facteurs dans l'induite pour l'amener dans un ordre standard. Elle admet donc un unique sous-module irréductible.
## 7.3. Morphismes entre représentations standards

Nous allons introduire les représentations standard de $G_{N'}$ de caractère infinitésimal $\lambda'$ et maximales pour le $\mathcal{G}$-ordre de Bruhat (cf. [57, 58]). Ce sont des séries principales. On suppose que $\lambda' = (\lambda'_1, \dots, \lambda'_{N'})$ est donné dans un ordre standard, c'est-à-dire que $(\Re e(\lambda'_i))_i$ est une suite croissante.

**DÉFinition 7.6.** — Soit $\underline{\varepsilon}' = (\varepsilon'_1, \dots, \varepsilon'_{N'}) \in \{\text{Triv}, \text{sgn}\}^{N'}$. Posons alors

$$I(\underline{\varepsilon}', \lambda') = \varepsilon'_1 \nu^{\lambda'_1} \times \varepsilon'_2 \nu^{\lambda'_2} \times \dots \times \varepsilon'_{N'} \nu^{\lambda'_{N'}}. \quad (7.3)$$

C'est une représentation standard de $G_{N'}$. Posons aussi

$$I_{\mathcal{M}}^{\underline{\varepsilon}'} = X(1) \otimes I(\underline{\varepsilon}', \lambda'). \quad (7.4)$$

**Remarque 7.7.** — Soit $\pi$ un sous-quotient irréductible de $I_{\mathcal{M}}^{\underline{\varepsilon}'}$ et soit $X_{\pi}$ le module standard dont $\pi$ est l'unique sous-module irréductible. Il découle de la remarque 7.2 que tous les sous-quotients irréductibles de $X_{\pi}$ sont dans $\mathcal{E}$.

**LEMME 7.8.** — Soit $\pi_M = \pi_1 \otimes \pi' \in \mathcal{E}$. Soit $X_M$ le module standard de $M$ dont $\pi_M$ est l'unique sous-module irréductible. C'est un produit tensoriel des modules standard $X_1$ de $G_{N_1}$ et $X'$ de $G_{N'}$ dont $\pi_1$ et $\pi'$ sont les uniques sous-modules irréductibles.

Alors il existe un morphisme surjectif (de représentations de $G_{N_1}$)

$$h_1 : X(1) \to X_1,$$

et il existe $\underline{\varepsilon}' = (\varepsilon'_1, \dots, \varepsilon'_{N'}) \in \{\text{Triv}, \text{sgn}\}^{N'}$ et un morphisme surjectif (de représentations de $G_{N'}$)

$$h' : I(\underline{\varepsilon}', \lambda') \to X.$$

**Démonstration.** — Le premier point découle immédiatement par une récurrence sur la longueur du fait que si $w, w'$ sont dans $\mathfrak{S}_a$ avec $w <_B w'$ et $\ell(w) = \ell(w') - 1$, alors le morphisme $f_{w,w'}$ entrant dans la résolution (6.4) est surjectif. Pour le second, on raisonne par récurrence sur $N'$. Il n'y a rien à montrer si $N' = 1$, et si $N' = 2$ ou $N' = 3$ l'assertion du lemme est facile à vérifier car la structure des représentations standard est totalement connue dans ces petits rangs. On suppose donc $N' \ge 4$ et le résultat établi pour $N'' < N'$. On écrit

$$X' = \sigma \times \rho \quad (7.5)$$

où $\sigma$ est une série discrète de $G_d$, $d = 1$ ou $2$, et $\rho$ une représentation standard de $G_{N'-d}$. Rappelons que la condition pour que $X'$ soit une représentation standard admettant une unique sous-représentation irréductible est que ce soit une induite de séries discrètes écrites dans un ordre standard. Or, avec les notations de la définition 3.1, $e(\varepsilon\nu^\lambda) = \Re e(\lambda)$ et $e(\delta(\alpha_1, \alpha_2)) = \Re e(\frac{\alpha_1+\alpha_2}{2})$.
Si $d=1$ ceci implique que la représentation $\sigma$ est de la forme $\varepsilon'_1\nu^{\lambda'_1}$. Si $d=2$, alors nécessairement dans l'écriture de $X'$ en produit de séries discrètes dans l'ordre standard inverse, il apparaît une série discrète de la forme $\delta(\lambda'_1, \lambda'_s)$ (avec en particulier $\Re(\lambda'_s) > \Re(\lambda'_1)$) et à gauche de celle-ci dans le produit uniquement des séries discrètes $\delta(\lambda'_j, \lambda'_k)$ pour $j < k \in \{2, \dots, s-1\}$ avec $\Re\left(\frac{\lambda'_j+\lambda'_k}{2}\right) \le \Re\left(\frac{\lambda'_j+\lambda'_s}{2}\right)$. Or, d'après le théorème 7.4, on a alors

$$\delta(\lambda'_j, \lambda'_k) \times \delta(\lambda'_1, \lambda'_s) = \delta(\lambda'_1, \lambda'_s) \times \delta(\lambda'_j, \lambda'_k)$$

car les deux membres sont des représentations irréductibles. On peut donc supposer que l'on a $\sigma = \delta(\lambda'_1, \lambda'_s)$ dans (7.5).

Dans le cas $d=1$, on conclut en appliquant l'hypothèse de récurrence à $\rho$: il existe des caractères $\varepsilon'_i \in \{\text{Triv}, \text{sgn}\}$, $i=2, \dots, N'$, tels que l'on ait un morphisme surjectif

$$\varepsilon'_2 \nu^{\lambda'_2} \times \dots \times \varepsilon'_{N'} \nu^{\lambda'_{N'}} \to \rho$$

et l'on en déduit par fonctorialité de l'induction parabolique un morphisme surjectif

$$\varepsilon'_1 \nu^{\lambda'_1} \times \dots \times \varepsilon'_{N'} \nu^{\lambda'_{N'}} \to \sigma \times \rho = X'$$

Si $\sigma = \delta(\lambda'_1, \lambda'_s)$ pour un $s \in \{2, \dots, N'\}$, on applique encore l'hypothèse de récurrence à $\rho$: il existe des caractères $\varepsilon_i \in \{\text{Triv}, \text{sgn}\}$, $i \in \{2, \dots, N'\} \setminus \{s\}$, tels que l'on ait un morphisme surjectif

$$\varepsilon'_2 \nu^{\lambda'_2} \times \dots \times \varepsilon'_{s-1} \nu^{\lambda'_{s-1}} \times \varepsilon'_{s+1} \nu^{\lambda'_{s+1}} \times \dots \times \varepsilon'_{N'} \nu^{\lambda'_{N'}} \to \rho.$$

Par fonctorialité de l'induction parabolique, on a un morphisme surjectif
$$\delta(\lambda'_1, \lambda'_s) \times \varepsilon'_2 \nu^{\lambda'_2} \times \dots \times \varepsilon'_{s-1} \nu^{\lambda'_{s-1}} \times \varepsilon'_{s+1} \nu^{\lambda'_{s+1}} \times \dots \times \varepsilon'_{N'} \nu^{\lambda'_{N'}} \to \sigma \times \rho = X'$$

Si $s=2$, comme il existe $\varepsilon'_1, \varepsilon'_2 \in \{\text{Triv}, \text{sgn}\}$ et un morphisme surjectif

$$\varepsilon'_1 \nu^{\lambda'_1} \times \varepsilon'_2 \nu^{\lambda'_2} \to \delta(\lambda'_1, \lambda'_2),$$

on en déduit immédiatement l'assertion. Supposons donc $s \ge 3$. Si $\Re(\lambda'_s) = \Re(\lambda'_2)$, alors $\Re(\lambda'_i) = \Re(\lambda'_2)$ pour tout $i \in \{2, \dots, s\}$ et l'on est ramené au cas précédent grâce au théorème 7.4. Si $\Re(\lambda'_2) < \Re(\lambda'_s)$, il existe $\varepsilon'_1 \in \{\text{Triv}, \text{sgn}\}$ et un morphisme surjectif

$$\varepsilon'_1 \nu^{\lambda'_1} \times \delta(\lambda'_2, \lambda'_s) \to \delta(\lambda'_1, \lambda'_s) \times \varepsilon'_2 \nu^{\lambda'_2}$$

(c'est une situation dans $\text{GL}_3(\mathbb{R})$). On a donc un morphisme surjectif

$$\varepsilon'_1 \nu^{\lambda'_1} \times \delta(\lambda'_2, \lambda'_s) \times \varepsilon'_3 \nu^{\lambda'_3} \times \dots \times \varepsilon'_{s-1} \nu^{\lambda'_{s-1}} \times \varepsilon'_{s+1} \nu^{\lambda'_{s+1}} \times \dots \times \varepsilon'_{N'} \nu^{\lambda'_{N'}} \to X'$$

On applique encore une fois l'hypothèse de récurrence à $\delta(\lambda'_2, \lambda'_s) \times \varepsilon'_3 \nu^{\lambda'_3} \times \dots \times \varepsilon'_{s-1} \nu^{\lambda'_{s-1}} \times \varepsilon'_{s+1} \nu^{\lambda'_{s+1}} \times \dots \times \varepsilon'_{N'} \nu^{\lambda'_{N'}}$ pour conclure. $\square$
7.4. Opérateurs d'entrelacement

Définissons l'automorphisme involutif θ_M par la formule

$$
m = \begin{pmatrix} g_1 & \\ & g' \end{pmatrix} \mapsto \theta_M(m) = \begin{pmatrix} \theta_{N_1}(g_1) & \\ & \theta_{N'}(g') \end{pmatrix}. \quad (7.6)
$$

Posons $J_M = \begin{pmatrix} J_{N_1} & \\ & J_{N'} \end{pmatrix}$. On a alors $\theta_M(m) = J_M(t^m - 1)J_M^{-1}$. Posons aussi

$$
w_M = J_N J_M^{-1}. \tag{7.7}
$$

Soient $P'$ le sous-groupe parabolique standard de facteur de Levi $w_M \cdot M \cdot w_M^{-1}$ et $N'$ son radical unipotent. On définit, pour tout $\mathfrak{s} = (s_1, s') \in \mathbb{C}^2$, le caractère $\chi_{\mathfrak{s}}$ de $M$ par la formule

$$
\chi_{\mathfrak{s}}(m) = |\det(g_1)|^{s_1} \times |\det(g')|^{s'}
$$

lorsque $m \in M$ est comme en (7.6).

Soit $\pi_M$ une représentation de $M$ (disons de longueur finie). On définit
l'opérateur d'entrelacement

$$
M(\underline{s}, w_M, \pi_M) : \mathrm{Ind}_P^{G_N}(\pi_M \otimes \chi_{\underline{s}}) \to \mathrm{Ind}_{P'}^{G_N}(w_M \cdot (\pi_M \otimes \chi_{\underline{s}})) \quad (7.8)
$$

comme fonction méromorphe de $\underline{s}$ par prolongement analytique d'une for-
mule intégrale ([27, 28, 47], voir aussi [6, §1]). Plus précisément, on considère
une autre réalisation de $\mathrm{Ind}_P^{G_N}(\pi_M \otimes \chi_{\underline{s}})$, où l'espace de la représentation
est un espace de fonctions $\mathcal{H}_P(\pi_M)$ sur le compact maximal $G_N^\tau$ de $G_N$, cet
espace ayant l'avantage de ne pas dépendre de $\underline{s}$ (c'est l'action de $G_N$ qui en
dépend). Si $f \in \mathcal{H}_P(\pi_M)$, soit $f_{\underline{s}}$ la fonction de $\mathrm{Ind}_P^{G_N}(\pi_M \otimes \chi_{\underline{s}})$ qui lui cor-
respond par l'isomorphisme (donné en (5.11) avec des notations légèrement
différentes) entre $\mathcal{H}_P(\pi_M)$ et $\mathrm{Ind}_P^{G_N}(\pi_M \otimes \chi_{\underline{s}})$. On pose alors

$$
(M(\underline{s}, w_M, \pi_M)(f_{\underline{s}}))(g) = \int_{N'} f_{\underline{s}}(w_M^{-1} n' g) \, dn'. \quad (7.9)
$$

Cette intégrale converge absolument dans un certain cône de $\mathbb{C}^N$ et est ana-
lytique en $\underline{s}$ dans ce cône. Elle admet un prolongement méromorphe à $\mathbb{C}^N$.

Remarquons que $M(\underline{s}, w_M, \pi_M)$ dépend du choix de l’élément $w_M$ fait ci-dessus et pas seulement de sa classe dans $N_G(M)/M$.

Posons $N_{M,\emptyset} = M \cap N_d$, $N_{M',\emptyset} = M' \cap N_d$. La donnée de Whittaker
$(B_d, \chi)$ pour $G_N$ définit par restriction des données de Whittaker $(B_d \cap
M, \chi_{N_{M,\emptyset}})$ et $(B_d \cap M', \chi_{N_{M',\emptyset}})$. On a $w_M^{-1} \cdot N_{M',\emptyset} = N_{M,\emptyset}$ et $w_M \cdot \chi_{N_{M,\emptyset}} =
\chi_{N_{M',\emptyset}}$.
Nous avons introduit en (7.4) les représentations standard $I_M^{\epsilon'}$ de $M$, $\epsilon' \in \{\text{Triv}, \text{sgn}\}^{N'}$. Pour un tel $\epsilon'$, fixons $\Omega_M^{\epsilon'}$ une fonctionnelle de Whittaker non nulle sur $I_M^{\epsilon'}$. On vérifie facilement que $\Omega_M^{\epsilon'}$ est aussi une fonctionnelle de Whittaker pour $I_M^{\epsilon'} \otimes \chi_s$ ainsi que pour $w_M \cdot (I_M^{\epsilon'} \otimes \chi_s)$.

La formule intégrale (5.12), ou plutôt son prolongement analytique, définit (cf. (5.13)) des fonctionnelles de Whittaker non nulles sur $\text{Ind}_P^{G_N}(I_M^{\epsilon'} \otimes \chi_s)$ et $\text{Ind}_{P'}^{G_N}(w_M \cdot (I_M^{\epsilon'} \otimes \chi_s))$ que nous notons respectivement $\Omega^{\epsilon'}(s)$ et $\Omega^{\prime\epsilon'}(s)$.

La proposition suivante utilise de manière cruciale les résultats de F. Shahidi [48].

PROPOSITION 7.9.

(1) Il existe une fonction méromorphe $s \mapsto r(s)$ telle que pour tout $\epsilon' \in \{\text{Triv}, \text{sgn}\}^{N_r}$, l'opérateur d'entrelacement

$$N(\underline{s}, w_M, I_M^{\underline{\epsilon}'}) = r(\underline{s})^{-1} M(\underline{s}, w_M, I_M^{\underline{\epsilon}'}) \quad (7.10)$$

soit holomorphe et inversible au point $s = 0$ et vérifie

$$\Omega^{\underline{\epsilon}'}(\underline{s}) = \Omega^{\prime\underline{\epsilon}'}(\underline{s}) \circ N(\underline{s}, w_M, I_M^{\underline{\epsilon}'}) \quad (7.11)$$

(2) Pour toute représentation de longueur finie $\pi_M$ de $M$ dont tous les sous-quotients irréductibles sont dans $\mathscr{E}$, l'opérateur

$$N(\underline{s}, w_M, \pi_M) = r(\underline{s})^{-1} M(\underline{s}, w_M, \pi_M) \quad (7.12)$$

est alors holomorphe et inversible au point $s = 0$. (Remarquons que le facteur $r$ ne dépend pas de $\pi_M$.)

(3) Si de plus $\pi_M$ est standard et si $\Omega_M$ est une fonctionnelle de Whittaker non nulle sur $\pi_M$, alors $\text{Ind}_P^{G_N}(\pi_M \otimes \chi_s)$ et $\text{Ind}_{P'}^{G_N}(w_M \cdot (\pi_M \otimes \chi_s))$ admettent des fonctionnelles de Whittaker non nulles $\Omega(\underline{s})$ et $\Omega'(\underline{s})$ fixées comme ci-dessus (prolongement analytique (5.13) de la formule intégrale (5.12)) et

$$\Omega(\underline{s}) = \Omega'(\underline{s}) \circ N(\underline{s}, w_M, \pi_M) \quad (7.13)$$

Démonstration. — Commençons par montrer (1). Posons pour tout $\underline{\epsilon}' = (\underline{\epsilon}'_1, \dots, \underline{\epsilon}'_{N'}) \in \{\text{Triv}, \text{sgn}\}^{N'}$ et pour tout $i = 1, \dots, a$,

$$\delta_{1,k}^{\underline{\epsilon}'} = \delta_{1,k} = \delta \left( \frac{-p - (a-1)}{2} + (k-1), \frac{p - (a-1)}{2} + (k-1) \right).$$

Posons aussi pour tout $\underline{\epsilon}' = (\underline{\epsilon}'_1, \dots, \underline{\epsilon}'_{N'}) \in \{\text{Triv}, \text{sgn}\}^{N'}$ et pour tout $j = 1, \dots, N'$,

$$\delta_{2,j} = \nu^{\lambda'_j}, \quad \delta_{2,j}^{\underline{\epsilon}'} = \underline{\epsilon}'_j \nu^{\lambda'_j}.$$
Soit $\bar{w}_M$ l'élément de groupe de Weyl $W_G$ dont $w_M$ est un représentant et écrivons

$$ \bar{w}_M = \bar{\tau}_{j_1}, \dots, \bar{\tau}_{j_l} $$

comme produit de longueur minimale de générateurs de $W_G$ (ce groupe est isomorphe à $\mathfrak{S}_N$ et $\bar{\tau}_k$ correspond à la transposition $(k, k+1)$ par cet isomorphisme. Soient $\tau_{j_1}, \dots, \tau_{j_l}$ des représentants des $\bar{\tau}_i$ dans $G$, de sorte que $w_M = \tau_{j_1} \dots \tau_{j_l}$. On a alors une factorisation de l'opérateur d'entrelacement

$$ M(\underline{s}, w_M, I_M^{\underline{\epsilon'}}) : X(1)\nu^{s_1} \times I(\underline{\epsilon'}, \lambda')\nu^{s'} \to I(\underline{\epsilon'}, \lambda')\nu^{s'} \times X(1)\nu^{s_1} \quad (7.14) $$

en produit d'opérateurs d'entrelacement correspondant aux $\tau_{j_k}$. En effet, nous avons :

$$ X(1)^{\underline{\epsilon'}} := X(1) = \times_{i=1,\dots,a} \delta_{1,i}^{\underline{\epsilon'}}, \quad I(\underline{\epsilon'}, \lambda') = \times_{j=1,\dots,N'} \delta_{2,j}^{\underline{\epsilon'}}. $$

Considérons un produit des $\delta_{i,i'}^{\underline{\epsilon'}} \nu^{s_i}$ dans un ordre quelconque. Lorsque deux couples $(j, j')$, $(k, k')$ dans ce produit sont tels que $\delta_{j,j'}^{\underline{\epsilon'}} \nu^{s_j}$ apparaît immédiatement à gauche de $\delta_{k,k'}^{\underline{\epsilon'}} \nu^{s_k}$, disons en position $m$ et $m+1$, notons encore $M_{j,j',k,k'}^{\underline{\epsilon'}}(\tau_m, \underline{s})$ l'opérateur d'entrelacement échangeant ces deux facteurs par

$$ \delta_{j,j'}^{\underline{\epsilon'}} \nu^{s_j} \times \delta_{k,k'}^{\underline{\epsilon'}} \nu^{s_k} \to \delta_{k,k'}^{\underline{\epsilon'}} \nu^{s_k} \times \delta_{j,j'}^{\underline{\epsilon'}} \nu^{s_j} \quad (7.15) $$

et agissant trivialment sur les autres. Ainsi $M(\underline{s}, w_M, I_M^{\underline{\epsilon'}})$ peut s'écrire comme composition d'opérateurs $M_{j,j',k,k'}^{\underline{\epsilon'}}(\tau_m, \underline{s})$ avec $j=1$ et $k=2$. Soit $r_{j,j',k,k'}^{\underline{\epsilon'}}(\underline{s})$ la fonction méromorphe introduite par F. Shahidi dans [48, §3.1] comme facteur de normalisation de l'opérateur $M_{j,j',k,k'}^{\underline{\epsilon'}}(\tau_m, \underline{s})$, et posons

$$ N_{j,j',k,k'}^{\underline{\epsilon'}}(\tau_m, \underline{s}) = r_{j,j',k,k'}^{\underline{\epsilon'}}(\underline{s})^{-1} M_{j,j',k,k'}^{\underline{\epsilon'}}(\tau_m, \underline{s}). $$

Comme $\delta_{j,j'}^{\underline{\epsilon'}} \times \delta_{k,k'}^{\underline{\epsilon'}} \simeq \delta_{k,k'}^{\underline{\epsilon'}} \times \delta_{j,j'}^{\underline{\epsilon'}}$ est irréductible, $N_{j,j',k,k'}^{\underline{\epsilon'}}(\tau_m, \underline{s})$ est holo-morphe et bijectif en $\underline{s} = 0$. D'autre part, et c'est crucial, remarquons que les fonctions $r_{j,j',k,k'}^{\underline{\epsilon'}}(\underline{s})$ ne dépendent pas de $\underline{\epsilon'}$. C'est clair si $j = k = 1$, et si $j = 1$ et $k = 2$ on a :

$$ \begin{align*} & \delta_{1,j'}^{\underline{\epsilon'}} \nu^{s_1} \times \delta_{2,k'}^{\underline{\epsilon'}} \nu^{s_2} \\ &= \delta \left( \frac{-p - (a+1)}{2} + j', \frac{p - (a+1)}{2} + j' \right) \nu^{s_1} \times \varepsilon_{k'}^{\epsilon'} \nu^{\lambda_{k'} \nu^{s_2}} \\ &= \varepsilon_{k'}^{\epsilon'} \left( \delta \left( \frac{-p - (a+1)}{2} + j', \frac{p - (a+1)}{2} + j' \right) \nu^{s_1} \times \nu^{\lambda_{k'} \nu^{s_2}} \right) \\ &= \varepsilon_{k'}^{\epsilon'} (\delta_{1,j'} \nu^{s_1} \times \delta_{2,k'} \nu^{s_2}). \end{align*} $$
De même, on a un diagramme commutatif

<figure><img src="image_1.png" /></figure>

les colonnes étant exactes. Il en découle immédiatement que $N(\underline{s}, I_{\underline{M}|\underline{V}_2}^{\underline{\epsilon}'})$ et $N(\underline{s}, \pi_M)$ sont holomorphes en $\underline{s} = 0$, le premier étant aussi inversible et le second surjectif. Si $v \in \ker(N(0, \pi_M))$, relevons $v$ en un élément $w \in \text{Ind}_P^{G_N}(I_{M|V_1}^{\underline{\epsilon}'})$. L'élément $N(0, I_{M|V_1}^{\underline{\epsilon}'}) (w)$ se projette sur l'élément nul de $\text{Ind}_{P'}^{G_N}(w_M \cdot \pi_M)$ et est donc dans l'image de $\text{Ind}_{P'}^{G_N}(w_M \cdot (I_{M|V_2}^{\underline{\epsilon}'}))$. L'élément $w$ est donc dans l'image de $\text{Ind}_P^{G_N}(I_{M|V_2}^{\underline{\epsilon}'})$, et ainsi $v = 0$, ce qui montre que $N(0, \pi_M)$ est injectif. La première assertion du (ii) est donc démontrée pour $\pi_M$ irréductible.

Passons au cas général. Supposons que $N(\underline{s}, \pi_M)$ ait un pôle en $\underline{s} = 0$. Choisissons une fonction holomorphe $\underline{s} \mapsto l(\underline{s})$ telle que $l(0) = 0$ et $\underline{s} \mapsto l(\underline{s})N(\underline{s}, \pi_M)$ soit holomorphe non nul en $\underline{s} = 0$. Soit $V$ un sous-module irréductible non nul de

$$ \text{Ind}_P^{G_N}(\pi_M)/\ker[(l(s)N(\underline{s}, \pi_M))_{s=0}]. $$

Comme tout sous-quotient de $\pi_M$ est dans $\mathscr{E}$, il existe un $\pi'_M \in \mathscr{E}$ tel que $V \simeq \text{Ind}_P^{G_N}(\pi'_M)$. L'opérateur $l(\underline{s})N(\underline{s}, \pi'_M)$ est holomorphe et non nul en $\underline{s} = 0$ par définition de $l$ et de $V$. D'autre part, nous avons montré ci-dessus que $N(\underline{s}, \pi'_M)$ est holomorphe en $\underline{s} = 0$. On obtient alors $(l(s)N(\underline{s}, \pi'_M))_{s=0} = 0$ ce qui constitue une contradiction. L'opérateur $N(\underline{s}, \pi_M)$ est donc holomorphe en $\underline{s} = 0$.

Supposons ker[$N(0, \pi_M)$] non nul, et soit $V$ un sous-module irréductible de ker[$N(0, \pi_M)$]. Il existe $\pi'_M \in \mathscr{E}$ tel que $V \simeq \text{Ind}_P^{G_N}(\pi'_M)$. Nous avons montré ci-dessus que l'opérateur $N(\underline{s}, \pi'_M)$ est holomorphe et inversible en $s = 0$.
Ceci est manifestement incompatible avec le fait que $N(0, \pi_M)$ soit nul sur $V$. Ceci montre que $N(0, \pi_M)$ est injectif. On montre de même que $N(0, \pi_M)$ est surjectif en considérant un quotient irréductible $V$ de coker[$N(0, \pi_M)$]. Ceci termine de montrer (2).

Il reste à montrer le dernier point (3) concernant les fonctionnelles de Whittaker. Soit $\pi_M = \pi_1 \otimes \pi' \in \mathcal{E}$. Soit $X_M$ le module standard de $M$ dont $\pi_M$ est l'unique sous-module irréductible. C'est un produit tensoriel des modules standard $X_1$ de $GL_{N_1}(\mathbb{R})$ et $X'$ de $GL_{N'}(\mathbb{R})$ dont les $\pi_1$ et $\pi'$ sont les uniques sous-module irréductibles. Rappelons les morphismes surjectifs $h_1$ et $h'$ du lemme 7.8. Notons $h_M(s) : (X(1) \otimes I(\varepsilon', \lambda')) \otimes \chi_s \to X_M \otimes \chi_s$ le morphisme surjectif (de représentations de $M$) obtenu par produit tensoriel de $h_1$ et $h'$ et

$$h(s) = \mathrm{Ind}_{P=MN}^{G_N}(h_M(s)) : \mathrm{Ind}_{P=MN}^{G_N}((X(1) \otimes I(\varepsilon', \lambda')) \otimes \chi_s) \to \mathrm{Ind}_{P=MN}^{G_N}(X_M \otimes \chi_s)$$

le morphisme de représentations de $G_N$ obtenu par le foncteur d'induction. On a aussi un morphisme obtenu de manière analogue :

$$h_{w_M}(s) : \mathrm{Ind}_{P'}^{G_N}(w_M \cdot ((X(1) \otimes I(\varepsilon', \lambda')) \otimes \chi_s)) \to \mathrm{Ind}_{P'}^{G_N}(w_M \cdot (X_M \otimes \chi_s)).$$

Soient $\Omega_M$ une fonctionnelle de Whittaker non nulle sur $X_M$. Soient $\Omega(s)$ et $\Omega'(s)$ les fonctionnelles de Whittaker sur $\mathrm{Ind}_{P=MN}^{G_N}(X_M \otimes \chi_s)$ et $\mathrm{Ind}_{P'}^{G_N}(w_M \cdot (X_M \otimes \chi_s))$ respectivement obtenues par (5.12) et (5.13). En composant respectivement par $h(s)$ et $h_{w_M}(s)$, on obtient des fonctionnelles de Whittaker non nulles sur $\mathrm{Ind}_{P=MN}^{G_N}((X(1) \otimes I(\varepsilon', \lambda')) \otimes \chi_s)$ et $\mathrm{Ind}_{P'}^{G_N}(w_M \cdot ((X(1) \otimes I(\varepsilon', \lambda')) \otimes \chi_s))$. Notons-les $\omega(s)$ et $\omega'(s)$. Les fonctionnelles de Whittaker $\omega(s)$ et $\omega'(s)$ sont obtenues par (5.12) et (5.13) à partir de la fonctionnelle de Whittaker $f \mapsto \Omega_M([g \mapsto h_M(f(g))])$ sur $X(1) \otimes I(\varepsilon', \lambda')$.

Considérons le diagramme suivant :

<figure><img src="image_2.png" /></figure>

Nous laissons au lecteur le soin de vérifier que ce diagramme est commutatif.
On a vu que $\omega(\underline{s}) = \omega'(\underline{s}) \circ N(\underline{s}, (X(1) \otimes I(\underline{\epsilon}', \lambda'))). On a donc comme
$\omega = \Omega \circ h$ et $\omega' = \Omega' \circ h_{w_M}$,

$$
\begin{align*}
\Omega(\underline{s}) \circ h(\underline{s}) &= \Omega'(\underline{s}) \circ h_{w_M}(\underline{s}) \circ N(\underline{s}, (X(1) \otimes I(\underline{\epsilon}', \lambda')) \\
&= \Omega'(\underline{s}) \circ N(\underline{s}, X_M) \circ h(\underline{s})
\end{align*}
$$

et comme $h(\underline{s})$ est surjective, on a bien $\Omega(\underline{s}) = \Omega'(\underline{s}) \circ N(\underline{s}, X_M)$. Ceci termine
la démonstration de la proposition. $\square$

**7.5. Induction**

Notre but est maintenant de construire un foncteur d'induction $\widetilde{\mathrm{Ind}}_{\widetilde{M}}^{\widetilde{G}_N}$.
La catégorie de départ de ce foncteur est celle des représentations $(\tilde{\pi}_M, \pi_M)$
de l'espace tordu $\widetilde{M} = M \times \theta_M$ telles que $\pi_M$ soit de longueur finie et
ait tous ses sous-quotients irréductibles dans $\mathscr{E}$. La catégorie d'arrivée est
celle des représentations de l'espace tordu $\widetilde{G}_N$. Remarquons que le fait que
$\pi_M$ soit $\theta_M$-stable impose des conditions sur le caractère infinitésimal $\lambda'$ de
$\mathbf{GL}_{N'}(\mathbb{R})$ : celui-ci doit être stable par changement de signe de toutes ses
coordonnées, ce que l'on suppose désormais.

Soit $(\tilde{\pi}_M, \pi_M)$ une telle représentation de l'espace tordu $\widetilde{M} = M \times \theta_M$.
Posons $A_{\theta_M} = \tilde{\pi}(\theta_M)$, que l'on peut voir comme un opérateur d'entrelacement

$$
A_{\theta_M} : \pi_M \to \pi_M^{\theta_M}.
$$

Soit $\mathcal{A}$ le morphisme obtenu en appliquant le foncteur d'induction parabolique $\mathrm{Ind}_{P=MN}^{G_N}$ :

$$
\mathcal{A} = \mathrm{Ind}_{P=MN}^{G_N}(A_{\theta_M}) : \mathrm{Ind}_{P=MN}^{G_N}(\pi_M) \longrightarrow \mathrm{Ind}_{P=MN}^{G_N}(\pi_M^{\theta_M}).
$$

On a aussi un opérateur d'entrelacement

$$
\begin{gather*}
\vartheta : \mathrm{Ind}_{P'}^{G_N}(\pi_M^{\theta_M}) \simeq \mathrm{Ind}_{P'}^{G_N}(w_M \cdot (\pi_M^{\theta_M})) \longrightarrow (\mathrm{Ind}_P^{G_N}(\pi_M))^{\theta_N}, \\
f \longmapsto f \circ \theta_N.
\end{gather*}
$$

On obtient par composition un morphisme $A_{\theta_N}$ :

$$
\begin{equation} \tag{7.16}
\begin{aligned}
\mathrm{Ind}_P^{G_N}(\pi_M) \xrightarrow{A} \mathrm{Ind}_{P=MN}^{G_N}(\pi_M^{\theta_M}) &\xrightarrow{N(0, \pi_M^{\theta_M})} \mathrm{Ind}_{P'}^{G_N}(w_M \cdot (\pi_M^{\theta_M})) \\
&\xrightarrow{\vartheta} (\mathrm{Ind}_P^{G_N}(\pi_M))^{\theta_N}.
\end{aligned}
\end{equation}
$$

Définissons alors $(\tilde{\pi}, \pi) = \widetilde{\mathrm{Ind}}_{\widetilde{M}}^{\widetilde{G}_N} (\tilde{\pi}_M, \pi_M)$ par

$$
\pi = \mathrm{Ind}_P^{G_N}(\pi_M), \quad \tilde{\pi}(\theta_N) = A_{\theta_N}. \tag{7.17}
$$
Si $\varphi$ est un morphisme entre $(\tilde{\pi}_M, \pi_M)$ et $(\tilde{\pi}'_M, \pi'_M)$, on a le morphisme

$$ \mathrm{Ind}_P^{G_N}(\varphi) : \pi = \mathrm{Ind}_P^{G_N}(\pi_M) \to \pi' = \mathrm{Ind}_P^{G_N}(\pi'_M), $$

et il faut voir qu'il entrelace aussi les actions de $A_{\theta_N} = \tilde{\pi}(\theta_N)$ et $A'_{\theta_N} = \tilde{\pi}'(\theta_N)$, c'est-à-dire que le diagramme

$$
\begin{tikzcd}
& & \mathrm{Ind}_P^{G_N}(\pi_M) \arrow[r, "\mathrm{Ind}_P^{G_N}(\varphi)"] \arrow[d, "A"] & \mathrm{Ind}_P^{G_N}(\pi'_M) \arrow[d, "A"] \\
\mathrm{Ind}_{P=MN}^{G_N}(\pi_M^{\theta_M}) & \mathrm{Ind}_{P=MN}^{G_N}(\pi'_M^{\theta_M}) & \mathrm{Ind}_{P=MN}^{G_N}(w_M \cdot (\pi_M^{\theta_M})) & \mathrm{Ind}_{P=MN}^{G_N}(w_M \cdot (\pi'_M^{\theta_M})) \arrow[d, "N(0, \pi_M^{\theta_M})"'] \arrow[d, "N(0, \pi'_M^{\theta_M})"'] \\
\mathrm{Ind}_P^{G_N}(\varphi) & \mathrm{Ind}_P^{G_N}(\varphi) & \mathrm{Ind}_P^{G_N}(\varphi) & (\mathrm{Ind}_P^{G_N}(\pi_M^{\theta_M}))^{\theta_N} \arrow[r, "\mathrm{Ind}_P^{G_N}(\varphi)"] \arrow[d, "\vartheta"'] \arrow[d, "\vartheta"']
\end{tikzcd}
\quad (7.18)
$$

commute.

Commençons par le carré de gauche. La flèche verticale à droite de celui-ci est encore $\mathrm{Ind}_P^{G_N}(\varphi)$ car $\varphi$ est aussi un opérateur d'entrelacement entre $\pi_M^{\theta_M}$ et $\pi_M'^{\theta_M}$. Les opérateurs $\mathcal{A}$ sont obtenus par composition à gauche par $A_{\theta_M}$, les opérateurs $\mathrm{Ind}_P^{G_N}(\varphi)$ par composition à gauche par $\varphi$ et la commutativité du diagramme vient donc du fait que $A_{\theta_M}$ et $\varphi$ commutent. Passons ensuite au carré central. La flèche verticale de droite est cette fois $\mathrm{Ind}_P^{G_M}(\varphi)$. Il est équivalent de vérifier la commutativité du diagramme où l'on remplace $\pi_M^{\theta_M}$ et $\pi_M'^{\theta_M}$ par $\pi_M$ et $\pi_M'$. On vérifie la commutativité par unicité du prolongement analytique et calcul direct avec les formules intégrales dans le domaine de convergence : soit $f \in \mathrm{Ind}_{P=MN}^{G_N}(\pi_M)$. On a alors

$$ (M(\underline{s}, \pi_M)(f_{\underline{s}}))(g) = \int_{N'} f_{\underline{s}}(w_M^{-1} n'g) \, dn' \quad (7.19) $$

et

$$ \left( \mathrm{Ind}_{P'}^{G_N}(\varphi) (M(\underline{s}, \pi_M)(f_{\underline{s}})) \right) (g) = \varphi \left( \int_{N'} f_{\underline{s}}(w_M^{-1} n'g) \, dn' \right). \quad (7.20) $$

D'autre part

$$ (\mathrm{Ind}_P^{G_N}(\varphi)(f_{\underline{s}}))(g) = \varphi(f_{\underline{s}}(g)) \quad (7.21) $$

et

$$ (M(\underline{s}, \pi'_M)(\mathrm{Ind}_P^{G_N}(\varphi)(f_{\underline{s}})))(g) = \int_{N'} \varphi(f_{\underline{s}}(w_M^{-1} n'g)) \, dn'. \quad (7.22) $$
La commutativité du diagramme vient de l'égalité des membres de droite de (7.20) et (7.22), évidente par linéarité de l'intégrale, que l'on multiplie par le facteur $r(s)$ et que l'on évalue en $s = 0$.

Enfin, pour le carré de droite, on fait de même : soit $f \in \text{Ind}_{P'}^{G_N}(w_M \cdot (\pi_M^{\theta_M}))$. On a alors

$$ (\vartheta(f))(g) = f(\theta_N(g)) \qquad (7.23) $$

et

$$ (\text{Ind}_P^{G_N}(\varphi)(\vartheta(f)))(g) = \varphi(f(\theta_N(g))). \qquad (7.24) $$

D'autre part

$$ (\text{Ind}_{P'}^{G_N}(\varphi)(f))(g) = \varphi(f(g)) \qquad (7.25) $$

et

$$ (\vartheta(\text{Ind}_{P'}^{G_N}(\varphi)(f)))(g) = \varphi(f(\theta_N(g))). \qquad (7.26) $$

Ceci termine la démonstration de la commutativité du diagramme. $\square$

Remarque 7.10. — Il découle de l'exactitude du foncteur $\text{Ind}_P^{G_N}$ que le foncteur $\widetilde{\text{Ind}}_{\widetilde{M}}^{\widetilde{G}_N}$ est aussi exact.

LEMME 7.11. — Soient $X_M$ un module standard $\theta_M$-stable de $M$ dont tous les sous-quotients irréductibles sont dans $\mathscr{E}$ et $\Omega_M$ une fonctionnelle de Whittaker non nulle sur $X_M$. Soit $A_{\theta_M} : X_M \to X_M^{\theta_M}$ un opérateur d'entrelacement permettant de définir la représentation tordue $(\tilde{X}_M, X_M)$ de $\widetilde{M}$. Supposons que $A_{\theta_M}$ soit tel que $\Omega_M = \Omega_M \circ A_{\theta_M}$. Formons $(\tilde{\pi}, \pi) = \widetilde{\text{Ind}}_{\widetilde{M}}^{\widetilde{G}_N} (\tilde{X}_M, X_M)$ comme ci-dessus, avec $\tilde{\pi}(\theta_M) = A_{\theta_M}$. Soit $\Omega$ la fonctionnelle de Whittaker sur $\text{Ind}_{P=MN}^{G_N}(X_M)$ obtenue par (5.12) et (5.13). Alors $\Omega = \Omega \circ A_{\theta_M}$.

Par unicité à un scalaire près des fonctionnelles de Whittaker sur le module standard $X_M$, on voit que quitte à multiplier $A_{\theta_M}$ par un scalaire non nul, on peut toujours effectivement supposer que $\Omega_M = \Omega_M \circ A_{\theta_M}$.

Démonstration. — La fonctionnelle de Whittaker $\Omega_M$ est aussi une fonctionnelle de Whittaker pour $X_M^{\theta_M}$, à partir de laquelle on obtient des fonctionnelles de Whittaker $\Omega_{\theta_M}$ et $\Omega'_{\theta_M}$ par (5.12) et (5.13) sur $\text{Ind}_P^{G_N}(X_M^{\theta_M})$ et $\text{Ind}_{P'}^{G_N}(w_M \cdot (X_M^{\theta_M}))$ respectivement. D'après la proposition 7.9

$$ \Omega_{\theta_M} = \Omega'_{\theta_M} \circ N(0, X_M^{\theta_M}). $$

On montre facilement que $\Omega_{\theta_M} \circ \mathcal{A} = \Omega$ et $\Omega \circ \vartheta = \Omega'_{\theta_M}$, d'où

$$ \Omega = \Omega_{\theta_M} \circ \mathcal{A} = \Omega \circ \vartheta \circ N(0, X_M^{\theta_M}) \circ \mathcal{A} = \Omega \circ A_{\theta_M}. \qquad \square $$
LEMME 7.12. — Si $\pi_M \in \mathcal{E}$ (en particulier $\pi_M$ est irréductible) est $\theta_M$-stable, et si $A_{\theta_M}$ est l'opérateur d'entrelacement permettant de construire l'extension canonique $\pi_M^+$ de $\pi_M$ à $M^+$ comme dans la section 5.2, alors $A_{\theta_N}$ est l'opérateur d'entrelacement permettant de construire l'extension canonique $\text{Ind}_P^{G_N}(\pi_M)^+$ de $\text{Ind}_P^{G_N}(\pi_M)$ à $G_N^+$.

Démonstration. — Soit $X_M$ le module standard de $M$ admettant $\pi_M$ comme sous-module irréductible. C'est un produit tensoriel $X_1 \otimes X'$ de modules standard respectivement de $\mathbf{GL}_{N_1}(\mathbb{R})$ et $\mathbf{GL}_{N'}(\mathbb{R})$. Le corollaire 7.5 nous dit que $\text{Ind}_P^{G_N}(X_M)$ est isomorphe à une représentation standard $X$ de $G_N$. Notons $L : \text{Ind}_P^{G_N}(X_M) \to X$ cet isomorphisme. Le module $X$ étant un module standard $\theta_N$-stable, il est muni de l'opérateur d'entrelacement canonique $A_X$ défini dans la section 5.2. L'opérateur d'entrelacement $A_{\theta_N} : \text{Ind}_P^{G_N}(X_M) \to (\text{Ind}_P^{G_N}(X_M))^{\theta_N}$ est celui du lemme précédent. Il s'agit alors de montrer la commutativité du diagramme

$$ \begin{tikzcd} \text{Ind}_P^{G_N}(\pi_M) \arrow[r] \arrow[d, "A_{\theta_N}"] & \text{Ind}_P^{G_N}(X_M) \arrow[r, "L"] \arrow[d, "A_{\theta_N}"] & X \arrow[d, "A_X"'] \\ (\text{Ind}_P^{G_N}(\pi_M)^{\theta_N}) \arrow[r] & (\text{Ind}_P^{G_N}(X_M))^{\theta_N} \arrow[r, "L"'] & X^{\theta_N} \arrow[d, "A_{\theta_N}"] \end{tikzcd} $$

ce que nous laissons au lecteur.

□

# 8. Paquets d'Adams-Johnson

## 8.1. Paramètres d'Adams-Johnson

Nous redonnons dans cette section des éléments concernant les paramètres d'Arthur considérés par Adams et Johnson [3]. Nous renvoyons aux exposés d'Arthur [8], Kottwitz [30] et Taïbi [55]. Soit $\mathbf{G}$ un groupe algébrique connexe réductif défini sur $\mathbb{R}$ et que l'on suppose quasi-déployé. Les paramètres d'Adams-Johnson sont les paramètres d'Arthur

$$ \psi : W_{\mathbb{R}} \times \mathbf{SL}_2(\mathbb{C}) \to \mathcal{L}G $$

vérifiant des conditions que nous ne redonnons pas ici; nous nous contentons d'en donner certaines conséquences, la plus importante étant que le caractère infinitésimal de $G$ qui leur est associé est celui d'une représentation irréductible de dimension finie $F$, en particulier, il est entier et régulier.

Fixons un épinglage $\text{spl}_{\hat{G}} = (\mathcal{B}, \mathcal{T}, \{\mathcal{X}_\alpha\})$ de $\hat{G}$ et supposons que le $L$-groupe $\mathcal{L}G$ est construit via cet épinglage, c'est-à-dire que l'on suppose que
l'action de $W_R$ sur $\hat{G}$ préserve $\mathbf{spl}_{\hat{G}}$. Si $\psi$ est un paramètre d'Adams-Johnson pour $G$, alors il existe un sous-groupe de levi $\mathcal{L}$ de $\hat{G}$ contenant $\mathcal{T}$ (c'est le centralisateur de $\psi(\mathbb{C}^*)$), un sous-groupe algébrique connexe réductif $\mathbf{L}_*$ de $\mathbf{G}$ défini sur $\mathbb{R}$ dont le dual de Langlands est $\mathcal{L}$, et un plongement de $\mathcal{L}$-groupes

$$ \iota_{L,G} : \mathcal{L}L \to \mathcal{L}G $$

tels que $\psi$ se factorise via ce plongement par un paramètre d'Arthur $\psi_L$ de $L_*$, c'est-à-dire $\psi = \iota_{L,G} \circ \psi_L$. On suppose que le $\mathcal{L}$-groupe $\mathcal{L}L$ est lui aussi construit via l'épinglage $\mathbf{spl}_{\mathcal{L}} = (\mathcal{B} \cap \mathcal{L}, \mathcal{T}, \{\mathcal{X}_\alpha\})$. D'autre part, ce $\psi_L$ est le paramètre d'Arthur d'un caractère unitaire, c'est-à-dire qu'il est obtenu à partir d'un morphisme $\mathbf{SL}_2(\mathbb{C}) \to \mathcal{L}$ principal et d'un élément de $\mathcal{H}^1(W_R, \mathcal{Z}(\mathcal{L}))$. Nous en dirons plus dans la section suivante sur ce sous-groupe $\mathbf{L}_*$, ainsi que sur ses formes intérieures $\mathbf{L}$ lorsque nous décrirons les paquets d'Adams-Johnson.

Le paramètre d'Adams-Johnson $\psi$ détermine aussi un sous-groupe parabolique $\mathcal{Q} = \mathcal{LU}$ de $\hat{G}$, dont $\mathcal{L}$ est facteur de Levi de $\mathcal{Q}$.

## 8.2. Paquets d'Adams-Johnson

Décrivons maintenant le paquet $\Pi_{\psi}^{AJ}$ attaché par Adams et Johnson à un paramètre $\psi$ comme dans la section précédente. Fixons une paire de Borel $(\mathbf{B}, \mathbf{T})$ de $\mathbf{G}$ où $\mathbf{T}$ est un tore maximal défini sur $\mathbb{R}$ et maximalement anisotrope. Soient $\Sigma_{\mathbf{B}}$ l'ensemble des racines simples du système de racines positives $R_{\mathbf{B}}^{+} = R(\mathbf{T}, \mathbf{B})$ et $\Sigma_{\mathbf{B}}$ l'ensemble des racines simples du système de racines positives $R_{\mathbf{B}}^{+} = R(\mathcal{T}, \mathbf{B})$. On a un isomorphisme canonique entre les données radicielles basées

$$ (X^*(\mathbf{T}), \Sigma_{\mathbf{B}}, X_*(\mathbf{T}), \Sigma_{\mathbf{B}}^?) \quad \text{et} \quad (X_*(\mathcal{T}), \Sigma_{\mathbf{B}}^?, X^*(\mathcal{T}), \Sigma_{\mathbf{B}}) $$

et l'on peut associer au sous-groupe parabolique $\mathcal{Q} = \mathcal{LU}$ un sous-groupe parabolique $\mathbf{Q} = \mathbf{LU}$ de $\mathbf{G}$ contenant $\mathbf{T}$.

Notons $\mathbf{L}$ le sous-groupe de $\mathbf{G}$ ainsi défini. Il est défini sur $\mathbb{R}$ et l'on note $\mathcal{L}$ le groupe de ses points réels. Considérons l'ensemble $S_{\mathcal{Q}}$ des classes de conjugaison (sous $\mathcal{G}$) de couples $(\mathbf{Q}, \mathbf{L})$ où $\mathbf{Q}$ est un sous-groupe parabolique de $\mathbf{G}$ et $\mathbf{L}$ est un sous-groupe de Levi défini sur $\mathbb{R}$ obtenus de cette façon. Adams et Johnson démontrent que parmi ces classes de conjugaison, l'une au moins $(\mathbf{Q}_*, \mathbf{L}_*)$ est telle que $\mathbf{L}_*$ est quasi-déployé. C'est ce $\mathbf{L}_*$ que nous avons introduit dans la section précédente.

L'ensemble $S_{\mathbf{B}}$ des classes de conjugaison de couples $(\mathbf{B}, \mathbf{T})$, peut être identifié à $W(\mathcal{G}, \mathcal{T}) \setminus W(\mathbf{G}, \mathbf{T})$ en choisissant un point de base. La surjection
naturelle de $S_B$ vers $S_Q$ identifie alors ce dernier avec

$$W(G, T) \backslash W(\mathbf{G}, \mathbf{T})^{\tau} / W(\mathbf{L}, \mathbf{T}).$$

(Voir la section 10 de [3] pour expliquer l'apparition du $\tau$ lorsqu'on ne suppose pas que le rang de $G$ est égal au rang de $K$ et qui correspond à la condition que $\mathbf{L}$ soit défini sur $\mathbb{R}$.) Remarquons que cet ensemble s'identifie aussi naturellement avec $\ker[H^1(\mathbb{R}, \mathbf{L}) \to H^1(\mathbb{R}, \mathbf{G})]$.

Pour une classe $(\mathbf{Q}, \mathbf{L})$ fixée dans $S_Q$, on a un isomorphisme canonique $\mathcal{L} \simeq \hat{\mathcal{L}}$. Pour toute autre classe $(\mathbf{Q}', \mathbf{L}')$ dans $S_Q$, il existe un unique élément $g \in \mathbf{G}(\mathbb{C})/\mathbf{L}(\mathbb{C})$ tel que $g \cdot (\mathbf{Q}, \mathbf{L}) = (\mathbf{Q}', \mathbf{L}')$ (action par conjugaison), qui donne un isomorphisme canonique entre $L$-groupes $^L\mathcal{L}' \simeq ^L\mathcal{L}$. L'isomorphisme $\hat{\mathcal{L}} \simeq \mathcal{L}$ s'étend en un $L$-plongement

$$\iota_{L,G}: \mathcal{L}^L \to \mathcal{L}^G \qquad (8.1)$$

déjà introduit dans la section précédente et qui factorise le paramètre $\psi$ en $\psi = \iota_{L,G} \circ \psi_L$. De plus $\psi_L$ détermine une représentation unitaire de dimension 1 de $L$, que nous notons $\lambda_{\psi, \mathbf{Q}, \mathbf{L}}$.

En appliquant le foncteur d'induction cohomologique de Vogan-Zuckerman (voir par exemple [29]), Adams et Johnson définissent une représentation

$$\pi_{\psi, \mathbf{Q}, \mathbf{L}} = \mathcal{R}_{\mathbf{q}}^i(\lambda_{\psi, \mathbf{Q}, \mathbf{L}}) \qquad (8.2)$$

de $G$, où $\mathbf{q}$ est l'agèbre de Lie de $\mathbf{Q}$ et $i$ est la dimension de la partie compacte du radical unipotent $\mathbf{U}$ de $\mathbf{Q}$, aussi donné par la formule

$$\frac{1}{2}(\dim G - \dim L) - (q(G) - q(L)).$$

La définition de $q$ est donnée ci-dessous. On sait d'après Vogan (voir [29, Chap. 9]) que cette représentation est unitaire.

Remarque 8.1. — Si $(\mathbf{Q}, \mathbf{L}) \in S_Q$ est tel que $\mathbf{L}$ est quasi-déployé, alors le paramètre de Langlands de $\lambda_{\psi, \mathbf{Q}, \mathbf{L}}$ est $\phi_{\psi, \mathbf{Q}, \mathbf{L}}$ (cf. (2.5)) et celui de $\pi_{\psi, \mathbf{Q}, \mathbf{L}}$ est $\phi_{\psi} = \iota_{L,G} \circ \phi_{\psi, \mathbf{Q}, \mathbf{L}}$. L'ensemble des $\pi_{\psi, \mathbf{Q}, \mathbf{L}}$ avec $(\mathbf{Q}, \mathbf{L}) \in S_Q$ tel que $\mathbf{L}$ est quasi-déployé est le paquet de Langlands de $G$ attaché à $\phi_{\psi}$.

Nous pouvons maintenant définir le paquet d'Adams-Johnson de paramètre $\psi$.

DÉFinition 8.2. — Le paquet d'Adams-Johnson de paramètre $\psi$ est, avec les notations qui précèdent :

$$\Pi_{\psi}^{AJ} = \{ \pi_{\psi, \mathbf{Q}, \mathbf{L}} \mid (\mathbf{Q}, \mathbf{L}) \in S_Q \}.$$

L'une des conditions devant être vérifiée par les paquets conjecturaux d'Arthur est que ceux-ci doivent être le support d'une distribution stable.
Adams et Johnson montrent que tel est le cas pour les paquets qu'ils définissent. Énonçons ceci de manière précise. Nous avons besoin de la définition suivante.

**DÉFINITION 8.3.** — Soit $\mathbf{G}$ un groupe algébrique connexe réductif défini sur $\mathbb{R}$. Soit $c_0^G$ la moitié de la dimension de la partie déployée d'un sous-groupe de Cartan fondamental de $G$, et posons

$$q(G) = \frac{1}{2}(\dim G - \dim K) - c_0^G. \qquad (8.3)$$

C'est un entier, et dans le cas où les rang de $G$ et de $K$ sont égaux (autrement dit, $G$ est forme intérieure d'une forme compacte), $q(G) = \frac{1}{2}(\dim G - \dim K)$. Si $\mathbf{G}^*$ est une forme intérieure quasi-déployée de $G$, $e(G) = (-1)^{q(G^*)-q(G)}$ est le signe de Kottwitz de $G$.

Posons alors

$$[\Pi_{\psi}^{AJ}]^{st} := \sum_{(\mathbf{Q}, \mathbf{L}) \in S_Q} e(L) [\pi_{\psi, \mathbf{Q}, \mathbf{L}}], \qquad \Theta_{\Pi_{\psi}^{st}} := \sum_{(\mathbf{Q}, \mathbf{L}) \in S_Q} e(L) \Theta_{\pi_{\psi}, \mathbf{Q}, \mathbf{L}}. \qquad (8.4)$$

La première expression est une représentation virtuelle et la seconde est son caractère.

**THÉORÈME 8.4** ([3, Thm. 2.13]). — Soit $\psi$ un paramètre d'Adams-Johnson pour $G$, et $\Pi_{\psi}^{AJ}$ le paquet associé. La distribution $\Theta_{\Pi_{\psi}^{AJ}}^{st}$ est stable.

Adams et Johnson ([3, Thm. 2.21]) montrent aussi que les paquets $\Pi_{\psi}^{AJ}$ vérifient bien les identités endoscopiques (non tordues) attendues.

## 8.3. Formule des caractères stables pour les paquets d'Adams-Johnson

Nous expliquons dans ce paragraphe comment Adams et Johnson expriment la représentation virtuelle stable (8.4) en termes de représentations virtuelles stables associées aux pseudo-paquets de Langlands. On reprend les notations de la section 8.2 : $\psi$ est un paramètre d'Adams-Johnson pour $G$ et

$$\Pi_{\psi}^{AJ} = \{ \pi_{\psi, \mathbf{Q}, \mathbf{L}} | (\mathbf{Q}, \mathbf{L}) \in S_Q \}$$

est le paquet d'Adams-Johnson qui lui est associé. Le caractère infinitésimal de ces représentations est celui d'une représentation de dimension finie $F$ de $G$.

Dans [25], Johnson montre qu'il existe des résolutions des représentations $\pi_{\psi, \mathbf{Q}, \mathbf{L}}$ constituant les paquets d'Adams-Johnson par des représentations
standard. Les résolutions des représentations de Speh en (6.4) en sont un exemple. Ces résolutions donnent des égalités de représentations virtuelles de la forme

$$[\pi_{\psi, \mathbf{Q}, \mathbf{L}}] = \sum_{\gamma \in \mathcal{P}(\mathbf{Q}, \mathbf{L})} (-1)^{\ell_V(\pi_{\psi, \mathbf{Q}, \mathbf{L}}) - \ell_V(\gamma)} [X(\gamma)].$$

Ici $\mathcal{P}(\mathbf{Q}, \mathbf{L})$ est l'ensemble des paramètres des modules standard apparaissant dans la résolution de Johnson de $\pi_{\psi, \mathbf{Q}, \mathbf{L}}$ (cf. [25]). Ces modules standard sont donnés explicitement dans le Theorem 8.2 de [3]. Le signe est donné par la longueur de Vogan $\ell_V$ ([57, 58]), et l'on a alors $l_V(\pi_{\psi, \mathbf{Q}, \mathbf{L}}) = q(L)$.

On tire de ceci l'égalité de représentations virtuelles

$$ \begin{align} [\Pi_{\psi}^{AJ}]^{st} &= \sum_{(\mathbf{Q}, \mathbf{L}) \in \mathcal{S}_{\mathcal{Q}}} e(L)[\pi_{\psi, \mathbf{Q}, \mathbf{L}}] \nonumber \\ &= \sum_{(\mathbf{Q}, \mathbf{L}) \in \mathcal{S}_{\mathcal{Q}}} e(L) \sum_{\gamma \in \mathcal{P}(\mathbf{Q}, \mathbf{L})} (-1)^{\ell_V(\pi_{\psi, \mathbf{Q}, \mathbf{L}}) - \ell_V(\gamma)} [X(\gamma)] \nonumber \\ &= (-1)^{q(L^*)} \sum_{(\mathbf{Q}, \mathbf{L}) \in \mathcal{S}_{\mathcal{Q}}} \sum_{\gamma \in \mathcal{P}(\mathbf{Q}, \mathbf{L})} (-1)^{\ell_V(\gamma)} [X(\gamma)]. \tag{8.5} \end{align} $$

Il est démontré dans [3] que tous les $L$ intervenant dans le somme sont dans la même classe de formes intérieures. Notons $L^*$ une forme quasi-déployée. On a utilisé $e(L) = (-1)^{q(L^*)-q(L^*)}$ pour faire sortir la constante $(-1)^{q(L^*)}$.

Considérons un module standard $X$ intervenant dans la résolution de Johnson de l'un des $\pi_{\psi, \mathbf{Q}, \mathbf{L}}$, disons de $\pi_{\psi, \mathbf{Q}_1, \mathbf{L}_1}$, $(\mathbf{Q}_1, \mathbf{L}_1) \in \mathcal{S}_Q$. Soit $X'$ un module standard appartenant au même pseudo-paquet que $X$ (cf. définition 2.1). Alors d'après [3, Lem. 8.8] il existe un unique $(\mathbf{Q}, \mathbf{L}) \in \mathcal{S}_Q$ tel que $X'$ apparaisse dans la résolution de Johnson de $\pi_{\psi, \mathbf{Q}, \mathbf{L}}$.

Une propriété bien connue des pseudo-paquets (voir [57], ou [2]) est que la longueur de deux éléments du même pseudo-paquet est la même. De la discussion ci-dessus et de (8.5) on tire

$$[\Pi_{\psi}^{AJ}]^{st} = (-1)^{q(L^*)} \sum_{\phi \in \Phi(\psi)} (-1)^{\ell_V(\phi)} [X_{\phi}] \quad (8.6)$$

où $\Phi(\psi)$ est l'ensemble des paramètres de Langlands des modules standard intervenant dans la résolution de l'un des $\pi_{\psi, \mathbf{Q}, \mathbf{L}}$, $\ell_V(\phi)$ la longueur d'un de ses éléments et $[X_{\phi}] := \sum_{X \in \tilde{\Pi}_{\phi}} [X]$.

Si l'on réécrit ceci comme une identité de distributions, on obtient

$$\Theta_{\Pi_{\psi}^{AJ}}^{st} = (-1)^{q(L^*)} \sum_{\phi \in \Phi(\psi)} (-1)^{\ell_V(\phi)} \Theta_{\tilde{\Pi}_{\phi}} \quad (8.7)$$

où toutes les distributions sur $G$ intervenant dans cette équation sont stables.
Remarque 8.5. — Supposons $G$ quasi-déployé. On sait alors qu'il existe $(\mathbf{Q}_*, \mathbf{L}_*) \in \mathcal{S}_Q$ tel que $\mathbf{L}_*$ soit aussi quasi-déployé. Il découle alors de la discussion ci-dessus, de la remarque 8.1 et de la description explicite des modules standard intervenant dans les résolutions des $\pi_{\psi, \mathbf{Q}, \mathbf{L}}$ que la distribution stable $\Theta_{\Pi_{\psi}^{st}}$ est obtenue en stabilisant l'écriture en modules standard de la somme des représentations dans le paquet de Langlands paramétré par $\phi_{\psi}$.

# 9. Groupes classiques et endoscopie tordue

## 9.1. Les groupes classiques

Les « groupes classiques » que nous considérons sont ceux qui apparaissent dans les données endoscopiques elliptiques simples des $\tilde{G}_N$ selon la terminologie d'Arthur, cf. [10, §I.2]. Le plus commode est encore d'en faire la liste, et de fixer quelques notations pour pouvoir s'y référer facilement. Pour $n \in \mathbb{N}^*$, on considère les groupes de rang $n$ suivants :

(A) Le groupe symplectique $\mathbf{Sp}(2n, \mathbb{R})$. C'est un groupe déployé. Son dual de Langlands est $\mathbf{SO}(2n+1, \mathbb{C})$ et son $L$-groupe est le produit direct $\mathbf{SO}(2n+1, \mathbb{C}) \times W_{\mathbb{R}}$.

(B) Le groupe spécial orthogonal impair $\mathbf{SO}(n, n+1)$. C'est un groupe déployé. Son dual de Langlands est $\mathbf{Sp}(2n, \mathbb{C})$ et son $L$-groupe est le produit direct $\mathbf{Sp}(2n, \mathbb{C}) \times W_{\mathbb{R}}$.

(C) Le groupe spécial orthogonal pair $\mathbf{SO}(n, n)$. C'est un groupe déployé. Son dual de Langlands est $\mathbf{SO}(2n, \mathbb{C})$ et son $L$-groupe est le produit direct $\mathbf{SO}(2n, \mathbb{C}) \times W_{\mathbb{R}}$.

(D) Le groupe spécial orthogonal pair $\mathbf{SO}(n-1, n+1)$. C'est un groupe quasi-déployé. Son dual de Langlands est $\mathbf{SO}(2n, \mathbb{C})$ et son $L$-groupe est le produit semi-direct $\mathbf{SO}(2n, \mathbb{C}) \times W_{\mathbb{R}}$.

Pour chacun de ces groupes, on dispose d'une représentation naturelle du $L$-groupe dans un $\tilde{\mathbf{GL}}_N$ :

$$ \mathrm{Std}_G : \mathcal{L}G \to \mathbf{GL}_N(\mathbb{C}) \qquad (9.1) $$

Dans le cas (A), elle est donnée l'inclusion de $\mathbf{SO}(2n+1, \mathbb{C})$ dans $\mathbf{GL}_{2n+1}(\mathbb{C})$, dans le cas (B), de l'inclusion de $\mathbf{Sp}(2n, \mathbb{C})$ dans $\mathbf{GL}_{2n}(\mathbb{C})$, dans le cas (C), de l'inclusion de $\mathbf{SO}(2n, \mathbb{C})$ dans $\mathbf{GL}_{2n}(\mathbb{C})$. Le cas (D) est plus délicat car le groupe étant non déployé, le $L$-groupe est un produit semi-direct non trivial $\mathbf{SO}(2n, \mathbb{C}) \times W_{\mathbb{R}}$. Mais l'action de $W_{\mathbb{R}}$ sur $\mathbf{SO}(2n, \mathbb{C})$ est donnée par l'action d'un élément de $\mathbf{O}(2n, \mathbb{C})$, de sorte que l'on a un morphisme

$$ \mathcal{L}\mathbf{SO}(n-1, n+1) = \mathbf{SO}(2n, \mathbb{C}) \times W_{\mathbb{R}} \to \mathbf{O}(2n, \mathbb{C}), $$
et la composition avec l'inclusion de $O(2n, \mathbb{C})$ dans $GL_{2n}(\mathbb{C})$ nous donne la représentation voulue. On a donc $N = 2n$ dans les cas (B), (C), (D), et $N = 2n + 1$ dans les cas (A).

Fixons $\mathbf{G}$ comme ci-dessus. La donnée de $(\mathbf{G}, \text{Std}_G)$ est celle d'une donnée endoscopique tordue elliptique pour $(G_N, \theta_N)$. Nous renvoyons le lecteur à [31] et [10] pour tout ce qui concerne la théorie de l'endoscopie tordue. Rappelons seulement que dans une telle situation, Kottwitz et Shelstad définissent un facteur de transfert, permettant de définir une application $\text{Trans}_{\text{geo}}$ (« transfert géométrique ») entre l'espace des intégrales orbitales sur $\tilde{G}_N$ et l'espace des intégrales orbitales stables sur $\mathcal{G}$. Ceci est démontré par D. Shelstad dans [52]. Ce facteur de transfert n'est défini a priori qu'à une constante multiplicative près, mais le choix de la donnée de Whittaker sur $G_N$ (cf. section 5.2) permet de fixer cette constante ([31, §5.3]), ce que nous supposons fait dans la suite.

Par dualité, ce transfert d'intégrales orbitales définit une application entre
espaces de distribution invariantes :

$$
\mathrm{Trans}_{\tilde{G}}^{G_N} : \mathrm{Dist}(G)^{st} \to \mathrm{Dist}(\tilde{G}_N)^{G_N}, \qquad (9.2)
$$

l'espace de départ étant celui des distributions stables sur $G$ et l'espace
d'arrivée celui des distributions sur $\tilde{G}_N$, invariantes sous l'action adjointe
de $G_N$.

Soit $\psi_G \in \Psi(G)$ un paramètre d'Arthur pour le groupe $G$. Posons $\psi = \text{Std}_G \circ \psi_G$. C'est un paramètre d'Arthur (autodual) pour le groupe $G_N$. Soit $\Pi_\psi$ la représentation irréductible autoduale de $G_N$ associée à ce paramètre (cf. proposition 3.16). Rappelons qu'à un tel paramètre $\psi_G$, Arthur a associé dans [10] un paquet $\Pi_{\psi_G}$ de représentations unitaires de $G$ caractérisé par les identités endoscopiques usuelles et l'identité endoscopique tordue que nous allons décrire, reliant le paquet $\Pi_{\psi_G}$ à la représentation $\Pi_\psi$ de $G_N$. Tout d'abord, un tel paquet est le support d'une distribution stable sur $G$, c'est-à-dire qu'il existe une combinaison linéaire (à coefficients dans $\mathbb{Z}$) des caractères des représentations dans $\Pi_{\psi_G}$, décrite explicitement par Arthur, disons

$$
\Theta_{\Pi_{\psi_G}}^{st} = \sum_{\pi \in \Pi_{\psi_G}} a_{\pi} \Theta_{\pi}
$$

qui est une distribution stable. Cette distribution se transfère donc par l'ap-
plication (9.2) en une distribution $\text{Trans}(\Theta_{\Pi_{\psi_G}})$. L'identité endoscopique est
alors

$$
\mathrm{Trans}_{\tilde{G}^N}(\Theta_{\Pi_{\psi_G}}^{st}) = \mathrm{Tr}_{\theta_N}(\Pi_{\psi}) \quad (9.3)
$$

le membre de droite étant la trace tordue (cf. définition 5.4), normalisée par
la donnée de Whittaker.
Lorsque le paramètre $\psi_G$ est trivial sur le facteur $\text{SL}_2(\mathbb{C})$, le paquet $\Pi_{\psi_G}$ est un paquet de Langlands tempéré, la distribution est simplement la somme des caractères $\Theta_{\pi}, \pi \in \Pi_{\psi_G}$, et l'identité (9.3) est alors démontrée par P. Mezo [37], à un facteur multiplicatif près. Nous démontrons dans l'annexe A qu'en fait l'identité (9.3) est valide, autrement dit que le facteur multiplicatif restant à déterminer dans Mezo est 1. Soit $\phi_G$ un paramètre de Langlands pour $G$. Le résultat de Mezo, précisé dans l'annexe A, et le fait que le transfert endoscopique commute à l'induction entraîne le résultat suivant pour les pseudo-paquets (cf. définition 2.1).

**PROPOSITION 9.1.** — Posons $\phi = \text{Std}_G \circ \phi_G$. On a alors
$$ \text{Trans}(\Theta_{\tilde{\Pi}_{\phi_G}}) = \text{Tr}_{\theta_N}(\tilde{\Pi}_{\phi}). $$

## 9.2. Paramètres et paquets d'Adams–Johnson des groupes classiques

Soit $G$ l'un des groupes classiques de rang $n$ de la section 9.1 et comme dans cette section, soient

$$ \psi_G : W_{\mathbb{R}} \times \text{SL}_2(\mathbb{C}) \to \text{L}^G $$

un paramètre d'Arthur pour $G$, $\psi = \text{Std}_G \circ \psi_G$ et $\Pi_{\psi}$ la représentation autoduale de $G_N$ attachée au paramètre d'Arthur $\psi$.

On suppose maintenant de plus que $\psi_G$ est un paramètre d'Adams–Johnson. On reprend les notations de la section 8.2 pour les objets attachés au paramètre $\psi_G$ et celles de la section 3.2 pour les objets attachés à $\psi$. On explicite ceux-ci pour chaque famille de groupes classiques de 9.1.

Quitte à remplacer $\psi_G$ par un paramètre équivalent, on peut supposer que le centralisateur $\mathcal{L}$ de $\psi_G(\mathbb{C}^\times)$ dans $\hat{G}$ est de la forme :

$$ \mathcal{L} \simeq \mathcal{L}_1 \times \cdots \times \mathcal{L}_r \qquad (9.4) $$

où pour tout $i = 1, \dots, r-1$, $\mathcal{L}_i \simeq \text{GL}(n_i, \mathbb{C})$, $n_i \in \mathbb{N}^\times$, et suivant les cas :

$$ \mathcal{L}_r \simeq \begin{cases} \text{SO}(2n_r + 1, \mathbb{C}) & (\text{cas A}), \\ \text{Sp}(2n_r, \mathbb{C}) & (\text{cas B}), \\ \text{SO}(2n_r, \mathbb{C}) & (\text{cas C) et D}), \end{cases} $$

avec $n_r \in \mathbb{N}$ (le cas $n_r = 0$ est une possibilité parfaitement loisible, auquel cas $\mathcal{L}_r = \{1\}$ que l'on peut omettre dans (9.4)). On a d'autre part $\sum_{i=1}^r n_i = n$.

Soit $(\mathbf{Q}, \mathbf{L})$ représentant une classe dans $\mathcal{S}_{\mathbf{Q}}$ (cf. section 8.2). On laisse au lecteur vérifier que l'on a alors un isomorphisme

$$ L \simeq L_1 \times \cdots \times L_r $$
où pour tout $i = 1, \dots, r-1$, $L_i = U(b_i, c_i)$, avec $b_i + c_i = n_i$ et suivant les cas :

(A) $L_r = \mathbf{Sp}(2n_r, \mathbb{R})$,

(B) $L_r = \mathbf{SO}(b_r, c_r)$ avec $b_r+c_r = 2n_r+1$, $\sum_{i=1}^{r-1} 2b_i+b_r = n$, $\sum_{i=1}^{r-1} 2c_i+c_r = n+1$,

(C) $L_r = \mathbf{SO}(b_r, c_r)$, avec $b_r+c_r = 2n_r$, $\sum_{i=1}^{r-1} 2b_i+b_r = n$, $\sum_{i=1}^{r-1} 2c_i+c_r = n$,

(D) $L_r = \mathbf{SO}(b_r, c_r)$, avec $b_r+c_r = 2n_r$, $\sum_{i=1}^{r-1} 2b_i+b_r = n-1$, $\sum_{i=1}^{r-1} 2c_i+c_r = n+1$.

Le paramètre $\psi$ se décompose comme en (3.9) en somme de paramètres « presque irréductibles » $\psi = \bigoplus_{i=1,...,r} \psi_i$, où pour $i = 1, \dots, r-1$,

$$ \psi_i \approx V\left(-\frac{p_i}{2}, \frac{p_i}{2}\right) \otimes R_{n_i} : W_{\mathbb{R}} \times \mathbf{SL}_2(\mathbb{C}) \rightarrow \hat{G}_{N_i}, \\ \Pi_{\psi_i} = \mathbf{Speh}(\delta_i, n_i) $$

avec $\delta_i = \delta(-\frac{p_i}{2}, \frac{p_i}{2})$, $p_i + n_i$ impair dans les cas (A), (C), (D), pair dans le cas (B).

Pour $i=r$, on a suivant les cas :

(A) $N_r = 2n_r + 1$, $\psi_r = \epsilon \otimes R_{N_r}$, $\epsilon = \mathbf{Triv}$ ou sgn,

(B) $N_r = 2n_r$, $\psi_r = \epsilon \otimes R_{N_r}$, $\epsilon = \mathbf{Triv}$ ou sgn,

(C) et (D) $N_r = 2n_r$, $\psi_r = \epsilon \otimes R_{N_r-1} \oplus \epsilon$, $\epsilon = \mathbf{Triv}$ ou sgn ou $\psi_r = \epsilon_1 \otimes R_{N_r-1} \oplus \epsilon_2$, $(\epsilon_1, \epsilon_2) = (\mathbf{Triv}, \mathbf{sgn})$ ou $(\mathbf{sgn}, \mathbf{Triv})$.

Comme on le voit, les $\psi_i$ sont irréductibles sauf $\psi_r$ dans les cas (C) et (D). Nous dirons que $\psi = \bigoplus_{i=1,...,r} \psi_i$ est une décomposition en paramètres élémentaires.

**Remarque 9.2.** — Dans le cas (A), les $\psi_i$, $i = 1, \dots, r$, sont à valeurs dans $\mathbf{SO}(2n_i, \mathbb{C})$ si $n_i$ est pair, mais seulement dans $\mathbf{O}(2n_i, \mathbb{C})$ si $n_i$ est impair. On a donc $\psi_r = \epsilon \otimes R_{N_r}$ avec $\epsilon = \mathbf{Triv}$ si le nombre des $i$ dans $\{1, \dots, r-1\}$ avec $n_i$ impair est pair, et $\epsilon = \mathbf{sgn}$ s'il est impair.

Dans le cas (B), tous les $\psi_i$ se factorisent par le groupe $\mathbf{Sp}(2n_i, \mathbb{C})$. Pour $i=r$, si $\epsilon = \mathbf{Triv}$, $\psi_r$ se factorise par le paramètre de la représentation triviale de $\mathbf{SO}(b_r, c_r)$, si $\epsilon = \mathbf{sgn}$, $\psi_r$ se factorise par le paramètre du caractère valant $-1$ sur la composante connexe non triviale de $\mathbf{SO}(b_r, c_r)$.

Dans les cas (C) et (D), les $\psi_i$ se factorisent par le groupe $\mathbf{SO}(2n_i, \mathbb{C})$ si $n_i$ est pair et par le groupe $\mathbf{O}(2n_i, \mathbb{C})$ si $n_i$ est impair. Pour $i=r$, dans le cas (C), si le nombre des $i$ dans $\{1, \dots, r-1\}$ avec $n_i$ impair est pair, alors $\psi_r = \epsilon \otimes R_{N_r-1} \oplus \epsilon$, $\epsilon = \{\mathbf{Triv}, \mathbf{sgn}\}$ et si ce nombre est impair, alors
$\psi_r = \epsilon_1 \otimes R_{N_r-1} \oplus \epsilon_2$, avec $(\epsilon_1, \epsilon_2) = (\mathbf{Triv}, \mathbf{sgn})$ ou $(\mathbf{sgn}, \mathbf{Triv})$. Pour $i=r$, dans le cas (D), c'est l'opposé du cas (C).

Le paramètre $\psi_r = \epsilon \otimes R_{N_r-1} \oplus \epsilon$ se factorise par le paramètre de la représentation triviale de $\mathbf{SO}(b_r, c_r)$ si $\epsilon = \mathbf{Triv}$, et si $\epsilon = \mathbf{sgn}$, $\psi_r$ se factorise par le paramètre du caractère valant $-1$ sur la composante connexe non triviale de $\mathbf{SO}(b_r, c_r)$.

Le paramètre $\psi_r = \epsilon_1 \otimes R_{N_r-1} \oplus \epsilon_2$, avec $(\epsilon_1, \epsilon_2) = (\mathbf{Triv}, \mathbf{sgn})$, se factorise par le paramètre de la représentation triviale de $\mathbf{SO}(b_r, c_r)$, et si $(\epsilon_1, \epsilon_2) = (\mathbf{sgn}, \mathbf{Triv})$, $\psi_r$ se factorise par le paramètre du caractère valant $-1$ sur la composante connexe non triviale de $\mathbf{SO}(b_r, c_r)$.

La représentation irréductible $\Pi_{\psi_r}$ de $G_{N_r}$ associée au paramètre $\psi_r$ est

$$ \Pi_{\psi_r} = \left\{ \begin{array}{ll} \varepsilon_{N_r} & \text{si } \psi_{G,r} = \epsilon \otimes R_{N_r}, \\ \epsilon_1, \epsilon_{N_r-1} \times \varepsilon_2 & \text{si } \psi_{G,r} = \epsilon_1 \otimes R_{N_r-1} \oplus \epsilon_2 \\ & \epsilon_1, \epsilon_2 \in \{\mathbf{Triv}, \mathbf{sgn}\} \text{ (cas (C), (D))}. \end{array} \right. \quad (9.5) $$

# 10. Démonstration du résultat principal

## 10.1. Énoncé

Soit $\mathbf{G}$ l'un des groupes classiques de la section 9.1 et $\mathbf{St}_G : \mathbb{L}G \to \hat{G}_N$ la représentation standard de son $\mathbb{L}$-groupe. Soit $\psi_G : W_\mathbb{R} \times \mathbf{SL}_2(\mathbb{C}) \to \mathbb{L}G$ un paramètre d'Adams-Johnson (cf. section 9.2) pour $\mathbf{G}$ et $\Pi_{\psi_G}^{AJ}$ le paramètre d'Adams-Johnson qui lui est associé (cf. définition 8.2). Notons $\psi = \mathbf{St}_G \circ \psi_G$ : c'est un paramètre d'Arthur de $G_N$, auquel est associée une représentation $\Pi_\psi = \Pi_{\phi_\psi}$ de ce groupe.

Notre but est de démontrer l'égalité de distributions sur $\tilde{G}_N$ :

$$ \mathrm{Tr}_{\theta_N}(\Pi_\psi) = \mathrm{Trans}_G^{G_N}(\Theta_{\Pi_{\psi_G}^{AJ}}^{st}) \quad (10.1) $$

où $\Theta_{\Pi_{\psi_G}^{AJ}}^{st}$ est la distribution stable sur $G$ définie en (8.4).

D'après (8.7), où les notations sont expliquées, on a une égalité de distributions sur $G$

$$ \Theta_{\Pi_{\psi_G}^{AJ}}^{st} = (-1)^{q(L^*)} \sum_{\phi_G \in \Phi(\psi_G)} (-1)^{\ell_V(\phi_G)} \Theta_{\tilde{\Pi}_{\phi_G}} \quad (10.2) $$
Tous les termes de cette formule sont des distributions stables, et la fonction longueur $\ell_V$ est celle de Vogan. On en déduit que

$$ \mathrm{Trans}_G^{G_N}(\Theta_{\Pi_{\psi_G}^{st}}) = (-1)^{q(L^*)} \sum_{\phi_G \in \Phi(\psi_G)} (-1)^{\ell_V(\phi_G)} \mathrm{Trans}_G^{G_N}(\Theta_{\tilde{\Pi}_{\phi_G}}). \quad (10.3) $$

Or, d'après la proposition 9.1, on a pour tout $\phi_G \in \Phi(\psi_G)$

$$ \mathrm{Trans}_G^{G_N}(\Theta_{\tilde{\Pi}_{\phi_G}}) = \mathrm{Tr}_{\theta_N}(\tilde{\Pi}_{\mathrm{St}_G \circ \phi_G}), \quad (10.4) $$

où $\tilde{\Pi}_{\mathrm{St}_G \circ \phi_G}$ est la représentation standard de $G_N$ associée par Langlands au paramètre de Langlands $\phi = \mathrm{St}_G \circ \phi_G$. Ainsi l'identité à établir est équivalente à :

$$ \mathrm{Tr}_{\theta_N}(\Pi_{\psi}) = (-1)^{q(L^*)} \sum_{\phi_G \in \Phi(\psi_G)} (-1)^{\ell_V(\phi_G)} \mathrm{Tr}_{\theta_N}(\tilde{\Pi}_{\mathrm{St}_G \circ \phi_G}). \quad (10.5) $$

Dans les deux prochains paragraphes, nous allons établir ce résultat lorsque $\psi_G$ est un paramètre élémentaire.

## 10.2. Identités endoscopiques pour les paramètres élémentaires : représentations de dimension 1

On suppose dans ce paragraphe que dans la décomposition $\psi = \bigoplus_{i=1}^r \psi_i$, on a $r = 1, n = n_r > 0$ et $\psi = \psi_r$. Rappelons que nous sommes alors dans un des cas suivants :

(A) $\psi = \mathrm{Triv} \otimes R_N, N = 2n+1$;

(B) $\psi = \epsilon \otimes R_N, \epsilon = \mathrm{Triv}$ ou sgn, $N = 2n$;

(C) $\psi = \epsilon \otimes R_{N-1} \oplus \epsilon, \epsilon = \mathrm{Triv}$ ou sgn, $N = 2n$;

(D) $\psi = \epsilon_1 \otimes R_{N-1} \oplus \epsilon_2, (\epsilon_1, \epsilon_2) = (\mathrm{Triv}, \mathrm{sgn})$ ou $(\mathrm{sgn}, \mathrm{Triv})$, $N = 2n$.

On a alors :

LEMME 10.1. — Le paquet d’Arthur $\Pi_{\psi_G}$ est un singleton, plus précisément $\Pi_{\psi_G} = \Pi_{\phi_{\psi_G}}$.

Démonstration. — On calcule explicitement le paramètre de Langlands $\phi_{\psi_G}$. Dans le cas $\mathbf{A}$, c’est celui de la représentation triviale. Dans autres cas, c’est celui de la représentation triviale ou du caractère du groupe spécial orthogonal $\mathcal{G}$ trival sur la composante neutre et valant $-1$ sur l’autre. Il suffit dans tous les cas de traiter le cas de la représentation triviale, les paquets étant préservés par tensorisation par un caractère. Le paquet $\Pi_{\psi_G}$ contient donc la représentation triviale, et toutes les autres représentations de ce paquet ont même caractère infinitésimal que celle-ci. Soit $\pi \in \Pi_{\psi_G}$. On
globalise la situation sur $\mathbb{Q}$ en considérant le paramètre global donné par un $\mathbf{SL}_2$ régulier dans $\hat{G}$. En toute place, la représentation triviale est dans le paquet local associé à ce paramètre. Considérons la représentation globale dont la composante locale à toutes les places finies est la représentation triviale sauf à la place archimédienne où elle est égale à $\pi$. D'après le théorème 1.5.2 de [10], cette représentation globale apparaît dans le spectre discret. Elle se réalise donc dans un ensemble de fonctions de carré intégrable, invariantes par translation à gauche sous $\mathbf{G}(\mathbb{Q})$. Mais une fonction qui est de plus invariante par translation à gauche par $\mathbf{G}(\mathbb{Q}_p)$, pour tout nombre premier $p$, est une fonction constante, et $\pi$ est nécessairement la représentation triviale. $\square$

Comme le paquet défini par Adams et Johnson est lui aussi dans ce cas réduit au singleton $\Pi_{\psi_G}^{AJ} = \Pi_{\phi_{\psi_G}}$, on en déduit que $\Pi_{\psi_G}^{AJ} = \Pi_{\psi_G}$. Par définition de $\Pi_{\psi_G}$ dans [10], on a donc

$$ \mathrm{Tran}_{\mathbb{G}}^{\mathbb{G}_N}(\Theta_{\Pi_{\psi_G}^{AJ}}^{st}) = \mathrm{Tr}_{\theta_N}(\Pi_{\psi}). \qquad (10.6) $$

L'identité (10.1) s'obtient donc directement dans ce cas. Nous avons vu qu'elle est équivalente à (10.5), c'est-à-dire que nous avons

$$ \mathrm{Tr}_{\theta_N}(\Pi_{\psi}) = (-1)^{q(G)} \sum_{\phi_G \in \Phi(\psi_G)} (-1)^{\ell_V(\phi_G)} \mathrm{Tr}_{\theta_N}(\tilde{\Pi}_{\mathrm{Std}_G \circ \phi_G}). \quad (10.7) $$

Dans ce cas, remarquons qu'avec les notations de la section 8.3, le sous-groupe de Levi $\mathcal{L}$ attaché à $\psi_G$ est $\hat{G}$, et ainsi $\mathcal{S}_Q$ est bien le singleton $(\mathbf{Q}, \mathbf{L}) = (\mathbf{G}, \mathbf{G})$. Ainsi dans ce cas $L = L^* = G$ car $G$ est quasi-déployé, et l'ensemble des paramètres de Langlands $\Phi(\psi_G)$ est donc l'ensemble des paramètres des représentations standard intervenant dans la résolution de Johnson de la représentation dimension 1 de $G$ considérée.

## 10.3. Paramètres de Speh

Nous nous replaçons dans le même contexte que la section précédente, mais l'on suppose dans ce paragraphe que $r = 2$ et $n_r = 0$. Autrement dit $\psi$ est irréductible, et plus précisément, $\psi$ est le paramètre d'Arthur d'une représentation de Speh $\Pi_{\psi} = \mathbf{Speh}(\delta(-\frac{p}{2}, \frac{p}{2}), n)$. On a par hypothèse $p > n - 1$ ou $p \ge n - 1$ dans les cas (C) et (D). Si $p + n$ est impair, on est dans un des cas (C) ou (D) (selon que $n$ est pair ou impair respectivement) et si $p + n$ est pair, on est dans le cas (B).

Le membre de gauche de l'identité (10.5), est d'après (6.8),

$$ \mathrm{Tr}_{\theta_N}(\Pi_{\psi}) = \sum_{s \in \mathcal{S}_n} (-1)^{\ell_{\theta}(s)} \mathrm{Tr}_{\theta_N}(X(s)). \qquad (10.8) $$
Il s'agit donc d'établir que

$$ \sum_{s \in \mathcal{J}_n} (-1)^{\ell_{\theta}(s)} \mathrm{Tr}_{\theta_N}(X(s)) \\ = (-1)^{q(L^*)} \sum_{\phi_G \in \Phi(\psi_G)} (-1)^{\ell_V(\phi_G)} \mathrm{Tr}_{\theta_N}(\tilde{\Pi}_{\mathrm{Std}_G \circ \phi_G}). \quad (10.9) $$

Il suffit pour cela d'établir qu'il existe une bijection $s \in \mathcal{J}_n \mapsto \phi_G \in \Phi(\psi_G)$ telle que

$$ X(s) = \tilde{\Pi}_{\phi}, \quad \phi = \mathrm{Std}_G \circ \phi_G, \text{ et } q(L^*) + \ell_V(\phi_G) = \ell_{\theta}(s) \mod 2. \quad (10.10) $$

Rappelons comment sont obtenus l'ensemble des paramètres $\Phi(\psi_G)$ en reprenant les notations de la section 8.3 pour le paramètre d'Adams-Johnson $\psi_G$. L'ensemble $\Phi(\psi_G)$ est alors l'ensemble des paramètres de Langlands des représentations standard apparaissant dans les résolutions des $\pi_{\psi_G, \mathbf{Q}, \mathbf{L}}$, $(\mathbf{Q}, \mathbf{L}) \in \mathcal{S}_{\mathcal{Q}}$ et $L \simeq \mathbf{U}(p, q)$, $p+q=n$. Celles-ci sont obtenus par induction cohomologique à partir des représentations standard apparaissant dans la résolution des caractères unitaires $\lambda$ de $L$ tel que $\pi_{\psi_G, \mathbf{Q}, \mathbf{L}} = A_q(\lambda)$. D'après la section 4, ces représentations standard sont paramétrées par $\mathcal{J}_n^{p,q,\pm}$, et leur paramètres de Langlands par $\mathcal{J}_n$. Plus précisément, si $\bar{s} \in \mathcal{J}^{p,q,\pm}$ est le paramètre d'une représentation standard apparaissant dans la résolution du caractère $\lambda = \lambda_{\psi_G, \mathbf{Q}, \mathbf{L}}$ de $\mathbf{U}(p, q)$ (un tel caractère est caractérisé par son caractère infinitésimal car $\mathbf{U}(p, q)$ est connexe, et donc facile à déterminer), et si $\phi_s : W_{\mathbb{R}} \to L^L$ est son paramètre de Langlands (qui ne dépend que de l'involution $s \in \mathcal{J}_n$ sous-jacente), alors $\Pi_{\mathrm{Std}_G \circ i_{L,G} \circ \phi_s} = X(w_0s)$. Notons l'apparition de $w_0$, l'élément le plus long de $\mathfrak{S}_n$. Ainsi $s \in \mathcal{J}_n \mapsto i_{L,G} \circ \phi_{w_0s}$ est la bijection voulue de $\mathcal{J}_n$ dans $\Phi(\psi_G)$.

Vérifions maintenant que les longueurs coïncident. Nous donnons deux arguments, l'un utilisant l'égalité (6.7) laissée en exercice au lecteur, et l'autre le changement de base. Soit $X(\gamma)$ une représentation standard apparaissant dans la résolution de $\pi_{\psi_G, \mathbf{Q}, \mathbf{L}}$, de paramètre de Langlands $\phi_G$, et $X_L(\gamma')$ la représentation standard apparaissant dans la résolution du caractère unitaire $\lambda$ de $L$ qui lui correspond (ici $\gamma$ et $\gamma'$ sont des paramètres pour les représentations comme dans [56] ou [25], nous n'explicitons pas leur forme exacte). On a alors $\ell_V(\gamma') = \ell_V(\gamma)$, les longueurs étant les longueurs de Vogan dans les groupes $L$ et $G$ respectivement, ceci est une conséquence facile de la définition de la longueur de Vogan. Soit $Q_{\gamma'}$ l'orbite attachée à $\gamma'$ dans la variété des drapeaux $\mathcal{B}_L$ de $\mathbf{L}$ dans la paramétrisation de Beilinson-Bernstein des représentations des groupes unitaires (cf. section 4). La longueur de Vogan et la dimension de l'orbite qui lui correspond sont reliées par ([58, p. 396])

$$ \ell_V(\gamma') = \dim Q_{\gamma'} - \dim \mathcal{B}_L + q(L). \quad (10.11) $$
Or nous avons vu dans la section 4 que la dimension des orbites $Q_{\gamma'}$ dans $\mathcal{B}_L$ est donnée par la fonction longueur définie sur $\mathcal{I}_n^{p,q,\pm}$. Si $s \in \mathcal{I}_n$ est l'involution qui donne le paramètre de Langlands $\phi_G$, on a en utilisant (6.7)

$$ \begin{aligned} \ell_V(\phi_G) &= \ell_V(\gamma) = \ell_V(\gamma') = \dim Q_{\gamma'} - \dim \mathcal{B}_L + q(L) \\ &= \ell_\theta(s) + \frac{1}{2}(p(p-1) + q(q-1)) - \dim \mathcal{B}_L + q(L). \end{aligned} $$

Or $\dim \mathcal{B}_L = \frac{n(n-1)}{2} = \frac{(p+q)(p+q-1)}{2}$, et $q(L) = \frac{1}{2}((p+q)^2 - p^2 - q^2) = pq$, d'où finalement

$$ \ell_V(\phi_G) = \ell_\theta(s). \quad (10.12) $$

Il correspond à $\phi_G$ l'élément $w_0s$ par la bijection ci-dessus, et on a $\ell_\theta(w_0s) = \ell_\theta(w_0) + \ell_\theta(s)$ mod 2. Pour montrer la relation sur la longueur dans (10.10), il suffit donc de vérifier que $q(L^*) = \ell_\theta(w_0)$. Or, la relation (10.12) nous dit que $\ell_\theta(w_0)$ est la longueur de Vogan maximale pour un paramètre de Langlands des groupes unitaires $\mathbf{U}(p, q)$, et (10.11) nous dit que l'on a un tel paramètre lorsque l'orbite correspondante est ouverte et $q(L)$ est maximal. Or $q(L)$ est maximal pour la forme quasi-déployée. C'est une propriété générale, qui se voit bien ici pour $q(\mathbf{U}(p, q)) = pq$.

Pour le second argument, on part de la résolution de Johnson de la représentation triviale du groupe quasi-déployé $\mathbf{U}(b, c)$, où $b + c = n$. Les représentations standard de $\mathbf{U}(b, c)$ de même caractère infinitésimal que la représentation triviale sont indexées par $\mathcal{I}_n^{b,c,\pm}$ comme dans la section 4. Apelons ici $Y(\bar{s})$ le module standard indexé par $\bar{s} \in \mathcal{I}_n^{b,c,\pm}$. On sait que la résolution de Johnson donne une identité de représentations virtuelles de la forme

$$ [\mathrm{Triv}_{\mathbf{U}(b,c)}] = \sum_{\bar{s} \in \mathcal{I}_n^{b,c,\pm}} a(\bar{s}) [Y(\bar{s})], $$

où $a(\bar{s})$ est un signe. Mais le changement de base vers $\mathbf{GL}_n(\mathbb{C})$ envoie la représentation triviale sur la représentation triviale, et le module standard $Y(\bar{s})$ sur le module standard $\bar{\theta}_n$-stable de $\mathbf{GL}_n(\mathbb{C})$, noté $X(\rho, -s\rho)$ dans la section 6.1, où $s$ est l'involution dans $\mathfrak{S}_n$ donnée par $\bar{s}$ en oubliant les signes. Ceci découle de [22] (voir aussi la section 11) et il en résulte que les signes $a(\bar{s})$ sont donnés par $(-1)^{\ell_\theta(w_0s)}$. Comme dans [25], on tensorise par le caractère unitaire idoine de $\mathbf{U}(b, c)$, et on induit cohomologiquement de $\mathbf{U}(b, c)$ à $G$ pour obtenir une formule des caractères pour un élément du paquet d'Adams-Johnson $\Pi_{\psi_G}^{AJ}$. La formule pour la distribution stable $\Theta_{\Pi_{\psi_G}^{AJ}}^{st}$ est obtenu en « stabilisant » cette formule du caractère, comme cela a été mentionné dans la remarque 8.5. Ceci se fait en y ajoutant des formules des caractères obtenues de la même manière pour les formes intérieures $\mathbf{U}(b', c')$ de $\mathbf{U}(b, c)$, affectées d'un signe que nous n'avons pas besoin de calculer. Notons $Z(\bar{s})$ la représentation standard de $G$ cohomologiquement induite de
Y(¯s). La remarque 8.5 montre que les pseudo-paquets contenant les repré-
sentations standard Y(¯s) sont indexés par J_n et notons Z̃(s) la somme des
représentations standard dans le pseudo-paquet contenant Z(¯s). On obtient
alors

$$
\Theta_{\Pi_{\psi_G}^{st}} = \sum_{s \in \mathcal{J}_n} (-1)^{\ell_{\theta}(w_0 s)} \Theta_{\tilde{Z}(s)} = (-1)^{q(L^*)} \sum_{s \in \mathcal{J}_n} (-1)^{\ell_{\theta}(s)} \Theta_{\tilde{Z}(s)}.
$$

Après transfert endoscopique Trans̃G_N, ceci est égal au second membre
de (10.9), et par identification, fournit une bijection entre J_n et Φ(ψ_G) avec
les propriétés requises. Ceci achève d'établir (10.9).

**10.4. Réduction au cas élémentaire**

Nous revenons au cas général. Soit $\psi = \bigoplus_{i=1}^r \psi_i$ la décomposition de
$\psi = \mathbf{Std}_G \circ \psi_G$ en paramètres élémentaires comme dans la section 9.2. Nous
allons établir (10.5) par récurrence sur $r$. Le cas $r=1$ a été établi dans la
section précédente. Posons donc $\psi' = \bigoplus_{i=2}^r \psi_i$, de sorte que $\psi = \psi_1 \oplus \psi'$.
Posons aussi $N' = \sum_{i=2}^r N_i$.

On peut, quitte à permuter les indices, supposer que $p_1$ est le plus grand
des paramètres de série discrète apparaissant dans la décomposition, de sorte
que l'inégalité (7.1) est satisfaite. On peut donc utiliser les résultats de la
section 7 et en particulier de 7.5.

Remarquons que dans le cas (A), le paramètre $\psi'$ n'est pas forcément
obtenu à partir d'un paramètre d'Arthur pour un groupe symplectique plus
petit ; c'est le cas si $n_1$ est impair, car alors $\psi'$ n'est à valeur dans $\mathbf{SO}(N', \mathbb{C})$
mais seulement dans $\mathbf{O}(N', \mathbb{C})$. Ceci montre la nécessité de tensoriser $\psi'$ par
le caractère signe de $W_{\mathbb{R}}$, c'est-à-dire poser :

$$
\psi'' = \begin{cases} \psi' & \text{si } n_1 \text{ est pair} \\ \psi' \otimes \operatorname{sgn}_{W_{\mathbb{R}}} & \text{si } n_1 \text{ est impair.} \end{cases}
$$

Cette torsion va aussi apparaître dans les autres cas. Avec ces notations, $\psi''$
est de la forme $\psi'' = \mathrm{Std}_{G'} \circ \psi_{G'}$ pour un groupe classique $G'$ de même type
que $G$ (sauf les cas (C) et (D) qui sont échangés si $n_1$ est impair). Dans tous
les cas, posons

$$
\psi'' = \epsilon_{\text{tor}}^{1} \otimes \psi'. \qquad (10.13)
$$
Notons $G_1$ le groupe classique tel que $\psi_1$ se factorise comme $\mathbf{Std}_{G_1} \circ \psi_{G_1}$.
Nous avons établi dans le paragraphe 10.3 que l'on a :

$$
\begin{equation} \tag{10.14}
\begin{split}
\mathrm{Tr}_{\theta_{N_1}}(\Pi_{\psi_1})
  &= (-1)^{q(L_1^*)} \sum_{\phi_{G_1} \in \Phi(\psi_{G_1})} (-1)^{\ell_V(\phi_{G_1})} \mathrm{Tr}_{\theta_{N_1}}(\tilde{\Pi}_{\mathrm{Std}_{G_1} \circ \phi_{G_1}}) \\
  &= (-1)^{q(L_1^*)} \sum_{\phi_{G_1} \in \Phi(\psi_{G_1})} (-1)^{\ell_V(\phi_{G_1})} \mathrm{Tr}_{\theta_{N_1}}(\tilde{\Pi}_{\mathrm{Std}_{G_1} \circ \phi_{G_1}}).
\end{split}
\end{equation}
$$

et l'on suppose par hypothèse de récurrence que l'on a une formule du même
type pour $\psi''$, c'est-à-dire :

$$
\begin{equation}
\mathrm{Tr}_{\theta_{N'}}(\Pi_{\psi''})
  = (-1)^{q(L'^*)} \sum_{\phi_{G'} \in \Phi(\psi_{G'})} (-1)^{\ell_V(\phi_{G'})} \mathrm{Tr}_{\theta_{N'}}(\tilde{\Pi}_{\mathrm{Std}_{G'} \circ \phi_{G'}}) \otimes \epsilon_{\mathrm{tor}}^1. \tag{10.15}
\end{equation}
$$

En tensorisant par le caractère $\epsilon_{\mathrm{tor}}^1$, on obtient

$$
\begin{equation}
\begin{split}
\mathrm{Tr}_{\theta_{N'}}(\Pi_{\psi'})
  &= (-1)^{q(L'^*)} \sum_{\phi_{G'} \in \Phi(\psi_{G'})} (-1)^{\ell_V(\phi_{G'})} \mathrm{Tr}_{\theta_{N'}}(\tilde{\Pi}_{(\mathrm{Std}_{G'} \circ \phi_{G'})} \otimes \epsilon_{\mathrm{tor}}^1). \quad (10.16)
\end{split}
\end{equation}
$$

Dans les équations ci-dessus, $L_1^*$ et $L'^*$ sont bien sûr les analogues de $L^*$
pour les groupes $G_1$ et $G'$ respectivement.

Comme dans la section 7.5, nous notons *M* le sous-groupe de Levi stan-
dard de *G*<sub>*N*</sub> isomorphe à *G*<sub>*N*</sub> × *G*<sub>*N*</sub>. Le produit tensoriel Π<sub>*ψ*₁</sub> ⊗ Π<sub>*ψ*'</sub> est alors
une représentation de *M* et l'on a avec les notations de cette section

$$
\begin{equation}
\begin{split}
\mathrm{Tr}_{\theta_M} (\Pi_{\psi_1} \otimes \Pi_{\psi'})
  &= (-1)^{q(L_1^*)} (-1)^{q(L'^*)} \\
  &\quad \times \sum_{(\phi_{G_1}, \phi_{G'}) \in \Phi(\psi_{G_1}) \times \Phi(\psi_{G'})} (-1)^{\ell_V(\phi_{G_1}) + \ell_V(\phi_{G'})} \\
  &\qquad \mathrm{Tr}_{\theta_M} (\tilde{\Pi}_{\mathrm{Std}_{G_1} \circ \phi_{G_1}} \otimes \tilde{\Pi}_{(\mathrm{Std}_{G'} \circ \phi_{G'})} \otimes \epsilon_{\mathrm{tor}}^1).
\end{split}
\tag{10.17}
\end{equation}
$$

On obtient alors par le lemme 7.12, et le fait que $L_* = L_1^* * L'^*$

$$
\begin{equation}
\mathrm{Tr}_{\theta_N}(\Pi_\psi) = (-1)^{q(L^*)} \sum_{\substack{(\phi_{G_1}, \phi_{G'}) \in \\ \Phi(\psi_{G_1}) \times \Phi(\psi_{G'})}} (-1)^{\ell_V(\phi_{G_1}) + \ell_V(\phi_{G'})} \mathrm{Tr}_{\theta_N} \left( \tilde{\Pi}_{\mathrm{Std}_{G_1} \circ \phi_{G_1} \oplus (\mathrm{Std}_{G'} \circ \phi_{G'})} \otimes \epsilon_{\mathrm{tor}}^1 \right) \tag{10.18}
\end{equation}
$$
L'égalité à démontrer (10.5), est donc équivalente à

$$
\sum_{\phi_G \in \Phi(\psi_G)} (-1)^{\ell_V(\phi_G)} \mathrm{Tr}_{\theta_N}(\tilde{\Pi}_{\mathrm{St}_G \circ \phi_G}) \\
= \sum_{(\phi_{G_1}, \phi_{G'}) \in \Phi(\psi_{G_1}) \times \Phi(\psi_{G'})} (-1)^{\ell_V(\phi_{G_1}) + \ell_V(\phi_{G'})} \\
\mathrm{Tr}_{\theta_N}(\tilde{\Pi}_{\mathrm{Std}_{G_1} \circ \phi_{G_1} \oplus (\mathrm{Std}_{G'} \circ \phi_{G'})} \otimes \epsilon_{\mathrm{tor}}^1). \quad (10.19)
$$

Il reste donc à montrer que l’on a une bijection

$$
\Phi(\psi_{G_1}) \times \Phi(\psi_{G'}) \to \Phi(\psi_G), \quad (\phi_{G_1}, \phi_{G'}) \mapsto \phi_G \quad (10.20)
$$

telle que $\mathbf{Std}_G \circ \phi_G = \phi_{G_1} \oplus \phi_{G'} \otimes \epsilon_{\mathrm{tor}}^1$ et $\ell_V(\phi_G) = \ell_V(\phi_{G_1}) + \ell_V(\phi_{G'})$.

Rappelons les définitions, données dans la section 8.3. À $\psi_G$ est associé un sous-groupe parabolique $\mathcal{Q} = \mathcal{LU}$ de $\hat{G}$, puis un ensemble fini $S_{\mathcal{Q}}$ de couples $(\mathbf{Q}, \mathbf{L})$, où $\mathbf{Q}$ est un sous-groupe parabolique de $\mathbf{G}$ et $\mathbf{L}$ un facteur de Levi de $\mathbf{Q}$ défini sur $\mathbb{R}$. À chaque $(\mathbf{Q}, \mathbf{L}) \in S_{\mathcal{Q}}$ est attachée en (8.2) une représentation $\pi_{\psi_G, \mathbf{Q}, \mathbf{L}}$, induite cohomologique d'un certain caractère $\lambda_{\psi_G, \mathbf{Q}, \mathbf{L}}$ de $\mathcal{L}$. Alors $\Phi(\psi_G)$ est l'ensemble des paramètres de Langlands des modules standard intervenant dans la résolution de Johnson d'un des modules $\pi_{\psi_G, \mathbf{Q}, \mathbf{L}}$. Mais on peut dire mieux, d'après la remarque 8.5. En effet, $\mathcal{G}$ étant quasi-déployé, il existe $(\mathbf{Q}_*, \mathbf{L}_*) \in S_{\mathcal{G}}$ tel que $\mathbf{L}_*$ est quasi-déployé, et $\Phi(\psi_G)$ est l'ensemble des paramètres de Langlands des modules standard intervenant dans la résolution de Johnson de $\pi_{\psi_G, \mathbf{Q}_*, \mathbf{L}_*$.

Cet ensemble est en bijection avec les paramètres de Langlands des mo-
dules standard intervenant dans la résolution de Johnson du caractère $\lambda_* =$
$\lambda_{\psi_G, \mathbf{Q}_*, \mathbf{L}_*}$ de $L_*$, par $\phi_L \mapsto \phi_G = \iota_{L,G} \circ \phi_L$, où $\iota_{L,G}$ est le plongement de
$L$-groupe (8.1), la correspondance entre modules standard étant obtenue par
le foncteur d'induction cohomologique $\mathcal{R}_{\mathbf{q}_*}^i$ (cf. (8.2)) qui préserve les lon-
gueurs de Vogan des paramètres. Pour les groupes qui nous occupent, les
ensembles $S_Q$ ont été décrit dans la section 9.2. Le sous-groupe de Levi $L_*$
est de la forme

$$
L_* \simeq L_1 \times \cdots \times L_r \tag{10.21}
$$

où pour $i = 1, \dots, r-1$, $L_i$ est un groupe unitaire quasi-déployé, et $L_r$ est un groupe symplectique, ou un groupe spécial orthogonal quasi-déployé. On pose alors $L' = L_2 \times \cdots \times L_r$, c'est un sous-groupe de Levi de $G'$, et $L_1$ est un sous-groupe de Levi de $G_1$.

Il est clair que $\lambda_*$ est un produit tensoriel de deux caractères $\lambda_1$ et $\lambda'$ de $L_1$ et $L'$ respectivement, et que l'ensemble des modules standard intervenant dans la résolution de $\lambda$ est en bijection avec le produit tensoriel de deux modules standard intervenant respectivement dans les résolutions de $\lambda_1$, et
$\lambda'$, et que la longueur de Vogan d'un module standard est la somme des longueur des deux modules standard qui lui correspondent.

La description de $\Phi(\psi_{G_1})$ et $\Phi(\psi_{G'})$ est analogue. Un élément $\phi_{G_1}$ de $\Phi(\psi_{G_1})$ s'écrit $\iota_{L_1,G_1} \circ \phi_{L_1}$ où $\phi_{L_1}$ est le paramètre de Langlands d'une représentation standard intervenant dans la résolution de $\lambda_1$, et un élément $\phi_{G'}$ de $\Phi(\psi_{G'})$ s'écrit $\iota_{L',G'} \circ \phi_{L'}$ où $\phi_{L'}$ est le paramètre de Langlands d'une représentation standard intervenant dans la résolution de $\lambda'$. En effet, nous affirmons que si $\phi_{G'}$ est la paramètre de Langlands d'une représentation standard de $G'$ apparaissant dans la résolution de l'induite cohomologique de $L'$ à $G'$ du caractère $\lambda'$, alors $\phi = \text{Std}_{G_1} \circ \phi_{G_1} \oplus (\text{Std}_{G'} \circ \phi_{G'}) \otimes \epsilon_{\text{tor}}^1$ se factorise en $\text{Std}_G \circ \phi_G$, et que l'application $(\phi_{G_1}, \phi_{G'}) \mapsto \phi_G$ est la bijection 10.20 voulue.

Pour vérifier l'assertion ci-dessus, il faut savoir déterminer le paramètre de Langlands d'une représentation standard obtenue par induction cohomologique d'une représentation standard. Ceci se fait grâce aux théorèmes « d'indépendance de polarisation » de [29, Chap. 11], mais une forme com mode de ceux-ci pour le calcul que nous avons à effectuer est écrite dans [35, Thm. 2.2.3].

Ceci termine la démonstration du résultat principal.

Remarque 10.2. — L'identité à démontrer (10.5) est une identité de trace tordue pour $\tilde{G}_N$, et l'introduction des groupes classiques $G_1$ et $G'$ n'est en fait absolument pas nécessaire, leur rôle est simplement de permettre un raccourci commode pour certaines notations et d'énoncer facilement l'hypo thèse de récurrence. Les seuls groupes importants dans cette affaire sont les sous-groupes de Levi $L_1 \times \cdots \times L_r$ de $G$ associés au paramètre $\psi_G$.

11. Les groupes unitaires

Dans cette section, nous traitons le cas des groupes unitaires, en adaptant de manière relativement évidente ce qui a été fait pour les groupes classiques. Les résultats avaient dans ce cas déjà été obtenu par Johnson [26] à la suite des travaux de Clozel [22] dans le cas tempéré.

Nous passons donc en revue les adaptations et compléments à apporter. Dans cette section, $G_N$ désigne maintenant le groupe $\text{Res}_{\mathbb{C}/\mathbb{R}}(\mathbf{GL}_N)$ obtenu par restriction des scalaires de $\mathbb{C}$ à $\mathbb{R}$ du groupe $\mathbf{GL}_N$ et $G_N = G_N(\mathbb{R})$ est le groupe de ses points réels de sorte que l'on identifie $G_N$ et $\mathbf{GL}_N(\mathbb{C})$. L'involution de Cartan sur $G_N = \mathbf{GL}_N(\mathbb{C})$ est $\tau : g \mapsto t^{\frac{1}{2}}g^{-1}$.
Identifions $\mathbf{G}_N(\mathbb{C}) = \mathrm{Res}_{\mathbb{C}/\mathbb{R}}(\mathbf{G}\mathbf{L}_N)(\mathbb{C})$ à $\mathbf{G}\mathbf{L}_N(\mathbb{C}) \times \mathbf{G}\mathbf{L}_N(\mathbb{C})$. En considérant la sous-algèbre de Cartan de $\mathcal{M}_N(\mathbb{C})$ constituée des matrices diagonales que l'on identifie à $\mathbb{C}^N$, on obtient par l'isomorphisme d'Harish-Chandra une identification entre les caractères infinitésimaux pour $G_N$ et les orbites sous l'action de $\mathfrak{G}_N \times \mathfrak{G}_N$ dans l'espace $(\mathbb{C} \times \mathbb{C})^N$, le premier facteur $\mathfrak{G}_N$ agissant par permutation sur les premières composantes, et le second sur les deuxièmes composantes. On peut voir une telle orbite comme un couple de deux multi-ensembles à $N$ éléments dans $\mathbb{C}$. Si le caractère infinitésimal est donné par un tel couple $(\{s_{i,1}\}_{i=1,...,N}, \{s_{i,2}\}_{i=1,...,N})$, alors celui-ci est entier si quels que soient $i, j \in \{1,...,N\}$, $s_{i,1} - s_{j,1} \in \mathbb{Z}$ et $s_{i,2} - s_{j,2} \in \mathbb{Z}$. Il est régulier si quels que soient $i, j \in \{1,...,N\}$, $s_{i,1} - s_{j,1} \neq 0$ et $s_{i,2} - s_{j,2} \neq 0$. C'est le caractère infinitésimal d'une représentation de dimension finie de $G_N$ si et seulement s'il est entier et régulier.

## 11.1. Classifications pour $\mathbf{G}\mathbf{L}_N(\mathbb{C})$

La classification des représentations irréductibles de $\mathbf{G}\mathbf{L}_N(\mathbb{C})$ est similaire à celle de $\mathbf{G}\mathbf{L}_N(\mathbb{R})$, le théorème 3.2, qui ramène la classification des représentations irréductibles à celle des séries discrètes étant valable tel quel. La différence entre les deux cas est que $\mathbf{G}\mathbf{L}_N(\mathbb{C})$ n'admet de séries discrètes que pour $N=1$. Celles-ci sont donc les caractères de $\mathbb{C}^\times$. Ces derniers sont paramétrés par les couples $s_1, s_2 \in \mathbb{C}$ avec $s_1 - s_2 \in \mathbb{Z}$ : on pose

$$ \eta(s_1, s_2) : \mathbb{C}^{\times} \to \mathbb{C}^{\times}, \quad z \mapsto z^{s_1} \bar{z}^{s_2} = |z|^{s_1+s_2} \left( \frac{z}{|z|} \right)^{s_1-s_2}. $$

Un paramètre de Langlands pour $\mathbf{G}\mathbf{L}_N(\mathbb{C})$ est un morphisme algébrique d'image semi-simple

$$ \phi : W_{\mathbb{C}} = \mathbb{C}^{\times} \to \mathbf{G}\mathbf{L}_{N}(\mathbb{C}). $$

Une telle représentation de $\mathbb{C}^\times$ est complètement réductible, les représentations irréductibles $\chi_{s_{i,1},s_{i,2}}$ de $\mathbb{C}^\times$ ont été déterminées en (3.5).

Les paquets de Langlands pour $G_N$ sont des singletons, et la classification de Langlands avec $L$-groupe constitue dans ce cas une classification complète de $\Pi(G_N)$. Pour une classe de conjugaison de paramètres $\phi$, notons $\Pi_\phi$ la représentation correspondante. Écrivons $\phi$ comme somme de représentations irréductibles $\chi_{s_{i,1},s_{i,2}}$ de $\mathbb{C}^\times$. Alors $\Pi_\phi = \chi_\eta(s_{i,1}, s_{i,2})$.

Un paramètre d'Arthur pour $G_N$ est un morphisme

$$ \psi : W_{\mathbb{C}} \times \mathbf{SL}_2(\mathbb{C}) \to \mathbf{G}\mathbf{L}_N(\mathbb{C}). $$
Une telle représentation de $W_C \times SL_2(\mathbb{C})$ est complètement réductible, et les représentations irréductibles de $W_C \times SL_2(\mathbb{C})$ sont de la forme $\chi_{s_1,s_2} \otimes R_a$, $s_1, s_2 \in \mathbb{C}$, $s_1 - s_2 \in \mathbb{Z}$, $a \in \mathbb{N}^*$.

Les paquets d'Arthur pour $G_N$ sont des singletons. On note $\Pi_\psi$ la représentation attachée à la classe de conjugaison du paramètre d'Arthur $\psi$. Si $\psi = \chi_{s_1,s_2} \otimes R_a$, $s_1, s_2 \in \mathbb{C}$, $s_1 - s_2 \in \mathbb{Z}$, $a \in \mathbb{N}^*$, est un paramètre d'Arthur irréductible, on pose

$$I(s_1, s_2, a) = \eta \left( s_1 - \frac{a-1}{2}, s_2 - \frac{a-1}{2} \right) \times \eta \left( s_1 - \frac{a-3}{2}, s_2 - \frac{a-3}{2} \right) \\ \times \cdots \times \eta \left( s_1 + \frac{a-1}{2}, s_2 + \frac{a-1}{2} \right).$$

C'est une représentation standard dont l'unique sous-module irréductible de $I(s_1, s_2, a)$ est alors le caractère

$$\eta(s_1, s_2)_a : g \mapsto \eta(s_1, s_2)(\det(g))$$

de $G_a$. On a alors $\Pi_\psi = \eta(s_1, s_2)_a$. Si $\psi$ se décompose en $\psi = \sum_{i=1,...,r} \psi_i$, alors $\Pi_\psi = \times_i \Pi_{\psi_i}$.

*Remarque 11.1.* — Nous avons utilisé ci-dessus la forme « complexe » du L-groupe et des paramètres de Langlands de $G_N = GL_N(\mathbb{C})$. Si nous considérons ce groupe comme le groupe $Res_{\mathbb{C}/\mathbb{R}}(GL_N)$, il nous faut aussi introduire $\hat{G}_N = GL_N(\mathbb{C}) \times GL_N(\mathbb{C})$ et $^L\hat{G}_N = \hat{G}_N \times W_{\mathbb{R}}$, où l'élément $j$ de $W_{\mathbb{R}}$ agit sur $GL_N(\mathbb{C}) \times GL_N(\mathbb{C})$ par $(g_1, g_2) \mapsto (g_2, g_1)$. Les classes de conjugaison de paramètres de Langlands « complexes » $\phi : W_C \to GL_N(\mathbb{C})$ sont alors en bijection (que nous ne rappelons pas ici, voir [16]) avec classes de conjugaison de paramètres de Langlands $\phi : W_{\mathbb{R}} \to {}^L\hat{G}_N$, et de même pour les paramètres d'Arthur.

## 11.2. Résolution de Johnson de $\eta(-\frac{p}{2}, \frac{p}{2})_N$

Soient $p, N \in \mathbb{Z} \times \mathbb{N}^*$, tels que $|p| > N - 1$ et soit $\eta(-\frac{p}{2}, \frac{p}{2})_N$ le caractère de $G_N$ défini ci-dessus. Pour $s \in \mathfrak{S}_N$, notons

$$X(s) = \times_{i=1}^{N} \eta \left( \frac{-p - (N-1)}{2} + (i-1), \frac{p - (N-1)}{2} + (s(i) - 1) \right).$$

La résolution de Johnson s'écrit alors (remarquons que $q(G_N) = \frac{N(N-1)}{2}$) :

$$0 \to \eta\left(-\frac{p}{2}, \frac{p}{2}\right)_N \to X_0 \to X_1 \to \dots \to X_{\frac{N(N-1)}{2}} \to 0$$

où $X_i$ est la somme directe des $X(s)$, $s \in \mathfrak{S}_N$, de longueur $N$ dans le groupe de Coxeter $\mathfrak{S}_N$.
### 11.3. L'espace tordu $\tilde{G}_N$

La seule chose qui change par rapport à la section 5 est qu'il faut maintenant prendre pour définition de l'automorphisme $\theta_N$ de $G_N$ :

$$ \theta_N : g \mapsto J_N(t\bar{g}^{-1})J_N. $$

On a

$$ \eta(s_1, s_2)^{\theta_N} = \eta(-s_2, -s_1). $$

Les paramètres d'Arthur irréductibles $\theta_N$-stables sont donc les $\psi = \chi_{-\frac{p}{2}, \frac{p}{2}} \otimes R_N, p \in \mathbb{Z}$.

### 11.4. Caractères tordus des $\eta(-\frac{p}{2}, \frac{p}{2})_N$

Les résultats de la section 6 se transposent immédiatement au calcul des caractères tordus de $\pi = \eta(-\frac{p}{2}, \frac{p}{2})_N$, on obtient :

$$ \mathrm{Tr}_{\theta_N}(\pi) = \sum_{s \in \mathcal{S}_N} (-1)^{\ell_{\theta}(s)} \mathrm{Tr}_{\theta_N}(X(s)). \quad (11.1) $$

### 11.5. Groupes unitaires et changement de base

Les « groupes unitaires » que nous considérons sont ceux qui apparaissent dans les données endoscopiques elliptiques simples des $\tilde{G}_N$ cf. [44]. Il s'agit donc, si $N$ est pair, du groupe $G = \mathbf{U}(\frac{N}{2}, \frac{N}{2})$ et si $N$ est impair du groupe $G = \mathbf{U}(\frac{N-1}{2}, \frac{N+1}{2})$.

Pour chacun de ces groupes, on dispose d'un plongement du $L$-groupe de $G$ dans $^{L}G_N$ :

$$ \mathrm{Std}_G : {}^L G \to {}^L G_N \quad (11.2) $$

appelé parfois dans la littérature « plongement standard » ou « principal ». La donnée de $(\mathbf{G}, \mathrm{Std}_G)$ est celle d'une donnée endoscopique tordue elliptique pour $(G_N, \theta_N)$. Le reste de la section 9.1 se transpose alors aisément.

Soit $\psi_G \in \psi(G)$ un paramètre d'Arthur pour le groupe $G$. Posons $\psi = \mathrm{Std}_G \circ \psi_G$. C'est un paramètre d'Arthur $\theta_N$-stable pour le groupe $G_N$. Soit $\Pi_\psi$ la représentation irréductible $\theta_N$-stable de $G_N$ associée à ce paramètre.

On suppose maintenant de plus que $\psi_G$ est un paramètre d'Adams-Johnson. On reprend les notations de la section 8.2 pour les objets attachés au paramètre $\psi_G$ et celles de la section 3.2 pour les objets attachés à $\psi$. On explicite ceux-ci pour les groupes unitaires.
Quitte à remplacer $\psi_G$ par un paramètre équivalent, on peut supposer que le centralisateur $\mathcal{L}$ de $\psi_G(\mathbb{C}^\times)$ dans $\hat{G}$ est de la forme

$$ \mathcal{L} \approx \mathcal{L}_1 \times \cdots \times \mathcal{L}_r \qquad (11.3) $$

où pour tout $i = 1, \dots, r$, $\mathcal{L}_i = \mathbf{GL}_{N_i}(\mathbb{C})$, $N_i \in \mathbb{N}^\times$. On a d'autre part $\sum_{i=1}^r N_i = N$.

Soit $(\mathbf{Q}, \mathbf{L})$ représentant une classe dans $S_Q$ (cf. section 8.2). On a alors un isomorphisme

$$ L \approx L_1 \times \cdots \times L_r $$

où pour tout $i = 1, \dots, r$, $L_i = \mathbf{U}(b_i, c_i)$, avec $b_i + c_i = N_i$. Si $N$ est pair $\sum_i b_i = \sum_i c_i = \frac{N}{2}$ et si $N$ est impair $\sum_i b_i = \frac{N-1}{2}$, $\sum_i c_i = \frac{N+1}{2}$.

Le paramètre $\psi$ se décompose en somme de paramètres irréductibles $\psi = \bigoplus_{i=1,\dots,r} \psi_i$ comme en (3.9), où $\psi_i$ se factorise en

$$ \psi_i : W_{\mathbb{R}} \times \mathbf{SL}_2(\mathbb{C}) \xrightarrow{\psi_{G,i}} L \xrightarrow{\mathbf{Std}_{N_i}} L^{G_{N_i}}, $$

et l'on a $\psi_{i,|\mathbb{C}|} \approx \chi_{-\frac{p_i}{2}, \frac{p_i}{2}} \otimes R_{N_i}$, $\Pi_{\psi_i} = \eta(-\frac{p_i}{2}, \frac{p_i}{2})_{N_i}$ avec $p_i$ pair. On note alors $I(\psi_i) = I(-\frac{p_i}{2}, \frac{p_i}{2}, N_i)$ la représentation standard correspondante.

*Remarque 11.2.* — La condition de parité sur les $p_i$ vient de ce que l’on a choisi $\mathbf{Std}_G$ comme étant le plongement associé au changement de base principal. On aurait pu faire un autre choix de plongement, le changement de base « tordu » et la condition de parité aurait été inversée.

Le reste de la section 9.2 se transpose sans difficulté. Il en est de même des résultats de la section 7.

## 11.6. Démonstration du résultat principal

On reprend les notations de la section précédente, où $\psi_G$ est un paramètre d'Adams-Johnson pour un groupe unitaire quasi-déployé $G = \mathbf{U}(b, c)$ avec $b + c = N$ et $\psi = \mathbf{St}_G \circ \psi_G$. Notre but est de démontrer l'égalité de distributions sur $\tilde{G}_N$ :

$$ \mathrm{Tr}_{\theta_N}(\Pi_{\psi}) = \mathrm{Trans}_G^{G_N}(\Theta_{\Pi_{\psi_G}^{st}}^{st}). \qquad (11.4) $$

D'après (8.7), on a une égalité de distributions sur $G$

$$ \Theta_{\Pi_{\psi_G}^{st}} = (-1)^{q(L^*)} \sum_{\phi_G \in \Phi(\psi_G)} (-1)^{\ell_V(\phi_G)} \Theta_{\tilde{\Pi}_{\phi_G}}, \qquad (11.5) $$
où tous les termes sont des distributions stables. On en déduit que

$$ \mathrm{Trans}_G^{G_N}(\Theta_{\Pi_{\psi_G}^{st}}^{st}) = (-1)^{q(L^*)} \sum_{\phi_G \in \Phi(\psi_G)} (-1)^{\ell_V(\phi_G)} \mathrm{Trans}_G^{G_N}(\Theta_{\tilde{\Pi}_{\phi_G}}^{\tilde{\psi}_G}). \quad (11.6) $$

Or, le résultat de la proposition 9.1 est encore valide dans le cas du changement de base, où il est dû à Clozel [22](2) : on a pour tout $\phi_G \in \Phi(\psi_G)$

$$ \mathrm{Tr}_{\theta_N}(\tilde{\Pi}_\phi) = \mathrm{Trans}_G^{G_N}(\Theta_{\tilde{\Pi}_{\phi_G}}) \quad (11.7) $$

où $\phi = \mathbf{St}_G \circ \phi_G$ et $\Pi_\phi$ est la représentation de $G_N$ associée par Langlands au paramètre de Langlands $\phi$. L'identité (11.4) est donc équivalente à

$$ \mathrm{Tr}_{\theta_N}(\Pi_\psi) = (-1)^{q(L^*)} \sum_{\phi_G \in \Phi(\psi_G)} (-1)^{\ell_V(\phi_G)} \mathrm{Tr}_{\theta_N}(\tilde{\Pi}_\phi). \quad (11.8) $$

La réduction au cas d'un paramètre irréductible marche ici comme dans la section 10.4. Il s'agit donc d'établir les résultats analogues à ceux de la section 10.3, en remplaçant **Speh** $((-\frac{p}{2}, \frac{p}{2}), n)$ par $\eta(-\frac{p}{2}, \frac{p}{2})_N$ (avec ici $p$ pair, cf. remarque 11.2), et plus précisément de montrer que :

$$ \sum_{s \in \mathcal{J}_N} (-1)^{\ell_{\theta}(s)} \mathrm{Tr}_{\theta_N}(X(s)) = (-1)^{q(L^*)} \sum_{\phi_G \in \Phi(\psi_G)} (-1)^{\ell_V(\phi_G)} \mathrm{Tr}_{\theta_N}(\tilde{\Pi}_\phi). $$

Exhibons à cette fin une bijection $s \in \mathcal{J}_N \mapsto \phi_G \in \Phi(\psi_G)$ telle que $X(s) = \tilde{\Pi}_\phi$, $\phi = \mathrm{Std}_G \circ \phi_G$ et $q(L^*) + \ell_V(\phi_G) = \ell_\theta(s) \mod 2$.

Dans le cas qui nous occupe, le paquet d'Adams-Johnson du paramètre $\psi_G$ est un singleton, constitué du caractère unitaire $\pi_{\psi_G}$ du groupe unitaire quasi-déployé $G = \mathbf{U}(b, c)$ donné par $g \mapsto (\det g)^{p/2}$. L'ensemble $\Phi(\psi_G)$ est alors l'ensemble des paramètres de Langlands des représentations standard apparaissant dans les résolutions de $\pi_{\psi_G}$. D'après la section 4, ces représentations standard sont paramétrées par $\mathcal{J}_N^{b,c,\pm}$, et leur paramètres de Langlands par $\mathcal{J}_N$. Ceci donne la bijection voulue par multiplication par l'élément le plus long $w_0$, de manière analogue à la section 10.3.

On vérifie maintenant que les longueurs coïncident, en utilisant $\ell_\theta(w_0) = q(L^*)$ de la même manière que dans la section 10.3, en reliant longueur de Vogan, dimension des orbites dans la variétés des drapeaux pour le groupe unitaire et $\theta$-longueur dans $\mathcal{J}_N$.

<footnote>(2) La normalisation de Clozel ne se fait pas avec les modèles de Whittaker mais avec le $\mathbf{U}(n)$-type minimal; comme il n'est pas clair que cette normalisation coïncide avec celle qui est utilisée ici, on vérifie que le transfert se fait « sans constante » comme pour les groupes orthogonaux ou symplectiques dans l'appendice A.</footnote>
Annexe A. Calcul du facteur de transfert spectral pour les représentations tempérées dans le cas archimédien

Nous avons besoin de compléter le calcul de [37] pour avoir précisément ce qui est appelé par Mezo et Shelstad le facteur de transfert spectral (cf. (9.3)). Le calcul est ici beaucoup plus simple que ce qui est fait en [37], mais uniquement pour les groupes classiques (alors que [37] est plus général). Il devrait pouvoir être fait de manière purement locale et nous n'avons aucun doute sur le fait que Shelstad et Mezo donneront sous peu une meilleure preuve. L'argument est de type local/global : on montre que l'on peut mettre la situation à une place archimédienne dans une situation globale où aux autres places on connaît le résultat : c'est la méthode suivie par [10] pour déduire le cas p-adique du cas archimédien supposé établi. L'intérêt de cet annexe est aussi de compléter la preuve des toutes les hypothèses faites en [10] et de rendre inconditionnels tous les travaux qui en dépendent. On s'inspire de [10, 6.2.2], on y a juste ajouté une construction tirée de [18] pour traiter le cas des caractères centraux non triviaux pour les représentations des groupes classiques considérés. On reprend les notations des sections 5 à 10.

A.1. Rappel des résultats de [37]

On normalise les facteurs de transfert géométriques et les mesures de sorte que le transfert géométrique soit compatible au produit scalaire elliptique, à un facteur près, noté $c(\tilde{G}, \mathbf{G}')$ dans [41, §4.17]. Ceci ne fixe pas complètement les choix pour les facteurs de transfert, on reviendra sur ce problème ci-dessous. On dualise pour obtenir le produit scalaire elliptique sur l'espace des représentations elliptiques. Pour ce produit scalaire elliptique la norme d'une représentation discrète de $\tilde{G}_N$ est $2^x$ où $x$ est le nombre de facteurs du sous-groupe de Levi de $G_N$ à partir duquel on induit, d'après [43, §7.3]. (où la définition de $\iota(\tau)$ est en [43, §2.11]). Le facteur d'isométrie vaut 2 quand le groupe classique considéré comme endoscopique est $\mathbf{Sp}(2n, \mathbb{R})$ ou $\mathbf{SO}(n, n+1)$ (cas (A) et (B) du texte) et 4 pour les groupes $\mathbf{SO}(n, n)$ ou $\mathbf{SO}(n-1, n+1)$ (cas (C) et (D)) car il y a en plus un groupe d'automorphismes extérieurs (voir le calcul de $c(\tilde{G}, \mathbf{G}')$ dans [41, §4.17]).

On fixe le groupe classique $G$ que l'on suppose quasi-déployé et ayant des séries discrètes et soit $\psi$ un paramètre pour une représentation discrète de $\tilde{G}_N$ se factorisant par un paramètre $\psi_G$ de $G$ (c'est-à-dire que $\psi = \text{Std}_G \circ \psi_G$). On note $\pi^G(\psi) := \sum \pi$, où la somme porte sur les séries discrètes de $G$ dans le paquet déterminé par $\psi_G$; rappelons que dans le cas des groupes orthogonaux pairs, on regroupe deux paquets conjugués sous
le groupe orthogonal quand ces paquets sont distincts. On note $\Pi_{\psi}$ la représentation irréductible de $G_N$ ayant $\psi$ comme paramètre de Langlands. On étend $\Pi_{\psi}$ en une représentation de $G_N^+$, normalisée comme dans la section 5.2 grâce à la donnée de Whittaker.

D'après [37], il existe un nombre complexe $z(\psi)$ tel que l'on ait l'égalité de transfert :

$$ \forall \tilde{f} \in \tilde{\mathcal{H}}_N, \quad \mathrm{Tr}_{\theta_N}(\Pi_{\psi})(\tilde{f}) = z(\psi) \mathrm{Tr}(\pi^G(\psi)(f^G)), \quad (\text{A.1}) $$

où $f^G$ est un transfert de $\tilde{f}$ à $G(\mathbb{R})$. Notre but est de montrer que $z(\psi) = 1$.

## A.2. Valeur absolue du facteur de transfert spectral

Une première étape est de remarquer comme corollaire des choix faits le résultat suivant.

**LEMME A.1.** — *Le facteur de transfert $z(\psi)$ dans la formule (A.1) est de valeur absolue 1.*

*Démonstration.* — Il faut calculer la norme elliptique de $\pi^G(\psi)$. Dans le cas de $\mathbf{Sp}(2n, \mathbb{R})$, chaque série discrète a pour norme 1 et il y en a $2^n$; avec le facteur d'isométrie 2, on obtient $2^{n+1}$. La norme de la représentation elliptique de $\tilde{G}_{2n+1}$ est bien ici $2^{n+1}$.

Pour les groupes orthogonaux, il faut revenir aux $K$-groupes de Kottwitz (cf. [9]). La norme de la distribution stable se calcule à l'aide du transfert à partir des $K$-groupes. Si $G = \mathbf{SO}(n, n+1)$, le paramètre $\psi_G$ est celui de séries discrètes de tous les groupes $\mathbf{SO}(p, q)$ avec $(-1)^p = (-1)^n$, il y en a $2^{n-1}$; la norme de la représentation elliptique de $\tilde{G}_{2n}$ est effectivement $2^n$ et on a encore le résultat.

Dans le cas de $\mathbf{SO}(n, n)$ ($n$ pair) ou $\mathbf{SO}(n-1, n+1)$ ($n$ impair) (de sorte qu'il y a bien des séries discrètes), on distingue suivant que dans la décomposition de $\psi = \bigoplus_{i=1,...,r} \psi_i$ de la section 9.2, la paramètre $\psi_r$ est trivial ou non ($n_r = 0$ ou $n_r \neq 0$). Dans le premier cas, les séries discrètes sont invariantes sous le groupe orthogonal et leur nombre se calcule en utilisant l'endoscopie tordue pour le groupe orthogonal (ou plutôt le $K$-groupe associé), on trouve alors $2^{n-1}$. La norme de la représentation de $\tilde{G}_{2n}$ est $2^{n+1}$. Le facteur d'isométrie étant 4 dans ce cas, on obtient bien l'égalité. Dans le second cas, dans la classe de conjugaison sous $\mathbf{O}(2n, \mathbb{C})$ de $\psi_G$, il y a deux classes de conjugaison sous $\mathbf{SO}(2n, \mathbb{C})$. Les séries discrètes ne sont pas invariantes sous le groupe orthogonal, il y a deux paquets différents de celles-ci échangés par le groupe orthogonal. La norme de la somme des deux paquets est encore le nombre de séries discrètes associées au paramètre $\psi_G$.
et se calcule en utilisant l'endoscopie ordinaire à automorphisme près. On trouve $2^{n-1}$ données endoscopiques possibles à automorphisme près. Ainsi la norme d'un paquet est $2^{n-2}$. La norme de la représentation de $\tilde{G}_{2n}$ est ici $2^n$ et on retrouve encore l'assertion. $\square$

### A.3. La fonctorialité de Langlands pour les représentations tempérées

Ici on suppose que $F$ est soit un corps p-adique soit un corps archimédien. On connaît déjà un certain nombre de résultats sur la fonctorialité de Langlands en particulier sur les paramètres. Cela repose sur l'étude de l'espace $I_{cusp}(G)$ : cet espace vectoriel est l'image des fonctions $C_c^\infty(G)$ dont tous les termes constants (au sens d'Harish Chandra) pour les sous-groupes paraboliques propres de $G$ sont nuls modulo l'espace des fonctions $C_c^\infty(G)$ dont toutes les intégrales orbitales pour des éléments semi-simples réguliers sont nulles.

On sait décomposer cet espace en utilisant la théorie de l'endoscopie ordinaire. À cet effet, pour un groupe quasi-déployé $H$, on définit $SI_{cusp}(H)$ qui est le quotient de $I_{cusp}(H)$ par le sous-espace engendré par les fonctions dont toutes les intégrales orbitales stables sont nulles.

Ce qui nous importe ici est de comprendre $SI_{cusp}(G)$ en supposant que $G$ est quasi-déployé. À une représentation elliptique irréductible on associe un pseudo-coefficient qui est un élément de $I_{cusp}(G)$; on sait que la projection orthogonale (pour le produit scalaire elliptique) de ce pseudo-coefficient sur $SI_{cusp}(G)$ est nulle si $\pi$ n'est pas une série discrète. Si $\pi$ est une série discrète on note $f_{\pi,st}$ cette projection. Si $F$ est archimédien, on sait que $f_{\pi,st}$ est la somme des pseudo-coefficients pour les séries discrètes dans le même paquet de Langlands que $\pi$. Si $F$ est p-adique, tant que l'on ne peut pas utiliser [10], c'est-à-dire tant que l'on n'a pas démontré ce qui est l'objet de ces lignes, on connaît uniquement les propriétés suivantes :

* si $\pi \not\sim \pi'$ sont des séries discrètes, alors $f_{\pi,st}$ est un multiple de $f_{\pi',st}$ ou ces deux fonctions sont orthogonales pour le produit scalaire elliptique,

* dans tous les cas $SI_{cusp}(G)$ est engendré comme espace vectoriel par l'ensemble des fonctions $f_{\pi,st}$ quand $\pi$ parcourt l'ensemble des séries discrètes.

Dans certains cas, comme ceux qui nous occupent ici, l'espace $SI_{cusp}(G)$ peut se comprendre grâce à l'endoscopie tordue; pour cela on utilise le fait que $G$ fait partie d'une donnée endoscopique elliptique d'un $\tilde{G}_N$ (cet espace
tordu est défini pour $F$ p-adique de la même façon que pour $F = \mathbb{R}$. De manière plus générale les notations du texte concernant $\mathbf{GL}$ et les groupes classiques s'adaptent de manière évidente à un corps $F$ quelconque). En fait ici, la situation est particulièrement simple : si $G \neq \mathbf{Sp}(2n)$, alors $N = 2n$ est pair et $G = \mathbf{SO}(2n)$ quasi-déployé ou $G = \mathbf{SO}(2n+1)$ et $G$ détermine uniquement une donnée endoscopique elliptique de $\tilde{G}_N$. Si $G = \mathbf{Sp}(2n)$, les données endoscopiques elliptiques qui ont comme groupe sous-jacent $G$ sont en bijection avec les caractères quadratiques de $F^*$; dans ce qui suit on considère la donnée endoscopique elliptique correspondant au caractère quadratique trivial si $G = \mathbf{Sp}(2n)$.

On revient à $\pi$ une série discrète irréductible de $G$ et à $f_{\pi, st}$; si $G = \mathbf{SO}(2n)$, on note $f_{\pi, st}^O$ soit $f_{\pi, st}$ si $\pi$ est stable sous l'action de $\mathbf{O}(2n)$ soit la somme $f_{\pi, st} + f_{\pi', st}$ où $\pi'$ est l'image de $\pi$ sous l'action de $\mathbf{O}(2n)$. On sait a priori que $f_{\pi, st}$ ou $f_{\pi, st}^O$ sont des transferts pour l'ensocopie tordue d'un élément de $I_{cusp}(\tilde{G}_N)$ et le problème est de déterminer cet élément.

On a déjà des renseignements assez précis pour résoudre ce problème. À $\pi$ est associé un morphisme $\phi$ de $W'_F$ dans $\mathbf{GL}_N(\mathbb{C})$ où $W'_F = W_F$ si $F$ est un corps archimédien et $W'_F = W_F \times \mathbf{SL}_2(\mathbb{C})$ si $F$ est un corps p-adique. On note $\Pi_\phi$ la représentation irréductible de $G_N$ qui correspond à $\phi$ par la correspondance de Langlands. On sait que $\Pi_\phi$ définit une représentation elliptique de $\tilde{G}_N$, c'est-à-dire qu'il existe un sous-groupe de Levi $M$ de $G_N$ et $\sigma$ une série discrète de $M$ tels que $\pi$ soit l'induite de $\sigma$ et tels que le normalisateur de $(M, \sigma)$ dans $\tilde{G}_N$ est un espace homogène sous l'action de $M$, ou autrement dit que $\text{Norm}_{\tilde{G}_N}(M, \sigma)/M$ a exactement un élément. On étend cette représentation en une représentation de $\tilde{G}_N^+$ comme dans la section 5.2 grâce à la donnée de Whittaker.

À une telle représentation elliptique $\Pi_\phi$ est associé un pseudo-coefficient $f_\phi$. Pour le moment, on sait qu'il existe $z'_\pi \in \mathbb{C}^*$ tel que $f_{\pi, st}$ soit un transfert de $z'_\pi f_\phi$. Comme $\Pi_\phi$ n'est pas de norme 1 pour le produit scalaire elliptique, il est préférable de traduire ce transfert en termes de transfert de trace de représentations : d'abord on écrit la combinaison linéaire stable de séries discrètes associées à $f_{\pi, st}$ ou $f_{\pi, st}^O$ sous la forme :

$$ \pi_{st} := \sum_{\pi' \in \Pi_{st}} a(\pi') \operatorname{Tr} \pi', $$

où $\Pi_{st}$ est un ensemble fini de séries discrètes contenant $\pi$ et où $a(\pi') \in \mathbb{C}^*$ avec $a(\pi) = 1$. Si $F$ est archimédien, on a même $a(\pi') = 1$ pour tout $\pi' \in \pi_{st}$. A posteriori cela sera aussi vrai si $F$ est p-adique mais pour le moment on ne le sait pas. Donc au sujet du transfert, on sait qu'il existe $z_\pi \in \mathbb{C}^*$ tel
que pour tout $\tilde{f} \in \tilde{\mathcal{H}}_N$, on ait :

$$z_{\pi} \operatorname{Tr}_{\theta_N} (\Pi_{\phi}(\tilde{f})) = \sum_{\pi' \in \Pi_{st}} a(\pi') \operatorname{Tr}(\pi'(f^G)), \quad (A.2)$$

où $f^G$ est le transfert de $\tilde{f}$ à $G$.

Nous voulons démontrer que $z_{\pi} = 1$ si $F$ est archimédien, et pour cela, nous allons utiliser quelques cas simples de ce résultat dans le cas où $F$ est $p$-adique.

### A.4. Les cas simples des groupes $p$-adiques et des représentations de Steinberg

Comme dans le paragraphe précédent, on fixe encore $G = G(F)$ un groupe classique quasi-déployé, et ici $F$ est un corps $p$-adique. La représentation de Steinberg est bien définie pour $G$; c'est l'image de la représentation triviale par l'involution d'Iwahori-Matsumoto. C'est une série discrète. Comme la représentation triviale a un caractère qui est une distribution stable, il en est de même de la représentation de Steinberg. On note $\operatorname{St}(G)$ cette représentation. On veut calculer son transfert pour l'endoscopie tordue vers $\tilde{G}_N$. On définit $a$ priori ce qui sera le résultat. Si $G$ est un groupe endoscopique principal de $\tilde{G}_N$, c'est-à-dire si $G \neq \mathbf{SO}(2n)$, alors on considère $\operatorname{St}(N)$ la représentation de Steinberg de $G_N$. Si $G = \mathbf{SO}(2n)$, on considère l'induite $\operatorname{St}(N-1) \times \eta_G$ où $\eta_G$ est le caractère trivial de $F^\times$ si $G$ est déployé et est le caractère défini par l'extension quadratique qui déploie $G$ sinon. Pour unifier les notations, on note $\tilde{\operatorname{St}}(G)$ cette représentation.

**LEMME A.2.** — Pour toute fonction $\tilde{f} \in \tilde{\mathcal{H}}_N$,

$$\operatorname{Tr}_{\theta_N} (\tilde{\operatorname{St}}(G)(\tilde{f})) = \operatorname{Tr} (\operatorname{St}(G)(f^G)),$$

où $f^G$ est un transfert de $\tilde{f}$ à $G$.

**Démonstration.** — En [40] il est montré (comme nous l'avons rappelé ci-dessus) qu'il existe un scalaire $z$ tel que l'on ait pour tout $\tilde{f} \in \tilde{\mathcal{H}}_N$,

$$\operatorname{Tr}_{\theta_N} (\tilde{\operatorname{St}}(G)(\tilde{f})) = z \operatorname{Tr} (\operatorname{St}(G)(f^G)),$$

et le point est de montrer que $z = 1$. Comme le transfert commute au module de Jacquet, on se ramène aisément à montrer cette égalité pour $n = 1$. Les cas de $\mathbf{SO}(3)$ et $\mathbf{SL}(2)$ sont simples : dans ces cas, on a :

$$\operatorname{St}(G) = \operatorname{Ind}_B^G (|\cdot|^x) - 1_G, \quad (A.3)$$

où $1_G$ est la représentation triviale de $G$ et $x$ vaut $1/2$ si $G = \mathbf{SO}(3)$ et $1$ si $G = \mathbf{SL}(2)$. Distinguons encore suivant que $G = \mathbf{SL}(2)$ ou $\mathbf{SO}(3)$. Dans le