BENJAMIN CAHEN

# Déformations formelles de certaines représentations de l'algèbre de Lie d'un groupe de Poincaré généralisé

*Annales mathématiques Blaise Pascal, tome 8, n° 1 (2001), p. 17-37*

<http://www.numdam.org/item?id=AMBP_2001__8_1_17_0>

© Annales mathématiques Blaise Pascal, 2001, tous droits réservés.

L'accès aux archives de la revue « Annales mathématiques Blaise Pascal » (http://math.univ-bpclermont.fr/ambp/) implique l'accord avec les conditions générales d'utilisation (http://www.numdam.org/legal.php). Toute utilisation commerciale ou impression systématique est constitutive d'une infraction pénale. Toute copie ou impression de ce fichier doit contenir la présente mention de copyright.

NUMDAM

Article numérisé dans le cadre du programme
Numérisation de documents anciens mathématiques
http://www.numdam.org/
# DÉFORMATIONS FORMELLES DE CERTAINES REPRÉSENTATIONS DE L'ALGÈBRE DE LIE D'UN GROUPE DE POINCARÉ GÉNÉRALISÉ

Benjamin Cahen, Université de Metz, Département de mathématiques, Ile du Saulcy,
57045 Metz Cedex 01, France.

**Résumé:** Soient $G$ le groupe de Poincaré généralisé $R^{n+1} \times SO_0(n, 1)$ et $g$ l'algèbre de Lie de $G$. On détermine les déformations formelles de représentations de $g$ obtenues en différentiant les représentations de masse positive et d'héliticité nulle, de masse nulle et d'héliticité nulle, de $G$.

**Abstract:** Let $G$ be the generalized Poincaré group $R^{n+1} \times SO_0(n, 1)$ and $g$ be the Lie algebra of $G$. We determine the formal deformations of some representations of $g$ corresponding to the massive and masseless representations of $G$ with helicity zero.

## 1. Introduction

Les déformations d'algèbres de Lie, les déformations d'homomorphismes d'algèbres de Lie, de représentations d'algèbres de Lie, ont été étudiées dans les années 1960-1970 notamment par Gerstenhaber [9], Nijenhuis-Richardson [15], [16], [17] et Hermann [12]. Les problèmes liés à l'existence et à la classification de ces déformations relèvent de la cohomologie de Chevalley [12].

Par exemple, pour classifier les déformations formelles d'un $g$-module $V$ où $g$ est une algèbre de Lie, il faut connaître le premier espace de cohomologie de Chevalley $H^1(g, L(V))$ où $L(V)$ est l'espace des endomorphismes de $V$ muni de sa structure usuelle de $g$-module.

En pratique, lorsque $V$ est un $g$-module de dimension infinie, le calcul effectif de l'espace $H^1(g, L(V))$ est souvent délicat. Dans [13], M. Levy-Nahas donne plusieurs exemples de tels calculs et détermine en particulier l'espace $H^1(g, L(V))$ lorsque $g$ est l'algèbre de Lie du groupe de Poincaré et $V$ est un $g$-module obtenu en différentiant une
représentation de masse positive et de spin zéro, ou de masse nulle et de spin zéro, du groupe de Poincaré. Cela permet, dans chacun de ces cas, de déterminer les déformations formelles du g-module V.

Le but du présent travail est d'étendre ces résultats au groupe de Poincaré généralisé $G = \mathbb{R}^{n+1} \times SO_0(n, 1)$ en déterminant les déformations formelles de représentations de l'algèbre de Lie g de G obtenues en différentiant des représentations de G de masse positive et d'héliticité nulle ou de masse nulle et d'héliticité nulle.

La méthode utilisée pour déterminer ces déformations est une application des techniques de quantification développées dans [3] (voir également [2], [4], [5]) et consiste à se ramener à l'aide de la transformation de Weyl à des problèmes de déformation d'homomorphismes d'algèbres de Lie plus accessibles au calcul.

On a donné, dans [4], une réalisation $\pi_m$ de la représentation de G de masse $m > 0$ et d'héliticité nulle dans l'espace de Hilbert $L^2(\mathbb{R}^n)$ et une carte globale $u_m : \mathbb{R}^{2n} \to \mathcal{O}_m$ de l'orbite coadjointe $\mathcal{O}_m \subset g^*$ de G associée par la méthode des orbites à la représentation $\pi_m$ telles que si on note, pour $X \in g$, $\tilde{X}$ la fonction définie sur l'orbite $\mathcal{O}_m$ par

$$ \tilde{X}(\xi) = \langle \xi, X \rangle $$

et si W désigne la transformation de Weyl usuelle [20], l'application $X \to W(i\tilde{X} \circ \mu_m)$ est une représentation de g dans l'espace $C_0^\infty(\mathbb{R}^n)$ des fonctions de classe $C^\infty$ à support compact sur $\mathbb{R}^n$ qui coïncide avec la différentielle de $\pi_m$. L'application $\varphi_m : X \to \tilde{X} \circ \mu_m$ est alors un homomorphisme d'algèbres de Lie de g dans un espace de fonctions sur $\mathbb{R}^{2n}$ qui est une algèbre associative pour le produit de Moyal [3] et donc une algèbre de Lie pour le crochet de Moyal. On déterminera ici les déformations formelles de $\varphi_m$ en commençant par calculer par une méthode directe le premier espace de cohomologie associé à ce problème de déformation d'homomorphisme pour en déduire, par transformation de Weyl inverse, les déformations formelles de la différentielle de $\pi_m$.

Le même procédé sera utilisé dans le cas d'une représentation de masse nulle et d'héliticité nulle de G. On obtiendra ainsi, en particulier, une construction des représentations de G de masse $m > 0$ par déformation de la différentielle d'une représentation de masse nulle.

Le plan de cet article est le suivant. Le paragraphe 2 est consacrée à des généralités sur les déformations formelles d'homomorphismes d'algèbres de Lie. Dans le paragraphe 3, on précise les notations utilisées, les représentations de G dont on va déformer les différentielles et les orbites coadjointes associées à ces représentations par la méthode des orbites. On donne ensuite, dans le paragraphe 4, des paramétrages de ces orbites et on introduit la transformation de Weyl et le produit de Moyal. Dans les paragraphes 5 et 6, on détermine les premiers espaces de cohomologie correspondant à ces problèmes de déformation puis,
dans le paragraphe 7, les déformations formelles cherchées. On termine, dans le paragraphe 8, par quelques remarques où l'on compare nos calculs et nos résultats à ceux de travaux antérieurs: calcul des déformations formelles du plongement canonique d'une algèbre de Lie dans son algèbre enveloppante [18], calculs d'extensions de représentations induites de groupes produits semi-directs [7], [11].

## 2. Généralités sur les déformations formelles

Soient $\alpha$ une algèbre de Lie, $A$ une algèbre associative et unitaire et $\varphi : \alpha \to A$ un homomorphisme d'algèbres de Lie, $A$ étant munie du crochet de Lie donné par le commutateur.

Une déformation formelle de $\varphi$ est une série formelle $\Phi = \sum_{r \ge 0} t^r \Phi_r$ où $\Phi_0 = \varphi$ et les $\Phi_r$ ($r \ge 1$) sont des applications linéaires de $\alpha$ dans $A$ telles que, pour tous $X$ et $Y$ dans $\alpha$,

$$ \Phi[X, Y] = [\Phi(X), \Phi(Y)], $$

le crochet du second membre étant le commutateur de $A$ étendu aux séries formelles par bilinéarité. Remarquons que cette relation équivant à ce que, pour tout $n \ge 0$,

$$ \Phi_n [X, Y] = \sum_{k=0}^{n} [\Phi_k(X), \Phi_{n-k}(Y)] $$

pour tous $X, Y$ dans $\alpha$ (équation de déformation à l'ordre $n$).

Deux déformations formelles $\Phi$ et $\Psi$ de $\varphi$ sont dites équivalentes s'il existe une série formelle $a = 1 + t a_1 + t^2 a_2 + \cdots$ où $a_k \in A$ ($k \ge 1$) telle que, pour tout $X$ dans $\alpha$,

$$ a^{-1} \Phi(X) a = \Psi(X). $$

L'étude des déformations formelles de $\varphi$ conduit à introduire la structure de $\alpha$-module définie sur $A$ par $X \cdot a = [\varphi(X), a]$ pour $X \in \alpha$, $a \in A$ et à considérer la cohomologie de Chevalley de $\alpha$ à valeurs dans le $\alpha$-module $A$. En effet, notant $\partial$ l'opérateur cobord de cette cohomologie, on remarque que l'équation de déformation à l'ordre $n$ ($n \ge 1$) s'écrit

$$ \begin{aligned} \partial \Phi_n [X, Y] &=: [\varphi(X), \Phi_n(Y)] + [\Phi_n(X), \varphi(Y)] - \Phi_n [X, Y] \\ &= - \sum_{k=1}^{n-1} [\Phi_k(X), \Phi_{n-k}(Y)]. \end{aligned} $$

En particulier $\Phi_1$ est un 1-cocycle. On obtient alors :
**Proposition 2.1.** [12]

1) Si $H^2(a, A) = (0)$ alors, pour tout 1-cocycle $\alpha : a \to A$, il existe une déformation formelle $\Phi$ de $\varphi$ telle que $\Phi_1 = \alpha$.

2) Si $H^1(a, A) = (0)$ alors toute déformation formelle $\Phi$ de $\varphi$ est équivalente à $\varphi$.

Le résultat suivant qui donne une description des déformations formelles de $\varphi$ lorsque l'espace $H^1(a, A)$ est de dimension 1 sera utilisé plus loin.

**Proposition 2.2.** Supposons que l'espace $H^1(a, A)$ soit de dimension 1 et qu'il existe une déformation formelle $\Phi$ de $\varphi$ telle que la classe du 1-cocycle $\Phi_1$ engendre $H^1(a, A)$. Pour toute suite $\lambda = (\lambda_k)_{k \ge 1}$ de scalaires posons $S_\lambda(t) = \sum_{r \ge 1} \lambda_r t^r$ et notons $\Phi^\lambda$ la déformation formelle de $\varphi$ définie par $\Phi^\lambda(X) = \sum_{r \ge 0} S_\lambda(t)^r \Phi_r(X)$ pour $X \in a$. Alors l'application $\lambda \to \Phi^\lambda$ est une bijection de l'ensemble des suites $\lambda = (\lambda_k)_{k \ge 1}$ dans l'ensemble des classes d'équivalence de déformations formelles de $\varphi$.

**Preuve.** Soit $\Psi$ une déformation formelle de $\varphi$. Nous allons montrer par récurrence l'existence d'une suite de scalaires $\lambda = (\lambda_k)_{k \ge 1}$ et d'une suite $(a_k)_{k \ge 1}$ d'éléments de $A$ telles que, pour tout $p \ge 1$, les déformations formelles $\Psi^p$ et $\Phi^p$ de $\varphi$ définies par

$$ \Psi^p(X) = \exp(t^p a_p) \dots \exp(t a_1) \Psi(X) \exp(-t a_1) \dots \exp(-t^p a_p) \\ \Phi^p(X) = \sum_{r \ge 0} u_p(t)^r \Phi_r(X) $$

où $u_p(t) = \lambda_1 t + \dots + \lambda_p t^p$, coïncident jusqu'à l'ordre $p$ i.e. $\Psi_k^p = \Phi_k^p$ pour $k = 1, 2, \dots, p$.

Comme $\Psi$ est un 1-cocycle, il existe un scalaire $\lambda_1$ et un élément $a_1$ de $A$ tels que

$$ \Psi_1 = \lambda_1 \Phi_1 + \partial a_1 $$

et les déformations $\Psi^1$ et $\Phi^1$ définis comme ci-dessus coïncident à l'ordre 1. Soit à présent $p \ge 1$.

Supposons définis les scalaires $\lambda_1, \lambda_2, \dots, \lambda_p$ et les éléments $a_1, a_2, \dots, a_p$ de $A$ de sorte que, pour tout $k = 1, 2, \dots, p$, les déformations $\Psi^k$ et $\Phi^k$ définies ci-dessus coïncident à l'ordre $k$. On a alors pour $X$ et $Y$ dans $a$ :

$$ \begin{align*} -\partial \Psi_{p+1}^p (X, Y) &= \sum_{k=1}^{p} \left[ \Psi_k^p (X), \Psi_{p+1-k}^p (Y) \right] \\ &= \sum_{k=1}^{p} \left[ \Phi_k^p (X), \Phi_{p+1-k}^p (Y) \right] \\ &= -\partial \Phi_{p+1}^p (X, Y). \end{align*} $$
Par suite il existe un scalaire $\lambda_{p+1}$ et un élément $a_{p+1}$ de $A$ tels que

$$ \Psi_{p+1}^{p} = \Phi_{p+1}^{p} + \lambda_{p+1} \Phi_{1} + \partial a_{p+1}. $$

Considérons alors les déformations $\Psi^{p+1}$ et $\Phi^{p+1}$ définies comme plus haut; on a, pour $X \in \alpha$ :

$$ \Psi^{p+1}(X) = \exp(t^{p+1} a_{p+1}) \Psi^p(X) \exp(-t^{p+1} a_{p+1}) $$

$$ \Phi^{p+1}(X) = \sum_{r \ge 0} (u_p(t) + \lambda_{p+1} t^{p+1})^r \Phi_r(X). $$

Les déformations $\Psi^{p+1}$ et $\Phi^{p+1}$ coïncident jusqu'à l'ordre $p$. De plus on a d'une part

$$ \Psi_{p+1}^{p+1} = \Phi_{p+1}^{p} + \lambda_{p+1} \Phi_{1} $$

et d'autre part

$$ \Phi^{p+1}(X) = \sum_{r \ge 0} u_p(t)^r \Phi_r(X) + \lambda_{p+1} t^{p+1} \Phi_1(X) + o(t^{p+1}) $$

pour $X \in \alpha$, ce qui montre que

$$ \Phi_{p+1}^{p+1} = \Phi_{p+1}^{p} + \lambda_{p+1} \Phi_{1} $$

donc que $\Psi^{p+1}$ et $\Phi^{p+1}$ coïncident jusqu'à l'ordre $p+1$.

On déduit de ce qui précède que, $\lambda$ désignant la suite $(\lambda_p)_{p \ge 1}$ ainsi obtenue, la déformation formelle $\Psi^\infty$ de $\varphi$ définie par :

$$ \Psi^\infty(X) = \dots \exp(t^p a_p) \dots \exp(t a_1) \Psi(X) \exp(-t a_1) \dots \exp(-t^p a_p) \dots $$

coïncide avec $\Phi^\lambda$ ce qui montre que les déformations formelles $\Psi$ et $\Phi^\lambda$ sont équivalentes. Remarquons que, dans ce qui précède, les scalaires $\lambda_p (p \ge 1)$ sont déterminés de façon unique par la donnée de la déformation formelle $\Psi$. On en déduit que les déformations formelles $\Phi^\lambda$ et $\Phi^{\lambda'}$ associées aux suites $\lambda$ et $\lambda'$ sont équivalentes si et seulement si $\lambda = \lambda'$, ce qui termine.

Supposons à présent que $\varphi$ soit une représentation de l'algèbre de Lie $\alpha$ dans un espace vectoriel $V$; $\varphi$ est un homomorphisme d'algèbres de Lie de $\alpha$ dans l'algèbre $L(V)$ des endomorphismes de $V$. Une déformation formelle de cet homomorphisme sera appelée déformation formelle de la représentation $\varphi$. De façon plus précise, si $A$ est une sous algèbre associative et unitaire de $L(V)$ telle que, pour tout $X$ dans $\alpha$, $\varphi(X)$ appartienne à $A$, une déformation formelle de l'homomorphisme $X \to \varphi(X)$ de $\alpha$ dans $A$ sera appelée déformation formelle de la représentation $\varphi$ dans $A$.
### 3. Orbites coadjointes et représentations associées

**3.1.** Soit $K = SO_0(n, 1)$ ($n \ge 2$) la composante connexe de l'identité du groupe orthogonal de la forme bilinéaire symétrique définie sur $V = \mathbb{R}^{n+1}$ par

$$ \langle p, p' \rangle = - \left( \sum_{1 \le i \le n} p_i p'_i \right) + p_{n+1} p'_{n+1}, \quad p \in V, p' \in V. $$

On note $G$ le groupe produit semi direct $V \times K$ dont la loi est donnée par

$$ (v, k) \cdot (v', k') = (v + kv', k k'), \quad v, v' \in V, k, k' \in K. $$

Soient $\mathfrak{t}$ l'algèbre de Lie de $K$ et $\mathfrak{g} \simeq V \times \mathfrak{t}$ l'algèbre de Lie de $G$. Le crochet de Lie de $\mathfrak{g}$ est donné par

$$ [(v, A), (w, B)] = (Aw - Bv, [A, B]), \quad v, w \in V, A, B \in \mathfrak{t}. $$

On identifie $V^*$ à $V$ au moyen de la forme $\langle \cdot, \cdot \rangle$ ; le dual $\mathfrak{g}^*$ de $\mathfrak{g}$ s'identifie alors à $V \times \mathfrak{t}^*$. L'action coadjointe de $G$ sur $\mathfrak{g}^*$ est

$$ (v, k) \cdot (p, f) = (kp, k \cdot f + v \wedge k p), \quad (v, k) \in G, (p, f) \in \mathfrak{g}^* $$

où $v \wedge p$ désigne l'élément de $\mathfrak{t}^*$ défini par $\langle v \wedge p, A \rangle = \langle p, Av \rangle$ pour $A \in \mathfrak{t}$ et $k \cdot f$ l'action coadjointe de $k \in K$ sur $f \in \mathfrak{t}^*$.

Soient $(e_1, e_2, \dots, e_{n+1})$ la base canonique de $\mathbb{R}^{n+1}$ et $(E_{ij})_{1 \le i,j \le n+1}$ la base canonique de l'espace des matrices carrées d'ordre $n+1$ à coefficients réels. Soient $K_0 \simeq SO(n)$ le stabilisateur de $e_{n+1}$ dans $K$ et $\mathfrak{k}_0$ l'algèbre de Lie de $K_0$. $\mathfrak{k}_0$ est alors, en tant qu'espace vectoriel, engendré par les matrices $E_{ji} - E_{ij}$ ($1 \le i < j \le n$) et le sous espace vectoriel de $\mathfrak{k}$ orthogonal de $\mathfrak{k}_0$ pour la forme de Killing de $\mathfrak{k}$ est engendré par les matrices $E_{k n+1} + E_{n+1 k}$ ($1 \le k \le n$).

Posons

$$ A_{ij} = (0, E_{ji} - E_{ij}), \quad 1 \le i, j \le n $$

$$ T_k = (0, E_{k n+1} + E_{n+1 k}), \quad 1 \le k \le n $$

$$ W_k = (e_k, 0), \quad 1 \le k \le n+1. $$

Les éléments $A_{ij}$ ($1 \le i < j \le n$), $T_k$ ($1 \le k \le n$) et $W_k$ ($1 \le k \le n+1$) de $\mathfrak{g}$ constituent une base de $\mathfrak{g}$. On a les relations de commutation suivantes :

$$ [A_{ij}, A_{jk}] = -A_{ik}, \quad [A_{ij}, T_j] = -T_i, \quad [T_k, T_l] = -A_{kl}, $$

$$ [W_k, T_k] = -W_{n+1}, \quad [W_{n+1}, T_k] = -W_k, \quad [W_i, A_{ij}] = -W_j, $$
pour $i, j, k$ et $l$ dans $\{1, 2, \dots, n\}$, les autres crochets entre ces éléments de $\mathfrak{g}$ étant nuls.

**3.2.** Pour $m > 0$ on note $O_m$ l'orbite de l'élément $(me_{n+1}, 0)$ de $\mathfrak{g}^*$ pour l'action coadjointe de $G$. Le "petit groupe" associé est $K_0$. L'orbite de $e_{n+1}$ dans $V^* \simeq V$ sous l'action de $K$ est la nappe d'hyperboloïde $H_m^+$ ensemble des $w \in V$ tels que $<w, w> = m^2$ et $w_{n+1} > 0$. La méthode des orbites associe à l'orbite $O_m$ l'induite unitaire $\pi_m = \text{Ind}_{V \times K_0}^{\mathfrak{G}} (e^{i<m e_{n+1}, \cdot>}, 1)$ appelée représentation de masse $m$ et d'héliticité nulle de $G$ (voir [1] par exemple) qui est habituellement réalisée dans l'espace de Hilbert obtenu par complétion de l'espace des fonctions $\phi: H_m^+ \to \mathbb{C}$ de classe $C^\infty$ à support compact pour la norme définie par

$$ \|\phi\|^2 = \int_{H_m^+} |\phi(w)|^2 d\mu_m(w) $$

où $d\mu_m(w) = (1/w_{n+1}) dw_1 \dots dw_n$ est la mesure $K$-invariante de $H_m^+$, comme suit :

$$ \pi_m(v, k) \Phi(w) = e^{i\langle w, v \rangle} \phi(k^{-1}w) $$

pour $(v, k) \in G$ et $w \in H_m^+$.

Ici, pour des raisons qui vont apparaître plus loin, on préfère réaliser $\pi_m$ dans l'espace de Hilbert $L^2(\mathbb{R}^n)$ complété de l'espace $C_0^\infty(\mathbb{R}^n, \mathbb{C})$ des fonctions $\varphi: \mathbb{R}^n \to \mathbb{C}$ de classe $C^\infty$ à support compact pour la norme définie par

$$ \|\varphi\|^2 = \int_{\mathbb{R}^n} |\varphi(p)|^2 dp $$

où $dp = dp_1 \dots dp_n$ est la mesure de Lebesgue de $\mathbb{R}^n$ ; on obtient :

$$ \pi_m(v, k) \varphi(p) = e^{i\langle h_m(p), v \rangle} \left( \frac{r_m(k^{-1} \cdot p)}{r_m(p)} \right)^{1/2} \varphi(k^{-1} \cdot p) $$

où

$$ p = (p_1, p_2, \dots, p_n) \in \mathbb{R}^n, \quad r_m(p) = \left( m^2 + \sum_{1 \le i \le n} p_i^2 \right)^{1/2}, \quad h_m(p) = (p, r_m(p)) \in H_m^+ $$

et où $k \cdot p$ désigne l'action de $K$ sur $\mathbb{R}^n$ induite par l'action de $K$ sur $H_m^+$. On obtient alors, comme dans [6], par un calcul direct :

**Proposition 3.1.** Pour $\varphi \in C_0^\infty(\mathbb{R}^n, \mathbb{C})$ on a

$$ d\pi_m(A_{ij}) \varphi(p) = \left( p_j \frac{\partial}{\partial p_i} - p_i \frac{\partial}{\partial p_j} \right) \varphi(p), \quad 1 \le i < j \le n, $$

$$ d\pi_m(T_k) \varphi(p) = -r_m(p) \frac{\partial \varphi}{\partial p_k} - (p_k / 2r_m(p)) \varphi(p), \quad 1 \le k \le n, $$

$$ d\pi_m(W_k) \varphi(p) = -ip_k \varphi(p), \quad 1 \le k \le n, $$

$$ d\pi_m(W_{n+1}) \varphi(p) = i r_m(p) \varphi(p). $$
**3.3.** Soit $\mathcal{O}$ l'orbite sous l'action coadjointe de $\mathcal{G}$ de l'élément $(e_1 + e_{n+1}, 0)$ de $\mathcal{g}^*$.
Le "petit groupe" correspondant, stabilisateur de $e_1 + e_{n+1}$ dans $\mathcal{K}$, est $M \cdot N'$ où $M$ est
le sous groupe de $\mathcal{K}$ formé des matrices

$$ \begin{pmatrix} 1 & 0 & 0 \\ 0 & h & 0 \\ 0 & 0 & 1 \end{pmatrix}, \quad h \in \mathrm{SO}(n-1) $$

et où $N'$ est le groupe des matrices

$$ \begin{pmatrix} 1 - \frac{1}{2} |x|^2 & x & \frac{1}{2} |x|^2 \\ -x^{\mathrm{tr}} & I_{n-1} & x^{\mathrm{tr}} \\ \frac{1}{2} |x|^2 & x & 1 + \frac{1}{2} |x|^2 \end{pmatrix} $$

où $x = (x_1, x_2, \dots, x_{n-1}) \in \mathbb{R}^{n-1}$, $|x| = (x_1^2 + x_2^2 + \dots + x_{n-1}^2)^{1/2}$. Le groupe $M \cdot N'$ s'identifie au groupe de déplacements $E(n-1)$. L'orbite de $e_1 + e_{n+1}$ dans $V^* \simeq V$ sous l'action de $\mathcal{K}$ est le demi-cône épointé $C^+$ ensemble des $w \in V$ tels qu' $<w, w> = 0$ et $w_{n+1} > 0$. La méthode des orbites associe à l'orbite $\mathcal{O}$ l'induite unitaire

$$ \pi = \mathrm{Ind}_{\mathcal{V} \times \mathcal{M} \mathcal{N}'}^{\mathcal{G}} (e^{i\langle e_1 + e_{n+1}, \cdot \rangle} \otimes 1) $$

appelée représentation de masse nulle et d'héliticité nulle de $\mathcal{G}$.

De façon analogue à ce qui a été fait pour la représentation $\pi_m$ au paragraphe 3.2,
on peut tout d'abord réaliser $\pi$ dans l'espace de Hilbert complété de l'espace des fonctions
$\phi: C^+ \to \mathbb{C}$ de classe $C^\infty$ à support compact pour la norme définie par

$$ \|\phi\|^2 = \int_{C^+} |\phi(w)| \, d\mu(w) $$

où $d\mu(w) = (1/w_{n+1}) dw_1 \dots dw_n$ est la mesure $K$-invariante de $C^+$, de la façon suivante:

$$ \pi(v, k) \phi(w) = e^{i\langle w, v \rangle} \phi(k^{-1} w) $$

pour $(v, k) \in \mathcal{G}$, $w \in C^+$. On peut ensuite utiliser la carte globale $c$ de $C^+$ donné par
$c(p) = (p, r(p))$ où $p \in \mathbb{R}^n \setminus (0)$ et $r(p) = \left( \sum_{1 \le i \le n} p_i^2 \right)^{1/2}$, pour obtenir une réalisation
de $\pi$ dans l'espace de Hilbert $L^2(\mathbb{R}^n)$ complété de l'espace $C_0^\infty(\mathbb{R}^n \setminus (0), \mathbb{C})$ des fonctions
$\varphi: \mathbb{R}^n \setminus (0) \to \mathbb{C}$ de classe $C^\infty$ à support compact pour la norme usuelle (voir 3.2) :

$$ \pi(v, k) \varphi(p) = e^{i\langle c(p), v \rangle} \left( \frac{r(k^{-1} \cdot p)}{r(p)} \right)^{1/2} \varphi(k^{-1} \cdot p) $$

où $(v, k) \in \mathcal{G}$, $\varphi \in C_0^\infty(\mathbb{R}^n \setminus (0), \mathbb{C})$ et $k \cdot p$ désigne l'action de $k \in \mathcal{K}$ sur $p \in \mathbb{R}^n \setminus (0)$
induite par l'action de $\mathcal{K}$ sur $C^+$. On obtient sans peine, comme au 3.2 :
**Proposition 3.2.** Pour $\varphi \in C_0^\infty(\mathbb{R}^k \setminus (0), \mathbb{C})$ on a :

$$d\pi(A_{ij})\varphi(p) = \left(p_j \frac{\partial}{\partial p_i} - p_i \frac{\partial}{\partial p_j}\right) \varphi(p), 1 \le i < j \le n,$$

$$d\pi(T_k)\varphi(p) = -r(p) \frac{\partial\varphi}{\partial p_k} - (p_k/2r(p))\varphi(p), 1 \le k \le n,$$

$$d\pi(W_k)\varphi(p) = -ip_k\varphi(p), 1 \le k \le n,$$

$$d\pi(W_{n+1})\varphi(p) = ir(p)\varphi(p).$$

**3.4.** Il est souligné dans [14] que la représentation $\pi$ est fondamentalement différente des représentations $\pi_m(m > 0)$ : en particulier, on a vu que le "petit groupe" correspondant à $\pi$ s'identifie au groupe de déplacements $E(n-1)$ alors que le "petit groupe" correspondant à $\pi_m(m > 0)$ s'identifie à $SO(n)$. Cependant, comme les représentations $\pi$ et $\pi_m(m > 0)$ considérées sont d'hélicité nulle c'est à dire induites à partir des représentations triviales des "petits groupes", on peut remarquer que les formules donnant $d\pi$ et $d\pi_m(m > 0)$ sont très voisines, ce que l'on va exploiter ici.

Soit $M$ (respectivement $M_0$) l'algèbre des opérateurs différentiels linéaires sur $\mathbb{R}^n$ (resp. sur $\mathbb{R}^n \setminus (0)$) dont les coefficients sont des fonctions de classe $C^\infty$ sur $\mathbb{R}^n$ (resp. sur $\mathbb{R}^n \setminus (0)$) à valeurs dans $\mathbb{C}$. Notre but est de déterminer les déformations formelles de $d\pi$ dans $M_0$ et de $d\pi_m(m > 0)$ dans $M$. On commence, au paragraphe suivant, par se ramener à l'aide de la transformation de Weyl à des homomorphismes d'algèbres de Lie dont l'expression est plus simple.

## 4. Paramétrage des orbites coadjointes et transformation de Weyl

**4.1.** On note $(p, q) = (p_1, p_2, \dots, p_n, q_1, q_2, \dots, q_n)$ les coordonnées sur $\mathbb{R}^{2n} = \mathbb{R}^n \times \mathbb{R}^n$ et on munit $\mathbb{R}^{2n}$ de la 2-forme symplectique $dp \wedge dq = \sum_{1 \le i \le n} dp_i \wedge dq_i$. Les orbites coadjointes $O_m(m > 0)$ et $O$ étant munies de leurs 2-formes de Kirillov, on a, avec les notations du paragraphe 3 :

**Proposition 4.1.** [4]

1) Pour $m > 0$, l'application $\mu_m: (p, q) \to (h_m(p), (\sum_{1 \le i \le n} q_i e_i) \wedge h_m(p))$ est un symplectomorphisme de $\mathbb{R}^{2n}$ dans $O_m$.

2) L'application $\mu: (p, q) \to (c(p), (\sum_{1 \le i \le n} q_i e_i) \wedge c(p))$ est un symplectomorphisme de $(\mathbb{R}^n \setminus (0)) \times \mathbb{R}^n$ dans $O$.

Pour $X \in \mathcal{G}$ notons $\varphi_m(X)$ la fonction définie sur $\mathbb{R}^{2n}$ par $\varphi_m(X)(p, q) = \langle \mu_m(p, q), X \rangle$
et $\varphi(X)$ la fonction définie sur $(\mathbb{R}^n \setminus (0)) \times \mathbb{R}^n$ par $\varphi(X)(p,q) = \langle \mu(p,q), X \rangle$. Un calcul simple permet d'obtenir :

$$ \varphi_m(A_{ij})(p,q) = p_i q_j - p_j q_i, \quad \varphi_m(T_k)(p,q) = r_m(p) q_k, $$

$$ \varphi_m(W_k)(p,q) = -p_k, \quad \varphi_m(W_{n+1})(p,q) = r_m(p) $$

$$ \varphi(A_{ij})(p,q) = p_i q_j - p_j q_i, \quad \varphi(T_k)(p,q) = r(p) q_k $$

$$ \varphi(W_k)(p,q) = -p_k, \quad \varphi(W_{n+1})(p,q) = r(p) $$

pour $1 \le i, j \le n$ et $1 \le k \le n$.

**4.2.** Soit $N$ (respectivement $N_0$) l'espace des fonctions de classe $C^\infty$ sur $\mathbb{R}^{2n}$ (resp. sur $(\mathbb{R}^n \setminus (0)) \times \mathbb{R}^n$) à valeurs complexes, polynomiales en $q_1, q_2, \dots, q_n$. Notons $W$ la transformation de Weyl sur $\mathbb{R}^{2n}$ [8], [20]. $W$ induit un isomorphisme de $N$ dans $M$ qui associe à la fonction $f(p,q) = u(p) q_1^{k_1} q_2^{k_2} \dots q_n^{k_n}$ où $u$ est une fonction de classe $C^\infty$ sur $\mathbb{R}^n$, l'opérateur différentiel $W(f)$ défini par

$$ W(f) \varphi(p) = i^{k_1+\dots+k_n} \left[ \left( \frac{\partial}{\partial t_1} \right)^{k_1} \dots \left( \frac{\partial}{\partial t_n} \right)^{k_n} \left( u \left( p + \frac{t}{2} \right) \varphi(p+t) \right) \right]_{t=0} $$

pour $\varphi \in C_0^\infty(\mathbb{R}^n, \mathbb{C})$ et $p \in \mathbb{R}^n$. (voir [20]).

En particulier lorsque $f(p,q) = u(p)$, on obtient

$$ W(f) \varphi(p) = u(p) \varphi(p) $$

et lorsque $f(p,q) = u(p) q_k$, on obtient

$$ W(f) \varphi(p) = i \left( \frac{1}{2} \frac{\partial u}{\partial p_k} \varphi(p) + u(p) \frac{\partial \varphi}{\partial p_k} \right). $$

De la même façon, la transformation de Weyl $W$ induit un isomorphisme de $N_0$ sur $M_0$. On déduit alors de ce qui précède et des propositions 3.1 et 3.2 :

**Proposition 4.2.** 1) Soit $m > 0$. Pour tout $X \in g$, $\varphi_m(X) \in N$ et, pour toute fonction $\psi \in C_0^\infty(\mathbb{R}^n, \mathbb{C})$, on a

$$ W(i \varphi_m(X)) \psi = d\pi_m(X) \psi. $$

2) Pour tout $X \in g$, $\varphi(X) \in N_0$ et, pour toute fonction $\psi \in C_0^\infty(\mathbb{R}^n \setminus (0))$, on a

$$ W(i\varphi(X))\psi = d\pi(X)\psi. $$
**4.3.** Partant du star-produit de Moyal sur $C^\infty(\mathbb{R}^{2n})$ [3] on obtient, si l'on donne au paramètre de déformation la valeur $-i/2$, le produit associatif de Moyal défini sur $N$ (respectivement sur $N_0$) par

$$f * g = \sum_{n \ge 0} (-i/2)^n C_n(f, g)$$

où $C_0(f,g) = f \cdot g$ et $C_n = (1/n!) P_n$, $P_n$ désignant la $n^{\text{ème}}$ puissance tensorielle du crochet de Poisson

$$\{f,g\} = \sum_{1 \le i \le n} \left( \frac{\partial f}{\partial p_i} \frac{\partial g}{\partial q_i} - \frac{\partial f}{\partial q_i} \frac{\partial g}{\partial p_i} \right)$$

et où $f,g \in N$ (resp. $N_0$).

On définit le crochet de Moyal par

$$[f,g]_* = i(f*g - g*f) = \sum_{k \ge 0} \left(-\frac{i}{2}\right)^{2k} C_{2k+1}(f,g)$$

pour $f,g \in N$ (resp. $N_0$).

On a

$$W(f*g) = W(f) \circ W(g)$$

pour $f,g \in N$ (resp. $N_0$) [3]. Autrement dit, $W$ réalise un isomorphisme d'algèbres de $N$ (muni de $*$) dans $M$ (resp. de $N_0$ dans $M_0$).

**Proposition 4.3.** 1) Pour $m > 0$ et $X$ et $Y$ dans $g$, on a :

$$[\varphi_m(X), \varphi_m(Y)]_* = \{\varphi_m(X), \varphi_m(Y)\} = \varphi_m([X, Y]).$$

2) Pour $X$ et $Y$ dans $g$, on a :

$$[\varphi(X), \varphi(Y)] = \{\varphi(X), \varphi(Y)\} = \varphi([X, Y]).$$

**Preuve.** La première égalité de 1) vient de ce que pour tout $X \in g$, $\varphi_m(X) \in N$ est un polynôme par rapport aux variables $q_1, q_2, \dots, q_n$ dont le degré est inférieur ou égal à 1. La seconde égalité de 1) se déduit de l'expression de $\varphi_m$ donnée au 4.1 ou, plus directement, de la proposition 4.1. Le point 2) se vérifie de même.

**4.4.** Fixons $m > 0$. On va déterminer dans ce qui suit les déformations formelles des homomorphismes d'algèbres de Lie $\varphi_m : g \to N$ et $\varphi : g \to N_0$ afin d'en déduire, à l'aide de $W$, les déformation formelles de $d\pi_m$ dans $M$ et de $d\pi$ dans $M_0$. On munit alors $N$ de la structure de $g$-module donnée par $X \cdot f = [\varphi_m(X), f]_*$ pour $X \in g$, $f \in N$,
on munit de même $N_0$ de la structure de $g$-module donnée par $X \cdot f = [\varphi(X), f]_*$ pour $X \in g, f \in N_0$ et on considère les cohomologies correspondantes notées respectivement $H_m(g, N)$ et $H(g, N)$ dont on va déterminer, dans les paragraphes 5 et 6 suivants, les premiers espaces respectifs $H_m^1(g, N)$ et $H^1(g, N_0)$ par des calculs directs.

### 5. Détermination de l'espace $H_m^1(g, N)$

Les 1-cocycles de la cohomologie $H(g, N)$ sont les applications linéaires $\alpha : g \to N$ satisfaisant à

$$ (1) \qquad \alpha[X, Y] = [\varphi_m(X), \alpha(Y)]_* + [\alpha(X), \varphi_m(Y)]_* $$

pour tous $X, Y$ dans $g$.

Si $f \in N$, on notera $\partial f$ le 1-cobord défini par

$$ \partial f(X) = [\varphi_m(X), f]_* \quad (X \in g). $$

Notons $\alpha_1$ le 1-cocycle défini par

$$ \alpha_1(A_{ij}) = 0 \quad (1 \le i < j \le n), \quad \alpha_1(W_{n+1}) = 1/r_m(p), \\ \alpha_1(W_k) = 0, \quad \alpha_1(T_k) = q_k/r_m(p) \quad (1 \le k \le n). $$

**Lemme 5.1.** Tout 1-cocyle $\alpha : g \to N$ s'écrit $\alpha = a\alpha_1 + \alpha' + \delta$ où $a$ est un scalaire, $\delta$ un 1-cobord et $\alpha'$ un 1-cocycle tel que $\alpha'(W_k) = 0$ pour $k = 1, 2, \dots, n$.

**Preuve.** Le 1-cocycle $\alpha$ vérifie la relation (1) pour $X = W_i$, $Y = W_j$ ce qui donne

$$ \frac{\partial}{\partial q_j} \alpha(W_i) = \frac{\partial}{\partial q_i} \alpha(W_j) \quad (1 \le i, j \le n). $$

D'après le lemme de Poincaré, il existe $f \in N$ tel que $\frac{\partial f}{\partial q_j} = \alpha(W_j)$ pour $j = 1, 2, \dots, n$. Le 1-cocycle $\gamma = \alpha + \partial f$ satisfait alors à $\gamma(W_j) = 0$ pour $j = 1, 2, \dots, n$.

En écrivant l'égalité (1) pour le 1-cocycle $\gamma$ et pour $(X, Y) = (W_j, W_{n+1})$ puis $(X, Y) = (W_j, T_k)$ et enfin $(X, Y) = (W_{n+1}, T_k)$ où $j, k = 1, 2, \dots, n$, on vérifie successivement que $\gamma(W_{n+1}) = u(p)$ où $u \in C^\infty(\mathbb{R}^n, \mathbb{C})$, que $\gamma(T_k) = u(p)q_k + b_k(p)$ où $b_k \in C^\infty(\mathbb{R}^n, \mathbb{C})$ pour $k = 1, 2, \dots, n$ et que $u(p) = a/r_m(p)$ où $a \in \mathbb{C}$.

**Lemme 5.2.** On suppose $n \ge 3$. Tout 1-cocycle $\alpha : g \to N$ tel que $\alpha(W_j) = 0$ pour $j = 1, 2, \dots, n+1$ est un 1-cobord.

**Preuve.** Soit $\alpha$ un tel cocycle. Posons pour $i, j, k = 1, 2, \dots, n$, $a_{ij} = \alpha(A_{ij})$ et $b_k = \alpha(T_k)$. D'après la preuve du Lemme 5.1, ces fonctions ne dépendent que de $p$. La relation
de cocycle (1) appliquée aux cas où $(X, Y)$ est le couple $(T_i, T_j)$ puis le couple $(A_{ij}, T_k)$
donne :

$$
(2) \qquad a_{ij} = r_m(p) \left( \frac{\partial b_j}{\partial p_i} - \frac{\partial b_i}{\partial p_j} \right) \quad (i, j = 1, 2, \dots, n)
$$

$$
(3) \quad r_m(p) \frac{\partial a_{ij}}{\partial p_k} = p_i \frac{\partial b_k}{\partial p_j} - p_j \frac{\partial b_k}{\partial p_i} \quad (k \neq i, k \neq j)
$$

$$
(4) \quad r_m(p) \frac{\partial a_{ij}}{\partial p_j} = b_j + p_i \frac{\partial b_i}{\partial p_j} - p_j \frac{\partial b_i}{\partial p_i} \quad (i,j=1,2\dots n)
$$

D'où, en reportant (2) dans (3) et dans (4) :

$$
(5) \quad p_k \left( \frac{\partial b_j}{\partial p_i} - \frac{\partial b_i}{\partial p_j} \right) + r_m(p)^2 \left( \frac{\partial^2 b_j}{\partial p_i \partial p_k} - \frac{\partial^2 b_i}{\partial p_j \partial p_k} \right) = p_i \frac{\partial b_k}{\partial p_j} - p_j \frac{\partial b_k}{\partial p_i}
$$

$$
(6) \quad r_m(p)^2 \frac{\partial^2 b_j}{\partial p_i^2} + p_i \frac{\partial b_j}{\partial p_i} - b_j = r_m(p)^2 \frac{\partial^2 b_i}{\partial p_i \partial p_j} + 2p_i \frac{\partial b_i}{\partial p_j} - p_j \frac{\partial b_i}{\partial p_i}.
$$

Quitte à remplacer $\alpha$ par $\alpha + \partial F$ où $F$ est une fonction de $p$ telle que $b_1 - r_m(p) \frac{\partial F}{\partial p_1} = 0$, on se ramène au cas où $b_1 = 0$. La relation (6) appliquée à $i = 1, j = k > 1$ donne

$$
(7) \qquad b_k = p_1 u_k + r_m(p) v_k
$$

où $u_k, v_k \in C^\infty(\mathbb{R}^n, \mathbb{C})$ sont indépendantes de $p_1$. La relation (6) appliquée à $i = k > 1, j = 1$ conduit à

$$
(8) \qquad u_k = \frac{c_k}{m^2 + \sum_{2 \le i \le n} p_i^2}
$$

où $c_k \in C^\infty(\mathbb{R}^n, \mathbb{C})$ est indépendante de $p_k$ et $p_1$.

En reportant alors dans (5) $b_1 = 0$ et les expressions de $b_j$ et $b_k$ (pour $j, k$ distincts > 1) données par (7) et (8), on obtient, pour $j, k \ge 2$ :

$$
(9) \qquad \frac{\partial v_j}{\partial p_k} = \frac{\partial v_k}{\partial p_j}
$$

$$
(10) \quad p_j c_k - p_k c_j = - \left( m^2 + \sum_{2 \le i \le n} p_i^2 \right) \frac{\partial c_j}{\partial p_k}.
$$
En permutant les rôles de $j$ et $k$ dans (10), on remarque que $\frac{\partial c_j}{\partial p_k} = -\frac{\partial c_k}{\partial p_j}$ est une fonction $w_{jk}$ indépendante de $p_j$ et $p_k$ ; il existe par suite deux fonctions $y_{jk}$ et $z_{jk}$ indépendantes de $p_j$, $p_k$ telles que $c_j = w_{jk} p_k + y_{jk}$, $c_k = -w_{jk} p_j + z_{jk}$ et la relation (10) s'écrit

$$ (11) \qquad w_{jk} \left( m^2 + \left( \sum_{2 \le i \le n} p_i^2 \right) - p_k^2 - p_j^2 \right) = p_k y_{jk} - p_j z_{jk}. $$

Comme le premier membre de (11) est une fonction indépendante de $p_k$, $p_j$ on obtient $y_{jk} = z_{jk} = 0$ puis $w_{jk} = 0$ d'où $c_k = 0$, $u_k = 0$ et enfin $b_k = r_m(p) v_k$ pour tout $k > 1$. Compte tenu de (9), on peut en corrigeant $\alpha$ par un cobord se ramener au cas où $b_k = 0$ pour tout $k > 1$, ce qui termine.

On déduit alors des lemmes 5.1 et 5.2 et du fait que le 1-cocycle $\alpha_1$ n'est pas un cobord la proposition suivante.

**Proposition 5.3.** *Supposons $n \ge 3$. L'espace $H_m^1(g, N)$ est de dimension 1, engendré par la classe du 1-cocycle $\alpha_1$.*

**Remarque 5.4.** Si $n = 2$, on montre par des considérations analogues que l'espace $H_m^1(g, N)$ est de dimension 2 et admet une base formée de la classe du 1-cocycle $\alpha_1$ et de la classe du 1-cocyle $\alpha_2$ défini par

$$ \alpha_2(W_1) = \alpha_2(W_2) = \alpha_2(W_3) = 0 \\ \alpha_2(T_1) = 0, \quad \alpha_2(T_2) = \frac{p_1}{m^2 + p_2^2}, \quad \alpha_2(A_{12}) = \frac{p_3}{m^2 + p_2^2}. $$

## 6. Détermination de l'espace $H^1(g, N_0)$

Pour déterminer l'espace $H^1(g, N_0)$, on va notamment s'appuyer sur les calculs du paragraphe 5.

Notons $\beta_1 : g \to N_0$ le 1-cocycle défini par

$$ \beta_1(A_{ij}) = 0 \quad (1 \le i < j \le n), \quad \beta_1(W_{n+1}) = 1/r(p), \\ \beta_1(W_k) = 0 \quad (1 \le k \le n), \quad \beta_1(T_k) = q_k/r(p) \quad (1 \le k \le n). $$

**Proposition 6.1.** *Si $n \ge 3$, l'espace $H^1(g, N_0)$ est de dimension 1, engendré par la classe du 1-cocycle $\beta_1$.*

**Preuve.** On établit sans peine l'analogue du lemme 5.2. On est alors ramené à étudier les 1-cocycles $\beta$ tels que $\beta(W_k) = 0$ pour $k = 1, 2, \dots, n+1$.
Posons, pour un tel 1-cocycle $\beta$, comme plus haut :

$$a_{ij} = \beta(A_{ij}) \quad (i, j = 1, 2, \dots, n) \quad \text{et} \quad b_k = \beta(T_k) \quad (k = 1, 2, \dots, n).$$

On se place sur l'ouvert étoilé $U = \mathbb{R}^n \setminus \{(p_1, 0, \dots, 0) | p_1 \le 0\}$ de $\mathbb{R}^n$ sur lequel on se ramène à $b_1 = 0$. L'analogue de la relation (6) conduit alors à

$$(7') \qquad b_k = r(p) s_k(p_2, \dots, p_n) - \frac{c_k'(p_2, \dots, p_n)}{p_1 + r(p)} \quad (k = 2, 3, \dots, n)$$

pour $p \in U$, $s_k$ et $c_k'$ désignant des fonctions de classe $C^\infty$ sur $\mathbb{R}^{n-1}$.
Lorsque $(p_2, p_3, \dots, p_n) \neq 0$, on peut écrire

$$b_k = r(p) \left( s_k - \frac{c_k'(p_2, \dots, p_n)}{\sum_{2 \le i \le n} p_i^2} \right) + \frac{c_k'(p_1, \dots, p_n)}{\sum_{2 \le i \le n} p_i^2} p_1$$

et utiliser les calculs du paragraphe 5, ce qui donne, si l'on pose

$$v_k' = s_k - \frac{c_k'}{\sum_{2 \le i \le n} p_i^2}$$

les relations suivantes, analogues aux relations (9) et (10) :

$$(9') \qquad \frac{\partial v_j'}{\partial p_k} = \frac{\partial v_k'}{\partial p_j} \quad (j, k = 2, 3, \dots, n)$$

$$(10') \qquad p_j c_k' - p_k c_j' = - \left( \sum_{2 \le i \le n} p_i^2 \right) \frac{\partial c_j'}{\partial p_k} \quad (j, k = 2, 3, \dots, n).$$

Partant de (9'), on obtient, compte tenu de (10') :

$$(9'') \qquad \frac{\partial s_k}{\partial p_j} = \frac{\partial s_j}{\partial p_k} \quad (j, k = 2, 3, \dots, n)$$

pour $(p_2, \dots, p_n) \neq 0$ donc pour tout $(p_2, \dots, p_n)$ de $\mathbb{R}^{n-1}$.

D'autre part (10') montre que, pour tous $j, k = 2, 3, \dots, n$, $\frac{\partial c_j'}{\partial p_k} = -\frac{\partial c_k'}{\partial p_j}$ est une fonction $w_{jk}'$ indépendante de $p_j$ et $p_k$. Il existe alors deux fonctions $y_{jk}'$ et $z_{jk}'$ indépendantes de $p_j, p_k$ telles que

$$c_j' = w_{jk}' p_k + y_{jk}'$$

$$c_k' = -w_{jk}' p_j + z_{jk}'$$
et la relation (10') s'écrit

$$ (11') \qquad w'_{jk} \left( \left( \sum_{2 \le i \le n} p_i^2 \right) - p_j^2 - p_k^2 \right) = p_k y'_{jk} - p_j z'_{jk}. $$

Supposons $n \ge 4$. La relation (11') donne $y'_{jk} = z'_{jk} = 0$ d'où $w'_{jk} = 0$ et $c'_j = 0$. Enfin (9") montre qu'il existe une fonction $f$ de classe $C^\infty$ sur $U$ telle que, sur $U$, $b_k = -r(p) \frac{\partial f}{\partial p_k}$ pour $k = 1, 2, \dots, n$.

Le même raisonnement effectué en se plaçant sur l'ouvert $V = \mathbb{R}^n \setminus \{(p_1, 0, \dots, 0)\} \setminus p_1 \ge 0\}$ de $\mathbb{R}^n$, sur lequel l'on a

$$ b_k = r(p) s'_k(p_2 \dots p_n) - \frac{c''_k(p_2 \dots p_n)}{p_1 - r(p)} \quad (k = 2, 3, \dots, n) $$

où $s'_k$ et $c''_k$ sont des fonctions de classe $C^\infty$ sur $\mathbb{R}^{n-1}$, montre qu'il existe une fonction $g$ classe $C^\infty$ sur $V$ telle que, sur $V$, $b_k = -r(p) \frac{\partial g}{\partial p_k}$ pour $k = 1, 2, \dots, n$.

Quitte à ajouter une constante à $g$, on peut supposer que $f = g$ sur $U \cap V$. La fonction $F$ de classe $C^\infty$ sur $\mathbb{R}^n \setminus (0)$ qui coïncide avec $f$ sur $U$ et avec $g$ sur $V$ satisfait alors à $b_k = -r(p) \frac{\partial F}{\partial p_k}$ pour $k = 1, 2, \dots, n$, ce qui montre que $\beta = \partial F$.

Dans le cas $n = 3$ on obtient $c'_2 = p_3 w$ et $c'_3 = -p_2 w$ sur $U$, $w$ désignant une constante. Par suite, il existe une fonction $f$ de classe $C^\infty$ sur $U$ telle que, sur $U$,

$$ \begin{align*} b_1 &= -r(p) \frac{\partial f}{\partial p_1} \\ b_2 &= -r(p) \frac{\partial f}{\partial p_2} - w \frac{p_3}{p_1 + r(p)} \\ b_3 &= -r(p) \frac{\partial f}{\partial p_3} + w \frac{p_2}{p_1 + r(p)}. \end{align*} $$

De même il existe une constante $w'$ et une fonction $g$ de classe $C^\infty$ sur $V$ telle que, sur $V$,

$$ \begin{align*} b_1 &= -r(p) \frac{\partial g}{\partial p_1} \\ b_2 &= -r(p) \frac{\partial g}{\partial p_2} - w' \frac{p_3}{p_1 - r(p)} \\ b_3 &= -r(p) \frac{\partial g}{\partial p_3} + w' \frac{p_2}{p_1 - r(p)}. \end{align*} $$

On en déduit que $h = f - g$ est une fonction de classe $C^\infty$ sur $U \cap V$ qui ne dépend pas de $p_1$ d'où $w = w'$ et, pour $(p_2, p_3) \ne (0, 0)$ :

$$ \frac{\partial h}{\partial p_2} = -2w \frac{p_3}{p_2^2 + p_3^2}, \quad \frac{\partial h}{\partial p_3} = 2w \frac{p_2}{p_2^2 + p_3^2}. $$
Comme la forme $(1/p_2^2 + p_3^2)(p_3 dp_2 - p_2 dp_3)$ n'est pas exacte sur $\mathbb{R}^2 \setminus (0)$ on obtient $w = 0$ et on conclut de la même façon que pour $n \ge 4$.

**Remarque 6.2.** Lorsque $n = 2$, on peut montrer par des considérations analogues, que l'espace $H^1(g, N_0)$ est de dimension 3.

## 7. Déformations formelles des représentations $d\pi$ et $d\pi_m$

**7.1.** On suppose dans toute la suite que $n \ge 3$. On va déterminer ici les déformations formelles de $\varphi$ dans $N_0$, de $\varphi_m$ ($m > 0$) dans $N$ ce qui, comme on l'a vu, permettra de trouver immédiatement les déformations formelles de $d\pi$ dans $M_0$ et de $d\pi_m$ ($m > 0$) dans $M$. La méthode utilisée consistera à construire dans chaque cas une déformation particulière sur laquelle on s'appuie pour trouver toutes les déformations.

**7.2.** Suivant Guichardet [10], on remarque que la famille $(\varphi_m)_{m>0}$ fournit quand on pose $t = m^2$ et que l'on effectue un développement par rapport à $t$ une déformation formelle $\Phi = \sum_{r \ge 0} t^r \Phi_r$ de $\varphi$ dans $N_0$ ce qui résulte de la proposition 4.2. Plus précisément, partant du développement $\sqrt{1+x} = \sum_{n \ge 0} a_n x^n$ où $a_0 = 1, a_1 = 1/2$ et pour $n \ge 2, a_n = (-1)^{n-1} \frac{1.\dots.2n-3}{2.\dots.2n}$, on obtient

$$ \Phi_r(T_k) = a_r q_k / r(p)^{2r-1}, \quad \Phi_r(W_{n+1}) = a_r / r(p)^{2r-1}, $$

$$ \Phi_r(W_k) = 0, \quad \Phi_r(A_{ij}) = 0 $$

pour $r \ge 1, i,j,k = 1,2\dots n$.

En particulier on a $\Phi_1 = 1/2 \beta_1$ où $\beta_1$ désigne le 1-cocycle introduit dans le paragraphe 6.

**7.3.** On peut également obtenir la déformation formelle $\Phi$ de $\varphi$ dans $N_0$ précédente de façon plus constructive sans utiliser les homomorphismes $\varphi_m$ ($m > 0$) comme suit.

Les calculs du paragraphe 5 ont fait apparaître qu'une solution particulière $\Psi_1$ de l'équation de déformation à l'ordre 1 est donnée par

$$ \Psi_1(W_k) = 0, \quad \Psi_1(W_{n+1}) = \mu/r(p), \quad \Psi_1(A_{ij}) = 0, \quad \Psi_1(T_k) = \mu q_k / r(p) $$

où $i,j,k = 1,2\dots n$ et où $\mu$ désigne un nombre complexe. On cherche alors de même une solution $\Psi_2$ de l'équation de déformation à l'ordre 2

$$ (1) \quad [\Psi_2(X), \varphi(Y)]_* + [\varphi(X), \Psi_2(Y)]_* - \Psi_2([X, Y]) = -[\Psi_1(X), \Psi_1(Y)]_* $$

On peut alors suivre un raisonnement analogue à celui de la preuve du lemme 5.1 en donnant au couple $(X,Y)$ dans (1) les valeurs $(W_k, W_l)$ où $k,l = 1,2\dots n+1$ et $(W_k, T_l)$ où $1 \le k \le n+1$ et $1 \le l \le n$. On fait ainsi apparaître la solution $\Psi_2$ définie par

$$ \Psi_2(W_k) = 0, \quad \Psi_2(W_{n+1}) = -\mu^2 / 2r(p)^3, \quad \Psi_2(A_{ij}) = 0, \quad \Psi_2(T_k) = -u^2 q_k / 2r(p)^3 $$
où i, j, k = 1, 2... n, ce qui conduit à chercher une solution $\Psi_r$ de l'équation de déformation à l'ordre r

$$ (2) \quad [\Psi_r(X), \varphi(Y)]_* + [\varphi(X), \Psi_r(Y)]_* - \Psi_r([X,Y]) = - \sum_{k=1}^{r-1} [\Psi_k(X), \Psi_{r-k}(Y)]_* $$

sous la forme

$$ \Psi_r(W_k) = 0, \quad \Psi_r(W_{n+1}) = \gamma_r \mu^r / r(p)^{2r-1}, \quad \Psi_r(T_k) = \gamma_r \mu^r q_k / r(p)^{2r-1}, \quad \Psi_r(A_{ij}) = 0 $$

où i, j, k = 1, 2... n et où $\gamma_r$ désigne un nombre complexe.

On déduit alors de (2) que $\Psi = \sum_{r \ge 0} t^r \Psi_r$ est une déformation formelle de $\varphi$ si et seulement si la suite $(\gamma_r)_{r \ge 0}$ satisfait à $\gamma_0 = \gamma_1 = 1$ et à

$$ \sum_{k=0}^{r} (2k-1) \gamma_k \gamma_{r-k} = 0 $$

pour tout $r \ge 2$. Cette dernière relation exprime que la fonction génératrice $f(x) = \sum_{r \ge 0} \gamma_r x^r$ associée à la suite $(\gamma_r)_{r \ge 0}$ satisfait à

$$ f(x) (2x f'(x) - f(x)) = -1 $$

donc que $y = f(x)^2$ est solution de l'équation différentielle

$$ xy' - y^2 = -1 $$

ce qui permet d'obtenir $f(x) = \sqrt{1+2x}$ et, pour $r \ge 2$,

$$ \gamma_r = (-1)^{r-1} \frac{1.3...2r-3}{1.2...r} $$

Lorsque $\mu = 1/2$, on retrouve la déformation $\Phi$ introduite au 7.2.

**7.4.** Soit $\lambda = (\lambda_k)_{k \ge 1}$ une suite de $\mathbb{C}$. On construit une déformation formelle $\Phi_\lambda$ de $\varphi$ dans $N_0$ en remplaçant, dans les formules donnant $\varphi_m, m^2$ par la série formelle $\sum_{k \ge 1} \lambda_k t^k$ et en développant par rapport à $t$, ce qui généralise la construction donnée au 7.2. De même, $m > 0$ étant fixé, on construit une déformation formelle $\Phi_\lambda^m$ de $\varphi_m$ dans $N$ en remplaçant, dans les formules donnant $\varphi_{m'}, m'^2$ par la série formelle $m^2 + \sum_{k \ge 1} \lambda_k t^k$. On peut alors énoncer :

**Proposition 7.1.** 1) L'application $\lambda \to \Phi_\lambda$ induit une bijection de l'ensemble des suites de nombres complexes dans l'ensemble des classes d'équivalence de déformations formelles de $\varphi$ dans $N_0$.
2) Soit $m > 0$. L'application $\lambda \to \Phi_{\lambda}^{m}$ induit une bijection de l'ensemble des suites de nombres complexes dans l'ensemble des classes d'équivalence de déformations formelles de $\varphi_{m}$ dans $N$.

**Preuve.** Le point 1) découle du calcul de l'espace $H^1(g, N_0)$ (proposition 6.1), de la construction d'une déformation formelle particulière de $\varphi$ dans $N_0$ (paragraphes 7.2 et 7.3) et de la proposition 2.2 légèrement modifiée pour tenir compte du fait que le crochet de Moyal de $N_0$ n'est pas exactement le commutateur associé au produit de Moyal de $N_0$ mais s'obtient en multipliant ce commutateur par $i$ (voir paragraphe 4). Le point 2) se démontre de la même façon.

7.5. Si $\lambda = (\lambda_k)_{k \ge 1}$ est une suite de $C$, on peut, de même que ci-dessus, construire une déformation formelle $d\pi^\lambda$ de $d\pi_0$ dans $M_0$ en remplaçant, dans les formules donnant $d\pi_m, m^2$ par la série formelle $\sum_{k \ge 1} \lambda_k t^k$. On peut aussi si $m > 0$ est fixé construire une déformation formelle $d\pi_m^\lambda$ de $d\pi_m$ dans $M$ en remplaçant $m'^2$ par la série formelle $m^2 + \sum_{k \ge 1} \lambda_k t^k$ dans les les formules donnant $d\pi_m'$. A l'aide de la transformation de Weyl, on déduit immédiatement de la proposition 7.1 :

**Proposition 7.2.** 1) L'application $\lambda \to d\pi^\lambda$ induit une bijection de l'ensemble des suites complexes dans l'ensemble des classes d'équivalence de déformations formelles de $d\pi_0$ dans $M_0$.

2) Soit $m > 0$. L'application $\lambda \to d\pi_m^\lambda$ induit une bijection de l'ensemble des suites complexes dans l'ensemble des classes d'équivalence de déformations formelles de $d\pi_m$ dans $M$.

## 8. Remarques finales

**Remarque 8.1.** Ce qui a été fait au paragraphe 7.3 constitue une construction des représentations $d\pi_m$ ($m > 0$) à partir de la représentation $d\pi$, par déformation de cette dernière représentation.

**Remarque 8.2.** Introduisons, pour $m > 0$, la représentation $\pi'_m$ de $G$ de masse $-m < 0$ et l'héliticité nulle associée, par la méthode des orbites, à l'orbite coadjointe de l'élément $(-m e_{n+1}, 0)$ de $g^*$ ainsi que la représentation $\pi'$ de masse nulle et d'héliticité nulle associée à l'orbite coadjointe de l'élément $(e_1 - e_{n+1}, 0)$ de $g^*$. Les représentations $\pi$ et $\pi'$ sont les deux représentations de masse nulle et d'héliticité nulle de $G$. On peut alors établir pour les représentations $\pi'_m$ et $\pi'$ les résultats analogues à ceux que l'on a établis ici pour les représentations $\pi_m$ et $\pi$.
**Remarque 8.3.** Dans [18], il a été étudié les déformations formelles du plongement canonique d'une algèbre de Lie semi-simple $\alpha$ dans son algèbre enveloppante $U(a)$. Comme, d'après le lemme de Whitehead, $H^1(a, U(a)) = (0)$, ces déformations sont triviales (mais présentent toutefois quelque intérêt : voir [18]). Le présent travail constitue alors un exemple d'étude des déformations formelles d'un homomorphisme injectif d'algèbres de Lie dans ce cas où le premier groupe de cohomologie n'est pas trivial mais de dimension 1.

**Remarque 8.4.** L'étude systématique des extensions des représentations induites de produits semi-directs menée par Guichardet [11] et par Fokko du Cloux [7] s'applique en particulier au cas du groupe de Poincaré [11] et du groupe de Poincaré généralisé [7].

Si $G$ désigne le groupe de Poincaré généralisé, $\pi$ une représentation de $G$ obtenue par induction, au sens $C^\infty$, de la représentation $e^{i\langle p_0, \cdot \rangle} \otimes 1$ du groupe $\mathbb{R}^{n+1} \times K_{p_0}$ où $p_0 \in \mathbb{R}^{n+1}$ et $\rho$ est une représentation du stabilisateur $K_{p_0}$ de $p_0$ dans $K$, notons $E(\pi)$ le $C^\infty$ $G$-module correspondant à $\pi$ et $H(\pi)$ le $C^\infty$ $G$-module $\text{Hom}(E(\pi), E(\pi))$. Guichardet a déterminé dans [11], lorsque $\rho$ est de dimension finie, le premier groupe de cohomologie $H^1(G, H(\pi))$ lequel, d'après un théorème de Van Est, est isomorphe à $H^1(g, H(\pi))$. En particulier, on obtient ainsi, lorsque $\pi$ est de masse $m$ et d'héliticité nulle (cas $p_0 = m e_{n+1}, \rho$ triviale) ou de masse nulle et l'héliticité nulle (cas $p_0 = e_1 \pm e_{n+1}, \rho$ triviale) dim $H^1(g, H(\pi)) = 1$ ce qui constitue un résultat voisin des propositions 5.3 et 6.1.

## Remerciements

Je remercie vivement Didier Arnal pour ses remarques pertinentes et Sylvie Magipinto pour avoir dactylographié ce texte.

## Références

[1] Arnal D., Cortet J.C., La notion de produit étoile et ses applications aux représentations de groupes, conférence aux Journées Relativistes, Angers (1979).

[2] Arnal D., Benamor H. et Cahen B., Minimal realizations of classical simple Lie algebras through deformations, Ann. Fac. Sci. Toulouse VII, 2 (1998) 169-184.

[3] Bayen F., Flato M., Lichnerowicz A. et Sterheimer D., Déformation theory and quantization, Ann. Phys. 110 (1978) 61-151.

[4] Cahen B., Quantification d'une orbite massive d'un groupe de Poincaré généralisé, C.R.
Acad. Sci. Paris t. 325 série I (1997) 803-806.

[5] Cahen B., Construction par déformation de réalisations minimales d'une algèbre de Lie simple de type $G_2$, C.R. Acad. Sci. Paris t. 323, série I (1996) 853-857.

[6] Cahen B., Quantification d'orbites coadjointes et théorie des contractions, preprint Univ. Metz (2000) à paraître dans Journ. Lie Theory.

[7] Du Cloux F., Sur les *-extensions des représentations induites des produits semi-directs, Astérisque 124-125 (1985).

[8] Folland B., Harmonic Analysis in Phase Spaces, Princeton Univ. Press (1989).

[9] Gerstenhaber M., On the deformation of rings and algebras, Ann. Math. 79, 1 (1964) 59-103.

[10] Guichardet A., Extensions and deformations of representations, symposium on Indecomposable Representations of Lie Groups and their Physical Applications, Rome (1988).

[11] Guichardet A., Extensions des représentations induites des produits semi-directs, J. reine angew. math. 310 (1979) 7-32.

[12] Hermann R., Analytic Continuation of Group Representation IV, Comm. Math. Phys. 5 (1967) 131-156.

[13] Levy-Nahas M., First Order Deformations of Lie Algebra Representations, *E*(3) and Poincaré Examples, Comm. Math. Phys. 9 (1968) 242-266.

[14] Mirman R., Massless Representations of the Poincaré Group, Nova Science Publishers (1995).

[15] Nijenhuis A. and Richardson R.W., Cohomology and deformations in graded Lie algebras, Bull. Amer. Math. Soc. 72 (1966) 1-29.

[16] Nijenhuis A. and Richardson R.W., Deformations of Lie Algebra Structures, Journ. Math. Mech. 17 (1967) 89-105.

[17] Nijenhuis A. and Richardson R.W., Deformations of homomorphisms of Lie groups and Lie algebras, Bull. Amer. Math. Soc. 73 (1967) 175-179.

[18] Ousienko V. et Turbiner A., Plongements d'une algèbre de Lie dans son algèbre enveloppante, C.R. Acad. Sci. Paris t. 314 série I (1992) 13-16.

[19] Rawnsley J.H., Representations of a semi direct product by quantization, Math. Proc. Camb. Phil. Soc. 78 (1975) 345-350.

[20] Voros A., An Algebra of Pseudo differential operators and the Asymptotics of Quantum Mechanics, J. Funct. Anal. 29 (1978) 104-132.