ANNALES MATHÉMATIQUES BLAISE PASCAL

KINVI KANGNI

SALIOU TOURÉ

Transformation de Fourier sphérique de type δ.
Applications aux groupes de Lie semi-simples

Annales mathématiques Blaise Pascal, tome 8, n° 2 (2001), p. 77-88

<http://www.numdam.org/item?id=AMBP_2001__8_2_77_0>

© Annales mathématiques Blaise Pascal, 2001, tous droits réservés.

L'accès aux archives de la revue « Annales mathématiques Blaise Pascal » (http://math.univ-bpclermont.fr/ambp/) implique l'accord avec les conditions générales d'utilisation (http://www.numdam.org/legal.php). Toute utilisation commerciale ou impression systématique est constitutive d'une infraction pénale. Toute copie ou impression de ce fichier doit contenir la présente mention de copyright.

NUMDAM

Article numérisé dans le cadre du programme
Numérisation de documents anciens mathématiques
http://www.numdam.org/
# Transformation de Fourier sphérique
de type $\delta$
Applications aux groupes de Lie semi-simples.

Kinvi Kangni

Saliou Touré

## Résumé

Let $G$ a connected Lie group, $K$ a large compact subgroup of $G$ and $\delta$ an arbitrary class of irreducible unitary representation of $K$. In this work, thanks to the generalized Abel transform, we construct a spherical Fourier transform of type $\delta$ and study some applications to the real special linear group $SL(2, \mathbb{R})$.

## 1 Introduction

Soient un groupe localement compact unimodulaire et $K$ sous groupe compact de $G$. Notons $\hat{K}$ le dual unitaire de $K$ et pour toute classe $\delta$ de $\hat{K}$, $\xi_{\delta}$ le caractère de $\delta$, $d(\delta)$ le degré de $\delta$ et $\chi_{\delta} = d(\delta)\xi_{\delta}$. Si $\delta$ est la classe des représentations contragrédientes de $\delta$ dans $\hat{K}$, on a $\tilde{\chi}_{\delta} = \chi_{\delta}$ et on vérifie aisément, grâce aux relations d'orthogonalité de Schur que $\chi_{\delta}^* \chi_{\delta} = \chi_{\delta}$. On note $M_{d(\delta)}(\mathbb{C})$ l'algèbre des matrices carrées d'ordre $d(\delta)$ à coefficients complexes. Soit $\mathcal{K}(G)$ l'espace des fonctions complexes continues sur $G$ à support compact. En identifiant $\chi_{\delta}$ à une mesure bornée sur $G$, on note pour toute fonction $f \in \mathcal{K}(G)$

$$ \delta f(x) = \bar{\chi}_{\delta} * f(x) = \int_K \chi_{\delta}(k) f(kx) dk $$

$$ f_{\delta}(x) = f * \chi_{\delta}(x) = \int_{K} \chi_{\delta}(k^{-1}) f(kx) dk $$

et $\mathcal{K}_{\delta}(G) = \{f \in \mathcal{K}(G), f = \delta f = f_{\delta}\}$, ($dk$ étant la mesure de Haar normalisée sur $K$).
Soit $\mathcal{J}_C(G)$ l'ensemble des fonctions $K$-centrales $f$ de $\mathcal{K}(G)$. Posons

$$ \mathcal{K}_{\delta}(G) \cap \mathcal{J}_C(G) = \mathcal{K}_{\delta}^{\text{h}}(G). $$

$\mathcal{K}_{\delta}^{\text{h}}(G)$ est une sous-algèbre de $\mathcal{K}(G)$. Définissons l'application $f_K$ en posant :

$$ f_K(x) = \int_K f(kx^{-1}) dk \quad (\forall x \in G). $$

Alors l'application $f \mapsto \chi_{\delta} * f_K$ est une projection continue de $\mathcal{K}(G)$ sur $\mathcal{K}_{\delta}^{\text{h}}(G)$.

Désignons par $\mathcal{D}(G)$ l'espace des fonctions régulières sur $G$ à support compact (cf. [1]) et $\mathcal{D}'(G)$ l'espace des distributions sur $G$, c'est-à-dire le dual de $\mathcal{D}(G)$.

Soit $E$ un espace vectoriel complexe de dimension finie. Une **fonction sphérique** $\phi$ (sur $G$) **de type** $\delta$ est une fonction continue quasi-bornée sur $G$ à valeurs dans $End_C(E)$ telle que :

(i) $\phi(kxk^{-1}) = \phi(x)$

(ii) $\chi_{\delta} * \phi = \phi = \phi * \chi_{\delta}$

(iii) L'application $u_{\phi}: f \to \phi(f) = \int_G f(x) \phi(x^{-1}) dx$ est une représentation irréductible de l'algèbre $\mathcal{K}_{\delta}^{\text{h}}(G)$. La dimension de $E$ est la hauteur de $\phi$ (cf. [2]).

Soient $X_m(\mathcal{K}_{\delta}^{\text{h}}(G))$ l'espace des fonctions des représentations irréductions de $\mathcal{K}_{\delta}^{\text{h}}(G)$ de dimension $m$ et $S_{\delta}^m(G)$ l'espace des fonctions sphériques de type $\delta$ et de hauteur $m$. Soit $\mathcal{G}$ la transformation de Gelfand généralisée de $\mathcal{K}_{\delta}^{\text{h}}(G)$ i.e. l'application définie par :

$$ \mathcal{G}: \mathcal{K}_{\delta}^{\text{h}}(G) \to M_m(\mathbb{C})^{X_m(\mathcal{K}_{\delta}^{\text{h}}(G))} \\ f \mapsto \mathcal{G}f $$

avec $\mathcal{G}f(U) = U(f)$. Après identification des espaces $X_m(\mathcal{K}_{\delta}^{\text{h}}(G))$ et $S_{\delta}^m(G)$, on montre qu'il existe (cf [2]) une application notée $\mathcal{F}f$ qui s'identifie à $\mathcal{G}f$ et qui est définie par :

$$ \mathcal{F}f(\phi) = \int_G f(x) \phi(x^{-1}) dx, \quad (\forall \phi \in S_{\delta}^m(G)). $$

La fonction $f \mapsto \mathcal{G}f$ est appelée **transformation de Fourier sphérique de type $\delta$**. $\mathcal{F}f$ n'est rien d'autre que la transformation de Gelfand généralisée associée à $\mathcal{K}_{\delta}^{\text{h}}(G)$.
Si $\delta$ est triviale de dimension 1 et si $(G, K)$ est une paire Gelfand, on retrouve la transformation de Fourier sphérique usuelle. Nous allons générer le théorème de Selberg suivant le dual unitaire du sous-groupe compact large $K$ et ensuite construire la transformation de Fourier sphérique de type $\delta$ d'un groupe de Lie connexe semi-simple.

## 2 Transformation de Fourier sphérique de type $\delta$ sur $G$

Supposons que $G$ est un groupe de Lie connexe unimodulaire et dénombrable à l'infini. Soit $K$ un sous-groupe compact large de $G$. Soit $\mathcal{A}$ l'algèbre universelle enveloppante de $\mathcal{G}_c$ où $\mathcal{G}_c$ est la complexifiée de l'algèbre de Lie $\mathcal{G}$ de $G$. Soit $\mathcal{C}$ le centralisateur de $\mathcal{K}_c$ dans $\mathcal{A}$ où $\mathcal{K}_c$ est la complexifiée de l'algèbre de Lie $\mathcal{K}$ de $K$. (On rappelle que la projection canonique de $\mathcal{A}$ sur $\mathcal{C}$ est définie par $D \mapsto D_K$ où $D_K = \int_K ad(k) \cdot dk$).

Soit $D \mapsto T_D$ l'identification de l'algèbre $\mathcal{A}$ avec l'algèbre des distributions sur $G$ à support $\{1\}$. $T_D$ est définie par :

$$T_D(f) = D_f(1) \quad \text{et} \quad \tilde{T}_D(f) = T_D(\tilde{f}) \quad (f \in \mathcal{D}(G))$$

où pour tout $x \in G$, $\tilde{f}(x) = f(x^{-1})$.

Si $D \in \mathcal{C}$ alors $T_D$ commute avec $\delta_k$ ($k \in K$). Donc :

$$D\phi(x) = \tilde{T}_D(x) = \int_G \phi(xy^{-1}) d\tilde{T}_D(y) = \phi(x) D\phi(1) \quad \forall x \in G.$$

**Théorème 2.1** Soit $E$ un espace vectoriel de dimension finie sur $\mathbb{C}$, $\phi$ une fonction quasi-bornée et $K$ – centrale de classe $C^\infty$. Supposons qu'il existe une représentation irréductible $u_\phi$ de $\mathcal{C}$ dans $E$ telle que :

$$D\phi = \phi u_\phi(D) \quad \text{où} \quad u_\phi(D) = D\phi(1) \quad \forall D \in \mathcal{C}.$$

Alors il existe $\delta \in \hat{K}$ telle que $\phi$ soit sphérique de type $\delta$.

**PREUVE:** Nous allons montrer qu'il existe $\delta \in \hat{K}$ telle que $\phi * \chi_\delta = \phi$ et établir que l'application $f \mapsto \phi(f)$ est une représentation irréductible de $\mathcal{K}_\delta^k(G)$. L'espace $\mathcal{C}\phi = \{x\phi, x \in \mathcal{C}\}$ est de dimension finie. D'autre part $\mathcal{C}$ contient un élément elliptique $\Delta$. Il existe donc, des nombres complexes $c_k (0 \le k \le n, c_n = 1)$, tel que $\sum_k c_k \Delta^k \phi = 0$. Comme l'opérateur différentiel
$\sum_k c_k \Delta^k$ est elliptique alors $\phi$ est analytique. Montrons que $\phi$ vérifie l'équation fonctionnelle :

$$ \int_K \phi (xkyk^{-1}) dk = \phi(x) \phi(y) \quad \forall x, y \in G. $$

Soit $x$ fixé dans $G$, il existe un voisinage $\mathcal{O}$ de zéro dans $G$ tel que pour tout $Y \in \mathcal{O}$ on a :

$$ \begin{aligned} \int_K \phi(xk \exp Yk^{-1}) dk &= \int_K \phi(x \exp (Ad(k) Y)) dk \\ &= \int_K \sum_{m=0}^{\infty} \frac{1}{m!} (Ad(k) Y)^m \phi(x) dk \\ &= \sum_{m=0}^{\infty} \frac{1}{m!} (Y_K)^m \phi(x) \\ &= \phi(x) \left( \sum_{m=0}^{\infty} \frac{1}{m!} (Y_K)^m \phi(1) \right) \text{ (d'après l'hypothèse)} \\ &= \phi(x) \phi(x \exp Y) \end{aligned} $$

(car $D\phi(1) = D_K\phi(1)$, $D \in \mathcal{A}$ et $\phi$ est centrale par $K$).

Comme $\phi$ est analytique, on peut alors l'étendre sur tout le groupe $G$. Supposons que $\phi$ n'est pas identiquement nulle. Il existe donc $\delta \in \hat{K}$ telle que $\phi * \chi_\delta(1) \neq 0$.

En effet, pour tout $x \in G$, on a : $\phi * \chi_\delta(x) = \int_K \phi(xk) \chi_\delta(k) dk = \int_K (\int_K \phi(xk'kk'^{-1}) dk') \chi_\delta(k) dk = \phi(x) (\phi * \chi_\delta)(1)$. Donc si $\phi * \chi_\delta(1) = 0$, pour tout $\delta \in \hat{K}$, $\phi * \chi_\delta$ serait nul d'où une contradiction.

Fixons donc $\delta$ telle que $\phi * \chi_\delta(1) \neq 0$. Comme $\chi_\delta$ est centrale par $K$, $\phi * \chi_\delta(1)$ commute avec $D\phi(1)$ ($D \in \mathcal{C}$). Donc d'après le lemme de Schur, $\phi * \chi_\delta(1)$ est un opérateur scalaire non nul $M_\delta$. Par conséquent

$$ \phi M_\delta = \phi * \chi_\delta = (\phi * \chi_\delta) * \chi_\delta = \phi M_\delta^2. $$

Et on en déduit que : $\phi = \phi * \chi_\delta$. Comme $\phi = \phi_K$ et $\phi * \chi_\delta = \phi$, l'application $f \mapsto \phi(f)$ est une représentation de $K_\delta^h(G)$ dans $E$. Montrons que cette représentation est irréductible. L'espace $D(G)$ est faiblement dense dans $D'(G)$ et tout opérateur de la forme $D\phi(1)$ ($D \in \mathcal{C}$) peut être approché par les opérateurs $\phi(f)$ où on peut supposer $f \in D_\delta^h(G)$. Donc

$$ \operatorname{Hom}(E, E) = \left\{ \int_K f(x) \phi(x) dx, \quad f \in K_\delta^h(G) \right\} $$

i.e. $U$ est topologiquement complètement irréductible donc irréductible. Par conséquent $f \mapsto \phi(f)$ est irréductible et $\phi$ est sphérique de type $\delta$. $\square$
Dans la suite de ce travail, nous désignons par $G$ un groupe de Lie connexe semi-simple de centre fini, KAN une décomposition d'Iwasawa de $G$ où $K$, $A$ et $N$ sont des sous-groupe de $G$ avec $K$ compact; $A$ abélien et $N$ nilpotent ayant pour algèbres de Lie respectives $\mathcal{K}$, $\mathcal{A}$ et $\mathcal{N}$. Pour tout $x \in G$, on désigne par $\kappa(x)$ et $H(x)$ les uniques éléments de $\mathcal{K}$ et $\mathcal{A}$ respectivement tel que:

$$x = \kappa(x) \exp(H(x)) n, n \in \mathbb{N}.$$

Soient $E$ un espace vectoriel réel de dimension finie, $\varphi$ un système de racines réduit dans $E, \sigma: E \to E$ une isométrie involutive telle que $\sigma\varphi = \varphi(\sigma \neq \pm 1)$. La paire $(\varphi, \sigma)$ est appelée $\sigma$--système de racines. Notons:

$$E_{\pm} = \{\gamma \in E, \sigma(\gamma) = \pm\gamma\}$$

et $\lambda$ un élément du système de racines $S$ dans $E_{\pm}$.

Pour toute forme linéaire complexe $\mu$ sur $\mathcal{A}$, Harish Chandra a construit une représentation continue $U^{\mu}$ (en général non unitaire) de $G$ dans l'espace de Hilbert $L^2(\mathcal{K})$ induite par un caractère de $\mathcal{AN}$ et définie par:

$$U^{\mu}(x) f(k) = \exp \{-(\mu + 2\rho) H(x^{-1}k)\} f(\kappa(x^{-1}k))$$

$$\text{où } \rho = \sum_{\lambda>0} m(\lambda) \lambda, \text{ et où } m(\lambda) \text{ est la multiplicité de } \lambda \text{ dans } S.$$

Considérons la transformation d'Abel généralisée $f \to F_f^\delta$ (cf. [4]) définie pour tout $h \in \mathcal{A}$ par:

$$F_f^\delta(h) = h^\rho \int_K \int_N f(k hn) u_{\bar{\delta}}(k^{-1}) dn dk \quad \text{où} \quad h^\rho = \exp[\rho(\log h)]$$

($\delta$ étant un élément du dual unitaire du groupe compact $K$). Nous allons, grâce à cette transformation d'Abel, définir la transformation de Fourier sphérique de type $\delta$ du groupe de Lie semi-simple $G$ et étudier quelques applications au groupe de Lie $SL(2, \mathbb{R})$.

**Théorème 2.2** Soit $\mu$ une forme linéaire sur $\mathcal{A}$. L'application $f \to \phi_{\delta}^{\mu}(f)$ de $\mathcal{K}_{\delta}^{\text{h}}(G)$ à valeurs dans $M_{d(s)}(\mathbb{C})$ définie par:

$$\phi_{\delta}^{\mu}(f) = \int_{\mathcal{A}} F_{f}^{\delta}(h) h^{\mu+\rho} dh$$

est une transformation de Fourier sphérique de type $\delta$.
PREUVE: Pour toute $f \in \mathcal{K}_{\delta}^{\text{h}}(G)$, on a:

$$
\begin{align*}
\phi_{\delta}^{\mu}(f) &= \int_{A} F_{f}^{\delta}(h) h^{\mu+\rho} dh \\
&= \int_{K} \int_{A} \int_{N} h^{\mu+2\rho} f(khn) u_{\delta}(k^{-1}) dk dh dn \\
&= \int_{G} \int_{K} h^{\mu} f(x) u_{\delta}(k (k^{-1}x^{-1}k)) dx dk
\end{align*}
$$

car pour tout $x = khn \in G$, $dx = h^{2\rho} dk dh dn$. Posons:

$$
\phi_{\delta}^{\mu}(f) = \int_{K} h^{\mu} u_{\delta}(k(k^{-1}xk)) \, dk = \int_{K} u_{\delta}(k(k^{-1}xk)) \exp[\mu(H(xk))] \, dk
$$

Il reste à montrer que la fonction $x \mapsto \phi_{\delta}^{\mu}(x)$ de $G$ dans $\text{End}(E_{\delta})$ est une fonction sphérique de type $\delta$. $\phi_{\delta}^{\mu}$ est centrale par $K$ (évident). Pour tout $x \in G$, on a : $\mathcal{X}_{\delta} * \phi_{\delta}^{\mu}(x) = \phi_{\delta}^{\mu}(x)$. En effet, $\mathcal{X}_{\delta} * \phi_{\delta}^{\mu}(x) = \int_{K} \mathcal{X}_{\delta}(k) \phi_{\delta}^{\mu}(k^{-1}x) dk = \int_{K} \int_{K} \mathcal{X}_{\delta}(k) u_{\delta}(k(k^{-1}xk^{-1}k')) \exp[\mu(H(xk^{-1}k'))] dk dk' = \int_{K} \int_{K} \mathcal{X}_{\delta}(k) u_{\delta}(k(k^{-1}xk^{-1}k')) \exp[\mu(H(xk'))] dk dk' = d(\delta) \int_{K} \int_{K} \text{tr}(u_{\delta}(k)) u_{\delta}(k^{-1}) u_{\delta}(k^{-1}) u_{\delta}(xk') \exp[\mu(H(xk'))] dk dk' = \int_{K} u_{\delta}(k(k^{-1}xk)) \exp[\mu(H(xk))] dk = \phi_{\delta}^{\mu}(x)$
car pour tout $T \in \text{End}_{\mathbb{C}}(E_{\delta})$, on a

$$
T = d(\delta) \int_K u_\delta(k^{-1}) \operatorname{tr}(u_\delta(k) T) \, dk.
$$

D'autre part,

$$
(\phi_{\delta}^{\mu}(x))_{ij} = \int_{K} \sum_{t}^{d(\delta)} a_{it}(k^{-1}) a_{tj}(k(x^{-1}k)) \exp[\mu(H(xk))] dk.
$$

où $(a_{ij}(k))$ est la matrice de $u_\delta(k)$ par rapport à une base de $E_\delta$.

$$
\begin{align*}
(\phi_{\delta}^{\mu}(x))_{ij} &= \sum_{t}^{d(\delta)} \int_{K} a_{it}(k^{-1}) a_{jt}(k(k^{-1}x)) \exp[\mu(H(xk))] dk. \\
&= \sum_{t}^{d(\delta)} (a_{it}, U^{-\mu-2\rho}(x^{-1}) a_{jt}) = \sum_{t}^{d(\delta)} (U^{\mu}(x) a_{it}, a_{jt}).
\end{align*}
$$

Par conséquent $\phi_{\delta}^{\mu}$ est quasi- bornée, (il suffit de prendre pour semi-norme
sur $G$, l'application $x \mapsto \|U^{\mu}(x)\|$).
Montrons que l'application $f \mapsto \phi_{\delta}^{\mu}(f)$ est une représentation irréductible de l'algèbre $K_{\delta}^{\text{h}}(G)$. Pour toutes $f, g \in K_{\delta}^{\text{h}}(G)$, on a:

$$
\begin{align*}
\phi_{\delta}^{\mu}(f * g) &= \int_{A} h^{\mu+\rho} F_{f*g}^{\delta}(h) \, dh = \int_{A} h^{\mu+\rho} F_{f}^{\delta} * F_{g}^{\delta}(h) \, dh \\
&= \int_{A} \int_{A} h^{\mu+\rho} F_{f}^{\delta}(h \ h'^{-1}) F_{g}^{\delta}(h') \, dh \, dh' \\
&= \int_{A} \int_{A} (h \ h'^{-1})^{\mu+\rho} F_{f}^{\delta}(h \ h'^{-1}) \ h'^{\mu+\rho} F_{g}^{\delta}(h') \, dh \, dh' \\
&= \phi_{\delta}^{\mu}(f) \phi_{\delta}^{\mu}(g).
\end{align*}
$$

Donc $\phi_{\delta}^{\mu}$ est une représentation de l'algèbre $K_{\delta}^{\text{h}}(G)$ qui est irréductible car $u_{\delta} \in \delta$. Ainsi la fonction $\phi_{\delta}^{\mu}$ est sphérique de type $\delta$. Par conséquent l'application : $f \mapsto \phi_{\delta}^{\mu}(f) = \mathcal{F}f(\phi_{\delta}^{\mu})$ est une transformation de Fourier sphérique de type $\delta$. $\square$

**Corollaire 2.1** *Avec les notations du théorème (2.1), si $\delta$ est la classe tri-viale de dimension 1, on a:*

$$ \mathcal{F}f(\phi^{\mu}) = \Psi_{\mu}(f) $$

où $\Psi_{\mu}$ est une fonction zonale sphérique.

En effet, $\mathcal{F}f(\phi^{\mu}) = \int_G \int_K f(x) e^{\mu(H(x^{-1}k))} dx dk = \int_G f(x) (1, U^{-\mu-2\rho}(x^{-1})1) dx = \int_G f(x) (U^{\mu}(x)1, 1) dx = \int_G f(x) \Psi_{\mu}(x) dx = \Psi_{\mu}(f)$, où $\Psi_{\mu}: x \mapsto (U^{\mu}(x)1, 1)$ est une fonction zonale sphérique sur $G$.

### 3 Applications au groupe $SL(2, \mathbb{R})$

Considérons le groupe spécial linéaire $G = SL(2, \mathbb{R})$. Il est bien connu que $G$ est un groupe de Lie semi-simple. Les éléments:

$$ X_0 = \frac{1}{2} \begin{pmatrix} 0 & 1 \\ -1 & 0 \end{pmatrix}, \quad X_1 = \frac{1}{2} \begin{pmatrix} 1 & 0 \\ 0 & -1 \end{pmatrix}, \quad X_2 = \begin{pmatrix} 0 & 1 \\ 0 & 0 \end{pmatrix} $$

forment une base de l'algèbre de Lie $sl(2, \mathbb{R})$ de $G$.

Soient $\theta, t, \xi$ trois nombres réels. Posons :

$$ u_{\theta} = \exp \theta X_{0}, \quad a_{t} = \exp t X_{1}, \quad n_{\xi} = \exp \xi X_{2} $$
et désignons par $K, A, N$ les trois sous-groupes de $SL(2, \mathbb{R})$ définis par

$$K = \{u_{\theta}, \theta \in \mathbb{R}\} \approx \mathbb{R}/4\pi\mathbb{Z}, A = \{a_t, t \in \mathbb{R}\} \approx \mathbb{R} \text{ et } N = \{n_{\xi}, \xi \in \mathbb{R}\}.$$

On montre aisément que (cf [3])

$$u_{\theta} = \begin{pmatrix} \cos \theta/2 & \sin \theta/2 \\ -\sin \theta/2 & \cos \theta/2 \end{pmatrix}, \quad a_t = \begin{pmatrix} e^{t/2} & 0 \\ 0 & e^{-t/2} \end{pmatrix}, \quad n_{\xi} = \begin{pmatrix} 1 & \xi \\ 0 & 1 \end{pmatrix}$$

que tout élément $g \in SL(2, \mathbb{R})$ se décompose de façon unique sous la forme $g = u_{\theta}a_t n_{\xi}$ (décomposition d'Iwasawa) et que l'application $f : (u, a, n) \to uan$ est un difféomorphisme analytique de $K \times A \times N$ sur $SL(2, \mathbb{R})$.

Pour tout élément $g \in SL(2, \mathbb{R})$ et $\theta \in \mathbb{R}$, soit $gu_{\theta} = u_{g \cdot \theta}a_{t(g, \theta)} n_{\xi(g, \theta)}$ la décomposition d'Iwasawa de $gu_{\theta}$ où $g \cdot \theta$ désigne l'angle de la rotation dans la décomposition d'Iwasawa de $gu_{\theta}$.

Si

$$g = \begin{pmatrix} a & b \\ c & d \end{pmatrix} \in SL(2, \mathbb{R}),$$

on a :

$$e^{i(g \cdot \theta)/2} = \frac{(a - ic) \cos \theta/2 + (-b + id) \sin \theta/2}{|(a - ic) \cos \theta/2 + (-b + id) \sin \theta/2|} \quad (2)$$

$$\text{et } \begin{aligned} e^{t(g, \theta)} &= \left| (a - ic) \cos \frac{\theta}{2} + (-b + id) \sin \frac{\theta}{2} \right|^2 \\ \xi(g, \theta) &= e^{-t(g, \theta)} \left[ (ab + cd) \cos \theta + \frac{1}{2}(a^2 + b^2 + c^2 - d^2) \sin \theta \right]. \end{aligned}$$

On rappelle que le groupe $SL(2, \mathbb{R})$ s'identifie, grâce à la transformation de Cayley, au groupe $SU(1, 1) = \{g \in M_2(\mathbb{C}), g^*e_1g = e_1 \text{ et } \det g = 1\}$

$$\text{avec } e_1 = \begin{pmatrix} 1 & 0 \\ 0 & -1 \end{pmatrix}, \text{ et que tout } g = \begin{pmatrix} a & b \\ c & d \end{pmatrix} \in SL(2, \mathbb{R}) \text{ peut s'écrire sous la forme } g = \begin{pmatrix} \alpha & \beta \\ \bar{\beta} & \bar{\alpha} \end{pmatrix} \text{ avec}$$

$$\alpha = \frac{1}{2} [(a+b)+i(b+c)] \text{ et } \beta = \frac{1}{2} [(a-b)-i(b+c)]$$

Les classes de représentations unitaires irréductibles de $SO(2)$ correspondent bijectivement au groupe des caractères de $\mathbb{R}/4\pi\mathbb{Z}$ et donc à $\mathbb{Z}$.
Soient $\mathcal{X}_n (n \in \mathbb{Z})$ une classe de représentations unitaires irréductibles du sous-groupe compact $SO(2)$ de $G = SL(2, \mathbb{R})$ identifié à $SU(1, 1)$ et $\mathcal{K}_n^h (G)$ l'espace induit par $\mathcal{X}_n$.

**Théorème 3.1** Soit $\mu$ une forme linéaire sur $A$. La transformation de Fourier sphérique de type $\mathcal{X}_n$ sur $G$ est définie par :

$$ \phi_n^\mu(f) = \frac{1}{4\pi} \int_G \int_0^{4\pi} \left( \frac{-\beta e^{i\theta} + \alpha}{|-\beta e^{i\theta} + \alpha|} \right)^{2n} f(g) \exp[\mu(\log a_t)] dg d\theta $$

où

$$ g = \begin{pmatrix} \alpha & \beta \\ \bar{\beta} & \bar{\alpha} \end{pmatrix} \in SU(1,1) \quad (\forall f \in \mathcal{K}_n^h(G)). $$

**PREUVE:** Soit $f \mapsto F_f^{<n>} \text{ la transformation d'Abel généralisée sur } G \text{ suivant la classe } \mathcal{X}_n$. On a :

$$ F_f^{<n>} (t) = \frac{e^{t/2}}{4\pi} \int_0^{4\pi} \int_{-\infty}^{+\infty} f(u_\theta a_t n_\xi) e^{-in\theta} \, d\xi \, d\theta. $$

Donc la transformation de Fourier sphérique de type $\mathcal{X}_n$ est définie par :

$$ \phi_n^\mu(f) = \int_{-\infty}^{+\infty} F_f^{<n>} (t) e^{t/2} \exp[\mu(\log a_t)] dt $$

(On rappelle que si $g = u_\theta a_t n_\xi$, on a $dg = \frac{1}{4\pi} e^{t/2} dt d\xi$). Par conséquent

$$ \begin{aligned} \phi_n^\mu(f) &= \frac{1}{4\pi} \int_0^{4\pi} \int_{-\infty}^{+\infty} \int_{-\infty}^{+\infty} f(u_\theta a_t n_\xi) \mathcal{X}_n(u_{-\theta}) e^t \exp[\mu(\log a_t)] \, d\theta \, dt \, d\xi \\ &= \int_G f(g) \mathcal{X}_n(K(g^{-1})) \exp[\mu(\log a_t)] \, dg \\ &= \frac{1}{4\pi} \int_G \int_0^{4\pi} f(g) \mathcal{X}_n(K(u_{-\theta}g^{-1}u_\theta)) \exp[\mu(\log a_t)] \, dg \, d\theta \\ &= \frac{1}{4\pi} \int_G \int_0^{4\pi} f(g) \exp[in(-\theta + g^{-1}\theta) + \mu(\log a_t)] \, dg \, d\theta \\ &= \frac{1}{4\pi} \int_G \int_0^{4\pi} f(g) [\exp(-ig^{-1}\theta/2 + i\theta/2)]^{2n} \exp[\mu(\log a_t)] \, dg \, d\theta \end{aligned} $$

On déduit de (2) que si $g = \begin{pmatrix} \alpha & \beta \\ \bar{\beta} & \bar{\alpha} \end{pmatrix} \in SU(1,1)$ on a :

$$ e^{i(g \cdot \theta)/2} = \frac{\alpha e^{i\theta/2} + \beta e^{-i\theta/2}}{|\alpha e^{i\theta/2} + \beta e^{-i\theta/2}|} \quad (3) $$
En posant : $u(g, \xi) = \frac{\beta\xi + \alpha}{|\beta\xi + \alpha|}$ pour $\xi = e^{-i\theta}$, on a
$$ \exp[-ig^{-1} \cdot \theta/2 + i\theta/2] = u(g^{-1}, e^{i\theta}) . $$

Par conséquent :

$$ \phi_n^\mu(f) = \frac{1}{4\pi} \int_G \int_0^{4\pi} u(g^{-1}, e^{i\theta})^{2n} \exp[\mu(\log a_t(g^{-1}, \theta))] dg d\theta. $$

□

**Théorème 3.2** Soit $\omega \in G$ et $u_\alpha a_s u_\beta$ une décomposition de Cartan de $\omega$. Pour toute fonction $f \in K_n^h(G)$ on a :

$$ \phi_n^\mu(\omega f) = \frac{1}{e^{in(\alpha+a_s\cdot\beta)+s/2}} \phi_n^\mu(f). $$

où $\omega f$ est définie pour tout $x \in G$ par $\omega f(x) = f(\omega^{-1}x)$ et $a_s \cdot \beta$ est l'angle de la rotation dans la décomposition d'Iwasawa de $a_s u_\beta$.

**PREUVE:** Considérons la transformation d'Abel généralisée $f \mapsto F_f^{<n>}$ suivant la classe $\mathcal{X}_n$. Montrons que pour toute $f \in K_n^h(G)$ et $t \in \mathbb{R}$ on a :

$$ F_{\omega f}^{<n>} (t) = e^{s/2} \mathcal{X}_n (u_{-\alpha - a_s \cdot \beta}) \quad F_f^{<n>} (t) \quad (\forall \omega = u_\alpha a_s u_\beta \in G). $$

$$ \begin{align*} F_{\omega f}^{<n>} (t) &= \frac{e^{t/2}}{4\pi} \int_0^{4\pi} \int_{-\infty}^{+\infty} \omega f(u_\theta a_t n_\xi) \mathcal{X}_n (u_\theta^{-1}) \, d\xi \, d\theta \\ &= \frac{e^{t/2}}{4\pi} \int_0^{4\pi} \int_{-\infty}^{+\infty} f(\omega^{-1} u_\theta a_t n_\xi) \mathcal{X}_n (u_{-\theta}) \, d\xi \, d\theta \\ &= \frac{e^{t/2}}{4\pi} \int_0^{4\pi} \int_{-\infty}^{+\infty} f(u_{-\beta} a_s^{-1} u_{-\alpha} u_\theta a_t n_\xi) \mathcal{X}_n (u_{-\theta}) \, d\xi \, d\theta \end{align*} $$

Par un calcul matriciel direct on a :

$$ \begin{align*} u_{-\beta} a_s^{-1} u_{-\alpha} u_{\theta} a_t n_{\xi} &= u_{a_s^{-1} \cdot (\theta-\alpha) - \beta} a_t (a_s^{-1} \cdot \theta - \beta) n_{\xi} (a_s^{-1} \cdot \theta - \beta) a_t n_{\xi} \\ &= u_{\theta'} a_{t'} n_{\xi'} a_t n_{\xi} \\ &= u_{\theta'} a_{t'} a_t^{-1} n_{\xi'} a_t n_{\xi} = u_{\theta'} a_{t'+t} n_{\xi'e^{-1}+\xi} \end{align*} $$

$$ \text{avec } \theta' = a_s^{-1} \cdot (\theta - \alpha) - \beta; \quad t' = t(a_s^{-1}, \theta - \beta) \text{ et } \xi' (a_s^{-1}, \theta - \beta). $$
Par conséquent

$$ 
\begin{aligned}
F_{\omega}^{<n>} (t) &= \frac{e^{t/2}}{4\pi} \int_{0}^{4\pi} \int_{-\infty}^{+\infty} f(u_{\theta'} a_{t'+t} n_{\xi'} e^{-t+\xi}) \chi_{n}(u_{-\theta}) \, d\xi \, d\theta. \\
&= \frac{e^{t/2}}{4\pi} \int_{0}^{4\pi} \int_{-\infty}^{+\infty} f(u_{\theta} a_{t} n_{\xi}) e^{-in[\alpha+a_{s}\theta+\beta]} e^{it(a_{s}^{-1},\gamma)} \, d\xi \, d\theta
\end{aligned}
$$

avec $\gamma = a_s \cdot (\theta + \beta) + \alpha$. Comme $a_s = \begin{pmatrix} e^{s/2} & 0 \\ 0 & e^{-s/2} \end{pmatrix}$, on a:

$$ e^{t(a_s^{-1}, \gamma)} = e^{s/2} \text{ et } e^{-in a_s \cdot \theta} = e^{-s} e^{-in\theta} \text{ (d'après (3))} $$

Ainsi:

$$ 
\begin{aligned}
F_{\omega}^{<n>} (t) &= \frac{e^{t/2}}{4\pi} \cdot e^{-in(\alpha+a_{s,\beta})} \int_{0}^{4\pi} \int_{-\infty}^{+\infty} f((u_{\theta} a_{t} n_{\xi}) e^{-s/2}) \chi_{n}(u_{-\theta}) \, d\xi \, d\theta. \\
&= e^{-s/2} \chi_{n}(u_{-\alpha-a_{s,\beta}}) F_{\omega}^{<n>} (t).
\end{aligned}
$$

D'après le théorème (2.1) on a :

$$ 
\begin{aligned}
\phi_n^\mu(\omega f) &= \frac{1}{e^{s/2}} \chi_n(u_{-\alpha-a_{s,\beta}}) \phi_n^\mu(f) \\
&= \frac{1}{e^{in(\alpha+a_{s,\beta})+s/2}} \phi_n^\mu(f).
\end{aligned}
$$

Remerciements: Nous remercions l'expert anonyme pour ses conseils et suggestions qui ont permis d'améliorer le présent travail.

Références

[1] F. Bruhat. Distribution sur un groupe localement compact et application à l'étude des représentations des groupes p-adiques. *Bull. Soc. Math. France*, 89:43-75, 1961.

[2] K. Kangni et S. Touré. Transformation de fourier sphérique de type $\delta$. *Ann. Math. Blaise Pascal*, 3:117-133, 1996.

[3] M. Sugiura. *Unitary Representations and Harmonic Analysis*. Kodansha Scientific Books, New-York, 1975.

[4] G. Warner. *Harmonic Analysis on Semi-simple Groups*. Springer-Verlag, Berlin, Heidelberg, New-York, 1972.
KINVI KANGNI
UNIVERSITÉ DE COBODY
UFR-MATHÉMATIQUES
ET INFORMATIQUE
22 BP. 1214
ABIDJAN 22
CÔTE D'IVOIRE

SALIOU TOURÉ
UNIVERSITÉ DE COBODY
UFR-MATHÉMATIQUES
ET INFORMATIQUE
22 BP. 1214
ABIDJAN 22
CÔTE D'IVOIRE