KINVI KANGNI

SALIOU TOURE

# Transformation de Fourier sphérique de type $\delta$

*Annales mathématiques Blaise Pascal*, tome 3, n° 2 (1996), p. 117-133

<http://www.numdam.org/item?id=AMBP_1996_3_2_117_0>

© Annales mathématiques Blaise Pascal, 1996, tous droits réservés.

L'accès aux archives de la revue « Annales mathématiques Blaise Pascal » (http://math.univ-bpclermont.fr/ambp/) implique l'accord avec les conditions générales d'utilisation (http://www.numdam.org/legal.php). Toute utilisation commerciale ou impression systématique est constitutive d'une infraction pénale. Toute copie ou impression de ce fichier doit contenir la présente mention de copyright.

NUMDAM

Article numérisé dans le cadre du programme
Numérisation de documents anciens mathématiques
http://www.numdam.org/
TRANSFORMATION DE FOURIER
SPHÉRIQUE DE TYPE δ

Kinvi KANGNI et Saliou TOURE

Faculté des Sciences et Techniques
Département de Mathématiques
Université d'Abidjan
22 BP 1214 Abidjan 44

Côte d'Ivoire

ABSTRACT

Let G be a locally compact unimodular group, K a compact subgroup of G and δ an arbitrary class of irreducible unitary representation of K.

Within this work, we generalize the spherical Fourier transform according to δ, which is called the spherical Fourier transform of type δ. This Fourier transform is obtained after constructing generalized Guelfand transform associated with the non abelian algebras $K_δ^{\#}(G)$ and established a biunivocal correspondence between the space $X_m(K_δ^{\#}(G))$ of m-dimensional irreducible representations of $K_δ^{\#}(G)$ and the space $S_δ^m(G)$ of spherical functions of type δ and height m. When δ is the class of the trivial one dimensional representation of K and if (G,K) is a Guelfand Pair we do find the usual spherical Fourier transform.

RESUME

Soient G un groupe localement compact unimodulaire, K un sous-groupe compact de G et δ une classe de représentations unitaires irréductibles de K.

Dans le présent travail, nous donnons une généralisation des transformations de Fourier sphériques suivant la classe δ que nous appelons transformation de Fourier sphérique de type δ. Cette transformation de Fourier est obtenue après avoir construit une transformation de Guelfand généralisée associée à l'algèbre non commutative $K_δ^{\#}(G)$ et établi une correspondance biunivoque entre l'espace $X_m(K_δ^{\#}(G))$ des représentations unitaires irréductibles de $K_δ^{\#}(G)$ de dimension finie m et l'espace $S_δ^m(G)$ des fonctions sphériques de type δ et de hauteur m. Quand δ est triviale de dimension 1 et que (G,K) est une paire de Guelfand, on retrouve les transformations de Fourier sphériques usuelles.
INTRODUCTION

Soient G un groupe localement compact unimodulaire, K un sous-groupe compact de G, $\hat{K}$ l'ensemble des classes d'équivalence des représentations unitaires irréductibles de K.

Pour toute classe $\delta$ de $\hat{K}$, notons $\xi_{\delta}$ le caractère de $\delta$, $d(\delta)$ le degré de $\delta$ et $\chi_{\delta} = d(\delta) \xi_{\delta}$. Si $\delta$ est la classe des représentations contragrédientes de $\delta$ dans $\hat{K}$, on a $\overline{\chi}_{\delta} = \chi_{\delta}^\gamma$ et on vérifie aisément grâce à la relation d'orthogonalité de Schur que : $\chi_{\delta}^\gamma * \chi_{\delta} = \chi_{\delta}^\gamma$.

Soit $\mathcal{K}(G)$ l'espace des fonctions complexes continues sur G à support compact. En identifiant $\chi_{\delta}$ à une mesure bornée sur G, on note, pour toute fonction $f \in \mathcal{K}(G)$ : $\delta f(x) = \overline{\chi}_{\delta} * f(x) = \int_{K} \chi_{\delta}(k) f(kx)dk$

$$f_{\delta}(x) = f * \chi_{\delta}(x) = \int_{K} \chi_{\delta}(k^{-1}) f(xk)dk$$

(dk étant la mesure de Haar normalisée sur K) et $\mathcal{K}_{\delta}(G) = (f \in \mathcal{K}(G), f = \delta f = f_{\gamma})$.

Soit U une représentation de Banach de G dans E, on pose $P(\delta) = U(\chi_{\delta})$ et $E(\delta) = P(\delta) E$. Si $g = \overline{\chi}_{\delta} * f * \overline{\chi}_{\delta}$ on a $P(\delta) U(f) P(\delta) = U(g)$ pour $f \in \mathcal{K}(G)$, ainsi $E(\delta)$ est stable par $U(f)$ ($f \in \mathcal{K}_{\delta}(G)$) et en notant $U_{\delta}(f)$ la restriction de $U(f)$ à $E(\delta)$, on obtient une représentation $f \mapsto U_{\delta}(f)$ de $\mathcal{K}_{\delta}(G)$ sur $E(\delta)$.

Soit $\mathfrak{I}_c(G)$ l'ensemble des fonctions $f$ de $\mathcal{K}(G)$ qui sont centrales par K.

Posons $\mathcal{K}_{\delta}(G) \cap \mathfrak{I}_c(G) = \mathcal{K}_{\delta}^{*}(G)$.

$\mathcal{K}_{\delta}^{*}(G)$ est une sous-algèbre de $\mathcal{K}(G)$ et l'application $f \mapsto \overline{\chi}_{\delta} * f$ est une projection continue de $\mathcal{K}(G)$ sur $\mathcal{K}_{\delta}^{*}(G)$ où l'application $f_K$ est définie par : $f_K(x) = \int_K f(kx)dk \ (\forall x \in G)$ et on a les relations $(\chi_{\delta} * f)_K = \overline{\chi}_{\delta} * f_K : (f * \overline{\chi}_{\delta})_K = f_K * \overline{\chi}_{\delta}$.

Si $\delta$ est une classe de représentations triviales de dimension 1 de K, tout élément de $\mathcal{K}_{\delta}^{*}(G)$ est biinvariante par K. L'algèbre $\mathcal{K}_{\delta}^{*}(G)$ s'identifie donc à l'algèbre $\mathcal{K}^{*}(G)$ des fonctions continues complexes à
support compact et biinvariantes par K. Si la représentation $k \to U_\delta(k)$ de K sur $E(\delta)$ se décompose en m représentations irréductibles équivalentes, le centralisateur est isomorphe à l'algèbre $M_m(\mathbb{C})$ des matrices carrées d'ordre m. Il existe donc un isomorphisme

$U_\delta(f) \to u_\delta(f)$ de l'algèbre $(U_\delta(f), f \in \mathcal{K}_\delta^*(G))$ sur $M_m(\mathbb{C})$ où $f \to u_\delta(f)$ est une représentation irréductible de dimension m de $\mathcal{K}_\delta^*(G)$ avec

$$ \mathrm{tr}(U_\delta(f)) = d(\delta) \mathrm{tr}(u_\delta(f^\vee)) \quad \forall f \in \mathcal{K}_\delta^*(G). $$

L'objectif de notre travail est de construire une transformation de Fourier sphérique associée à l'algèbre non commutative $\mathcal{K}_\delta^{\#}(G)$, généralisant ainsi les transformations de Fourier sphériques usuelles (i.e pour $\delta$ trivial). Pour cela, nous allons définir une transformation de Guelfand généralisée et identifier l'espace des représentations irréductibles de dimension m de l'algèbre $\mathcal{K}_\delta^{\#}(G)$ et l'espace des fonctions sphériques de type $\delta$ de hauteur m.

## S.I : PRELIMINAIRE

Dans ce paragraphe, nous donnons les définitions et les notations qui seront utilisées dans la suite de ce travail.

**Définition I-1** : Soit $u = (u_1, u_2)$ une représentation double de K dans un espace de Banach de dimension finie E. Une fonction $\varphi$ est dite **u-sphérique** si $\varphi$ est une fonction continue de G sur E telle que : $\varphi(k_1 \times k_2) = u_1(k_1) \varphi(x) u_2(k_2) \quad \forall k_1, k_2 \in K \ x \in G$.

Soit U une représentation de Banach irréductible de G.

**Définition I-2** : Soit $\delta \in \hat{K}$. La fonction $\psi_\delta^U$ sur G définie par:

$\psi_\delta^U(x) = \mathrm{tr}(P(\delta) U(x) P(\delta))$ est appelée **fonction trace sphérique** de type $\delta$ correspondant à la représentation U.
**Définition I-3** : Une semi-norme $\rho$ sur $G$ est une fonction positive semi-continue inférieurement et bornée sur tout compact de $G$ telle que $\rho(x y) \le \rho(x) \rho(y) \quad (\forall x, y \in G)$.

**Définition I-4** : Une fonction $f$ sur $G$ à valeurs dans un espace de Banach est dite **quasi-bornée** s'il existe une semi-norme $\rho$ sur $G$ telle que :

$$ \sup_{x \in G} \frac{\| f(x) \|}{\rho(x)} < \infty $$

**Définition I-5** : Soit $\delta \in \hat{K}$. Une fonction sphérique $\phi$ (sur $G$) de type $\delta$ est une fonction continue quasi-bornée sur $G$ à valeurs dans $\text{Hom}_{\mathbb{C}}(E, E)$, (E étant un espace vectoriel de dimension finie) telle que :

(i) $\phi(kx k^{-1}) = \phi(x)$. ($x \in G, k \in K$)

(ii) $\chi_{\delta} \cdot \phi = \phi = \phi \cdot \chi_{\delta}$

(iii) L'application $u_{\phi}: f \mapsto \phi(f) = \int_G f(x) \phi(x^{-1}) dx$ est une représentation irréductible de l'algèbre $K_{\delta}^{\#}(G)$.

Deux fonctions sphériques $\phi_i$ ($i = 1, 2$) de type $\delta$ à valeurs dans $\text{Hom}_{\mathbb{C}}(E_i, E_i)$ sont équivalentes s'il existe une bijection linéaire $Q: E_1 \to E_2$ telle que $\phi_2(x) = Q\phi_1(x) x^{-1} \quad (\forall x \in G)$.

**Remarque I-6** : Si $\delta$ est une classe triviale de dimension 1 de $K$, les fonctions sphériques de type $\delta$ s'identifient aux fonctions zonales sphériques.

## § II TRANSFORMATION DE FOURIER SPHERIQUE DE TYPE $\delta$

Soit $u_{\delta}^y$ une représentation unitaire irréductible de $K$ dans la classe duale $\delta$ dans un espace $E_{\delta}^y$. Pour tout endomorphisme $T$ de $E_{\delta}^y$, on définit le nombre suivant $\sigma(T) = d(\delta^y)\text{tr}(T)$. Grâce à la relation d'orthogonalité de Schur, on montre que pour tout $T \in \mathcal{F}_\delta^y = \text{Hom}_{\mathbb{C}}(E_\delta^y, E_\delta^y)$
on a : $T = \int_K u_\gamma(k^{-1}) \sigma(u_\gamma(k)T)dk$.

**Proposition II-1 :** L'algèbre $K_\delta^*(G)$ est isomorphe à l'algèbre $U_{c,\delta}(G)$ des fonctions continues à support compact $\psi$ de $G$ dans $F_\gamma = \text{Hom}_c(E_\gamma, E_\gamma)$ et qui vérifient la relation :

$$ \psi(k_1 \times k_2) = u_\gamma(k_1) \psi(x) u_\gamma(k_2) $$

**Preuve :** Soit $f \in K_\delta^*(G)$. Posons $\psi_f^\delta(x) = \int_K u_\gamma(k^{-1}) f(kx)dk$. On montre facilement que $\psi_f^\delta \in U_{c,\delta}(G)$. L'application $f \mapsto \psi_f^\delta$ est injective. En effet :

$$ \begin{aligned} \forall f \in K_\delta^*(G), \quad f(x) = \bar{\chi}_\delta \cdot f(x) &= \int_K \chi_\gamma(k) f(k^{-1}x)dk \\ &= \int_K \sigma(u_\gamma(k^{-1}) f(kx))dk = \sigma(\psi_f^\delta(x)) \end{aligned} $$

$f \mapsto \psi_f^\delta$ est surjective. En effet : Soit $\psi \in U_{c,\delta}(G)$.

Posons $f(x) = \sigma(\psi(x))$

$$ \begin{aligned} f(kx \ k^{-1}) &= \sigma(\psi(kx \ k^{-1})) = \sigma(u_\gamma(k) \psi(x) u_\gamma(k^{-1})) \\ &= \sigma(\psi(x)) = f(x) \quad \text{donc} \quad f \in \mathcal{I}_c(G) \end{aligned} $$

$$ \begin{aligned} \text{et } \chi_\delta \cdot f(x) &= \int_K \tilde{\chi}_\delta(k) f(k^{-1}x)dk \\ &= d(\tilde{\delta}) \int_K \text{tr}(u_\gamma(k)) \sigma(\psi(k^{-1}x))dk \\ &= d(\tilde{\delta}) \int_K \text{tr}(u_\gamma(k)) \sigma(u_\gamma(k^{-1}) \psi(x))dk \\ &= d(\tilde{\delta}) \text{tr}(\psi(x)) = f(x) \quad \text{donc} \quad f \in K_\delta^*(G). \end{aligned} $$

Il suffit de prendre $\psi_f^\delta = \psi$ et $f \mapsto \psi_f^\delta$ est surjective. D'autre part :

$$ \begin{aligned} \psi_f^\delta \cdot \psi_g^\delta(x) &= \int_G \psi_f^\delta(xy) \psi_g^\delta(y^{-1}) \, d(y) \\ &= \int_G \left( \int_K u_\gamma(k^{-1}) f(k_1xy) \, dk_1 \right) \left( \int_K u_\gamma(k^{-1}) g(k_2y^{-1}) \, dk_2 \right) dy \\ &= \int_K \int_G \int_K u_\gamma(k^{-1}k_1^{-1}k_2^{-1}) f(k_1xy \ k_2) g(y^{-1}) \, dk_1 \, dk_2 dy \\ &= \int_K \int_G u_\gamma(k^{-1}) f(kxy) g(y^{-1}) \, dy dk = \int_K u_\gamma(k^{-1}) f \cdot g(kx) \, dk \\ &= \psi_f^\delta \cdot \psi_g(x) \end{aligned} $$

C.Q.F.D.
L'existence d'une fonction sphérique de type $\delta$ sur $G$ de hauteur non nulle est toujours liée à l'existence d'une représentation de Banach irréductible du groupe $G$.

**Proposition II-2** : Si $U$ est une représentation irréductible de Banach de $G$ dans un espace $E$ telle que $\delta$ soit contenue dans la restriction de $U$ à $K$, alors il existe une fonction $\phi_{\delta}^U$ définie sur $G$, sphérique de type $\delta$.

La fonction $\phi_{\delta}^U$ est dite associée à la représentation $U$.

**Preuve** Soit l'algèbre $I(\delta) = \mathfrak{C}(K) \cdot \bar{\chi}_{\delta} = (f \cdot \bar{\chi}_{\delta}, f \in \mathfrak{C}(K))$ qu'on identifie à l'algèbre $M_d(\delta)(\mathfrak{C})$ des matrices carrées d'ordre $d(\delta)$ à coefficients complexes. L'application bilinéaire $(\phi, f) : \mapsto \phi \cdot f$ de $I(\delta) \times \mathcal{K}_{\delta}^{\#}(G)$ dans $\mathcal{K}(G)$ induit une unique application linéaire du produit tensoriel $I(\delta) \otimes \mathcal{K}_{\delta}^{\#}(G)$ dans $\mathcal{K}(G)$, lequel produit tensoriel est isomorphe à la sous-algèbre $\mathcal{K}_{\delta}(G)$ de $\mathcal{K}(G)$. Si $u_{\delta}$ est une représentation irréductible de $\mathcal{K}_{\delta}^{\#}(G)$ et si $l_{d}(\delta)$ est la représentation triviale de l'algèbre $I(\delta)$ alors $l_{d}(\delta) \otimes u_{\delta}$ est une représentation irréductible de $I(\delta) \otimes \mathcal{K}_{\delta}^{\#}(G)$ et réciproquement. Ceci permet d'identifier l'espace $E(\delta)$ au produit tensoriel d'un $K$-module $E_{\delta}$ et de l'espace $E_{\delta}$ des représentations irréductibles $f \mapsto u_{\delta}(f)$ de $\mathcal{K}_{\delta}^{\#}(G)$ et par conséquent les endomorphismes $U_{\delta}(f)$ et $l \otimes u_{\delta}(f)$ pour tout $f \in \mathcal{K}_{\delta}^{\#}(G)$.

Soit $\sigma_{\delta}^U$ la fonction $u_{U_{\delta}}$-sphérique sur $G$ donnée par la formule :

$$ \sigma_{\delta}^{U}(x) = P(\delta) U(x) P(\delta). $$
Posons $\sigma_{\delta,K}^{U}(x) = \int_{K} U_{\delta}(k) \sigma_{\delta}^{U}(x) U_{\delta}(k^{-1}) dk$. Comme $\sigma_{\delta,K}^{U}(x)$ commute avec $U_{\delta}(k)$ (∀$k \in K$), alors $\sigma_{\delta,K}^{U}(x) \in \operatorname{Hom}_{\mathbb{C}}(E(\delta), E(\delta))$ et il existe une fonction quasi-bornée $\phi_{\delta}^{U}$ sur $G$ à valeurs dans $\operatorname{Hom}_{\mathbb{C}}(E_{\delta}; E_{\delta})$ telle que $\sigma_{\delta,K}^{U}(x) = 1 \otimes \phi_{\delta}^{U}(x)$ et qui vérifie les relations suivantes :

$$ \phi_{\delta}^{U}(kx k^{-1}) = \phi_{\delta}^{U}(x) \quad \text{et} \quad \chi_{\delta} * \phi_{\delta} = \phi_{\delta}^{U}. $$

En effet :

$$ \text{i) } \forall x \in G, k \in K, 1 \otimes \phi_{\delta}^{U}(kx k^{-1}) = \sigma_{\delta,K}^{U}(kx k^{-1}) \\ = \int_{K} U_{\delta}(k') \sigma_{\delta}^{U}(kx k^{-1}) U_{\delta}(k'^{-1}) dk' $$

$$ \text{or } \sigma_{\delta}^{U}(kx k^{-1}) = U_{\delta}(k) \sigma_{\delta}^{U}(x) U_{\delta}(k^{-1}) \quad \text{car } \sigma_{\delta}^{U} \text{ est } u_{U\delta}\text{-sphérique sur } \\ \text{G donc } 1 \otimes \phi_{\delta}^{U}(kx k^{-1}) = \sigma_{\delta,K}^{U}(x) = 1 \otimes \phi_{\delta}^{U}(x) \text{ et } \phi_{\delta}^{U}(kx k^{-1}) = \phi_{\delta}^{U}(x). $$

$$ \text{(ii) } \forall x \in G, 1 \otimes (\chi_{\delta} * \phi_{\delta}^{U})(x) = 1 \otimes \int_{K} \chi_{\delta}(k) \phi_{\delta}^{U}(k^{-1}x) dk \\ = \int_{K} \chi_{\delta}(k) \sigma_{\delta,K}^{U}(k^{-1}x) dk \\ = \int_{K} \chi_{\delta}(k) U_{\delta}(k^{-1}) \sigma_{\delta,K}^{U}(x) dk \\ = \int_{K} \chi_{\delta}(k) (1 \otimes u_{\delta}(k^{-1})) dk \quad \sigma_{\delta,K}^{U}(x) \\ = \sigma_{\delta,K}^{U}(x) = 1 \otimes \phi_{\delta}^{U}(x) $$

$$ \text{car pour tout } T \in \operatorname{End}_{\mathbb{C}}(E_{\delta}), T = d(\delta) \int_{K} U_{\delta}(k) \operatorname{tr}(U_{\delta}(k) T) dk $$

et $\chi_{\delta} * \phi_{\delta} = \phi_{\delta}$. D'autre part si $f \in \mathcal{K}_{\delta}(G)$ on a :

$$ \begin{aligned} 1 \otimes \int_G f(x) \phi_{\delta}^{U}(x) dx &= \int_G f(x) \sigma_{\delta,K}^{U}(x) dx = P(\delta) \left( \int_G f(x) U(x) dx \right) P(\delta) \\ &= U(\bar{\chi}_{\delta} * f * \bar{\chi}_{\delta}) = U_{\delta}(f) = 1 \otimes u_{\delta}(f). \end{aligned} $$
Ainsi $u_{\delta}^{(\mathcal{V})} = \int_{G} f(x) \phi_{\delta}^{U}(x) dx$, par conséquent $\phi_{\delta}^{U}$ est sphérique de type $\delta$ et $\psi_{\delta}^{U}: x \mapsto d(\delta) \operatorname{tr}(\phi_{\delta}^{U}(x))$ est la fonction trace sphérique de type $\delta$ correspondante.

C.Q.F.D.

Soit $\mathcal{A}$ une algèbre normée involutive complexe et $X_m(\mathcal{A})$ l'ensemble des représentations unitaires irréductibles de $\mathcal{A}$ de dimension finie $m$.

**Définition II-3** : Pour tout élément $f$ de $\mathcal{A}$, nous appelons transformée de Guelfand généralisée de $f$, l'application notée $\mathfrak{G}f$ de $X_m(\mathcal{A})$ dans l'algèbre $M_m(\mathbb{C})$ des matrices carrées d'ordre $m$ définie par :

$$ \mathfrak{G}f : X_m(\mathcal{A}) \to M_m(\mathbb{C}) \\ u \mapsto u(f) $$

L'homomorphisme $f \mapsto \mathfrak{G}f$ de $\mathcal{A}$ dans $M_m(\mathbb{C})^{X_m(\mathcal{A})}$ est appelé la transformation de Guelfand généralisée associée à l'algèbre $\mathcal{A}$.

**Remarques II-4** : Si l'algèbre $\mathcal{A}$ est commutative, les représentations unitaires irréductibles de $\mathcal{A}$ sont de dimension 1, donc s'identifient aux caractères de $\mathcal{A}$ et on retrouve la définition de la transformation de Guelfand usuelle.

Soit $S_{\delta}^{m}(G)$ l'ensemble des fonctions sphériques de type $\delta$ sur $G$ de hauteur $m$. Nous allons montrer que si $\phi$ est un élément de $S_{\delta}^{m}(G)$, il existe une représentation $u_{\delta} \in X_m(K_{\delta}^{\#}(G))$ telle que $u_{\delta}(f) = \int_{G} f(x) \phi(x^{-1}) dx$ et réciproquement. Ce qui permettra d'identifier les espaces $S_{\delta}^{m}(G)$ et $X_m(K_{\delta}^{\#}(G))$ et ensuite de définir la transformation de Fourier sphérique de type $\delta$ comme transformation de Guelfand généralisée associée à l'algèbre $K_{\delta}^{\#}(G)$.
Soit $\rho$ une semi-norme sur $G$. On désigne par $\rho\mathcal{K}(G)$ l'algèbre de Banach complétée de l'algèbre $\mathcal{K}(G)$ obtenue à partir de la $\rho$-norme $\|\cdot\|_{\rho}$ définie par $\|f\|_{\rho} = \int_G |f(x)| \rho(x) dx \quad \forall f \in \mathcal{K}(G)$ et on définit comme précédemment les sous-algèbres $\rho\mathcal{K}_\delta(G)$ et $\rho\mathcal{K}_\delta^*(G)$ de l'algèbre $\rho\mathcal{K}(G)$.

**Lemme II-5 :** Soient $\rho$- une semi-norme sur $G$, $I$ un idéal à gauche régulier maximal dans l'algèbre $\rho\mathcal{K}_\delta(G)$ et $J = \{f \in \rho\mathcal{K}(G), \bar{\chi}_\delta * g * f * \bar{\chi}_\delta \in I, \forall g \in \rho\mathcal{K}(G)\}$. $J$ est un idéal à gauche régulier maximal dans $\rho\mathcal{K}(G)$, $I = J \cap \rho\mathcal{K}_\delta(G)$ et $f * \bar{\chi}_\delta \equiv f \mod J \quad \forall f \in \rho\mathcal{K}(G)$.

**Preuve :** J est un idéal à gauche dans $\rho\mathcal{K}(G)$ (évident). Comme $I$ est régulier, il existe $u \in \rho\mathcal{K}_\delta(G)$ tel que $k \cdot u \equiv k \mod I \quad \forall k \in \rho\mathcal{K}_\delta(G)$. $\forall f, g \in \rho\mathcal{K}(G), \bar{\chi}_\delta * g * (f * u - f) * \bar{\chi}_\delta = \bar{\chi}_\delta * g * f * u * \bar{\chi}_\delta - \bar{\chi}_\delta * g * f * \bar{\chi}_\delta = h * u - h \quad \text{où}$

$h = \bar{\chi}_\delta * g * f * \bar{\chi}_\delta \in \rho\mathcal{K}_\delta(G)$ donc $f * u - f \in J$ et par conséquent J est régulier. Comme $\bar{\chi}_\delta * g * (f * \bar{\chi}_\delta - f) * \bar{\chi}_\delta = 0$ alors $f * \bar{\chi}_\delta - f \in J$ et $f * \bar{\chi}_\delta \equiv f \mod J$. Montrons que $I = J \cap \rho\mathcal{K}_\delta(G)$.

Comme $I$ est un idéal maximal dans $\rho\mathcal{K}_\delta(G)$ il suffit de montrer que $J \cap \rho\mathcal{K}_\delta(G)$ est non triviale et contenant $I$.

$J \cap \rho\mathcal{K}_\delta(G) \neq \rho\mathcal{K}_\delta(G)$ car $u \in J$ sinon $\bar{\chi}_\delta * f * u * \bar{\chi}_\delta \in I$, $\forall f \in \rho\mathcal{K}(G)$. Donc pour tout $f \in \rho\mathcal{K}_\delta(G)$, $f * u \in I$ et $f \in I$ i.e. $I = \rho\mathcal{K}_\delta(G)$ (absurde).

D'autre part si $f \in I$ on a : $\bar{\chi}_\delta * g * f * \bar{\chi}_\delta = \bar{\chi}_\delta * g * \bar{\chi}_\delta * f \in I$ ($\forall g \in \rho\mathcal{K}(G)$) alors $f \in J$ ainsi donc $I \subset J$, par conséquent $I = J \cap \rho\mathcal{K}_\delta(G)$. Montrons que J est maximal.

Soit J' un idéal à gauche contenant J et tel que $J' \neq \rho\mathcal{K}(G)$. D'après le même raisonnement que précédemment $I = J' \cap \rho\mathcal{K}_\delta(G)$.

$$ \text{Soit } f \in J', f * \bar{\chi}_\delta - f \in J \subset J' \Rightarrow f * \bar{\chi}_\delta \in J' \Rightarrow \bar{\chi}_\delta * g * f * \bar{\chi}_\delta \in J' \\ \Rightarrow \bar{\chi}_\delta * g * f * \bar{\chi}_\delta \in J' \cap \rho\mathcal{K}_\delta(G) = I \Rightarrow f \in J. $$

Par conséquent $J = J'$.

C.Q.F.D.
**Lemme II-6** : Soit une fonction continue $\psi$ sur $G$ telle que $\psi = \psi_K \cdot \psi_\delta * \psi = \psi$. Soit $\rho$ une semi-norme sur $G$ telle que $|\psi(x)| \le M\rho(x) \quad \forall x \in G (M>0)$, et soit $\rho\mathcal{K}(G)$ l'algèbre de Banach correspondant à $\rho$. S'il existe une représentation irréductible de dimension finie $u_\delta$ de $\mathcal{K}_\delta^*(G)$ telle que :

$$ \psi(f) = d(\delta) \operatorname{tr}(u_\delta(f^\vee)) \quad \forall f \in \mathcal{K}_\delta^*(G). \text{ Alors :} $$

$$ (i) \quad f^\vee * \psi = \psi * f^\vee \quad \forall f \in \rho\mathcal{K}_\delta(G) $$

$$ (ii) \quad I_\psi = \{f \in \rho\mathcal{K}_\delta(G), f^\vee * \psi = 0\} \quad \text{est un idéal bilatère régulier de } \rho\mathcal{K}_\delta(G). $$

$$ (iii) \quad f \in I_\psi \cap \mathcal{K}_\delta^*(G) \quad \Rightarrow \quad u_\delta(f) = 0. $$

**Preuve** : (i) Si $\psi(f) = d(\delta) \operatorname{Tr}(u_\delta(f))$ on a $\psi(f * g) = \psi(g * f)$ et $f^\vee * \psi = \psi * f^\vee \quad \forall f \in \mathcal{K}_\delta^*(G)$. Comme $\mathcal{K}(G)$ est dense dans $\rho\mathcal{K}(G)$ et que l'application $f \mapsto \bar{x}_\delta * f_K$ est une projection continue de $\rho\mathcal{K}(G)$ sur $\rho\mathcal{K}_\delta^*(G)$ alors $\mathcal{K}_\delta^*(G)$ est dense dans $\rho\mathcal{K}_\delta^*(G)$ et $f^\vee * \psi = \psi * f^\vee$ \\
$\forall f \in \rho\mathcal{K}_\delta^*(G)$. L'égalité persiste si on remplace $f$ par $\varepsilon_K * f$ ($K \in \mathbb{K}$) car $(\varepsilon_K * f) \in \rho\mathcal{K}_\delta^*(G)$ est total dans $\rho\mathcal{K}_\delta(G)$.

(ii) La relation (i) et l'égalité $(f * g)^\vee = g^\vee * f^\vee$ permettent d'affirmer que $I_\psi$ est un idéal bilatère de $\rho\mathcal{K}_\delta(G)$. Montrons que $I_\psi$ est régulier.

Prenons $u \in \mathcal{K}_\delta^*(G)$ tel que $u_\delta(u)$ soit l'opérateur identique dans l'espace de la représentation $u_\delta$. Ainsi on a : $\psi * u^\vee = u^\vee * \psi = \psi$ et si $f \in \rho\mathcal{K}_\delta(G)$ alors $(f * u - f)^\vee * \psi = u^\vee * f^\vee * \psi - f^\vee * \psi = u^\vee * \psi * f^\vee - f^\vee * \psi$
$$= \psi * \int f - \int f * \psi = 0.$$

Par conséquent $f * u \equiv f \mod I_{\psi}$.

$$ \begin{align*} \text{(iii) } f \in I_{\psi} \cap \mathcal{K}_{\delta}^{*}(G) &\rightarrow \int f * \psi = 0 \rightarrow \int g * \int f * \psi(1) = 0 \rightarrow \psi(f * g) = 0. \\ &\rightarrow \operatorname{tr}(u_{\delta}(f) u_{\delta}(g)) = 0 \quad \forall g \in \mathcal{K}_{\delta}^{*}(G) \\ &\rightarrow u_{\delta}(f) = 0. \text{ La réciproque est évidente} \end{align*} $$

C.Q.F.D.

**Théorème II-7 :** Soit $\psi$ une fonction continue quasi-bornée sur $G$ telle que $\psi_K = \psi$ et $\chi_\delta * \psi = \psi$.

$\psi$ est une fonction trace sphérique de type $\delta$ et de hauteur m si et seulement si, il existe une représentation irréductible $u_\delta$ de dimension m de $\mathcal{K}_\delta^*(G)$ telle que :

$$ \psi(f) = \int_G f(x) \psi(x) dx = d(\delta) \operatorname{tr}(u_\delta(\int f)) \quad \forall f \in \mathcal{K}_\delta^*(G) $$

**Preuve :** Soit $\psi_\delta^U$ une fonction trace sphérique de type $\delta$ et de hauteur m correspondant à la représentation de Banach irréductible $U$ de $G$. Il existe un isomorphisme $F : U_\delta(f) \rightarrow u_\delta(f)$ de $(U_\delta(f), f \in \mathcal{K}_\delta^*(G))$ sur $M_m(\mathbb{C})$ où $u_\delta$ est une représentation irréductible de dimension finie m de l'algèbre $\mathcal{K}_\delta^*(G)$ avec $\operatorname{tr}(U_\delta(f)) = d(\delta) \operatorname{tr}(u_\delta(\int f)) \quad \forall f \in \mathcal{K}_\delta^*(G)$ et $\psi_\delta^U(f) = \operatorname{tr}(P(\delta) U(f) P(\delta)) = \operatorname{tr}(U_\delta(f)) = d(\delta) \operatorname{tr}(u_\delta(\int f)) \quad \forall f \in \mathcal{K}_\delta^*(G)$.

Réciproquement, soient $I$ une extension maximale régulière de $I_\psi$ dans $\rho\mathcal{K}_\delta(G)$ et $J = (f \in \rho\mathcal{K}(G), \bar{x}_\delta * g * f * \bar{x}_\delta \in I, \forall g \in \rho\mathcal{K}(G))$.

Considérons la représentation de Banach irréductible $U$ de $G$ sur $E = \rho\mathcal{K}(G)/J$. La représentation $f \mapsto U_I(f)$ de $\rho\mathcal{K}_\delta(G)$ sur $\rho\mathcal{K}_\delta(G)/I$ est équivalente à la représentation $f \mapsto U_\delta(f)$ de $\rho\mathcal{K}_\delta(G)$ sur $E(\delta)$. En effet : la projection $P(\delta)$ est définie par :
$P(\delta)(f + J) = U(\overline{\chi}_{\delta})(f + J) = \overline{\chi}_{\delta} \cdot f + J$. D'autre part $f \cdot \overline{\chi}_{\delta} \equiv f \mod J$
$\forall f \in \rho_K(G)$. Donc $f \mapsto f + J$ est un morphisme de $\rho_K(G)$ sur $E(\delta)$ et
comme $I = J \cap \rho_K(G)$ (d'après II-5) alors $U_I \approx U_{\delta}$.

Soit $\psi_{\delta}^U$ la fonction trace sphérique de type $\delta$ correspondant à la représentation $U$ de $G$ sur $E$, on a $\psi_{\delta}^U(f) = \text{tr}(U_{\delta}(f)) = \text{tr}(U_I(f)) \quad \forall f \in \rho_K(G)$.
En outre, comme $I_{\psi}$ est un idéal bilatère de $\rho_K(G)$, on a pour tout élément $f \in I_{\psi} \cap \mathcal{K}_{\delta}^{\#}(G)$, $U_I(f) = 0$. (cf. II-6).

Soit $n$ la hauteur de $\psi_{\delta}^U$, il existe une représentation irréductible de dimension $n$, $f \mapsto v_{\delta}(f)$ de $\mathcal{K}_{\delta}^{\#}(G)$ telle que $\psi_{\delta}^U(f) = d(\delta) \text{tr}(v_{\delta}(f^n))$
$\forall f \in \mathcal{K}_{\delta}^{\#}(G)$ d'autre part

$$
\forall f \in I_{\psi} \cap \mathcal{K}_{\delta}^{\#}(G) \Rightarrow u_{\delta}(f) = 0 \Rightarrow U_{I}(f) = 0 \Rightarrow v_{\delta}(f) = 0
$$

par conséquent $u_{\delta} \approx v_{\delta}$ alors $m = n$,

$$
\text{et } \psi(f) = d(\delta) \text{tr}(u_{\delta}(f^v)) = d(\delta) \text{tr}(v_{\delta}(f^v)) = \psi_{\delta}^{U}(f) \text{ donc } \psi = \psi_{\delta}^{U}.
$$

C.Q.F.D.

Corollaire II-8 : Soit $\varphi$ une fonction continue quasi-bornée de $G$ dans $\operatorname{Hom}_c(E, E)$ où $E$ est un espace vectoriel de dimension finie $m$ telle que $\varphi_K = \varphi$ et $\chi_\delta * \varphi = \varphi$.

$\varphi$ est sphérique de type $\delta$ si et seulement si pour toute fonction $f \in \mathcal{K}_\delta^*(G)$, il existe un endomorphisme $u_\delta(f)$ de $E_\delta$ tel que :

$$
f \cdot \varphi(x) = u_{\delta}(f) \cdot \varphi(x) \quad (\text{resp. } \varphi \cdot f(x) = \varphi(x) \cdot u_{\delta}(f)) \quad \forall x \in G.
$$

Preuve : Supposons que $\varphi$ est sphérique de type $\delta$.

$$
\begin{align*}
\forall f \in \mathcal{K}_{\delta}^{*}(G), \quad f \cdot \varphi(x) &= \int_{K} dk \int_{G} f(y) \varphi(y^{-1}x) dy \\
&= \int_{G} \int_{K} f(ky^{-1}k^{-1}) \varphi(kyk^{-1}x) dk dy
\end{align*}
$$
$$= \int_G f(y^{-1}) \varphi(y) \varphi(x) dy = u_\delta(f) \varphi(x)$$

Réciproquement supposons que pour tout élément $f$ de $\mathcal{K}_\delta^*(G)$,

$$f \cdot \varphi = u_\delta(f) \cdot \varphi. \text{ On a : } f \cdot \varphi(x) = \int_G \int_K f(ky^{-1}k^{-1}) \varphi(ky k^{-1}x) dy dk$$

$$= \int_G \int_K f(y^{-1}) \varphi(ky k^{-1}x) dy dk \text{ et}$$

$$u_\delta(f)\varphi(x) = \int_G f(y^{-1}) \varphi(y) dy \cdot \varphi(x) \text{ par conséquent}$$

$$f \cdot \varphi(x) - u_\delta(f)\varphi(x) = \int_G f(y^{-1}) [\varphi(y) \varphi(x) - \int_K \varphi(ky k^{-1}x) dk] dy = 0$$

Voir $f \in \mathcal{K}_\delta(G)$, donc $\int_K \varphi(ky k^{-1}x) dk = \varphi(y) \varphi(x)$ et la fonction $\varphi$ est sphérique de type $\delta$.

C.Q.F.D.

Ce corollaire II-8 donne une généralisation d'une propriété fondamentale des fonctions zonales sphériques (i.e la relation fonctionnelle de l'exponentielle). Le cas trivial est énoncé dans J. Dieudonné [2].

**Théorème II-9** : Soit $\varphi$ une fonction continue quasi-bornée sur $G$ à valeurs dans $\operatorname{Hom}_c(E,E)$. (E un espace vectoriel de dimension finie $m$) telle que $\varphi_K = \varphi$ et $\chi_\delta * \varphi = \varphi$.

La fonction $\varphi$ est sphérique de type $\delta$ et de hauteur $m$ si et seulement s'il existe une représentation irréductible $u_\delta^\varphi$ de $\mathcal{K}_\delta^*(G)$ de dimension $m$ telle que $u_\delta^\varphi(f) = \varphi(f) \quad \forall f \in \mathcal{K}_\delta^*(G)$.

**Preuve** : Si $\varphi$ est sphérique de type $\delta$ et de hauteur $m$, alors la fonction $\psi$ définie sur $G$ par : $\psi(x) = d(\delta) \operatorname{tr}(\varphi(x))$ est trace sphérique de type $\delta$.

En effet : Soit $U$ la représentation de Banach topologiquement irréductible correspondante à $\varphi$. D'après la proposition II-2, il existe une fonction $\sigma_{\delta,K}^U$ définie sur $G$ telle que $\sigma_{\delta,K}^U(x) = 1 \otimes \varphi_\delta(x)$.

Comme $U_\delta(k) P(\delta) = P(\delta) U_\delta(k)$ et on a :
$\psi(x) = \text{tr}(\int_K P(\delta) U_\delta(k) U(x) U_\delta(k^{-1}) P(\delta) dk) = \text{tr}(P(\delta)U(x)P(\delta))dk.$

Par conséquent $\psi$ est trace sphérique de type $\delta$ de hauteur m relativement à la représentation $U$, ainsi donc il existe une représentation unitaire irréductible $u_\delta^\phi$ de $\mathcal{K}_\delta^*(G)$ de dimension m telle que $\psi(f) = d(\delta) \text{tr}(u_\delta^\phi(f))$ et $u_\delta^\phi(f) = \phi(f)$, $\forall f \in \mathcal{K}_\delta^*(G)$.

Réciproquement s'il existe une représentation irréductible $u_\delta^\phi$ de $\mathcal{K}_\delta^*(G)$ de dimension m telle que $u_\delta^\phi(f) = \phi(f)$, d'après le théorème II-7, il existe une fonction trace sphérique $\psi$ de type $\delta$ et de hauteur m telle que $\psi(f) = d(\delta) \text{tr}(u_\delta^\phi(f))$. Soit $U$ la représentation topologiquement irréductible de $G$ associée à $\psi$. D'après la proposition II-2, il existe une fonction sphérique $\phi_\delta^U$ de type $\delta$ telle que

$$u_{\delta}^{\phi}(f) = \int_{G} f(x) \phi_{\delta}^{U}(x) dx.$$

C.Q.F.D.

Le théorème II-9 permet d'identifier les espaces $X_m(\mathcal{K}_\delta^*(G))$ et $S_\delta^m(G)$.

Si $\mathfrak{g}$ est la transformation de Guelfand généralisée associée à $\mathcal{K}_\delta^*(G)$, il existe une application notée $\mathfrak{f}$ rendant commutatif le diagramme suivant :

<figure><img src="image_1.png" /></figure>

La transformée $\mathfrak{g}$ de Guelfand généralisée d'un élément $f$ de $\mathcal{K}_\delta^*(G)$ peut donc être identifiée à la fonction $\mathfrak{f}$ définie sur $S_\delta^m(G)$ par :
$\mathcal{F}\phi = \mathcal{G}\phi(u_\delta^\phi) = u_\delta^\phi(f) = \int_G f(x) \phi(x^{-1})dx$ d'où la définition suivante:

**Définition II-10** : Soit $f$ un élément de $\mathcal{K}_\delta^*(G)$. Nous appelons transformée de Fourier sphérique de type $\delta$ de la fonction $f$, la fonction notée $\mathcal{F}f$ définie sur $S_\delta^m(G)$ par :

$\mathcal{F}\phi = u_\delta^\phi(f)$ et la cotransformée

de Fourier sphérique de type $\delta$ de la fonction $f$, la transformée de Fourier sphérique de type $\delta$ de la fonction $f^\vee$, autrement dit la fonction $\mathcal{F}f^\vee$, notée $\mathcal{F}f$ définie par :

$\mathcal{F}\phi = u_\delta^\phi(f^\vee)$.

L'homomorphisme $\mathcal{F}: f \mapsto \mathcal{F}\phi$ de $\mathcal{K}_\delta^*(G)$ dans $M_m(\mathbb{C})$ ($S_\delta^m(G)$) est appelée la **transformation de Fourier sphérique de type $\delta$**. C'est encore la transformation de Guelfand généralisée associée à l'algèbre de convolution non commutative $\mathcal{K}_\delta^*(G)$.

**Remarque II-11** Si $\delta$ est une classe triviale de dimension 1 et si $(G,K)$ est une paire de Guelfand, on retrouve la définition de la transformation de Fourier sphérique usuelle.

**Définition II-12** : Soit $\mu$ une mesure de Radon bornée sur $G$. Nous appelons transformée de Fourier sphérique de type $\delta$ de la mesure $\mu$, la fonction $\mathcal{F}\mu$ définie sur $S_\delta^m(G)$ par :

$$ \mathcal{F}\mu(\phi) = \int_G \phi(x^{-1}) d\mu(x) $$

En particulier si $\mu = \varepsilon_X$ est la mesure de Dirac au point $x$ on a :

$$ \mathcal{F}\varepsilon_X(\phi) = \phi(x^{-1}) \quad \text{et} \quad \bar{\mathcal{F}}\varepsilon_X(\phi) = \phi(x) $$

**Proposition II-13** : Soient $\mu$ une mesure de Radon bornée,
$f \in \mathcal{K}_\delta^{\#}(G)$ et $\phi \in S_\delta^m(G)$. On a

$$F(\mu * f) \phi = u_{\delta}^{\phi}(f) F_{\mu}(\phi) \text{ et } F(f * \mu) \phi = f * F_{\mu}(\phi) u_{\delta}^{\phi}(f)$$

où $u_{\delta}^{\phi}$ est la représentation irréductible associée à $\phi$.

**Preuve :** $\forall f \in \mathcal{K}_\delta^{\#}(G)$, $\phi \in S_\delta^m(G)$ on a :

$$ 
\begin{align*}
F(\mu * f) \phi &= \int_G \mu * f(x) \phi(x^{-1}) dx = \iint_{G \times G} f(s^{-1}x) \phi(x^{-1}) dxd\mu(s) \\
&= \int_G f * \phi(s^{-1}) d\mu(s) = u_{\delta}^{\phi}(f) \int_G \phi(s^{-1}) d\mu(s) = u_{\delta}^{\phi}(f) F_{\mu}(\phi)
\end{align*}
$$

$$ 
\begin{align*}
F(\mu * f) \phi &= \int_G f * \mu(x) \phi(x^{-1}) dx = \int \phi * f(s^{-1}) d\mu(s) \\
&= \int \phi(s^{-1}) d\mu(s) \cdot u_{\delta}^{\phi}(f) = F_{\mu}(\phi) u_{\delta}^{\phi}(f)
\end{align*}
$$

C.Q.F.D.

**Proposition II-14 :** Soient $f$ et $g$ deux fonctions de $\mathcal{K}_\delta^{\#}(G)$.

On a pour tout $\phi \in S_\delta^m(G)$ et $s \in G$.

(i) $F_s f(\phi) = F f(\phi) \phi(s^{-1})$

(ii) $F f_s(\phi) = \phi(s) F f(\phi)$

(iii) $F(f * g)\phi = Ff(\phi) Fg(\phi)$

**Preuve :** $\forall f \in \mathcal{K}_\delta^{\#}(G)$, $\phi \in S_\delta^m(G)$ et $s \in G$.

(i) $F(s f) \phi = F(\epsilon_s * f) \phi = u_{\delta}^{\phi}(f) F(\epsilon_s) \phi = u_{\delta}^{\phi}(f) \phi(s^{-1})$

(ii) $F(f_s) \phi = F(f * \epsilon_{s-1})\phi = F(\epsilon_{s-1})\phi * u_{\delta}^{\phi}(f) = \phi(s) F(f)\phi$

(iii) $\forall f, g \in \mathcal{K}_\delta(G)$, $\phi \in S_\delta^m(G)$

$$F(f * g)\phi = u_{\delta}^{\phi}(f) * u_{\delta}^{\phi}(g) = Ff(\phi) * Fg(\phi)$$

C.Q.F.D.
## Remerciements

Nous remercions l'expert anonyme pour ses conseils et suggestions qui ont permis d'améliorer le présent travail.

## BIBLIOGRAPHIE

[1] A. O. BARUT and R. RACZKA. Theory of group representations and applications. Polish Scientific Publishers Warszawa 1980.

[2] J. DIEUDONNE : Éléments d'Analyse Tome VI Gauthier-Villars, Paris 6ᵉ, 1971.

[3] K. KANGNI : Transformation de Fourier et Représentation unitaire sphériques de type d. Thèse de Doctorat de 3ᵉ cycle, FAST, Université d'Abidjan. Nov. 1994.

[4] G. W. MACKEY : Infinite-dimensional group representations Annals of Mathematics Vol. 54, N°1, November 1951.

[5] F. I. MAUTNER : Unitary representations of locally compact groups II. Annals of Mathematics, Vol. 52, n°3, November 1950.

[6] M. SUGIURA : Unitary representation and Harmonic Analysis Kodansha Scientific Books 1928.

[7] G. WARNER : Harmonic analysis on semi-simple Lie Group. Tome I Springer-Verlag Berlin Heidelberg New-York 1972.

[8] G. WARNER : Harmonic Analysis on semi-simple Lie Groups. Tome II. Springer-Verlag Berlin Heidelberg New-York 1972.

[9] G. L. WERS-W.H. BOOTHBY : Symmetric Spaces. Department of Mathematics, Washington University ST. Louis Missouri 1972.