# Géométrie du spectre dans une algèbre de Banach et domaine numérique

par

MOHAMED CHRAIBI KAADOUD (Marrakech)

**Résumé.** Dans une algèbre de Banach $\mathbb{A}$ et dans deux cas particuliers, nous montrons la continuité du centre du plus petit disque contenant le spectre. Pour $a \in \mathbb{A}$, on donne une condition nécessaire et suffisante pour avoir $R_K = d(a)$ où $d(a)$ est la distance de $a$ aux scalaires et $R_K$ le rayon du plus petit disque contenant $K$ qui représente le spectre ou le domaine numérique algébrique de $a$. Dans un espace de Hilbert complexe, $K$ peut représenter certains types de spectres ou de domaines numériques de $a$.

**1. Introduction.** Dans ce papier, $\mathcal{K}(\mathbb{C})$ désigne l'ensemble des compacts non vides de $\mathbb{C}$, $\mathbb{A}$ une algèbre de Banach d'élément unité $1_{\mathbb{A}}$ et de dual $\mathbb{A}'$, et $H$ un espace de Hilbert complexe. Pour $a \in \mathbb{A}$, $\sigma(a)$ représente le spectre de $a$ et $\rho(a)$ le rayon spectral de $a$. Le domaine numérique algébrique de $a$ est

$$V(a) = \{f(a) : f \in N(\mathbb{A})\},$$

où

$$N(\mathbb{A}) = \{f \in \mathbb{A}' : f(1_{\mathbb{A}}) = \|f\| = 1\}.$$

Pour tout $a$ de $\mathbb{A}$, $V(a)$ est un convexe compact de $\mathbb{C}$. Soit $A \in B(H)$, l'ensemble des opérateurs lineaires bornés sur $H$. Le domaine numérique spatial $W(A)$ de $A$ est défini par

$$W(A) = \{\langle Ax, x \rangle : x \in H \text{ et } \|x\| = 1\},$$

qui est toujours convexe (voir [11]). De plus, $V(A) = \overline{W(A)}$ (voir [6]). Le rayon numérique $w(A)$ de $A$ est $\sup\{|z| : z \in W(A)\}$. Soient $C_K$ et $R_K$ respectivement le centre et le rayon du plus petit disque $D_K$ contenant $K$ de $\mathcal{K}(\mathbb{C})$ et $|K| = \sup\{|z| : z \in K\}$. Nous dirons dans la suite que $C_K$ est le centre du compact $K$. Cette notion était utilisée par T. Furuta, S. Izumino et S. Prasanna [10] dans les seuls cas où $K$ représente $\overline{W(A)}$ ou $\sigma(A)$, $A \in B(H)$. De même D. W. B. Somerset l'a exploitée dans le cas d'une $C^*$-algèbre. Pour $K \in \mathcal{K}(\mathbb{C})$, nous montrons que les propriétés suivantes sont équivalentes :

<footnote n="2000">2000 Mathematics Subject Classification: Primary 47A12.</footnote>
(i) $C_K = 0$.

(ii) $|K| < |K + \lambda|$ pour tout $\lambda \in \mathbb{C}^*$.

(iii) $|K|^2 + |\lambda|^2 \le |K + \lambda|^2$ pour tout $\lambda \in \mathbb{C}$.

Dans le cas d'une algèbre de Banach, ce résultat nous permet de démontrer la continuité de l'application centre du domaine numérique algébrique et dans deux cas particuliers (voir les corollaires 20 et 21) la continuité de l'application centre du spectre qui n'est pas continue en général.

L. Baribeau [4] a démontré que si $D$ est un domaine de $\mathbb{C}$ et $f : D \to \mathcal{K}(\mathbb{C})$ est analytique alors l'application $R_{f(\alpha)}$, $\alpha \in D$, est sous-harmonique. Des études dans cette direction sont faites par Vesentini [22] lorsque $f$ est l'application spectre. Dans cet esprit, nous monrons que pour $T > 0$, si $f : [0, T] \to \mathcal{K}(\mathbb{C})$ est absolument continue au sens de Hausdorff alors nous avons la dérivabilité presque partout de l'application $C_{f(t)}$, $t \in [0, T]$.

Dans le paragraphe 3, nous donnons une condition nécessaire et suffisante pour avoir $d(a) = R_K$, où $d(a) = \inf\{\|a - \lambda 1_A\| : \lambda \in \mathbb{C}\}$ pour $a \in A$ et $K$ représente le spectre ou le domaine numérique algébrique de $a$. Dans le cas d'un espace de Hilbert complexe $H$, $K$ peut être aussi un parmi d'autres types de spectres ou de domaines numériques de $a$. Cette égalité était démontrée par J. G. Stampfli [20] mais seulement dans le cas où $a \in B(H)$, $a$ hyponormal et $K = \sigma(a)$. Des études dans ce sens sont faites par S. Prasanna [17] dans le cas d'un espace de Hilbert, en introduisant les centroïdes, c'est-à-dire les opérateurs $A$ tels que $A - C_{W(A)}I$ est normaloïde ($I$ est l'opérateur identité). Enfin, nous établissons des relations entre $d(A)$ et des éléments géométriques du domaine numérique $W(A)$.

## 2. Centre d'un compact de $\mathbb{C}$ et applications

**DÉFinition 1.** Soit $K \in \mathcal{K}(\mathbb{C})$. On définit le module de $K$ par $|K| = \sup_{z \in K} |z|$.

Le résultat suivant se trouve dans [24]; on propose ici une démonstration plus simple.

**Proposition 2.** Soit $K \in \mathcal{K}(\mathbb{C})$. Alors il existe un disque unique $D_K$ contenant $K$, de centre $C_K$ et de rayon minimal $R_K$ parmi tous les disques de $\mathbb{C}$ contenant $K$.

*Preuve.* Soient $S_K = \{R \ge 0 : \exists X \in \mathbb{C} \text{ tel que } K \subset D(X, R)\}$ et $R_K = \inf S_K$. Il existe une suite décroissante $(R_n)_{n \in \mathbb{N}}$ telle que $R_n \in S_K$ qui converge vers $R_K$. Pour chaque $n \in \mathbb{N}$, soit $X_n \in \mathbb{C}$ tel que $K \subset D(X_n, R_n)$. La suite $(X_n)$ est bornée dans $\mathbb{C}$. En effet, pour $z$ fixé dans $K$, on a $D(X_n, R_n) \subset D(z, 2R_n)$. Donc $|X_n| \le |z| + 2R_n \le |z| + 2R_0$. Par suite, il existe $X \in \mathbb{C}$ et une sous-suite $(X_{n_k})$ de $(X_n)$ tels que $(X_{n_k})$ converge
vers $X$. On a $K \subset D(X, R_K)$. En effet, pour $\lambda \in K$ nous avons

$$|\lambda - X| \le |\lambda - X_{n_k}| + |X_{n_k} - X| \le R_{n_k} + |X_{n_k} - X| \underset{k \to \infty}{\longrightarrow} R_K.$$

Montrons que le point $X$ de $\mathbb{C}$ tel que $K \subset D(X, R_K)$ est uniquement déterminé. Supposons qu’il existe un autre point $Y$ tel que $K \subset D(Y, R_K)$. Alors il est facile de vérifier que

$$K \subset D\left(\frac{Y+X}{2}, \sqrt{R_K^2 - \left|\frac{Y-X}{2}\right|^2}\right).$$

Par suite

$$R_K \le \sqrt{R_K^2 - \left|\frac{Y-X}{2}\right|^2},$$

d'où $Y = X$. ■

**PROPOSITION 3.** *Soit $K \in \mathcal{K}(\mathbb{C})$. Alors*

$$R_K = \sup_{z \in K} |C_K - z| = \inf_{\lambda \in \mathbb{C}} \sup_{z \in K} |\lambda - z|.$$

*Cet infimum est uniquement atteint par $\lambda = C_K$.*

*Preuve.* La fonction $z \mapsto |C_K - z|$ est continue sur $K$ et atteint son maximum en un point $z_0$. Donc $K \subset D(C_K, |C_K - z_0|)$ et $R_K \le |C_K - z_0|$. L'inégalité inverse résulte du fait que $z_0 \in K \subset D(C_K, R_K)$. Supposons qu'il existe un scalaire $\lambda$ différent de $C_K$ tel que $R_K > \sup_{z \in K} |\lambda - z|$. Alors $K \subset D(\lambda, \sup_{z \in K} |\lambda - z|)$, ce qui est absurde, puisque $R_K$ est le plus petit rayon des disques contenant $K$. Comme $D_K$ est unique, $\inf_{\lambda \in \mathbb{C}} \sup_{z \in K} |\lambda - z|$ sera atteint seulement au point $C_K$. ■

**PROPOSITION 4.** *Soit $K \in \mathcal{K}(\mathbb{C})$. Les propriétés suivantes sont équivalentes :*

(i) $C_K = 0$.

(ii) $|K| < |K + \lambda|$ pour tout $\lambda \in \mathbb{C}^*$.

(iii) $|K|^2 + |\lambda|^2 \le |K + \lambda|^2$ pour tout $\lambda \in \mathbb{C}$.

*Preuve.* (i) ⇔ (ii). Cette équivalence provient de la proposition 3.

(iii) ⇒ (ii). Cette implication est évidente.

(ii) ⇒ (iii). Supposons qu'on a (ii), donc $C_K = 0$. Soit $\lambda \in \mathbb{C}^*$. $D_K$ étant centré en 0 et de rayon $|K|$, $D_{K+\lambda}$ est centré en $\lambda$, de rayon $|K|$ et de frontière le cercle $C$. Soient $\Delta$ la droite passant par $\lambda$ et perpendiculaire à $0\lambda$ et $(P)$ le demi-plan fermé de frontière $\Delta$ ne contenant pas 0. D'après [19], il existe un point $M$ dans $C \cap (P) \cap (K + \lambda)$; alors

$$|K + \lambda| \ge |0M|^2 = |0\lambda + \lambda M|^2 = |0\lambda|^2 + |K|^2 + |0\lambda||K| \cos(0\lambda, \lambda M),$$

où $(0\lambda, \lambda M)$ est l'angle entre les segments $0\lambda$ et $\lambda M$, dont le cosinus est positif. D'où le résultat. ■
**COROLLAIRE 5.** Soient $K \in \mathcal{K}(\mathbb{C})$ et $c \in \mathbb{C}$. Les propriétés suivantes sont équivalentes :

(i) $C_K = c$.

(ii) $|K - c| < |K - (c + \lambda)|$ pour tout $\lambda \in \mathbb{C}^*$.

(iii) $|K - c|^2 + |\lambda|^2 \le |K - (c + \lambda)|^2$ pour tout $\lambda \in \mathbb{C}$.

*Preuve.* Nous avons $0 = C_{K-C_K}$ et on applique la proposition 4. ■

**COROLLAIRE 6.** Soient $\varphi$ une application de $\mathbb{A}$ dans $\mathcal{K}(\mathbb{C})$ et $a \in \mathbb{A}$ tels que

$$ \forall \lambda \in \mathbb{C}, \quad \varphi(a + \lambda 1_{\mathbb{A}}) = \varphi(a) + \lambda. $$

Alors pour $c \in \mathbb{C}$, les propriétés suivantes sont équivalentes :

(i) $C_{\varphi(a)} = c$.

(ii) $|\varphi(a - c1_{\mathbb{A}})| < |\varphi(a - (c + \lambda)1_{\mathbb{A}})|$ pour tout $\lambda \in \mathbb{C}^*$.

(iii) $|\varphi(a - c1_{\mathbb{A}})|^2 + |\lambda|^2 \le |\varphi(a - (\lambda + c)1_{\mathbb{A}})|^2$ pour tout $\lambda \in \mathbb{C}$.

*Preuve.* Il suffit d'appliquer le corollaire précédent avec $K = \varphi(a)$. ■

**DÉFinition 7.** Soient $K$ et $S$ deux compacts de $\mathbb{C}$. On définit respectivement l'excès et la distance de Hausdorff entre $K$ et $S$ par

$$ e(K, S) = \sup_{x \in K} \inf\{|x - y| : y \in S\}, \quad h(K, S) = \max(e(K, S), e(S, K)). $$

**REMARQUE 8.** Soient $c$ un point de $\mathbb{C}$ et $K, S \in \mathcal{K}(\mathbb{C})$. Alors

$$ |K - c| = e(K, \{c\}) \ge e(c, K), \quad e(S, c_K) \le |S| + |c_K|. $$

**PROPOSITION 9.** Soient $K, S \in \mathcal{K}(\mathbb{C})$ tels que

$$ (*) \qquad e(S, K) + |S - C_S| \ge |K - C_S|. $$

Alors

$$ 2|C_K - C_S| \le e(S, K) + (e^2(S, K) + 8e(S, K)R_S)^{1/2}. $$

*Preuve.* En premier lieu, on peut supposer que $C_S = 0$. D'après la proposition 4, si on prend $\lambda = C_K$ alors

$$ \begin{aligned} |K|^2 &\ge |C_K|^2 + |K - \{C_K\}|^2 = |C_K|^2 + e^2(K, C_K) \\ &\ge |C_K|^2 + e^2(S, K) + e^2(S, \{C_K\}) - 2e(S, K)e(S, \{C_K\}) \\ &\ge 2|C_K|^2 + e(S, K)[e(S, K) - 2e(S, \{C_K\})] + |S|^2 \quad (\text{par le corollaire 5}) \\ &\ge 2|C_K|^2 + (e(S, K) + |S|)^2 - 2e(S, K)|C_K| - 4e(S, K)|S| \quad (\text{par la remarque 8}) \end{aligned} $$

$$ \ge 2|C_K|^2 + |K|^2 - 2e(S, K)|C_K| - 4e(S, K)|S| \quad (\text{par (*)}). $$

Donc $|C_K|^2 - e(S, K)|C_K| - 2e(S, K)|S| \le 0$ et

$$ 2|C_K| \le e(S, K) + (e^2(S, K) + 8e(S, K)|S|)^{1/2}. $$
Ensuite, on va supposer que $C_S \neq 0$. Soient $K_1 = K - C_S$ et $S_1 = S - C_S$. Alors $K_1$ est centré en $C_K - C_S$ et $S_1$ est centré en 0. Par application du premier cas on obtient

$$ 
\begin{aligned}
2|C_K - C_S| & \le e(S - C_S, K - C_S) \\
& \quad + [e^2(S - C_S, K - C_S) + 8e(S - C_S, K - C_S)|S - C_S|]^{1/2} \\
& = e(S, K) + [e^2(S, K) + 8e(S, K)R_S]^{1/2}.
\end{aligned}
\quad \blacksquare $$

**PROPOSITION 10.** Soient $K, S \in \mathcal{K}(\mathbb{C})$. Alors

$$ 2|C_K - C_S| \le h(S, K) + (h^2(S, K) + 8h(S, K) \inf(R_S, R_K))^{1/2}. $$

*Preuve.* On adopte la démonstration de la proposition précédente pour la distance de Hausdorff $h$ qui vérifie $(*)$. ■

**COROLLAIRE 11.** *Soit $(K_n)_{n \in \mathbb{N}}$ une suite d'éléments de $\mathcal{K}(\mathbb{C})$ convergeant au sens de Hausdorff vers un compact $K$. Alors la suite $(C_{K_n})$ converge vers $C_K$.*

**COROLLAIRE 12.** *Soit $(a_n)_{n \in \mathbb{N}}$ une suite convergeant vers $a$ dans $\mathbb{A}$. Alors la suite $C_{V(a_n)}$ converge vers $C_{V(a)}$.*

*Preuve.* Pour cela, on applique le corollaire précédent et le fait que $V(a_n)$ converge au sens de Hausdorff vers $V(a)$. En effet,

$$ 
\begin{aligned}
e(V(a_n), V(a)) &= \sup_{f \in N(\mathbb{A})} \inf_{g \in N(\mathbb{A})} \|f(a_n) - g(a)\| \\
&\le \sup_{f \in N(\mathbb{A})} \|f(a_n - a)\| \le \|a_n - a\|,
\end{aligned}
$$

d'où le résultat. ■

**PROPOSITION 13.** Soient $T \ge 0$ et $F$ une multifonction de $[0, T]$ dans $\mathcal{K}(\mathbb{C})$ absolument continue au sens de Hausdorff. Alors l'application $t \mapsto C_{F(t)}$ est absolument continue sur $[0, T]$.

*Preuve.* Pour $0 \le s \le t \le T$, $\text{var}(F, s, t)$ désigne la variation de $F$ au sens de Hausdorff entre $s$ et $t$. Nous avons

$$ 
\begin{aligned}
h(F(s), C_{F(s)}) &\le h(F(s), F(T)) + h(F(T), C_{F(0)}) + |C_{F(0)} - C_{F(s)}| \\
&\le \text{var}(F, 0, T) + h(F(T), C_{F(0)}) + |C_{F(0)} - C_{F(s)}|.
\end{aligned}
$$

De plus,

$$ 
\begin{aligned}
& 2|C_{F(0)} - C_{F(s)}| \\
&\le h(F(0), F(s)) + (h^2(F(0), F(s))) + 8h(F(0), F(s))h(F(0), C_{F(0)}))^{1/2} \\
&\le \text{var}(F, 0, T) + (\text{var}^2(F, 0, T) + 8 \text{var}(F, 0, T)h(F(0), C_{F(0)}))^{1/2}.
\end{aligned}
$$

Par suite, il existe une constante $M > 0$ telle que
$$ 
\begin{aligned}
2|C_{F(s)} - C_{F(t)}| & \le h(F(s), F(t)) + (h^2(F(s), F(t)) + 8Mh(F(s), F(t)))^{1/2} \\
& \le \mathrm{var}(F, s, t) + (\mathrm{var}^2(F, s, t) + 8M \mathrm{var}(F, s, t))^{1/2}.
\end{aligned}
$$

Puisque $\mathrm{var}(F, s, t) = \mathrm{var}(F, 0, t) - \mathrm{var}(F, 0, s)$ et $\mathrm{var}(F, 0, \cdot)$ est absolument continue (voir [16, chapitre 0, page 2]), on peut obtenir facilement le résultat cherché. ■

**COROLLAIRE 14.** *Soit $F$ une application de $[0, T]$ dans $\mathbb{A}$ absolument continue. Alors l'application $t \mapsto C_{V(F(t))}$ est absolument continue sur $[0, T]$. Si de plus $F$ vérifie $F(t)F(s) = F(s)F(t)$ pour $t, s$ dans $[0, T]$, alors l'application $t \mapsto C_{\sigma(F(t))}$ est aussi absolument continue sur $[0, T]$.*

*Preuve.* Comme dans la preuve du corollaire 12, on a

$$ h(V(F(s)), V(F(t))) \le \|F(s) - F(t)\|. $$

En vertu du théorème 3.4.1 de [3], nous avons aussi

$$ h(\sigma(F(s)), \sigma(F(t))) \le \|F(s) - F(t)\|. $$

Ceci implique la continuité absolue des applications $\sigma(F(\cdot))$ et $V(F(\cdot))$ sur $[0, T]$ et on applique alors la propositon précédente. ■

**DÉFINITION 15.** Soient $X$ et $Y$ deux espaces de Banach et $F$ une application de $X$ à valeurs dans l'ensemble des parties de $Y$. La multifonction $F$ est dite semi-continue supérieurement, s.c.s. (resp. semi-continue inférieurement, s.c.i.) en un point $x_0$ de $X$ si pour tout ouvert $U$ de $Y$ tel que $F(x_0) \subset U$ (resp. $F(x_0) \cap U \ne \emptyset$), il existe un voisinage $V$ de $x_0$ dans $X$ tel que pour tout $x \in V$, $F(x) \subset U$ (resp. $F(x) \cap U \ne \emptyset$).

**DÉFINITION 16.** Si $F$ est à valeurs compacts, $F$ est dite Hausdorff semi-continue supérieurement, $H$-s.c.s. (resp. Hausdorff semi-continue inférieurement, $H$-s.c.i.) en $x_0$ de $X$ si pour tout $\varepsilon > 0$ il existe $\eta > 0$ tel que pour tout $x$ de $B(x_0, r)$ (boule de centre $x_0$ et de rayon $r$), $F(x) \subset F(x_0) + B(0, \varepsilon)$ (resp. $F(x_0) \subset F(x) + B(0, \varepsilon)$).

**PROPOSITION 17** ([5], [7]). *Avec les notations de la définition précédente, $F$ est $H$-s.c.s. (resp. $H$-s.c.i.) si et seulement si $F$ est s.c.s. (resp. s.c.i.).*

**REMARQUE 18.** La proposition précédente permet d'obtenir facilement le résultat suivant : $F$ est $H$-s.c.s. (resp. $H$-s.c.i.) en $x_0$ si et seulement si pour tout $\varepsilon > 0$, il existe $\eta > 0$ tel que pour tout $x \in B(x_0, \eta)$, $e(F(x), F(x_0)) < \varepsilon$ (resp. $e(F(x_0), F(x)) < \varepsilon$).

**COROLLAIRE 19.** *Soient $\varphi$ une application de $\mathbb{A}$ dans $\mathcal{K}(\mathbb{C})$, $a \in \mathbb{A}$ et $(a_n)$ une suite convergeant vers $a$ dans $\mathbb{A}$ tels que pour tout $\lambda \in \mathbb{C}$,*

$$ \varphi(a_n + \lambda 1_{\mathbb{A}}) = \varphi(a_n) + \lambda, \quad \varphi(a + \lambda 1_{\mathbb{A}}) = \varphi(a) + \lambda. $$

*On suppose que l'une des deux hypothèses suivantes est vérifiée :*
(H.1) $\varphi$ est s.c.i. en a et pour tout $n$,

$$e(\varphi(a), \varphi(a_n)) + |\varphi(a - C_{\varphi(a)} 1_A)| \geq |\varphi(a_n - C_{\varphi(a)} 1_A)|.$$

(H.2) $\varphi$ est s.c.s. en a et pour tout $n$,

$$e(\varphi(a_n), \varphi(a)) + |\varphi(a_n - C_{\varphi(a_n)} 1_A)| \geq |\varphi(a - C_{\varphi(a_n)} 1_A)|.$$

Alors la suite des centres $C_{\varphi(a_n)}$ converge vers $C_{\varphi(a)}$.

*Preuve.* Par le corollaire 6, nous avons

$$2|C_{\varphi(a_n)} - C_{\varphi(a)}| \leq e(\varphi(a), \varphi(a_n)) + [e^2(\varphi(a), \varphi(a_n)) + 8e(\varphi(a), \varphi(a_n))|\varphi(a) - C_a|]^{1/2}.$$

Si $\varphi$ est s.c.i., cette expression par la remarque précédente tend vers 0 lorsque $n$ tend vers l'infini. Le raisonnement est analogue dans le cas de la s.c.s. ■

**COROLLAIRE 20.** *Soit $(a_n)$ une suite convergeant vers a dans $\mathbb{A}$. Supposons que pour tout entier $n$ on a*

$$e(\sigma(a_n), \sigma(a)) + |\sigma(a_n) - C_{\sigma(a_n)}| \geq |\sigma(a) - C_{\sigma(a_n)}|.$$

Alors la suite $C_{\sigma(a_n)}$ converge vers $C_{\sigma(a)}$.

*Preuve.* La multifonction spectre est semi-continue supérieurement en a (voir [3, théorème 3.4.2]) et on applique le corollaire précédent. ■

**COROLLAIRE 21.** *Soit $(a_n)$ une suite convergeant vers a dans $\mathbb{A}$ tels que $a_n a = aa_n$ pour tout $n \in \mathbb{N}$. Alors la suite $C_{\sigma(a_n)}$ converge vers $C_{\sigma(a)}$.*

*Preuve.* D'après [3, théorème 3.4.1], puisque $a_n$ commute avec $a$, alors $h(\sigma(a_n), \sigma(a)) \leq \|a_n - a\|$ et on utilise la proposition 10. ■

Les deux propositions suivantes montrent bien qu'on n'a pas généralement la continuité au sens de Hausdorff de l'application spectre ni la continuité de l'application centre du spectre.

**PROPOSITION 22 ([2]).** *Soit $M$ un opérateur hermitien sur $H$ de spectre $[0, 1]$. Alors $M$ est limite uniforme d'opérateurs nilpotents sur $H$.*

**PROPOSITION 23 ([12]).** *Soit $M$ un opérateur normal sur $H$. Alors $M$ est limite uniforme d'opérateurs nilpotents sur $H$ si et seulement si le spectre de $M$ est connexe et contient l'origine.*

Par la proposition précédente, on peut construire un exemple de suite d'opérateurs dont les spectres ne sont pas continus et dont les centres des spectres sont continus. En effet, soit $\overline{D}(0, 1)$ le disque fermé de centre l'origine et de rayon 1. On peut construire facilement un opérateur $M$ normal sur un espace de Hilbert $H$ dont le spectre est $\overline{D}(0, 1)$; par la proposition précédente $M$ est limite uniforme d'opérateurs nilpotents sur $H$.
Soit $A \in B(H)$. Rappelons que le domaine numérique maximal d'un opérateur $A$, noté $W_0(A)$, est défini comme l'ensemble de tous les $\lambda \in \mathbb{C}$ tels qu'il existe une suite $(x_n)$ de la sphère unité de $H$ vérifiant $\|Ax_n\| \to \|A\|$ et $\langle Ax_n, x_n \rangle \to \lambda$. L'opérateur dérivation $\delta_A$ sur $B(H)$ est défini par $\delta_A(X) = AX - XA$ pour tout $X \in B(H)$. D'après [20], $\|\delta_A\| = 2d(A)$.

**PROPOSITION 24 ([20]).** *Pour $A \in B(H)$, les propriétés suivantes sont équivalentes :*

(i) $0 \in W_0(A)$.

(ii) $\|\delta_A\| = 2\|A\|$.

(iii) $\|A\| < \|A + \lambda\|$ pour tout $\lambda \in \mathbb{C}^*$.

(iv) $\|A\|^2 + |\lambda|^2 \le \|A + \lambda\|^2$ pour tout $\lambda \in \mathbb{C}$.

**COMMENTAIRE.** Cette proposition est l'analogue du corollaire 6 sauf qu'on n'a pas la deuxième propriété de la proposition 24. En effet, si dans le corollaire 6 l'application $\varphi$ désigne le spectre ou le domaine numérique spatial de $A$ avec

$$A = \begin{pmatrix} 1 & 0 & 0 \\ 0 & j & 0 \\ 0 & 0 & j^2 \end{pmatrix}$$

et $j = \cos(2\pi/3) + i\sin(2\pi/3)$, alors nous avons $w(\delta_A) \ne 2w(A)$ et $\varrho(\delta_A) \ne 2\varrho(A)$. Effectivement, $A$ est normal, $\sigma(A) = \{1, j, j^2\}$ et $W(A)$ est le plus petit convexe contenant $1, j$ et $j^2$. De plus, $w(A) = 1$ et d'après Fong [9], $w(\delta_A) = \text{diam } W(A)$, où $\text{diam } W(A)$ dénote le diamètre de $W(A)$. Or

$$\text{diam } W(A) = \text{diam } \sigma(A) < 2, \quad w(A) = \varrho(A) = 1.$$

Donc $w(\delta_A) \ne 2w(A)$ et $\varrho(\sigma(A)) \ne 2\varrho(A)$.

La proposition suivante permet de localiser le centre de tout compact de $\mathbb{C}$.

**PROPOSITION 25.** *Soit $K \in \mathcal{K}(\mathbb{C})$ dont l'enveloppe convexe $C_oK$ contient l'origine. Alors nous avons la majoration optimale $|C_K| \le |K|/\sqrt{2}$.*

*Preuve.* Soit $S$ un compact de $\mathbb{C}$ de centre l'origine. Comme dans la démonstration de la proposition 9, et sans utiliser $(*)$, nous avons, en remplaçant $K$ par $C_oK$,

$$|C_oK|^2 \ge 2|C_{C_oK}|^2 + e^2(S, C_oK) + |S|^2 - 2e(S, C_oK)e(S, \{C_{C_oK}\}).$$

Or $|C_oK| = |K|$ et $D_K = D_{C_oK}$, alors

$$|K|^2 \ge 2|C_K|^2 + e^2(S, C_oK) + |S|^2 - 2e(S, C_oK)e(S, \{C_K\}).$$

Pour $S = 0$ nous avons l'inégalité cherchée qui est optimale comme le montre le cas où $K = \{0, e^{i\pi/4}, e^{-i\pi/4}\}$. ■
**3. Extension d'un résultat de Stampfli.** Rappelons que pour $a \in \mathbb{A}$, la distance de $a$ aux scalaires est

$$d(a) = \inf\{\|a - \lambda 1_{\mathbb{A}}\| : \lambda \in \mathbb{C}\}.$$

Cet infimum est atteint en un point unique $\lambda_a$ appelé centre de $a$.

**PROPOSITION 26.** Soient $a \in \mathbb{A}$ et $\varphi$ une application de $\mathbb{A}$ dans $\mathcal{K}(\mathbb{C})$ tels que

$$|\varphi(a) - \lambda| \le \|a - \lambda 1_{\mathbb{A}}\| \quad \text{pour tout } \lambda \in \mathbb{C}.$$

Alors on a les deux propriétés suivantes :

(a) $R_{\varphi(a)} \le d(a)$.

(b) $R_{\varphi(a)} = d(a)$ si et seulement si $|\varphi(a) - C_{\varphi(a)}| = \|a - C_{\varphi(a)} 1_{\mathbb{A}}\|$.

Si de plus, $\varphi$ vérifie $\varphi(a + \lambda 1_{\mathbb{A}}) = \varphi(a) + \lambda$ pour tout $\lambda \in \mathbb{C}$, alors

(c) $C_{\varphi(a)} \in V(a)$.

Preuve. Puisque $|\varphi(a) - \lambda| \le \|a - \lambda 1_{\mathbb{A}}\|$, alors

$$\inf_{\lambda \in \mathbb{C}} |\varphi(a) - \lambda 1_{\mathbb{A}}| \le \inf_{\lambda \in \mathbb{C}} \|a - \lambda 1_{\mathbb{A}}\| = d(a).$$

D'après la proposition 3, on a

$$R_{\varphi(a)} = \inf_{\lambda \in \mathbb{C}} |\varphi(a) - \lambda 1_{\mathbb{A}}|,$$

donc $R_{\varphi(a)} \le d(a)$.

Supposons que $R_{\varphi(a)} = d(a)$. On a $|\varphi(a) - \lambda_a| \le \|a - \lambda_a 1_{\mathbb{A}}\|$, et

$$\|a - \lambda_a 1_{\mathbb{A}}\| = |\varphi(a) - C_{\varphi(a)}| \le \inf_{\lambda \in \mathbb{C}} |\varphi(a) - \lambda 1_{\mathbb{A}}|.$$

La dernière inégalité est dûe à la proposition 3. Or

$$\inf_{\lambda \in \mathbb{C}} |\varphi(a) - \lambda 1_{\mathbb{A}}| \le |\varphi(a) - \lambda_a|.$$

Donc $|\varphi(a) - \lambda_a| = |\varphi(a) - C_{\varphi(a)}|$. L'unicité de $C_{\varphi(a)}$ obtenue dans la proposition 3 donne $\lambda_a = C_{\varphi(a)}$. Par suite,

$$|\varphi(a) - C_{\varphi(a)}| = \|a - \lambda_a 1_{\mathbb{A}}\|.$$

Supposons maintenant que $|\varphi(a) - C_{\varphi(a)}| = \|a - C_{\varphi(a)} 1_{\mathbb{A}}\|$. Or

$$d(a) = \|a - \lambda_a 1_{\mathbb{A}}\| \le \|a - C_{\varphi(a)} 1_{\mathbb{A}}\| = |\varphi(a) - C_{\varphi(a)}| = R_{\varphi(a)}.$$

Donc $d(a) \le R_{\varphi(a)}$ et d'après le (a) de cette proposition, on a $R_{\varphi(a)} \le d(a)$, d'où l'égalité.

Montrons que $C_{\varphi(a)} \in V(a)$. Par [23], pour tout $z \in \mathbb{C}$,

$$z \in V(a) \Leftrightarrow 0 \in V(a - z 1_{\mathbb{A}}) \Leftrightarrow |\lambda| \le \|a - (z + \lambda) 1_{\mathbb{A}}\|, \forall \lambda \in \mathbb{C}.$$

Par le corollaire 6, on a

$$|\lambda| \le |\varphi(a - (C_{\varphi(a)} + \lambda) 1_{\mathbb{A}})| \le \|a - (C_{\varphi(a)} + \lambda) 1_{\mathbb{A}}\|, \quad \forall \lambda \in \mathbb{C}.$$

Ceci achève la démonstration de la proposition. ■
### REMARQUE 27.
1. L'application $\varphi$ dans le corollaire 6 et dans la proposition 26 peut être une fonction assez connue, par exemple l'application spectre ou l'application domaine numérique algébrique.

2. Dans le cas d'un espace de Hilbert $H$, pour $a \in B(H)$, $\varphi(a)$ peut être aussi un parmi d'autres types de spectres ou de domaines numériques dont voici quelques exemples :

* $\pi(a) = \{\lambda \in \mathbb{C} : \inf\{(\|a - \lambda I)x\| : \|x\| = 1\} = 0\}$, le spectre ponctuel approché.

* $\sigma_{\delta}(a) = \{\lambda \in \mathbb{C} : (a - \lambda I) \text{ est non surjectif}\}$, le spectre de défaut.

* $\sigma_{\mathrm{P}}(a) = \{\lambda \in \mathbb{C} : (a - \lambda I) \text{ est non injectif}\}$, le spectre ponctuel.

* $\sigma_{\mathrm{Pn}}(a) = \{\lambda \in \mathbb{C} : \exists x \neq 0, (a - \lambda I)x = 0 \text{ et } (a^* - \bar{\lambda}I)x = 0\}$, le spectre ponctuel normal.

* $\pi_n(a)$, le spectre ponctuel normal approché, défini comme l'ensemble de tous les complexes $\lambda$ tels qu'il existe une suite $(e_n)$, avec $\|e_n\| = 1$, telle que $\lim_n(a - \lambda I)e_n = 0$ et $\lim_n(a^* - \bar{\lambda}I)e_n = 0$.

* $W_e(a)$, l'image numérique essentielle de $a$, qui est l'ensemble de tout les scalaires $\lambda$ tels qu'il existe une suite orthonormée $(e_n)$ avec $\lambda = \lim_n \langle ae_n, e_n \rangle$.

### DÉFINITION 28.
Soit $A \in B(H)$. A est dit *paranormal* si pour tout $x \in H$, on a $\|Ax\|^2 \le \|A^2x\| \cdot \|x\|$. Si $A - \lambda I$ est paranormal pour tout $\lambda \in \mathbb{C}$, alors $A$ est dit *totalement paranormal* (T.P.N.).

### PROPOSITION 29 ([14]).
Tout opérateur hyponormal $A$ (i.e. $A^*A - AA^* \ge 0$) est T.P.N., et si $A$ est T.P.N. alors pour tout $\lambda \in \mathbb{C}$, on a $w(A - \lambda I) = \|A - \lambda I\|$.

### COMMENTAIRE.
J. G. Stampfli [20] a montré que si $A$ est hyponormal alors $R_{\sigma(A)} = d(A)$. Dans ce cas, il est évident que $R_{\sigma(A)} = R_{\overline{W(A)}}$. Dans la proposition 26, nous avons donné une condition nécessaire et suffisante pour avoir $R_{\overline{W(A)}} = d(A)$. Dans la proposition suivante, nous donnons une classe plus grande que celle des hyponormaux telle que $R_{\overline{W(A)}} = d(A)$.

### PROPOSITION 30.
Si $A$ est T.P.N. alors $R_{\overline{W(A)}} = d(A)$.

*Preuve.* Si $A$ est T.P.N., d'après la proposition 29 on a

$$w(A - C_{\overline{W(A)}}I) = \|A - C_{\overline{W(A)}}I\|, \text{ et par (b) de la proposition 26, on a } R_{\overline{W(A)}} = d(A). \blacksquare$$

### PROPOSITION 31.
Si $A \in B(H)$, nous avons l'inégalité optimale suivante :

$$d(A) \le \mathrm{diam} W(A).$$

*Preuve.* On sait que

$$4\langle Ax, y \rangle = \langle A(x + y), x + y \rangle - \langle A(x - y), x - y \rangle \\ + i\langle A(x + y), x + iy \rangle - i\langle A(x - iy), x - iy \rangle.$$
Donc

$$2\langle Ax, y \rangle = \left\langle A\left(\frac{x+y}{\sqrt{2}}\right), \frac{x+y}{\sqrt{2}} \right\rangle - \left\langle A\left(\frac{x-y}{\sqrt{2}}\right), \frac{x-y}{\sqrt{2}} \right\rangle \\ +i\left\langle A\left(\frac{x+iy}{\sqrt{2}}\right), \frac{x+iy}{\sqrt{2}} \right\rangle - i\left\langle A\left(\frac{x-iy}{\sqrt{2}}\right), \frac{x-iy}{\sqrt{2}} \right\rangle.$$

Si $\langle x, y \rangle = 0$ et $\langle x, x \rangle = \langle y, y \rangle = 1$ alors

$$\left\langle A\left(\frac{x+\alpha y}{\sqrt{2}}\right), \frac{x+\alpha y}{\sqrt{2}} \right\rangle \in W(A),$$

avec $\alpha \in \{1, -1, i, -i\}$. Donc $d \le \text{diam } W(A)$. Cette inégalité est optimale si par exemple $A = \begin{pmatrix} 0 & 0 \\ 1 & 0 \end{pmatrix}$. En effet, dans ce cas $W(A) = \overline{D(0, 1/2)}$ et $d(A) = 1$. ■

**PROPOSITION 32.** Si $A \in B(H)$, nous avons l'inégalité optimale suivante :

$$d^2(A) \le 2w(A)\|A\| - w'^2(A) \quad \text{avec} \quad w'(A) = \inf\{|z| : z \in W(A)\}.$$

*Preuve. Soient*

$$B = \{(x, y) \in H \times H : \|x\| = \|y\| = 1 \text{ et } \langle x, y \rangle = 0\},$$

et $C_2(H)$ l'espace de Hilbert-Schmidt muni du produit scalaire suivant :

$$\langle U, V \rangle = \text{tr}(UV^*) \quad \text{pour } U, V \in C_2(H),$$

où $\text{tr}(U)$ désigne la trace de $U$ (voir [18]). Soit $M_{2,A,A^*}$ l'opérateur produit sur $C_2(H)$ tel que

$$M_{2,A,A^*}(U) = L_A R_{A^*}(U) = AUA^* \quad \text{pour tout } U \in C_2(H),$$

avec $L_A(U) = AU$ et $R_{A^*}(U) = UA^*$. Pour $(x, y) \in B$ posons

$$U = \frac{1}{\sqrt{2}} x \otimes x + \frac{1}{\sqrt{2}} y \otimes y.$$

Alors $\langle U, U \rangle = 1$ et

$$|\langle M_{2,A,A^*}(U), U \rangle| = \frac{1}{2}|\langle Ax, x \rangle|^2 + \frac{1}{2}|\langle Ay, y \rangle|^2 + \frac{1}{2}|\langle Ax, y \rangle|^2 + \frac{1}{2}|\langle Ay, x \rangle|^2.$$

D'après [13], puisque $L_A$ commute avec $R_A$ et $(R_{A^*})^* = R_A$, on peut conclure que

$$w(M_{2,A,A^*}) \le w(L_A) \|R_{A^*}\| = w(A) \|A\|.$$

Donc

$$\begin{aligned} \frac{1}{2}|\langle Ax, y \rangle|^2 &\le w(A)\|A\| - \frac{1}{2}(|\langle Ax, x \rangle|^2 + |\langle Ay, y \rangle|^2) \\ &\le w(A)\|A\| - \frac{1}{2}w'^2(A). \end{aligned}$$

Par [1], $d(A) = \sup\{|\langle Ax, y \rangle| : (x, y) \in B\}$, d'où le résultat. L'inégalité obtenue est optimale si $A = \begin{pmatrix} 0 & 0 \\ 1 & 0 \end{pmatrix}$. Dans ce cas $w(A) = 1/2$, $w'(A) = 0$, $\|A\| = 1$ et $d(A) = 1$. ■
### REMARQUE.
Si $M_{2,A,A*}$ est convexoïde (ce qui est le cas si $A$ est hyponormal, voir [15]) alors la même démonstration nous donne $d^2(A) \le 2w^2(A) - w'^2(A)$.

L. Fialkow [8] a démontré que $\mathrm{diam}\,W(A) \le 2d(A)$. Prenons dans la proposition suivante le cas extrême où $\mathrm{diam}\,W(A) = 2d(A)$.

### PROPOSITION 33.
Si $\mathrm{diam}\,W(A) = 2d(A)$ alors nous avons l'inégalité optimale suivante :

$$d^2(A) \le w(A)\|A\| - \frac{1}{2}w'^2(A).$$

*Preuve.* D'après N. K. Tsing (voir [21]), nous avons

$$\mathrm{diam}\,W(A) = \sup\{|\langle Ax, y \rangle + \langle Ay, x \rangle| : (x, y) \in B\},$$

donc

$$2d(A) = \mathrm{diam}\,W(A) = \sup\{|\langle Ax, y \rangle| + |\langle Ay, x \rangle| : (x, y) \in B\} \le 2d(A).$$

La dernière inégalité est dûe à Ando [1]. Par conséquent il existe une suite $(x_n, y_n)_{n \in \mathbb{N}}$ d'éléments de $B$ telle que

$$|\langle Ax_n, y_n \rangle| + |\langle Ay_n, x_n \rangle| \to 2d(A).$$

Donc $\langle Ax_n, y_n \rangle \to d(A)$ et $\langle Ay_n, x_n \rangle \to d(A)$. Par suite,

$$\sup\{|\langle Ax, y \rangle|^2 + |\langle Ay, x \rangle|^2 : (x, y) \in B\} = \lim_{n} |\langle Ax_n, y_n \rangle|^2 + |\langle Ay_n, x_n \rangle|^2 \\ = 2d^2.$$

Les démarches de la démonstration de la proposition précédente nous donnent

$$\frac{1}{2}(|\langle Ax_n, y_n \rangle|^2 + |\langle Ay_n, x_n \rangle|^2) \le w(A)\|A\| - \frac{1}{2}w'^2(A).$$

D'où $d^2(A) \le w(A)\|A\| - \frac{1}{2}w'^2(A)$. Cette inégalité est optimale si on prend $A = \begin{pmatrix} -1 & 0 \\ 0 & 1 \end{pmatrix}$. En effet, dans ce cas $W(A) = [-1, 1]$, $d(A) = w(A) = \|A\| = 1$ et $w'(A) = 0$. ■

### REMARQUE.
Si $M_{2,A,A*}$ est convexoïde, on remplace dans la démonstration précédente $w(A)\|A\|$ par $w^2(A)$ et on obtient $d^2(A) \le w^2(A) - \frac{1}{2}w'^2(A)$.

### PROPOSITION 34.
Si $A \in B(H)$, on a la majoration optimale suivante :

$$\|A\|^2 \le w^2(A) + d^2(A).$$

*Preuve.* On sait que $\|A\| = \sup\{|\langle Ax, y \rangle| : \|x\| = \|y\| = 1\}$. Soient $x, y$ deux vecteurs unitaires de $H$. Alors $y = \alpha x + \beta u$ avec $\langle u, u \rangle = 1$, $\langle x, u \rangle = 0$ et $|\alpha|^2 + |\beta|^2 = 1$. On a alors

$$\langle Ax, y \rangle = \langle Ax, \alpha x + \beta u \rangle = \bar{\alpha}\langle Ax, x \rangle + \bar{\beta}\langle Ax, u \rangle.$$

Donc $|\langle Ax, y \rangle| \le |\alpha|w(A) + |\beta|d(A) = |\alpha|w(A) + \sqrt{1 - |\alpha|^2}$. Or la fonction $t \mapsto tw(A) + \sqrt{1 - t^2}d(A)$, $t \in [0, 1]$, atteint son maximum $\sqrt{d^2 + w^2(A)}$.
au point $t_0 = w(A)/\sqrt{d^2(A) + w^2(A)}$. Donc $\|A\|^2 \le w^2(A) + d^2(A)$. Cette majoration est optimale comme le montre le cas où $A$ est un scalaire. ■

**Remerciements.** L'auteur remercie le professeur Jaroslav Zemánek pour sa patience et pour les discussions fructueuses qu'il a eues avec lui.

Références

[1] T. Ando, *Distance to the set of thin operators*, preprint, 1970.

[2] C. Apostol, C. Foiaş and D. Voiculescu, *On the norm-closure of nilpotents. II*, Rev. Roumaine Math. Pures Appl. 19 (1974), 549–557.

[3] B. Aupetit, *A Primer on Spectral Theory*, Springer, New York, 1991.

[4] L. Baribeau, *Subharmonicity of the circumradius*, Proc. Roy. Irish Acad. Ser. A 95 (1995), 65–68.

[5] C. Berge, *Espaces topologiques, fonctions multivoques*, Dunod, Paris, 1966.

[6] F. F. Bonsall and J. Duncan, *Numerical Ranges of Operators on Normed Spaces and Elements of Normed Algebras*, Cambridge Univ. Press. Cambridge, 1971.

[7] K. Deimling, *Multivalued Differential Equations*, de Gruyter, Berlin, 1992.

[8] L. Fialkow, *A note on norm ideals and the operator* $X \to AX - XB$, Israel J. Math. 32 (1979), 331–348.

[9] C. K. Fong, *Some aspects of derivations on $B(H)$*, Seminar notes, Univ. of Toronto, 1978.

[10] T. Furuta, S. Izumino and S. Parasanna, *A characterization of centroid operators*, Math. Japon. 27 (1982), 105–106.

[11] P. R. Halmos, *A Hilbert Space Problem Book*, 2nd ed., Springer, New York, 1982.

[12] D. A. Herrero, *Approximation of Hilbert Space Operators*, Vol. 1, Pitman, Boston, 1982.

[13] J. A. R. Holbrook, *On the power-bounded operators of Sz.-Nagy et Foiaş*, Acta Sci. Math. (Szeged) 29 (1968), 299–310.

[14] K. B. Laursen, *Operators with finite ascent*, Pacific J. Math. 152 (1992), 323–336.

[15] B. Magajna, *On subnormality of generalized derivations and tensor products*, Bull. Austral. Math. Soc. 31 (1985), 235–243.

[16] M. D. P. Marques, *Differential Inclusions in Nonsmooth Mechanical Problems*, Birkhäuser, Basel, 1993.

[17] S. Prasanna, *The norm of a derivation and the Björck-Thomée-Istrăţescu theorem*, Math. Japon. 26 (1981), 585–588.

[18] R. Schatten, *The Norm Ideals of Completely Continuous Operators*, Springer, Berlin, 1960.

[19] D. W. B. Somerset, *Inner derivations and primal ideals of $C^*$-algebras*, J. London Math. Soc. (2) 50 (1994), 568–580.

[20] J. G. Stampfli, *The norm of a derivation*, Pacific J. Math. 33 (1970), 737–747.

[21] N. K. Tsing, *Diameter and minimal width of the numerical range*, Linear Multilinear Algebra 14 (1983), 179–185.

[22] E. Vesentini, *On the subharmonicity of the spectral radius*, Boll. Un. Mat. Ital. 4 (1968), 427–429.

[23] J. P. Williams, *Finite operators*, Proc. Amer. Math. Soc. 26 (1970), 129–136.
[24] I. M. Yaglom and V. G. Boltyanskii, *Convex Figures*, Gos. Izdat. Tekhn.-Teor. Lit., Moscow-Leningrad, 1951 (in Russian).

Département des Mathématiques
Faculté des Sciences Semlalia
Université Cadi Ayyad
Marrakech, Maroc
E-mail: chraibik@ucam.ac.ma

Received May 10, 1999

Revised version December 19, 2001

(4321)