<figure><img src="image_1.png" /></figure>

HAL
open science

# Sur les racines d'opérateurs linéaires

Nassima Frid

► To cite this version:

Nassima Frid. Sur les racines d'opérateurs linéaires. Mathématiques [math]. Université Oran 1 - Ahmed Ben Bella, 2023. Français. NNT: . tel-04116385

HAL Id: tel-04116385

https://hal.science/tel-04116385

Submitted on 3 Jun 2023

HAL is a multi-disciplinary open access
archive for the deposit and dissemination of sci-
entific research documents, whether they are pub-
lished or not. The documents may come from
teaching and research institutions in France or
abroad, or from public or private research centers.

L'archive ouverte pluridisciplinaire HAL, est
destinée au dépôt et à la diffusion de documents
scientifiques de niveau recherche, publiés ou non,
émanant des établissements d'enseignement et de
recherche français ou étrangers, des laboratoires
publics ou privés.

Public Domain
FSEA 2022/2023

# THÈSE

En vue de l'obtention du diplôme
de Doctorat en sciences

Spécialité: Mathématique

Présenté par : **FRID Nassima**

## Intitulé de la thèse

## Sur les racines d'opérateurs linéaires

Soutenue publiquement le **29/05/2023 à 10h00** devant le jury composé de :

<table><tr><td>Pr. AIBOUDI Mohammed</td><td>Univ.Oran1-A.B</td><td>Président</td></tr><tr><td>Pr. SENOUSSAOUI Abderrahmane</td><td>Univ.Oran1-A.B</td><td>Examinateur</td></tr><tr><td>Pr. DJEBBAR Bachir</td><td>USTO</td><td>Examinateur</td></tr><tr><td>Pr. ZOUBIR Hanifi</td><td>ENPO</td><td>Examinateur</td></tr><tr><td>Pr. HATHOUT Fouzi</td><td>Université de Saida</td><td>Examinateur</td></tr><tr><td>Pr. MORTAD Mohammed Hichem</td><td>Univ. Oran1-A.B</td><td>Directeur de Thèse</td></tr></table>
Abstract

The main goal of this work is to try to give necessary and sufficient conditions
for the existence of square, cubic and n-th roots of bounded and unbounded linear
operators on a Hilbert space. Particular attention will be paid to the case of normal
and symmetric operators.

This, guided us mainly, to show that any closed or everywhere bounded nilpotent
operator defined, with a positive (self-adjoint) real or imaginary part, is automatically
zero.

**Keywords** : Square roots of operators. Bounded and unbounded operators on a Hilbert space. Real and imaginary parts. Nilpotent, normal, symmetric and self-adjoint operators.
Résumé

Le but principal de ce travail est d'essayer de donner des conditions nécessaires et suffisantes pour l'existence de racines carrées, cubiques et n-ièmes d'opérateurs linéaires bornés et non-bornés sur un espace de Hilbert. Une attention particulière sera portée au cas des opérateurs normaux et symétriques.

Cela, nous a guidé principalement, à montrer que tout opérateur nilpotent fermé
ou borné partout défini, avec une partie réelle ou imaginaire positive (auto-adjointe),
est automatiquement nul.

**Mots clés :** Racines carrées d'opérateurs. Opérateurs bornés et non-bornés sur un espace de Hilbert. Parties réelles et imaginaires. Opérateurs nilpotents, normaux, symétriques et auto-adjoints.
Remerciements

Je remercie vivement Monsieur le Professeur MORTAD Mohammed Hichem de
l'Université Oran1 qui a dirigé cette thèse. Ses conseils multiformes et la richesse
de ses connaissances m'ont permis de mener à bien ce travail. Cette direction s'est
caractérisée par une grande patience, une disponibilité permanente, des conseils abon-
dants, un support et un suivi continus dans le but de mettre ce projet sous sa forme
finale. J'ai eu un grand plaisir de travailler avec lui. Je désire lui exprimer toute ma
gratuité et ma sincère reconnaissance.

Je tiens à remercier vivement Monsieur le Professeur AIBOUDI Mohamed de
l'Université Oran1 pour l'honneur qu'il me fait en acceptant de présider le Jury de
cette thèse.

Mes sincères remerciements vont à Messieurs les Professeurs SNOUSSAOUI Ab-
derrahmane de l'Université Oran1, DJEBBAR Bachir de l'Université USTO, ZOU-
BIR Hnifi de l'ENPO et HATHOUT Fouzi de l'Université de Saida, qui ont bien
accepté, avec beaucoup de sympathie, de faire partie du Jury.
# Dédicaces

A

Mes très chers parents

Mon très cher époux qui a été patient et compréhensif tout le long de mon travail

Mes très chers enfants Malek et Nadir pour leurs aide morale et encouragements

Ma très chère sœur et frères

Je dédie ce modeste travail
# Table des matières

<table><tr><td>1 Généralités et préliminaires</td><td>12</td></tr><tr><td>1.1 Opérateurs linéaires bornés</td><td>12</td></tr><tr><td>1.1.1 Opérateurs adjoints</td><td>15</td></tr><tr><td>1.1.2 Quelques classes d'opérateurs</td><td>17</td></tr><tr><td>1.1.3 Décomposition cartésienne d'un opérateur borné</td><td>20</td></tr><tr><td>1.1.4 Spectre et résolvante d'un opérateur borné</td><td>21</td></tr><tr><td>1.2 Opérateurs linéaires non-bornés</td><td>26</td></tr><tr><td>1.2.1 Opérateurs fermés-Opérateurs fermables</td><td>28</td></tr><tr><td>1.2.2 Adjoint d'un opérateur non-borné</td><td>35</td></tr><tr><td>1.2.3 Opérateurs normaux-Opérateurs nilpotents non-bornés</td><td>41</td></tr><tr><td>1.2.4 Spectre des opérateurs non-bornés</td><td>45</td></tr><tr><td>1.3 Matrices d'opérateurs linéaires</td><td>49</td></tr><tr><td>1.3.1 Opérateurs matriciels bornés</td><td>49</td></tr><tr><td>1.3.2 Opérateurs matriciels non-bornés</td><td>51</td></tr><tr><td>2 Racines carrées d'opérateurs linéaires</td><td>61</td></tr></table>
<table><tr><td>2.1 Racines carrées d'opérateurs bornés</td><td>62</td></tr><tr><td>2.2 Racines carrées d'opérateurs non-bornés</td><td>70</td></tr><tr><td>2.2.1 Quelques classes d'opérateurs racines carrées non-bornés</td><td>71</td></tr><tr><td>3 Nilpotence et nullité d'opérateurs linéaires</td><td>77</td></tr><tr><td>3.1 Cas borné</td><td>78</td></tr><tr><td>3.2 Cas non-borné</td><td>84</td></tr></table>
Introduction

Comme le mentionne le titre du mémoire, nous présentons ici les racines d'opéra-
teurs linéaires. Donc, ce travail s'inscrit dans le cadre des opérateurs linéaires bornés
et non-bornés sur un espace de Hilbert. Pour bien préciser ses spécificités un rappel
historique sur le développement de l'analyse fonctionnelle n'est pas inutile.

L'analyse fonctionnelle est définie aux début du XXe siècle. Sa jeunesse mathé-
matique lui permet d'occuper aujourd'hui une place privilégiée entre les sciences
mathématiques actuelles. Le concept de l'opérateur occupe la première place dans
l'analyse fonctionnelle et il est une généralisation du concept de fonction.

La théorie des opérateurs linéaires trouve ses origines d'une part dans l'étude
des systèmes finis d'équations linéaires à un nombre fini d'inconnues et d'autre part
dans des équations linéaires différentielles et intégrales. En effet, cette analogie entre
les systèmes d'équations linéaires en dimension finie et les équations intégrales fait
apparaître plusieurs mathématiciens au début du ciècle tels que I. Fredholm et J.
Volterra, fondateurs des éléments essentiels de la théorie qui porte aujourd'hui le
nom de la théorie des équations de Fredholm.

Dans un effort, pour compléter les travaux de I. Fredholm, Hilbert trouve que le
succès de ces derniers repose sur la notion de "complète continuité" parue pour la
première fois définie de façon générale dans le cèlèbre mémoire de F. Riesz 1918 sur
la théorie de I. Fredholm et qu'il dégage en la formulant pour les formes bilinéaires
étudiées de façon approfondie. Puis juste après, E. Schmidt et M. Frechet introduisent
délibérément la notion de la géométrie différentielle dans l'espace de Hilbert.

Vers les annés vingt de ce siècle, S. Banach ajoute une étude poussée entre une
application linéaire continue et sa transposée étendue aux espaces normés. Cette période verra naître de grands théorèmes tels que le théorème du graphe fermé ou le théorème de Banach-Steinhaus.

La publication traité de Banach sur les opérations linéaires marque le début de l’âge adulte de l’Analyse Fonctionnelle et la théorie des opérateurs. Ainsi, l’analyse fonctionnelle est une partie très importante des mathématiques pures, et un pilier fondamental des mathématiques appliquées. La théorie d’opérateurs dépend fortement de cette partie et que les effets des influences sont des outils pour les chercheurs dans de nombreux domaines scientifiques; en particulier, les équations d’opérateurs jouent un rôle important dans la théorie de contrôle et la mécanique quantique où les équations de Sylvestre et Lyapunov ont contribué dans le domaine des sciences médicales et son modèle pour le traitement des maladies infectieuses.

Il y a quatre ans de cela, quand j’ai pris contact avec mon directeur de thèse, on s’est fixé l’objectif de chercher les racines cubiques d’un opérateur linéaire borné $T = A + iB$ où $A = \text{Re}T$ et $B = \text{Im}T$ sont les parties réelles et imaginaires de $T$ sur un espace de Hilbert $H$; en s’inspirant de son travail dans [23]. Après longs essais, il s’est avéré que les opérateurs normaux et nilpotents prennent une grande place dans cette recherche. L’issue était de prouver l’existence de racines nulles d’un opérateur nilpotent (borné ou non borné) puisque ce dernier n’est pas toujours nul. Plus précisément, chercher des conditions forçant les opérateurs nilpotents à être nuls et de présenter de nouveaux résultats liés à l’étude des racines linéaires bornés et non-bornés.

En faisant une recherche bibliographique assez détaillée, j’ai constaté que la lit-
térature ne comportait que quelques recherches comme dans [4], [15], [19], [35] et qui ne sont pas en lien direct avec notre travail. De ceci, le contenu de cette thèse est composé de trois chapitres :

Dans le premier chapitre, on rappelle les notions élémentaires et des résultats bien connus de la théorie des opérateurs linéaires bornés et non-bornés, tels que l'adjoint, l'auto-adjonction, fermeture, normalité, nilpotence, positivité et spectre. On achève ce chapitre par quelques notions standards et applications des matrices d'opérateurs d'ordre 2 × 2 bornés et non-bornés.

Le deuxième chapitre est consacré à étudier les racines carrées d'opérateurs linéaires bornés et non-bornés et leurs propriétés de base. A titre d'exemple, un opérateur $A \in B(H)$ peut ne pas avoir de racine carrée, comme il peut en avoir une infinité ; contrairement aux opérateurs positifs qui possèdent une unique racine carrée positive noté $\sqrt{A}$. Dans le cas non-borné, une attention particulière sera portée aux racines carrées fermées et fermables. A titre d'illustration, nous donnons des racines non-fermables de l'opérateur d'identité ainsi que l'opérateur nul. Nous montrons également qu'un opérateur non-borné non-fermable sans aucune racine carrée fermable. Les racines carrées inversibles, auto-adjointes et normales sont aussi étudiées dans cette partie, en fait, si $T = A + iB$ où $A$ et $B$ sont auto-adjoints (l'un d'eux est aussi positif) tels que $D(A) = D(B)$ et $D(AB) = D(BA)$, alors si $T$ est la racine carrée de $S$, c'est-à-dire, $T^2 = S$ où $S$ est symmétrique, on affirme que $T$ est normal. En particulier, si $S$ est auto-adjoint et positif, alors $T$ est auto-adjoint et positif, i.e. $T$ est l'unique racine carrée de $S$. Ce dernier résultat, marque une généralisation de notre travail original qui est paru après la parution de [12].
Le dernier chapitre constitue l'objet de cette thèse. Ici, on donne des conditions forçant les opérateurs nilpotents (bornés ou fermés) à être nuls. D'abord, on montre précisément qu'un opérateur nilpotent fermé densément défini ou partout borné sur un espace de Hilbert H possédant une partie réelle ou imaginaire positive est toujours nul. Ensuite, l'argument de positivité de la partie réelle ou la partie imaginaire de T fait apparaitre de nouvelles conditions plus faibles dites d'asymétrie : $\sigma(A) \cap \sigma(-A) \subset \{0\}$ où $A = \text{Re}\,T$ et $\sigma(A)$ est le spectre de $A$ dans le cas de dimension finie. Ces dernières conditions rendent l'opérateur nilpotent $T$ encore nul. On termine par un résultat intéressant : c'est qu'il n'y a pas non plus d'opérateurs nilpotents normaux non-bornés, puisque pour un $T$ normal, le domaine de $T^*T$ coincide avec le domaine de $T^2$. Il est donc naturel de se demander s'il existe des opérateurs symétriques fermés non-bornés ? La réponse était toujours négative ! En fait, tout opérateur $T$ nilpotent fermé densément défini avec $D(T) \subset D(T^*)$ est partout défini et borné. En particulier, les opérateurs symétriques ou hyponormaux sont nuls partout sur H.
# Chapitre 1

## Généralités et préliminaires

L'objectif de ce chapitre est de rendre le contenu de ce mémoire autonome lisible et de limiter les renvois à la littérature. Pour cela, on y rappelle des définitions et des résultats élémentaires sur la théorie des opérateurs linéaires bornés et non-bornés, ainsi que des notions standards des matrices d'opérateurs. Quelques références utiles sont [3], [21], [24] et [35].

Dans toute la suite $H$ et $K$ désignent des $k$-espaces de Hilbert et $B(H, K)$ l'algèbre de Banach de tous les opérateurs linéaires bornés définis de $H$ dans $K$. Si $H = K$, on note par $B(H)$.

### 1.1 Opérateurs linéaires bornés

En mathématiques et en physiques théorique, un opérateur (ou transformation) est une application entre deux espaces vectoriels normés.

**Définition 1.1.1** Soient $E$ et $F$ deux espaces de Banach. On appelle un opérateur
**borné de E dans F toute application linéaire continue de E dans F. On dit que T est continu (borné) s'il existe C ≥ 0 tel que :**

$$
\|Tx\|_F \leq C\|x\|_E
$$

**Exemple 1.1.2** 1. L'opérateur identité I : H → H est borné car

$$
\|Ix\|_H = \|x\|_H, \forall x \in H
$$

2. Soit $H = l^2 = \{ x = (x_n)_{n \ge 1} \in \mathbb{C}, \sum_{n=1}^{+\infty} |x_n|^2 < +\infty \}$ : l'espace des suites com-
plexes à carrées sommables.

L'opérateur "Shift"

$$
S : H \to H
$$

$$
x \to S(x) = (0, x_1, x_2, x_3, \dots)
$$

est borné car

$$
\|Sx\|_{l^2} = |x_1|^2 + |x_2|^2 + |x_3|^2 + \dots = \|x\|_{l^2}
$$

3. Soit $H = L^2([0, 1[)$ et $\varphi$ une fonction continue sur $[0, 1[$. L'opérateur

$$
A_{\varphi}: H \to H
$$

$f \rightarrow A_{\varphi}(f) = \varphi f$
est borné car

$$
\begin{align*}
\|A_{\varphi} f\|_{L^2([0,1])}^2 &= \int_0^1 |\varphi(x)f(x)|^2 dx \\
\|A_{\varphi} f\|^2 &\le \|\varphi\|_{\infty}^2 \|f\|^2
\end{align*}
$$

**Définition 1.1.3** *Soit T ∈ B(H). On pose ||T|| = inf {C > 0, ∀x ∈ H : ||Tx||<sub>H</sub> ≤ C ||x||<sub>H</sub>}.

||T|| est appelée **norme de T**.*

**Remarque 1.1.4** On peut montrer que

$$
\|T\| = \sup_{\|x\|=1} \|Tx\| = \sup_{\|x\|\le 1} \|Tx\| = \sup_{x \neq 0} \frac{\|Tx\|}{\|x\|} = \sup_{\|x\|=\|y\|=1} |\langle Tx, y \rangle|
$$

**Définition 1.1.5** *Soit T ∈ B(H). On définit l'opérateur itéré de T, l'opérateur Tⁿ tel que*

$$
T^n = \underbrace{TT\dots T}_{n-\text{fois}}, \forall n \in \mathbb{N}.
$$

**Remarque 1.1.6** On montre facilement que si $T \in B(H)$ alors $\|T^n\| \le \|T\|^n$, $\forall n \in \mathbb{N}$.

**Définition 1.1.7** *Soit T un opérateur linéaire sur H :*

(i) On appelle **image de T** et on le note ranT, l'ensemble défini par :

$$
\mathrm{ran}T = \{Tx, x \in H\}
$$
(ii) On appelle noyau de T et on le note ker T, l'ensemble défini par :

$$ \ker T = \{x \in H, Tx = 0\} $$

**Remarque 1.1.8** ranT et ker T sont des sous-espaces vectoriels de H.

**Définition 1.1.9** Un opérateur linéaire T sur un espace de Hilbert H est dit **symétrique** si pour tout x, y ∈ H

$$ \langle Tx, y \rangle_H = \langle x, Ty \rangle_H $$

Maintenant introduisons la notion essentielle d'application linéaire adjointe associée à une application linéaire continue T entre deux espaces de Hilbert. Plusieurs classes d'opérateurs linéaires bornés seront évoqués par la suite.

### 1.1.1 Opérateurs adjoints

Enoçons directement le théorème suivant :

**Théorème 1.1.10** Soient $T \in B(H, K)$. Il existe alors un unique opérateur $T^*$ dans $B(K, H)$ appelé **adjoint de T** tel que pour tout $x \in H$ et $y \in K$

$$ \langle Tx, y \rangle_K = \langle x, T^*y \rangle_H \quad \text{et} \quad \|T\|_{B(H,K)} = \|T^*\|_{B(K,H)} $$
**Preuve.** Soit $y \in K$ et considérons l'application $\varphi : x \to \langle Tx, y \rangle \in \mathbb{C}$ pour tout $x \in H$. Il est clair que $\varphi \in H' \simeq H$ puisque

$$|\varphi(x)| = \langle Tx, y \rangle \le \|Tx\| \|y\| \le \|T\| \|y\| \|x\|.$$

Il en résulte du théorème de Riez qu'il existe un unique vecteur $a \in H$ tel que

$$\varphi(x) = \langle Tx, y \rangle = \langle x, a \rangle, \quad \forall x \in H.$$

On pose $T^*y = a$. Alors, $T^*$ est bien défini de $K$ dans $H$ avec $\langle Tx, y \rangle = \langle x, T^*y \rangle$. De plus, $T^* \in B(K, H)$ puisque pour tout $x \in H$, $y, y' \in K$ et $\alpha, \beta \in \mathbb{C}$

$$\langle x, T^*(\alpha y + \beta y') \rangle = \langle Tx, \alpha y + \beta y' \rangle = \overline{\alpha} \langle Tx, y \rangle + \overline{\beta} \langle Tx, y' \rangle = \langle x, \alpha T^* y + \beta T^* y \rangle$$

et

$$\|T^*y\| = \|a\| = \|\varphi\| = \sup_{\|x\| \le 1} |\langle Tx, y \rangle| = \sup_{\|x\| \le 1} \|Tx\| \|y\| \le \|T\| \|y\|.$$

D'où $\|T^*\| \le \|T\|$. De plus,

$$\begin{align*}
\|T^*\| &= \sup_{\|x\| \le 1} |\langle x, T^*y \rangle| = \sup_{\|x\| \le 1} |\langle Tx, y \rangle| = \|T\|. \\
\|y\| &\le 1
\end{align*}$$

<figure><img src="image_2.png" /></figure>
**Exemple 1.1.11** 1. $I^* = I$ où $I$ est l'opérateur identité dans $H$.

2. Si $M = (a_{ij}) \in M_n(\mathbb{C})$ alors $M^* = (\overline{a}_{ji})$.

3. Soit $H = l^2$. L'adjoint $S^*$ de l'opérateur "Shift" $S$ est donné par

$$ S^* : l^2 \rightarrow l^2 \\ (x_1, x_2, x_3, ...) \rightarrow S^*(x_1, x_2, x_3, ...) = (x_2, x_3, x_4, ...) $$

**Propriétés 1** Soient $A \in B(G, H)$, $B \in B(K, G)$ et $\alpha \in \mathbb{C}$. Les propriétés suivantes sont vérifiées :

1. $A^{**} = A$ 2. $(A + B)^* = A^* + B^*$ 3. $(\alpha A)^* = \overline{\alpha} A^*$ 4. $(AB)^* = B^*A^*$ 5. $\|AA^*\| = \|A^*A\| = \|A\|^2$ 6. Si $A$ est inversible d'inverse borné, il en est de même pour $A^*$ et $(A^*)^{-1} = (A^{-1})^*$. 7. $\ker A = (ranA^*)^{\perp}$ 8. $\ker A^* = (ranA)^{\perp}$

## 1.1.2 Quelques classes d'opérateurs

**Définition 1.1.12** • Un opérateur $T \in B(H)$ est dit **hermitien** ($\mathbb{k} = \mathbb{C}$) ou **auto-adjoint** si :

$$ T = T^* $$

• Un opérateur $U \in B(H)$ est dit **unitaire** si :

$$ U^*U = I_H = UU^* $$

• Un opérateur $U \in B(H)$ est dit **isométrique** si :

$$ U^*U = I_H $$
• Un opérateur $P \in B(H)$ est dit **positif**, symboliquement $P \ge 0$, s'il est auto-adjoint et si :

$$ \langle Px, x \rangle \ge 0, \forall x \in H $$

• Un opérateur $N \in B(H)$ est dit **normal** si :

$$ NN^* = N^*N $$

• $A \in B(H)$ est dit **hyponormal** si :

$$ AA^* \le A^*A $$

ou

$$ \|A^*x\| \le \|Ax\|, \forall x \in H. $$

• Si $P \in B(H)$ est **idempotent**, c'est-à-dire $P^2 = P$ et auto-adjoint, P est appelé un **projecteur orthogonal**.

**Remarque 1.1.13 1) Tout opérateur linéaire borné symétrique est auto-adjoint et inversement.**

$$ T \in B(H), T \text{ auto-adjoint} \Leftrightarrow T \text{ symétrique} $$

On verra plus loin qu'il existe des opérateurs linéaires non-bornés symétriques mais non auto-adjoints.

2) Tout opérateur auto-adjoint est normal.

3) Un opérateur unitaire est un opérateur isométrique, normal et inversible de
norme 1.

4) Un opérateur positif est auto-adjoint.

5) $T \in B(H)$ est normal $\Leftrightarrow \|Tx\| = \|T^*x\|, \forall x \in H.$

6) Tout opérateur normal est hyponormal.

**Exemple 1.1.14** 1. L'opérateur identité $I : H \to H$ est positif car

$$ \langle Ix, x \rangle = \|x\|^2 \geq 0, \forall x \in H. $$

2. L'opérateur "Shift" $S : l^2 \to l^2$ défini par

$$ S(x_1, x_2, x_3, \dots, x_n, \dots) = (0, x_1, x_2, x_3, \dots, x_n, \dots) $$

et de son adjoint

$$ S^*(x_1, x_2, x_3, \dots, x_n, \dots) = (x_2, x_3, x_4, \dots) $$

n'est pas auto-adjoint car

$$ Se_1 \neq S^*e_1 \quad \text{où} \quad e_1 = (1, 0, 0, 0, \dots). $$

$S$ n'est pas positif car

$$ \langle Sx, x \rangle = -1 \quad \text{où} \quad x = (-1, 1, 0, 0, \dots). $$
D'autre part, pour tout $x \in l^2$

$$S^*Sx = (x_1, x_2, x_3, \dots, x_n, \dots) = I_{l^2}(x)$$

et

$$SS^*x = (0, x_2, x_3, x_4, \dots),$$

ce qui signifie que $S$ n'est pas normal et donc n'est pas unitaire, mais isométrique.

**Remarque 1.1.15** Pour tout opérateur $T \in B(H)$, $T^*T$ est hermitien positif car

$$(T^*T)^* = T^*T^{**} = T^*T$$

et

$$\langle T^*Tx, x \rangle = \|Tx\|^2 \geq 0, \forall x \in H$$

### 1.1.3 Décomposition cartésienne d'un opérateur borné

On sait que tout complexe $z$ s'écrit sous la forme $z = re^{i\theta}, \theta \in \mathbb{R}, r \geq 0$ et $z = \sqrt{\bar{z}z}e^{i\theta}$. Aussi, la décomposition peut être généralisée à $B(H)$.

**Définition 1.1.16** Soit $T \in B(H)$. On dit que $T$ admet une **décomposition cartésienne** (dite de Topleitz) si $T = A + iB$ avec $A, B \in B(H)$ étant à la fois auto-adjoints.

Forcément, $A = (T + T^*)/2$ qui sera noté $ReT$ et on l'appelle la partie réelle de $T$. Aussi, $B = (T - T^*)/2i$ est la partie imaginaire de $T$, écrit $ImT$.
**Propriétés 2** Soit $T \in B(H)$ alors pour tout $x \in H$, on a les propriétés suivantes :

i) $\langle \mathrm{Re} Tx, x \rangle = \langle x, \mathrm{Re} Tx \rangle = \mathrm{Re} \langle Tx, x \rangle$. ii) $\langle \mathrm{Im} Tx, x \rangle = \langle x, \mathrm{Im} Tx \rangle = \mathrm{Im} \langle Tx, x \rangle$.

**Remarque 1.1.17** $T \in B(H)$ est auto-adjoint si et seulement si $\mathrm{Im} T = 0$. En effet, si

$$ T = T^* \Leftrightarrow \begin{aligned}[t] & \mathrm{Re} T + i \mathrm{Im} T = \mathrm{Re} T - i \mathrm{Im} T \\ & \Leftrightarrow \mathrm{Im} T = 0 \end{aligned} $$

### 1.1.4 Spectre et résolvante d'un opérateur borné

Dans cette partie on considère $H$ un espace de Banach (complexe).

**Définition 1.1.18** Soit $A \in B(H)$.

i) On appelle **ensemble résolvent** de $A$ et on le note $\rho(A)$ l'ensemble :

$$ \rho(A) = \{ \lambda \in \mathbb{C} \text{, tel que } (A - \lambda I) \text{ est inversible et } (A - \lambda I)^{-1} \text{ est borné dans } H \}. $$

ii) Soit $\lambda \in \rho(A)$. On appelle **résolvante** de $A$ au point $\lambda$ l'opérateur :

$$ R_{\lambda}(A) = (A - \lambda I)^{-1}. $$

**Proposition 1.1.19** (cf. [27]) Soit $A \in B(H)$. La résolvante $R_{\lambda}(A)$ est analytique sur $\rho(A)$. De plus, pour tout $\lambda, \mu \in \rho(A)$, $R_{\lambda}(A)$ et $R_{\mu}(A)$ vérifient l'équation (ou l'identité) de la résolvante :

$$ R_{\lambda}(A) - R_{\mu}(A) = (\lambda - \mu)R_{\lambda}(A)R_{\mu}(A) $$
**Proposition 1.1.24** *Soit $A \in B(H)$, alors*

$$ \sigma(A^*) = \{\bar{\lambda}, \lambda \in \sigma(A)\}. $$

**Preuve.** Si $\lambda \in \rho(A^*)$ alors

$$ (A^* - \lambda I)^{-1} = [(A - \bar{\lambda}I)^*]^{-1} = [(A - \bar{\lambda}I)^{-1}]^* \in B(H) $$

et donc $(A - \bar{\lambda}I)^{-1} \in B(H)$, ce qui signifie que $\bar{\lambda} \in \rho(A)$. ■

Maintenant, on va s'intéresser aux propriétés spectrales d'un opérateur auto-adjoint borné sur un espace de Hilbert.

**Théorème 1.1.25** (cf. [21] ou [35]) 1. Le spectre d'un opérateur auto-adjoint est réel.

2. Le spectre d'un opérateur auto-adjoint positif est positif.

3. Si $A$ est auto-adjoint $\implies \forall \lambda \in \mathbb{C} \setminus \mathbb{R}: \|R_\lambda(A)\| \le \frac{1}{|\mathrm{Im}\,\lambda|}$.

4. $\sigma(P(A)) = P(\sigma(A))$ pour tout $P \in \mathbb{C}[X]$ (spectral mapping theory).

**Exemple 1.1.26** 1) Soit

$$ A = \begin{pmatrix} 0 & 1 \\ 0 & 0 \end{pmatrix}. $$

$A$ n'est pas auto-adjoint mais son spectre est réel : $\sigma(A) = \pm 1$. Mais si $A$ est normal et son spectre est réel alors il est auto-adjoint.
2) Si

$$A = \begin{pmatrix} 2 & 1 \\ 0 & 1 \end{pmatrix},$$

il en résulte du théorème spectral que $\sigma(A^2) = \sigma(A)^2 = \{1, 4\}$.

Comme on le sait, la nilpotence joue un rôle important dans la théorie des matrices et dans la théorie des opérateurs en général. Ce qui va être bien étudié dans le troisième chapitre. Rappelons alors la définition d'un opérateur nilpotent :

**Définition 1.1.27** Soit $T \in B(H)$. T est dit **nilpotent** s'il existe $n \in \mathbb{N}$ tel que $T^n = 0$.

Ce qui suit a été montré dans [23].

**Proposition 1.1.28** Si $T \in B(H)$ est tel que $\mathrm{Re}T \ge 0$ et $T^2 = 0$, alors $T = 0$.

Nous poursuivrons cette investigation et nous traiterons le cas général qui en fait l'axe fondamental du chapitre 3. Pour cela, rappelons quelques faits bien établis ! Par exemples :

**Proposition 1.1.29** Soit $T \in B(H)$. Alors

$$T \text{ est normal} \Leftrightarrow \|T^n\| = \|T\|^n, \forall n \in \mathbb{N}$$

**Preuve.** Raisonnons par récurrence. Pour $n = 2$, si $T$ est normal, il en résulte de 5) de la Remarque 1.1.13 et la propriété 5) de l'adjoint que

$$\|T^2\| = \sup_{\|x\|=1} \|T^2 x\| = \sup_{\|x\|=1} \|T T x\| = \sup_{\|x\|=1} \|T^* T x\| = \|T^* T\| = \|T\|^2.$$
Maintenant, supposons que $||T^{2n}|| = ||T||^{2n}$ est vrai pour tout $n$ et montrons sa vérité pour $n + 1$. Comme $T^{2n}$ est normal, on aura

$$ 
\begin{aligned}
\|T^{2n+1}\| &= \|(T^{2n})^2\| = \|T^{2n}\|^2 = \|T^{2n}\| \|T^{2n}\| \\
&= \|T\|^{2n} \|T\|^{2n} = \|T\|^{2n+1}.
\end{aligned}
$$

D'après ii) de la Remarque 1.1.22, $\lim_{n \to +\infty} \|T^n\|_n^{1/n}$ existe et est égale à $r(T)$, alors

$$ r(T) = \lim_{n \to +\infty} \|T^n\|_n^{1/n} = \lim_{n \to +\infty} \|T^{2n}\|_{2^n}^{1/2^n} = \lim_{n \to +\infty} \|T\|_{2^{n/2}}^{2^n} = \|T\|, $$

tel que requis. ■

Il semble intéressant de souligner que grâce à l'équivalence ci-dessus, si $T$ est nilpotent alors "$T = 0 \Leftrightarrow T$ est normal". Par conséquent, lorsque nous supposons en outre que $\mathrm{Re}T \ge 0$ et que nous prouvons le Théorème 3.1.1 dans le troisième chapitre, cela deviendra alors une autre caractérisation à ajouter aux 89 conditions équivalentes à la normalité d'une matrice déjà obtenues dans [10] et [13]. Voir aussi [11].
## 1.2 Opérateurs linéaires non-bornés

Soit $H$ un espace de Hilbert. On rappelle que $H \oplus H$ est l'espace de Hilbert $H \times H$ muni du produit scalaire $\langle (x, y), (x', y') \rangle = \langle x, x' \rangle_H + \langle y, y' \rangle_H$.

**Définition 1.2.1** Soit $T$ un opérateur linéaire de domaine $D(T)$ (qui est un sous-espace vectoriel de $H$). On dit que $T$ est borné si

$$ \exists \alpha \ge 0, \forall x \in D(T) : \|Tx\| \le \alpha \|x\|. $$

Sinon, on dit que $T$ est **non-borné**.

Lorsque $\overline{D(T)} = H$, on dit que $T$ est à domaine dense ou densément défini.

**Remarque 1.2.2** 1. La définition donnée juste au-dessus ne fait pas, faute de mieux, l'unanimité. En effet, on doit se méfier du fait que dans certains manuels, tout opérateur $T$ avec un domaine $D(T)$ (où $D(T) \neq H$) est automatiquement non-borné. La grande majorité des théoriciens des opérateurs n'adoptent pas cette convention. Naturellement, même si nous comprenons que la plupart des opérateurs non-bornés qui apparaissent dans les applications ne sont pas partout définis comme non-bornés, c'est tout simplement regrettable.

2. Un opérateur non-borné admet en général plusieurs domaines.

3. En général, si $T$ est non-borné, $T$ ne sera pas continu pour la topologie induite sur $D(T)$ par celle de $H$. Car sinon, si $T$ était continu de $D(T)$ dans $H$, avec $D(T)$ dense dans $H$, il admettrait une extension (prolongement) continue sur $H$ et il serait alors un opérateur borné incomplètement défini.
**Exemple 1.2.3** 1. L'opérateur de multiplication A défini sur $H = L^2(\mathbb{R})$ par $Af(x) =$
$xf(x)$ peut être défini sur

$$
D(A) = \{f \in L^2(\mathbb{R}), xf \in L^2(\mathbb{R})\},
$$

comme il peut être défini sur $C_0^\infty(\mathbb{R})$.

2. L'opérateur A défini sur $l^2 = \{ x = (x_n)_{n \ge 1} \in \mathbb{C}, \sum_{n=1}^{+\infty} |x_n|^2 < +\infty \} \text{ par } A(x_n) =$
$(nx_n)$ a pour domaine

$$
D(A) = \left\{ x = \sum_{n=1}^{+\infty} x_n e_n \in l^2, \sum_{n=1}^{+\infty} n |x_n|^2 < +\infty \right\}
$$

où $(e_n)_n$ est la base Hilbertienne de $l^2$. $(D(A), A)$ est non-borné car $\|A e_n\| = n \|e_n\| = n \longrightarrow +\infty$ lorsque $n \longrightarrow +\infty$ avec $e_n = (0, 0, ..., \underbrace{1}_{n-ième}, 0, 0, ...)$.

**Définition 1.2.4** 1) Si S et T sont deux opérateurs non-bornés de domaines D(S) et D(T) respectivement, le **produit** ST et la **somme** S + T sont définis de façon usuelle sur les domaines naturels :

$$
D(ST) = \{x \in D(T) : Tx \in D(S)\}
$$

et

$$
D(S + T) = D(S) \cap D(T).
$$

**Remarque 1.2.5** 1) On note que $D(ST)$ et $D(S + T)$ peut être réduit à $\{0\}$.

2) Si T est non-borné alors son domaine D(T) n'est pas, en général, fermé dans H. Il sera supposé dense dans H pour qu'on puisse définir l'adjoint de T, comme on
le verra ultérieurement.

3) Un opérateur borné $A \in B(H)$ donne lieu à un opérateur non-borné de domaine complètement $H$. Voir [24].

4) Deux opérateurs non-bornés coincident si leurs domaines sont égaux et qu'ils prennent les mêmes valeurs sur ce domaine commun. Par contre, si $T_1$ et $T_2$ deux opérateurs non-bornés de domaines $D(T_1)$, $D(T_2)$ respectivement tels que $D(T_1) \subset D(T_2)$ et $\forall x \in D(T_1) : T_1x = T_2x$. On dit que $T_2$ est une **extension** de $T_1$ et on écrit $T_1 \subset T_2$. D'où

$$T_1 = T_2 \Leftrightarrow T_1 \subset T_2 \text{ et } T_2 \subset T_1$$

### 1.2.1 Opérateurs fermés-Opérateurs fermables

Dans ce paragraphe, on considère $A$ un opérateur linéaire défini d'un espace de Banach $X$ dans un espace de Banach $Y$ et ayant $D(A)$ comme domaine.

**Définition 1.2.6** On dit que $A$ est **fermé** si pour toute suite $(x_n)_{n \in \mathbb{N}} \in D(A)$ telle que $x_n$ tend vers $x$ et $Ax_n$ tend vers $y$ alors, on a $x \in D(A)$ et $y = Ax$.

On désigne par $C(X, Y)$, l'ensemble des opérateurs linéaires fermés à domaine denses de $X$ dans $Y$. Si $X = Y$ on note $C(X, X)$ par $C(X)$.

**Proposition 1.2.7** Soient $X$ et $Y$ deux espaces de Banach et $A : D(A) \subset X \to Y$ un opérateur linéaire, alors les assertions suivantes sont équivalentes :

(i) $A$ est fermé.
(ii) Le graphe de $A$ défini par $\Gamma(A) := \{(x, Ax), x \in D(A)\}$ est fermé dans $X \times Y$.

(iii) Le sous-espace $D(A)$ est complet pour la norme du graphe $\|\cdot\|_{D(A)}$ définie par :

$$ \|x\|_{D(A)} = \|x\|_{X} + \|Ax\|_{Y}. $$

**Remarque 1.2.8** 1. Tout opérateur borné entre deux espaces de Banach (en particulier Hilbert) est fermé (Théorème du graphe fermé). Cependant, il existe des opérateurs fermés qui ne sont bornés, et d'autres bornés qui ne sont pas fermés. Ainsi, dans le cas des opérateurs avec domaines, il n'y a pas de relation entre la fermeture et la continuité. On verra plus loin, que tout opérateur non-borné auto-adjoint est fermé.

2. Si $A$ est fermé alors $\|Ax\|_Y \le \|x\|_{D(A)}$ pour tout $x \in D(A)$, c'est-à-dire,

$A \in B((D(A), \|\cdot\|_{D(A)}), H)$. On dit dans ce cas que les opérateurs fermés sont assimilables aux opérateurs bornés.

3. Si $A$ est un opérateur non-borné de domaine $D(A)$ sur un espace de Hilbert $H$, on définit le produit scalaire sur $D(A)$ par :

$$ \langle x, y \rangle_A = \langle x, y \rangle_H + \langle Ax, Ay \rangle_H, \quad \forall x, y \in H. $$

**Exemple 1.2.9** 1) L'opérateur $A = \alpha I$ ($I$ est l'opérateur identité) défini sur $H$ de domaine $D$ strictement dense dans $H$ n'est jamais fermé. En effet, si $\alpha I$ est fermé,
alors d'après la proposition précédente $(D, \langle \cdot, \cdot \rangle_A)$ est un espace de Hilbert de norme

$$
\begin{align*}
\|x\|_A^2 &= \|x\|_H^2 + \|\alpha I x\|_H^2 \\
&= \sqrt{1 + |\alpha|^2} \|x\|_H,
\end{align*}
$$

d'où les deux normes sont équivalentes. Ainsi, si D est de Hilbert pour ⟨·, ·⟩_A alors il le serait de Banach pour ||·||_A et donc aussi pour ||·||_H. En conséquence, D est fermé dans H, i, e. D̄ = D = H ce qui est impossible.

En particulier, les opérateurs 0, I : D —→ H où D est strictement dense dans H ne sont pas fermés.

2) L'opérateur différentiel non-borné $D = \frac{d}{dx} : H^1(\mathbb{R}) \subset L^2(\mathbb{R}) \to L^2(\mathbb{R})$ défini par :

$D f = f'$

est fermé. ($H^1(\mathbb{R})$ désigne l'espace de Sobolev d'indice 1 des fonctions $f$ vérifiant $f' \in L^2(\mathbb{R})$).

En effet, supposons que $f_n \in H^1(\mathbb{R})$ telle que $f_n \to f$ et $Df_n \to g$ dans $L^2(\mathbb{R})$.

Alors pour toute fonction test $\varphi$, on a

$$
\begin{align*}
\langle g, \varphi \rangle &= \lim_{n \to +\infty} \langle f'_n, \varphi \rangle \\
&= - \lim_{n \to +\infty} \langle f_n, \varphi' \rangle \quad (\text{car } f_n \in H^1(\mathbb{R})) \\
&= - \langle f, \varphi' \rangle.
\end{align*}
$$

Par conséquent $f \in H^1(\mathbb{R})$ et $Df = g$, ce qui signifie que D est fermé.
3) La somme de deux opérateurs fermés n'est pas forcément fermée. Prenons encore l'opérateur $A = \frac{d}{dx}$ sur $L^2(\mathbb{R})$ de domaine $D(A) = H^1(\mathbb{R})$ ($\overline{H^1(\mathbb{R})} = L^2(\mathbb{R})$). Alors $A + (-A) = 0$ qui n'est pas fermé d'après 1).

Bien souvent un problème se traduit par la donnée d'un opérateur qui n'est pas fermé. L'objectif de la théorie des opérateurs non-bornés est essentiellement de construire des prolongements fermés de l'opérateur donné, puis d'étudier leurs propriétés.

**Définition 1.2.10** On dit qu'un opérateur $A : D(A) \subset X \to Y$ est **fermable** s'il admet une extension fermée. C'est-à-dire, il existe un opérateur fermé $B : D(B) \subset X \to Y$ tel que :

$$ \left\{ \begin{array}{l} D(A) \subset D(B) \\ Bx = Ax, \quad \text{pour tout } x \in D(A) \end{array} \right. . $$

**Remarque 1.2.11** Soit $B$ une extension fermée de l'opérateur $A$, alors $\Gamma(B)$ contient $\Gamma(A)$, donc son adhérence $\overline{\Gamma(A)}$. Il s'ensuit qu'un opérateur $A$ est fermable si et seulement si $\overline{\Gamma(A)}$ est le graphe d'un opérateur linéaire. On appellera fermeture de (l'opérateur $A$ l'opérateur $\overline{A}$, la plus petite extension fermée de $A$ tel que $\Gamma(\overline{A}) = \overline{\Gamma(A)}$). En particulier, si $A$ est fermé alors $A = \overline{A}$. De plus, pour que l'opérateur $A$ soit fermable il faut et il suffit que l'on ait $\overline{\Gamma(A)} \cap (\{0\} \times Y) = \{(0,0)\}$

On déduit immédiatement de la remarque précédente, la proposition suivante :

**Proposition 1.2.12** Soit $A : D(A) \subset X \to Y$ un opérateur de $X$ dans $Y$. $A$ est fermable si et seulement si pour toute suite $(x_n)_{n \in \mathbb{N}}$ de $D(A)$ qui converge vers 0 dans $X$ et telle que $Ax_n$ converge vers $y$ dans $Y$, on ait $y = 0$.
**Proposition 1.2.13** Soient X, Y et Z trois espaces de Banach.

(i) Soient $S: X \longrightarrow Y$ un opérateur linéaire borné et $T$ un opérateur de $X$ dans $Y$.

* Pour que $S+T$ soit fermé il faut et il suffit que $T$ soit fermé.

* Pour que $S+T$ soit fermable il faut et il suffit que $T$ soit fermable et dans ce cas, $\overline{S+T} = S+\overline{T}$.

(ii) Soient $T: X \longrightarrow Y$ un opérateur linéaire borné et $S$ un opérateur fermé (resp. fermable) de $Y$ dans $Z$. Alors l'opérateur $ST$ est fermé (resp. fermable).

(iii) Soient $T$ un opérateur fermé (resp. fermable) de $Y$ dans $Z$ et $S: Z \longrightarrow Y$ un opérateur borné injectif. Alors l'opérateur $S^{-1}T$ est fermé (resp. fermable).

**Preuve.** (i) Soit $(x_n)_n$ une suite de $D(T+S)$ telle que

$$ \begin{cases} x_n \longrightarrow x, \\ (T+S)x_n \longrightarrow y. \end{cases} $$

On a $D(S) = X$ donc $D(T+S) = D(T)$. Comme $x_n \longrightarrow x$ et $S$ est un opérateur linéaire borné, alors $Sx_n \longrightarrow Sx$. En écrivant, $Tx_n = (T+S)x_n - Sx_n$ et en utilisant le fait que $T$ est un opérateur fermé on en déduit que

$$ \begin{cases} x \in D(T), \\ y - Sx = Tx. \end{cases} $$
Si $T$ un opérateur fermable, alors $T + S$ admet l'extension fermée $S + \overline{T}$. Il en résulte de ce qui précède que $S + T$ est fermable et

$$ \overline{S+T} \subset S + \overline{T}. $$

En remplaçant dans ci-dessus, $T$ par $T + S$ et $S$ par $-S$ on trouve que si $T + S$ est fermé ou fermable, il en est de même pour $T$ et dans ce cas on a : $\overline{T} \subset \overline{S+T} - S$. Donc

$$ S + \overline{T} \subset S + \overline{S+T} - S = \overline{S+T}. $$

(ii) On a $D(ST) = \{x \in D(T), Tx \in D(S)\}$. Soit $\text{Soit } (x_n)_n$ une suite de $D(ST)$ telle que

$$ \begin{cases} x_n \longrightarrow x \text{ dans } X, \\ STx_n \longrightarrow y \text{ dans } Z. \end{cases} $$

Montrons que $x \in D(ST)$ et $y = (ST)x$. Du fait que $T$ est un opérateur borné en déduit que $S(Tx_n) \longrightarrow y$. D'autre part, $Tx_n \longrightarrow Tx$ et $S$ est un opérateur fermé, il vient donc que

$$ \begin{cases} Tx \in D(S), \\ y = STx. \end{cases} $$

Alors, si $S$ est fermable, $ST$ admet l'extension fermée $\overline{ST}$.

(iii) Soit $(x_n)_n$ une suite de $D(S^{-1}T)$ tel que

$$ \begin{cases} x_n \longrightarrow x, \\ (S^{-1}T)x_n \longrightarrow y. \end{cases} $$
Montrons que $x \in D(S^{-1}T)$ et $y = S^{-1}Tx$. Comme $S^{-1}Tx_n \longrightarrow y$ et $S$ est un opérateur borné donc $Tx_n \longrightarrow Sy$. Puisque $T$ est un opérateur fermé on a

$$ \begin{cases} x \in D(T), \\ Tx = Sy. \end{cases} $$

On en déduit que

$$ \begin{cases} x \in D(T), \\ Tx \in D(S^{-1}), \\ y = S^{-1}Tx. \end{cases} $$

Alors si $T$ est fermable, alors $S^{-1}T$ admet l'extension fermée $S^{-1}\bar{T}$. ■

**Exemple 1.2.14** 1. On considère l'opérateur (d'impulsion) non-borné $A = -i \frac{d}{dx}$ défini sur $H^1([0, 1])$ où $H^1([0, 1])$ est l'espace de Sobolev d'indice 1 défini par

$$ H^1([0, 1]) := \{f \in L^2([0, 1]), f' \in L^2([0, 1])\}. $$

Alors $A$ est un opérateur fermé puisque $H^1([0, 1])$ est un Hilbert.

2. L'opérateur $A : C([0, 1]) \longrightarrow \mathbb{R}$ tel que $Af = f'(0)$ n'est pas fermable. En effet, en vertu de la proposition 1.2.12, si $f_n(t) = \frac{1}{n}\sin(nt)$ alors $\|f_n\|_{\infty} = \frac{1}{n} \longrightarrow 0$ mais $\|Af_n\|_{\infty} = 1$.

3. L'opérateur $A = \frac{d}{dt} : L^2([-1, 1]) \longrightarrow L^2([-1, 1])$ de domaine $D(A) = C^1([-1, 1])$ n'est pas fermé mais fermable.

**Théorème 1.2.15** (Théorème du Graphe fermé). Soient $X$ et $Y$ deux espaces de Banach et $T$ un opérateur fermé de $X$ dans $Y$. Si $D(T) = X$, alors $T$ est borné.
### 1.2.2 Adjoint d'un opérateur non-borné

**Définition 1.2.16** L'adjoint d'un opérateur non-borné $T$ à domaine dense est l'unique opérateur $T^*$ ayant pour domaine

$$D(T^*) = \{x \in H : D(T) \ni y \longrightarrow \langle x, Ty \rangle \text{ est continue}\}$$

et vérifiant

$$\forall x \in D(T^*), \forall y \in D(T) \quad \langle T^*x, y \rangle = \langle x, Ty \rangle.$$

Grâce à la densité de $D(T)$ dans $H$, pour chaque $x \in D(T^*)$ la forme linéaire continue $y \longrightarrow \langle x, Ty \rangle$ s'étend à un unique élément de $H'(\text{dual topologique de } H)$ qu'on écrit par le Théorème de Riesz comme $\langle T^*x, \cdot \rangle_H$.

Etant donné l'importance des opérateurs adjoints dans les applications physiques, on se limitera dans tout ce qui suit à l'étude des opérateurs non-bornés dont le domaine est dense dans $H$. Si $D(T)$ est dense dans $H$, donc $T^*$ existe mais cela ne garantit pas l'existence de $T^{**}$ puisque $D(T^*)$ peut ne pas être dense dans $H$.

**Définition 1.2.17** • Un opérateur $T$ à domaine dense est dit **symétrique** si $T \subset T^*$, i.e. :

$$D(T) \subset D(T^*) \quad \text{et} \quad Tx = T^*x, \forall x \in D(T).$$

Autrement dit,

$$\forall x \in D(T), \forall y \in D(T) \quad \langle Tx, y \rangle = \langle x, Ty \rangle$$
• T est dit **auto-adjoint** si $T^* = T$, i.e. :

$$D(T) = D(T^*) \text{ et } Tx = T^*x, \forall x \in D(T)$$

ou bien

$$T \text{ est auto-adjoint} \Leftrightarrow T \text{ est symétrique et } D(T^*) \subseteq D(T).$$

Si de plus on a $\langle Tx, x \rangle \ge 0$ pour tout $x \in D(T)$, T sera dit **positif**.

**Remarque 1.2.18** Attention, dans le cas des opérateurs linéaires bornés, les notions d'opérateurs symétriques et auto-adjoints coincident. Par contre, un opérateur non-borné symétrique n'est pas forcément auto-adjoint.

**Exemple 1.2.19 1) Soit l'opérateur défini sur $L^2(\mathbb{R}^+)$ par $Af = -i \frac{df}{dx} = -if'(x)$**
où $f'$ est la dérivée de $f$ au sens des distributions. Le domaine de A est

$$D(A) = H_0^1(\mathbb{R}^+) = \{f \in L^2(\mathbb{R}^+), f' \in L^2(\mathbb{R}^+), f(0) = 0\}.$$

A est un opérateur non-borné fermé puisque $H_0^1(\mathbb{R}^+)$ est de Hilbert, il est aussi
symétrique. En effet,

$$
\begin{align*}
\langle Af, g \rangle_{L^2(\mathbb{R}^+)} &= -i \int_0^{+\infty} f'(x) \overline{g(x)} dx \\
&= i \int_0^{+\infty} f(x) \overline{g'(x)} dx \quad (\text{I.P.P}) \\
&= \int_0^{+\infty} f(x) \overline{-ig'(x)} dx = \int_0^{+\infty} f(x) \overline{A(g(x))} dx \\
&= \langle f, Ag \rangle_{L^2(\mathbb{R}^+)}.
\end{align*}
$$

Par conséquent, $D(A) \subset D(A^*)$. Mais, le calcul précédent montre que $A^*(g) = -i \frac{dg}{dx}$ où $\frac{dg}{dx}$ est la dérivée de $g$ au sens des distributions; aucune condition n'est imposée sur $g$, alors $D(A^*) = H^1(\mathbb{R}^+)$ et par suite $A$ est symétrique sans être auto-adjoint.

2) "L'opérateur de multiplication" : soit $(X, \mu)$ un espace mesuré, où $\mu$ est une mesure positive sur $X$ et $\alpha$ une fonction mesurable de $X$ dans $\mathbb{C}$. On définit l'opérateur $A$ sur $L^2(X, \mu)$ par $A\varphi = \alpha\varphi$ de domaine $D(A) = \{\varphi \in L^2(X, \mu), \alpha\varphi \in L^2(X, \mu)\}$.

Remarquons que

$A$ est symétrique $\Leftrightarrow \alpha$ est réelle $\mu$ presque partout.

Dans ce cas $A$ est auto-adjoint.

**Définition 1.2.20** (cf. [25]) Soit $T$ un opérateur densément défini de domaine $D(T) \subset H$. S'il existe des opérateurs symétriques densément définis $A$ et $B$ avec domaines
$D(A)$ et $D(B)$ respectivement et tels que

$$T = A + iB \text{ avec } D(A) = D(B),$$

alors on dit que $T$ a une **décomposition cartésienne**.

**Remarque 1.2.21 1) Un opérateur $T$ densément défini admet une décomposition cartésienne si et seulement si $D(T) \subset D(T^*)$. Dans ce cas, $T = A + iB$ où**

$$A = \operatorname{Re} T = \frac{T + T^*}{2} \quad \text{et} \quad B = \operatorname{Im} T = \frac{T - T^*}{2i}.$$

2) Si $T$ est fermé, alors $ReT$ est symétrique mais il n'est pas toujours auto-adjoint (il peut même ne pas être fermé).

Maintenant donnons quelques relations entre l'opérateur adjoint et la fermeture (fermabilité) des opérateurs non-bornés densément définis.

On considère l'isométrie $J : H \oplus H \to H \oplus H$, $J(x, y) = (-y, x)$ pour tout $x, y \in H$. En particulier, on a $J^2(x, y) = (-y, x)$ et si $E$ est un sous-espace de $H \oplus H$ alors $J(E^\perp) = J(E)^\perp$.

**Proposition 1.2.22 Soit $T$ un opérateur à domaine dense. Alors**

$$(i) \Gamma(T^*) = [J\Gamma(T)]^\perp.$$

$$(ii) \bar{\Gamma}(T) = [J\Gamma(T^*)]^\perp.$$
**Preuve.** (i) On a

$$ (x, y) \in [J\Gamma(T)]^{\perp} \iff \begin{aligned}[t] & \langle (x, y), (-Tz, z) \rangle_{H \times H} = 0, \forall z \in D(T) \\ & \langle Tz, x \rangle = \langle z, y \rangle, \forall z \in D(T) \\ & x \in D(T^*) \text{ et } T^*x = y \\ & (x, y) \in \Gamma(T^*). \end{aligned} $$

(ii) On a

$$ \overline{\Gamma(T)} = (\Gamma(T)^{\perp})^{\perp} = (J^2\Gamma(T)^{\perp})^{\perp} = (J[J\Gamma(T)]^{\perp})^{\perp} = [J\Gamma(T^*)]^{\perp}. $$

<figure><img src="image_3.png" /></figure>

**Théorème 1.2.23** Soit $T$ un opérateur à domaine dense. Alors

(a) $T^*$ est fermé.

(b) $T$ est fermable si et seulement si $D(T^*)$ est dense dans $H$.

(c) Si $T$ est fermable alors $\overline{T} = T^{**}$ et $(\overline{T})^* = T^*$.

**Preuve.** (a) L'opérateur $T^*$ est fermé puisque son graphe est l'orthogonal d'un sous-espace de $H \oplus H$ d'après i) de la proposition 1.2.22.

(b) Si $T^*$ est à domaine dense alors par la proposition 1.2.22 on a

$$ \Gamma(T^{**}) = [J\Gamma(T^*)]^{\perp} = \overline{\Gamma(T)}. $$

Il en résulte que $\overline{\Gamma(T)}$ est le graphe d'un opérateur et donc $T$ est fermable. D'autre part, si $D(T^*)$ n'est pas dense, c'est-à-dire que $D(T^*)^{\perp} \neq \{0\}$, il existe alors $y \neq 0$
appartenant à $D(T^*)^\perp$. Ainsi, on vérifie que $(y, 0) \in \Gamma(T^*)^\perp$ et que $(0, y) \in \overline{\Gamma(T)} = \mathcal{J}\Gamma(T^*)^\perp$. Par conséquence, $T$ n'est pas fermable puisque $\overline{\Gamma(T)}$ n'est pas le graphe d'un opérateur vu qu'il contient $(0, y)$ avec $y \neq 0$.

(c) Il en résulte de l'expression ci-dessus dans (b) que $T^{**} = \overline{T}$. En utilisant ceci avec le point (a), on voit que

$$T^* = \overline{T^*} = (T^*)^{**} = (T^{**})^* = (\overline{T})^*.$$

■

**Remarque 1.2.24** (i) Un opérateur symétrique $T$ est toujours fermable puisque $D(T^*) \supset D(T)$ est dense (voir (b) du Théorème 1.2.23).

(ii) Si $T$ est un opérateur symétrique alors $T^*$ et $T^{**}$ sont deux extensions fermées de $T$ avec

$$T \subset T^{**} \subset T^*.$$

(iii) Si $T$ est un opérateur symétrique fermé alors

$$T = \overline{T} = T^{**} \subset T^*.$$

(iv) Si $T$ est un opérateur auto-adjoint alors il est fermé et on aura

$$T = T^{**} = T^*.$$

On en déduit qu'un opérateur non-borné symétrique fermé est auto-adjoint ssi l'adjoint $T^*$ est symétrique.
**Propriétés 3** Soient $T$ et $S$ des opérateurs non-bornés à domaine denses. Alors :

1. $T \subset S \implies S^* \subset T^*$ 2. $(T+S)^* \supset T^* + S^*$ si $T+S$ est à domaine dense. 3. $(ST)^* \supset T^*S^*$ si $ST$ est à domaine dense. 4. $(T+S)^* = T^* + S^*$ si $S$ est borné. 5. $(ST)^* = T^*S^*$ si $S$ est borné (à gauche).

### 1.2.3 Opérateurs normaux-Opérateurs nilpotents non-bornés

Dans cette section on s’intéresse aux opérateurs normaux et nilpotents qui feront l’objet de notre thèse. Pour cela rappelons quelques faits bien établis !

**Définition 1.2.25** Soit $T$ un opérateur non-borné de domaine $D(T)$ dense.

* On dit que $T$ est un opérateur normal s’il est fermé et $T^*T = TT^*$.

* On dit qu’il est hyponormal si $D(T) \subset D(T^*)$ et $\|T^*x\| \le \|Tx\|, \forall x \in D(T)$.

**Proposition 1.2.26** Si $T$ est fermé et $TT^* \subset T^*T$ alors $T$ est normal.

**Preuve.** Il en résulte du théorème de Von-Neuman que si $T$ est fermé alors $TT^*$ est auto-adjoint. On aura donc

$$ 
\begin{align*}
TT^* \subset T^*T &\Rightarrow (T^*T)^* \subset (TT^*)^* \\
&\Rightarrow T^*T \subset TT^* \\
&\Rightarrow TT^* = T^*T
\end{align*}
$$

D'où $T$ est normal. ■

**Lemme 1.2.27** Soit $T$ un opérateur non-borné fermé de domaine $D(T)$ densément défini. Si $T'$ est une restriction de $T$ sur $D(T^*T)$ alors $\Gamma(T')$ est dense dans $\Gamma(T)$, c'est-à-dire, $\overline{\Gamma(T')}$ = $\Gamma(T)$.
**Proposition 1.2.28** Si T est un opérateur normal alors

$$D(T) = D(T^*) \text{ et } \|T^*x\| = \|Tx\|, \forall x \in D(T)$$

**Preuve.** Conséquence du lemme précédent! ■

**Corollaire 1.2.29** 1) Tout opérateur auto-adjoint est normal.

2) L'adjoint d'un opérateur normal est normal.

3) Si T est normal, alors $T + \alpha$ l'est aussi pour tout $\alpha \in \mathbb{k}$.

Avant de passer aux opérateurs nilpotents, parlons des opérateurs itérés non-bornés $T^n$ pour tout $n \in \mathbb{N}^*$.

**Définition 1.2.30** Soit T un opérateur non-borné de domaine $D(T)$ dense. On définit l'opérateur itéré non-borné $T^n$ pour tout $n \in \mathbb{N}^*$, de domaine $D(T^n)$ par

$$T^n = \underbrace{TT...T}_{n-\text{fois}}$$

tel que

$$D(T^n) = \{x \in D(T), T^{n-1}x \in D(T)\}.$$

Notons que $D(T^n)$ n'est pas toujours dense dans $H$.

**Exemple 1.2.31** Considérons $Af = \mathcal{F}(f)$ où $\hat{f}$ est la transformée de Fourier qui est définie sur $D(A) = C_0^\infty(\mathbb{R}) \subset L^2(\mathbb{R})$ ($C_0^\infty(\mathbb{R})$ est l'espace des fonctions de classe $C^\infty(\mathbb{R})$ à support compact inclus dans $\mathbb{R}$). Alors

$$D(A^2) = \{f \in D(A), Af \in D(A)\} = \{f \in C_0^\infty(\mathbb{R}), \hat{f} \in C_0^\infty(\mathbb{R})\} = \{0\}$$
Voyons maintenant le comportement topologique d'un tel opérateur !

**Théorème 1.2.32** Soit $T$ un opérateur non-borné et inversible de domaines dense, alors $T^n$ est un opérateur fermé. Si de plus $T^n$ est densément défini pour tout $n \in \mathbb{N}^*$, alors

$$ (T^n)^* = (T^*)^n, \forall n \in \mathbb{N}^*. $$

D'ailleurs, si $T$ est normal, $T^n$ l'est aussi.

**Preuve.** L'opérateur $T$ est fermé puisqu'il est densément défini et inversible, il en est de même pour $T^2$ car $T$ est fermé et inversible. Ainsi de suite pour $T^n$, on concluera que $T^n$ est fermé.

Par récurrence, on a pour $n = 1$, $T^* = T^*$ et pour $n = 2$,

$$ (TT)^* = T^*T^* = (T^*)^2 $$

car $T$ est fermé inversible et commute avec lui même. Maintenant, par hypothèse, on trouve

$$ \begin{aligned} (T^{n+1})^* &= (T^n T)^* = T^*(T^n)^* \\ &= T^*(T^*)^n = (T^*)^{n+1}. \end{aligned} $$
D'où, $(T^n)^* = (T^*)^n, \forall n \in \mathbb{N}^*$. Si $T$ est normal, d'après ce qui précède $T^n$ est fermé. On aura donc

$$ 
\begin{align*}
T^n(T^n)^* &= T^n(T^*)^n = (TT^*)^n \\
&= (T^*T)^n = (T^*)^n T^n \\
&= (T^n)^*T^n,
\end{align*}
$$

ce qui signifie que $T^n$ est normal. ■

<figure><img src="image_4.png" /></figure>

Comme déjà évoqué, la nilpotence occupe une grande place dans notre travail. Donnons alors la définition d'un opérateur *nilpotent non-borné*. Nous choisissons d'utiliser la définition de Ôta dans [28] (remarquons que S. Ôta a donné la définition dans le cas $n = 2$).

**Définition 1.2.33** Soit $T$ un opérateur non nécessairement borné avec un domaine dense $D(T)$. On dit que $T$ est **nilpotent** si $T^n$ est bien défini et

$$ T^n = 0 \text{ sur } D(T) $$

pour un certain $n \in \mathbb{N}$ (donc $D(T^n) = D(T^{n-1}) = \cdots D(T)$).

Un résultat très intéressant nous a attiré permettant de constater qu'il n'y a pas d'opérateurs *nilpotents auto-adjoints non-bornés* ! Ce dernier, sera utile pour montrer un résultat original par la suite. Ennoçons-le :

**Lemme 1.2.34** (cf. [32]) Si $H$ et $K$ sont deux espaces de Hilbert et si $T : D(T) \subset$
$H \to K$ est un opérateur fermé densément défini, alors

$$D(T) = D(T^*T) \iff T \in B(H, K).$$

**Remarque 1.2.35** Puisque pour un $T$ normal, $D(T^*T) = D(T^2)$ on voit qu'il n'y a pas non plus d'opérateurs nilpotents normaux non-bornés. Qu'en est-il des opérateurs symétriques fermés non-bornés ? En fait, c'est un résultat original établi dans le troisième chapitre.

## 1.2.4 Spectre des opérateurs non-bornés

**Définition 1.2.36** Soit $T$ un opérateur non-borné sur un Hilbert $H$ de domaine dense. On appelle **ensemble résolvant** de l'opérateur $T$ l'ensemble

$$ \rho(T) = \left\{ \lambda \in \mathbb{C}, \underbrace{\overline{ran(\lambda I - T)}}_{(i)} = H \text{ et } (\lambda I - T) \text{ est inversible de } D(T) \text{ dans } ran(\lambda I - T), \underbrace{d'inverse \ borné}_{(ii)} \right\}. $$

On note $R_\lambda(T) = (T - \lambda I)^{-1}$ pour tout $\lambda \in \rho(T)$. $R_\lambda(T)$ est appelé opérateur résolvant ou bien résolvante de $T$.

**Remarque 1.2.37** Si $T$ est un opérateur fermé sur $H$ alors :

$$\rho(T) = \{ \lambda \in \mathbb{C}, (T - \lambda I)^{-1} \text{ existe et est dans } B(H) \}.$$

**Définition 1.2.38** Soit $T$ un opérateur non-borné sur $H$, on désigne par $\sigma(T)$ le
complémentaire dans $\mathbb{C}$ de l'ensemble résolvant. $\sigma(T)$ est appelé le **spectre** de l'opérateur $T$.

**Remarque 1.2.39** Si $\lambda \in \rho(T) \Leftrightarrow (i)$ et (ii) de $\rho(T)$ sont satisfaites. Ainsi,

$$ \lambda \in \sigma(T) \iff \left\{ \begin{array}{l} (i) \text{ est satisfaite et pas (ii)} \\ (ii) \text{ est satisfaite et pas (i)} \\ (i) \text{ et (ii) ne sont pas satisfaites} \end{array} \right\} $$

et on retrouve donc que le spectre $\sigma(T)$ est la réunion de trois ensembles disjoints notés respectivement (comme dans la partie spectre et résolvante d'un opérateur borné) $\sigma_p(T)$, $\sigma_c(T)$, $\sigma_r(T)$ appelés respectivement spectre ponctuel, spectre continue et spectre résiduel de l'opérateur $T$.

**Proposition 1.2.40** Soit $T$ un opérateur fermé sur un Hilbert $H$ de domaine dense alors :

1. $\rho(T)$ est un ouvert dans $\mathbb{C}$.

2. L'application $\lambda \to R_\lambda(T)$ de $\rho(T)$ dans $B(H)$ est holomorphe sur toute composante connexe de $\rho(T)$.

**Remarque 1.2.41** Il n'est pas intéressant de mettre en évidence le spectre des opérateurs qui ne sont pas fermés. Car si $T$ n'est pas fermé alors $\rho(T) = \emptyset$. En effet, supposons que $\rho(T) \neq \emptyset$, alors $(T - \lambda I)^{-1}$ est borné. D'après (iii) de la Proposition 1.2.13, l'opérateur $(\lambda I - T)$ est fermé, or $T = (T - \lambda I) + \lambda I$. Par suite, en vertue (i) de la Proposition 1.2.13, on déduit que $T$ est fermé.
**Exemple 1.2.42** Soit $A = \frac{d}{dx}$ l'opérateur défini sur $(C[a, b], \|\cdot\|_{\infty})$ de domaine

$$D(A) = \{ \varphi \in C^1([a, b]), \varphi(a) = 0 \}.$$

Alors $\rho(A) = \mathbb{C}$ et $\sigma(A) = \emptyset$. En effet, si $\lambda \in \mathbb{C}$, on montre que $\text{ran}(\lambda I - A) = C[a, b]$. Soit $\Psi \in C[a, b]$, trouvons $\varphi \in D(A)$ tel que $(\lambda I - A)\varphi = \Psi$, c'est-à-dire,

$$\left\{ \begin{array}{l} \lambda\varphi(x) - \varphi'(x) = \Psi(x) \\ \varphi(a) = 0 \end{array} \right. .$$

En résolvant l'équation différentielle ci-dessus, on trouve pour tout $x \in [a, b]$,

$$\varphi(x) = e^{\lambda x} \int_a^x e^{-\lambda t} \Psi(t) dt = (\lambda I - A)^{-1} \Psi.$$

D'où, il existe $M > 0$ tel que

$$\|(\lambda I - A)^{-1} \Psi\|_{\infty} = \|\varphi\|_{\infty} \le M \|\Psi\|_{\infty}, \forall x \in [a, b],$$

et par suite $\lambda I - A$ est inversible de $D(A)$ dans $C[a, b]$ d'inverse borné. Par conséquent, $\rho(A) = \mathbb{C}$ et $\sigma(A) = \emptyset$.

**Théorème 1.2.43** Le spectre d'un opérateur $T$ auto-adjoint est toujours réel, i.e. $\sigma(T) \subset \mathbb{R}$.
**Preuve.** Soit $\lambda \in \mathbb{C}\backslash\mathbb{R}$, $\lambda = \alpha + i\beta$ avec $\alpha, \beta \in \mathbb{R}$. Pour tout $x \in D(T)$, on a par un calcul direct

$$ \|(\lambda I - T)x\|^2 = \|(\alpha I - T)x\|^2 + \beta^2 \|x\|^2. $$

On en déduit que $(\lambda I - T)$ est injective. Montrons que $ran(\lambda I - T)$ est un fermé. En effet, soit $(y_n)_n$ une suite convergente vers $y$ dans $H$ telle que $y_n = (\lambda I - T)x_n$ avec $x_n \in D(T)$. Il résulte de l'égalité ci-dessus que $(x_n)_n$ converge vers $x \in H$. Comme $T$ est fermé, la suite $(x_n, Tx_n) \in \Gamma(T)$ converge dans $\Gamma(T)$ vers $(x, \lambda x - y)$. Par conséquent, $x \in D(T)$ et $\lambda x - y = Tx$.

Montrons que $ran(\lambda I - T)$ est dense dans $H$. Soit $y \in ran(\lambda I - T)^\perp$ alors

$$ \langle y, Tx \rangle = \lambda \langle y, x \rangle, \quad \forall x \in D(T) $$

Il en résulte que $y \in D(T^*) = D(T)$ et que $T^*y = Ty = \bar{\lambda}y$ puisque $D(T)$ est dense. D'où, $y = 0$ en utilisant l'égalité comme préccédemment avec $\bar{\lambda}$ à la place de $\lambda$. On en déduit que $(\lambda I - T)$ est inversible. De plus, on a l'égalité

$$ |\beta| \|(\lambda I - T)^{-1}y\| \le \|y\|, \quad \forall y \in H. $$

découlant de la première égalité. Voir [5] pour une autre preuve. ■
Maintenant, Faisons un saut aux opérateurs matriciels non-bornés et donnons juste ce que nous allons besoin comme notions de bases utiles par la suite.

## 1.3 Matrices d'opérateurs linéaires

Pour les besoins de cette thèse, on se contente de définir les matrices d'opérateurs d'ordre $2 \times 2$. Ces notions restent valables dans le cas général.

Dans toute la suite $H$ et $K$ désigneront deux $k$-espaces de Hilbert et $H \oplus K \simeq H \times K$.

### 1.3.1 Opérateurs matriciels bornés

**Définition 1.3.1** *Soit $A : H \oplus K \to H \oplus K$ défini comme*

$$A = \begin{pmatrix} A_{11} & A_{12} \\ A_{21} & A_{22} \end{pmatrix}$$

où

$$A_{11} \in B(H)$$

$$A_{12} \in B(K, H)$$

$$A_{21} \in B(H, K)$$

$$A_{22} \in B(K)$$

alors $A$ est appelé **matrice d'opérateurs** ou un **opérateur matriciel d'ordre**
2 × 2 et pour tout $(x, y) \in H \oplus K$, on écrit :

$$A \begin{pmatrix} x \\ y \end{pmatrix} = \begin{pmatrix} A_{11}x + A_{12}y \\ A_{21}x + A_{22}y \end{pmatrix}.$$

**Remarque 1.3.2** Il faut être méfiant concernant quelques comportements innaten-dus de ce genre d'opérateurs. Par exemple, prenons

$$A = \begin{pmatrix} I & I \\ I & I \end{pmatrix}.$$

1) Si tous les $A_{ij}$, $i, j \in \{1, 2\}$ sont inversibles, alors $A$ n'est pas nécessairement inversible. En effet, $A_{11} = A_{12} = A_{21} = A_{22} = I$ est inversible mais $A$ n'est pas injectif sur $H \oplus K$ :

$$A \begin{pmatrix} x \\ y \end{pmatrix} = \begin{pmatrix} x + y \\ x + y \end{pmatrix} \quad \text{avec} \quad A \begin{pmatrix} -1 \\ 1 \end{pmatrix} = \begin{pmatrix} 0 \\ 0 \end{pmatrix} \quad \text{et} \quad \begin{pmatrix} -1 \\ 1 \end{pmatrix} \neq \begin{pmatrix} 0 \\ 0 \end{pmatrix}.$$

2) Si toutes les entrées $A_{11}, A_{12}, A_{21}, A_{22}$ commutent deux à deux, alors $A$ est inversible ssi $A_{11}A_{22} - A_{12}A_{21}$ (appelé déterminant formel de $A$, noté $\det A$) est inversible.

3) $A$ peut être inversible si aucune de ces entrées l'est. Par exemple,

$$T = \begin{pmatrix} A & B \\ -B & A \end{pmatrix}$$
avec

$$Af(x) = \cos xf(x)$$

$$Bf(x) = \sin xf(x)$$

les deux définies sur $L^2(\mathbb{R})$. " Rappelons que l'opérateur de multiplication par une fonction continue est inversible ssi la fonction est non identiquement nulle".

Puisque cos et sin s'annulent aumoins une fois sur $\mathbb{R}$, A et B sont des opérateurs non-inversibles. Puisque A et B commutent, il s'ensuit par 2) que $\det T = A^2 + B^2$ est inversible, c'est-à dire, $\det Tf(x) = (\cos^2 + \sin^2)f(x) = f(x)$. En d'autre termes, $\det T = I$ sur $L^2(\mathbb{R})$.

**Proposition 1.3.3** Si A est une matrice d'opérateurs, alors :

$$A^* = \begin{pmatrix} A_{11} & A_{12} \\ A_{21} & A_{22} \end{pmatrix}^* = \begin{pmatrix} A_{11}^* & A_{21}^* \\ A_{12}^* & A_{22}^* \end{pmatrix}.$$

En particulier, $\begin{pmatrix} 0 & A \\ A^* & 0 \end{pmatrix}$ et $\begin{pmatrix} 0 & A^* \\ A & 0 \end{pmatrix}$ sont toujours auto-adjointes.

## 1.3.2 Opérateurs matriciels non-bornés

Supposons maintenant qu'aumoins une des entrées est non-bornée et n'est pas partout définie. Plus précisément, si A, B, C et D ont les domaines $D(A)$, $D(B)$, $D(C)$
et $D(D)$ repectivement, alors l'opérateur matriciel $T = \begin{pmatrix} A & B \\ C & D \end{pmatrix}$ a pour domaine

$$D(T) = (D(A) \cap D(C)) \oplus (D(B) \cap D(D)).$$

$$\text{Donc, si } \begin{pmatrix} x \\ y \end{pmatrix} \in D(T) : T \begin{pmatrix} x \\ y \end{pmatrix} = \begin{pmatrix} Ax + By \\ Cx + Dy \end{pmatrix}.$$

**Remarque 1.3.4** 1) Les opérateurs non-bornés n'admettent pas toujours une telle décomposition.

2) Si toutes les entrées sont fermées alors $T$ n'est pas nécessairement fermé. De plus, $T$ ne peut même pas être fermable.

3) On peut avoir

$$\begin{pmatrix} A & B \\ C & D \end{pmatrix} = \begin{pmatrix} A' & B' \\ C' & D' \end{pmatrix}$$

où $A \neq A'$, $B \neq B'$, $C \neq C'$ et $D \neq D'$ (contrairement au cas borné).

4) On peut avoir aussi pour $A, B, C$ et $D$ non-bornés, l'opérateur $T = \begin{pmatrix} A & B \\ C & D \end{pmatrix}$ devient borné.

5) Il y a $T = \begin{pmatrix} A & B \\ C & D \end{pmatrix}$ et $T' = \begin{pmatrix} A' & B' \\ C' & D' \end{pmatrix}$ tels que

$$TT' \neq \begin{pmatrix} AA' + BC' & AB' + BD' \\ CA' + DC' & CB' + DD' \end{pmatrix} = S$$
même si tous les produits et les sommes de S sont bien définis.

6) Il existent A, B, C et D tels que

$$ \overline{\begin{pmatrix} A & B \\ C & D \end{pmatrix}} \neq \begin{pmatrix} \bar{A} & \bar{B} \\ \bar{C} & \bar{D} \end{pmatrix}. $$

7) En général,

$$ \begin{pmatrix} A & B \\ C & D \end{pmatrix}^* \neq \begin{pmatrix} A^* & C^* \\ B^* & D^* \end{pmatrix} $$

lorsque A, B, C et D sont denséments définis.

8) Il existent des opérateurs non-auto-adjoints A, B, C et D mais $T = \begin{pmatrix} A & B \\ C & D \end{pmatrix}$ est auto-adjoint.

Donnons maintenant quelques contre-exemples :

**Exemple 1.3.5** 1) Soit $T = \begin{pmatrix} A & B \\ 0 & 0 \end{pmatrix}$ avec $D(T) = D(A) \times D(B)$. Montrons que si A et B sont fermés alors $T$ n'est jamais fermable. Donc, il suffit de prouver que $D(T^*)$ n'est pas dense dans H. Ecrivons :

$$ T = \begin{pmatrix} I & I \\ 0 & 0 \end{pmatrix} \begin{pmatrix} A & 0 \\ 0 & B \end{pmatrix} $$
Donc, puisque A et B sont auto-adjoints, on obtient

$$T^* = \underbrace{\begin{pmatrix} A & 0 \\ 0 & B \end{pmatrix}}_{\tilde{T}} \begin{pmatrix} I & 0 \\ I & 0 \end{pmatrix}$$

alors

$$ 
\begin{aligned}
D(T^*) &= \left\{ \begin{pmatrix} x \\ y \end{pmatrix} \in H \times H, \begin{pmatrix} I & 0 \\ I & 0 \end{pmatrix} \begin{pmatrix} x \\ y \end{pmatrix} \in D(\tilde{T}) \right\} \\
&= \left\{ \begin{pmatrix} x \\ y \end{pmatrix} \in H \times H, \begin{pmatrix} x \\ x \end{pmatrix} \in D(A) \times D(B) \right\} \\
&= (D(A) \cap D(B)) \times H \\
&= \{0\} \times H
\end{aligned}
$$

qui n'est pas dense dans H.

2) Ils existent A, B, C, D, A', B', C', D' et D' tels que

$$ 
\left\{ 
\begin{array}{l}
A = A' \\
B = B' \\
C = C' \\
D = D'
\end{array} 
\right. 
\quad \text{mais} 
\quad 
\begin{pmatrix} A & B \\ C & D \end{pmatrix} = \begin{pmatrix} A' & B' \\ C' & D' \end{pmatrix} 
$$
Soit $A \subset B$ avec $D(A) \neq D(B)$. Posons $T = \begin{pmatrix} A & 0_{D(A)} \\ 0_{D(B)} & B \end{pmatrix}$ et $S = \begin{pmatrix} B & 0_{D(B)} \\ 0_{D(A)} & A \end{pmatrix}$,

alors $A \neq B$ avec $0_{D(B)} \neq 0_{D(A)}$ et on montre que $T = S$. Clairement, $D(T) =$

$D(A) \times D(A) = D(S)$ et pour tout $\begin{pmatrix} x \\ y \end{pmatrix} \in D(A) \times D(A)$, on a

$$
T \begin{pmatrix} x \\ y \end{pmatrix} = \begin{pmatrix} Ax \\ By \end{pmatrix} = \begin{pmatrix} Bx \\ Ay \end{pmatrix} = S \begin{pmatrix} x \\ y \end{pmatrix},
$$

ce qui signifie que $T = S$.

3) Soient A, B, C et D des opérateurs non-bornés avec $D(A) \cap D(C) = \{0\}$ et $D(B) \cap D(D) = \{0\}$. Posons $T = \begin{pmatrix} A & B \\ C & D \end{pmatrix}$, alors $T$ est trivalement borné pour $D(T) = \{0_{H \times H}\}$.

4) En général, Soient $T = \begin{pmatrix} A & 0 \\ 0 & A \end{pmatrix}$, $S = \begin{pmatrix} A & A \\ 0 & 0 \end{pmatrix}$ et $B = \begin{pmatrix} I & I \\ 0 & 0 \end{pmatrix}$,

alors $TB \neq S$. En effet,

$$
\begin{align*}
D(TB) &= \{(x, y) \in H \times H, (x + y, 0) \in D(A) \times D(A)\} \\
&\neq D(A) \times D(A) = D(S).
\end{align*}
$$

Si on choisit $A$ fermé et non-borné alors $D(A) \neq H$. Maintenant, $(\alpha, -\alpha) \in D(TB)$ et $(\alpha, -\alpha) \notin D(A) \times D(A)$ si $\alpha \in H$ mais $\alpha \notin D(A)$.

_Pour le cas 6), 7) et 8) de la Remarque 1.3.4, voir [27].
**Proposition 1.3.6** Soit $T = \begin{pmatrix} A & B \\ C & D \end{pmatrix}$ un opérateur matriciel de domaine $D(T) = (D(A) \cap D(C)) \oplus (D(B) \cap D(D))$. Si chaque $A$ et $D$ ou $B$ et $C$ sont partout bornés et les deux autres sont fermés, alors $T$ est fermé.

**Preuve.** On peut toujours écrire

$$T = \begin{pmatrix} A & 0 \\ 0 & D \end{pmatrix} + \begin{pmatrix} 0 & B \\ C & 0 \end{pmatrix}$$

comme la somme d'une matrice borné et l'autre fermée. Donc, si par exemple $A$ et $D$ sont fermés alors $S = \begin{pmatrix} A & 0 \\ 0 & D \end{pmatrix}$ est fermé. En effet, Soit $\begin{pmatrix} x_n \\ y_n \end{pmatrix} \in D(A) \times D(D)$ tel que

$$ \left\{ \begin{array}{l} \begin{pmatrix} x_n \\ y_n \end{pmatrix} \to \begin{pmatrix} x \\ y \end{pmatrix} \\ \text{et} \\ S \begin{pmatrix} x_n \\ y_n \end{pmatrix} \to \begin{pmatrix} z \\ t \end{pmatrix} \end{array} \right. , $$
on doit montrer que

$$ egin{cases} 
\begin{pmatrix} x \\ y \end{pmatrix} \in D(A) \times D(D) \\ \\
\text{et} \\ \\
\begin{pmatrix} z \\ t \end{pmatrix} = S \begin{pmatrix} x \\ y \end{pmatrix} = \begin{pmatrix} Ax \\ Dy \end{pmatrix} 
\end{cases} . $$

Puisque

$$ S \begin{pmatrix} x_n \\ y_n \end{pmatrix} = \begin{pmatrix} Ax_n \\ Dy_n \end{pmatrix} \longrightarrow \begin{pmatrix} z \\ t \end{pmatrix} $$

et les deux $A$ et $D$ sont fermés, on aura

$$ \begin{cases} x \in D(A) \text{ et } Ax = z \\ y \in D(D) \text{ et } Dy = t \end{cases} $$

ce qui signifie que $S$ est fermé. Similairement, on peut montrer la fermeture de $\begin{pmatrix} 0 & B \\ C & 0 \end{pmatrix}$ dans le cas $B$ et $C$ sont fermés. $T$ est clairement fermé comme la somme d'un opérateur fermé et l'autre (partout) borné. $\blacksquare$

Passons maintenant au cas de l'adjoint ! On a déjà observé que $\begin{pmatrix} A & B \\ C & D \end{pmatrix}^* \neq \begin{pmatrix} A^* & C^* \\ B^* & D^* \end{pmatrix}$. Cependant, on a :
**Proposition 1.3.7** *Soit $T = \begin{pmatrix} A & 0 \\ 0 & D \end{pmatrix}$ et $S = \begin{pmatrix} 0 & B \\ C & 0 \end{pmatrix}$ où tous les $A, B, C$ et $D$ sont densément définis, alors*

$$T^* = \begin{pmatrix} A^* & 0 \\ 0 & D^* \end{pmatrix} \quad \text{et} \quad S^* = \begin{pmatrix} 0 & C^* \\ B^* & 0 \end{pmatrix}.$$

Donc on aura le lemme suivant :

**Lemme 1.3.8** • $T$ est auto-adjoint $\Leftrightarrow A$ et $D$ sont auto-adjoints.

• $S$ est auto-adjoint $\Leftrightarrow B$ est fermé et $C = B^*$.

**Exemple 1.3.9** 1) Si $A$ est fermé alors $T = \begin{pmatrix} 0 & A \\ A^* & 0 \end{pmatrix}$ est auto-adjoint.

$$2) \quad \begin{pmatrix} A & B \\ 0 & 0 \end{pmatrix}^* = \begin{pmatrix} A^* & 0 \\ B^* & 0 \end{pmatrix}. \text{ En effet,}$$

$$\begin{pmatrix} A & B \\ 0 & 0 \end{pmatrix} = \underbrace{\begin{pmatrix} I & I \\ 0 & 0 \end{pmatrix}}_{\text{borné}} \begin{pmatrix} A & 0 \\ 0 & B \end{pmatrix}$$
Donc

$$
\begin{pmatrix} A & B \\ 0 & 0 \end{pmatrix}^* &= \underbrace{\begin{pmatrix} A^* & 0 \\ 0 & B^* \end{pmatrix}}_{S} \underbrace{\begin{pmatrix} I & 0 \\ I & 0 \end{pmatrix}}_{\tilde{I}} \\
&= \begin{pmatrix} A^* & 0 \\ B^* & 0 \end{pmatrix}
$$

avec domaine

$$
\begin{align*}
D(T^*) = D(S\tilde{I}) &= \left\{ (x, y) \in H \times H, \tilde{I} \begin{pmatrix} x \\ y \end{pmatrix} = \begin{pmatrix} x \\ x \end{pmatrix} \in D(S) = D(A^*) \times D(B^*) \right\} \\
&= D(A^*) \cap D(B^*) \times H.
\end{align*}
$$

**Théorème 1.3.10** " Von Newman" Si T est un opérateur fermé densément défini
alors TT* et T*T sont auto-adjoints.

$$
\textbf{Preuve.} \text{ Soit } A = \begin{pmatrix} 0 & T \\ T^* & 0 \end{pmatrix}. \text{ Donc}
$$

$$
\begin{align*}
A^* &= \begin{pmatrix} 0 & T^{**} \\ T^* & 0 \end{pmatrix} = \begin{pmatrix} 0 & \bar{T} \\ T^* & 0 \end{pmatrix} \\
&= \begin{pmatrix} 0 & T \\ T^* & 0 \end{pmatrix} = A
\end{align*}
$$
puisque $T$ est fermé. Cependant, $A$ est auto-adjoint. Ainsi, $A^2$ est aussi auto-adjoint. Par conséquent,

$$ 
\begin{aligned}
A^2 &= \begin{pmatrix} 0 & T \\ T^* & 0 \end{pmatrix} \begin{pmatrix} 0 & T \\ T^* & 0 \end{pmatrix} \\
&= \begin{pmatrix} TT^* & 0 \\ 0 & T^*T \end{pmatrix}.
\end{aligned}
$$

Par le Lemme 1.3.8, $TT^*$ et $T^*T$ sont auto-adjoints. ■
# Chapitre 2

## Racines carrées d'opérateurs linéaires

Ce chapitre est consacré principalement à l'étude des racines carrées d'opérateurs linéaires bornés et non-bornés ainsi que de leurs propriétés de base. On se propose d'introduire de nombreux exemples concernant la fermeture et la fermabilité de ces dernières. A titre d'illustration, nous donnons des racines non-fermables de l'opérateur nul. Nous montrons également qu'un opérateur non-borné non-fermable sans aucune racine carrée fermable. L'inversibilité et l'adjonction des racines carrées feront leurs place, et qui seront exploitées pour donner une autre description aboutissant à des résultats connexes sur la nilpotence des opérateurs.

On note que l'essentiel de ce chapitre est emprunté des références [9] et [26]. Pour des résultats plus généraux, voir [9] et [27].
## 2.1 Racines carrées d'opérateurs bornés

Dans cette section on va rappeler quelques résultats bien connus sur l'existence des racines carrées d'opérateurs linéaires bornés (positifs) et nous donnons quelques exemples.

**Définition 2.1.1** Soit $A \in B(H)$. On dit que $B \in B(H)$ est une **racine carrée de A** si $B^2 = A$.

**Remarque 2.1.2** Nous pouvons de la même manière définir une racine cubique. En effet, on dit que $B \in B(H)$ est **une racine cubique de A** si $B^3 = A$.

Plus généralement, on dit que $B \in B(H)$ est une **racine n-ième de A** si $B^n = A$ (où $n \in \mathbb{N}$).

Revenons aux racines carrées :

**Exemple 2.1.3** Une racine carrée de

$$ \begin{pmatrix} 1 & 0 \\ 0 & 2 \end{pmatrix} $$

est :

$$ \begin{pmatrix} 1 & 0 \\ 0 & \sqrt{2} \end{pmatrix}. $$

Une autre est :

$$ \begin{pmatrix} -1 & 0 \\ 0 & \sqrt{2} \end{pmatrix}. $$
**Remarque 2.1.4** Y en a-t-il plus ? La réponse est oui ! En fait, on peut montrer que si une matrice $2 \times 2$ a deux valeurs propres distinctes non nulles, alors cette matrice a quatre racines carrées. Le "quatre" correspond ici à $2^2$ car on peut également montrer qu'une matrice $n \times n$ avec n valeurs propres différentes non nulles a $2^n$ racines carrées. Le fait que les valeurs propres non nulles doivent être différentes est essentiel comme le montre l'exemple suivant.

Un opérateur $A \in B(H)$ peut n'en avoir aucune (voir la section "Vrai ou Faux" (cf. [19], [34]) comme il peut avoir une infinité de racines carrées. Par exemple,

**Exemple 2.1.5 1) Soit sur $\mathbb{R}^2$ la matrice A telle que**

$$A = \begin{pmatrix} -1 & 0 \\ 0 & 1 \end{pmatrix}.$$

Alors A n'a pas de racines carrées. En effet, s'il existe une matrice B réelle telle que $B^2 = A$, alors

$$\det B^2 = (\det B)^2 = \det A = -1 \qquad \underbrace{\qquad}_{\in \mathbb{R}}$$

ce qui est contradictoire.

2) Soit $I$ la matrice identité $2 \times 2$, i.e.

$$I = \begin{pmatrix} 1 & 0 \\ 0 & 1 \end{pmatrix}.$$
Alors $I$ a une infinité de racines carrées. En effet,

$$A_x = \begin{pmatrix} x & 1 \\ 1-x^2 & -x \end{pmatrix}$$

représente, pour chaque $x \in \mathbb{R}$, une racine carrée de $I$ (car $A_x^2 = I$ quel que soit $x$).

**Remarque 2.1.6** (1) Nous savons déjà grâce à un cours avancé d'algèbre linéaire (cf. [3]) qu'un opérateur inversible $A \in B(H)$ a une racine carrée tant que $\dim H < \infty$ avec $H$ complexe. Ceci, malheureusement, ne reste pas nécessairement vrai si $\dim H = \infty$. Halmos et al. a donné un contre-exemple dans [15]. Voir aussi [16].

(2) Voir [29] pour en savoir plus sur les racines carrées des matrices.

(3) Par le théorème spectral, chaque opérateur auto-adjoint a une racine cubique.

(4) En général, les opérateurs normaux (a fortiori auto-adjoints) ont des racines carrées. Une preuve est basée sur le théorème spectral. En effet, le théorème spectral stipule que tout opérateur normal $N$ s'écrit d'une manière unique sous la forme

$$N = \int_{\sigma(N)} \lambda dE$$

où $E$ est une mesure spectrale telle que définie dans [31] ou [35]. Par le calcul fonctionnel,

$$\sqrt{N} = \int_{\sigma(N)} \sqrt{\lambda} dE$$

est une racine carrée de $N$, où $\sqrt{\lambda}$ est l'une des deux racines complexes de $\lambda$. Voir aussi [23].
(5) Une équation comme $M^2 = N$, pour $N \in B(H)$ normal, peut avoir d'autres racines carrées non normales. Voir exercice 6.3.9 dans [23] pour les conditions garantissant que M soit normal.

Cependant, un opérateur positif a une et une seule racine carrée positive. Nous avons

**Théorème 2.1.7** Soit $A \in B(H)$ positif. Alors $A$ possède une **unique racine carée positive** notée par $\sqrt{A}$ (ou $A^{\frac{1}{2}}$). De plus, if $B \in B(H)$ est tel que $AB = BA$, alors $\sqrt{AB} = B\sqrt{A}$.

**Preuve.** La preuve se fait en quatre étapes. Soit $A \in B(H)$ positif, alors

1. On suppose que $\|A\| \le 1$. On définit une suite $(B_n)$ d'opérateurs dans $B(H)$ par

$$ \begin{cases} B_0 = 0 \\ B_{n+1} = B_n + \frac{1}{2}(A - B_n^2). \end{cases} $$

On montre que $(B_n)$ est une suite croissante d'opérateurs positifs auto-adjoints supérieurement bornée.

2. On déduit que $(B_n)$ converge fortement vers $B \in B(H)$ positif tel que $B^2 = A$. En déduire aussi que tout opérateur qui commute avec $A$ commute avec $B$.

3. On obtient la même conclusion en ne faisant cette fois aucune hypothèse sur la norme $\|A\|$.

4. On montre que si $B$ et $C$ sont positifs et tels que $B^2 = A$ et $C^2 = A$, alors $B = C$.

En effet :
1. Remarquons d'abord que si $A$ est positif et $\|A\| \le 1$, on aura par l'inégalité de C.S $0 \le A \le I$. Une autre observation aussi importante est que la suite $(B_n)$ est un "polynôme" en $A$. Cela implique que tous les $B_n$ commutent deux à deux.

Ensuite, $B_0 = 0$ est évidemment auto-adjoint. Donc, en supposant que $B_n$ est auto-adjoint (et en rappelant que $A$ est auto-adjoint), on peut facilement vérifier que $B_{n+1}$ est aussi auto-adjoint. Par conséquent, tous les $B_n$ sont auto-adjoints. Maintenant, on affirme que $B_n \le I$ pour tout $n$. Ceci est évidemment vrai pour $n = 0$. Supposons que $B_n \le I$. En observant que $(I - B_n)^2 \ge 0$, on a alors

$$I - B_{n+1} = I - B_n - \frac{1}{2}(A - B_n^2) = \frac{1}{2}(I - B_n)^2 + \frac{1}{2}(I - A) \ge 0.$$

Pour prouver que $(B_n)$ est croissante, remarquons que $B_0 \le \frac{1}{2}A = B_1$. En supposant que $B_n \ge B_{n-1}$, on peut écrire

$$B_{n+1} - B_n = \frac{1}{2} [(I - B_{n-1}) + (I - B_n)] (B_n - B_{n-1})$$

qui est positif, autant que produit d'opérateurs positifs qui commutent. En conséquence, nous avons montré que

$$0 = B_0 \le B_1 \le \dots \le B_n \le \dots \le I,$$

comme requis.

2. Puisque $(B_n)$ est croissante, supérieurement bornée, elle converge fortement vers un opérateur auto-adjoint $B \in B(H)$ (voir [21]). Comme chaque $B_n$ est positif,
on a

$$ \langle Bx, x \rangle = \lim_{n \to \infty} \langle B_n x, x \rangle \ge 0 $$

car la convergente forte imlique la convergence faible. Donc, $B \ge 0$. Reste à montrer que $B^2 = A$. Soit $x \in H$, on a par hypothèse

$$ B_{n+1}x = B_n x + \frac{1}{2}(Ax - B_n^2 x). $$

En passant à la limite forte et en utilisant $||B_n^2 x - B^2 x|| \to 0$, on obtient finalement $B^2 = A$. Maintenant, on suppose que $C \in B(H)$ commute avec $A$, i.e. $AC = CA$. On doit montrer que $BC = CB$. Puisque $C$ commute avec $A$, on peut facilement montrer que $C$ commute aussi avec $B_n$, c'est-à-dire $CB_n x = B_n C x$ (pour tout $n$ et tout $x$). D'une part, on voit bien que $B_n C x \to BC x$. D'autre part, en invoquant la continuité (séquentielle) de $C$, on a $CB_n x \to CB x$. Par unicité de la limite forte, on obtient

$$ BCx = CBx, \forall x \in H, $$

comme voulu.

**3.** Si $A = 0$, alors $B = 0$ fera l'affaire. Donc si $A \ne 0$, considérons $T = \frac{A}{||A||}$, on aura $0 \le T \le 1$. Ensuite, on applique ce que nous avons déjà fait ci-dessus.

**4.** Ici, la preuve de l'unicité, bien que n'étant pas compliquée, n'est pas aussi directe qu'on en a l'habitude avec d'autres théorèmes. Nous avons déjà montré que $B^2 = A$. Supposons qu'il existe un autre $C \in B(H)$ positif tel que $C^2 = A$. Il faut montrer que $Bx = Cx$ pour tout $x \in H$. Observons d'abord que $A$ commute clairement avec $C$. Par **2.**, $C$ commute avec $B$ également, c'est-à-dire $BC = CB$. Il
en résulte

$$ (B + C)(B - C) = B^2 - C^2 = A - A = 0. $$

Donc, soit $x \in H$ et posons $y = (B - C)x$, alors

$$ \langle By, y \rangle + \langle Cy, y \rangle = \langle (B + C)y, y \rangle = \langle (B + C)(B - C)x, y \rangle = 0. $$

Comme $B$ et $C$ sont tous deux positifs, on obtient

$$ \langle By, y \rangle = \langle Cy, y \rangle = 0. $$

Par 2. encore une fois, $B \ge 0$ a une racine carrée qu'on note par $D$. C'est-à-dire
$D^2 = B$, d'où

$$ \|Dy\|^2 = \langle Dy, Dy \rangle = \langle D^2y, y \rangle = \langle By, y \rangle = 0 $$

et donc $Dy = 0$. Cela implique que $By = D^2y = D(0) = 0$. En utilisant également
une racine carrée de $C$, nous pouvons de même montrer que $Cy = 0$. Par conséquent,

$$ \|Bx - Cx\|^2 = \langle (B - C)x, (B - C)x \rangle = \langle (B - C)y, x \rangle = 0. $$

En conséquence, $B = C$, i.e. nous avons prouvé que le $A$ positif ne peut avoir qu'une seule racine carrée positive, marquant la fin de la preuve. ■

**Remarque 2.1.8** 1) Remarquez que nous réservons exclusivement la notation $\sqrt{A}$ au carré positif de $A$ et non aux autres racines carrées. En effet, le théorème précédent n'exclut pas qu'un opérateur positif puisse avoir d'autres racines carrées. Il dit qu'un
opérateur positif a une unique racine carrée positive. Par exemple, nous avons déjà
observé que la matrice identité 2 × 2 a une infinité de racines carrées mais, en ce qui
concerne les opérateurs positifs, seuls

$$
\sqrt{I} = I.
$$

2) Le Théorème 2.1.7 a un analogue pour les racines n-ièmes.
## 2.2 Racines carrées d'opérateurs non-bornés

**Définition 2.2.1** Soient $A$ et $B$ deux opérateurs linéaires non-bornés de domaines $D(A)$ et $D(B)$ respectivement. On dit que $B$ est une racine carrée de $A$ si $B^2 = A$ (et donc $D(B^2) = D(A)$). Plus généralement, on dit que $B$ est une **racine n-ième** de $A$ (où $n \in \mathbb{N}$) si $B^n = A$ (et donc $D(B^n) = D(A)$).

**Remarque 2.2.2** Notons que pour le cas $A = 0$ sur $D(A)$, on retrouve la définition des opérateurs nilpotents non bornés. Une objection, pourquoi ne pas utiliser une définition comme $B^2 \subset A$? Le problème est alors qu'il est tout à fait concevable d'avoir $D(B^2) = \{0\}$ (ou des puissances supérieures également). Dans ce cas, $B^2 \subset A$ tient trivalement alors que $A$ peut être n'importe quoi dans $B(H)$ ! Etant donné la diversité d'exemples tels que $D(B^n) = \{0\}$ pour un certain $n$ (comme on peut le voir dans [6], [7], [8], [22] et [30]), une définition comme $B^n \subset A$ ne donnerait donc pas de conclusions trop informatives dans de nombreuses situations.

Il est bien connu que les opérateurs positifs auto-adjoints ont une unique racine carrée positive. Cela n'exclut pas le fait qu'un opérateur positif auto-adjoint peut bien avoir d'autres racines carrées. Les racines carrées positives auto-adjointes des opérateurs positifs auto-adjoints jouent un rôle important. Par exemple, ils interviennent dans la définition de la valeur absolue des opérateurs non bornés. Donnons alors cette définition !

**Définition 2.2.3** (cf. [5]) L'unique racine carrée positive auto-adjointe de $A^*A$ est notée par $|A|$ ($|A| = \sqrt{A^*A}$), on l'appelle la **valeur absolue** ou le **module** de $A$.

**Remarque 2.2.4** Il est également évident que si $A$ est normal, alors $|A| = |A^*|$.
### 2.2.1 Quelques classes d'opérateurs racines carrées non-bornés

Ici on s'intéresse à la fermeture (fermabilité) et l'inversibilité des racines carrées non-bornés, en donnant quelques exemples et résultats. On montre aussi, que les racines carrées adjointes ne sont pas toujours racines carrées de leurs adjoints. Commençons alors par citer quelques résultats biens connus utilis par la suite.

Comme on le sait, si $A$ est un opérateur fermé, alors $A^2$ n'a pas besoin d'être fermé. Il existe des contre-exemples connus, voir e.g. ([19], [33]). D'autre part, il existe des opérateurs fermables ayant des carrés fermées, par exemple si $\mathcal{F}_0$ désigne la restriction de la transformée $L^2(\mathbb{R})$-Fourier au sous-espace dense $C_0^\infty(\mathbb{R})$ (l'espace des fonctions infiniment différentiables à support compact), alors on sait que

$$D(\mathcal{F}_0^2) = \{0\}.$$

Donc $\mathcal{F}_0$ est non fermé alors que $\mathcal{F}_0^2$ est triviallement fermé sur $\{0\}$. En fait, il existe un opérateur non-fermable $A$, défini partout et tel que $A^2 = 0$ sur tout $H$, voir encore [24].

Si $A$ est un opérateur fermable tel que $\bar{A}^2$ est auto-adjoint, alors $A^2$ n'a pas besoin d'être auto-adjoint. Un exemple simple consiste à prendre $A$ comme étant la restriction de l'opérateur identité $I$ (sur $H$) à un sous-espace dense (non fermé) $D$ de $H$. Notons cette restriction par $I_D$. Alors $\bar{A}^2 = I$ entièrement sur $H$ et donc $\bar{A}^2$ est auto-adjoint. Cependant, $A^2$ n'est pas auto-adjoint car $A^2 = I_D$ et donc $A^2$ n'est même pas fermé.

Qu'en est-il de la réciproque ? C'est à dire. si $A$ est fermable et $A^2$ est auto-
adjoint, alors serait-il vrai que $\overline{A}^2$ est auto-adjoint ? Une réponse positive peut être obtenue si l'on vient à montrer que si $A$ est un opérateur fermable avec un carré auto-adjoint, alors $A$ est fermé. Cette question, ainsi que d'autres questions connexes et plus générales, sont examinées dans ce chapitre.

Maintenant, on présente deux exemples d'opérateurs (non-bornés) nilpotents non-fermables. En d'autres termes, on fournit deux racines carrées non-fermables de $0 \in B(H)$.

Le premier exemple est le suivant :

**Exemple 2.2.5** Considérer n'importe quel opérateur non-fermable $B$ avec domaine $D(B) = H$, puis posons

$$A = \begin{pmatrix} 0 & B \\ 0 & 0 \end{pmatrix}$$

avec $D(A) = H \oplus H$. Clairement, $A$ est non-borné. Il est non-fermable, sinon $A \in B(H \oplus H)$ par le théorème du graphe fermé. On a clairement

$$A^2 = \begin{pmatrix} 0 & 0 \\ 0 & 0 \end{pmatrix}$$

partout sur $H \oplus H$.

Le deuxième exemple nous a été communiqué par le Professeur J. Stochel :

**Exemple 2.2.6** Soit $f : H \to \mathbb{C}$ une fonctionnelle ou forme linéaire discontinue (voir [15]) et soit $e$ un vecteur normalisé dans $ker f$. Maintenant, définissons un
opérateur linéaire $A$ sur $H$ par $D(A) = H$ et $Ax = f(x)e$ pour chaque $x \in H$. Alors
pour $x \in H$

$$
A^2 x = A(f(x)e) = f(x)f(e)e = 0.
$$

Donc, $A^2 = 0$ sur $H$ tout entier. En conséquence, $A^2$ est auto-adjoint ! Par suite, $A$
ne peut pas être fermable (voir Proposition 4.5 dans [15]) pour une autre preuve de
la non-fermabilité de $A$).

**Proposition 2.2.7** (cf. [24]) *Il existe un opérateur non fermable sans aucune racine carrée fermable.*

**Preuve.** Soit $A$ un opérateur non-fermable tel que $D(A) = H$ et $A^2 = 0$ partout sur $H$ comme dans l'Exemple 2.2.5 (ou Exemple 2.2.6). Supposons maintenant que $B$ est une racine carrée fermable de $A$, c'est que, $B^2 = A$. Donc $B^4 = A^2 = 0$ partout sur $H$. De plus,

$$
H = D(A^2) = D(B^4) \subset D(B)
$$

Cela signifie que $B$ devra être défini sur tout $H$, et par rappel que $B$ est fer-
mable, il s'ensuit que $B \in B(H)$ et c'est la contradiction recherchée. Par conséquent,
l'opérateur non-fermable $A$ ne possède aucune racine carrée fermable. $\blacksquare$

On sait que $B \in B(H)$ est une racine carrée de $A \in B(H)$ si et seulement si $B^*$ est une racine carrée de $A^*$. Ce n'est pas toujours le cas pour les opérateurs non-bornés.

**Proposition 2.2.8** (cf. [24]) *Il existe un opérateur linéaire densément défini ayant une racine carrée T mais $T^*$ n'est pas la racine carrée de son adjoint.*
**Preuve.** Soit $A$ un opérateur fermé non-borné de domaine $D(A) \subset H$ et soit $I$ l'opérateur identité dans $H$. Alors posons

$$T = \begin{pmatrix} I & A \\ 0 & -I \end{pmatrix}$$

qui est fermé. Ainsi

$$T^2 = \begin{pmatrix} I & A \\ 0 & -I \end{pmatrix} \begin{pmatrix} I & A \\ 0 & -I \end{pmatrix} = \begin{pmatrix} I & 0 \\ 0 & I_{D(A)} \end{pmatrix} := S$$

où $I_{D(A)}$ est l'opérateur identité restreint à $D(A)$. Comme

$$T^* = \begin{pmatrix} I & 0 \\ A^* & -I \end{pmatrix},$$

Il s'en suit que

$$T^{*2} = \begin{pmatrix} I_{D(A^*)} & 0 \\ 0 & I \end{pmatrix}$$

ce qui signifie que $T^*$ n'est pas une racine carrée de $S^* = \begin{pmatrix} I & 0 \\ 0 & I \end{pmatrix}$. ■

Passons maintenant à l'inversibilité des racines carrées !

**Théorème 2.2.9** Soit $T$ un opérateur non nécessairement borné, fermé et densément défini sur un espace de Hilbert $H$. On suppose que $T$ a une racine carrée $S$ fermée et densément définie, telle que, $S^2 = T$. Alors $T$ est d'inverse borné si et
seulement si $S$ est d'inverse borné. Dans un tel cas, $S^{-1}$ est toujours une racine carrée de $T^{-1}$.

**Preuve.** Si $S$ a un inverse borné partout défini, alors $S^2$ ou $T$ a aussi un inverse borné partout défini.

Inversement, supposons que $T$ est d'inverse borné. Puisque $T$ est injectif et $S^2 = T$, il s'ensuit que $S$ est aussi injectif. En passant aux adjoints et en tenant compte de l'injection de $T^*$, on voit facilement que $S^*$ est injectif. Maintenant, clairement

$$S^2 = T \implies S(ST^{-1}) = S^2 T^{-1} = I$$

où $I$ est l'identité sur $H$. Le but est de montrer que $ST^{-1} \in B(H)$. Par la théorie générale, $ST^{-1}$ est fermé car $T^{-1} \in B(H)$. En outre,

$$H = D(S^2 T^{-1}) \subset D(ST^{-1})$$

et donc

$$D(ST^{-1}) = H.$$

Par le Théorème du graphe fermé, $ST^{-1}$ est effectivement dans $B(H)$. Par conséquent, $S$ est inversible à droite. Comme $ker(S = ker(S^*)$, alors le Théorème 2.3 dans [9] nous indique que $S$ est bilatéralement inversible, marquant la fin de la preuve. ■

Un résultat connexe est le suivant :

**Proposition 2.2.10** Soit $T$ et $S$ deux opérateurs linéaires densément définis tels que $S^2 = T$. Si $T$ est inversible à droite, $S$ l'est aussi lorsque $S$ est fermable.
**Preuve.** Puisque $S^2 = T$ et $S \subset \bar{S}$, il s'en suit que $T \subset \bar{S}^2$. Par l'inversibilité à droite de $T$, on obtient $I \subset \bar{S}^2 B$ pour un certain $B \in B(H)$. C'est-à-dire,

$$ \bar{S} \bar{S}B = \bar{S}^2 B = I. $$

Puisque $\bar{S}B$ est fermé et $H = D(\bar{S}B)$, clairement $\bar{S}B \in B(H)$. Donc, $\bar{S}$ est d'inverse à droite. ■

**Remarque 2.2.11** L'inverse n'est pas vrai, comme on le voit en prenant $T = S = I_D$ (l'identité restreinte à un certain domaine $D$). Alors $S^2 = T$ mais $\bar{S} = I$ est inversible à droite alors que $T$ ne l'est pas.

Le résultat suivant est facile à montrer et nous omettons donc sa preuve.

**Théorème 2.2.12** Soit $S$ et $T$ deux opérateurs linéaires tels que $S^2 = T$. Si $S$ est inversible à droite, alors $T$ l'est aussi. Si $S$ est inversible à gauche, alors $T$ l'est aussi.
# Chapitre 3

## Nilpotence et nullité d'opérateurs linéaires

Ce troisième et dernier chapitre est le travail original de cette thèse. Il comporte deux parties : le cas des opérateurs bornés et non-bornés. Ici, on donne des conditions forçant les opérateurs nilpotents (partout bornés ou fermés) à être nuls. Plus précisément, on montre principalement que tout opérateur nilpotent fermé ou borné partout défini avec une partie réelle ou imaginaire positive (auto-adjointe) est automatically nul. Cette dernière est affaiblie dans le cas de dimension finie à la condition asymétrique $\sigma(A) \cap \sigma(-A) \subseteq \{0\}$ où $A = \operatorname{Re}T$ avec $T \in B(H)$. En fait, les opérateurs nilpotents fermés densément défini de domaine $D(T) \subset D(T^*)$ sont bornés et partout définis.
## 3.1 Cas borné

Le premier résultat dans cette section dit qu’un opérateur (non nul) avec une partie réelle ou imaginaire positive (ou négative) n’est jamais nilpotent. D’abord, on le démontre dans le cas dim $H < \infty$. La preuve où dim $H = \infty$ repose sur le cas de dimension finie. Ce résultat sera généralisé aux opérateurs fermés dans la prochaine section.

**Théorème 3.1.1** Soit $T = A + iB \in B(H)$ et soit $n \ge 2$. Si $T^n = 0$ et $A \ge 0$ (ou $B \ge 0$), alors $T = 0$.

**Preuve.** La preuve se fait en deux étapes.

1. Soit dim $H < \infty$. On utilise l’argument de trace. D’abord, on suppose que $A \ge 0$. Clairement, la nilpotence de $T$ donne $\text{tr} T = 0$. Donc

$$0 = \text{tr}(A + iB) = \text{tr} A + i \text{tr} B.$$

Puisque $A$ et $B$ sont auto-adjoints, on sait que $\text{tr} A, \text{tr} B \in \mathbb{R}$. Par l’équattion ci-dessus, cela implique que $\text{tr} B = 0$ et $\text{tr} A = 0$. Maintenant, la positivité de $A$ intervient et donne $A = 0$. Par conséquent, $T = iB$ et donc $T$ est normal. Il résulte de la proposition 1.1.29

$$0 = \|T^n\| = \|T\|^n, \forall n \in \mathbb{N}.$$

Ainsi, $T = 0$.

Le cas $B \ge 0$, se traite par le même raisonnement et on obtient $T = A$ et donc $T = 0$, comme souhaité.
2. Soit dim $H = \infty$. La condition Re $T \ge 0$ est équivalente à Re$\langle Tx, x \rangle \ge 0$ pour tout $x \in H$. Alors si $E$ est sous-espace fermé invariant par $T$, alors la condition précédente tient aussi pour $T|_E : E \to E$.

Maintenant, on procède à montrer que $T = 0$, i.e. on doit montrer que $Tx = 0$ pour tout $x \in H$. Alors, soit $x \in H$ and soit $E$ l'espace vectoriel engendré par $x, Tx, \dots, T^{n-1}x$ (c'est, l'orbite de $x$ sous l'action de $T$). D'ici $E$ est un sous-espace de dimension finie de $H$ (et donc également un espace de Hilbert). Par l'hypothèse de nilpotence, on a

$$T^n x = 0,$$

d'où il résulte que $E$ est invariant par $T$. Donc, par la première partie de la preuve (le cas de dimension finie), on sait que $T = 0$ sur $E$ où $Tx = 0$. Comme cela est vrai pour tout $x$, il s'ensuit que $T = 0$ sur $H$, comme requis. ■

**Remarque 3.1.2** Par exemple, la condition $A \ge 0$ ne peut pas être omise. En effet, si $T = \begin{pmatrix} 0 & 1 \\ 0 & 0 \end{pmatrix}$, alors $T^2 = 0$ mais $T \ne 0$. Observons finalement que

$$A = \mathrm{Re} T = \frac{1}{2} \begin{pmatrix} 0 & 1 \\ 1 & 0 \end{pmatrix}$$

n'est jamais positif ni négatif parce que $\sigma(A) = \{-1/2, 1/2\}$.

**Remarque 3.1.3** Comme mentionné ci-dessus, la puissance du Théorème 3.1.1 réside dans le fait qu'il permet facilement de tester la non nilpotence d'un opérateur
donné. Par exemple, soit V l'opérateur de Volterra défini sur L²(0, 1), tel que,

$$Vf(x) = \int_{0}^{x} f(t)dt, \ f \in L^{2}(0, 1).$$

Alors, il est bien connu que V n'est pas nilpotent. Prouvons ce fait en utilisant le Théorème 3.1.1. Puisque Re V ≥ 0 (voir e.g. Exercice 9.3.21 dans [29]), en supposant la nilpotence de V, ceci rendra V = 0, ce qui est impossible. Donc, V n'est pas nilpotent. L'exemple précédent montre aussi que l'hypothèse ne peut pas être affaiblie à la quasinilpotence (rappelons que la quasinilpotence signifie que le spectre est réduit au singleton {0}).

Voici une reformulation alternative du Théorème 3.1.1 sur les espaces de dimensions finies.

**Corollaire 3.1.4** Soit $T \in M_n(\mathbb{C})$ nipotente (avec $T \neq 0$). Alors $(T + T^*)/2$ (ou $(T - T^*)/2i$) a aumoins deux valeurs propres de signes opposés.

Dans de nombreux résultats de la théorie des opérateurs, la condition asymétrique $\sigma(A) \cap \sigma(-A) \subseteq \{0\}$ donne des conditions similaires à celles en supposant la positivité de A (par exemple, elle est utilisée dans [1] ou [20] pour définir la racine carrée de $A^2$ où A est auto-adjoint). Il est aussi connu que cette condition d'asymétrie est plus faible que la positivité (et la négativité) de A.

Néanmoins, nous avons le résultat suivant.

**Théorème 3.1.5** Soit H un espace de Hilbert de dimension k où $k = 2$ ou $k = 3$. Soit $T = A + iB \in B(H)$ nilpotent. Si $\sigma(A) \cap \sigma(-A) = \{0\}$ ou $\sigma(B) \cap \sigma(-B) = \{0\}$, alors $T = 0$.
## Preuve.

1. Soit $k = 2$. Comme ci-dessus, on peut obtenir que $\text{tr } A = 0$. Puisque $A$ est auto-adjoint, il s'en suit que $A$ est semblable à $\begin{pmatrix} \alpha & 0 \\ 0 & -\alpha \end{pmatrix}$ où $\alpha \in \mathbb{R}$. Donc, si $\alpha \neq 0$, alors $\sigma(A) \cap \sigma(-A) = \{0\}$ sera violé. De là, $\alpha = 0$, c'est-à-dire, $A = 0$. Par conséquent, nous obtenons $T = 0$ comme ci-dessus. Le cas correspondant pour $B$ peut être traité de manière similaire.

2. Maintenant supposons que $k = 3$. Si $\sigma(A) \cap \sigma(-A) = \{0\}$, alors par l'auto-adjointess de $A$, on sait que $A$ est semblable à $\begin{pmatrix} 0 & 0 & 0 \\ 0 & \alpha & 0 \\ 0 & 0 & -\alpha \end{pmatrix}$ (où $\alpha \in \mathbb{R}$) ce qui donne $\text{tr } A = 0$ et $0 \in \sigma(A)$. Comme précédemment, on doit avoir nécessairement $\alpha = 0$ et donc $A = 0$. La nilpotence de $T = iB$ donne alors $T = 0$.

<figure><img src="image_5.png" /></figure>

Lorsque $\dim H = 4$, une idée similaire n'est tout simplement pas applicable. Donnons alors un contre-exemple :

**Exemple 3.1.6 Prenons**

$$ T = \begin{pmatrix} 2 & 2 & -2 & 0 \\ 5 & 1 & -3 & 0 \\ 1 & 5 & -3 & 0 \\ 0 & 0 & 0 & 0 \end{pmatrix} \quad \text{et donc } A = \begin{pmatrix} 2 & 7/2 & -1/2 & 0 \\ 7/2 & 1 & 1 & 0 \\ -1/2 & 1 & -3 & 0 \\ 0 & 0 & 0 & 0 \end{pmatrix}. $$
Alors (approximativement)

$$ \sigma(A) = \{0, -3.71, -1.33, 5.04\} $$

et donc $\sigma(A) \cap \sigma(-A) = \{0\}$ est trivalement satisfaite. Observons finalement que $T \neq 0$ tandis que $T^3 = 0$, i.e. $T$ est nilpotent.

On peut facilement prouver le résultat suivant.

**Proposition 3.1.7** Soit $H$ un espace de Hilbert de dimension 4. Soit $T = A + iB \in B(H)$ nilpotent. Si $\sigma(A) \cap \sigma(-A) = \{0\}$ avec $0$ est la valeur propre de multiplicité 2, alors $T = 0$.

**Preuve.** Ecrire seulement

$$ A \sim \begin{pmatrix} 0 & 0 & 0 & 0 \\ 0 & 0 & 0 & 0 \\ 0 & 0 & \alpha & 0 \\ 0 & 0 & 0 & -\alpha \end{pmatrix} $$

et obtenir $A = 0$. Alors $T = iB$ et donc $T = 0$, comme ci-dessus. ■

Nous avons aussi le même résultat suivant.

**Proposition 3.1.8** Si $A$ est une matrice $2 \times 2$ auto-adjointe telle que $\sigma(A) \cap \sigma(-A) = \emptyset$, alors $T = A + iB$ n'est jamais nilpotent.

**Preuve.** Si $T$ était nilpotent, alors $\text{tr } A = 0$. Ceci entraîne nécessairement de
mettre $A$ sous forme $\begin{pmatrix} \alpha & 0 \\ 0 & -\alpha \end{pmatrix}$ (avec $\alpha \in \mathbb{R}$). Cette condition n'est cependant pas cohérente avec $\sigma(A) \cap \sigma(-A) = \emptyset$. Donc, $T$ ne peut pas être nilpotent. ■

**Remarque 3.1.9** Enfin, notons qu'il existe des matrices nilpotentes $T = A + iB$ d'ordre plus élevé telles que $\sigma(A) \cap \sigma(-A) = \emptyset$. Nous pouvons simplement considérer la matrice bloc non nulle de l'Exemple 3.1.6.
## 3.2 Cas non-borné

Nous limitons maintenant notre attention au cas des opérateurs nilpotents non-bornés. Comme nous avons déjà signaler par le Lemme 1.2.34 que pour un $T$ normal, $D(T^*T) = D(T^2)$, c'est-à dire qu'il n'y a pas non plus d'opérateurs nilpotents normaux non-bornés. Il est donc naturel de se demander s'il existe des opérateurs symétriques fermés non-bornés ? La réponse est toujours négative ! En fait, tout opérateur $T$ nilpotent fermé densément défini avec $D(T) \subset D(T^*)$ est borné partout défini.

**Proposition 3.2.1** Soit $T$ un opérateur nilpotent fermé densément défini avec domaine $D(T)$ tel que $D(T) \subset D(T^*) \subset H$. Alors $T \in B(H)$. En particulier, si $T$ est un opérateur nilpotent symétrique fermé densément défini ou un opérateur hyponormal, alors $T = 0$ partout sur $H$.

**Preuve.** Soit $T$ un opérateur fermé densément défini de domaine $D(T) \subset H$ tel que $T^n = 0$ sur $D(T)$ pour un certain $n$ et $D(T) \subset D(T^*)$. On voit que

$$D(T) = D(T^2) \subset D(T^*T) \subset D(T)$$

par lequel $D(T^*T) = D(T)$. Puisque $T$ est fermé, le lemme 1.2.34 donne $T \in B(H)$.

Le dernier énoncé de la proposition découle de la théorie générale. En effet, lorsque $T \in B(H)$, alors $T$ est auto-adjoint ssi il est symétrique. En conséquence, $T = 0$ puisque $T^n = 0$ partout sur $H$. Le cas de l'hyponormalité est également connu des lecteurs. ■

**Remarque 3.2.2** Le résultat précédent peut être reformulé comme suit : Tout opé-
rateur nilpotent fermé densément défini ayant une décomposition cartésienne est né-
cessairement partout borné.

Comme évoqué ci-dessus, le Théorème 3.1.1 reste valable dans le contexte des
opérateurs fermés.

**Théorème 3.2.3** *Soit T = A + iB où A ou B est positif avec D(T) ⊂ D(T*). Si T est nilpotent, alors T ∈ B(H) est normal donc T = 0 partout sur H.*

**Preuve.** Puisque $T^n = 0$ sur $D(T)$ pour un certain entier naturel $n$, on a $D(T^2) = D(T)$. Raisonnons comme dans la Proposition 3.2.2 pour obtenir $T \in B(H)$. Nous sommes donc revenus au cadre du Théorème 3.1.1, i.e. on obtient $T = 0$, comme souhaité. ■

Avant d'énoncer et de prouver le dernier résultat de ce chapitre, nous donnons
quelques résultats auxiliaires qui sont également intéressants. Notons qu'ils pour-
raient bien être connus des spécialistes, cependant, ils ne sont pas documentés (à
notre connaissance).

Notons au passage qu'il existe des opérateurs auto-adjoints non-bornés $A$ et $B$
tels que $A + iB \subset 0$ (où $0$ désingne l'opérateur null sur tout $H$), mais $A \not\subset 0$ et
$B \not\subset 0$. Par exemple, soient $A$ et $B$ deux opérateurs auto-adjoints non-bornés tels
que $D(A) \cap D(B) = \{0_H\}$ (voir e.g. [18]). Supposer que $D(A) = D(B)$ fait toute la
différence. En effet :

**Proposition 3.2.4** *Soient A et B deux opérateurs symétriques densément définis avec domaines D(A), D(B) ⊂ H respectivement. Supposons que D(A) = D(B). Si*
$A + iB \subset 0$, alors $A \subset 0$ et $B \subset 0$. Si $A$ (ou $B$) est pris de plus fermé, alors $A = B = 0$ partout sur $H$.

**Preuve.** Par l'hypothèse $A + iB \subset 0$. Puisque $D(A) = D(B)$, il s'ensuit que $A = -iB$. Mais $A$ et $B$ sont tous les deux symétriques, et donc le seul résultat possible est $A \subset 0$ et $B \subset 0$.

Puisque $A \subset 0$, il s'ensuit que $A^* = 0$ partout sur $H$. Par la fermeture de $A$, on obtient $A = 0$. Un raisonnement similaire s'applique à $B$ car $A = -iB$ rend $B$ fermé et donc $B = 0$ également. ■

On sait que la commutativité simple des opérateurs non-bornés (auto-adjoints ou normaux) ne signifie pas toujours leur forte commutativité (témoin des contre-exemples de Nelson ou de Schmüdgen). Rappelons ici que la commutativité simple de deux opérateurs non-bornés (auto-adjoints) $A$ et $B$ signifie que $AB$ coïncide avec $BA$ sur un domaine dense commun. La commutativité forte de $A$ et $B$ signifie la commutativité de leurs mesures spectrales. Ainsi, le résultat suivant sur la commutativité (forte) pourrait être inconnu de certains lecteurs.

**Proposition 3.2.5** (cf. [20] ou [25]) Soient $A$ et $B$ deux opérateurs non-bornés auto-adjoints avec domaines $D(A)$ et $D(B)$ respectivement. Supposons que $A$ est aussi positif et que $D(A) = D(B)$. Si $BA \subset AB$, alors $A$ commute fortement avec $B$.

La preuve est basée sur le résultat auxiliaire suivant :

**Lemme 3.2.6** (Voir Proposition 5.27 dans [31]) Soient $A$ et $B$ des opérateurs non-bornés auto-adjoints. Alors $A$ commute fortement avec $B$ ssi $(A - \lambda I)^{-1} B \subset B(A -$
$\lambda I)^{-1}$ pour tout $\lambda \in \rho(A)$ ($\rho(A)$ est l'ensemble résolvant de $A$).

Maintenant, on montre la Proposition 3.2.5 :

**Preuve.** Par hypothèse, $BA \subset AB$. Donc $B(A + I) \subset (A + I)B$ parce que

$$D[B(A + I)] \subset D[(A + I)B].$$

Puisque $A$ est auto-adjoint et positive, il en résulte que $A + I$ est d'inverse borné. Multipliant à gauche et à droite par $(A + I)^{-1}$ entraine

$$(A + I)^{-1}B \subset B(A + I)^{-1}.$$

Par le Lemme 3.2.6, cela signifie que $A$ commute fortement avec $B$, ce qui achève la preuve. ■

La condition $D(T^2) = D(T)$ est forte. Pourquoi ne pas appeler un opérateur densément défini $T$ nilpotent quand $T^n \subset 0$ pour un certain $n$ ? Le problème principal serait qu'il est tout à fait concevable d'avoir $T^n$ défini uniquement en 0. Voir e.g. [7], [8], [22], [24] et [31] (cf. [2] et [6]). Un article récent quelque peu apparenté [9] pourrait intéresser les lecteurs.

Traitons quand même ce cas.

**Théorème 3.2.7** Soient $T = A + iB$ où $A$ et $B$ sont auto-adjoints (l'un d'entre eux est aussi positif), $D(A) = D(B)$ et $D(BA) \subset D(AB)$. Si $T^2 \subset 0$, alors $T \in B(H)$ est normal, et donc $T = 0$ partout sur $H$.
**Preuve.** Supposons que $A$ est positif (la preuve dans le cas de la positivité de $B$ est similaire). Soit $T = A + iB$. Clairement,

$$A^2 - B^2 + i(AB + BA) \subset (A + iB)A + i(A + iB)B = T^2 \subset 0.$$

Puisque $D(A) = D(B)$, il s'en suit que

$$D(A^2) = \{x \in D(A) : Ax \in D(A)\} = \{x \in D(A) : Ax \in D(B)\} = D(BA).$$

D'une manière similaire, il est vu que $D(B^2) = D(AB)$. Ainsi,

$$D(A^2 - B^2) = D(AB + BA).$$

Nous avons aussi $D(BA) \subset D(AB)$. En conséquence,

$$D(A^2 - B^2) = D(AB + BA) = D(BA) = D(A^2).$$

Comme $A$ est auto-adjoint, $A^2$ l'est aussi, et en particulier $A^2$ est nécessairement densément défini. Donc, $A^2 - B^2$ et $AB + BA$ sont les deux densément définis. Maintenant, par la symétrie (seulement) des deux $A$ et $B$ on aura que $AB + BA$ et $A^2 - B^2$ sont symétriques tous les deux. Par la Proposition 3.2.4, on trouve $AB + BA \subset 0$. D'où $BA \subset -AB$ (pour $D(BA) \subset D(AB)$) et donc

$$BA^2 \subset -ABA \subset A^2B.$$
Comme A est positif, on obtient $BA \subset AB$ d'après [4]. Par la Proposition 3.2.4, on aura que A commute fortement avec B. D'où T est normal. D'ici $T^2$ est aussi normal et donc par maximalité $T^2 \subset 0$ devient $T^2 = 0$ partout sur H. Par conséquence, $D(T^2) = H$ et de là $D(T) = H$. Puisque T est fermé, il suit du théorème de graphe fermé que $T \in B(H)$. Finallement, $T = 0$ vient par la normalité de T, comme nécessaire. ■

**Remarque 3.2.8** Une autre façon d'obtenir $A = B = 0$ dans le résultat ci-dessus (et sans utiliser la proposition 3.2.5) est la suivante : Puisque B est auto-adjoint, $B = U|B| = |B|U$ où U est unitaire et auto-adjoint, i.e. $U^2 = I$ et $U^* = U$ (voir e.g. [13] ou [14]).

Comme ci-dessus, on peut obtenir $BA \subset -AB$ et $A^2 - B^2 \subset 0$. Puisque $D(BA) = D(A^2)$ et $D(AB) = D(B^2)$, on obtient $A^2 \subset B^2$. Puisque $A^2$ et $B^2$ sont tous deux auto-adjoints, un argument de maximalité donne $A^2 = B^2$ qui, en passant à l'unique racine carrée positive, implique que $A = |B|$ comme A est positif. Par conséquent $B = UA = AU$. Donc

$$UA^2 = U|B|A = BA \subset -AB = -UA^2.$$

Ainsi

$$U^2A^2 = A^2 \subset -U^2A^2 = -A^2.$$

Alors, $A^2 = -A^2$ et donc $A = 0$, ainsi $B = 0$ également.

Une variante du Théorème 3.2.7 est :
**Théorème 3.2.9** Soient A et B deux opérateurs auto-adjoints (l'un d'eux est également positif) tels que $D(A^2) = D(B^2)$. Si $T = A + iB$ et $T^2 \subset 0$, alors $T = 0$ partout sur H.

**Preuve.** Il suffit de reprendre les hypothèses du Théorème 3.2.7, supposons que A est positif. Puisque B est auto-adjoint, $B^2$ est auto-adjoint et positif. Alors, par le théorème 9.4 dans [36], on obtient

$$D(A) = D(\sqrt{A^2}) = D(\sqrt{B^2}) = D(|B|) = D(B)$$

en invoquant la fermeture de B et la positivité de A. D'où

$$D(BA) = D(A^2) = D(B^2) = D(AB).$$

Par conséquent, nous avons récupéré toutes les hypothèses du Théorème 3.2.7. Les autres parties de la preuve restent inchangées. ■

L'exemple suivant montre l'importance de l'auto-adjonction de A et B.

**Exemple 3.2.10** Il existe un opérateur A symétrique fermé positif densément défini tel que $T := A + iA$ vérifiant $T^2 \subset 0$ mais $T \not\subset 0$.

Pour obtenir un tel exemple, rappelons que P. R. Chernoff [7] a obtenu un opérateur fermé A à domaine dense, symétrique et positif tel que $D(A^2) = \{0\}$. Maintenant, soit $B = A$ et soit $T = A + iA = (1 + i)A$. Alors

$$D(T^2) = D(A^2) = \{0\}$$
et donc $T^2 \subset 0$ trivalement. Remarquons finalement que $T \not\subset 0$, i.e. $T$ ne s'annule pas sur $D(T)$. Remarquons à la fin que ni $A$ ni $B$ n'étaient auto-adjoints.

On termine par une généralisation parue juste après l'article [12]. Notons au passage qu'il existe des opérateurs auto-adjoints non-bornés $A$ et $B$ tels que $A+iB \subset 0$ (où $0$ désigne l'opérateur nul sur tout $H$), mais $A \not\subset 0$ et $B \not\subset 0$. Par exemple, soient $A$ et $B$ des opérateurs auto-adjoints non-bornés tels que $D(A) \cap D(B) = \{0_H\}$ (voir e.g. [18]). En supposant que $D(A) = D(B)$ fait toute la différence. En effet,

**Proposition 3.2.11** (cf. [27]) Soit $A$ et $B$ deux opérateurs symétriques densément définis avec des domaines $D(A)$, $D(B) \subset H$ respectivement. Supposons que $D(A) = D(B)$. Si $A + iB \subset 0$, alors $A \subset 0$ et $B \subset 0$. Si l'on considère en outre que $A$ (ou $B$) est fermé, alors $A = B = 0$ partout sur $H$.

**Théorème 3.2.12** Soit $T = A + iB$ où $A$ et $B$ sont auto-adjoints (l'un d'eux est aussi positif), $D(A) = D(B)$ et $D(AB) = D(BA)$. Si $T^2 = S$, où $S$ est symmétrique, alors $T$ est normal. En particulier, si $S$ est auto-adjoint et positif, alors $T$ est auto-adjoint et positif, i.e. $T$ est l'unique racine carrée de $S$.

**Preuve.** Supposons que $A$ est positif (la preuve dans le cas de la positivité de $B$ est similaire). Soit $T = A + iB$. Clairement,

$$A^2 - B^2 + i(AB + BA) \subset (A + iB)A + i(A + iB)B = T^2 \subset S$$

ainsi

$$A^2 - B^2 - S + i(AB + BA) \subset 0.$$
Comme $D(A) = D(B)$, on voit que $D(A^2) = D(BA)$ et que $D(B^2) = D(AB)$. Donc,

$$D(A^2 - B^2) = D(AB + BA).$$

Puisque $D(AB) = D(BA)$, on a

$$D(A^2 - B^2 - S) = D(AB + BA) = D(A^2) = D(B^2).$$

Puisque $A$ est auto-adjoint, $A^2$ l'est aussi et en particulier, $A^2$ est nécessairement défini de manière dense. Ainsi, $A^2 - B^2$ et $AB + BA$ sont tous deux densément définis. Maintenant, par la symétrie (seulement) de $A$ et $B$, nous avons

$$AB + BA \subset A^*B^* + B^*A^* \subset (BA)^* + (AB)^* \subset (AB + BA)^*.$$

Similairement, $A^2 - B^2 \subset (A^2 - B^2)^*$. Par conséquent, les deux $AB + BA$ et $A^2 - B^2$ sont symétriques. Par la Proposition 3.2.11, on obtient $AB + BA \subset 0$. D'où $AB = -BA$ (pour $D(AB) = D(BA)$) et donc

$$A^2B = -ABA = BA^2.$$

Comme $A$ est positif, on obtient $AB = BA$ par [4]. De là $AB + B = BA + B$. Mais $AB + B = (A + I)B$ et $BA + B \subset B(A + I)$. D'où $(A + I)B \subset B(A + I)$. Mais

$$D[B(A + I)] = \{x \in D(A) : Ax + x \in D(B)\}.$$
Ainsi, si $x \in D[B(A + I)]$, il s'en suit que $x \in D(A) = D(B)$ et

$$Ax = Ax + x - x \in D(B),$$

i.e. $Ax \in D(B)$, i.e. $x \in D(BA)$. Puisque $D(AB) = D(BA)$, on a également $x \in D(AB) = D[(A + I)B]$. Ceci signifie en fait que

$$(A + I)B = B(A + I).$$

Comme $A$ est auto-adjoint et positif, il en résulte que $A + I$ est d'inverse borné. Multipliant à gauche et à droite par $(A + I)^{-1}$ donne $(A + I)^{-1}B \subset B(A + I)^{-1}$. Par la Proposition 5.27 dans [32], cela signifie que $A$ commute fortement avec $B$. En conséquence $T$ est normal.

Finalement, on montre la dernière assertion. Supposons que $S$ est auto-adjoint et positif (rappeler que $T$ est toujours normal). Soit $\lambda \in \sigma(T)$. Alors

$$\lambda^2 \in [\sigma(T)]^2 = \sigma(T^2) = \sigma(S).$$

A savoir, $\lambda^2 \ge 0$ et donc la seule issue possible est $\lambda \in \mathbb{R}$. Par conséquent, $T$ est auto-adjoint. Puisque dans ce cas

$$0 \le A = T = \frac{T + T^*}{2} = T,$$

il s'en suit que $T$ est aussi positif. Ceci marque la fin de la preuve. ■
**Corollaire 3.2.13** Soit $T = A + iB$ où $A$ et $B$ sont auto-adjoints (l'un d'eux est aussi positif) où $D(A) = D(B)$. Si $T^2 = 0$ sur $D(T)$, alors $T \in B(H)$ est normal et donc $T = 0$ partout sur $H$.

**Preuve.** Ce qui nous empêche a priori d'utiliser le Théorème 3.2.12 est que la condition $D(AB) = D(BA)$ est manquante. Mais, en écrivant $A = (T + T^*)/2$ et $B = (T - T^*)/2i$ (et donc $D(T) \subset D(T^*)$), on voit que si $x \in D(T)$, alors

$$Tx + T^*x \in D(T) \iff Tx - T^*x \in D(T)$$

pour $Tx \in D(T)$ (car $D(T^2) = D(T)$). En d'autre termes, $D(AB) = D(BA)$, selon les besoins. ■
# Conclusion et perspectives

## Conclusion :

Au terme de cette étude nous dégageons les résultats suivants :

(1) Fermeture, fermabilité et inversibilité des racines carrées d'opérateurs linéaires bornés et non-bornés.

(2) Généralisation d'une partie du travail original ci-dessous en basant sur la normalité et l'auto-adjonction des racines carrées d'opérateurs non-bornés.

(3) Etablissement des conditions forçant les opérateurs nilpotents (partout bornés ou fermés) dans un espace de Hilbert à être nul.

(4) Affaiblissement de ces dernières conditions dans le cas de dimension finie à la condition dite : asymétrique.

(5) Bornétude des opérateurs nilpotents fermés densément défini ayant un domaine inclus dans le domaine de leurs adjoints.

## Apport original dans le travail :

(1) Nullité des opérateurs nilpotents (partout bornés ou fermés) ayant une partie réelle ou imaginaire positive (négative) ou auto-adjointe.

(2) Reformulation de ce dernier résultat, en dimension finie, par la condition asymétrique pour le cas des opérateurs bornés.

## Quelques perspectives :

(1) Y'a-t-il un outil autre que la condition d'asymétrie dans le cas de dimension finie rendant nul un opérateur nilpotent (borné) sur un espace de Hilbert tout entier ?
(2) Expliciter, par un calcul, une formule générale de la nullité des opérateurs nilpotents bornés en utilisant leurs décompostions cartésiennes.

(3) Etendre ces résultats à d'autres classes d'opérateurs.

(4) Affaiblir les hypothèses du théorème 3.2.7 et traiter le cas $T^n \subset 0$.
Bibliographie

[1] E. Albrecht, P. G. Spain. When products of self-adjoints are normal, *Proc. Amer. Math. Soc.*, **128/8** (2000) 2509-2511.

[2] Y. Arlinskiǐ, V. A. Zagrebnov. Around the van Daele-Schmüdgen theorem, *Integral Equations Operator Theory*, **81/1** (2015) 53-95.

[3] S. Axler. *Linear algebra done right*. Third edition. Undergraduate Texts in Mathematics. Springer, Cham, 2015.

[4] S. J. Bernau. The square root of a positive self-adjoint operator, *J. Austral. Math. Soc.*, **8** (1968) 17-36.

[5] I. Boucif, S. Dehimi, M. H. Mortad. On the absolute value of unbounded operators. *J. Operator theory*. **82**:2 (2019), 285-306.

[6] J. F. Brasche, H. Neidhardt. Has every symmetric operator a closed symmetric restriction whose square has a trivial domain?, *Acta Sci. Math. (Szeged)*, **58/1-4** (1993) 425-430.

[7] P. R. Chernoff. A semibounded closed symmetric operator whose square has trivial domain, *Proc. Amer. Math. Soc.*, **89/2** (1983) 289-290.
[8] S. Dehimi, M. H. Mortad. Chernoff-like counterexamples related to unbounded operators, *Kyushu J. Math.*, **74/1** (2020) 105-108.

[9] S. Dehimi, M. H. Mortad. Unbounded operators having self-adjoint, subnormal or hyponormal powers, *Math. Nachr.*, (to appear).

[10] L. Elsner, Kh. D. Ikramov. Normal matrices : an update, *Linear Algebra Appl.*, **285/1-3** (1998) 291-303.

[11] P. A. Fillmore, C. K. Fong, A. R. Sourour. Real parts of quasinilpotent operators, *Proc. Edinburgh Math. Soc. (2)*, **22/3** (1979) 263-269.

[12] N. Frid, M. H. Mortad, S. Dehimi. When nilpotence implies the zeroness of linear operators. *Khayyam J. Math.* **8** (2022), no. 2, 163-173.

[13] R. Grone, C. R. Johnson, E. M. Sa, H. Wolkowicz. Normal matrices, *Linear Algebra Appl.*, **87** (1987), 213-225.

[14] K. Gustafson, M. H. Mortad. Conditions implying commutativity of unbounded self-adjoint operators and related topics, *J. Operator Theory*, **76/1**, (2016) 159-169.

[15] P. R. Halmos, G. Lumer, J. J. Schäffer. Square roots of operators, *Proc. Amer. Soc.*, **4** (1953) 142-149.

[16] R. A. Horn. C. R. Johnson Topics in matrix analysis. Corrected reprint of the 1991 original. *Cambridge University Press*, Cambridge, 1994.

[17] Il Bong Jung, M. H. Mortad, J. Stochel. On normal products of selfadjoint operators, *Kyungpook Math. J.*, **57** (2017) 457-471.
[18] H. Kosaki. On intersections of domains of unbounded positive operators, *Kyushu J. Math.*, **60/1** (2006) 3-25.

[19] B. W. Levinger, The square root of a 2 × 2 matrix. *Math. Mag.*, **53/4** (1980) 222-224.

[20] M. H. Mortad. An application of the Putnam-Fuglede theorem to normal products of self-adjoint operators, *Proc. Amer. Math. Soc.*, **131/10**, (2003) 3135-3141.

[21] M. H. Mortad. *An operator theory problem book*, World Scientific Publishing Co., (2018). ISBN: 978-981-3236-25-7 (hardcover).

[22] M. H. Mortad. On the triviality of domains of powers and adjoints of closed operators, *Acta Sci. Math. (Szeged)*, **85** (2019) 651-658.

[23] M. H. Mortad. On the existence of normal square and nth roots of operators, *J. Anal.*, **28/3** (2020) 695-703.

[24] M. H. Mortad. *Counterexamples in operator theory*, book, (2022). Birkhäuser/Springer.

[25] M. H. Mortad, Commutativity of Unbounded Normal and Self-adjoint Operators and Applications, Operators and Matrices, 8/2 (2014) 563-571.

[26] M. H. Mortad, Unbounded operators : (square) roots, nilpotence, closability and some related invertibility results. arXiv :2007.12027

[27] M. H. Mortad, Certain properties involving the unbounded operators $p(T)$, $TT^*$ and $T^*T$; and some applications to powers and nth roots of unbounded operators, *J. Math. Anal. Appl.*, **525/2** (2023). Paper No. 127159, 26 pp.
[28] S. Ôta. Unbounded nilpotents and idempotents, *J. Math. Anal. Appl.*, **132/1** (1988) 300-308.

[29] S. Ôta. On normal extensions of unbounded operators, *Bull. Polish Acad. Sci. Math.*, **46/3** (1998) 291-301.

[30] S. Ôta. Closed linear operators with domain containing their range, *Proc. Edinburgh Math. Soc.*, **(2)** **27/2** (1984) 229-233.

[31] K. Schmüdgen. On domains of powers of closed symmetric operators, *J. Operator Theory*, **9/1** (1983) 53-75.

[32] K. Schmüdgen. *Unbounded self-adjoint operators on Hilbert space*, Springer. GTM **265** (2012).

[33] Z. Sebestyn, J. Stochel. On suboperators with codimension one domains, *J. Math. Anal. Appl.*, **360/2** (2009) 391-397.

[34] J. Stochel. J. B. Stochel. Composition operators on Hilbert spaces of entire functions with analytic symbols. *J. Math. Anal. Appl.*, **445/2** (2017) 1019-1066.

[35] D. Sullivan, The square roots of $2 \times 2$ matrix. *Math. Mag.*, **66/5** (1993) 314-316.

[36] J. Weidmann. *Linear operators in Hilbert spaces*, Springer, 1980.
Symboles et notations

$B(X, Y)$ : Espace des oprateurs linaires born d'un espace de Banach X dans Y.

$C(X)$ : Espace des oprateurs linaires fermes domaine dense dans un espace
de Banach X.

$C[a, b]$ : Espace des fonctions continues de $[a,b]$ dans $\mathbb{C}$.

$H^p(\mathbb{R})$ : Espace de Sobolev d'indice $p$ i.e. l'espace des fonctions $f$ vrifiant
$f^{(n)} \in L^2(\mathbb{R})$ pour tout $0 \le n \le p$.

$C_0^\infty(\mathbb{R})$ : Espace des fonctions infiniment diffrentiables support compact.

$L^2(\mathbb{R})$ : Espace des fonctions mesurables carrés integrables.

$l^2$ : Espace des suites complexes $(x_n)_n$ carres sommables, i.e. $\sum_{n=1}^{\infty} |x_n|^2 < \infty$.

$D(T)$ : Domaine de l'oprateur linaire non-born $T$.

$\Gamma(T)$ : Graphe de l'oprateur $T$.

$\|\cdot\|_{D(T)}$ : Norme du graphe de l'oprateur $T$.

$\|\cdot\|_{\infty}$ : Norme de la convergence uniforme sur $C[a, b]$.

ker $T$ : Noyau de l'oprateur $T$.

$ran T$ : Image de l'oprateur $T$.

$T^*$ : Adjoint de l'oprateur $T$.

$T^{-1}$ : L'inverse de l'oprateur $T$.

$\rho(T)$ : Ensemble rsolvant de l'oprateur $T$.
$\sigma(T)$ : Spectre de l'oprateur $T$.

$\sigma_p(T)$ : Spectre ponctuel de l'oprateur $T$.

$r(T)$ : Rayon spectral de l'oprateur $T$.

$\mathrm{Re} T$ : Partie relle de l'oprateur $T$.

$\mathrm{Im} T$ : Partie imaginaire de l'oprateur $T$.

$\mathrm{Vect}(u_1, \dots, u_n)$ : Espace engendr par la famille $\{u_1, \dots, u_n\}$.

$M^{\perp}$ : Orthogonal de $M$.

$\mathcal{F}(f)$ : Transforme de Fourier de la fonction $f$.