ANNALES

DE LA FACULTÉ
DES SCIENCES

DE
TOULOUSE
Mathématiques

JEAN-JACQUES LOEB

Semi-contractions des espaces localement compacts
et cas des variétés complexes

Tome XXII, n° 3 (2013), p. 559-572.

<http://afst.cedram.org/item?id=AFST_2013_6_22_3_559_0>

© Université Paul Sabatier, Toulouse, 2013, tous droits réservés.

L'accès aux articles de la revue « Annales de la faculté des sciences de Toulouse Mathématiques » (http://afst.cedram.org/), implique l'accord avec les conditions générales d'utilisation (http://afst.cedram.org/legal/). Toute reproduction en tout ou partie de cet article sous quelque forme que ce soit pour tout usage autre que l'utilisation à fin strictement personnelle du copiste est constitutive d'une infraction pénale. Toute copie ou impression de ce fichier doit contenir la présente mention de copyright.

cedram

Article mis en ligne dans le cadre du
Centre de diffusion des revues académiques de mathématiques

http://www.cedram.org/
# Semi-contractions des espaces localement compacts et cas des variétés complexes

JEAN-JACQUES LOEB$^{(1)}$ ET JEAN-PIERRE VIGUÉ$^{(2)}$

**RÉSUMÉ.** — En nous inspirant d'articles de Beardon, nous donnons des résultats concernant les points fixes et les orbites d'auto-applications contractantes et semi-contractantes des espaces connexes localement compacts. Des résultats plus précis sont obtenus dans le cas des variétés complexes Kobayashi hyperboliques.

**ABSTRACT.** — Inspired by papers of Beardon, we give results for fixed points and orbits of contractions and semi-contractions of locally compact connected spaces. More precise results are obtained for the case of complex Kobayashi hyperbolic manifolds.

## 1. Introduction

Etant donnée une application d'un ensemble dans lui-même, une des premières études est souvent celle de ses points fixes. Le théorème le plus classique ici est peut-être le théorème du point fixe de Picard. Il suppose un espace métrique complet et une application $k$-lipschitzienne avec $k < 1$. Les conclusions sont alors les suivantes :

a) Il existe un point fixe unique.

<footnote>(*) Reçu le 05/05/2012, accepté le 25/01/2013</footnote>

<footnote>(1) Université d'Angers. Dpt de Mathématiques. Larema, UMR 6093, 2 Boulevard Lavoisier, 49045 Angers cedex 01
jean-jacques.loeb@univ-angers.fr</footnote>

<footnote>(2) UMR CNRS 6086, Université de Poitiers, Mathématiques, SP2MI, BP 30179, 86962 Futuroscope
vigue@math.univ-poitiers.fr</footnote>
b) La suite des itérées de l'application en un point converge vers le point fixe.

Ces conclusions restent vraies si on prend un espace $(X, d)$ *compact* et l'auto-application $f$ contractante (ce qui signifie $d(f(x), f(y)) < d(x, y)$ pour $x$ différent de $y$).

Que se passe-t-il alors pour une application contractante dans le cas général d'un espace localement compact ? (non nécessairement compact ni même complet). Un théorème de Beardon affirme que si $(X, d)$ est propre (toute boule fermée de rayon fini est compacte), alors on a l'alternative suivante :

1. Les itérés de $f$ tendent uniformément vers l'infini sur tout compact.

2. Les conclusions a. et b. sont vérifiées.

Nous donnons dans cet article un exemple d'espace localement compact pour lequel l'alternative n'est pas vérifiée.

Edelstein et Beardon ont montré que a. est vérifiée dès qu'on prend une contraction $f$ d'un espace métrique $(X, d)$ quelconque pourvu que l'on suppose qu'il existe une sous-suite des itérées de $f$ qui converge en un point (ce qui est une autre manière d'exprimer dans le cas localement compact que le premier terme de l'alternative n'est pas satisait). C'est donc b. qui pose problème.

En s'inspirant des méthodes de Beardon [2][3], nous montrons que l'alternative est vérifiée dans le cas d'une contraction sur un espace localement compact *connexe*. Un exemple simple est celui du disque unité ouvert de $\mathbb{C}$ muni de la métrique de Poincaré et pour lequel les auto-applications holomorphes sont des contractions, dès qu'elles ne sont pas des automorphismes. On récupère alors dans ce cas une partie du théorème de Denjoy-Wolf.

Une motivation principale de notre travail concerne les variétés complexes Kobayashi hyperboliques. Ces variétés sont naturellement munies d'une métrique (de Kobayashi) $d$ qui fait des applications holomorphes des semi-contractions (ce qui signifie $d(f(x), f(y)) \le d(x, y)$ pour tout $x$ et $y$) et qui généralisent ainsi la métrique de Poincaré. Les domaines bornés de $\mathbb{C}^n$ sont des exemples de telles variétés. Beaucoup de ces métriques ne sont pas complètes et il est souvent difficile de vérifier qu'elles le sont.

Revenant au cas général métrique localement compact (qu'on supposera union dénombrable d'ouverts relativement compacts), des exemples simples montrent qu'on ne peut espérer une telle alternative pour les semi-contrac-
tions comme dans le cas des contractions, même sous des hypothèses fortes
de complétude ou de connexité.

L'alternative que nous considérons est alors la suivante :

1. La suite des itérées tend vers l'infini.

2. Les *f*-orbites sont relativement compactes (une *f*-orbite est l'ensemble des itérés de *f* prises en un point *x*).

Une des motivations pour poser une telle alternative est que dans le cas 2, une sous-suite des itérés de $f$ tend vers une rétraction $\rho$, le cas $\rho$ constant correspondant à un point fixe. Voir [4] où la preuve faite dans le cas complexe s'adapte à la situation générale.

On pourra aussi consulter [5] pour des résultats dans le cas des isométries.

Dans le cas des variétés complexes « taut » (condition plus faible que complet et souvent plus facile à vérifier), l'alternative avait été démontrée par Abate [1], théorème 2.1.29. Nous retrouvons son résultat par d'autres méthodes.

L'alternative peut être mise en défaut pour les variétés Kobayashi hyperboliques en général. Dans ce cas, l'alternative est vraie si on remplace le terme 2 par : Une orbite est relativement compacte (voir théorème 4.2 pour un énoncé précis).

Comme corollaire, nous avons aussi dans ce cas que si une sous-suite des itérées d'une application holomorphe converge, alors la famille des itérées est normale.

Une grande partie de la preuve est faite dans le cas localement compact général et nous pensons que certains des résultats intermédiaires obtenus peuvent être intéressants en eux-mêmes. Le point essentiel que nous utilisons dans notre cas est que les automorphismes holomorphes d'une variété Kobayashi-hyperbolique forment un groupe de Lie. Il est possible que nos résultats puissent s'étendre à des cas plus généraux que le cas complexe. Notons qu'une propriété importante de la métrique de Kobayashi est d'être une métrique intégrée, ce qui permet par exemple de montrer que dans ce cas, une propriété de contraction locale introduite par Edelstein est équivalente à la propriété classique de contraction.
## 2. Le cas d'une contraction

Afin d'énoncer un théorème dû à A.F. Beardon concernant les espaces métriques $(X, d)$, on a besoin des deux définitions suivantes :

**DÉFINITION 2.1.** — Une contraction de $(X, d)$ est une application $f$ de $(X, d)$ dans lui-même telle que : $d(f(x), f(y)) < d(x, y)$ pour tout $x$ différent de $y$.

**DÉFINITION 2.2.** — Un espace métrique $(X, d)$ est propre si toute boule fermée de rayon fini est compacte. (La terminologie n'est pas celle de Beardon).

On a alors le résultat suivant, dont on donne un énoncé un peu différent de la version originale ([2], p 143). La première partie de l'énoncé a été d'abord démontré par Edelstein [6] avec une méthode différente.

**DÉFINITION 2.3.** — Etant donnés un espace métrique $(X, d)$ et $f$ une contraction, on dira que $f$ satisfait l'hypothèse $(H_x)$ pour un certain $x$ de $X$ si il existe une suite $f^{n_j}(x)$ qui converge.

**THÉORÈME 2.4.** — Soit $(X, d)$ un espace métrique et $f$ une contraction.

1. On suppose que $f$ satisfait l'hypothèse $(H_x)$ et on note $p$ la limite d'une suite $f^{n_j}(x)$. Alors $f$ admet $p$ comme point fixe unique. De plus $f^n(x)$ tend vers $p$.

2. Si de plus, $(X, d)$ est propre, alors sous l'hypothèse $(H_x)$, la suite des itérées $f^n$ converge (localement uniformément) vers le point fixe $p$. Sinon cette suite tend (localement uniformément) vers l'infini.

Voici la preuve en quelques mots :

1. L'unicité est claire, car si on avait deux points fixes distincts $x$ et $y$ alors : $d(f(x), f(y)) = d(x, y) < d(x, y)$, ce qui est absurde.

Beardon montre l'existence de la manière suivante :

On considère la suite $u_n = d(f^n(x), f^{n+1}(x))$. Elle est décroissante et positive, donc à une limite $l$ positive ou nulle. En considérant la sous-suite $u_{n_j}$, on voit que $l = d(p, f(p))$ où $p$ est la limite de la suite $f^{n_j}(x)$. On a alors $p = f(p)$. En effet, la suite $u_{n_j+1} = d(f^{n_j+1}(x), f^{n_j+2}(x))$ a comme limite $l$ mais à aussi comme limite $d(f(p), f^2(p))$ strictement inférieur à $d(p, f(p))$ sauf si $p = f(p)$, ce qui reste donc la seule possibilité. On utilise la décroissance de la suite $d(f^n(x), p)$ pour conclure.
2. Voir [2]

On va donner un résultat similaire à celui de Beardon si on suppose X
connexe et localement compact (Nous n'avons pas trouvé ce résultat dans la
littérature, bien qu'il soit simple à démontrer à partir des idées de Beardon).

PROPOSITION 2.5. — Le théorème précédent est vrai sous l'hypothèse X connexe et localement compact (au lieu de propre).

*Preuve.* — On note $x$ un point pour lequel l'hypothèse ($H_x$) est satisfaite et $p$ la limite d'une sous-suite des itérés en $x$. Montrons la convergence de tous les $f^n(y)$ vers le point fixe $p$.

a) Notons $E$ l'ensemble des $y$ pour lesquels la suite $f^n(y)$ converge vers $p$. Remarquons d'abord que d'après le théorème 1, on a : $x \in E$. Choisissons une boule compacte $\bar{B}(p, r)$. L'inégalité triangulaire et la propriété de contraction de $f$ montrent que si $y \in E$ et $d(z, y) < r$, alors pour $n$ assez grand, on a : $f^n(z) \in \bar{B}(p, r)$. Par compacité de $\bar{B}(p, r)$, on en déduit qu'une sous-suite extraite converge. En reprenant le même raisonnement que pour $x$, on voit que $f^n(z)$ tend vers $p$, donc $z \in E$. Ceci implique que $E$ qui contient $x$ est ouvert et fermé dans $X$. La connexité de $X$ implique $E = X$. De plus, la convergence des $f^n$ est uniforme sur tout compact (ou localement) par Dini, la suite des $d(f^n(y), p)$ étant décroissante.

Plaçons nous dans la situation où l'hypothèse du 1. n'est satisfaite pour
aucun x. Dans, ce cas, on voit que f^n(y) doit tendre vers l'infini (sortir de
tout compact) pour tout y. On a aussi l'uniformité sur tout compact. Car
sinon, il existerait un compact K et une suite y_j de K telle qu'une suite
f^n_j(y_j) aurait une limite. Quitte à extraire, on peut supposer que y_j a une
limite y. En utilisant la propriété de contraction de f, on voit que la suite
f^n_j(y) aurait une limite, ce qui est absurde.

*Remarque.* — La généralisation suivante de la proposition 2.5 a été suggérée par le rapporteur : dans le cas d’un espace (X, d) localement compact et d’une contraction f, étant donnée une composante connexe C de X, alors soit tous les itérés tendent vers l’infini en tout point de C, soit ils tendent vers un point p (nécessairement unique et qui sera le point fixe) en tout point de C. Ceci se montre en remarquant que dans la preuve de la proposition précédente, l’ensemble E est ouvert et fermé, indépendamment de la connexité de X.

On va donner deux exemples qui montrent à la fois la nécessité de la
connexité et de la locale compacité dans les hypothèses de la proposition
2.5. On remarquera que si $f$ a un point fixe $p$, alors $f$ satisfait $(H_p)$.
Exemple localement compact et non connexe

$X$ est le sous-ensemble de $\mathbb{R}^2$ formé de la demi-droite $]0, +\infty[$ union le point $p = (0, 1)$. L'application $(x, y) \to (x/2, y)$ est une application contrac- tante pour la métrique euclidienne de $X$ dans lui-même. Le point fixe est $p$ mais $f^n(x, 0)$ sort de tout compact pour $x > 0$.

Exemple connexe complet et non localement compact

On note $e_n$ la suite de nombres dont le $n$-ième vaut 1 et les autres 0. On se donne une suite de réels $b_k$ strictement compris entre 0 et 1 et tels que le produit des $b_k$ converge vers un nombre strictement positif. On note $c_0$ l'espace de Banach des suites numériques qui tendent vers 0, muni de la norme du max. Il existe alors un unique endomorphisme continu $T$ tel que $T(e_n) = b_n e_{n+1}$, et $T$ est en fait une contraction. D'autre part, on a : $T^n(e_0) = b_0 b_1 \cdots b_n e_{n+1}$. Clairement, la suite des $T^n e_0$ ne tend pas vers la suite nulle car sa norme ne tend pas vers 0. Cette application est donc le contre-exemple voulu.

Le cas d'une contraction locale

On a le résultat suivant dû à Edelstein.

THÉORÈME 2.6. — Soit $f$ une application d'un espace métrique $(X, d)$ dans lui-même, vérifiant la propriété suivante : il existe $\epsilon > 0$ tel que pour tout $x, y$ de $X$ différents, on ait : $d(x, y) < \epsilon$ implique $d(f(x), f(y)) < d(x, y)$. On suppose que $f$ satisfait l'hypothèse $(H_x)$ pour un certain $x$ et on note $p$ la limite d'une sous-suite d'itérés en $x$. Alors $f$ admet $p$ comme point périodique.

Suivant Edelstein ([6]), on appelle $\epsilon$-contraction une telle application.

On peut se poser la question de la signification de cette notion pour certains exemples, comme le cas Kobayashi-hyperbolique. La réponse est donnée par la proposition suivante :

PROPOSITION 2.7. — Soit $(X, d)$ une variété munie d'une distance inté- grée (Pour la définition, voir [10]). Une $\epsilon$-contraction $f$ est alors une con- traction. Cette conclusion est vraie en particulier pour le cas Kobayashi- hyperbolique.

Preuve. — Supposons que $f$ ne soit pas une contraction. Il existe alors deux points distincts $p$ et $q$ de $X$ tels que $d(f(p), f(q)) = d(p, q)$. Choisis- sons $r > 0$ plus petit que $\epsilon$ tel que la sphère de centre $p$ et de rayon $r$ soit compacte. Par la propriété d'-$\epsilon$-contraction de $f$, il existe $\delta > 0$ tel que :
$d(f(x), f(p)) < d(x, p) - \delta$ pour tout $x$ sur cette sphère. On utilise maintenant le fait que $f$ est une distance intégrée. Pour chaque entier $n > 0$, on choisit une courbe $\gamma_n$ qui est $C^1$ par morceaux joignant $p$ et $q$ et dont la longueur soit plus petite que $d(p, q) + 1/n$. On choisit sur cette courbe un point $a_n$ à la distance $r$ de $p$. Il vient : $d(p, a_n) + d(a_n, q) \le l(\alpha_n) + l(\beta_n) = l(\gamma_n) \le d(p, q) + 1/n$.

On a noté par $l$ la longueur d'une courbe et $\alpha_n$ (resp. $\beta_n$) sont les sous-courbes joignant $p$ à $a_n$ et $a_n$ à $q$.

Il vient ensuite :

$$ 
\begin{align*}
d(p, q) = d(f(p), f(q)) &\le d(f(p), f(a_n)) + d(f(a_n), f(q)) \\
&\le d(p, a_n) - \delta + d(a_n, q) \\
&\le d(p, q) + 1/n - \delta
\end{align*}
$$

On obtient alors une contradiction si on prend $n$ assez grand.

*Remarque 1.* — La démonstration montre que la proposition reste vraie sous l'hypothèse plus faible suivante : pour tout $x \in X$, il existe $\epsilon(x) > 0$ tel que $d(f(x), f(y)) < d(x, y)$ lorsque $0 < d(x, y) < \epsilon(x)$.

*Remarque 2.* — Dans la situation générale, on ne peut espérer mieux que la périodicité, comme le montre l'exemple d'une application de $\mathbb{N}$ dans $\mathbb{N}$ qui à 0 associe 1 et à 1 associe 0 et qui vaut 0 ailleurs. Cette application sans point fixe et avec deux points périodiques est une $\epsilon$-contraction pour la métrique triviale, lorsque on prend $\epsilon < 1$, et vérifie bien sûr l'hypothèse $(H_0)$.

### 3. Semi-contractions

**DÉFINITION 3.1.** — Une semi-contraction est une application $f$ d'un espace métrique $(X, d)$ dans lui-même et vérifiant :

$$d(f(x), f(y)) \le d(x, y) \text{ pour tout } x, y \text{ dans } X.$$

On suppose dans la suite que $f$ est une semi-contraction vérifiant l'hypothèse $(H_x)$ pour un certain $x$ (i.e. il existe une sous-suite d'itérés $f^{n_i}(x)$ qui converge vers un point $p$ de $X$).

Il est clair qu'en général, on n'a pas de point fixe sous l'hypothèse $H_x$. Prendre une rotation sur le cercle ou une couronne.

**Question :** Que peut-on déduire sous l'hypothèse $H_x$ ?
**Q1** Est-ce que la $f$-orbite de $x$ est relativement compacte. Il existe des contre exemples mais dans une situation non localement compacte (Edelstein [7]). On donnera un autre contre-exemple à la fin de l'article.

**Q2** Si on suppose l'hypothèse plus forte : $f^{n_i}$ a une limite, peut-on en déduire que la famille $f^n$ est normale ?

On donnera une réponse à ces questions dans la dernière partie qui concerne le cas complexe.

Pour une semi-contraction vérifiant $H_x$, on a la proposition suivante :

**PROPOSITION 3.2.** — Il existe $z$ dans $X$ telle qu'une suite extraite $f^{m_i}(z)$ tende vers $z$.

On va montrer le résultat en prenant pour $z$ le point $p$ limite des $f^{n_i}(x)$.

*Preuve de la proposition.* —

1. Pour un entier $k$ fixé positif, on considère la suite : $w_n = d(f^n(x), f^{n+k}(x))$. Cette suite est positive, décroissante car $f$ est une semi-contraction. Elle a donc une limite. Si on considère la sous-suite $w_{n_i}$, on voit que cette limite vaut $d(p, f^k(p))$. Si on considère, $w_{n_i+1}$, on voit que cette limite vaut aussi $d(f(p), f^{k+1}(p))$. De manière générale, on aura : $d(f^l(p), f^{l+k}(p)) = d(p, f^k(p))$ pour tout $l$ et $k$ positifs.

2. Montrons que la suite $d(f^{n_i}(p), f^{n_{i+1}}(p))$ tend vers 0. On remarque que si on pose $x_k = f^{n_k}(x)$, alors : $x_k$ tend vers $p$. De plus pour $k$ fixé, la suite $f^{n_i}(x_k)$ tend vers $f^{n_k}(p)$ lorsque $i$ tend vers l'infini (Utiliser le fait que $f^{n_i}$ et $f^{n_k}$ commutent). En particulier, $d(f^{n_i}(x_k), f^{n_{i+1}}(x_k))$ tend vers 0 pour tout $k$.

L'inégalité triangulaire donne pour tout $k$ :

$$d(f^{n_i}(p), f^{n_{i+1}}(p)) \le d(f^{n_i}(p), f^{n_i}(x_k)) + d(f^{n_i}(x_k), f^{n_{i+1}}(x_k)) + d(f^{n_{i+1}}(x_k), f^{n_{i+1}}(p)), \text{ et comme } f \text{ est une semi-contraction, ce terme est plus petit ou}$$
$$\text{égal à : } 2d(x_k, p) + d(f^{n_i}(x_k), f^{n_{i+1}}(x_k)).$$

On fixe alors $x_k$ pour que $2d(x_k, p)$ soit plus petit que $\epsilon/2$ et pour $i$ assez grand, on aura : $d(f^{n_i}(x_k), f^{n_{i+1}}(x_k))$ plus petit que $\epsilon/2$.

3. On a : $d(f^{n_i}(p), f^{n_{i+1}}(p)) = d(f^{n_{i+1}-n_i}(p), p)$ d'après le 1. et cette suite tend vers 0 d'après le 2. La proposition 3.2 est donc démontrée en posant $m_i = n_{i+1} - n_i$.
On utilisera aussi le lemme suivant :

**LEMME 3.3.** — Soient $(f_k)$ une suite de semi-contractions d'un espace métrique localement compact $(X, d)$. Pour $y \in X$, on note $O_y$ l'ensemble des $(f_k(y))$. Le sous-ensemble $E$ des y tels que $O_y$ soit relativement compact est un ouvert de $X$.

*Preuve du lemme.* — Soit $y$ dans $E$. Un argument de compacité montre qu'il existe $r > 0$ tel que le sous ensemble $\{z \in X | d(z, O_y) < r\}$ soit un ouvert relativement compact dans $X$. On en déduit à l'aide de la propriété de semi-contraction des $f_k$ que la boule $B(y, r)$ est dans $E$, donc $E$ est ouvert.

On applique maintenant le lemme 3.3 à la suite $f^{m_i}$. Dans ce cas, l'ouvert $E$ associé est non vide. De plus $f$ envoie $E$ dans lui-même. La définition de $E$ nous permet alors d'utiliser le théorème d'Ascoli.

Ainsi quitte à extraire, on peut supposer :

$f^{m_i}$ a une limite $g$ sur tout $E$. Notons $Z$ le sous-ensemble des points fixes de $g$. Comme $f$ et $g$ commutent, $f$ envoie $Z$ dans lui-même. On identifie par un abus d'écriture $f$ et sa restriction à $Z$.

On remarque que dans le cas général d'une semi-contraction $f$, si $X$ est localement compact, alors $Z$ l'est aussi comme fermé dans un ouvert de $X$. On donne ici un résultat général pour cette situation, qu'on va appliquer au cas $W = Z$.

**PROPOSITION 3.4.** — *Soit $(W, d)$ un espace localement compact, et $f$ une semi-contraction. On suppose que $f^{m_i}$ tend vers l'identité pour une suite $m_i$ d'entiers positifs qui tend vers l'infini. Alors $f$ est une isométrie surjective de $(W, d)$.*

*Remarque.* — On peut trouver une preuve de ce résultat pour le cas holomorphe dans [12]

*Preuve.* — On a pour tout $x, y$ dans $W$ et pour tout $m_i$ :

$d(f^{m_i}(x), f^{m_i}(y)) \le d(f(x), f(y)) \le d(x, y)$. En faisant tendre $m_i$ vers l'infini, on voit que $d(f(x), f(y)) = d(x, y)$ donc $f$ est une isométrie.

Montrons la surjectivité. L'hypothèse implique d'abord que $f(W)$ est dense dans $W$. De manière plus générale, tous les $f^k(W)$ sont denses car pour tout $x$ dans $W$ on a $f^k(f^{m_i-k}(x))$ tend vers $x$.
Soit maintenant $a$ dans $W$. On choisit $r > 0$ tel que $\bar{B}(a, r)$ soit compact. Une isométrie $g$ de $W$ envoie $\bar{B}(a, r)$ dans $\bar{B}(g(a), r)$. De plus si un élément $x$ de $\bar{B}(g(a), r)$ est l'image par $g$ de $t$ dans $W$, alors $t$ est dans $\bar{B}(a, r)$.

En particulier, si on prend $g = f^k$, on voit en utilisant la dernière re-
marque que l'image par $f^k$ de $\bar{B}(a, r)$ est dense dans $\bar{B}(f^k(a), r)$ et cette
image est de plus compacte donc fermée, donc $f^k$ est une surjection entre
les deux boules fermées.

Pour $m_i$ assez grand, la boule $\bar{B}(f^{m_i}(a), r)$ contient $a$. D'après ce qui précède, c'est l'image par $f^{m_i}$ de $\bar{B}(a, r)$. Donc $a$ est bien dans l'image de $f^{m_i}$ et donc de $f$, ce qui termine la preuve de la surjectivité.

Comme conséquence d'une partie de la proposition, on peut donner, dans
le cas d'une semi-contraction d'un espace localement compact, une preuve
simple du théorème 2.6 d'Edelstein.

Preuve. — Par la proposition 3.2, on sait que Z est non vide. Choisissons $x$ dans Z. Il existe un entier strictement positif $l$ tel que $d(x, f^l(x)) < \epsilon$. Montrons que $f^l(x) = x$. Sinon en raisonnant par l'absurde, on aurait d'une part : $d(f(x), f^{l+1}(x)) < d(x, f^l(x))$ par $\epsilon$-contraction, et d'autre part $d(f(x), f^{l+1}(x)) = d(x, f^l(x))$, par la propriété d'isométrie de f, ce qui est absurde.

4. Le cas complexe

On se place ici dans la situation où $X$ est une variété complexe Kobayashi hyperbolique (par exemple un ouvert borné de $\mathbb{C}^n$, pour la définition générale, voir [10]), et $f$ est une auto-application holomorphe vérifiant l'hypothèse $(H_x)$. Une telle application est une semi-contraction pour la métrique de Kobayashi et on peut faire dans ce cas la construction faite à la suite du lemme 3.3. D'après un théorème de J.P. Vigué ([14]), l'ensemble $Z$ (qui est l'ensemble des points fixes de $g$, voir suite du lemme 3.3) est une sous-variété complexe de $X$, et $f$ un automorphisme de $Z$. Un résultat classique de H. Cartan (voir par exemple [13]) généralisé au cas Kobayashi hyperbolique nous dit que le groupe des automorphismes d'une variété complexe connexe hyperbolique est un groupe de Lie. On a besoin du lemme suivant :

LEMME 4.1. — *Soit G un groupe de Lie abélien contenant un sous-groupe dense engendré par un élément t. On suppose que t vérifie la propriété suivante : il existe une suite d'entiers strictement positifs $m_i$ tels que $t^{m_i}$ tende vers l'identité. Alors G est un groupe compact.*
*Preuve.* — On utilise la classification des groupes de Lie connexes abéliens qui dit qu’ils sont topologiquement isomorphes au produit d’un tore par un $\mathbb{R}^n$. On fixe $k = m_i$ assez grand pour que $t^k$ appartienne à la composante connexe de l’identité. La suite $(t^k)^{m_i}$ tend vers l’identité. Il est alors clair que $t^k$ a une composante nulle sur $\mathbb{R}^n$. Donc l’adhérence du sous-groupe engendré par $t^k$ est compact, et il en va alors de même pour le sous-groupe engendré par $t$.

On a alors le théorème suivant : (Pour la notion de taut, on pourra consulter le livre de Kobayashi [10]. Cette notion est plus faible que celle de propre).

**THÉORÈME 4.2.** — *Soit f une auto-application holomorphe d'une variété Kobayashi hyperbolique X. On suppose que pour un point x, l'hypothèse $H_x$ est satisfaite. Alors :*

1. La f-orbite de x est relativement compacte.

2. Si l'on suppose l'hypothèse plus forte, à savoir qu'une sous-suite d'itérés $f^{n_i}$ a une limite, alors la famille des $f^n$ est normale.

3. Dans le cas taut, l'hypothèse $H_x$ implique que la famille des itérés est normale.

*Remarques.* — Le dernier résultat ne s'étend pas au cas hyperbolique. Prendre par exemple $f(x, y) = (x, y/2)$ dans le bidisque privé de l'origine.

*Preuve.* — Montrons d'abord 1. On note $Z'$ la composante connexe de $p$ dans $Z$. C'est un ouvert de $Z$ car $Z$ est localement connexe. Comme $f^{m_i}$ tend vers l'identité, il existe $k = m_i$ tel que $f^k$ appartienne au groupe de Lie des automorphismes de $Z'$. La suite $f^{km_i}$ tend aussi vers l'identité, et donc l'adhérence du groupe engendré par $f^k$ est compact et il en va alors de même pour celui engendré par $f$. En particulier, ceci implique que la f-orbite du point $p$ est relativement compacte. En appliquant le lemme 1 à la suite des itérées de $f$, on voit que l'ensemble des $t \in X$ dont la f-orbite est relativement compacte est un ouvert. Or $f^{n_i}(x)$ tend vers $p$. Donc il existe un $n_i$ tel que la f-orbite de $f^{n_i}(x)$ soit relativement compacte, ce qui implique immédiatement que la f-orbite de $x$ est aussi relativement compacte. D'où le premier résultat du théorème 4.2.

Preuve du 2. Si une sous-suite $f^{n_i}$ a une limite, le résultat précédent implique que pour tout $x$, la famille $f^{n_i}(x)$ est relativement compacte et donc d'après ce qui précède, toutes les f-orbites sont relativement compactes. Par Ascoli, la famille $f^n$ est normale.
Preuve du 3. Si $X$ est taut, alors d'après le premier résultat, la $f$-orbite de $x$ est relativement compacte, et donc la famille $f^n$ est normale.

*Remarques.* — Nous donnons un contre-exemple (simple et bien connu) au lemme 4.1 (et qui se traduit par un contre-exemple au théorème précédent) dans le cas d'un groupe topologique $G$ abélien non localement compact. On considère le cercle $S^1$ muni de sa topologie naturelle et de sa structure de groupe. Soit $l$ un nombre réel irrationnel et notons $G$ le sous-groupe de $S^1$ engendré par $u = e^{2i\pi l}$ muni de la topologie induite. On sait que ce sous-groupe est dense dans $S^1$. Il existe une suite d'entiers naturels $n_k$ telle que $u^{n_k}$ tende vers 1 et d'autre part, la suite $u^n$ n'est pas relativement compacte.

Déclinons ce résultat en termes de $f$-orbites. Si on considère l'application $f$ de $G$ dans lui-même, qui à $x$ associe $ux$, c'est une semi-contraction (en fait une isométrie) de $G$ dans lui-même lorsque on munit $G$ de la métrique induite par la métrique usuelle de $S^1$. Pour $x$ dans $G$, la $f$-orbite n'est pas relativement compacte mais pourtant $f^{n_k}(x)$ tend vers $x$ (ce qui signifie que $f$ vérifie l'hypothèse $(H_x)$ pour tout $x$). Cet exemple peut être comparé à celui donné par Edelstein, dans le cadre d'un espace complet de dimension infinie, mais nous ignorons quel rôle peut jouer l'hypothèse de complétude. Dans le cas localement compact, nous n'avons pas de contre-exemple.

**5. Quelques remarques sur la locale compacité du groupe**

Le lemme 4.1 s'étend au cas d'un groupe métrisable localement compact. Ceci découle d'un résultat de classification pour les groupes localement compacts abéliens donné dans le livre de K.H. Hofman et S.A. Morris ([8]) dont nous extrayons le théorème p.348.

**THÉORÈME 5.1.** — *Un groupe abélien localement compact est topologiquement isomorphe à un produit d'un $\mathbb{R}^m$ et d'un groupe H qui admet un sous-groupe K compact ouvert.*

On applique ceci au cas d'un groupe additif $L$ qui est l'adhérence d'un groupe engendré par un seul élément $x$. On suppose qu'une suite $n_kx$ tend vers 0. En projetant sur $\mathbb{R}^m$, on voit que $x$ n'a pas de composante sur $\mathbb{R}^m$, donc $m = 0$. D'autre part le groupe $\frac{H}{K}$ est discret et ceci implique que la projection de $x$ sur ce groupe est d'ordre fini. Ceci implique que $H$, et donc $L$ sont compacts.

Une question est alors de savoir quand les isométries bijectives d'un espace localement compact $(X, d)$ forment (pour la topologie compacte ouverte) un groupe localement compact. Ceci n'est pas toujours vrai, comme le montre l'exemple suivant :
On munit $\mathbb{N}$ de la métrique triviale $d$ ($d(x, y) = 1$ si $x$ est différent de $y$). L'espace $(X, d)$ est clairement localement compact et complet. Les isométries bijectives sont simplement les bijections. On prend la suite de bijections $f_n$ telle que $f_n(0) = n$, $f_n(n) = 0$ et qui vaut l'identité ailleurs. Il n'y a pas de sous suite extraite qui converge et la suite $f_n$ ne tend pas vers l'infini.

*Remarque.* — Dans le cas d’un espace compact, il est bien connu que le groupe des isométries est compact.

On a toutefois le théorème suivant (qui généralise ce qui se passe dans le cas Kobayashi hyperbolique).

**THÉORÈME 5.2.** — Si $(X, d)$ est connexe, alors le groupe des isométries bijectives est localement compact.

*Preuve.* — On rappelle qu’un système fondamental de voisinages de l’identité $id$ pour le groupe des isométries bijectives $Is(X, d)$ d’un espace localement compact $(X, d)$ est donné par les voisinages suivants :

$$V(K, \epsilon) = \{f \in Is(X, d) \mid d_K(f, id) \le \epsilon\}.$$

Ici $\epsilon$ est un nombre strictement positif, $K$ un compact non vide de $X$ et $d_K$ la métrique $d$ restreinte à $K$.

Fixons $K$ et un point $y$ de $K$. Quitte à agrandir $K$, on peut supposer que $K$ contienne une boule fermée de centre $y$ et de rayon $\epsilon$ et de plus on peut supposer cette boule compacte pourvu que $\epsilon$ soit choisi assez petit. Pour de tels choix de $K$ et $\epsilon$, il est clair que l’ensemble des $f(y)$ est relativement compact dans $X$ lorsque $f$ varie dans $V(K, \epsilon)$. Un résultat dans [11] implique alors que dans cette situation, une suite $f_n$ de $V(K, \epsilon)$ admet une sous-suite extraite qui converge uniformément sur tout compact vers un élément $f$ de $Is(X, d)$, qui est alors nécessairement dans $V(K, \epsilon)$. Donc $V(K, \epsilon)$ est un voisinage compact de l’identité, ce qui achève la preuve de la locale compacité du groupe des isométries.

*Remarque.* — En s’appuyant sur l’article [11], on peut montrer de manière similaire (mais plus simple) que le théorème précédent est aussi vrai dans le cas propre.
Bibliographie

[1] ABATE (M.). — Iteration theory of holomorphic maps on taut manifolds, Mediterranean Press, Rende (1989).

[2] BEARDON (A. F.). — Iteration of contractions and analytic maps, J. London Math. Soc. (2) 41, no. 1, p. 141-150 (1990).

[3] BEARDON (A. F.). — The dynamics of contractions, Ergodic Theory Dynam. Systems 17, no. 6, p. 1257-1266 (1997).

[4] BEDFORD (E.). — On the automorphism group of a Stein manifold, Math. Ann. 226, no.2, p. 215-227 (1983).

[5] CALKA (A.). — On conditions under which isometries have bounded orbits, Colloq. Math. 48, no. 2, 219-227 (1984).

[6] EDELSTEIN (M.). — On fixed and periodic points under contractive mappings, J. London Math. Soc. 37, p. 4-79 (1962).

[7] EDELSTEIN (M.). — On non-expansive mappings of Banach spaces, Proc. Cambridge Philos. Soc. 60, p. 439-447 (1964).

[8] HOFMANN (K. H.), MORRIS (S. A.). — The structures of compact groups, de Gruyter, Studies in mathematics, Berlin New-York (1998).

[9] KARLSSON (A.). — Nonexpanding maps, Busemann functions, and multiplicative ergodic theory, Rigidity in dynamics and geometry (Cambridge, 2000), p. 283-294, Springer, Berlin (2002).

[10] KOBAYASHI (Sh.). — Hyperbolic complex spaces, Grundlehren der Mathematischen Wissenschaften [Fundamental Principles of Mathematical Sciences], 318. Springer-Verlag, Berlin (1998).

[11] LOEB (J.-J.). — On complex automorphisms and holomorphic equivalence of domains, Symmetries in complex analysis, p. 125-156, Contemp. Math., 468, Amer. Math. Soc., Providence, RI (2008).

[12] LOEB (J.-J.), VIGUÉ (J.-P.). — Sur les automorphismes analytiques des variétés hyperboliques, Bull. Sci. Math. 131, no. 5, p. 469-476 (2007).

[13] NARASHIMAN (R.). — Several complex variables, Chicago lectures in mathematics, The University of Chicago Press, Chicago and London (1971).

[14] VIGUÉ (J.-P.). — Sur les points fixes d'applications holomorphes, C.R. Acad. Sc. Paris I. Math., 303, p. 927-930 (1986).