ANNALES

DE LA FACULTÉ
DES SCIENCES

DE
TOULOUSE
Mathématiques

FRANÇOIS BERTELOOT

Méthodes de changement d'échelles en analyse complexe

Tome XV, n° 3 (2006), p. 427-483.

<http://afst.cedram.org/item?id=AFST_2006_6_15_3_427_0>

© Annales de la faculté des sciences de Toulouse Mathématiques, 2006, tous droits réservés.

L'accès aux articles de la revue « Annales de la faculté des sciences de Toulouse, Mathématiques » (http://afst.cedram.org/), implique l'accord avec les conditions générales d'utilisation (http://afst.cedram.org/legal/). Toute reproduction en tout ou partie cet article sous quelque forme que ce soit pour tout usage autre que l'utilisation à fin strictement personnelle du copiste est constitutive d'une infraction pénale. Toute copie ou impression de ce fichier doit contenir la présente mention de copyright.

cedram

Article mis en ligne dans le cadre du

Centre de diffusion des revues académiques de mathématiques

http://www.cedram.org/
# Méthodes de changement d'échelles en analyse complexe(*)

FRANÇOIS BERTELOOT (1)

**RÉSUMÉ.** — Nous mettons en perspective différentes méthodes de changement d'échelles et illustrons leur pertinence en mettant sur pieds des preuves simples et élémentaires de plusieurs théorèmes biens connus en analyse ou géométrie complexe. Les situations abordées sont variées et la plupart des théorèmes démontrés sont des classiques initialement obtenus entre la fin du XIXe et la seconde moitié du XXe siècle.

**ABSTRACT.** — We discuss several rescaling methods in complex analysis and geometry and apply them to get elementary proofs of some classical results. The Bloch principle plays an important role in our approach and yields to a somewhat unified point of view.

## 1. Introduction

Les méthodes de changement d'échelles sont utilisées dans de nombreux secteurs des mathématiques. En analyse complexe, elles fournissent de puissants outils permettant, parfois contre toute attente, de résoudre des problèmes par « linéarisation ». Décrivons en le mécanisme général. Étant donnée une suite divergente (resp. de limite constante) d'objets holomorphes définis sur un même espace source et réalisés dans un même espace image, il s'agit de produire un objet limite non trivial en précomposant la suite par des contractions adéquates de l'espace source (resp. des dilatations de l'espace image). L'objet limite obtenu après ces renormalisations doit, en principe, être plus simple à étudier que les objets de la suite initiale. On s'attend aussi à ce que ses propriétés renseignent sur celles des constituants de la suite. Il convient de remarquer que ceci peut aussi s'appliquer à un objet holomorphe fixé en lui associant, par exemple, une suite d'objets obtenue

<footnote>(*) Reçu le 22 octobre 2004, accepté le 23 novembre 2004</footnote>

<footnote>(1) Université P. Sabatier, Toulouse III, Lab. Émile Picard, Bât. 1R2, 31062 Toulouse Cedex 9, France.</footnote>

<footnote>E-mail: berteloot@picard.ups-tlse.fr</footnote>
après composition par des dilatations. Les applications de ces méthodes sont nombreuses et parfois assez anciennes ; il suffit de penser à la linéarisation d'un germe de transformation holomorphe contractante ou à l'étude, par Fatou, des ensembles de Julia de fractions rationnelles possédant des tangentes.

Les deux premiers chapitres portent sur des questions biens distinctes et les méthodes de changement d'échelles utilisées sont de nature différente. Leur unité est cependant scellée par une réduction commune à une forme de principe de Bloch.

Le premier chapitre est centré sur le principe de Bloch usuel. Ce principe explique le défaut de normalité d'une famille de disques holomorphes dans une variété compacte par la présence de courbes entières limites situées dans l'adhérence de cette famille. Ces courbes sont produites grâce au procédé de renormalisation de Zalcman. Nous l'appliquons à quelques propriétés fondamentales des ensembles de Julia de fractions rationnelles puis à certaines questions d'hyperbolicité au sens de Kobayashi. Cette approche simplifie considérablement les démonstrations classiques.

Le deuxième chapitre est consacré à la méthode de dilatation des coordonnées de Pinchuk. Il s'agit d'étudier des biholomorphismes en faisant exploser leurs domaines (source ou but) de façon à créer un biholomorphisme limite entre domaines modèles simples (par exemple un automorphisme) d'une réalisation non-bornée de la boule euclidienne). Nous nous plaçons dans le cas strictement pseudoconvexe pour simplifier mais nous adoptons un exposé facile à transposer au cas faiblement pseudoconvexe de type fini. Nous commençons par étudier le problème de normalisation inhérent à cette méthode ; il est trés naturellement lié à un principe de Bloch. Nous appliquons ensuite la méthode à l'étude du compartement de la métrique de Kobayashi, au théorème de Wong-Rosay puis au théorème de Fefferman sur le prolongement différentiable de biholomorphismes.

Lorsque l'espace source est de dimension au moins égale à deux, il n'existe généralement pas de procédé de renormalisation « à la Zalcman » fournissant des limites de rang maximal. La situation est bien plus sauvage que pour les disques comme le cas des germes holomorphes dilatants suffit à s'en convaincre. La fin de ce texte est conditionnée par ce constat.

Dans le troisième chapitre nous traitons de la normalisation des germes inversibles (théorèmes de Poincaré et Dulac). Il n'y a là rien de nouveau si ce n'est que la preuve que nous donnons est plus simple que celles que nous avons trouvées dans la littérature.
Nous nous intéressons ensuite à la linéarisation le long des orbites d'un endomorphisme holomorphe de l'espace projectif. D'une certaine façon ceci généralise la linéarisation autour d'un point fixe ; l'orbite jouant maintenant le rôle du point. Le phénomène est de nature statistique et fait pleinement intervenir la mesure d'équilibre de l'endomorphisme et ses exposants de Liapounov. On retrouve les problèmes de résonance qui cette fois s'expriment au niveau des exposants de Liapounov.

Ce texte est autonome et, à quelques exceptions près, contient des démonstrations complètes. Les références sont regroupées dans les notes de fin de chapitre. Le lecteur y trouvera des éléments « historiques » et quelques jalons permettant de s'orienter dans la littérature sur le sujet.

## Table des matières

<table><tr><td>1</td><td>Introduction</td><td>427</td></tr><tr><td>2</td><td>Renormalisation de disques holomorphes</td><td>430</td></tr><tr><td>2.1</td><td>Principe de Bloch et procédé de renormalisation de Zalcman</td><td>430</td></tr><tr><td>2.2</td><td>La théorie de Picard-Montel</td><td>433</td></tr><tr><td>2.3</td><td>Propriétés élémentaires des ensembles de Julia de fractions rationnelles</td><td>435</td></tr><tr><td>2.4</td><td>Hyperbolicité au sens de Kobayashi, lemme de Brody</td><td>437</td></tr><tr><td>2.5</td><td>Linéarisation des courbes entières dans P<sup>k</sup> et théorème de Green</td><td>440</td></tr><tr><td>3</td><td>Dilatation des coordonnées</td><td>444</td></tr><tr><td>3.1</td><td>Géométrie des hypersurfaces strictement pseudoconvexes</td><td>444</td></tr><tr><td>3.2</td><td>La méthode de dilatation des coordonnées de Pinchuk</td><td>446</td></tr><tr><td>3.3</td><td>Estimations asymptotiques de la métrique de Kobayashi et principe de normalité</td><td>448</td></tr><tr><td>3.4</td><td>Le théorème de Wong-Rosay</td><td>453</td></tr><tr><td>3.5</td><td>Généralisation aux hypersurfaces de type fini dans C<sup>2</sup></td><td>454</td></tr><tr><td>3.6</td><td>Le théorème de Fefferman</td><td>456</td></tr><tr><td>4</td><td>Normalisation et linéarisation le long d'orbites</td><td>462</td></tr><tr><td>4.1</td><td>Linéarisation ou conjugaison un automorphisme proche</td><td>462</td></tr><tr><td>4.2</td><td>Théorèmes de Poincaré et Poincaré-Dulac</td><td>466</td></tr></table>
<table><tr><td>4.3</td><td>Domaines de Fatou-Bieberbach</td><td>469</td></tr><tr><td>4.4</td><td>Structure complexe des variétés stables</td><td>471</td></tr><tr><td>4.5</td><td>Linéarisation le long d'orbites expansives d'un endomorphismes de P<sup>k</sup></td><td>474</td></tr></table>

**Notations.** —

• L'espace complexe $k$-dimensionnel sera noté $C^k$ et l'espace projectif de même dimension $P^k$.

• On désignera par $\Delta_R$ le disque de $C$ centré à l'origine et de rayon $R$, lorsque $R = 1$ on notera plus simplement $\Delta$.

• L'ensemble des applications holomorphes de $N$ dans $M$ sera noté $\mathcal{O}(N, M)$.

**Remerciements.** — Je remercie mes collègues G. Bassanelli, C. Dupont, V. Guedj, J.J. Loeb ainsi que E. Opshtein pour l'aide apportée et les re-marques dont ils m'ont fait bénéficier.

Ce texte a fait l'objet de cours à l'École d'Analyse et Géométrie au CIRM, lors du Workshop CR Geometry and Automorphisms Groups à la Seoul National University et à Parme dans le cadre des chaires de Giorgi-Venturi de l'Université Franco-Italienne. Je remercie ces institutions ainsi que les collègues organisateurs pour la qualité de leur accueil et leur hospi-talité.

## 2. Renormalisation de disques holomorphes

Dans ce chapitre nous décrivons un procédé de renormalisation pour les familles de disques holomorphes dans les variétés compactes et en étudions quelques applications marquantes.

### 2.1. Principe de Bloch et procédé de renormalisation de Zalcman

Le lemme suivant, dû à Zalcman, montre comment toute suite de disques holomorphes dans une variété compacte peut être rendue normale en la composant à la source par des contractions bien choisies.

**LEMME 2.1.** — *Soit $M$ une variété compacte complexe munie d'une mé-trique hermitienne et $(f_k)_k$ une suite dans $\mathcal{O}(\Delta, M)$. Si $(f_k)_k$ n'est pas normale en $z_0 \in \Delta$ alors il existe des suites $(z_k)_k$ et $(\rho_k)_k$ vérifiant*
$$ (i) \quad z_k \in \Delta, z_k \to z_0 $$

$$ (ii) \quad \rho_k > 0, \rho_k \to 0 $$

et telles qu'après une éventuelle extraction, la suite $(g_k)_k$ définie par

$$ g_k(z) = f_k(z_k + \rho_k z) $$

converge uniformément sur tout compact de $\mathbf{C}$ vers une courbe entière non constante $g: \mathbf{C} \to M$ vérifiant $|g'| \le |g'(0)| = 1$.

La preuve de ce lemme est tout à fait élémentaire, son mécanisme est particulièrement limpide dans la version reproduite ici où elle se révèle être une simple application du lemme métrique suivant :

**LEMME 2.2.** — Soit $(X, d)$ un espace métrique complet et $\varphi: X \to \mathbf{R}^+$ une fonction localement bornée. Soit $\epsilon > 0$ et $\tau > 1$. Alors pour tout $a \in X$ tel que $\varphi(a) > 0$, il existe $\tilde{a} \in X$ tel que :

$$ (i) \quad d(a, \tilde{a}) \le \frac{\tau}{\epsilon\varphi(a)(\tau-1)} $$

$$ (ii) \quad \varphi(\tilde{a}) \ge \varphi(a) $$

$$ (iii) \quad \varphi(x) \le \tau\varphi(\tilde{a}) \quad \text{si } d(x, \tilde{a}) \le \frac{1}{\epsilon\varphi(\tilde{a})} $$

*Démonstration.* — Si il était impossible de trouver un tel $\tilde{a}$ alors, en particulier, $a$ ne conviendrait pas et devrait violer la condition (iii). Il existerait donc $a_1 \in X$ tel que $\varphi(a_1) > \tau\varphi(a)$ et $d(a, a_1) \le \frac{1}{\epsilon\varphi(a)}$. En continuant ainsi on fabriquerait une suite $(a_k)_k$ telle que $d(a_k, a_{k-1}) \le \frac{1}{\tau^{k-1}} \left( \frac{1}{\epsilon\varphi(a)} \right)$ et $\varphi(a_k) \ge \tau^k \varphi(a)$ : $\varphi$ serait non bornée au voisinage de la limite de $(a_k)_k$. $\square$

<figure><img src="image_1.png" /><figcaption>Figure 1. — Le lemme métrique pour $\tau = 2$ et $\epsilon = 1$</figcaption></figure>
Démonstration du lemme de Zalcman. — En vertu du théorème d'Ascoli, $(f_k)_k$ n'est équicontinue sur aucun voisinage de $z_0$. En particulier, pour tout voisinage $V_0$ de $z_0$ on a : $\text{Sup}_k \text{Sup}_{z \in V_0} |f'_k| = \infty$. Après extraction et renumérotation on trouve donc $a_k \to z_0$ telle que $|f'_k(a_k)| \ge k^3$.

On applique maintenant le lemme 2.2 avec $X = \overline{D(0, r)}$ ($|a_k| \le r < 1$), $\varphi = |f'_k|$, $a = a_k$, $\epsilon = \frac{1}{k}$ et $\tau = 1 + \frac{1}{k}$. Ceci fournit $\tilde{a} =: z_k$ tel que

$$ (i) \quad |z_k - a_k| \le \frac{\tau}{\epsilon\varphi(a)(\tau-1)} \le \frac{2k^2}{|f'_k(a_k)|} \le \frac{2}{k} $$

$$ (ii) \quad |f'_k(z_k)| = \varphi(\tilde{a}) \ge \varphi(a) = |f'_k(a_k)| \ge k^3 $$

$$ (iii) \quad |f'_k(z)| = \varphi(z) \le \tau\varphi(\tilde{a}) = \left(1 + \frac{1}{k}\right) |f'_k(z_k)| \quad \text{pour } |z - z_k| \le \frac{1}{\epsilon\varphi(\tilde{a})} = \frac{k}{|f'_k(z_k)|}. $$

Posons alors $\rho_k := \frac{1}{|f'_k(z_k)|}$ et $g_k := f_k(z_k + \rho_k z)$. Pour $k$ assez grand, $g_k$ est définie sur $\Delta_k$ puisque $z_k \to z_0$ (i) et $k\rho_k \le \frac{1}{k^2}$ (ii). De plus, (iii) montre que $|g'_k(z)| = \rho_k|f'_k(z_k + \rho_k z)| \le (1 + \frac{1}{k})|\Delta_k|$. On obtient alors $g$ en utilisant le théorème d'Ascoli et un procédé diagonal. Par holomorphie on a $|g'(0)| = \lim_k |g'_k(0)| = 1$ ce qui nous assure que $g$ n'est pas constante, on a de même $|g'| \le 1$ sur $\mathbf{C}$. $\square$

Remarque 2.3. — L'holomorphie des disques n'intervient que pour montrer que la limite n'est pas constante.

Le lemme de Zalcman peut être considéré comme une version concrète du principe de Bloch. Étant donnée une propriété $\mathcal{P}$ susceptible d'être satisfaite par les applications holomorphes à valeurs dans $M$, ce principe subordonne l'abondance de disques holomorphes vérifiant $\mathcal{P}$ à l'existence de courbes entières non constantes vérifiant cette même propriété :

Principe de Bloch. — Si $\mathcal{E} := \{f \in \mathcal{O}(\mathbf{C}, M) / f \text{ satisfait } \mathcal{P}\}$ est réduite aux constantes alors $\mathcal{F} := \{f \in \mathcal{O}(\Delta, M) / f \text{ satisfait } \mathcal{P}\}$ est normale.

Bien qu'il existe des propriétés $\mathcal{P}$ pour lesquelles ce principe soit en défaut, le lemme de Zalcman en garantit la validité lorsque $\mathcal{P}$ est stable par convergence vers une limite non constante et changement de variable à la source. Ainsi, le lemme d'Hurwitz nous montre que les courbes entières obtenues à partir de disques omettant un nombre fini de points de $\mathbf{P}^1$ évitent encore ces points et le principe de Bloch stipule donc que le théorème de Montel découle du premier théorème de Picard :

$$ \mathcal{O}(\mathbf{C}, \mathbf{P}^1 \setminus \{0, 1, \infty\}) \subset \{\text{cst}\} \implies \mathcal{O}(\Delta, \mathbf{P}^1 \setminus \{0, 1, \infty\}) \text{ est normale.} $$
## 2.2. La théorie de Picard-Montel

En utilisant le procédé de Zalcman, nous allons donner des preuves élémentaires et rapides des théorèmes de Picard et du théorème de Montel. Rappelons leurs énoncés.

(P1) Premier théorème de Picard : $O(\mathbf{C}, \mathbf{P}^1 \setminus \{0, 1, \infty\}) \subset \{\mathrm{cst}\}$

(P2) Grand théorème de Picard : $O(\Delta \setminus \{0\}, \mathbf{P}^1 \setminus \{0, 1, \infty\}) \subset O(\Delta, \mathbf{P}^1)$

(M) Théorème de Montel : $O(\Delta, \mathbf{P}^1 \setminus \{0, 1, \infty\})$ est normale.

Il est bien connu et facile de voir que $(M) \Rightarrow (P2) \Rightarrow (P1)$. Comme nous l'avons déjà remarqué, on a en fait $(M) \Leftrightarrow (P1)$ en vertu du principe de Bloch.

Commençons par donner une preuve de (M).

*Démonstration du théorème de Montel.* — Désignons par $\mathcal{R}_q$ l'ensemble des racines $2^q$-ièmes de l'unité et considérons le revêtement de $\mathbf{P}^1 \setminus \{0, 1, \infty\}$ par $\mathbf{P}^1 \setminus (\{0, \infty\} \cup \mathcal{R}_q)$ défini par $P_q(z) = z^{2^q}$.

Soit $(f_n)_n$ une suite de disques holomorphes, $f_n : \Delta \to \mathbf{P}^1 \setminus \{0, 1, \infty\}$, supposée non normale. Pour tout $q$, considérons la suite $f_{n,q} \in O(\Delta, \mathbf{P}^1 \setminus (\{0, \infty\} \cup \mathcal{R}_q))$ de disques relevés par $P_q : P_q \circ f_{n,q} = f_n$. Le lemme de Zalcman, appliqué à $(f_{n,q})_n$ fournit des courbes entières $g_q : \mathbf{C} \to \mathbf{P}^1 \setminus \mathcal{R}_q$ telles que $|g'_q| \le |g'_q(0)| = 1$. Par le théorème d'Ascoli, $(g_q)$ est normale et converge donc, modulo extraction, vers une limite $g$ telle que $|g'(0)| = \mathrm{Lim}|g'_q(0)| = 1$. Comme $\mathcal{R}_q \subset \mathcal{R}_{q+1}$ et $g \ne \mathrm{cst}$, on déduit du lemme d'Hurwitz que $g$ évite $\bigcup \mathcal{R}_q$ et donc aussi son adhérence $S^1$. Ceci contredit le théorème de Liouville. $\square$

Voyons maintenant comment (P1) implique (P2), il s'agit d'une variante de l'argument classique permettant de déduire (P2) de (M).

Si $f \in O(\Delta \setminus \{0\}, \mathbf{P}^1 \setminus \{0, 1, \infty\})$ présente une singularité essentielle en 0 alors $f_n(z) := f(\frac{z}{2^n})$ n'est pas normale sur la couronne $\{\frac{1}{2} < |z| < 1\}$. Le lemme de Zalcman, appliqué sur un disque $D(z_0, r_0)$ bien choisi, fournit une courbe entière non constante évitant 0, 1 et $\infty$. $\square$

Nous terminons cette partie en donnant une preuve directe de (P1). Le premier théorème de Picard se déduit immédiatement du lemme suivant et du fait que $\mathrm{Exp}(\mathbf{C}) = \mathbf{C}^*$ via le lemme d'Hurwitz :
LEMME 2.4. — Pour tout $f \in \mathcal{O}(\mathbf{C}, \mathbf{P}^1 \setminus \{0, \infty\})$ non constante il existe des suites $(A_k)_k, (B_k)_k$ telles que $f(A_k z + B_k)$ converge uniformément sur tout compact de $\mathbf{C}$ vers une limite du type $E(z) = \text{Exp}(A_0 z + B_0)$, $A_0 \neq 0$.

Démonstration. — Pour tout $k$, considérons $g_k \in \mathcal{O}(\mathbf{C}, \mathbf{P}^1 \setminus \{0, \infty\})$ telle que $(g_k)^k = f$ et choisissons une suite $0 < R_k \to \infty$ telle que $f_k := g_k (R_k z)$ ne soit pas normale en 0. D'après le lemme de Zalcman, il existe $a_k$ et $\rho_k$ tels que, modulo extraction, $h_k := f_k (a_k + \rho_k z)$ converge vers une courbe non constante $\varphi : \mathbf{C} \to \mathbf{P}^1 \setminus \{0, \infty\}$. On considère maintenant $\varphi$ et $h_k$ comme des fonctions entières. Choisissons $z_0 \in \mathbf{C}$ tel que $\varphi(z_0) = e^{i\theta_0}$ et $\varphi'(z_0) \neq 0$ puis $z_k \to z_0$ tels que $h_k(z_k) = e^{i\theta_0}$. On peut alors considérer les développements

$$ 
\begin{aligned}
\varphi(z_0 + u) &= e^{i\theta_0} (1 + \alpha_0 u + O_2(u)) \\
h_k(z_k + u) &= e^{i\theta_0} (1 + \alpha_k u + O_{2,k}(u))
\end{aligned}
$$

où $\alpha_k \to \alpha_0 \neq 0$ et $O_{2,k} \to O_2$ uniformément sur les compacts de $\mathbf{C}$. Il vient alors

$$ 
\begin{aligned}
[h_k \left(z_k + \frac{u}{k}\right)]^k &= e^{ik\theta_0} \left(1 + \alpha_k \frac{u}{k} + O_{2,k} \left(\frac{u}{k}\right)\right)^k \\
&= e^{ik\theta_0} \left(1 + \frac{1}{k} (\alpha_k u + \tau_k(u))\right)^k
\end{aligned}
$$

où $\tau_k$ converge vers 0 uniformément sur tout compact de $\mathbf{C}$ et $\tau_k(0) = 0$. Ceci achève la preuve puisque le membre de droite converge vers $e^{i\nu_0} e^{\alpha_0 u}$ et celui de gauche est de la forme $f(A_k + B_k u)$. $\square$

Ainsi, en opposition au point de vue de Montel mais dans l'esprit même du principe de Bloch, le premier théorème de Picard joue un rôle central dans cette théorie :

<figure><img src="image_2.png" /></figure>
On peut dire que le point de vue des renormalisations révolutionne la théorie classique des familles normales. Le point de vue de Montel, selon lequel il importe de dégager des critères de normalité, est supplanté par le principe suivant : il suffit de savoir comment rendre normale une famille qui ne l'est pas.

## 2.3. Propriétés élémentaires des ensembles de Julia de fractions rationnelles

L'ensemble de Julia d'une fraction rationnelle $f$ (i.e. $f \in \mathcal{O}(\mathbf{P}^1, \mathbf{P}^1)$) est constitué par les points de la sphère de Riemann au voisinage desquels la suite des itérés $(f^n)_n$ n'est pas normale. On note $\mathcal{J}_f$ cet ensemble. Son complémentaire est l'ensemble de Fatou, noté $\mathcal{F}_f$.

De façon plus imagée, un point $x$ est dans $\mathcal{J}_f$ si et seulement si son orbite $(f^n(x))_n$ peut être drastiquement modifiée lorsque $x$ est perturbé. Il s'avère que la partie intéressante de la dynamique de $f$ est concentrée sur son ensemble de Julia.

Les propriétés suivantes découlent facilement des définitions :

(1) $\mathcal{F}_f$ est ouvert, $\mathcal{J}_f$ est fermé.

(2) $f^{-1}(\mathcal{F}_f) = f(\mathcal{F}_f) = \mathcal{F}_f$, $f^{-1}(\mathcal{J}_f) = f(\mathcal{J}_f) = \mathcal{J}_f$.

(3) $\mathcal{J}_{f^n} = \mathcal{J}_f$ pour tout entier $n$.

(4) Si $f$ est de degré plus grand que 2 alors $\mathcal{J}_f$ est non vide.

Nous nous proposons ici d'utiliser le procédé de renormalisation de Zalcman pour montrer que $\mathcal{J}_f$ est un compact parfait qui coïncide avec l'adhérence de l'ensemble des cycles répulsifs de $f$. Cette approche est considérablement plus simple que l'approche classique.

Nous aurons besoin du lemme suivant :

**LEMME 2.5.** — Soit $f$ une fraction rationnelle de degré supérieur ou égal à deux.

(i) Tout ensemble fini totalement invariant par $f$ est contenu dans $\mathcal{F}_f$.

(ii) si $\omega$ est un ouvert rencontrant $\mathcal{J}_f$ alors $\mathcal{J}_f \subset \bigcup f^n(\omega)$.

**Démonstration.** — (i) Soit $I$ cet ensemble et $x_0 \in I$. Puisque $f(I) \subset I$, l'orbite de $x_0$ est captée par un cycle et il existe donc des entiers $k$ et $n$ tels
que $f^k[f^n(x_0)] = f^n(x_0)$. Posons $a = f^n(x_0)$ et $g = f^n$. Si $g^{-1}\{a\} \neq \{a\}$ alors on construit par récurrence une suite de points deux à deux distincts $(a_{-k})_{k \ge 1}$ telle que $a_0 = a$ et $g(a_{-k}) = a_{-k+1}$. Ceci est impossible puisque $f^{-1}(I) \subset I$ et $I$ est fini. Ainsi, $a$ est un point critique fixe de $g$ donc $a \in \mathcal{F}_g = \mathcal{F}_f$ et $x_0 \in \mathcal{F}_f$.

(ii) Posons $\bigcup f^n(\omega) = \mathbf{P}^1 \setminus E$. D'après le théorème de Montel $E$ contient au plus deux points. On a bien sûr $f^{-1}(E) \subset E$ et il s'ensuit facilement, puisque $\#(E) \le 2$, que $E$ est totalement invariant. Alors, d'après (i), $E \subset \mathcal{F}_f$. $\square$

Observons au passage que $\mathcal{J}_f$ n'est jamais fini et que son intérieur est vide à moins qu'il ne coïncide avec $\mathbf{P}^1$. En effet, si $\omega \subset \mathcal{J}_f$, on a $\mathcal{J}_f = \bigcup f^n(\omega) = \mathbf{P}^1 \setminus E$ d'où $\mathcal{J}_f = \bar{\mathcal{J}}_f = \mathbf{P}^1$ (et $E = \emptyset$). Mentionnons aussi que l'ensemble de Julia de certaines fractions rationnelles remplit $\mathbf{P}^1$.

**THÉORÈME 2.6.** — L'ensemble de Julia d'une fraction rationnelle de degré au moins égal à deux est un compact parfait.

*Démonstration*. — Soit $a \in \mathcal{J}_f$. D'après le lemme de Zalcman, il existe des suites $a_k \to a$, $0 < \rho_k \to 0$ telles que $f^{n_k}(a_k + \rho_k z) \to \varphi$ où $\varphi : \mathbf{C} \to \mathbf{P}^1$ est non constante. Comme $\mathcal{J}_f$ n'est pas fini, on peut trouver $z_0, z'_0 \in \mathbf{C}$ tels que $\varphi(z_0)$ et $\varphi(z'_0)$ soient deux points distincts de $\mathcal{J}_f$. Soient alors $z_k \to z_0$ et $z'_k \to z'_0$ deux suites telles que $f^{n_k}(a_k + \rho_k z_k) = \varphi(z_0)$, $f^{n_k}(a_k + \rho_k z'_k) = \varphi(z'_0)$. L'une des deux suites $(a_k + \rho_k z_k)_k$, $(a_k + \rho_k z'_k)_k$ n'est pas stationnaire et converge vers $a$ dans $\mathcal{J}_f$; $a$ n'est donc pas isolé dans $\mathcal{J}_f$. $\square$

Passons maintenant à la densité des cycles répulsifs dans l'ensemble de Julia.

**THÉORÈME 2.7 (FATOU-JULIA).** — *Pour toute fraction rationnelle f de degré au moins égal à deux, l'ensemble des cycles répulsifs de f est dense dans* $\mathcal{J}_f$.

*Démonstration*. — Introduisons $C_f^+ := \bigcup_{n>0} f^n(C_f)$ où $C_f$ est l'ensemble des points critiques de $f$. Comme $\mathcal{J}_f$ est parfait et $C_f^+$ dénombrable, il suffit d'approcher un point $a \in \mathcal{J}_f \setminus C_f^+$. D'après le lemme de Zalcman, il existe des suites $a_k \to a$, $0 < \rho_k \to 0$ telles que $f^{n_k}(a_k + \rho_k z) \to \varphi$ où $\varphi : \mathbf{C} \to \mathbf{P}^1$ est non constante. Soit $U$ un ouvert de $\mathbf{C}$ tel que $\varphi(U) \cap \mathcal{J}_f \neq \emptyset$. On peut supposer que $\infty \notin \varphi(U)$ et $\varphi' \neq 0$ sur $U$. Puisque, d'après le lemme 2.5, $\mathcal{J}_f \subset \bigcup_{q \ge 1} f^q(\varphi(U))$, il existe $z_0 \in U$ et $q$ tels que $a = f^q \circ \varphi(z_0)$.
Alors, comme $f^q \circ f^{n_k} (a_k + \rho_k z) - (a_k + \rho_k z) \to f^q \circ \varphi - a$, le lemme d'Hurwitz fournit une suite de points $z_k \to z_0$ telle que $f^{q+n_k} (a_k + \rho_k z_k) = (a_k + \rho_k z_k)$. Il reste à vérifier que les points périodiques $(a_k + \rho_k z_k)$ sont répulsifs. Puisque $\varphi'(z_0)$ est non nul et $\varphi(z_0)$ n'est pas un point critique de $f^q (f^q \circ \varphi(z_0) = a \notin C_f^+)$, cela se déduit immédiatement de la convergence de $\rho_k (f^{q+n_k})' (a_k + \rho_k z_k)$ vers $(f^q)' (\varphi(z_0)) \varphi'(z_0)$ et de celle de $\rho_k$ vers 0.
□

<figure><img src="image_3.png" /><figcaption>Figure 2. — Interprétation géométrique de la démonstration</figcaption></figure>

## 2.4. Hyperbolicité au sens de Kobayashi, lemme de Brody

La métrique de Poincaré dans le disque unité de $\mathbf{C}$ est définie par

$$P_{\Delta} := \frac{2dz}{(1 - |z|^2)}.$$

Le lemme de Schwarz-Pick stipule que pour toute application holomorphe $f : \Delta \to \Delta$ on a $\frac{|f'(z)|}{1-|f(z)|^2} \le \frac{1}{1-|z|^2}$ ; $\forall z \in \Delta$. Ceci s'écrit aussi $f^*P_{\Delta} \le P_{\Delta}$ et signifie que $f$ est contractante pour la distance de Poincaré $\rho$ obtenue en intégrant $P_{\Delta}$ :

$$\rho[f(a), f(b)] \le \rho(a, b); \forall f \in \mathcal{O}(\Delta, \Delta); \forall a, b \in \Delta.$$

Un calcul direct montre que $\rho(0, |a|) = \text{Log} \frac{1+|a|}{1-|a|}$. Puis, les automorphismes de $\Delta$ étant des isométries pour $\rho$, on voit facilement que

$$\rho(a, b) = \text{Log} \frac{|1 - a\bar{b}| + |a - b|}{|1 - a\bar{b}| - |a - b|}$$
La pseudo-distance de Kobayashi, $d_X$, d'une variété complexe $X$ est une pseudo-distance pour laquelle toutes les applications holomorphes sont contractantes :

$$d_Y[f(p), f(q)] \le d_X(p, q); \forall f \in \mathcal{O}(X, Y); \forall p, q \in X.$$

Nous verrons que c'est en fait la plus grande des pseudo-distances ayant cette propriété. On définit $d_X(p, q)$ comme étant égale à la borne inférieure des longueurs des chaînes holomorphes joignant $p$ à $q$ dans $X$ :

$$d_X(p, q) := \inf_{\alpha_{p,q}} l(\alpha_{p,q}).$$

Une chaîne holomorphe $\alpha_{p,q}$ joignant $p$ à $q$ dans $X$ est une famille de disques $f_i \in \mathcal{O}(\Delta, X)$ et de points $a_i, b_i \in \Delta$ ($1 \le i \le k$) telle que $f_i(a_i) = p_{i-1}$, $f_i(b_i) = p_i$ où $p_0 = p$ et $p_k = q$.

Sa longueur est définie par :

$$l(\alpha_{p,q}) := \sum_{i=1}^{k} \rho(a_i, b_i).$$

Précisons la propriété extrémale caractérisant $d_X$ :

**LEMME 2.8.** — Soit $\delta_X$ une pseudo-distance telle que $\delta_X[f(a), f(b)] \le \rho(a, b); \forall f \in \mathcal{O}(\Delta, X); \forall a, b \in \Delta$. Alors $\delta_X \le d_X$.

*Démonstration.* — Pour toute chaîne holomorphe $\alpha$ joignant $p$ à $q$ dans $X$ on a $\delta_X(p,q) \le \sum \delta_X(p_{i-1}, p_i) = \sum \delta_X[f_i(a_i), f_i(b_i)] \le \sum \rho(a_i, b_i) = l(\alpha)$. $\square$

On voit ainsi que $\rho \le d_\Delta$ et donc que $d_\Delta = \rho$ puisque, par construction, $\rho \ge d_\Delta$.

Une variété complexe $X$ est dite *hyperbolique* lorsque $d_X$ est une distance, c'est-à-dire lorsque $d_X(p, q) > 0$ pour toute paire de points distincts $(p, q)$. Il est facile de voir que $\mathbb{C}^n$ n'est pas hyperbolique ($d_{\mathbb{C}^n} \equiv 0$) tandis que tout domaine borné de $\mathbb{C}^n$ l'est.

On définit une pseudo-métrique $K_X$ sous-jacente à $d_X$ de la façon suivante :

$$\forall v \in TX : K_X(v) := \inf\{\frac{1}{R} / \exists f \in \mathcal{O}(\Delta_R, X) \text{ t.q. } f_*\left(0, \frac{\partial}{\partial z}\right) = v\}$$
<figure><img src="image_4.png" /><figcaption>Figure 3. — Une chaîne holomorphe joignant $p$ à $q$</figcaption></figure>

Il est clair que toute application holomorphe est contractante pour cette pseudo-métrique : $K_Y(f_\star v) \le K_X(v)$ ; $\forall f \in \mathcal{O}(X, Y)$, $\forall v \in TX$. Comme $K_\Delta$ et $P_\Delta$ sont toutes deux invariantes par les automorphismes de $\Delta$, on voit facilement que $K_\Delta = P_\Delta$.

Cette pseudo-métrique permet d'interpréter le défaut d'hyperbolicité de $X$ par la présence de disques holomorphes arbitrairement grands. Ceci fait l'objet du lemme suivant :

**LEMME 2.9.** — Soit $X$ une variété complexe et $E$ une métrique (continue) sur $TX$. Si $X$ n'est pas hyperbolique alors on peut trouver une suite $v_n \in TX$ telle que $E(v_n) = 1$ et $K_X(v_n) < \frac{1}{n}$.

*Démonstration.* — Supposons qu'une telle suite n'existe pas : $\exists a > 0$ tel que $K_X \ge aE$. On peut supposer $a = 1$. Nous allons montrer que $X$ est hyperbolique en vérifiant que $d_X \ge \delta_X$ où $\delta_X$ est la distance obtenue en intégrant $E$. Soit $f \in \mathcal{O}(\Delta, X)$, pour tout $u \in T_\Delta$ on a $E(f_\star u) \le K_X(f_\star u) \le K_\Delta(u) = P_\Delta(u)$ d'où, en intégrant, $\delta[f_\star(a), f_\star(b)] \le \rho(a, b)$ pour tout $a, b \in \Delta$. D'après le lemme 2.8 cela entraîne que $d_X \ge \delta_X$. $\square$

Lorsque la variété est compacte, une simple application du procédé de renormalisation de Zalcman fournit alors une caractérisation de l'hyperbolicité par l'absence de courbes entières non constantes. Ce résultat est connu sous le nom de critère de Brody :

**THÉORÈME 2.10 (BRODY).** — Soit $X$ une variété compacte complexe et $D \subset X$ un diviseur.
1) $X$ est hyperbolique si et seulement si $O(C, X)$ est réduit aux constantes.

2) $X \setminus D$ est hyperbolique si $O(C, X \setminus D)$ et $O(C, D)$ sont réduits aux constantes.

*Démonstration.* — 1) Si $X$ est hyperbolique et $f \in O(C, X)$ alors $f \equiv f(0)$ car $d_X[f(p), f(0)] \le d_C(p, 0) = 0$ pour tout $p \in C$. Si $X$ n'est pas hyperbolique alors, d'après le lemme 2.9, on peut trouver une suite $f_n \in O(\Delta_{R_n}, X)$ telle que $(f_{n\star})\left(\frac{\partial}{\partial z}\right) = v_n$, $|v_n| = 1$ et $R_n > n - 1$. On construit une courbe entière non constante en renormalisant $\tilde{f}_n \in O(\Delta, X)$; $\tilde{f}_n(z) := f_n(R_n z)$.

2) On combine l'argument précédent et le lemme d'Hurwitz. $\square$

**2.5. Linéarisation de courbes entières dans $\mathbb{P}^k$ et théorème de Green**

Au vu du critère de Brody, on peut reformuler le premier théorème de Picard en disant que le complémentaire de trois points dans la sphère de Riemann est hyperbolique. En outre, ce théorème est généralisé par le :

**THÉORÈME 2.11 (M. GREEN).** — Le complémentaire de $2n + 1$ hyperplans en position générale dans $\mathbb{P}^n$ est hyperbolique.

La démonstration se fait par induction sur la dimension. Désignons par $D_n$ un diviseur de $\mathbb{P}^n$ constitué des $2n + 1$ hyperplans en position générale. Il s'agit de montrer que $O(C, D_n)$ et $O(C, \mathbb{P}^n \setminus D_n)$ sont réduits aux constantes. La trivialité des $O(C, D_{n+1})$ se déduisant de celle des $O(C, \mathbb{P}^n \setminus D_n)$, l'étape essentielle consiste à montrer que $O(C, \mathbb{P}^n \setminus D_n) = \{cst\}$. Pour cela, nous pourrions reprendre l'approche adoptée pour établir le théorème de Montel. Nous y parviendrons plutôt en établissant un théorème de linéarisation des courbes entières, comme nous l'avions fait pour le théorème de Picard. Ce point de vue a d'autres applications (voir les notes de fin de section).

**THÉORÈME 2.12 (BERTELOOT-DUVAL).** —
Si $\varphi \in O(C, \mathbb{P}^N \setminus \{z_1 \cdots z_{N+1} = 0\})$ est non constante alors elle admet une limite non constante de la forme

$$E(t) = [\beta_1 e^{b_1 t} : \dots : \beta_{N+1} e^{b_{N+1} t}]$$

ce qui signifie qu'il existe une suite $(A_k)_k$ d'automorphismes (affines) de $C$ telle que $\varphi \circ A_k \to E$. En particulier $E(C) \subset \varphi(\overline{C})$.
Voyons tout d'abord comment le théorème de Green s'en déduit.

*Démonstration du théorème 2.11.* — Soient $l_1, \cdots, l_{2n+1}$ des formes linéaires sur $\mathbf{C}^{n+1}$ qui induisent les hyperplans constituant $D_n$. L'hypothèse de position générale signifie que tout choix de $(n+1)$ formes parmi les $l_j$ engendre $(\mathbf{C}^{n+1})^*$.

Soit $\gamma \in \mathcal{O}(\mathbf{C}, \mathbf{P}^n \setminus D_n)$ supposée non constante. On applique le théorème 2.12 à $\varphi \in \mathcal{O}(\mathbf{C}, \mathbf{P}^{2n} \setminus \{z_1 \cdots z_{2n+1} = 0\})$ définie par $\varphi(t) := [l_1 \circ \gamma(t) : \cdots : l_{2n+1} \circ \gamma(t)]$, soit $\bar{E}(t) = [\beta_1 e^{b_1 t} : \cdots : \beta_{2n+1} e^{b_{2n+1} t}]$ la limite.

Observons tout d'abord qu'il ne peut exister plus de $n$ constantes $b_j$ identiques. En effet, dans le cas contraire, on aurait $b_{i_1} = \cdots = b_{i_{n+1}}$ et, puisque $E$ n'est pas constante, il existerait $i_{n+2}$ tel que $b_{i_1} \neq b_{i_{n+2}}$ et $\beta_{i_{n+2}} \neq 0$. Or, comme $l_{i_{n+2}} = \sum_{j=1}^{n+1} c_j l_{i_j}$ cela entraînerait $\beta_{i_{n+2}} e^{b_{i_{n+2}} t} = C e^{b_{i_1} t}$ ce qui est impossible.

Choisissons maintenant $i_1$ tel que $b_{i_1}\beta_{i_1} \neq 0$. Comme nous l'avons observé, il existe au moins $2n - (n - 1) = n + 1$ indices $\{i_2, \cdots, i_{n+2}\}$ tels que $b_{i_1} \neq b_{i_j}$ pour $2 \le j \le n + 2$. Ceci conduit à une contradiction car, en vertu de l'hypothèse de position générale, $\beta_{i_1} e^{b_{i_1} t} = \sum_{j=2}^{n+2} c_j \beta_{i_j} e^{b_{i_j} t}$. $\square$

Passons à la preuve du théorème de linéarisation. Le principe est bien sûr le même qu'en dimension un (voir lemme 2.4). Notons $P_k$ l'endomorphisme de $\mathbf{P}^N$ défini par $P_k([z]) := [z_1^k : \cdots : z_{N+1}^k]$. Comme $\varphi$ n'en rencontre pas le lieu critique, on définit une suite de relevé $\psi_k$ par $P_k \circ \psi_k = \varphi$. On choisit $R_k \to \infty$ telle que $(\psi_k(R_k t))_k$ ne soit pas normale en 0 et on applique le lemme de renormalisation de Zalcman. On obtient ainsi une suite $(\varphi_k)_k$ de la forme $\varphi_k(t) = \psi_k(a_k t + b_k)$ qui converge vers une limite non constante $\sigma$. Comme $\sigma$ rencontre le lieu de non-normalité de $(P_k)_k$, on peut montrer que $(P_k \circ \varphi_k)(s_k + \frac{t}{k}) = (\varphi \circ A_k)(t)$ converge vers $E$. Seul ce dernier point réclame quelques éclairissements. Nous établissons à cet effet le lemme suivant :

**LEMME 2.13.** — Soit $(\varphi_k)_k$ une suite de courbes entières, $\varphi_k \in \mathcal{O}(\mathbf{C}, \mathbf{P}^N)$, qui converge vers $\sigma$. Si $\sigma$ est non constante alors $(P_k \circ \varphi_k)_k$ admet une limite non constante de la forme $E(t) = [\beta_1 e^{b_1 t} : \cdots : \beta_{N+1} e^{b_{N+1} t}]$. Autrement dit il existe une suite $(A_k)_k$ d'automorphismes (affines) de $\mathbf{C}$ telle que $(P_k \circ \varphi_k) \circ A_k \to E$.

*Démonstration.* — Soit $M(z) := \max_{1 \le j \le N+1} |z_j|$ et $G(z) := \ln M(z)$, $G$ est p.s.h sur $\mathbf{C}^{N+1}$ et vérifie $G(tz) = \ln|t| + G(z)$ pour $t \in \mathbf{C}$ et $z \in$
$\mathbf{C}^{N+1}$. Relevons $\sigma$ en $\hat{\sigma} \in \mathcal{O}(\mathbf{C}, \mathbf{C}^{N+1} \setminus \{0\})$. Il existe $t_0 \in \mathbf{C}$ tel que $G \circ \hat{\sigma}$ ne soit pas harmonique au voisinage de $t_0$. En effet, dans le cas contraire $G \circ \hat{\sigma}$ serait de la forme $\ln|f|$ pour une fonction entière non nulle $f$ et donc $\frac{1}{f}\hat{\sigma}$ prendrait ses valeurs dans le compact $\{G=0\}$. C'est impossible et il existe donc $2 \le r \le N+1$ tel qu'après renumérotation des variables :

$$|\hat{\sigma}_1(t_0)| = \dots = |\hat{\sigma}_r(t_0)| > |\hat{\sigma}_{r+1}(t_0)| \ge \dots \ge |\hat{\sigma}_{N+1}(t_0)|. \quad (2.1)$$

Le point $t_0$ ne pouvant être isolé dans le support de $\Delta(G \circ \hat{\sigma})$, on peut le déplacer légèrement de façon à ce que, de surcroît,

$$[\ln(\frac{\hat{\sigma}_j}{\hat{\sigma}_l})]'(t_0) \ne 0 \text{ lorsque } 1 \le j, l \le r \text{ et } |\hat{\sigma}_j| \notin |\hat{\sigma}_l|. \quad (2.2)$$

Parmi les $r$ premières composantes de $\hat{\sigma}$, il nous faudra tenir compte de celles qui sont égales en module (c'est ce qui complique un peu la démonstration lorsque $N \ge 2$). Pour cela, introduisons la partition $\{1, \dots, r\} =: I_1 \cup \dots \cup I_m$ relative à cette équivalence et notons $M_p(z) := \max_{j \in I_p} |z_j|$ pour tout $1 \le p \le m$. Choisissons des relevés $\hat{\varphi}_k$ tels que $\hat{\varphi}_k \to \hat{\sigma}$ près de $t_0$. Soit $D$ un petit disque autour de $t_0$. D'après (2.1), on a $D = \bigcup_{1 \le p \le m} \mathcal{M}_{p,k}$ où

$$\mathcal{M}_{p,k} := \{t \in D : M \circ \hat{\varphi}_k(t) = M_p \circ \hat{\varphi}_k(t)\}$$

pourvu que $k$ soit assez grand. De plus, on a $\mathcal{M}_{p,k} \ne D$ pour tout $p$. En effet, dans le cas contraire, il existerait un certain $p$ tel qu'après extraction $M \circ \hat{\varphi}_k = M_p \circ \hat{\varphi}_k$ sur $D$ pour tout $k$. À la limite on aurait $G \circ \hat{\sigma} = \ln(M_p \circ \hat{\sigma}) = \ln|\hat{\sigma}_i|$ pour tout $i \in I_p$ et $G \circ \hat{\sigma}$ serait harmonique sur $D$. On peut donc trouver $t_k \in D$ tel que $M \circ \hat{\varphi}_k(t_k) = M_p \circ \hat{\varphi}_k(t_k) = M_q \circ \hat{\varphi}_k(t_k)$ avec $1 \le p \ne q \le m$ (par exemple $t_k \in \text{Front } \mathcal{M}_{p,k}$ pour $\mathcal{M}_{p,k} \ne \emptyset$). Ainsi, en prenant $D$ de plus en plus petit et en extrayant sur $k$, on voit qu'il existe $1 \le p \ne q \le m$ et $t_k \to t_0$ tels que $M \circ \hat{\varphi}_k(t_k) = M_p \circ \hat{\varphi}_k(t_k) = M_q \circ \hat{\varphi}_k(t_k)$. On peut réordonner une dernière fois les variables de façon à ce que $1 \in I_p$ et $2 \in I_q$. Compte tenu de (2.1) et (2.2) on a :

$$|\hat{\varphi}_{k,1}(t_k)| = |\hat{\varphi}_{k,2}(t_k)| \ge \dots \ge |\hat{\varphi}_{k,N+1}(t_k)| \text{ et } [\ln(\frac{\hat{\sigma}_2}{\hat{\sigma}_1})]'(t_0) \ne 0.$$

On dispose alors des développements :

$$(\frac{\hat{\varphi}_{k,j}}{\hat{\varphi}_{k,1}})(t_k + t) = \alpha_{k,j} (1 + a_{k,j} t + \dots) \quad \text{pour } 2 \le j \le N+1$$

avec $|\alpha_{k,2}| = 1$ et $|\alpha_{k,j}| \le 1$ pour $2 < j \le N+1$. Il s'ensuit qu'après extraction

$$(\frac{\hat{\varphi}_{k,j}}{\hat{\varphi}_{k,1}}(t_k + \frac{t}{k}))^k \to \alpha_j e^{a_j t} \quad \text{pour } 2 \le j \le N+1.$$
Cela signifie que $P_k \circ \varphi_k \left(t_k + \frac{t}{k}\right) \to [1 : \alpha_2 e^{a_2 t} : \dots : \alpha_{N+1} e^{a_{N+1} t}] := E$.

On a $a_2 = \lim_k a_{k,2} = [\ln(\frac{\hat{\sigma}_2}{\hat{\sigma}_1})]'(t_0) \neq 0$ et $|\alpha_2| = \lim_k |\alpha_{k,2}| = 1$ si bien que $E$ est non constante. $\square$

**Notes.** — Le procédé de renormalisation des disques holomorphes a été mis au point par Zalcman [75] pour concrétiser le principe de Bloch et répondre à une question posée par A. Robinson (dans le contexte de l'analyse non-standard). Brody [19] a retrouvé ce procédé pour caractériser l'hyperbolicité des variétés compactes complexes. La démonstration de Zalcman s'inspire de celle donnée par Pommerenke pour les fonctions normales [55], on y retrouve des arguments déjà présents dans le travail de Landau sur la constante de Bloch [52], pages 618-619. La démonstration que nous avons adoptée provient d'un travail de Gromov [46] où le «lemme métrique» apparaît explicitement. Les premières applications marquantes de ce procédé apparaissent dans un article récent de Zalcman [74]. La preuve du théorème de Montel que nous avons reproduite est due à Ros, il faut souligner que Ros a aussi utilisé ces méthodes pour étudier les questions de distribution des valeurs de l'application de Gauss d'une surface minimale [60]. D'autres applications sont aussi données dans l'article de Bergweiler [7].

Le théorème de Green sur l'hyperbolicité du complémentaire d'une famille d'hyperplans dans l'espace projectif est établi dans [19] via le lemme de Borel et (donc) la théorie de Nevanlinna élémentaire (on pourra consulter le livre de Lang [53] pour un exposé complet et limpide). Le théorème de linéarisation des courbes entières dans les espaces projectifs et son application à la preuve du théorème de Green sont dûs à Berteloot et Duval [17], ce théorème de linéarisation est également utilisé pour retrouver (de façon élémentaire) un résultat de Dethloff, Schumacher et Wong [29] sur l'hyperbolicité du complémentaire d'une courbe à trois composantes dans l'espace projectif bi-dimensionnel. L'article de Berteloot-Duval contient aussi une preuve du théorème de Green basée sur la stratégie de Ros. Il faut signaler que ces techniques ne semblent pas permettre de retrouver le lemme de Borel. Plus généralement, elles sont inopérantes dans le cas, bien plus difficile, du complémentaire d'une courbe irréductible (conjecture de Kobayashi par exemple). Sur ces problèmes, le lecteur pourra consulter l'article de revue [27] et pour des progrès récents, les articles [67],[28]. Signalons aussi l'article de A. Eremenko [35] où les théorèmes du type Picard sont abordés au moyen de la théorie du potentiel. Le livre de Kobayashi [51] est une référence générale sur toutes les questions relatives aux métriques invariantes.
Les premières applications du procédé de renormalisation de Zalcman à la théorie de Fatou-Julia sont indépendemment dûes à Bargmann [2] et Berteloot-Duval [13]. Il faut aussi mentionner l'article de Schwick [64] qui développe la même idée mais utilise la théorie de Nevanlinna. La densité des cycles répulsifs dans le Julia est un résultat fondamental qui intervient à plusieurs niveaux dans l'étude dynamique des fractions rationnelles, des propriétés de type «zoom» aux questions de stabilité des familles holomorphes. Il est donc d'autant plus intéressant d'en donner une preuve simple. On notera que la démonstration classique, due à Fatou, utilise beaucoup plus que la seule définition de l'ensemble de Julia. Elle nécessite d'amorcer l'étude des composantes de l'ensemble de Fatou et, plus précisément, d'établir la présence de points critiques dans les bassins attractifs ou paraboliques (voir par exemple [16]).

### 3. Dilatation des coordonnées

Dans ce chapitre nous étudions quelques applications de la méthode de dilatation des coordonnées. Nous nous restreignons au cas strictement pseudoconvexe. Insistons sur le fait que la théorie est assez facile à mettre en place dans ce cadre en utilisant la convexifiabilité. L'exposé pour lequel nous avons opté n'utilise pas cette possibilité et présente donc des complications superflues. Il offre cependant l'avantage d'être plus conceptuel et surtout de s'adapter immédiatement au cas faiblement pseudoconvexe de type fini.

#### 3.1. Géométrie des hypersurfaces strictement pseudoconvexes

Nous nous limitons à $\mathbf{C}^2$ pour alléger les notations, cela n'entraîne aucune perte de généralité.

Une hypersurface réelle lisse, définie dans un voisinage de l'origine de $\mathbf{C}^2$ par une équation $\rho = 0$, est dite strictement pseudoconvexe en $(0,0)$ si dans de bonnes coordonnées :

$$ \rho(z_1, z_2) = \mathrm{Re} \, z_2 + |z_1|^2 + O(|z_1|^3 + |z_1||z_2|). \quad (3.1) $$

Remarquons que dans ces coordonnées le domaine $\{\rho < 0, |z_1|, |z_2| < r\}$ est strictement convexe pour $r$ assez petit et que la fonction $|e^{z_2}|$ y est $p.s.h$ et pique en $(0,0)$.

La stricte pseudoconvexité est une condition ouverte. Pour le voir, on vérifie qu'un changement de variables adéquat permet de décrire l'hyper-surface par une équation du type (3.1) au voisinage de tout point proche de
(0,0). Il s'avérera fondamental de définir ces changements de variables pour
des points non nécessairement situés sur l'hypersurface.

Plus précisément, pour tout point $\eta$ d'un voisinage $U_0$ assez petit de
(0,0), il existe un changement de variables $\phi_{\eta}$ défini par :

$$
\phi_{\eta}^{-1}(w_1, w_2) = (\eta_1 + w_1, \eta_2 + d_0(\eta), w_2 + d_1(\eta), w_1 + d_2(\eta), w_1^2)
$$

et tel que

$$
\rho \circ \phi_{\eta}^{-1} (w_1, w_2) - \rho(\eta) = \mathrm{Re} \, w_2 + \lambda(\eta) |w_1|^2 + O \left( |w_1|^3 + |w_1||w_2| \right) . \quad (3.2)
$$

Il est utile de noter que $\phi_\eta$ est en fait un automorphisme polynomial
de $\mathbf{C}^2$. Les $d_j(\eta)$, et donc aussi $\phi_\eta$, dépendent différentiablement de $\eta$.
En particulier $\phi_\eta \to Id$ et $\lambda(\eta) \to 1$ lorsque $\eta$ tend vers (0,0). Tout ceci
s'obtient facilement en manipulant la formule de Taylor.

Pour tout $\eta \in U_0$ et $0 < \epsilon \ll 1$ posons $\tau(\eta, \epsilon) := \sqrt{\frac{\epsilon}{\lambda(\eta)}}$ et définissons
une dilatation anisotrope $\delta_\eta^\epsilon$ par :

$$
\delta_{\eta}^{\epsilon}(w_1, w_2) = \left( \frac{w_1}{\tau(\eta, \epsilon)}, \frac{w_2}{\epsilon} \right).
$$

On comprend bien la géométrie de l'hypersurface {ρ = 0} en remarquant
qu'une petite portion de celle-ci autour de η est vue, au travers de la « loupe
anisotrope » δ<sub>η</sub><sup>ε</sup> ◦ φ<sub>η</sub>, comme proche de l'hypersurface algébrique

$$
\{ \mathrm{Re} \, w_2 + |w_1|^2 = 0 \}.
$$

En effet, lorsque $\eta \in \{\rho = 0\} \cap U_0$ et $(w_1, w_2) \in \Delta_R \times \Delta_R$ on a

$$
\frac{1}{\epsilon} \rho \circ \phi_{\eta}^{-1} \circ (\delta_{\eta}^{\epsilon})^{-1} (w_1, w_2) = \mathrm{Re} \, w_2 + |w_1|^2 + O_R(\sqrt{\epsilon}). \quad (3.3)
$$

Il est crucial, pour les questions que nous avons en vue, de percevoir
l'espace proche de {ρ = 0} d'une façon adaptée à la géométrie de cette
hypersurface. On définit à cet effet des pseudo-boules

$$
Q(\eta, \epsilon) := \phi_{\eta}^{-1} \circ (\delta_{\eta}^{\epsilon})^{-1} (\Delta \times \Delta) = \phi_{\eta}^{-1} \{ |w_1| \le \tau(\eta, \epsilon) , |w_2| \le \epsilon \}.
$$

Il est facile de vérifier que les pseudo-boules satisfont les propriétés fon-
damentales suivantes :

Il existe des constantes $C > 0$ et $\epsilon_0$ telles que $\forall \eta, \eta' \in U_0, \forall \epsilon \in [0, \epsilon_0]$ :

• $\eta \in Q(\eta', \epsilon) \Longrightarrow Q(\eta, \epsilon) \subset Q(\eta', C\epsilon)$ et $Q(\eta', \epsilon) \subset Q(\eta, C\epsilon)$

• $\eta \in Q(\eta', |\rho(\eta')|) \Longrightarrow |\rho(\eta)| \le C|\rho(\eta')|$.
<figure><img src="image_5.png" /><figcaption>Figure 4. — Pseudo-boules</figcaption></figure>

On définit également une pseudo-métrique $M$ par :

$$M(\eta, \vec{X}) := \frac{|(\phi'_{\eta}(\eta) \cdot \vec{X})_1|}{\tau(\eta, \epsilon(\eta))} + \frac{|(\phi'_{\eta}(\eta) \cdot \vec{X})_2|}{\epsilon(\eta)} = \|\delta_{\eta} \circ \phi'_{\eta}(\eta) \cdot \vec{X}\|_1$$

$$\text{où nous avons noté } \epsilon(\eta) := |\rho(\eta)| \text{ et } \delta_{\eta} := \delta_{\eta}^{\epsilon(\eta)}. $$

Il nous faudra estimer la taille d'une courbe holomorphe dont la dérivée, mesurée par $M$, est bornée. Cela n'est pas immédiat car $M$ n'est comparable à l'image réciproque de la métrique euclidienne par un automorphisme $\phi_{\eta_0} \circ \delta_{\eta_0}$ que sur une pseudo-boule $Q(\eta_0, \epsilon(\eta_0))$. On peut contourner la difficulté en discrétisant $M$ le long de la courbe, les propriétés fondamentales jouant un rôle crucial pour passer d'une pseudo-boule à une pseudo-boule contiguë. On établit ainsi le :

**LEMME 3.1.** — Il existe un voisinage $V_0$ de $(0,0)$ et des constantes $K \ge 1$ et $0 < \alpha$ telles que, pour tout entier $N \ge 1$ et tout disque holomorphe $f: \Delta_N \to U_0$ vérifiant $M[f(u), f'(u)] \le 1$ sur $\Delta_N$ on ait :

$$f(0) \in V_0 \text{ et } K^N \epsilon(f(0)) \le \alpha \implies \overline{f(\Delta_N)} \subset Q[f(0), K^N \epsilon(f(0))].$$

## 3.2. La méthode de dilatation des coordonnées de Pinchuk

Soit $\Omega$ un domaine de $\mathbb{C}^2$ tel que $b\Omega \cap U_0$ soit une hypersurface strictement pseudoconvexe pour un voisinage $U_0$ de $(0,0) \in b\Omega$. À toute suite
de points $(\eta_n)_n$ tendant vers l'origine dans $U_0^- := \Omega \cap U_0$, on associe une suite $(\eta'_n)_n$ de points de la forme $\eta'_n := (\eta_{1n}, \eta_{2n} + \epsilon_n)$, $\epsilon_n > 0$, situés sur l'hypersurface $\{\rho = 0\}$.

On considère alors la suite de « dilatations » $\psi_n := \delta_{\eta'_n}^{\epsilon_n} \circ \phi_{\eta'_n}$. Autrement dit, on fait agir sur $U_0^-$ des « loupes anisotropes » $\psi_n$ de plus en plus puis- santes et focalisées sur $\eta'_n$. Compte tenu de ce que nous avons vu, pour tout $R > 0$ et tout $n \ge n_0(R)$ on a :

$$ 
\begin{aligned}
\psi_n(\eta_n) &= \left(0, \frac{-1}{d_0(\eta'_n)}\right) \\
\psi_n(U_0^-) \cap B_R &= \{\text{Re } w_2 + |w_1|^2 + O(\sqrt{\epsilon_n}) < 0\} \cap B_R
\end{aligned}
$$

Que $\Omega$ soit borné ou non, cela signifie que la suite de domaines $\psi_n(\Omega)$ converge vers la réalisation non bornée de la boule unité :

$$ \mathcal{B} := \{\text{Re } w_2 + |w_1|^2 < 0\} $$

au sens où, pour tout compact $K$ on a $K \subset \psi_n(\Omega)$ si $K \subset \mathcal{B}$ et $n$ assez grand, $\psi_n(\Omega) \cap K = \emptyset$ si $K \subset \mathbb{C}^2 \setminus \bar{B}$ et $n$ assez grand.

Voyons maintenant à quoi cela peut être utile. Considérons un triplet $\{a, \omega, (f_n)_n\}$ où $\omega$ est un domaine de $\mathbb{C}^p$, $a \in \omega$ et $f_n \in \mathcal{O}(\omega, \Omega)$. Lorsque $f_n(a) := \eta_n \to (0,0)$, la méthode de dilatation des coordonnées consiste à renormaliser ce triplet en lui substituant $\{a, \omega, (\psi_n \circ f_n)_n\}$. Toute limite $f$ de $(\psi_n \circ f_n)_n$ est, par construction, à valeurs dans $\bar{B}$ mais, comme $f(a) = (0, -1)$ le principe du maximum appliqué à $(\text{Re } f_2 + |f_1|^2)$ montre qu'en fait $f \in \mathcal{O}(\omega, \mathcal{B})$.

L'intérêt de la méthode réside dans la simplicité du domaine limite $\mathcal{B}$, son succès au fait que les familles $(\psi_n \circ f_n)_n = (\delta_{\eta'_n}^{\epsilon_n} \circ \phi_{\eta'_n} \circ f_n)_n$ sont toujours normales ! Nous verrons que ce principe de normalité s'interprète comme un principe de Bloch asymptotique : les familles de disques holomorphes obtenus après dilatation sont normales car le domaine limite ($\mathcal{B}$) créé par cette méthode ne contient aucune courbe entière non constante (voir la partie 2.1 pour le principe de Bloch usuel). On passe facilement du cas des familles de disques à celui de familles quelconques.

Il est utile de préciser l'équivalence entre $\mathcal{B}$ et la boule unité euclidienne $\mathbf{B}$ :

**LEMME 3.2.** — L'application rationnelle $M(w_1, w_2) := \left(\frac{2w_1}{1-w_2}, \frac{1+w_2}{i(1-w_2)}\right)$ induit un biholomorphisme entre $\mathcal{B}$ et $\mathbf{B}$. Celui-ci se prolonge en un homéomorphisme de $\bar{\mathcal{B}}$ sur $\bar{\mathbf{B}}$ en posant $M(\infty) = (0, i)$ et $M^{-1}(0, i) = \infty$.
<figure><img src="image_6.png" /><figcaption>Figure 5. — Méthode de dilatation des coordonnées de Pinchuk</figcaption></figure>

### 3.3. Estimations asymptotiques de la métrique de Kobayashi et principe de normalité

Les deux questions sont voisines. Formellement nous déduirons le principe de normalité de l'existence d'estimées pour la métrique de Kobayashi. Pratiquement nous établirons les estimations dans l'esprit du principe de Bloch évoqué ci-dessus selon une méthode analogue à celle utilisée dans le chapitre 2 pour les questions d'hyperbolicité.

En ce qui concerne la métrique de Kobayashi, nous nous proposons d'établir le résultat suivant :

THÉORÈME 3.3. — Soit $\Omega$ un domaine (non nécessairement borné) de $C^k$ dont la frontière est lisse et strictement pseudoconvexe au voisinage de
$\eta_0$. Il existe un voisinage $W$ de $\eta_0$ sur lequel $M$ et $K_\Omega$ sont équivalentes :

$$M(z, \vec{X}) \leq K_{\Omega}(z, \vec{X}) \leq M(z, \vec{X}); \quad \forall z \in W \cap \Omega.$$

$$\text{En particulier, } d(z, b\Omega)^{-1} \|\vec{X}\| \geq K_{\Omega}(z, \vec{X}) \geq d(z, b\Omega)^{-\frac{1}{2}} \|\vec{X}\|.$$

Commençons par localiser le problème. Ceci fait l'objet du lemme suivant qui ne repose que sur l'existence d'une barrière p.s.h. Pour les domaines bornés c'est beaucoup plus facile ; l'estimation $K_\Omega(z, \vec{X}) \geq K||\vec{X}||$ s'obtient immédiatement en minorant $K_\Omega$ par la métrique d'une grande boule contenant $\Omega$.

LEMME 3.4. — Soit $\Omega$ un domaine de $C^k$ et $\eta_0 \in b\Omega$. On suppose qu'il existe une fonction $\sigma$ p.s.h, continue et bornée sur $\Omega \cap \{|z - \eta_0| < R\}$ telle que pour un certain choix de $r < r' < R' < R$ :

$$\text{i) } \sigma \geq a > 0 \text{ sur } \Omega \cap \{|z - \eta_0| < r\}$$

$$\text{ii) } \sigma < 0 \text{ sur } \Omega \cap \{r' < |z - \eta_0| < R'\}.$$

Si $U$ est un voisinage assez petit de $\eta_0$ alors il existe un voisinage $V \subset U$ ainsi que des constantes $0 < \tau < 1$ et $K > 0$ tels que :

$$(1) \quad K_{\Omega}(z, \vec{X}) \geq K ||\vec{X}||; \quad \forall z \in U \cap \Omega$$

$$(2) \quad f(0) \in V \Rightarrow f(\Delta_{\tau}) \subset U; \quad \forall f \in \mathcal{O}(\Delta, \Omega)$$

$$(3) \quad K_{\Omega}(z, \vec{X}) \geq \tau K_{\Omega \cap U}(z, \vec{X}); \quad \forall z \in V \cap \Omega.$$

Démonstration. — (1) Quitte à remplacer $\sigma$ par $A(\sigma - \epsilon)$ où $A \gg 1$ et $0 < \epsilon \ll 1$, on peut supposer que $\sigma \leq -2R^2$ sur $\Omega \cap \{r' < |z - \eta_0| < R'\}$. Définissons alors $\tilde{\sigma}$ par

$$\tilde{\sigma} := \operatorname{Max}\{\sigma + |z - \eta_0|^2 - R^2, -2R^2\} \text{ sur } \Omega \cap \{|z - \eta_0| < R'\}$$

$$:= -2R^2 \text{ sur } \Omega \cap \{|z - \eta_0| \geq R'\}.$$

La fonction $\tilde{\sigma}$ est p.s.h bornée sur $\Omega$ de plus, $(\tilde{\sigma} - |z - \eta_0|^2)$ est également p.s.h sur $\Omega \cap \{|z - \eta_0| < r\}$; quitte à lui soustraire une constante assez grande on pourra supposer $\tilde{\sigma}$ négative sur $\Omega$.
Soit $\chi$ une fonction lisse, croissante et positive telle que $\chi(x) = x$ pour $0 \le x \le \frac{r^2}{8}$ et $\chi(x) = \frac{(1-0)r^2}{4}$ pour $x \ge \frac{r^2}{4}$. Définissons, pour tout $z_0 \in \Omega \cap \{|z - \eta_0| < \frac{r}{4}\}$, des fonctions $u_{z_0}$ par :

$$u_{z_0} := e^{M\tilde{\sigma}} \chi(|z - z_0|^2).$$

Ces fonctions prennent leurs valeurs dans $[0, \frac{(1-0)r^2}{4}]$ et sont toutes de logarithme p.s.h pourvu que $M$ soit assez grand.

Associons à $f \in \mathcal{O}(\Delta, \Omega)$ tel que $f(0) = z_0$ la fonction définie sur $\Delta \setminus \{0\}$ par :

$$v(t) := |t|^{-2} u_{z_0} \circ f(t).$$

Lorsque $|z_0 - \eta_0| < \frac{r}{4}$ cette fonction est s.h sur $\Delta \setminus \{0\}$ car son logarithme l'est. Comme $\lim_{0} v(t) = e^{M\tilde{\sigma}(z_0)}|f'(0)|^2 < \infty$, $v$ est en fait s.h sur $\Delta$. Le principe du maximum montre alors que :

$$e^{M\tilde{\sigma}(z_0)}|f'(0)|^2 = v(0) \le \frac{r^2}{4}$$

d'où l'estimation annoncée avec $U = \{|z - \eta_0| < \frac{r}{4}\}$ et $K = \frac{2}{r}e^{\frac{M}{2}Inf(\tilde{\sigma})}$.

(2) Soit $f \in \mathcal{O}(\Delta, \Omega)$. D'après (1), $K|f'(t)| \le K_\Omega(f(t), f'(t)) \le K_D(t, \frac{\partial}{\partial t}) \le \frac{1}{1-|t|^2}$ lorsque $f(t) \in U = \{|z - \eta_0| < \frac{r}{4}\}$. Il suffit donc de prendre $V := \{|z - \eta_0| < \frac{r}{8}\}$ et $\tau$ tel que $\frac{\tau/K}{1-\tau^2} < \frac{r}{8}$.

(3) Soit $f \in \mathcal{O}(\Delta, \Omega)$ tel que $f(0) =: z \in V$ et $f'(0) = R\vec{X}$. D'après (2), $g := f(\tau z) \in \mathcal{O}(\Delta, \Omega \cap U)$ et comme $g'(0) = \tau R\vec{X}$ on a $\frac{1}{R} = \tau \frac{1}{\tau R} \ge \tau K_{\Omega \cap U}(z, \vec{X})$. $\square$

Passons maintenant à la Démonstration du théorème 3.3. — Seule la minoration n'est pas triviale. Le lemme de localisation 3.4 permet de se ramener à un domaine borné en remplaçant $\Omega$ par $\Omega \cap U$. La majoration est une conséquence facile des définitions. La minoration revient à montrer

que, pour $z$ assez proche de $\eta_0$ et $\vec{X}$ non nul, $K_\Omega\left(z, \frac{\vec{X}}{M(z, \vec{X})}\right) \ge 1$.

Commençons par esquisser l'argument. Si cette estimée n'est pas satisfaite on trouve des disques holomorphes dont les dérivées (mesurées par $M$ !) explosent. On renormalise ces disques en les composant à la source par des contractions bien choisies. Ils sont alors paramétrés par des portions arbitrairement grandes du plan complexe mais de dérivées bornées. La méthode
de dilatation des coordonnées fournit des transformations $\delta_{\eta} \circ \phi_{\eta}$ que l'on compose avec les disques renormalisés. On obtient ainsi une famille normale dont les limites sont des courbes entières non constantes contenues dans $\mathcal{B}$. C'est impossible !

Voyons maintenant cela en détail. Nous procédons par l'absurde et supposons qu'il existe une suite de disques holomorphes $f_n : D \to U_0 \cap \Omega$ tels que $f_n(0) = \eta_n \to \eta_0$ et $f'_n(0) = R_n \frac{\bar{X}_n}{M(\eta_n, \bar{X}_n)}$ où $R_n \ge n^2$. Autrement dit :

$$M[f_n(0), f'_n(0)] \ge n^2.$$

Appliquons le lemme métrique 2.2 à la fonction $M_n(t) := M[f_n(t), f'_n(t)]$ sur $\bar{\Delta}_{1/2}$ avec les paramètres $\tau = 2$ et $\epsilon = \frac{1}{n}$. Cela fournit des points $\tilde{a}_n \in D$ grâce auxquels nous définissons des disques renormalisés $g_n \in \mathcal{O}(\Delta_n, \Omega)$ en posant :

$$g_n(t) := f_n\left(\tilde{a}_n + \frac{t}{2M_n(\tilde{a}_n)}\right).$$

Ces disques satisfont les estimations : $M[g_n(t), g'_n(t)] \le 1$

En outre, comme $(f_n)_n$ est équicontinue en 0 ($\Omega$ est borné !) et $\tilde{a}_n \to 0$, la suite $g_n(0)$ converge vers $\eta_0$. On peut donc, quitte à extraire, supposer que

$$K^n \epsilon(g_n(0)) \le \alpha$$

où $K$ et $\alpha$ sont les constantes du lemme d'intégration 3.1 en vertu duquel nous avons alors : $g_n(\Delta_p) \subset Q[g_n(0), K^p \epsilon(g_n(0))]$ pour $p \le n$.

Appliquons pour finir la méthode de dilatation au triplet $\{0, \Delta_n, (g_n)_n\}$ avec $\eta_n := g_n(0)$. Notons $\varphi_n := \delta_{\eta'_n}^{\epsilon_n} \circ \phi_{\eta'_n} \circ g_n$. Comme $\epsilon_n \approx \epsilon(\eta_n)$ et $\eta_n \in Q[\eta'_n, 2\epsilon_n]$, on a $Q[g_n(0), K^p \epsilon(g_n(0))] \subset Q[\eta'_n, CK^p \epsilon_n]$ ce qui signifie aussi que

$$\delta_{\eta'_n}^{\epsilon_n} \circ \phi_{\eta'_n} (Q[g_n(0), K^p \epsilon(g_n(0))]) \subset \Delta_{\sqrt{CK^p}} \times \Delta_{\sqrt{CK^p}}.$$

Nous avons ainsi :

$$\varphi_n(\Delta_p) \subset \Delta_{\sqrt{CK^p}} \times \Delta_{\sqrt{CK^p}} \quad \text{pour } p \le n$$

En utilisant le théorème de Montel et un procédé diagonal, on voit que $(\varphi_n)_n$ possède comme limite une courbe entière $\varphi$ qui, par construction, est contenue dans $\mathcal{B}$. Cette courbe n'est pas constante car
$||\varphi'_n(0)||_1 \approx M[g_n(0), g'_n(0)] = 1$. Cela contredit le théorème de Liouville (voir lemme 3.2). $\square$

Voici maintenant un énoncé précis justifiant le « principe de normalité». On se souviendra que si $f_n(K)$ est contenue dans une pseudo-boule $Q[\eta_n, C(K)\epsilon_n]$ alors, par définition de $\psi_n$, $\psi_n \circ f_n(K)$ est contenue dans un bidisque $\Delta_{C(K)} \times \Delta_{C(K)}$. Ainsi, en considérant une suite exhaustive de compacts $K$, on voit que la normalité de $(\psi_n \circ f_n)$ découle des inclusions $f_n(K) \subset Q[\eta_n, C(K)\epsilon_n]$ et du théorème de Montel relatif aux fonctions holomorphes bornées.

**THÉORÈME 3.5.** — Soit $\Omega$ un domaine (non nécessairement borné) de $\mathbf{C}^k$ dont la frontière est lisse et strictement pseudoconvexe au voisinage de $\eta_0$. Soit $\omega$ un domaine de $\mathbf{C}^p$ et $a \in \omega$. Il existe un voisinage $O$ de $\eta_0$ et, pour tout $K \subset \omega$, des constantes $\epsilon(K) > 0$, $C(K) > 0$ tels que :

$$ \forall f \in \mathcal{O}(\omega, \Omega): \\ f(a) \in O \text{ et } \epsilon((f(a)) < \epsilon(K) \implies f(K) \subset Q[f(a), C(K)\epsilon(f(a))]. $$

*Démonstration.* — Soient $U_0$ et $V_0$ les voisinages de $\eta_0$ donnés par le lemme 3.1 et W celui donné par le théorème 3.3. D'après le lemme de localisation 3.4 on peut diminuer $V_0$ et trouver $\tau$ de façon à ce que $f(0) \in V_0 \implies f(\Delta_\tau) \subset W \cap U_0$ pour tout $f \in \mathcal{O}(\Delta, \Omega)$. Il vient alors pour un tel $f \in \mathcal{O}(\Delta, \Omega)$ et tout $u \in \Delta_\tau$

$$ M[f(u), f'(u)] \leq \text{cst} K_{\Omega} (f(u), f'(u)) \leq \text{cst} K_D \left( u, \frac{\partial}{\partial u} \right) \leq \frac{\text{cst} r_0}{1 - |u|^2}. $$

Soit alors $r_0 \in [0, \tau]$ tel que $\frac{\text{cst } r_0}{1-|r_0|^2} \le 1$. En appliquant le lemme 3.1 à $f_{r_0} := f(r_0u)$ on obtient :

$$ f(0) \in V_0 \implies f(\Delta_{r_0}) \subset Q[f(0), \epsilon(f(0))]; \quad \forall f \in \mathcal{O}(\Delta, \Omega). $$

Ceci reste vrai pour une boule de $\mathbf{C}^p$ comme on le voit en considérant des tranches radiales.

Soit maintenant $f \in \mathcal{O}(\omega, \Omega)$ tel que $f(a) \in V_0$ et $K$ un compact contenu dans $\omega$. On peut supposer que $a \in K$. Posons $r_1 = d(K, b\omega)$ et recouvrons $K$ par $(N+1)$ boules $B(z_j, r_0r_1)$ telles que $z_0 = a$ et $z_{j+1} \in B(z_j, r_0r_1)$. En utilisant les propriétés fondamentales des pseudo-boules on voit par induction que

$$ f(K) \subset Q[f(z_0), C^N \epsilon(f(z_0))] $$

pourvu que $C^N \epsilon(f(z_0))$ soit assez petit. $\square$
### 3.4. Le théorème de Wong-Rosay

Nous nous proposons ici d'illustrer la méthode de dilatation des coordonnées en démontrant le résultat suivant :

**THÉORÈME 3.6 (WONG-ROSAY).** — Soit $\Omega$ un domaine (non nécessairement borné) de $C^k$ dont la frontière est lisse et strictement pseudoconvexe au voisinage de $\eta_0$. Si il existe $a \in \Omega$ et $\varphi_n \in \operatorname{Aut} \Omega$ tels que $\varphi_n(a) \to \eta_0$ alors $\Omega$ est holomorphiquement équivalent à la boule unité euclidienne de $C^k$.

*Remarque 3.7.* — Lorsque $k = 1$ il suffit que $b\Omega$ soit de classe $C^1$ au voisinage de $\eta_0$. Le résultat est alors une conséquence facile du théorème de Riemann.

Le théorème de Wong-Rosay stipule que si $\Omega$ « ressemble » à la boule unité près du point $\eta_0$ alors $\Omega$ lui est équivalent. On peut considérer que ce théorème relève d'un principe de localisation selon lequel les propriétés locales de $\Omega$ près du point d'impact d'une orbite de $\operatorname{Aut}(\Omega)$ sont en fait valables globalement. Le lemme 3.9, concernant la propriété « taut », illustrera également ce principe.

Signalons le corollaire suivant :

**THÉORÈME 3.8.** — *Tout domaine borné strictement pseudoconvexe de $C^k$ dont le groupe d'automorphismes est non compact est holomorphiquement équivalent à la boule unité euclidienne de $C^k$.*

*Démonstration du théorème 3.6.* — Supposons d'abord $\Omega$ borné. On applique la méthode de dilatation des coordonnées à $\{a, \Omega, \varphi_n\}$ avec $\eta_n := \varphi_n(a)$. Notons $\psi_n := \delta_{\eta'_n}^{\epsilon_n} \circ \phi_{\eta'_n}$ les automorphismes de $C^k$ fournis par la méthode, $\Delta_n := \psi_n(\Omega)$ et $f_n := \psi_n \circ \varphi_n$. Dans ces conditions $f_n : \Omega \to \Delta_n$ est une suite de biholomorphismes qui, après extraction, vérifie les propriétés suivantes :

$$i) \Delta_n \to \mathcal{B}$$

$$ii) f_n \to f, f \in \mathcal{O}(\Omega, \mathcal{B})$$

$$iii) f_n^{-1} \to g \text{ (par le théorème de Montel lorsque } \Omega \text{ est borné).}$$

Ceci suffit pour que $f$ soit un biholomorphisme. En effet, puisque $f(\Omega) \subset \mathcal{B}$, on déduit de $g_n \circ f_n = \mathrm{Id}$ et $(\det g'_n) \circ f_n (\det f'_n) = 1$ que $g \circ f = \mathrm{Id}$ et
(det $g') \circ f$ ($\det f' = 1$). Ceci montre que $f$ est ouverte ($\det f' \neq 0$) puis, en appliquant le lemme d'Hurwitz à $(\det g'_n)$, que $(\det g') \neq 0$. Ainsi, $g$ est également ouverte et $g(B) \subset \Omega$. On peut alors déduire de $f_n \circ g_n = \text{Id}$ que $f \circ g = \text{Id}$.

Lorsque $\Omega$ n'est pas borné, la normalité de $(f_n^{-1})_n$ résulte du :

LEMME 3.9. — *Sous les hypothèses du théorème de Wong-Rosay, $\Omega$ est taut. Cela signifie que toute suite d'applications holomorphes non compactement divergente, d'une variété quelconque vers $\Omega$, possède (modulo extraction) une limite à valeurs dans $\Omega$.*

*Démonstration.* — Soit $O$ un voisinage de $\eta_0$ fourni par le théorème 3.5, quitte à le diminuer on peut supposer $O \cap \Omega$ taut. Considérons $(g_p)_p$ une suite d'éléments de $\mathcal{O}(\omega, \Omega)$ ($\omega \subset C^p$) telle que $\{g_p(a)\}$ soit relativement compact dans $\Omega$ pour un certain $a \in \omega$. Fixons un ouvert $\omega_0$ relativement compact dans $\omega$ et $0 < \epsilon_0 < \epsilon(\overline{\omega_0})$. Puisque $\varphi_n \to \eta_0$, il existe un entier $n_0$ tel que $|\varphi_{n_0} \circ g_p(a) - \eta_0| < \epsilon_0$ et $\epsilon(\varphi_{n_0} \circ g_p(a)) < \epsilon_0$ pour tout $p$. D'après le théorème 3.5 on a donc $\varphi_{n_0} \circ g_p(\omega_0) \subset Q[\varphi_{n_0} \circ g_p(a), C(\overline{\omega_0}) \epsilon(\varphi_{n_0} \circ g_p(a))]$, d'où si $\epsilon_0$ est choisi assez petit, $\varphi_{n_0} \circ g_p(\omega_0) \subset O \cap \Omega$. Dans ces conditions, $g_p = \varphi_{n_0}^{-1} \circ (\varphi_{n_0} \circ g_p)$ converge (modulo extraction) sur $\omega_0$ et sa limite est dans $\mathcal{O}(\omega_0, \Omega)$. $\square$

*Remarque 3.10.* — La preuve du théorème de Wong-Rosay que nous avons donnée reste clairement valide si $\Omega$ est un domaine d'une variété complexe quelconque.

## 3.5. Généralisation aux hypersurfaces de type fini dans $C^2$

Ce que nous avons exposé dans les parties précédentes s'adapte facilement au cas faiblement pseudoconvexe pourvu que l'on se restreigne au type fini et à la dimension deux. Posons quelques jalons permettant de s'en convaincre.

Une hypersurface réelle lisse, définie dans un voisinage de l'origine de $C^2$ par une fonction $\rho$, est dite de type $m$ ($m \in N^*$) en $(0,0)$ si dans de bonnes coordonnées :

$$ \rho(z_1, z_2) = \mathrm{Re} \, z_2 + H_m(z_1, \bar{z}_1) + O\left(|z_1|^{m+1} + |z_1||z_2|\right) $$

où $H_m$ est un polynôme réel homogène de degré $m$, non identiquement nul et sans terme harmonique.
Le type est invariant par biholomorphisme local et coïncide avec l'ordre de contact maximal des germes de courbes holomorphes avec l'hypersurface en (0,0). La pseudoconvexité de l'hypersurface équivaut à la sous-harmonicité de $H_m$ ; l'entier $m$ est alors nécessairement pair. La stricte pseudoconvexité correspond bien sûr à $m = 2$ et $H_2 = z_1\bar{z}_1$.

Pour tout point $\eta$ d'un voisinage de l'origine $U_0$ pris assez petit, il existe un unique automorphisme polynomial de $\mathbb{C}^2$ noté $\phi_\eta$, défini par

$$ \phi_{\eta}^{-1}(w_1, w_2) = (\eta_1 + w_1, \eta_2 + d_0(\eta)w_2 + \sum_{1 \le k \le m} d_k(\eta)w_1^k) $$

et tel que

$$ \rho \circ \phi_{\eta}^{-1} - \rho(\eta) = \mathrm{Re} \, w_2 + \sum_{\substack{j+k \le m \\ j,k>0}} a_{j,k}(\eta) w_1^j \bar{w}_1^k + O\left(|w_1|^{m+1} + |w_1||w_2|\right). $$

On pourra bien sûr supposer que $\phi_{(0,0)} = \mathrm{Id}$. Fixons une norme $|| ||$ sur l'espace vectoriel des polynômes de degré au plus $m$ en $w_1, \bar{w}_1$; par exemple le maximum des modules des coefficients. Pour tout $\eta \in U_0$ et tout $\epsilon > 0$ on définit alors $\tau(\eta, \epsilon)$ comme étant le plus petit réel $\tau > 0$ tel que le polynôme $\frac{1}{\epsilon}\sum \tau^{j+k} a_{j,k}(\eta) w_1^j \bar{w}_1^k$ soit normé :

$$ ||P_{\eta,\epsilon}|| = 1 \ ; \ P_{\eta,\epsilon} := \frac{1}{\epsilon} \sum_{\substack{j+k \le m \\ j,k>0}} \tau(\eta, \epsilon)^{j+k} a_{j,k}(\eta) w_1^j \bar{w}_1^k. $$

On définit ensuite les dilatations anisotropes, les pseudo-boules et la pseudo-métrique comme dans le cas strictement pseudoconvexe. Les propriétés sont conservées. Cette fois, les dilatations permettent de voir une petite portion de $\{\rho = 0\}$ comme proche de l'hypersurface algébrique $Re \, w_2 + P_{\eta,\epsilon}(w_1, \bar{w}_1) = 0$ et la méthode de dilatation des coordonnées ne produit plus nécessairement $\mathcal{B}$ comme domaine limite mais un domaine polynomial rigide $\mathcal{R}_P := \{Re \, w_2 + P(w_1, \bar{w}_1) < 0\}$ où $P$ est un polynôme sous-harmonique sans terme harmonique dont le degré n'excède pas $m$.

Ces domaines ne contiennent clairement aucune courbe entière non constante et cela conduit, exactement comme nous l'avons fait dans le cas strictement pseudoconvexe, aux estimations asymptotiques de la métrique de Kobayashi et au principe de normalité.

Le théorème 3.8 a été généralisé par Bedford et Pinchuk qui ont considéré les domaines bornés à frontière globalement pseudoconvexe de type fini (par exemple pseudoconvexe et analytique réelle) :
THÉORÈME 3.11 (BEDFORD-PINCHUK). — *Tout domaine borné de C<sup>2</sup> dont la frontière est pseudoconvexe de type fini et le groupe des automorphismes non compact est biholomorphe à un domaine du type {|z<sub>1</sub>|<sup>2</sup> + |z<sub>2</sub>|<sup>2m</sup> < 1}, pour un entier m ≥ 1.*

Ce travail de Bedford-Pinchuk ne couvre pas l'aspect « principe de locali-
sation » au sens évoqué plus haut. Ceci fait l'objet du résultat suivant :

THÉORÈME 3.12 (BERTELOOT). — *Soit Ω un domaine de C<sup>2</sup> (borné ou non) dont la frontière est lisse, pseudoconvexe et de type fini au voisinage de η<sub>0</sub>. Soit a ∈ Ω et ϕ<sub>p</sub> une suite d'automorphismes de Ω telle que ϕ<sub>p</sub> (a) converge vers η<sub>0</sub> ∈ bΩ. Alors il existe un unique polynôme homogène normalisé H, sous-harmonique sans terme harmonique, tel que Ω soit biholomorphe à {Re w + H(z, z̄) < 0}. (Dans de bonnes coordonnées locales η<sub>0</sub> = (0,0) et bΩ est défini par l'équation 0 = Re w + H(z, z̄) + O(|z|<sup>2m</sup> + |w|)).*

Il faut noter que cette fois la méthode de dilatation des coordonnées
ne conduit pas directement au résultat. On obtient d'abord un biholomor-
phisme $\psi : \Omega \to D$ mais le domaine polynomial rigide $D$ n'est pas unique
et dépend du comportement asymptotique de la suite $\varphi_p(z_0)$. L'étude de ce
comportement est un obstacle, même dans des cas simples. On le surmonte
en faisant appel, entre autre, à de nouveaux arguments de dilatation.

3.6. Le théorème de Fefferman

Nous voyons ici comment la méthode de dilatation des coordonnées inter-
vient dans une démonstration élémentaire du célèbre théorème de Fefferman
sur le prolongement différentiable des biholomorphismes.

THÉORÈME 3.13 (FEFFERMAN). — *Soient Ω₁ et Ω₂ deux domaines bor-
nés de Cᵏ à bords lisses et strictement pseudoconvexes. Tout biholomor-
phisme f : Ω₁ → Ω₂ se prolonge différentiablement à bΩ₁ i.e. f ∈ C<sup>∞</sup>(Ω₁).*

Nous commençons par traiter du prolongement continu.

THÉORÈME 3.14 (HENKIN-PINCHUK). — *Soit $f : \Omega_1 \to \Omega_2$ comme dans l'énoncé ci-dessus. Alors*

$$
(1) \quad d(z, b\Omega_1) \le d(f(z), b\Omega_2) \le d(z, b\Omega_1); \quad \forall z \in \Omega_1
$$

$$
(2) \quad \|f'(z)\| \le d(z, b\Omega_1)^{-\frac{1}{2}}; \quad \forall z \in \Omega_1
$$

(3) $f$ se prolonge à $\bar{\Omega}_1$ en une application Hölder continue d'exposant $\frac{1}{2}$.
*Démonstration*. — 1) Le domaine $\Omega_2$ étant strictement pseudoconvexe, il possède une fonction définissante globale $\rho_2$ qui est p.s.h sur $\Omega_2$.

La fonction $\rho_2 \circ f$ est p.s.h sur $\Omega_1$ et donc $\rho_2 \circ f(z) \le -d(z, b\Omega_1)$ en vertu du lemme de Hopf. Comme $\rho_2$ est définissante on a aussi $\rho_2(f(z)) \ge -d(f(z), b\Omega_2)$. La seconde inégalité est donc établie ; la première s'obtient de la même façon en utilisant $f^{-1}$.

2) On utilise l'invariance de la métrique de Kobayashi et les estimations fournies par le théorème 3.3. Cela donne :

$$d(f(z), b\Omega_2)^{-\frac{1}{2}} \quad ||f'(z) \cdot \vec{X}|| \le K_{\Omega_2} (f(z), f'(z) \cdot \vec{X}) = \\ = K_{\Omega_1} (z, \vec{X}) \le d(z, b\Omega_1)^{-1} ||\vec{X}||$$

d'où, compte tenu de (1), $||f'(z) \cdot \vec{X}|| \le d(z, b\Omega_1)^{-\frac{1}{2}} ||\vec{X}||$.

3) On intègre l'estimation 2) en utilisant la méthode de Hardy-Littlewood.

□

Observons que ce résultat admet une version locale dont la démonstration est analogue :

THÉORÈME 3.14bis (BERTELOOT). — Soit $f : \Omega_1 \to \Omega_2$ une application holomorphe propre entre domaines de $C^k$. Soient $\xi^1 \in b\Omega_1$ et $\xi^2 \in b\Omega_2$ des points de stricte pseudoconvexité tels que $\xi^2$ soit dans le « cluster set » de $f$ en $\xi^1$. Alors $f$ se prolonge en une application Hölder continue d'exposant $\frac{1}{2}$ au voisinage de $\xi^1$.

*Remarque 3.15.* — Les estimations de distance au bord (première asser- tion du théorème 3.14) sont crucales dans maintes questions concernant le comportement au bord des applications holomorphes propres. On ne con- nait pas de moyen de les établir ne reposant pas sur l'existence de bonnes fonctions p.s.h d'exhaustion ou sur celle de barrières p.s.h. Cela constitue une importante source de difficultés.

Nous abordons maintenant la démonstration du théorème de Fefferman proprement dit en nous plaçant dans $C^2$ pour alléger les notations.

Commençons par associer à $f : \Omega_1 \to \Omega_2$ un biholomorphisme

$$F : \Omega_1 \times \mathbf{P}^1 \to \Omega_2 \times \mathbf{P}^1$$
défini de la façon suivante :

$$F(z, [a]) := (f(z), [f'(z)] \cdot [a])$$

où $[f'(z)]$ désigne l' application induite sur $\mathbf{P}^1$ par l'application linéaire $f'(z)$.

Pour tout point $z \in b\Omega_j$ on note $T_z^c(b\Omega_j)$ le plan tangent complexe à $b\Omega_j$ en $z$. En dimension deux, c'est la droite complexe contenue dans le plan tangent $T_z(b\Omega_j)$. Par exemple, si $\Omega := \{\text{Re } z_2 + |z_1|^2 + O(|z_1|^2 + |z_1||z_2|) < 0\}$ et $z = (0,0)$ alors $T_z^c(b\Omega) = \{z_2 = 0\} = [1:0]$.

Nous utiliserons les variétés

$$M_j := \{(z, [p]); z \in b\Omega_j \text{ et } p \in T_z^c(b\Omega_j)\}$$

$$N_1 := \{(z, [p]); z \in \Omega_1 \text{ et } p = \left(-\frac{\partial \rho_1}{\partial z_2}, \frac{\partial \rho_1}{\partial z_1}\right)\}.$$

Pour des raisons que nous évoquerons plus loin, la démonstration se ramène à celle du lemme suivant. C'est pour établir ce lemme que nous utiliserons la méthode de dilatation des coordonnées.

**LEMME 3.16.** — L'application $F$ se prolonge continument à $M_1$ « le long de» $N_1$ et $F(M_1) \subset M_2$.

*Démonstration.* — Le problème est local. On peut supposer que $\Omega_j = \{\rho_j < 0\}$ où $\rho_j = \text{Re } z_2 + |z_1|^2 + a_j(\text{Im } z_2, z_1)$ et $a_j \in O(|z_1|^2 + |z_1||z_2|)$. D'après le théorème 3.14 on peut supposer que $f$ est continue en $(0,0)$ et $f(0,0) = (0,0)$. Il s'agit d'établir que $F(\eta_n^1, [p_n]) \to ((0,0), [1:0])$ lorsque $(\eta_n^1, [p_n]) \to ((0,0), [1:0])$ dans $N_1$. On notera $[p_n] := [1:\alpha_n]$.

Nous allons utiliser la méthode de dilatation des coordonnées pour « extraire » de $f$ un automorphisme $\tilde{f}$ de $\mathcal{B}$. Nous vérifierons que $\tilde{f}(\infty) = \infty$ et en déduirons la propriété de continuité voulue.

Posons $\eta_n^2 := f(\eta_n^1)$ puis considérons les suites de « dilatations » $(\psi_n^1)$ et $(\psi_n^2)$ respectivement associées aux suites $(\eta_n^1)_n$ et $(\eta_n^2)_n$ (voir la partie 3.2). Rappelons que les quantités $\epsilon_n^j$ définies par $\eta_n^j := \eta_n^j + (0, \epsilon_n^j) \in b\Omega_j$ qui interviennent dans la définition des dilatations sont clairement équivalentes à $d(\eta_n^j, b\Omega_j)$. Observons dès maintenant que la convergence dans $N_1$ est
une condition de «convergence rapide». Plus précisément, l'appartenance
de $(\eta_n^1, [p_n])$ à $N_1$ se traduit par l'estimation

$$
|\alpha_n| \lesssim \sqrt{\epsilon_n^1}.
$$

Le principe de normalité, utilisé comme dans la preuve du théorème 3.6,
montre que :

$$
\psi_n^2 \circ f \circ (\psi_n^1)^{-1} \to \tilde{f}
$$

où $\tilde{f}$ est un automorphisme de $\mathcal{B} := \{\text{Re } z_2 + |z_1|^2 < 0\}$ qui, par construction, envoie le point $(0, -1)$ sur lui-même.

Vérifions que $\tilde{f}(\infty) = \infty$. Il nous faut pour cela revenir de façon plus précise sur la méthode de dilatation, les estimations de distance au bord jouant ici aussi un rôle crucial. Par construction les $\psi_n^j$ sont telles que :

$$
\frac{1}{\epsilon_n^j} \rho_j \circ (\psi_n^j)^{-1} \to R := \mathrm{Re} \, z_2 + |z_1|^2.
$$

La première assertion du théorème 3.14 donne immédiatement $\epsilon_n^1 \le \epsilon_n^2 \le \epsilon_n^1$
et $|\rho_2 \circ f| \le |\rho_1|$. Il s'ensuit que

$$
\left| \left( \frac{1}{\epsilon_n^2} \rho_2 \circ (\psi_n^2)^{-1} \right) \circ (\psi_n^2 \circ f \circ (\psi_n^1)^{-1}) \right| \le \left| \frac{1}{\epsilon_n^1} \rho_1 \circ (\psi_n^1)^{-1} \right|
$$

d'où, à la limite, $|R \circ \tilde{f}| \lesssim |R|$ et donc $\tilde{f}(\infty) = \infty$.

On termine la démonstration en montrant que si $F(\eta_n^1, [p_n])$ ne tendait pas vers $((0,0), [1:0])$ alors l'automorphisme $\tilde{f}$ ne fixerait pas $\infty$.

Représentons $f'(\eta_n^1)$ par la matrice $\begin{pmatrix} a_n & c_n \\ b_n & d_n \end{pmatrix}$, la condition de non convergence se traduit alors par :

$$
|a_n + c_n \alpha_n| \le |b_n + d_n \alpha_n|.
$$

Il n'est pas difficile de produire un vecteur $(1, \gamma_0)$ que l'application tan-
gente à $\tilde{f}$ en $(-1,0)$ envoie sur $(0, \tilde{\gamma}_0)$. On utilise pour cela les estimations
$|a_n|, \dots, |d_n| \lesssim (\sqrt{\epsilon_n^1})^{-1}$ (théorème 3.14) ainsi que l'estimation $\alpha_n \lesssim \sqrt{\epsilon_n^1}$. Pour
mener le calcul, on s'assure que les changements de variables $\phi_{\eta_n'}^j$ inter-
venant dans la définition des dilatations $\psi_n^j$ peuvent être négligés, ce qui
revient à voir qu'ils n'affectent pas la convergence rapide.

La droite complexe passant par (0, -1) et dirigée par (1, γ₀) intersecte B selon un domaine borné. Par contre, celle dirigée par (0, ŷ₀) l'intersecte selon un demi plan. Comme tout automorphisme de B envoie droites complexes sur droites complexes, on voit que $\tilde{f}(\infty) \neq \infty$. Ceci achève la preuve du lemme 3.16. □

Le reste de la démonstration repose sur les techniques d'Edge of the
Wedge. L'observation géométrique cruciale permettant de mettre en œuvre
ces techniques est la suivante, elle découle facilement de la stricte pseudo-
convexité des bords :

LEMME 3.17 *Les variétés* $M_j$ *sont totalement réelles* dans $\mathbf{C}^2 \times \mathbf{P}^1$.

Le lecteur trouvera dans les notes des indications bibliographiques rela-
tives à cette partie de la démonstration.

**Notes.** — La méthode de dilatation des coordonnées fut introduite par Pinchuk dans le cas strictement pseudoconvexe, on pourra à ce sujet consulter le court article de revue [57]. Les premières applications concernent la preuve de l’inexistence d’auto-applications holomorphes propres pour les domaines strictement pseudoconvexes [56] et la démonstration élémentaire du théorème de Wong-Rosay que nous avons reproduite.

L'histoire de ce théorème vaut d'être signalée. Wong [73] localisait et étudiait le comportement au bord de l'invariant obtenu en quotientant les volumes de Carathéodory et Kobayashi ; cette approche nécessitait de résoudre $\bar{\partial}$ avec de bonnes estimations. En remarquant qu'il suffisait de s'intéresser aux orbites du groupe des automorphismes, Rosay [61] a non seulement obtenu une preuve élémentaire mais aussi mis en lumière le « principe de localisation » que nous avons évoqué. Efimov [34] a étendu le théorème de Wong-Rosay aux domaines non bornés (les arguments re-produits ici sont extraits de [9]); Byun, Gaussier et Kim l'ont récemment généralisé en dimension infinie [20]. Kim et Krantz ont donné une preuve, plus « exotique », basée sur un théorème de Bers concernant les morphismes d'algèbres de fonctions holomorphe [50].

Dans le cas faiblement pseudoconvexe, la méthode de dilatation appa-
rait d'abord dans l'article de Bedford-Pinchuk [3] sur la caractérisation des
domaines pseudoconvexes bornés de $\mathbf{C}^2$ dont le groupe d'automorphismes
est non compact et le bord analytique réel. Dans ce cas, on peut éviter d'utiliser le principe de normalité en utilisant astucieusement le fait que le domaine soit borné et globalement lisse (voir [4] Lemma 2). Cependant, sous des hypothèses locales, le principe de normalité est crucial. C'est le cas pour la généralisation du théorème de Wong-Rosay [9] mais aussi dans les travaux de Coupet-Pinchuk-Sukhov [25], puis Coupet-Sukhov [26], sur les propriétés de rigidité des applications CR entre hypersurface pseudoconvexes et de type fini de $C^2$.

Le principe de normalité fut d'abord établi par Berteloot et Cœuré [11] en utilisant la délicate construction de barrières p.s.h de Fornaess-Sibony [37], la preuve naturelle donnée ici provient de [10]. Il faut signaler que les estimations sur la métrique de Kobayashi que cette preuve fournit avait été obtenues par Catlin ([21]) comme sous-produit de son étude de la métrique de Carathéodory et (donc) au prix de délicates estimées sur les solutions de $\partial$ (ce travail de Catlin concerne aussi la métrique de Bergman). Dans le cas des domaines bornés globalement strictement pseudoconvexes elles sont dues à Graham [45].

Il existe une autre méthode de dilatation, due à Frankel [43] et concernant les domaines convexes. Le lecteur pourra à ce sujet, et plus généralement sur les questions de caractérisation de domaines par leur groupe d'automorphismes, consulter le très complet article de revue [48]. En dehors du cas convexe, la méthode de dilatation est bien plus difficile à mettre en œuvre lorsque la dimension est strictement supérieure à deux. Ainsi, le résultat de [9] dans le cas général mais en dimension deux et le récent travail de Gaussier [44] en dimension arbitraire mais dans le cas convexe, sont pour le moment les seules illustrations du « principe de localisation » dans le cas faiblement pseudoconvexe. Les estimations asymptotiques de la métrique de Kobayashi (ou d'autres métriques invariantes) sont fondamentales dans plusieurs problèmes d'analyse complexe. On sait par exemple, depuis les travaux de Henkin [47], Pinchuk [56] et Diederich-Fornaess [30], comment elles gouvernent les phénomènes de prolongement Hölder-continu d'applications holomorphes propres entre domaines pseudoconvexes de $C^n$. Elles sont aussi à la base d'énoncés locaux de prolongement continu ([41], [8], [71]) eux-mêmes utiles au prolongement analytique par réflexion [31].

L'argument de localisation que nous avons reproduit apparait dans [8], il utilise des techniques introduites par Sibony pour étudier l'hyperbolicité de certaines variétés complexes [65].

La preuve du théorème de Fefferman que nous avons reproduite est due à Pinchuk et Khasanov [58]. Une approche similaire a permis à Coupet d'obtenir des résultats optimaux lorsque les frontières sont de classe $C^m$
[23]. L'idée d'utiliser le théorème de l'edge of the wedge via le lemme 3.17 est due à Webster [72]. Dans [40], Forstneric donne également une preuve élémentaire du théorème de Fefferman basée sur cette approche mais où l'utilisation du théorème de Carathéodory-Julia remplace l'argument de dilatation des coordonnées. La méthode de dilatation a aussi été utilisée avec succès par Coupet-Gaussier-Sukhov [24] pour des questions de prolongement à des frontières faiblement pseudoconvexes de type fini.

La démonstration originale de Fefferman [36] reposait sur une analyse très difficile du noyau et de la métrique de Bergman. Bell et, indépendamment, Ligocka ([6] [54]) ont considérablement simplifié la démonstration de Fefferman. Dans ses travaux, Bell a systématiquement exploré les méthodes de prolongement au bord liées aux noyaux de Bergman. L'idée de fond est que le comportement au bord des noyaux doit se refléter sur celui des applications, ce phénomène se lisant sur la loi de transformation des noyaux par l'application. Par exemple, il y aura prolongement $C^\infty$ au bord lorsque la projection de Bergman n'affecte pas la régularité $C^\infty$ au bord (condition R). À ce sujet, on pourra consulter le livre de Range [59] et l'article [5] de Bell pour une jolie application de cette philosophie au prolongement holomorphe au travers de la frontière de domaines de Reinhardt. Cette approche a ses limites, on sait qu'il existe des domaines pseudoconvexes qui ne satisfont pas la condition R [22]. Soulignons pour finir que l'on ignore si tout biholomorphisme entre domaines faiblement pseudoconvexes se prolonge continument au bord.

## 4. Normalisation et linéarisation le long d'orbites

Le cas le plus simple est celui d'une orbite réduite à un point. Dans le cas particulier d'un point fixé par une transformation holomorphe inversible et contractante, les théorèmes de Poincaré et Poincaré-Dulac assurent la linéarisabilité ou la réductibilité à une forme normale. Nous commençons donc par donner des preuves simples et rapides de ces théorèmes. Nous étudions ensuite certaines généralisations au cas d'orbites non triviales.

### 4.1. Linéarisation ou conjugaison à un automorphisme proche

Considérons une application holomorphe $F : C^n \to C^n$, fixant l'origine et dont la partie linéaire $L := F'(0)$ est inversible et contractante. On se demande si $F$ est linéarisable à l'origine, c'est-à-dire si il existe $S$ tangente à l'identité à l'origine telle que :

$$S \circ F \circ S^{-1} = L.$$
Observons dès maintenant que ce problème n'a pas toujours de solution. Pour cela, considérons $F : \mathbf{C}^2 \to \mathbf{C}^2$ définie par $F(z_1, z_2) = (\lambda_1 z_1 + z_2^k, \lambda_2 z_2)$ où $k \ge 2$ et $0 < |\lambda_1| \le |\lambda_2| < 1$. Supposons qu'il existe un biholomorphisme local $\varphi$ tel que $\varphi(0) = 0$ et

$$ \varphi \circ F = L \circ \varphi \text{ avec } L := F'(0). \quad (4.1) $$

En dérivant (4.1) par rapport à $z_2$ on obtient :

$$ kz_2^{k-1} \frac{\partial \varphi_1}{\partial z_1} \circ F(z_1, z_2) + \lambda_2 \frac{\partial \varphi_1}{\partial z_2} \circ F(z_1, z_2) = \lambda_1 \frac{\partial \varphi_1}{\partial z_2} (z_1, z_2). \quad (4.2) $$

Si $\lambda_1 \neq \lambda_2$, on voit en faisant $z_1 = z_2 = 0$ dans (4.2) que $\frac{\partial \varphi_1}{\partial z_2}(0,0) = 0$. Si de plus $k=2$, on voit en dérivant (4.2) par rapport à $z_2$ puis en évaluant de nouveau à l'origine que

$$ 2 \frac{\partial \varphi_1}{\partial z_1}(0,0) + \lambda_2^2 \frac{\partial^2 \varphi_1}{\partial z_2^2}(0,0) = \lambda_1 \frac{\partial^2 \varphi_1}{\partial z_2^2}(0,0) $$

si bien que $\frac{\partial \varphi_1}{\partial z_1}(0,0) = 0$ lorsque $\lambda_1 = \lambda_2^2$. Ainsi, lorsque $k=2$ et $\lambda_1 = \lambda_2^2$, la transformation $\varphi$ n'est pas inversible à l'origine et donc $F$ n'est pas linéarisable.

*Remarque 4.1.* — Il suffit pour que $F$ soit linéarisable à l'origine que la suite $(L^{-p} \circ F^p)_p$ soit normale sur un voisinage de l'origine.

Ceci nous montre que la renormalisabilité de $(F^p)_p$, au sens où $(L^{-p} \circ F^p)_p$ serait normale, n'est pas une propriété plus générale que la linéarisabilité. Le petit calcul suivant permet de s'en convaincre. Posons $D = L^{-1}$. Si $(D^p \circ F^p)_p$ est normale à l'origine, $S_p := \frac{1}{p+1} \sum_{k=0}^p D^k \circ F^k$ l'est également. Soit alors $S$ une valeur d'adhérence de $(S_p)_p$ et $(S_{p_j})_j$ telle que $S_{p_j} \to S$. Comme $S_{p+1} - S_p = \frac{1}{p+2} (D^{p+1} \circ F^{p+1} - S_p)$ on voit que $S_{1+p_j} \to S$. Il s'ensuit que $D \circ S \circ F = S$ car $D \circ S_p \circ F = \frac{p+2}{p+1} S_{p+1} - \frac{1}{p+1}$. Comme $S'(0) = \lim_j S'_{p_j}(0) = I$, cela signifie que $F$ est linéarisable à l'origine : $S \circ F \circ S^{-1} = L$.

Notre principal objectif est de montrer qu'un biholomorphisme local contractant est linéarisable dès que l'ordre de contact avec sa partie linéaire est assez élevé. Comme nous le verrons dans la partie suivante, une modification judicieuse des coordonnées locales suffit génériquement à accroître cet ordre de contact. Bien que dans quelques rares cas ceci soit impossible, on peut toujours contourner la difficulté en remplaçant la partie linéaire par
un automorphisme de $\mathbf{C}^n$ bien choisi. C'est pour cette raison que nous considérons d'emblée des biholomorphismes locaux dont l'ordre de contact avec un automorphisme de $\mathbf{C}^n$ est élevé.

Fixons quelques notations. Désignons par $B_r$ la boule euclidienne de $\mathbf{C}^n$ centrée à l'origine et notons $\{e_1, \dots, e_n\}$ la base canonique de $\mathbf{C}^n$.

Toute transformation holomorphe $F : B_r \to \mathbf{C}^n$ fixant l'origine peut se développer sous la forme $F = \sum_{p \ge 1} H_p$ où $H_p$ est une application polynomialie homogène de degré $p$, la convergence étant uniforme sur les compacts. Soit $\| \cdot \|$ une norme fixée sur $\mathbf{C}^n$, pour $\rho \le r$ on notera $\|F\|_{\rho} = \sup_{z \in B_{\rho}} \|F(z)\|.$

On notera $\mathcal{H}^p$ le C-espace vectoriel des applications polynomiales p-homogènes de $\mathbf{C}^n$ dans $\mathbf{C}^n$. Pour tout multi-indice $I = (i_1, \dots, i_n)$ on note $z^I := z_1^{i_1} \cdots z_n^{i_n}$. On munit $\mathcal{H}^p$ de sa base canonique $B^p := \{H_{I,j} := z^I e_j, |I| = p, 1 \le j \le n\}$.

Nous allons établir le :

**THÉORÈME 4.2.** — *Soit $N$ un automorphisme de $\mathbf{C}^n$ fixant l'origine et dont la partie linéaire $L := N'(0)$ vérifie $a||z|| \le ||L(z)|| \le A||z||$ où $0 < a \le A < 1$.*

*Soit $F : B_r \to \mathbf{C}^n$ une application holomorphe telle que* $F = N + \sum_{p \ge k} H_p$.

*Alors, si $k > \frac{\ln a}{\ln A}$, la suite $(N^{-p} \circ F^p)_p$ converge et sa limite $\phi$ définit un biholomorphisme local tel que $\phi(0) = 0$, $\phi'(0) = \text{Id}$ et $\phi^{-1} \circ F \circ \phi = N$.*

Ce résultat montre qu’en dimension $n = 1$ tout biholomorphisme local attractif est linéarisable : $a = A$ et donc $k = 2$ suffit. Il montre aussi que l’exemple de la partie précédente $F(z_1, z_2) = (\lambda_1 z_1 + z_2^k, \lambda_2 z_2)$ est linéarisable lorsque $\lambda_1 = \lambda_2^2$ et $k \ge 3$.

Pour le même exemple, on vérifie facilement que lorsque $\lambda_1 = \lambda_2^2$, $k = 2$ et $N = L$, la suite $(N^{-p} \circ F^p)_p$ est divergente. Ceci montre que la condition $k > \frac{\ln a}{\ln A}$ est cruciale.

Il est très important de noter que la quantité critique $\frac{\ln a}{\ln A}$ ne dépend que de $L = F'(0)$, nous la désignerons par $c_0(L)$.

Nous utiliserons le lemme élémentaire suivant :
LEMME 4.3. — Soit $k \ge 1$ et $G = \sum_{p \ge k} H_p$ holomorphe sur $B_r$, alors :

1) Pour tout $p \ge k$ et tout $z \in B_r$ : $||H_p(z)|| \le (||z||/r)^p ||G||_r$.

2) Pour tout $\rho < r$ et tout $z \in B_\rho$ : $||G(z)|| \le \frac{||G||_r}{r^k} (1 - \rho/r)^{-1} ||z||^k$.

Démonstration. — 1) s'obtient en observant que pour $0 < ||z|| \le \rho < r$ et $\theta \in [0, 2\pi]$ on a $e^{-ip\theta}G(\rho \frac{z}{||z||}e^{i\theta}) = \sum_{q \ge k} (\frac{\rho}{||z||})^q e^{i(q-p)\theta}H_q(z)$ puis en intégrant sur $[0, 2\pi]$. 2) est une conséquence directe de 1). $\square$

Démonstration du théorème 4.2. — Quitte à diminuer $r$, on peut supposer que $F(B_\rho) \subset B_\rho$ et $N(B_\rho) \subset B_\rho$ pour tout $\rho \le r$. Soient $0 < a' < a \le A < A' < 1$ tels que $\frac{(A')^k}{a'} < 1$ puis $0 < r_0 < r$ tel que

$$ ||N^{-1}(z) - N^{-1}(w)|| \le \frac{1}{a'} ||z - w||; \forall z, w \in B_{r_0} \quad (4.3) $$

$$ ||N(z)|| \le A' ||z||; \forall z \in B_{r_0} \quad (4.4) $$

Fixons $\epsilon > 0$ tel que $\gamma := \frac{(A'+\epsilon)^k}{a'} < 1$. D'après le lemme 4.3, il existe $C_0 > 0$ tel que $||F(z) - N(z)|| \le C_0||z||^k$ sur $B_{r_0}$. Compte tenu de (8) et (9), il s'ensuit que $||N^{-1} \circ F(z) - z|| \le C_1||z||^k$ et $||F(z)|| \le (A' + C_0||z||^{k-1})||z||$ sur $B_{r_0}$. En prenant $r_1 < r_0$ assez petit il vient donc :

$$ ||N^{-1} \circ F(z) - z|| \le C_1||z||^k; \forall z \in B_{r_1} \quad (4.5) $$

$$ ||F(z)|| \le (A' + \epsilon)||z||; \forall z \in B_{r_1}. \quad (4.6) $$

En diminuant encore $r_1$, on peut supposer $r_1 \sum_{p \ge 0} \gamma^p < r_0$ et $C_1 r_1^{k-1} \le 1$. Nous allons montrer par récurrence sur $p$ que :

$$ (i)_p \quad ||N^{-(p+1)} \circ F^{p+1}(z) - N^{-p} \circ F^p(z)|| \le C_1 \gamma^p ||z||^k; \forall z \in B_{r_1} $$

$$ (ii)_p \quad ||N^{-p} \circ F^{p+1}(z)|| \le (1 + \gamma + \dots + \gamma^p) r_1; \forall z \in B_{r_1}. $$

Les assertions $(i)_0$ et $(ii)_0$ résultent respectivement de (4.5) et (4.6). Supposons $(i)_p$ et $(ii)_p$ satisfaites. En appliquant $(i)_p$ à $F(z)$ ($B_{r_1}$ est stable par $F$) et en tenant compte de (4.6), on obtient :

$$ ||N^{-(p+1)} \circ F^{p+2}(z) - N^{-p} \circ F^{p+1}(z)|| \le C_1 \gamma^p (A' + \epsilon)^k ||z||^k; \forall z \in B_{r_1}. \quad (4.7) $$
Comme $C_1\gamma^p (A' + \epsilon)^k ||z||^k = a'C_1\gamma^{p+1}||z||^k \le a' (C_1r_1^{k-1}) \gamma^{p+1}r_1 \le \gamma^{p+1}r_1$, $(ii)_{p+1}$ découle immédiatement de (4.7) et $(ii)_p$. Les assertions $(ii)_p$ et $(ii)_{p+1}$ montrent que $N^{-p} \circ F^{p+1}(z)$ et $N^{-(p+1)} \circ F^{p+2}(z)$ sont dans $B_{r_0}$. Alors $(i)_{p+1}$ se déduit de (4.3) et (4.7).

Les assertions $(i)_p$ montrent que la suite $(N^{-p} \circ F^p)_p$ converge uniformément sur $B_{r_1}$. Par holomorphie, sa limite $\phi$ vérifie $\phi'(0) = \lim (N^{-p} \circ F^p)'(0) = \text{Id}$. L'identité $\phi \circ F = N \circ \phi$ s'obtient en passant à la limite sur $(N^{-p} \circ F^p) \circ F = N \circ (N^{-(p+1)} \circ F^{p+1})$. $\square$

## 4.2. Théorèmes de Poincaré et Poincaré-Dulac

Considérons maintenant $F = L + \sum_{p \ge 2} H_p$ où $L$ est linéaire de spec-
tre $\{\lambda_1, \dots, \lambda_n\}$. Après avoir conjugué $F$ par une transformation unitaire
trigonalisant $L$ et réordonné les coordonnées, on supposera $L$ triangulaire
supérieure et $0 < |\lambda_1| \le \dots \le |\lambda_n| < 1$. Nous noterons $D$ la partie diagonale
de $L$.

Toute transformation holomorphe de la forme $\sum_{p \ge k+1} h_p$ où $h_p \in \mathcal{H}^p$ sera notée $o(k)$.

Afin d'appliquer le théorème 4.2, on cherche à se ramener à une application du type $L + o(k)$ en conjuguant successivement $F$ par des biholomorphismes de la forme $\psi_p := I + h_p$, $h_p \in \mathcal{H}^p$ pour $p = 2, \dots, k$. Commençons par préciser l'effet d'une telle conjugaison :

LEMME 4.4. — Soit $\psi := I + h$ où $h \in \mathcal{H}^q$. Soit aussi $F = L + S_{q-1} + H_q + o(q)$ où $S_{q-1} \in \mathcal{H}^2 \oplus \dots \oplus \mathcal{H}^{q-1}$ et $H_q \in \mathcal{H}^q$. Alors :

$$ \psi^{-1} \circ F \circ \psi = L + S_{q-1} + [H_q + L \circ h - h \circ L] + o(q) $$

Démonstration. — Pour ce calcul, il est utile d'observer que $h[f+o(r)] = h \circ f+o(r+s-1)$ pour tout $h \in \mathcal{H}^s (s \ge 2)$ et toute application holomorphe $f$ telle que $f(0) = 0$. On a :

$$ \begin{aligned} F \circ \psi &= L + L \circ h + S_{q-1} \circ (I+h) + H_q \circ (I+h) + o(q) = \\ &= L + L \circ h + S_{q-1} + H_q + o(q). \end{aligned} $$

Il est facile de voir que $\psi^{-1} = I - h + o(q)$ et il vient alors :

$$ \begin{aligned} \psi^{-1} \circ F \circ \psi &= L + L \circ h + S_{q-1} + H_q + o(q) - h \circ (L + o(1)) + o(q) = \\ &= L + L \circ h + S_{q-1} + H_q - h \circ L + o(q). \end{aligned} $$

$\square$
Dans cette partie nous n'utiliserons ce lemme que dans la version où $S_{q-1} = 0$ pour tout $q$. Ainsi, pour que $\psi_q := I + h_q$ conjugue $F = L + H_q + o(q)$ à $L + o(q)$, il faut et il suffit que $h_q$ soit solution de l'équation $H_q = h \circ L - L \circ h$. Nous sommes donc conduits à étudier l'inversibilité des opérateurs linéaires :

$$ M_L^r : \mathcal{H}^r \longrightarrow \mathcal{H}^r \\ h \longmapsto h \circ L - L \circ h. $$

Cette question est très facile à traiter lorsque $L$ est diagonale, c'est-à-dire $L = D$ (nous verrons qu'il suffit en fait de s'intéresser à ce cas).

Pour cela observons que $B^r$ est propre pour $M_D^r$ :

$$ M_D^r (H_{I,j}) = (\lambda^I - \lambda_j) H_{I,j}. $$

Ceci conduit à définir comme résonnant les monômes $H_{I,j}$ contenu dans $\text{Ker } M_D^r$ ($r = |I|$). On dit aussi que le spectre de $L$ satisfait la relation de résonnance $(I,j)$ si $\lambda^I := \lambda_1^{i_1} \cdots \lambda_n^{i_n} = \lambda_j$, comme nous l'avons observé, tel est le cas si et seulement si $H_{I,j}$ est résonnant.

Comme $|\lambda_1| \le |\lambda_j| \le |\lambda_j|^{i_1+\cdots+i_j} |\lambda_n|^{|I|-(i_1+\cdots+i_j)} \le |\lambda_j|^{i_1+\cdots+i_j}$, on remarque qu'une relation de résonnance $(I,j)$ ne peut être réalisée que si

$$ I = (0, \dots, 0, i_{j+1}, \dots, i_n) \quad \text{et} \\ |I| \le \left\lfloor \frac{\ln |\lambda_1|}{\ln |\lambda_n|} \right\rfloor $$

Nous sommes maintenant en mesure d'établir le théorème suivant :

**THÉORÈME 4.5 (POINCARÉ).** — Soit $F = L + \sum_{p \ge 2} H_p$ une application holomorphe dont la partie linéaire à l'origine, $L$, est inversible et contractante. Si le spectre de $L$ ne satisfait aucune relation de résonnance alors il existe un biholomorphisme local $\phi$ tel que $\phi(0) = 0$, $\phi'(0) = \text{Id}$ et $\phi^{-1} \circ F \circ \phi = L$.

**Démonstration.** — Soit $c_0(D) = \frac{\ln |\lambda_1|}{\ln |\lambda_n|}$ la quantité critique assignée à $D$ par le théorème 4.2 et $k$ un entier fixé tel que $k > c_0(D)$.

Supposons d'abord $L = D$. Puisque les opérateurs $M_D^r$ sont inversibles, le lemme 4.4 appliqué à $F$ fournit un biholomorphisme local $\psi_2$ tangent à
Id en 0 tel que $\psi_2^{-1} \circ F \circ \psi_2 = L + o(2)$. En appliquant alors le lemme 4.4 à $\psi_2^{-1} \circ F \circ \psi_2$ puis ainsi de suite pour $q \le k$, on obtient $\varphi := \psi_2 \circ \cdots \circ \psi_k$ vérifiant $\tilde{F} := \varphi^{-1} \circ F \circ \varphi = L + o(k)$.

On peut alors appliquer le théorème 4.2 à $\tilde{F}$ car $k > c_0(D) : \tilde{F}$ et donc $F$ sont linéarisables (il est ici crucial que $c_0(D)$ ne dépende que de $D = L = F'(0) = \tilde{F}'(0)$).

Lorsque $L \neq D$, il est judicieux de se ramener au cas précédent en con-
juguant $L$ à une matrice proche de $D$. Pour cela, considérons la matrice
diagonale $S_\epsilon := \begin{pmatrix} \epsilon \\ \vdots \\ \epsilon^n \end{pmatrix}$ où $\epsilon > 0$. Alors $F_\epsilon := S_\epsilon^{-1} \circ F \circ S_\epsilon =$
$L_\epsilon + H_{2,\epsilon} + o(2)$ où $L_\epsilon := S_\epsilon^{-1} \circ L \circ S_\epsilon$ est proche de $D$ pour $\epsilon$ petit car
$L_\epsilon$ est la somme de $D$ et d'une matrice triangulaire supérieure stricte de
coefficients $t_{i,j} = o(\epsilon^{j-i})$. Si $\epsilon \ll 1$, les opérateurs $M_{L_\epsilon}^2, \dots, M_{L_\epsilon}^k$ sont in-
versibles et $k > c_0(L_\epsilon)$. On procède alors avec $F_\epsilon$ comme nous l'avons fait
avec $F$ dans le cas précédent, cela fournit un biholomorphisme local $\varphi_\epsilon$
tangent à l'identité en 0 et tel que $\varphi_\epsilon^{-1} \circ F_\epsilon \circ \varphi_\epsilon = L_\epsilon + o(k)$. Il vient
ainsi $\tilde{F}_\epsilon := (S_\epsilon \circ \varphi_\epsilon \circ S_\epsilon^{-1})^{-1} \circ F \circ (S_\epsilon \circ \varphi_\epsilon \circ S_\epsilon^{-1}) = L + o(k)$ et il reste à
appliquer le théorème 4.2 à $\tilde{F}_\epsilon$. $\square$

Penchons nous maintenant sur le cas où le spectre de L est susceptible de
résonnances. La démarche sera la même que pour le théorème de Poincaré
mais nous devrons tenir compte des éventuels monômes résonnants. Comme
nous l'avons vu, la résonnance signifie que $Ker M_D^r$ est non trivial pour
certaines valeurs de $r$ comprises entre 2 et $n_0 := \lfloor \frac{\ln |\lambda_1|}{\ln |\lambda_n|} \rfloor$. Pour ces valeurs,
$Ker M_D^r$ possède une base constituée de monômes résonnants
$(z_{j+1}^{i_{j+1}} \cdots z_n^{i_n})$ $e_j$ si bien que la somme d'un élément de $\bigoplus Ker M_D^r$ et de
$L$ (qui est triangulaire supérieure) définit un automorphisme polynomial
triangulaire de $C^n$ :

$$
(\lambda_1 z_1 + p_1 (z_2, \dots, z_n), \lambda_2 z_2 + p_2 (z_3, \dots, z_n), \dots, \lambda_{n-1} z_{n-1} + p_{n-1} (z_n), \lambda_n z_n)
$$

Fixons un entier $k > c_0(D) = \frac{\ln|\lambda_1|}{\ln|\lambda_n|}$. Soit, pour tout $r \ge 2$, la décomposi-
tion $\mathcal{H}^r = Ker M_D^r \oplus X^r$ où $X^r$ désigne la somme des sous-espaces propres
de $M_D^r$ distincts du noyau. Notons $\pi^r$ la projection sur $Ker M_D^r$ relative à
cette décomposition et $\hat{h}_r := \pi^r(h_r)$. Fixons $k_0 \ge 2$, comme $\pi^r + M_D^r$ est
inversible pour tout $r \ge 2$, $\pi^r + M_L^r$ sera inversible pour $2 \le r \le k_0$ pourvu
que L soit assez proche de D.
Supposons pour l'instant que cette condition de proximité soit satisfaite et qu'en outre $k > c_0(L)$. Appliquons le lemme 4.4 à $F = L + H_2 + o(2)$ avec $h = h_2$, $h_2$ étant l'unique élément de $\mathcal{H}^2$ tel que $\hat{h}_2 + M_L^2(h_2) = H_2$. Cela fournit un biholomorphisme local $\psi_2$ tel que

$$ \psi_2^{-1} \circ F \circ \psi_2 = L + \hat{h}_2 + \tilde{H}_3 + o(3). $$

On applique alors le lemme 4.4 à $\psi_2^{-1} \circ F \circ \psi_2$ avec $S_2 = \hat{h}_2$ et $h = h_3$ tel que $\hat{h}_3 + M_L^3(h_3) = \tilde{H}_3$. On obtient un biholomorphisme local $\psi_3$ tel que

$$ \psi_3^{-1} \circ \psi_2^{-1} \circ F \circ \psi_2 \circ \psi_3 = L + \hat{h}_2 + \hat{h}_3 + o(3). $$

En continuant ce procédé, on construit un biholomorphisme local $\psi$ tel que $\psi(0) = 0$, $\psi'(0) = \text{Id}$ et

$$ \psi^{-1} \circ F \circ \psi = L + \hat{h}_2 + \dots + \hat{h}_{n_0} + o(k). $$

Comme $N := L + \hat{h}_2 + \dots + \hat{h}_{n_0}$ est un automorphisme (triangulaire) de $\mathbf{C}^n$, on peut appliquer le théorème 4.2 à $\psi^{-1} \circ F \circ \psi$ et en déduire que $F$ est localement conjuguée à $N$ par un biholomorphisme local tangent à $\text{Id}$ en 0.

Lorsque $L$ n'est pas assez proche de $D$ on peut, comme précédemment, remplacer $F$ par $S_\epsilon^{-1} \circ F \circ S_\epsilon$ pour $\epsilon$ assez petit. Comme nous venons de le montrer, $S_\epsilon^{-1} \circ F \circ S_\epsilon$ est localement conjuguée à un automorphisme triangulaire de partie linéaire $S_\epsilon^{-1} \circ L \circ S_\epsilon$. Il en résulte immédiatement que $F$ est localement conjuguée à un automorphisme triangulaire de partie linéaire $L$. Nous avons démontré le :

### THÉORÈME 4.6 (POINCARÉ-DULAC).
Soit $F = L + \sum_{p \ge 2} H_p$ une application holomorphe dont la partie linéaire à l'origine, $L$, est inversible et contractante. Il existe un automorphisme polynomial $N = L + P$ et un biholomorphisme local $\phi$ tel que $\phi(0) = 0$, $\phi'(0) = \text{Id}$ et $\phi^{-1} \circ F \circ \phi = N$. Si $L$ est triangulaire supérieure, $P$ est une combinaison linéaire de monômes résonnants et $N$ un automorphisme triangulaire.

## 4.3. Domaines de Fatou-Bieberbach

Soit $F: \mathbf{C}^n \to \mathbf{C}^n$ un automorphisme fixant l'origine et tel que $F'(0) =: L$ soit contractante. Désignons par $\Omega$ le bassin d'attraction de $F$ à l'origine :

$$ \Omega := \{z \in \mathbf{C}^n / \lim_{p} F^p(z) = 0\}. $$

Ce domaine est totalement invariant par $F$ (i.e $F^{-1}(\Omega) = F(\Omega) = \Omega$) et, puisqu'il contient un voisinage de l'origine, c'est un ouvert de $\mathbf{C}^n$.
Observons que $F$ induit un automorphisme sur $\Omega$. En général $\Omega \neq C^n$ et même $C^n \setminus \bar{\Omega} \neq \emptyset$, comme le montre l'exemple suivant :

Soit $F_0 : C^2 \to C^2$ donné par $F_0(z_1, z_2) = (az_2 + z_1^2, az_1)$ où $0 < |a| < 1$. Vérifions que $W := \{(z_1, z_2) : |z_1| > 3 \text{ et } |z_2| < |z_1|\}$ est contenu dans le complémentaire du bassin $\Omega$. Notons $F_0(z_1, z_2) = (z'_1, z'_2)$. Si $(z_1, z_2) \in W$ alors

$$ 
\begin{aligned}
|z'_1| &= |az_2 + z_1^2| \ge |z_1| \left( |z_1| - |a| \frac{|z_2|}{|z_1|} \right) \ge |z_1| (3 - |a|) \ge 2|z_1| \\
|z'_2| &= |a||z_1| < 2|z_1| \le |z'_1|.
\end{aligned}
$$

Autrement dit, $F_0(W) \subset W$ et $\|F_0^p(z)\| \ge 2^p|z_1| \ge 2^{p3}$ pour tout $p \ge 1$ et tout $z \in W$.

D'après le théorème de Poincaré-Dulac, $F$ est conjuguée à un automorphisme triangulaire $N$ au voisinage de l'origine (on peut supposer $L$ triangulaire). Désignons alors par $\tilde{\Omega}$ le bassin d'attraction de $N$ à l'origine et construisons un biholomorphisme $\tilde{\varphi} : \tilde{\Omega} \to \Omega$ conjuguant $N$ à $F$. Soit $\varphi$ le biholomorphisme local vérifiant $\varphi \circ N = F \circ \varphi$ donné par le théorème de Poincaré-Dulac. Soient $V_0$ et $W_0$ des voisinages de l'origine tels que $\varphi : V_0 \to W_0$ soit un biholomorphisme. Quitte à diminuer $V_0$, on peut supposer que $N(V_0) \subset V_0 \subset \tilde{\Omega}$ si bien que le diagramme suivant commute :

$$ 
\begin{array}{ccc}
V_0 & \xrightarrow{N} & (V_0) \\
\varphi & \downarrow & \downarrow \varphi \\
W_0 & \xrightarrow{F} & F(W_0)
\end{array}
\qquad (4.8) $$

En particulier $F(W_0) \subset \varphi[N(V_0)] \subset \varphi(V_0) = W_0$.

Posons $V_p := N^{-p}(V_0)$ et $W_p := F^{-p}(W_0)$. Il est clair que $\tilde{\Omega} = \cup V_p$ et $\Omega = \cup W_p$, ces réunions étant croissantes. La suite de biholomorphismes $\varphi_p : V_p \to W_p$ définie par $\varphi_p := F^{-p} \circ \varphi \circ N^p$ vérifie $\varphi_{p+1}|_{V_p} = \varphi_p$. Ceci est vrai au voisinage de l'origine car $\varphi_{p+1} = F^{-p} \circ (F^{-1} \circ \varphi \circ N) \circ N^p = F^{-p} \circ \varphi \circ N^p = \varphi_p$ et se prolonge à $V_p$ par analyticité. On définit un biholomorphisme $\tilde{\varphi} : \tilde{\Omega} \to \Omega$ en posant $\tilde{\varphi}|_{V_p} := \varphi_p$ (son inverse est donné sur $W_p$ par l'inverse de $\varphi_p$). Par construction, $F \circ \tilde{\varphi} = \tilde{\varphi} \circ N$ sur $\tilde{\Omega}$, ce qu'il suffit à nouveau de vérifier près de l'origine : $F \circ \varphi_{p+1} = F \circ F^{-(p+1)} \circ \varphi \circ N^{p+1} = F^{-(p)} \circ \varphi \circ N^p \circ N = \varphi_p \circ N$.
Le fait est que le bassin d'attraction de $N$ à l'origine coïncide avec $C^n$ :

LEMME 4.7. — Soit $N$ un automorphisme polynomial triangulaire de $C^n$. Alors, pour tout $z \in C^n$, $\lim_p ||N^p(z)|| = 0$.

Démonstration. — Laissée en exercice. □

Nous disposons donc du diagramme commutatif suivant où toutes les flèches sont des biholomorphismes :

$$ \begin{tikzcd} C^n \arrow[r, "N"] \arrow[d, "\tilde{\phi}"] & C^n \arrow[d, "\tilde{\phi}"] \\ \Omega \arrow[r, "F"] & \Omega \end{tikzcd} \qquad (4.9) $$

Lorsque, comme dans l'exemple vu plus haut, $\bar{\Omega} \neq C^n$, cette construction fournit de surprenants domaines holomorphiquement équivalents à $C^n$. Ces domaines, dits de Fatou-Bieberbach, n'existent bien sûr pas pour $n=1$ comme le montre le théorème de Riemann. On remarquera aussi que les automorphismes de $C$ fixant l'origine sont linéaires et que dans ce cas le diagramme (4.9) est trivial. Cependant, lorsque $F$ est un endomorphisme polynomial de $C$, la même construction donne un diagramme (4.9) où $\tilde{\phi}$ est nécessairement non injective.

## 4.4. Structure complexe des variétés stables

Nous considérons ici une situation qui généralise celle couverte par le théorème de Poincaré-Dulac.

Soit $f$ un automorphisme d'une variété complexe $M$ (par exemple $M = C^{k+1}$) et $K$ un compact invariant par $f$. On dit que $f$ est uniformément hyperbolique sur $K$ si il existe une décomposition continue de l'espace tangent

$$ TM|_K = E^s \oplus E^u $$

telle que :

i) $\dim E_p^s$ et $\dim E_p^u$ sont constantes sur $K$

ii) $f'(p).E_p^s = E_{f(p)}^s$ et $f'(p).E_p^u = E_{f(p)}^u$

iii) il existe des constantes $C > 0$ et $0 < \rho < 1$ telles que $\| (f^n)' |_{E_p^s} \| \le C\rho^n$ et $\| (f^n)' |_{E_p^u} \| \ge \frac{1}{C}\rho^{-n}$ pour tout $p \in K$ et tout $n \in \mathbb{N}$.
Les parties précédentes concernaient le cas où $K$ est réduit à $\{p\}$ et $E_p^u = \{0\}$; leur contenu s'étend en fait au cas où $E_p^u$ n'est pas trivial. On s'intéresse maintenant aux points qui ne sont pas nécessairement fixés par $f$. Ceci nous conduit à définir la variété stable $W_p^s$ passant par $p$ de la façon suivante :

$$W_p^s := \{z \in M/d[f^n(z), f^n(p)] \le C\rho^n; \forall n\}$$

où $C > 0$ et $0 < \rho < 1$.

Il n'est pas évident que $W_p^s$ soit une variété, même au voisinage de $p$. La démonstration est techniquement ardue. Elle utilise une méthode, dite de transformée de graphe, qui n'est pas sans rappeler la méthode de dilatation des coordonnées.

<figure><img src="image_7.png" /><figcaption>Figure 6. — Transformée de graphe</figcaption></figure>

Nous la décrivons très sommairement dans le cas d'un point fixe.

Désignons par $E_p^{s,u}(r)$ la boule centrée à l'origine et de rayon $r$ dans l'espace $E_p^s$ ou $E_p^u$. À toute application régulière $\psi : E_p^s(r) \to E_p^u(r)$ fixant l'origine on associe son graphe $\Gamma(\psi)$. Grosso-modo, $f^{-1}$ agit sur $\Gamma(\psi)$ par contraction dans la direction de $E_p^u$ et dilatation dans celle de $E_p^s$. L'image de $\Gamma(\psi)$ par $f^{-1}$, tronquée à la taille $r$, est un nouveau graphe noté $\Gamma(\mathcal{F}\psi)$. Dans un espace de Banach adéquat, l'opérateur $\mathcal{F}$ est une contraction. À son point fixe, $\psi_0$, correspond un graphe $\Gamma(\psi_0)$ qui coïncide localement avec $W_p^s$. L'espace tangent à $W_p^s$ est $E_p^s$.

L'énoncé suivant synthétise les résultats sur la structure locale des variétés stables que nous utiliserons.

**THÉORÈME 4.8.** — Il existe $\epsilon > 0$ ainsi qu'une application continue $\chi : E^s(\epsilon) \to W^s$ telle que $\chi_p : E_p^s(\epsilon) \to \chi_p(E_p^s(\epsilon)) \subset W_p^s$ soit un bi-holomorphisme tangent à l'identité en 0 sur $E_p^s$ et envoyant 0 sur $p$.
Tout comme les bassins d'attraction d'automorphismes de $\mathbf{C}^{k+1}$ se sont avérés être des domaines de Fatou-Bieberbach (voir la partie 4.3), les variétés stables $W_p^s$ sont en général biholomorphes à $E_p^s$. Nous nous proposons de vérifier cette assertion dans un cas particulier où la démonstration est analogue à celle du théorème de linéarisation de Poincaré en dimension un. Introduisons à cet effet les quantités $L_+$ et $L_-$ suivantes :

$$ 
\begin{align*}
A_p^n &:= (f^n)'(p)|_{E_p^s} \\
L_+ &:= \mathrm{LimSup}_n \mathrm{Sup}_K \frac{1}{n} \mathrm{Log} \|A_p^n\| \\
L_- &:= \mathrm{LimInf}_n \mathrm{Inf}_K \frac{1}{n} \mathrm{Log} \|A_p^{-n}\|
\end{align*}
$$

on a alors le résultat suivant :

**THÉORÈME 4.9.** — Si $f$ est uniformément hyperbolique sur $K$ et $2L_+ < L_-$ alors il existe un homéomorphisme $\psi : W^s \to E^s$ au dessus de $K$ tel que :

i) $\psi_p : W_p^s \to E_p^s$ est un biholomorphisme pour tout $p \in K$ et $\psi'_p(p) = \mathrm{Id}$

ii) $\psi \circ f \circ \psi^{-1} = f'|_{E^s}$.

*Démonstration.* — Posons $F := \chi^{-1} \circ f \circ \chi$ et $W^s(\epsilon) := \chi(E^s(\epsilon))$ où $\chi$ est donnée par le théorème précédent. Soit $\delta > 0$ tel que $2L_+ - L_- + 5\delta < 0$ et $L^+ + 2\delta < 0$.

De la définition de $L_+$ on déduit que pour $n$ assez grand :

$$ |F^n(v)| \le e^{(L_++\delta)n} \quad ; v \in E^s(\epsilon). $$

Si $J$ est un compact dans $W^s$, il existe $n_0$ tel que $f^{n_0}(J) \subset W^s(\epsilon)$. Compte tenu de l'estimation précédente on a pour $n$ grand :

$$ |\chi^{-1} f^n(z)| \le e^{(L_++2\delta)n} \quad ; z \in J. $$

On utilise maintenant le développement de Taylor de $F$ à l'ordre 2 :

$$ |v - A^{-1} \circ F(v)| \le |v|^2 \quad ; v \in E^s(\epsilon). $$

En posant $w_n := \chi^{-1} f^n(z)$ et en utilisant les estimations précédentes ainsi que la définition de $L_-$ il vient, toujours pour $n$ assez grand :

$$ 
\begin{align*}
|A^{-n} \chi^{-1} f^n(z) - A^{-(n+1)} \chi^{-1} f^{n+1}(z)| &\le \|A^{-n}\| |w_n - A^{-1} F(w_n)| \\
&\le e^{-(L_- - \delta)n} C |w_n|^2 \\
&\le C e^{(2L_+ - L_- + 5\delta)n}.
\end{align*}
$$
Ceci justifie l'existence de

$$ \psi := \lim_{n} A^{-n} \chi^{-1} f^{n}. $$

On vérifie facilement les propriétés de $\psi$, en particulier la surjectivité découle du fait que $A$ est contractante. $\square$

### 4.5. Linéarisation le long d'orbites expansives d'un endomorphisme de $\mathbf{P}^k$

Une application holomorphe $f : \mathbf{P}^k \to \mathbf{P}^k$ de degré algébrique $d \ge 2$ est induite par une application polynomiale homogène $F$, non dégénérée $(F^{-1}(\{0\}) = \{0\})$ et de degré $d$ :

$$ \begin{array}{ccc} \mathbf{C}^{k+1} \setminus \{0\} & \xrightarrow{F} & \mathbf{C}^{k+1} \setminus \{0\} \\ \pi \downarrow & & \pi \downarrow \\ \mathbf{P}^k & \xrightarrow{f} & \mathbf{P}^k \end{array} $$

Un tel endomorphisme $f$ est un revêtement ramifié fini de degré topologique $d^k$, on notera $C_f$ son ensemble critique.

L'objet de cette partie est de montrer que l'on peut renormaliser $(f_n)_n$ le long de la plupart des orbites où elle « explose ». Nous entendons par là que pour des points $x \in \mathbf{P}^k$ typiques :

$$ f^{n_j}(x + (d_x f^{n_j})^{-1} \cdot) \to \psi $$

la convergence étant uniforme au voisinage de l'origine et la limite $\psi$ injective.

Il s'agit clairement d'un énoncé de linéarisation, il suffit pour s'en convaincre de penser au cas d'un point fixe répulsif (voir aussi la remarque 4.1). On s'attend donc, comme dans le cas des points fixes, à rencontrer des obstructions analogues aux résonances. Cette fois elles ne se liront plus sur les valeurs propres de l'application linéaire tangente mais sur leurs taux de croissance exponentielle le long de l'orbite. Il s'agit en fait d'un phénomène statistique qui, en l'absence d'hypothèse d'uniformité, ne peut être appréhendé que dans un cadre ergodique adéquat.

Commençons donc par préciser ce cadre. Il existe une mesure $\mu$ invariante par $f$, ergodique et de Jacobien constant égal à $d^k$. Cette dernière propriété se traduit par

$$ f^* \mu = d^k \mu $$
ce qui signifie en particulier que $f$ dilate les $\mu$-volumes au sens où

$$ \mu[f(A)] = d^k \mu(A) $$

pour tout borélien $A$ sur lequel $f$ est injective. Cette mesure est appelée mesure d'équilibre de $f$.

Il est important de signaler que $\mu$ intègre les fonctions $p.s.h.$ et donc ne charge pas les ensembles analytiques.

On considère donc le système dynamique $(\mathbf{P}^k, f, \mu)$. Les exposants de Lyapounov de ce système sont définis comme les taux de croissance exponentielle des valeurs singulières des différentielles $d_x f^n$. On les notera $\lambda_1 \le \dots \le \lambda_k$. Leur existence et le fait qu'ils soient constants résultent du théorème ergodique de Birkhoff (plus précisément de la version sous-additive de Kingman). On retiendra en particulier que pour $\epsilon > 0$ on a

$$ \frac{1}{C} e^{n(\lambda_1 - \epsilon)} \|v\| \le \|d_x f^n \cdot v\| \le C e^{n(\lambda_k + \epsilon)} \|v\| $$

pour $\mu$-presque tout $x$ et tout $v \in T_x(\mathbf{P}^k)$.

La stricte positivité de ces exposants est un résultat fondamental et non trivial :

**THÉORÈME 4.10 (BRIEND-DUVAL).** — Les exposants de Liapounov du système $(\mathbf{P}^k, f, \mu)$ sont au moins égaux à $\text{Log}\sqrt{d}$ où $d$ est le degré algébrique de $f$.

Ainsi $f^n$ est strictement dilatante le long de l'orbite de $\mu$-presque tout point. Nous sommes maintenant en mesure de formuler notre énoncé de linéarisation.

**THÉORÈME 4.11 (BERTELOOT-DUPONT).** — Si les exposants de Lyapounov d'un système $(\mathbf{P}^k, f, \mu)$ sont tels que $\lambda_k < 2\lambda_1$ alors la suite $f^n(x + (d_x f^n)^{-1} \cdot)$ possède au moins une limite injective pour $\mu$-presque tout $x \in \mathbf{P}^k$.

On souhaite, pour établir ce résultat, inverser $f$ afin de se ramener à une situation contractante. Comme $f$ n'est pas injective, on y parvient en construisant l'extension naturelle $(\hat{\mathbf{P}}^k, \hat{f}, \hat{\mu})$ de $(\mathbf{P}^k, f, \mu)$. Il s'agit d'une méthode classique en théorie ergodique. L'espace $\hat{\mathbf{P}}^k$ est celui des « histoires » du système $(\mathbf{P}^k, f, \mu)$ :

$$ \hat{\mathbf{P}}^k := \{ \hat{x} := (x_n)_{n \in \mathbb{Z}} / f(x_n) = x_{n+1} \}. $$
On munit $\hat{\mathbf{P}}^k$ de la topologie et de la tribu produit. L'application $\hat{f}$ agit sur $\hat{\mathbf{P}}^k$ comme le décalage à droite. Ainsi le diagramme suivant commute, la projection $\pi_0 : \hat{\mathbf{P}}^k \to \mathbf{P}^k$ étant définie par $\pi_0(\hat{x}) := x_0$ :

<figure><img src="image_8.png" /></figure>

La mesure $\hat{\mu}$ est définie par $\hat{\mu}(\pi_0^{-1}(A)) = \mu(A)$, elle est $\hat{f}$-invariante et ergodique.

Dans l'extension naturelle on établit la proposition suivante :

**PROPOSITION 4.12.** — *Soit $(\mathbf{P}^k, f, \mu)$ comme dans l'énoncé du théorème 4.11. Π existe une fonction mesurable $S : \hat{\mathbf{P}}^k \to ]0, 1]$ telle que l'application $f^n(x_{-n} + (d_{x_{-n}}f^n)^{-1} \cdot )$ est injective sur $B(0, S(\hat{x}))$ et à valeurs dans $B(x_0, 1)$ pour $\hat{\mu}$-presque tout $\hat{x}$ et tout entier $n$.*

Le théorème 4.11 se déduit facilement de cette proposition au moyen d'un argument standard. On choisit $p$ assez grand pour que $\hat{S}_p := \{S \ge \frac{1}{p}\}$ soit de $\hat{\mu}$-mesure positive. Pour $\hat{\mu}$-presque tout $\hat{x} \in \hat{S}_p$ on trouve, grâce au théorème de récurrence de Poincaré, une suite d'entiers $(n_j)$ telle que $\hat{f}^{n_j}(\hat{x}) \in \hat{S}_p$. Il suffit alors d'utiliser la proposition 4.12 avec $\hat{f}^{n_j}(\hat{x})$ à la place de $\hat{x}$.

Voyons maintenant le principe de la preuve de la proposition 4.12. Soit

$$ \hat{X} := \{\hat{x} \in \hat{\mathbf{P}}^k / x_n \in \mathbf{P}^k \setminus C_f; \forall n \in \mathbb{Z}\}. $$

Ce borélien est de $\hat{\mu}$-mesure pleine et, lorsque $\hat{x} \in \hat{X}$, $f$ possède des branches inverses locales envoyant $x_j$ sur $x_{j-1}$ pour tout $j \in \mathbb{Z}$. On notera $r_j$ le rayon d'inversibilité de $f$ en $x_j$. En composant de telles branches inverses, on construit la *branche inverse de profondeur n le long de l'orbite* $\hat{x}$. On la note $f_{\hat{x}}^{-n}$, elle est définie au voisinage de $x_0$ et envoie $x_0$ sur $x_{-n}$.

<figure><img src="image_9.png" /><figcaption>Figure 7. — Construction de branches inverses le long de $\hat{x}$</figcaption></figure>
La proposition 4.12 résulte immédiatement des deux faits suivants (on
ôte éventuellement un ensemble de $\hat{\mu}$-mesure nulle à $\hat{X}$).

Fait 1. — Il existe une fonction mesurable $\eta : \hat{X} \to [0, 1]$ telle que $f_{\hat{x}}^{-n}$ existe sur $B(0, \eta(\hat{x}))$ pour tout $\hat{x} \in \hat{X}$ et tout $n \in \mathbb{N}$.

Ceci découle de la confrontation de deux phénomènes. D'une part, comme le montre le théorème ergodique de Birkhoff appliqué à $\hat{x} \mapsto \log\|(d_{x_0}f)^{-1}\|^{-2} = \log r_0$, le taux de croissance exponentiel des rayons d'inversibilité $r_n$ est nul. D'autre part, la stricte positivité des exposants de Liapounov force le diamètre des images par $f_{\hat{x}}^{-n}$ à décroître exponentiellement vite.

Le second fait contient l'argument «d'approximation» proprement dit. On pourra le comparer au théorème 4.2 en y prenant $\frac{Lna}{LnA} < 2$ et $N = L$. On l'établira cependant par un procédé plus «visuel».

Fait 2. — Il existe une fonction mesurable $S : \hat{X} \to [0, 1]$ telle que $\forall \hat{x} \in \hat{X}, \forall n \in \mathbb{N}, x_{-n} + (d_{x_{-n}} f^n)^{-1} B(0, S(\hat{x})) \subset f_{\hat{x}}^{-n} B(x_0, \eta(\hat{x}))$.

On procède par récurrence sur $n$. Supposons qu'il existe $0 < s_n < 1$ tel
que :

$$
(*) \quad x_{-n} + (d_{x_{-n}} f^n)^{-1} B(0, s_n) \subset f_{\hat{x}}^{-n} B(x_0, \eta(\hat{x})).
$$

Nous allons voir qu'alors ($*$$_{n+1}$) est satisfaite avec $s_{n+1} =$
$s_n(1-e^{-n(2\lambda_1-\lambda_k)})$. On pourra donc, sous l'hypothèse $2\lambda_1-\lambda_k > 0$, prendre
$S(\hat{x}) = \lim_n s_n$.

La preuve consiste simplement à composer ($*$$_n$) par la branche inverse de $f$ (notée $f^{-1}$ et définie sur $B(x_n, r_n)$) puis à substituer sa différentielle à $f^{-1}$ dans le membre de gauche. L'erreur d'approximation ainsi commise est estimée grâce aux inégalités de Cauchy et en exploitant a nouveau le fait que $f^{-1}$ est définie sur une boule de rayon exponentiellement grand devant le diamètre de $(d_{x_{-n}} f^n)^{-1} B(0, s_n)$ :

$$
\| f^{-1} - d_{x_{-n}} f^{-1} \| \cdot s_n e^{-2n\lambda_1} \text{ sur } (d_{x_{-n}} f^n)^{-1} B(0, s_n).
$$

On diminue ensuite légèrement $s_n$ de façon à compenser l'erreur et rétablir l'inclusion. On voit facilement que le choix de $s_{n+1} = s_n(1 - e^{-n(2\lambda_1 - \lambda_k)})$ convient. Ceci achève la description de la preuve du théorème 4.11.
Nous terminons cette partie en mentionnant une application du procédé de linéarisation le long des orbites. Il s'agit de caractériser les systèmes $(\mathbf{P}^k, f, \mu)$ pour lesquels la mesure $\mu$ est absolument continue par rapport à la mesure de Lebesgue $\omega^k$ ($\omega$ désigne la forme de Fubini-Study sur $\mathbf{P}^k$).

Il faut d'abord représenter $\mu$ comme la masse de Monge-Ampère $T^k$ d'un (1, 1)-courant positif fermé $T$ cohomologue à $\omega$. Ce courant est appelé le courant de Green de $f$ et vérifie :

$$ \mu = T^k \text{ et } f^*T = dT. $$

L'équation fonctionnelle $f^*T = dT$ contient beaucoup plus d'informations géométriques que l'équation $f^*\mu = d^kT$. Lorsque $T$ est lisse, celle-ci est accessible et l'on peut montrer que $f$ est un endomorphisme de Lattès ce qui signifie qu'il fait commuter un diagramme :

<figure><img src="image_10.png" /></figure>

où $D$ est une application affine de partie linéaire $\sqrt{d}U$ (où $U$ est unitaire) et $\sigma$ un revêtement ramifié sur les fibres duquel un groupe cristallographique complexe agit transitivement. On a le résultat suivant :

**THÉORÈME 4.13 (BERTELOOT-LOEB).** — *Tout endomorphisme holomorphe de $\mathbf{P}^k$ dont le courant de Green coïncide avec une (1, 1)-forme lisse strictement positive sur un ouvert est de Lattès.*

Il s'agit maintenant de déduire la régularité de $T$ de celle de $\mu$. On voit facilement que les exposants de Lyapounov de $\mu$ sont minimaux égaux à $\text{Log} \sqrt{d}$ (voir théorème 4.10) lorsque $\mu$ est absolument continue par rapport à $\omega^k$. On peut alors améliorer le procédé de linéarisation en montrant que, pour suffisamment d'orbites, des homothéties de rapport $d^{-n/2}$ peuvent être substituées aux différentielles $(d_x f^n)^{-1}$ dans le théorème 4.11. Ce procédé de linéarisation raffiné permet de déduire la régularité du courant $T$ de l'absolue continuité de $\mu = T^k$. Plus précisément, le courant de Green $T$ s'avère être une forme strictement positive sur un ouvert non vide ce qui permet d'utiliser le théorème 4.13. Ceci conduit au résultat suivant où l'on incorpore des formulations équivalentes de l'hypothèse d'absolue continuité.
THÉORÈME 4.14 (BERTELOOT-DUPONT). — *Soit un sytème (P<sup>k</sup>, f, μ) où f est de degré d ≥ 2. Les propriétés suivantes sont équivalentes :*

1. La mesure $\mu$ est absolument continue par rapport à $\omega^k$.

2. La dimension de $\mu$ est maximale, égale à 2k.

3. Les exposants de $\mu$ sont minimaux, égaux à $\log\sqrt{d}$.

4. L'endomorphisme $f$ est de Lattès.

**Notes.** — Les théorèmes de Poincaré et Poincaré-Dulac restent vrais dans le contexte différentiable. Ceci est démontré dans l'article de Sternberg [70]. Une approche différente est exposée dans le livre de Françoise [42]. On pourra aussi consulter le livre d'Arnold [1]. L'article de Rosay et Rudin [62] contient, en appendice, une preuve de ces théorèmes dans le cadre holomorphe. Cet article apporte également bien des précisions sur les phénomènes de Fatou-Bieberbach. Ce thème est également au centre de l'article de Dixon et Esterle [33] dont l'introduction offre un bon panorama du sujet et où les auteurs établissent un pont entre le problème de Michael (continuité des caractères des algèbres de Frechet) et la vacuité de l'intersection de certaines suites de domaines de Fatou-Bieberbach. Cette voie est utilisée par Stensones pour aborder le problème de Michael [68]. Le même auteur a construit des domaines de Fatou-Bieberbach dont le bord est lisse [69], on ignore si cela est possible dans la catégorie des bassins d'attractions. La dynamique holomorphe apporte un éclairage nouveau sur les phénomènes de Fatou-Bieberbach, le lecteur en trouvera un exposé dans le livre de Sibony [66]. La structure des variétés stables a été étudiée par Jonsson et Varolin [49], nous n'avons présenté que le cas uniformément hyperbolique qui est particulièrement simple. Leur travail concerne surtout le cas non uniformément hyperbolique qu'ils abordent en combinant l'approche de Sternberg citée plus haut et la théorie de Pesin. On trouvera dans le livre d'introduction de Ruelle [63] des bases sur la dynamique hyperbolique et la notion de variétés stables. La mesure d'équilibre d'un endomorphisme holomorphe de $P^k$ a été construite comme masse de Monge-Ampère et ses principales propriétés ergodiques établies par Fornaess et Sibony [38] [39] (voir aussi le livre [66]). Briend et Duval ont établi que ses exposants de Lyapounov sont supérieurs à $\log\sqrt{d}$ [17] et qu'elle est l'unique mesure d'entropie maximale de $f$ [18]. Le travail de Dinh et Sibony [32] offre une nouvelle construction de la mesure d'équilibre, élargie au cas des applications d'allure polynomiale et n'utilisant que les propriétés de base des fonctions p.s.h. La linéarisation le long des orbits expansives est traitée par Berteloot et Dupont dans [12]. Dans le même article on trouve la caractérisation des Lattès par leur mesure d'équilibre.
La caractérisation par le courant de Green, nécessaire à la démonstration du théorème 4.14, fait l'objet du travail de Berteloot et Loeb [15].

Bibliographie

[1] V. ARNOLD. — Chapitres supplémentaires de la théorie des équations différentielles ordinaires, Editions MIR Moscou - Editions du Globe Paris (1996).

[2] D. BARGMANN. — Simple proofs of some fundamental properties of the Julia set, Ergodic Theory Dynam. Systems 19, no. 3, p. 553-558 (1999).

[3] E. BEDFORD and S. PINCHUK. — Domains in $C^2$ with non-compact automorphism group, Math. USSR Sbornik 63, p. 141-151 (1989).

[4] E. BEDFORD and S. PINCHUK. — Convex domains with non-compact automorphism group, J. Geometric Anal. 1, p. 165-191 (1991).

[5] S. BELL. — The Bergman kernel function and proper holomorphic mappings, Trans. Amer. Math. Soc. 270, no. 2, p. 685-691 (1982).

[6] S. BELL and E. LIGOCKA. — A simplification and extension of Fefferman’s theorem on biholomorphic mappings, Invent. Math. 57, no. 3, p. 283-289 (1980).

[7] W. BERGWEILER. — Rescaling principles in function theory, Analysis and its applications (Chennai, 2000), p. 11-29, Allied Publ., New Delhi (2001).

[8] F. BERTELOOT. — Attraction de disques analytiques et continuité Höldérienne d'applications holomorphes propres, Topics in Compl.Anal., Banach Center Publ., p. 91-98 (1995).

[9] F. BERTELOOT. — Characterization of models in $C^2$ by their automorphism group, Int. J. Math., Vol. 5, No. 5, p. 619-634 (1994).

[10] F. BERTELOOT. — Principe de Bloch et estimations de la métrique de Kobayashi des domaines de $C^2$, J. Geom. Anal. 13, no. 1, p. 29-37 (2003).

[11] F. BERTELOOT et G. CŒURÉ. — Domaines de $C^2$, pseudoconvexes et de type fini ayant un groupe non-compact d'automorphismes, Ann. Inst. Fourier Grenoble 41 (1), p. 77-86 (1991).

[12] F. BERTELOOT et C. DUPONT. — Une caractérisation des exemples de Lattès par leur mesure de Green, Comment. Math. Helv. (à paraître).

[13] F. BERTELOOT et J. DUVAL. — Une démonstration directe de la densité des cycles répulsifs dans l'ensemble de Julia, Complex analysis and geometry (Paris, 1997), p. 221-222, Progr. Math., 188, Birkhauser, Basel (2000).

[14] F. BERTELOOT et J. DUVAL. — Sur l'hyperbolicité de certains complémentaires, L'Enseignement Mathématique, t. 47, p. 253-267 (2001).

[15] F. BERTELOOT et J.J. LOEB. — Une caractérisation géométrique des exemples de Lattès de $P^k$, Bull. Soc. Math. Fr., 129, no. 2, p. 175-188 (2001).

[16] F. BERTELOOT et V. MAYER. — Rudiments de dynamique holomorphe, Cours Spécialisés, 7. Société Mathématique de France, Paris ; EDP Sciences, Les Ulis (2001).

[17] J-Y. BRIEND et J. DUVAL. — Exposants de Liapounoff et distribution des points périodiques d'un endomorphisme de $P^k$, Acta Math., 182, no. 2, p. 143-157 (1999).

[18] J-Y. BRIEND et J. DUVAL. — Deux caractérisations de la mesure d'équilibre d'un endomorphisme de $P^k$, Publ. Math. Inst. Hautes Études Sci. 93, p. 145-159 (2001).
[19] R. BRODY. — Compact manifolds and hyperbolicity, Trans. Amer. Math. Soc. 235, p. 213-219 (1978).

[20] J. BYUN, H. GAUSSIER et K-T. KIM. — Weak-type normal families of holomorphic mappings in Banach spaces and characterization of the Hilbert ball by its automorphism group, J. Geom. Anal. 12, no. 4, p. 581-599 (2002).

[21] D. CATLIN. — Estimates of Invariant metrics on pseudoconvex domains of dimension two, Math. Z. 200, p. 429-466 (1989).

[22] M. CHRIST. — $C^\infty$ irregularity of the $\bar{\partial}$-Neumann problem for worm domains, J. Amer. Math. Soc. 9, no. 4, p. 1171-1185 (1996).

[23] B. COUPET. — Precise regularity up to the boundary of proper holomorphic mappings, Ann. Scuola Norm. Sup. Pisa Cl. Sci. (4) 20, no. 3, 461-482 (1993).

[24] B. COUPET H. GAUSSIER and A. SUKHOV. — Regularity of CR maps between convex hypersurfaces of finite type, Proc. Amer. Math. Soc. 127, no. 11, p. 3191-3200 (1999).

[25] B. COUPET S. PINCHUK and A. SUKHOV. — On boundary rigidity and regularity of holomorphic mappings, Int. J. Math., Vol. 7, No. 5, p. 617-643 (1996).

[26] B. COUPET and A. SUKHOV. — On CR mappings between pseudoconvex hypersurfaces of finite type in $C^2$, Duke Math. J. Vol. 88 No. 2, p. 281-304 (1997).

[27] J-P. DEMAILLY. — Variétés hyperboliques et équations différentielles algébriques, Gaz. Math. No. 73, p. 3-23 (1997).

[28] J-P. DEMAILLY and J. ELGOUL. — Hyperbolicity of generic surfaces of high degree in projective 3-space, Amer. J. Math. 122, no. 3, p. 515-546 (2000).

[29] G. DETHLOFF, G. SCHUMACHER and P.M. WONG. — On the hyperbolicity of the complements of curves in algebraic surfaces, Duke Math. J. Vol. 78, p. 193-212 (1995).

[30] K. DIEDERICH and J.E. FORNAESS. — Proper holomorphic maps onto pseudo-convex domains with real analytic boundary, Ann. Math. 110, p. 575-592 (1979).

[31] K. DIEDERICH and S. PINCHUK. — Proper holomorphic maps in dimension 2 extend, Indiana. Math. J. 44, p. 1089-1126 (1995).

[32] T.C. DINH and N. SIBONY. — Dynamique des applications d'allure polynomiale. J. Math. Pures Appl. (9) 82, no. 4, p. 367-423 (2003).

[33] P. G. DIXON and J. ESTERLE. — Michael's problem and the Poincaré-Fatou-Bieberbach phenomenon, Bull. Amer. Math. Soc. (N.S.) 15, no. 2, p. 127-187 (1986).

[34] A.M. EFIMOV. — A generalization of the Wong-Rosay theorem for the unbounded case, Sb. Math. 186, no. 7, p. 967-976 (1995).

[35] A. EREMENKO. — A Picard type theorem for holomorphic curves, Period. Math. Hungar. 38, no. 1-2, p. 39-42 (1999).

[36] C. FEFFERMAN. — The Bergman kernel and biholomorphic mappings of pseudo-convex domains, Invent. Math. 26, p. 1-65 (1974).

[37] J.E. FORNAESS and N. SIBONY. — Construction of P.S.H. functions on weakly pseudoconvex domains, Duke Math. J. 58, p. 633-656 (1989).

[38] J.E. FORNAESS and N. SIBONY. — Complex Dynamics in higher dimensions, in Complex potential theory (Montréal, PQ, 1993), NATO ASI series Math. and Phys. Sci., 439, Kluwer Acad. Publ., p. 131-186 (1994).

[39] J.E. FORNAESS and N. SIBONY. — Complex Dynamics in higher dimensions II, Ann. of Math. Studies, 137, Princeton Univ. Press, Princeton, NJ, p. 135-187 (1995).
[40] F. FORSTNERIC. — An elementary proof of Fefferman’s theorem, Exposition. Math. 10, no. 2, p. 135-149 (1992).

[41] F. FORSTNERIC and J.P. ROSAY. — Localization of the Kobayashi metric and the boundary continuity of proper holomorphic mappings, Math. Ann. 110, p. 239-252 (1987).

[42] J.P. FRANÇOISE. — Géométrie analytique et systèmes dynamiques Cours de troisième cycle, Presses Universitaires de France, Paris, xiii+251 pp (1995).

[43] S. FRANKEL. — Complex geometry of convex domains that cover varieties, Acta Math. 163, no. 1-2, p. 109-149 (1989).

[44] H. GAUSSIER. — Characterization of models for convex domains, preprint.

[45] I. GRAHAM. — Boundary behavior of the Carathéodory and Kobayashi metrics on strongly pseudoconvex domains in $C^n$ with smooth boundary, Trans. Amer. Math. Soc. 207, p. 219-240 (1975).

[46] M. GROMOV. — Foliated plateau problem, part II: harmonic maps of foliations, GAFA, Vol. 1, No. 3, p. 253-320 (1991).

[47] G. HENKIN. — An analytic polyhedron is not biholomorphic to a strictly pseudoconvex domain, Dokl. Akad. Nauk SSSR 210, p. 1026-1029 (1973).

[48] A. ISAEV and S. KRANTZ. — Domains with non-compact automorphism group: a survey, Adv. Math. 146, no. 1, p. 1-38 (1999).

[49] M. JONSSON and D. VAROLIN. — Stable manifolds of holomorphic diffeomorphisms, Invent. Math. 149, no. 2, p. 409-430 (2002).

[50] K-T. KIM and S. KRANTZ. — Some new results on domains in complex space with non-compact automorphism group, J. Math. Anal. Appl. 281, no. 2, p. 417-424 (2003).

[51] G. KOBAYASHI. — Hyperbolic complex spaces, Grundlehren der Mathematischen Wissenschaften, 318, Springer-Verlag, Berlin, (1998).

[52] E. LANDAU. — Uber di Blochste Konstante und zwei verwandte Weltkonstanten, Math. Z. 30, p. 608-634 (1929).

[53] S. LANG. — Introduction to complex hyperbolic manifolds, Springer Verlag, (1987).

[54] E. LIGOCKA. — Some remarks on extension of biholomorphic mappings, Analytic functions, Kozubnik 1979 (Proc. Seventh Conf., Kozubnik, 1979), p. 350-363, Lecture Notes in Math., 798, Springer, Berlin (1980).

[55] A.J. LOHWATER and Ch. POMMERENKE. — On normal meromorphic functions, Ann. Acad. Sci. Fenn. Ser. A I No. 550, (1973).

[56] S. PINCHUK. — On proper holomorphic mappings of strictly pseudoconvex domains, Sib. Math. J. 15, p. 909-917 (1974).

[57] S. PINCHUK. — The scaling method ans holomorphic mappings, Proc. Sympos. Pure Math., 52, Part 1, p. 151-161 (1991).

[58] S. PINCHUK and S. KHASANOV. — Asymptotically holomorphic functions and their applications, Math. USSR-Sb. 62, no. 2, p. 541-550 (1989).

[59] R. RANGE. — Holomorphic functions and integral representations in several complex variables, Graduate Texts in Mathematics, 108. Springer-Verlag, New York, (1986).

[60] A. ROS. — The Gauss map of minimal surfaces, Differential Geometry-Valencia, p. 235-250 (2001).

[61] J.P. ROSAY. — Sur une caractérisation de la boule parmi les domaines de $C^n$ par son groupe d'automorphismes, Ann. Inst. Fourier 29, no. 4, p. 91-97 (1979).
[62] J.P. ROSAY and W. RUDIN. — Holomorphic maps from $C^n$ to $C^n$, Trans. Amer. Math. Soc. 310, no. 1, p. 47-86 (1988).

[63] D. RUELLE. — Elements of differentiable dynamics and bifurcation theory, Academic Press, Inc., Boston, MA, (1989).

[64] W. SCHWICK. — Repelling periodic points in the Julia set, Bull. London Math. Soc. 29, no. 3, p. 314-316 (1997).

[65] N. SIBONY. — A class of hyperbolic manifolds, Ann. Math. Studies No. 100, p. 357-372 (1981).

[66] N. SIBONY. — Dynamique des applications rationnelles de $P^k$, Dynamique et géométrie complexes (Lyon, 1997), Panor. Synthèses, 8, Soc. Math. France, Paris, p. 97-185 (1999).

[67] Y.T. SIU and S.K. YEUNG. — Hyperbolicity of the complement of a generic smooth curve of high degree in the complex projective plane, Invent. Math. 124, no. 1-3, p. 573-618 (1996).

[68] B. STENSONES. — A proof of the Michael conjecture, Preprint (1998).

[69] B. STENSONES. — Fatou-Bieberbach domains with $C^\infty$-smooth boundary, Ann. of Math. (2) 145, no. 2, p. 365-377 (1997).

[70] S. STERNBERG. — Local contractions and a theorem of Poincaré, Amer. J. Math. 79, p. 809-824 (1957).

[71] A. SUKHOV. — On boundary regularity of holomorphic mappings, Mat. Sb. 185, p. 131-142 (1994).

[72] S. WEBSTER. — On the reflection principle in several complex variables, Proc. Amer. Math. Soc. 71, no. 1, p. 26-28 (1978).

[73] B. WONG. — Characterization of the unit ball in $C^n$ by its automorphism group, Invent. Math. 41, no. 3, p. 253-257 (1977).

[74] L. ZALCMAN. — Normal families: new perspectives, Bull. Amer. Math. Soc. 35, p. 215-230 (1998).

[75] L. ZALCMAN. — A heuristic principle in complex function theory, Amer. Math. Monthly 82, no. 8, p. 813-817 (1975).