ANNALES

DE LA FACULTÉ
DES SCIENCES

DE
TOULOUSE
Mathématiques

MARC PEIGNÉ

*Transition de phase de fonctions orbitales pour des groupes de Schottky en courbure négative*

Tome XXVIII, n° 3 (2019), p. 491-521.

<http://afst.cedram.org/item?id=AFST_2019_6_28_3_491_0>

© Université Paul Sabatier, Toulouse, 2019, tous droits réservés.

L'accès aux articles de la revue « Annales de la faculté des sciences de Toulouse Mathématiques » (http://afst.cedram.org/), implique l'accord avec les conditions générales d'utilisation (http://afst.cedram.org/legal/). Toute reproduction en tout ou partie de cet article sous quelque forme que ce soit pour tout usage autre que l'utilisation à fin strictement personnelle du copiste est constitutive d'une infraction pénale. Toute copie ou impression de ce fichier doit contenir la présente mention de copyright.

cedram

Article mis en ligne dans le cadre du
Centre de diffusion des revues académiques de mathématiques
http://www.cedram.org/
# Transition de phase de fonctions orbitales pour des groupes de Schottky en courbure négative

MARC PEIGNÉ (1)

**RÉSUMÉ.** — Nous considérons une surface hyperbolique avec un cusp $C$ et dont le groupe fondamental $\Gamma$ est un groupe de Schottky avec $r \ge 2$ générateurs. On perturbe la métrique à l'intérieur de $C$ à partir d'une hauteur $a$ de façon à ce que le groupe parabolique associé au cusp $C$ soit convergent. On s'intéresse à l'influence du paramètre $a$ sur le comportement asymptotique de la fonction orbitale de $\Gamma$.

**ABSTRACT.** — Let $S$ be a hyperbolic surface with one cusp $C$ and whose fundamental group $\Gamma$ is a Schottky group with $r \ge 2$ generators. We modify the metric inside the cusp $C$, at a height $a \ge 0$, in such a way that the parabolic group associated with $C$ is convergent. We study the influence of the parameter $a$ on the asymptotic behavior of the orbital function of $\Gamma$.

Il y a vingtaine d'années, mes errances mathématiques d'alors, autour des mesures de Patterson-Sullivan, ont été l'occasion de longues discussions avec Jean-Pierre ; deux articles ont suivi, fruits d'une complicité mathématique et humaine. La profondeur de sa pensée, les fulgurances de son intuition et sa capacité à mêler idées et outils provenant de champs variés m'ont profondément marqué. Ainsi que ce proverbe, qu'il me glissait régulièrement, un tantinet narquois : « Il vaut mieux avoir affaire à Dieu qu'à ses saints ». Il est à l'image de sa démarche scientifique, soucieuse de revenir constamment aux sources de l'intuition et aux écrits des mathématiciens « puissants », ceux qui défrichent de nouveaux domaines et ouvrent des pistes prometteuses. Merci Jean-Pierre pour cette sagesse intellectuelle.

Les lignes qui suivent font échos aux questions que nous nous sommes posées à la fin des années 90 ! Les progrès ont été lents, il me faut le reconnaître... mais les réponses partielles exposées ici reposent sur des développements récents en calcul des probabilités et théorie ergodique. Ceci explique un peu cela !

<footnote>(1) LMPT, UMR 7350, Faculté des Sciences et Techniques, Parc de Grandmont,
37200 Tours, France — peigne@univ-tours.fr</footnote>
# 1. Introduction

Dans cet article nous considérons une surface hyperbolique $\bar{X}$ de type fini. Nous supposons que le groupe fondamental $\Gamma$ de $\bar{X}$ est un groupe de Schottky à $r \ge 2$ générateurs $\gamma_1, \dots, \gamma_r$, l'isométrie $\gamma_1$ étant parabolique tandis que $\gamma_2, \dots, \gamma_r$ sont hyperboliques; la surface $\bar{X}$ possède donc un bout cuspidal $C$, isométrique au quotient d'une horoboule du plan hyperbolique $\mathbb{H}^2$ par $\langle\gamma_1\rangle$. Elle possède aussi d'autres bouts, appelés « trompettes » (ou « funnels » en anglais), liés à la présence des générateurs hyperboliques et dont le nombre varie en fonction des positions relatives des points fixes des générateurs.

Dans cet article, nous nous intéressons au comportement de la fonction orbitale de $\Gamma$ après perturbation de la métrique hyperbolique dans le bout cuspidal $C$. Nous fixons d'abord quelques notations et expliquons les grandes lignes des perturbations envisagées.

On fixe un point $\mathbf{o} \in \mathbb{H}^2$ et on note respectivement $N_\Gamma$ et $P_\Gamma$ la fonction orbitale et la série de Poincaré de $\Gamma$ relativement à la métrique hyperbolique $g_{\mathbb{H}^2}$ sur $\mathbb{H}^2$, définies par : pour tout $R, s > 0$,

$$N_{\Gamma}(R) := \sharp\{\gamma \in \Gamma \mid d_{\mathbb{H}^2}(\mathbf{o}, \gamma \cdot \mathbf{o}) \le R\} \text{ et } P_{\Gamma}(s) := \sum_{\gamma \in \Gamma} e^{-sd_{\mathbb{H}^2}(\mathbf{o}, \gamma \cdot \mathbf{o})}, \quad (1.1)$$

où $d_{\mathbb{H}^2}$ désigne la distance hyperbolique associée à $g_{\mathbb{H}^2}$. L'exposant critique de $\Gamma$ est le taux de croissance exponentielle de la fonction $N_\Gamma$ :

$$\delta_{\Gamma} := \limsup_{R \to +\infty} \frac{1}{R} \log N_{\Gamma}(R). \quad (1.2)$$

Sa valeur ne dépend pas du choix du point $\mathbf{o}$ et coïncide avec celle du paramètre $s$ telle que $P_\Gamma(s) = +\infty$ si $s < \delta_\Gamma$ et $P_\Gamma(s) < +\infty$ si $s > \delta_\Gamma$.

Un calcul élémentaire en géométrie hyperbolique montre que la suite $(d_{\mathbb{H}^2}(\mathbf{o}, \gamma_1^n \cdot \mathbf{o}) - 2\log|n|)_{n \ge 1}$ converge; l'exposant critique de $\langle\gamma_1\rangle$ vaut $\frac{1}{2}$ et l'on a $P_{\langle\gamma_1\rangle}(\frac{1}{2}) = +\infty$. On dit que $\langle\gamma_1\rangle$ est divergent.

Nous perturbons maintenant la métrique hyperbolique $g_{\mathbb{H}^2}$ à l'intérieur de $C$ en une métrique $g_{\alpha,L}$ de telle sorte que les distances $d_{\alpha,L}(\mathbf{o}, \gamma_1^n \cdot \mathbf{o})$ relativement à $g_{\alpha,L}$ se comportent comme suit :

$$d_{\alpha,L}(\mathbf{o}, \gamma_1^n \cdot \mathbf{o}) = 2(\log|n| + \alpha \log|\log|n|| - \log L(\log|n|)) + o(n) \quad (1.3)$$

où $\alpha$ est une constante positive et $L$ une fonction à variations lentes$^{(1)}$. L'exposant critique de $\langle\gamma_1\rangle$ relativement à $d_{\alpha,L}$ vaut encore $\frac{1}{2}$; de plus,

<footnote>$^{(1)}$ Une fonction $L: \mathbb{R}^+ \to \mathbb{R}^{*+}$ est dite « à variations lentes » si et seulement si, pour tout $\lambda > 0$ on a $\lim_{t \to +\infty} \frac{L(\lambda t)}{L(t)} = 1$.</footnote>
le groupe $\langle\gamma_1\rangle$ est convergent lorsque $\alpha > 1$ ou bien lorsque $\alpha = 1$ et
$$ \int_1^{+\infty} \frac{L(t)}{t} dt < +\infty. $$
Pour des raisons techniques que nous expliquerons en
temps voulu, nous supposons dorénavant $1 < \alpha < 2$ $^{(2)}$.

La perturbation de la métrique peut être effectuée arbitrairement loin
dans le cusp $\mathcal{C}$; pour tout $a \ge 0$, nous notons $g_a = g_{a,\alpha,L}$ la métrique obte-
nue en décalant à hauteur $a$ la perturbation précédente et en effectuant une
renormalisation. Cette modification n'affecte pas la valeur de l'exposant cri-
tique ni le caractère convergent de $\langle\gamma_1\rangle$ relativement à la distance $d_a$ associée
à $g_a$ $^{(3)}$.

Ainsi, l'existence de groupes paraboliques convergent découle d'une per-
turbation pertinente de la métrique hyperbolique et repose sur le fait que
l'estimation de la série de Poincaré de ces groupes est aisée à mener puisqu'ils
sont monogènes (ou plus généralement abéliens à indice fini près). L'existence
de groupes non-élémentaires convergents est plus délicate à établir, elle l'a
été pour la première fois dans [5]; dans le cas du groupe fondamental de $\bar{X}$
étudié ici, une fois la métrique $g_0$ choisie, il suffit de remplacer chacun des
générateurs hyperboliques $\gamma_i$, $2 \le i \le r$, de $\Gamma$ par une puissance suffisamment
grande. Afin d'alléger les notations, nous noterons encore $\Gamma$ le groupe ainsi
obtenu et $\gamma_2, \dots, \gamma_r$ les nouveaux générateurs hyperboliques. En d'autres
termes, nous supposons que le groupe de Schottky $\Gamma$ est convergent relati-
vement à la métrique $g_0$; d'après [5], son exposant critique est égal à celui
de $\langle\gamma_1\rangle$, il vaut $\frac{1}{2}$. Soulignons que $\Gamma$ est aussi un groupe d'isométries de $\mathbb{H}^2$,
que son exposant critique est $> \frac{1}{2}$ dans ce cas et que $\Gamma$ est divergent [2].

Nous nous intéressons dans cet article à l'influence du paramètre « hauteur » $a$ dans le comportement asymptotique de la fonction orbitale

$$
N_{a,\Gamma}(R) := \{ \gamma \in \Gamma \mid d_a(\mathbf{o}, \gamma \cdot \mathbf{o}) \le R \}.
$$

Il ressort de [14] que le choix de $a$ influe tout d'abord sur la valeur de
l'exposant critique $\delta_{a,\Gamma}$ de $\Gamma$, relativement à la métrique $g_a$. En effet, lorsque
$a$ est suffisamment grand (disons $a \ge a_0 > 0$), la surface $\bar{X}$ est de plus en plus
« proche » d'une surface hyperbolique et l'exposant $\delta_{a,\Gamma}$ devient strictement
supérieur à $\frac{1}{2}$; le groupe $\Gamma$ est alors divergent d'après [5]. Plus précisément,
il est montré dans [14] qu'il existe une valeur $a^* \in ]0, a_0[$ du paramètre

<footnote>$^{(2)}$ Le choix du terme log log $n$ s'impose dans l'expression (1.3) afin d'obtenir un groupe convergent. Celui du terme log $L(\log n)$ est inspiré des lois stables en calcul des probabilités ; il permet d'élargir la classe de métriques pour lesquelles existent des estimations asymptotiques précises de la fonction orbitale de $\Gamma$.</footnote>

<footnote>$^{(3)}$ Soulignons qu'avec ces notations on a $g_0 = g_{\alpha,L}$ et $d_0 = d_{\alpha,L}$.</footnote>
« hauteur » pour laquelle on a

$$ \left\{ \begin{array}{l} \delta_{a,\Gamma} = 1/2 \text{ si } a \le a^* \text{ et } \delta_{a,\Gamma} > 1/2 \text{ si } a > a^*; \\ \Gamma \text{ est convergent si et seulement si } a < a^*. \end{array} \right. \qquad (1.4) $$

Pour préciser l'influence du paramètre $a$ sur le comportement asymptotique de la fonction $N_{a,\Gamma}$, il nous faut évoquer au préalable le résultat général de T. Roblin [16]. À la fin des années '70, S. Patterson et D. Sullivan ont mis en lumière une construction très générale d'une mesure $m_{BM}^{(a)}$ invariante pour le flot géodésique sur le fibré unitaire tangent $T^1\bar{X}$ relativement à la métrique $g_a$. Cette mesure capte l'essentiel de l'information sur le comportement stochastique du flot géodésique : son support coïncide en effet avec l'ensemble non errant $\Omega_\Gamma$ de ce flot et la mesure $m_{BM}^{(a)}$ est finie si et seulement si le flot géodésique restreint à $\Omega_\Gamma$ admet une mesure de probabilité invariante d'entropie maximale (mesure qui, dans ce cas, n'est autre que $m_{BM}^{(a)}$, une fois normalisée) [12]. Des travaux de T. Roblin [16] ressort la dichotomie suivante :

(a) si la mesure $m_{BM}^{(a)}$ est de masse infinie alors $N_{a,\Gamma}(R) = o(e^{\delta_\Gamma^{(a)}R})$,

(b) si la mesure $m_{BM}^{(a)}$ est de masse finie alors il existe une constante $C > 0$ telle que $N_{a,\Gamma}(R) \sim Ce^{\delta_\Gamma^{(a)}R}$ lorsque $R \to +\infty$.

Il est donc essentiel de disposer d'un critère de finitude de la mesure de Bowen-Margulis associée à $\Gamma$ et $g_a$ ; celui-ci provient de [5] où il est montré que la mesure $m_{BM}^{(a)}$ est finie si et seulement si $\Gamma$ est divergent et $\sum_{n \in \mathbb{Z}} d_a(\mathbf{o}, \gamma_1^n \cdot \mathbf{o})e^{-\frac{1}{2}d_a(\mathbf{o}, \gamma_1^n \cdot \mathbf{o})} < +\infty$. L'expression (1.3), valide pour toute valeur du paramètre $a$, et les propriétés de la « hauteur critique » $a^*$ énoncées ci-dessus montrent donc que $m_{BM}^{(a)}$ est finie si et seulement si, soit $a > a^*$, soit $a = a^*$, $\alpha = 2$ et $\int_1^{+\infty} \frac{L(t)}{t} dt < +\infty$, soit encore $a = a^*$ et $\alpha > 2$.

Lorsque $\delta_{a,\Gamma} = \delta_{\langle\gamma_1\rangle}$, on dit que $\Gamma$ est exotique ; il peut être convergent ou divergent. Lorsque $\Gamma$ n'est pas est exotique, il est nécessairement divergent et sa mesure de Bowen-Margulis est finie.

Combinant plusieurs travaux récents autour des groupes de Schottky dit exotiques [6, 15, 17], nous pouvons énoncer le théorème suivant qui précise l'influence du paramètre $a$ sur le comportement asymptotique de la fonction orbitale $N_{a,\Gamma}$.

**THÉORÈME 1.1.** — *Soit $\bar{X}$ une surface de type fini à courbure strictement négative pincée dont le groupe fondamental $\Gamma$ est un groupe de Schottky à $r \ge 2$ générateurs $\gamma_1, \dots, \gamma_r$. On suppose que l'isométrie $\gamma_1$ est parabolique,*
que les isométries $\gamma_2, \dots, \gamma_r$ sont hyperboliques et que $\tilde{X}$ est munie d'une mé-
trique $g_a = g_{a,\alpha,L}, 0 \le a \le a_0$, décrite ci-dessus. On note $a^*$ la valeur du
paramètre $a$ vérifiant (1.4).

Alors, pour tout $\alpha \in ]1,2[$, les fonctions $a \mapsto \delta_{a,\Gamma}$ et $a \mapsto N_{a,\Gamma}$ varient de
la façon suivante.

(1) *Cas sur-critique* $a > a^*$ : Le groupe $\Gamma$ est non exotique (i.e. $\delta_{a,\Gamma} > \frac{1}{2}$) et donc divergent; de plus, il existe $C_a > 0$ tel que

$$
N_{a,\Gamma}(R) \sim C_a e^{\delta_{a,\Gamma} R}.
$$

(2) *Cas critique* $a = a^*$ : Le groupe $\Gamma$ est exotique (i.e. $\delta_{a,\Gamma} = \frac{1}{2}$) et divergent; de plus, il existe $C_{a^*} > 0$ tel que

$$
N_{a^*, \Gamma}(R) \sim \frac{C_{a^*}}{R^{2-\alpha} L(R)} e^{R/2}.
$$

(3) *Cas sous-critique* $0 \le a < a^*$ : Le groupe $\Gamma$ est exotique (i.e. $\delta_{a,\Gamma} = \frac{1}{2}$) et convergent; de plus, il existe $C_a > 0$ tel que

$$
N_{a,\Gamma}(R) \sim C_a \frac{L(R)}{R^\alpha} e^{R/2}.
$$

Par souci de clarté, nous avons préféré nous restreindre au cas où $1 < \alpha < 2$. La condition $\alpha < 2$ n'est nécessaire que dans la démonstration du cas sous-critique. En effet, d'une part, le cas sur-critique est couvert pour tout $\alpha > 1$ par le résultat général de T. Roblin évoqué ci-dessus; d'autre part, dans le cas critique ($a = a^*$ et donc $\delta_\Gamma = \frac{1}{2}$) et lorsque $\alpha \ge 2$, on observe la dichotomie suivante.

(i) Lorsque $\alpha > 2$, ou bien lorsque $\alpha = 2$ et $\int_1^{+\infty} \frac{L(t)}{t} dt < +\infty$, le groupe $\Gamma$ est divergent relativement à $g_{a^*}$ et il existe $C_{a^*} > 0$ tel que

$$
N_{a^*, \Gamma}(R) \sim C_{a^*} e^{R/2}.
$$

Ceci découle de [16] puisque dans ce cas la mesure $m_{BM}^{(a^*)}$ est finie.

(ii) Lorsque $\alpha = 2$ et $\int_{1}^{+\infty} \frac{L(t)}{t} dt = +\infty$, le groupe $\Gamma$ est divergent relativement à $g_{a^*}$ et il existe $C_{a^*} > 0$ tel que

$$
N_{a^*, \Gamma}(R) \sim \frac{C_{a^*}}{\tilde{L}(R)} e^{R/2}, \quad (1.5)
$$

où $\tilde{L}(R) := \int_1^R \frac{L(t)}{t} dt$. Ceci découle des travaux de P. Vidotto [17],
où une étude spécifique est menée sous ces hypothèses.

Nous présentons dans cet article les outils nécessaires pour démontrer le théorème 1.1 et renvoyons aux articles [14, 15, 16, 17] pour les détails; ils
sont spécifiques à la situation envisagée ici et ne sont pas adaptés à la question générale posée dans le paragraphe 5 de cet article. Le paragraphe 2 est consacré à des rappels de géométrie en courbure strictement négative; nous décrivons en particulier la construction des métriques $g_a$ que nous considérons. Dans le paragraphe 3, nous introduisons les opérateurs de Ruelle $\mathcal{L}_{a,s}$, $a \in [0, a_0]$, $s \ge \frac{1}{2}$, associés au groupe $\Gamma$; leur existence repose sur le codage des points de l'ensemble limite de $\Gamma$. Nous présentons les propriétés spectrales de ces opérateurs et leur lien avec la série de Poincaré de $\Gamma$. Dans le dernier paragraphe, nous expliquons en quoi l'énoncé du théorème 1.1 est lié à la théorie du renouvellement en calcul des probabilités et donnons quelques éléments de démonstration, avec les références appropriées à chaque cas.

## Remerciements

L'auteur remercie S. Tapie ainsi que le rapporteur pour leur lecture précise; leurs suggestions ont permis d'améliorer la rédaction de cet article.

L'auteur remercie aussi le VIASM, Vietnam Institute for Advanced Studies in Mathematics (VIASM) à Ha Noi pour son hospitalité généreuse durant le premier semestre 2017, pendant lequel cet article a été rédigé.

## 2. Géométrie des variétés à courbure négative

### 2.1. Généralités

Soit $(X, g)$ une variété riemannienne complète de dimension $N$, simplement connexe et à courbures sectionnelles $K$ pincées $-B^2 \le K \le -A^2 < 0$. La métrique $g$ est obtenue par perturbation de la métrique hyperbolique à courbure $-1$, nous imposons donc $0 < A < 1 < B$. Nous fixons une origine o de $X$; la distance entre deux points $x$ et $y$ de $X$ est notée $d(x, y)$.

Le bord visuel $\partial X$ de $X$ est l'ensemble des classes d'équivalence de rayons asymptotes. L'ensemble $\partial X$ peut être muni d'une distance construite à partir de $d$ et compatible avec la topologie induite par celle de $X \cup \partial X$. Pour cela, nous notons $\mathcal{B}_x(\cdot, \cdot)$ la fonction de Buseman en $x \in \partial X$ définie par :

$$ \forall \mathbf{x}, \mathbf{y} \in X \quad \mathcal{B}_x(\mathbf{x}, \mathbf{y}) = \lim_{\mathbf{z} \to \mathbf{x}} d(\mathbf{x}, \mathbf{z}) - d(\mathbf{y}, \mathbf{z}). $$
On note alors $(\cdot|\cdot)$ le produit de Gromov (vu de **o**) sur $\partial X$ défini par :

$$ 
\begin{aligned}
\forall x, y \in \partial X \quad (x|y) &:= \lim_{\substack{x,y \in X \\ \underset{\mathbf{y} \to y}{\mathbf{x} \to x}}} \frac{d(\mathbf{o}, \mathbf{x}) + d(\mathbf{o}, \mathbf{y}) - d(\mathbf{x}, \mathbf{y})}{2} \\
&= \frac{\mathcal{B}_x(\mathbf{o}, \mathbf{z}) + \mathcal{B}_y(\mathbf{o}, \mathbf{z})}{2}
\end{aligned}
$$

où **z** est un point quelconque sur la géodésique $(xy)$ reliant les points $x$ et $y$. Il découle des travaux de M. Bourdon [3] et du fait que la courbure est majorée par $-A^2$ que la fonction $D$ définie par

$$ \forall x, y \in \partial X \quad D(x, y) := e^{-A(x|y)} $$

est une distance compatible avec la topologie naturelle sur $\partial X$.

L'action d'une isométrie $\gamma$ de $X$ s'étend à $\partial X$ de façon conforme relativement à la métrique $D$, le coefficient de conformité en $x \in \partial X$ étant donné par

$$ |\gamma'(x)| := \lim_{y \to x} \frac{D(\gamma \cdot x, \gamma \cdot y)}{D(x, y)} = e^{-A\mathcal{B}_x(\gamma^{-1} \cdot \mathbf{o}, \mathbf{o})}. \quad (2.1) $$

De l'équation de cocycle satisfaite par la fonction de Busemann découle la formule remarquable suivante, dite des « accroissements finis »,

$$ \forall \xi, \eta \in \partial X \quad D(\gamma \cdot \xi, \gamma \cdot \eta) = \sqrt{|\gamma'(\xi)||\gamma'(\eta)|} D(\xi, \eta). \quad (2.2) $$

Comme le suggère les égalités (2.1) et (2.2), la quantité $\mathcal{B}_x(\gamma^{-1} \cdot \mathbf{o}, \mathbf{o})$ joue un rôle central pour décrire l'action de $\gamma$ sur $\partial X$; pour alléger les notations, on la note $b(\gamma, x)$. Cette fonction vérifie la propriété suivante dite de « cocycle » : pour toutes isométries $\gamma_1, \gamma_2$ de $X$ et tout $x \in \partial X$

$$ b(\gamma_1 \gamma_2, x) = b(\gamma_1, \gamma_2 \cdot x) + b(\gamma_2, x). \quad (2.3) $$

De plus, nous avons le :

FAIT 2.1.

(1) Pour toute isométrie hyperbolique $h$ de points fixes attractifs et répulsifs $x_h^- = \lim_{n \to +\infty} h^{-n} \cdot \mathbf{o}$ and $x_h^+ = \lim_{n \to +\infty} h^n \cdot \mathbf{o}$, on a

$$ b(h^{\pm n}, x) = d(\mathbf{o}, h^{\pm n} \cdot \mathbf{o}) - 2(x_h^{\pm} | x) + o_x(n) $$

avec $\lim_{n \to +\infty} o_x(n) = 0$, la convergence étant uniforme sur les ensembles compacts de $\partial X \setminus \{x_h^\mp\}$.

(2) Pour toute isométrie parabolique $p$ de point fixe $x_p := \lim_{n \to \pm\infty} p^n \cdot \mathbf{o}$, on a

$$ b(p^n, x) = d(\mathbf{o}, p^n \cdot \mathbf{o}) - 2(x_p | x) + o_x(n) $$

avec $\lim_{|n| \to +\infty} o_x(n) = 0$ la convergence étant uniforme sur les ensembles compacts de $\partial X \setminus \{x_p\}$.
## 2.2. Groupes fuchsiens et groupes de Schottky

On considère un groupe $\Gamma$ d'isométries de $X$ préservant l'orientation, infini et discret et on note $\bar{X}$ la variété quotient $\Gamma\backslash X$. Nous supposons pour simplifier que $\Gamma$ est sans torsion, c'est-à-dire qu'il ne contient pas d'isométrie elliptique; la variété quotient $\bar{X}$ admet alors un espace tangent en chacun de ses points.

L'orbite $\Gamma \cdot o$ s'accumule sur $\partial X$; l'ensemble $\Lambda_{\Gamma}$ de ses valeurs d'adhérence est appelé *ensemble limite de $\Gamma$*. Cet ensemble contient 1, 2 ou une infinité non dénombrable de points; dans le premier cas, le groupe $\Gamma$ ne contient que des isométries paraboliques fixant le même point de $\partial X$, on dit qu'il est *parabolique*, dans le second cas il est engendré par une isométrie hyperbolique et dans le dernier cas il est dit *non-élémentaire*.

Un groupe fuchsien est un groupe d'isométries de $X$ préservant l'orientation, infini, discret, sans torsion et non-élémentaire. Il existe de nombreux exemples de tels groupes. Nous nous intéressons ici à certains d'entre eux, qui sont libres : les groupes de Schottky. Un groupe $\Gamma$ engendré par les isométries préservant l'orientation $\gamma_1, \dots, \gamma_r, r \ge 2$, est un groupe de Schottky s'il existe des ensembles compacts $U_1, \dots, U_r$ de $X \cup \partial X$, d'intérieurs non vides et deux à deux disjoints, tels que pour tous $1 \le i \le r$ et $n \in \mathbb{Z}^*$, on ait

$$ \gamma_i^n \cdot ((X \cup \partial X) \setminus U_i) \subset U_i. $$

En utilisant le lemme du ping-pong de Klein, on montre aisément qu'un tel groupe est discret et libre de rang $r$. Il est parfois utile d'imposer une séparation angulaire entre les ensembles $U_i$, $1 \le i \le r$ : pour $\theta \in ]0, \pi[$ fixé, nous dirons que le groupe $\Gamma$ est de type $\theta$-Schottky lorsque le point $\mathbf{o}$ n'appartient à aucun $U_i$ et que pour tous $1 \le i, j \le r$, $i \neq j$, et tous points $x \in U_i$ et $y \in U_j$, l'angle en $\mathbf{o}$ du triangle $\mathbf{o}, \mathbf{x}, \mathbf{y}$ est $\ge \theta$. On dit alors que les transformations $\gamma_1, \dots, \gamma_r$ sont en position $\theta$-Schottky.

La définition de groupe de Schottky que nous utilisons ici est très souple, les isométries $\gamma_i$ peuvent être remplacées par des groupes non monogènes, par exemples des groupes paraboliques de rang $\ge 2$. C'est dans le contexte de la géométrie hyperbolique que les groupes de Schottky apparaissent le plus souvent (voir par exemple [2]) et la dynamique ci-dessus est alors décrite de façon plus précise : on considère une famille de boules euclidiennes fermées $B_1, B'_1, \dots, B_r, B'_r$ orthogonales au bord $\mathbb{R}^{d-1}$ de l'espace hyperbolique $\mathbb{H}^d$, $d \ge 2$, les isométries $\gamma_1, \dots, \gamma_r$ sont supposées hyperboliques et l'on impose que pour chaque $i \in \{1, \dots, p\}$ l'isométrie $\gamma_i$ envoit l'extérieur de $B_i$ sur l'intérieur de $B'_i$. On retrouve la situation de ping-pong décrite ci-dessus en posant $U_i = B_i \cup B'_i$ pour $1 \le i \le r$.
Un point $x \in \Lambda_{\Gamma}$ est dit radial s'il existe une infinité de points de $\Gamma \cdot \mathbf{o}$ à distance bornée du rayon géodésique $[\mathbf{o}, x)$. On note $\Lambda_{\Gamma}^{\text{rad}}$ l'ensemble des points limite radiaux de $\Gamma$.

Lorsque la variété $\bar{X}$ est compacte, son ensemble limite ne contient que des points radiaux ; il en est de même lorsque $\Gamma$ est un groupe de Schottky engendré par des isométries hyperboliques, et plus généralement lorsque $\Gamma$ est convexe cocompact.

Lorsque la variété $\bar{X}$ est non compacte mais de volume fini, son ensemble limite coïncide avec $\partial X$ et est constitué de points radiaux et d'un nombre fini d'orbites de points paraboliques bornés $x_1, \dots, x_\ell, \ell \ge 1$ : chacun des points $x_i$, $1 \le i \le \ell$, est fixé par un groupe parabolique qui agit de façon cocompacte sur $\partial X \setminus \{x_i\}$. Cette décomposition de l'ensemble limite sous la forme $\Lambda_{\Gamma} = \Lambda_{\Gamma}^{\text{rad}} \cup \Gamma \cdot x_1 \cup \dots \cup \Gamma \cdot x_\ell, \ell \ge 1$, reste valable lorsque $\Gamma$ est le produit de groupes en position Schottky $\Gamma_1, \dots, \Gamma_r$ avec $\ell$ facteur(s) $\Gamma_i$ paraboliques. Plus généralement, on dit que $\Gamma$ est géométriquement fini lorsque $\Lambda_{\Gamma}$ admet une telle décomposition.

## 2.3. Exposant critique et série de Poincaré d'un groupe fuchsien

Considérons dorénavant un groupe fuchsien $\Gamma$ agissant sur $X$. Nous notons $N_{\Gamma}$, $P_{\Gamma}$ et $\delta_{\Gamma}$ la fonction orbitale, la série de Poincaré et l'exposant critique de $\Gamma$ définis en (1.1) et (1.2).

Le groupe $\Gamma$ étant discret, il agit proprement discontinûment sur $X$ ; ses éléments étant des isométries de $X$, on en déduit que $\delta_{\Gamma}$ est inférieur au taux de croissance exponentielle du volume des boules de $X$ (appelé aussi *entropie volumique*) ; il est donc fini puisque la courbure de $X$ est pincée.

Lorsque $P_{\Gamma}(\delta_{\Gamma}) = +\infty$, on dit que $\Gamma$ est *divergent*, sinon $\Gamma$ est dit *convergent* (et plus précisément *divergent/convergent relativement à g* lorsque l'on veut spécifier la métrique à laquelle on se réfère).

Les groupes compacts ou convexe cocompacts sont divergents ; il en est de même pour les groupes géométriquement finis des espaces symétriques de rang 1. Nous nous intéressons ici à certains groupes géométriquement finis convergents. Leur existence n'est pas immédiate, elle repose sur une certaine forme d'inhomogénéité de la métrique sur $X$ et fait l'objet du prochain paragraphe.
## 2.4. Groupes paraboliques convergents

Nous présentons ici quelques éléments de la construction de groupes paraboliques convergents donnée dans [5]; nous expliquons aussi quelles modifications apporter à cette construction pour que la condition (H1) soit satisfaite; nous renvoyons le lecteur aux articles [14, 15] pour les détails.

Munissons l'espace $\mathbb{R}^2 = \{(x,t) | x, t \in \mathbb{R}\}$ d'une métrique riemannienne $g = g_T$ de la forme

$$g = T(t)^2 dx^2 + dt^2$$

au point $\mathbf{x} = (x, t)$, où $dx^2$ est une métrique euclidienne fixée sur $\mathbb{R}$ et $T: \mathbb{R} \to \mathbb{R}^{*+}$ une fonction $C^\infty$ et décroissante sur $\mathbb{R}$.

Remarquons que les isométries euclidiennes de $\mathbb{R}^2$ qui fixent la dernière coordonnée $t$ sont aussi des isométries de $\mathbb{R}^2$ pour la métrique $g_T$. De plus, la courbure sectionnelle de $g$ au point $\mathbf{x} = (x, t)$ vaut $K_g(t) = -\frac{T''(t)}{T'(t)}$. Notons que $g_T$ est à courbure négative si et seulement si $T$ est convexe, ce que l'on supposera par la suite; lorsque $T(t) = e^{-t}$, on obtient un modèle du plan hyperbolique de courbure constante $-1$.

Fixons à présent $\alpha \ge 0$ et une fonction à variations lentes $L: \mathbb{R}^+ \to \mathbb{R}^{*+}$. Nous supposerons par la suite

(i) d'une part que la fonction $T$ vaut $e^{-t}$ lorsque $t \le 0$ (en d'autres termes, la métrique $g$ coïncide avec la métrique hyperbolique sur $\mathbb{R} \times \mathbb{R}^-$),

(ii) d'autre part que $T(t)$ vaut $e^{-t} \frac{t^\alpha}{L(t)}$ au voisinage de $+\infty$,

(iii) enfin que la fonction $T$ est de classe $C^2$, décroissante, convexe, strictement positive sur $\mathbb{R}$ et vérifie $-B^2 \le -\frac{T''(t)}{T'(t)} \le -A^2 < 0$.

L'existence de telles fonctions $T$ nécessite quelques précautions sur les recollements à effectuer; nous renvoyons le lecteur à [6, 14] pour les détails.

Il est pertinent « d'agrandir » le sous-ensemble de $\mathbb{R}^2$ où $g$ coïncide avec la métrique hyperbolique, cette opération influe fortement sur le comportement de $N_\Gamma(R)$. La multiplicité de paramètres sur lesquels nous jouons motive la notation suivante.

**Notation 2.2.** — Fixons $\alpha \ge 0$, $a \in \mathbb{R}$, une fonction à variations lentes $L: \mathbb{R}^+ \to \mathbb{R}^{*+}$ et choisissons une fonction $T = T_{\alpha,L}$ de classe $C^2$, décroissante, convexe et strictement positive sur $\mathbb{R}$ telle que

(1) $T(t) = e^{-t}$ pour tout $t \le 0$;

(2) il existe $\bar{t} > 0$ tel que $T(t) = e^{-t} \frac{t^\alpha}{L(t)}$ pour $t \ge \bar{t}$;
$$ (3) \quad -B^2 \le -\frac{T''(t)}{T(t)} \le -A^2 < 0 \text{ pour tout } t \in \mathbb{R}. $$

On pose alors, pour tout $a, t \in \mathbb{R}$

$$ T_a(t) = e^{-a}T(t-a). $$

On note $g_a$ la métrique $T_a^2(t)dx^2 + dt^2$ sur $\mathbb{R}^2$.

La métrique $g_a$ coïncide avec la métrique hyperbolique à courbure $-1$ sur le demi-plan $\mathbb{R} \times ]-\infty, a]$. Le coefficient de renormalisation $e^{-a}$ qui apparaît dans l'expression ci-dessus impose que pour toute valeur de $a$ la métrique induite sur $\mathbb{R} \times \{0\}$ par $g_a$ coïncide avec la métrique euclidienne $dx^2$ fixée initialement; cette « renormalisation » permet de faire des recollements de bouts cuspidaux munis de la métrique quotient induite par $g_a$ sur le coeur de Nielsen de surfaces hyperboliques géométriquement finies.

Introduisons à présent la fonction croissante $u$ associée à la fonction $T$ définie par

$$ u : \mathbb{R}^{s+} \to \mathbb{R} \\ s \mapsto T^{-1}(\frac{1}{s}) $$

qui satisfait l'équation implicite $T(u(s)) = \frac{1}{s}$. Dans le cas de la métrique hyperbolique, on a $u(s) = \log s$. Pour la métrique $g_a$, il n'est pas possible d'expliciter la fonction $u$ mais seulement de décrire son comportement au voisinage de $+\infty$; on a

$$ u(s) = u_a(s) = \log s + \alpha \log \log s - \log L(\log s) + o(s) $$

avec $\lim_{s \to +\infty} o(s) = 0$. Soulignons que le comportement asymptotique de $u_a$ ne dépend pas de $a$.

La fonction $u$ est riche d'informations géométriques car elle permet d'escinner, à une constante additive près, la distance entre deux points situés sur une même horosphère $\partial \mathcal{H}_t := \mathbb{R} \times \{t\}$ où $t \in \mathbb{R}$ est fixé. En effet, la métrique induite par $g$ sur $\partial \mathcal{H}_t$ est donnée par $T(t)^2dx^2$; la distance correspondante $d_{\partial \mathcal{H}_t}(\mathbf{x}_t, \mathbf{y}_t)$ entre les points $\mathbf{x}_t := (x, t)$ et $\mathbf{y}_t := (y, t)$ vaut $T(t)\|x - y\|$, on a donc $d_{\partial \mathcal{H}_t}(\mathbf{x}_t, \mathbf{y}_t) = 1$ si et seulement si $t = u(\|x - y\|)$. En utilisant le fait que la courbure est bornée supérieurement par une constante strictement négative, on peut montrer que l'arc formé de la réunion des trois segments $[\mathbf{x}_0, \mathbf{x}_t]$, $[\mathbf{x}_t, \mathbf{y}_t]$ et $[\mathbf{y}_t, \mathbf{y}_0]$ est une quasi-géodésique joignant $\mathbf{x}_0$ et $\mathbf{y}_0$ et que, plus précisément, la quantité $d(\mathbf{x}_0, \mathbf{y}_0) - 2u(\|x - y\|)$ est bornée (voir [5, lemme 4]). En fait, vu le profil de la fonction $T$, on peut préciser ce résultat comme suit.

Posons $\vec{i} = (1,0)$; pour toute valeur du paramètre $a$, le groupe $\langle p \rangle$ engendré par la translation $p : \mathbf{x} \mapsto \mathbf{x} + \vec{i}$ est un groupe discret d'isométries de $(\mathbb{R}^2, g_a)$ qui fixe le point $+\infty$. Les métriques $g_a$ sont des métriques de
révolution sur les cylindres $\mathbb{R}^2/\langle p\rangle$. À l'aide des équations de Clairault pour les surfaces de révolution, on obtient le résultat suivant [15].

LEMME 2.3. — Pour tout $a \ge 0$ et tous points $\mathbf{x}_0 = (x, 0), \mathbf{y}_0 = (y, 0)$ situés sur l'horosphère $\mathbb{R} \times \{0\}$,

$$d_a(\mathbf{x}_0, \mathbf{y}_0) = 2(\log \|x-y\| + \alpha \log \log \|x-y\| - \log L(\log \|x-y\|)) + o(\|x-y\|).$$
avec $\lim_{t \to +\infty} o(t) = 0$. En particulier, pour tout $n \in \mathbb{N}$,

$$d_a(\mathbf{o}, p^n \cdot \mathbf{o}) = 2(\log n + \alpha \log \log n - \log L(\log n)) + o(n) \quad (2.4)$$
avec $\lim_{n \to +\infty} o(n) = 0$.

La série de Poincaré associée à $\langle p \rangle$ est donc donnée par

$$\begin{aligned} P_{\langle p \rangle}(s) &= 1 + \sum_{n \in \mathbb{Z}^*} e^{-sd_a(\mathbf{o}, p^n \cdot \mathbf{o})} \\ &= 1 + 2e^{-sd_a(\mathbf{o}, p \cdot \mathbf{o})} + 2 \sum_{n \ge 2} \frac{L(\log n)^{2s}}{n^{2s} (\log n)^{2s\alpha}} (1 + o(n)). \end{aligned}$$

L'exposant critique de $\langle p \rangle$ vaut donc $\frac{1}{2}$ et $\langle p \rangle$ converge dès que $\alpha > 1$; de plus, lorsque $R \to +\infty$, on a

$$N_{\langle p \rangle}(R) \sim 2 e^{R/2} \frac{L(R)}{(R/2)^\alpha}. \quad (2.5)$$

Par conséquent, pour tout $\Delta > 0$ fixé, lorsque $R \to +\infty$,

$$\begin{aligned} \#\{n \in \mathbb{Z} \mid R \le d(\mathbf{o}, p^n \cdot \mathbf{o}) < R + \Delta\} &\sim \int_R^{R+\Delta} e^{t/2} \frac{L(t)}{(t/2)^\alpha} dt \\ &\sim 2e^{R/2} \frac{L(R)}{(R/2)^\alpha} (e^{\Delta/2} - 1). \end{aligned} \quad (2.6)$$

et

$$\lim_{R \to +\infty} \frac{R^\alpha}{L(R)} \sum_{\substack{n \in \mathbb{Z} \\ R \le d(\mathbf{o}, p^n \cdot \mathbf{o}) < R + \Delta}} e^{-\frac{1}{2} d(\mathbf{o}, p^n \cdot \mathbf{o})} = 2^\alpha \Delta. \quad (2.7)$$

Expliquons brièvement comment les expressions (2.5), (2.6) et (2.7) dé-
coulent de (2.4). Pour tout réel $r > 0$, l'égalité $d_a(\mathbf{o}, p^n \cdot \mathbf{o}) = r$ s'inverse en
$n = n_r = \frac{e^{r/2}}{(r/2)^\alpha} L(r)(1 + o(r))$, les expressions (2.5) et (2.6) s'en déduisent
immédiatement (le facteur 2 devant le terme de droite dans (2.5) venant du
fait qu'il faut prendre en compte les puissances positives et négatives de $p$).
Il vient alors

$$ \sum_{\substack{n \in \mathbb{Z} \\ R \le d(\mathbf{o}, p^n \cdot \mathbf{o}) < R + \Delta}} e^{-\frac{1}{2} d(\mathbf{o}, p^n \cdot \mathbf{o})} \sim \int_{R}^{R+\Delta} \frac{L(t)}{(t/2)^\alpha} dt \sim 2^\alpha \frac{L(R)}{R^\alpha} \Delta. $$

## 2.5. Sur l'existence de groupes de Schottky convergents Γ

L'existence de groupes fuchsiens géométriquement finis convergents a été établie pour la première fois dans [5]. Nous rappelons ici la construction d'un groupe de Schottky convergent engendré par deux isométries, l'une parabolique $p$ et l'autre hyperbolique $h$.

Si $\langle p \rangle$ est un sous-groupe divergent d'un groupe géométriquement fini $G$ alors $\delta_{\langle p \rangle} < \delta_G$; de plus, si cette dernière inégalité a lieu pour tout sous-groupe parabolique de $G$, alors nécessairement $G$ est divergent [5]. Il nous faut donc dans un premier temps exhiber un groupe fuchsien $G$ possédant un sous-groupe parabolique $\langle p \rangle$ qui soit convergent; dans un second temps, nous en extrayons un sous-groupe fuchsien $\Gamma$ d'exposant critique $\delta_{\langle p \rangle}$ et dont la série de Poincaré converge en $\delta_{\langle p \rangle}$.

Considérons un groupe discret $G$ de covolume fini mais non cocompact d'isométries de $\mathbb{H}^2$. Considérons une « pointe » $\mathcal{C}$ de $\mathbb{H}^2/G$, isométrique au quotient d'une horoboule $\mathcal{H} \simeq \mathbb{R} \times \mathbb{R}^+$ de $\mathbb{H}^2$ par un groupe $\langle p \rangle = \pi_1(\mathcal{C})$ engendré par une isométrie parabolique $p$. Le groupe $\langle p \rangle$ agit aussi par isométrie sur l'espace $\mathbb{R}^2$ muni d'une métrique $g_a$, $a \ge 0$, décrite au paragraphe précédent. On peut alors munir le cylindre $(\mathbb{R} \times [0, +\infty[) / \langle p \rangle$ de la métrique quotient induite par $g_a$. On obtient ainsi une variété d'Hadamard pincée de volume fini $\bar{X}$; son groupe fondamental agit isométriquement sur le revêtement universel $X$ de $\bar{X}$. Afin de ne pas alourdir les notations, on note encore $g_a$ la métrique obtenue par relèvement sur $X$ et $d_a$ la distance associée. Le groupe d'isométrie de $X$ possède des sous-groupes paraboliques convergents dès que $\alpha > 1$.

Nous construisons maintenant un groupe de Schottky non-élémentaire convergent; nous fixons $a = 0$ et munissons le cusp $\mathcal{C}$ de la métrique $g_0$. Nous ferons varier le paramètre $a$ dans un second temps.

Choisissons une isométrie hyperbolique $h \in G$; ses points fixes sont distincts de celui de $p$ puisque $G$ est discret. Quitte à remplacer $h$ par une puissance suffisamment grande, on peut supposer qu'il existe $\theta > 0$ tel que le groupe engendré par $p$ et $h$ est un groupe $\theta$-Schottky; en d'autres termes, il existe des ensembles compacts $U_p$ et $U_h$, voisinages respectifs dans $X \cup \partial X$ du point fixe de $p$ et des points fixes de $h$, tels que :
(i) $U_p \cap U_h = \emptyset$ et $\mathbf{o} \notin (U_p \cup U_h)$;

(ii) $h^k(\partial X \setminus U_h) \subset U_h$ et $p^k(\partial X \setminus U_p) \subset U_p$ pour tout $k \in \mathbb{Z}^*$;

(iii) pour tout $\mathbf{x} \in U_p$ and $\mathbf{y} \in U_h$, l'angle en $\mathbf{o}$ du triangle $\mathbf{x}, \mathbf{o}, \mathbf{y}$ est minoré par $\theta > 0$.

Le groupe $\Gamma = \langle p, h \rangle$ étant libre, tout élément $\gamma \in \Gamma$ différent de $\text{Id}$ s'écrit de façon unique comme un produit $\alpha_1 \dots \alpha_n$, avec $\alpha_i \in \{p^{\pm 1}, h^{\pm 1}\}, \alpha_{i+1} \neq \alpha_i^{-1}$. D'après (iii), pour tout $\mathbf{x} \in U_h$ et tout $\mathbf{y} \in U_p$, le chemin égal à la réunion des segments géodésiques $[\mathbf{x}, \mathbf{o}]$ et $[\mathbf{o}, \mathbf{y}]$ est une quasi-géodésique de $(X, g_0)$; il existe donc une constante $C_\theta > 0$ telle que $d_0(\mathbf{x}, \mathbf{y}) \geqslant d_0(\mathbf{o}, \mathbf{x}) + d_0(\mathbf{o}, \mathbf{y}) - C_\theta$. Par conséquent,

$$d_0(\mathbf{o}, h^{n_1}p^{m_1} \dots h^{n_k}p^{m_k} \cdot \mathbf{o}) \\ \geq \sum_{1 \leq i \leq k} d_0(\mathbf{o}, h^{n_i} \cdot \mathbf{o}) + \sum_{1 \leq i \leq k} d_0(\mathbf{o}, p^{m_i} \cdot \mathbf{o}) - 2kC_\theta.$$

La série de Poincaré de $\Gamma$ en $s$ est de même nature que la série

$$P'_{\Gamma}(s) := \sum_{k \ge 1} \sum_{n_i, m_i \in \mathbb{Z}^*} e^{-d_0(\mathbf{o}, h^{n_1} p^{m_1} \dots h^{n_k} p^{m_k} \cdot \mathbf{o})}.$$

D'après l'inégalité ci-dessus, on peut écrire

$$\begin{aligned} P'_{\Gamma}(s) & \le \sum_{k \ge 1} \left( e^{2sC_{\theta}} \sum_{n \in \mathbb{Z}^{*}} e^{-sd_{0}(\mathbf{o}, h^{n} \cdot \mathbf{o})} \sum_{n \in \mathbb{Z}^{*}} e^{-sd_{0}(\mathbf{o}, p^{n} \cdot \mathbf{o})} \right)^{k} \\ & \le \sum_{k \ge 1} \left( e^{2sC_{\theta}} \frac{e^{-sd_{0}(\mathbf{o}, h \cdot \mathbf{o})}}{1 - e^{-sd_{0}(\mathbf{o}, h \cdot \mathbf{o})}} \sum_{n \in \mathbb{Z}^{*}} e^{-sd_{0}(\mathbf{o}, p^{n} \cdot \mathbf{o})} \right)^{k}, \end{aligned}$$

où la dernière inégalité a lieu si $\mathbf{o}$ appartient à l'axe de $h$, ce que nous supposons sans perdre en généralité. Ces inégalités restent valides en remplaçant $h$ par une puissance $h^N$ et donc $d_0(\mathbf{o}, h \cdot \mathbf{o})$ par $Nd_0(\mathbf{o}, h \cdot \mathbf{o})$. Le groupe $\langle p \rangle$ étant convergent et d'exposant critique $\delta_{\langle p \rangle} = \frac{1}{2}$, on a $\sum_{n \in \mathbb{Z}^*} e^{-\frac{1}{2}d_0(\mathbf{o}, p^n \cdot \mathbf{o})} < +\infty$, si bien que pour $N$ assez grand,

$$e^{C_{\theta}} \frac{e^{-\delta_{\langle p \rangle} Nd_{0}(\mathbf{o}, h \cdot \mathbf{o})}}{1 - e^{-\delta_{\langle p \rangle} Nd_{0}(\mathbf{o}, h \cdot \mathbf{o})}} \sum_{n \in \mathbb{Z}^{*}} e^{-\delta_{\langle p \rangle} d_{0}(\mathbf{o}, p^{n} \cdot \mathbf{o})} < 1.$$

La série de Poincaré de $\Gamma = \langle p, h^N \rangle$ converge donc en $s = \delta_{\langle p \rangle}$ et $\delta_{\Gamma} \le \delta_{\langle p \rangle}$. Comme par ailleurs $\langle p \rangle \subset \Gamma$, le groupe $\Gamma$ est finalement convergent d'exposant $\delta_{\langle p \rangle} = \frac{1}{2}$ relativement à la métrique $g_0$ sur $X$.
Pour tout $a \ge 0$, le groupe $\Gamma = \langle p, h^N \rangle$ agit isométriquement sur $(X, g_a)$
et est divergent lorsque $a$ est suffisamment grand; en effet,

$$
\begin{align}
\sum_{g \in \Gamma} e^{-sd_a(\mathbf{o}, g \cdot \mathbf{o})} &\ge \sum_{l \ge 1} \sum_{n_i, m_i \in \mathbb{Z}^*} e^{-sd_a(o, p^{m_1} h^{Nn_1} \dots p^{m_l} h^{Nn_l} \cdot \mathbf{o})} \nonumber \\
&\ge \sum_{l \ge 1} \left( \sum_{m \in \mathbb{Z}^*} e^{-sd_a(\mathbf{o}, p^m \cdot \mathbf{o})} \sum_{n \in \mathbb{Z}^*} e^{-sd_a(\mathbf{o}, h^{Nn} \cdot \mathbf{o})} \right)^l \tag{2.8}
\end{align}
$$

De part la définition de $g_a$, il existe un entier $m_a \ge 1$, avec $m_a \to +\infty$
lorsque $a \to +\infty$, tel que tous les segments géodésiques $[\mathbf{o}, p^m \cdot \mathbf{o}]$, $m \in$
$\{-m_a, \dots, m_a\}$, restent dans le domaine de $X$ où la courbure relativement
à $g_a$ vaut $-1$; il existe donc $c > 0$ tel que pour tout $a \ge 0$ et tout $m \in$
$\{-m_a, \dots, m_a\}$, on ait

$$
|d_a(\mathbf{o}, p^m \cdot \mathbf{o}) - 2 \log m| \le c.
$$

Par ailleurs, pour tout $a \ge 0$, on a $\sum_{n \in \mathbb{Z}^*} e^{-sd_a(o,h^{Nn} \cdot o)} \ge e^{-sd_{\mathbb{H}2}(o,h^N \cdot o)}$.
Par conséquent, pour $s > \frac{1}{2}$,

$$
\sum_{m \in \mathbb{Z}^*} e^{-sd_a(o,p^m \cdot o)} \sum_{n \in \mathbb{Z}^*} e^{-sd_a(o,h^{Nn} \cdot o)} \ge e^{-sc} \left( \sum_{m=1}^{m_a} \frac{1}{m^{2s}} \right) e^{-sd_{\mathbb{H}2}(o,h^N \cdot o)}. \quad (2.9)
$$

On fixe alors $s_0 > \frac{1}{2}$ tel que $e^{-s_0 c} \left( \sum_{m=1}^{+\infty} \frac{1}{m^{2s_0}} \right) e^{-s_0 d_{\mathbb{H}2}(\mathbf{o}, h^N \cdot \mathbf{o})} > 1$, puis $a_0$ suffisamment grand de sorte que

$$
e^{-s_0 c} \left( \sum_{m=1}^{m_{a_0}} \frac{1}{m^{2s_0}} \right) e^{-s_0 d_{\mathbb{H}2}(\mathbf{o}, h^N \cdot \mathbf{o})} > 1. \quad (2.10)
$$

En combinant (2.8), (2.9) et (2.10), on obtient $\sum_{g \in \Gamma} e^{-s_0 d_{a_0}(o,g \cdot o)} = +\infty$;
par conséquent, $\delta_{a_0, \Gamma} \ge s_0 > \frac{1}{2}$ et $\Gamma$ est divergent relativement à la distance
$d_{a_0}$, d'après [5].

De façon plus générale, pour tout $r \ge 2$, on peut considérer des isométries
$\gamma_1, \dots, \gamma_r$ de $X$, en position Schottky, la transformation $\gamma_1$ étant parabolique
et les transformations $\gamma_2, \dots, \gamma_r$ hyperboliques. Le groupe $\Gamma$ engendré par
$\gamma_1, \dots, \gamma_r$ est un groupe libre à $r$ générateurs. On munit $X$ de l'une des
métriques $g_a$ définie au paragraphe précédent. On a la

PROPOSITION 2.4. — Le groupe de Schottky $\Gamma = \langle \gamma_1, \dots, \gamma_r \rangle$, $r \ge 2$, est d'exposant $\frac{1}{2}$ et est convergent relativement à $g_0$; de plus, il existe $a_0 \ge 0$ tel que, relativement à $g_{a_0}$, le groupe $\Gamma$ est divergent et $\delta_{\Gamma} > \frac{1}{2}$.
## 2.6. Structure Hölder de $\partial X$ relativement aux métriques $g_a$

Par construction, la courbure sectionnelle de $g_a$ est pincée entre les constantes $-B^2$ et $-A^2$, indépendantes du choix de $a$. De plus la fonction $a \mapsto g_a$ varie continûment; plus précisément, pour tous $a, a' \ge 0$, il existe des constantes $K = K_{a,a'} \ge 1$, avec $K_{a,a'} \to 1$ lorsque $a' \to a$, telles que

$$ \frac{1}{K} g_a \le g_{a'} \le Kg_a, $$

et donc

$$ \frac{1}{K} d_a \le d_{a'} \le Kd_a. $$

De plus, lorsque $a' > a$, on a $d_a \ge d_{a'}$.

Le bord à l'infini de $X$ est homéomorphe à la sphère unité $\mathbb{S}^1$ mais sa structure d'espace métrique dépend du choix de $g_a$; on le note $\partial X$, indépendamment du choix de $a$. On note respectivement $(\cdot|\cdot)_a, D_a$ et $b_a$ le produit de Gromov, la distance sur $\partial X$ et le cocycle (défini en (2.3)), associés à la métrique $g_a$. Soulignons que les distances $D_a$ varient dans la même classe Hölder lorsque $a$ vit dans un intervalle compact de $\mathbb{R}^+$; en particulier, si $a_0 > 0$ vérifie les conclusions de la Proposition 2.4, on a la

**PROPOSITION 2.5.** — *Il existe $\omega_0 \in ]0, 1]$ tel que, pour tout $a \in [0, a_0]$, *

$$ D_0^{1/\omega_0} \le D_a \le D_0^{\omega_0}. $$

Pour $\gamma \in \Gamma$ fixé et $a \in [0, a_0]$, les fonctions $x \mapsto b_a(\gamma, x)$ sont lipschitzziennes par rapport à $D_a$; elles sont donc aussi $\omega_0$-hölder continues par rapport à $D_0$; nous renvoyons le lecteur à [14, Section 3] pour les détails.

## 3. Groupes de Schottky : codage et opérateurs de Ruelle

L'espace $X$ est muni de l'une des métriques $g_a$, $0 \le a \le a_0$, décrites ci-dessus; la distance induite sur $X$ est notée $d_a$. On considère un groupe $\Gamma$ engendré par $r \ge 2$ isométries $\gamma_1, \dots, \gamma_r$ de $X$ en position Schottky; les générateurs $\gamma_2, \dots, \gamma_r$ sont hyperboliques et la transformation $\gamma_1$ parabolique. Rappelons les hypothèses que nous avons introduites au cours du texte.

(H1) Pour tous $0 \le a \le a_0$

$$ d_a(\mathbf{o}, \gamma_1^n \cdot \mathbf{o}) = 2(\log n + \alpha \log \log n - \log L(\log n)) + o(n) $$

où $\alpha > 1$ et $L$ est une fonction à variations lentes.

(H2) Le groupe $\Gamma$ est convergent relativement à $g_0$.
(H3) Le groupe $\Gamma$ est divergent relativement à $g_{a_0}$.

Nous notons $a^*$ la valeur du paramètre $a \in [0, a_0]$ qui vérifie les propriétés (1.4).

**3.1. Codage et définitions**

Le groupe $\Gamma$ étant libre, tout élément $\gamma \in \Gamma$ différent de $\text{Id}$ s'écrit de façon unique comme un produit $a_1 \dots a_k$ où $a_1, \dots, a_k \in \{\gamma_1^n, \dots, \gamma_r^n \mid n \in \mathbb{Z}^*\}$ et les éléments $a_l, a_{l+1}$ n'appartiennent pas au même groupe $\langle \gamma_i \rangle$, $1 \le i \le r$. La suite $a_1, \dots, a_k$ est dite *admissible*. L'ensemble $\mathcal{A} = \cup \Gamma_i^*$ est l'alphabet de $\Gamma$ et $a_1, \dots, a_k$ les lettres de $\gamma$. La longueur symbolique de $\gamma$ est égal au nombre $k$ de lettres dans la décomposition ci-dessus; on note $\Gamma(k)$ l'ensemble des éléments de $\Gamma$ de longueur symbolique $k$. La dernière lettre $a_k$ joue un rôle important et l'indice du groupe $\langle \gamma_i \rangle$ auquel elle appartient est noté $l_\gamma$.

De part la position respective des ensembles $U_i$, $1 \le i \le r$, il existe une constante $C > 0$ telle que $b_a(\gamma, x) \ge d_a(o, \gamma \cdot o) - C$ pour tout $\gamma \in \Gamma$ et tout $x \in \cup_{i \ne l_\gamma} U_i$. En découle la propriété suivante, essentielle pour le contrôle du spectre des opérateurs de Ruelle [1] : il existe $r \in ]0, 1[$ et $C > 0$ tels que pour tout $\gamma$ de longueur $k \ge 1$ et tout $x \in \cup_{i \ne l_\gamma} U_i$ le coefficient de conformité $|\gamma'(x)|_a = e^{-b_a(\gamma, x)}$ de $\gamma$ au point $x$, relativement à la métrique $g_a$, vérifie

$$|\gamma'(x)|_a \le Cr^k.$$

L'alphabet $\mathcal{A}$ permet de coder les points de $\Lambda_\Gamma$, exceptés les points fixes des générateurs $\gamma_i$ et de leurs conjugués. Nous avons la

**PROPOSITION 3.1.** — *Soit $\Sigma^+$ l'ensemble des suites admissibles $(a_n)_{n \ge 0}$ de $\mathcal{A}^N$. Soit $x_0$ un point fixé de $\partial X \setminus U$. Alors*

(1) pour tout **a** = $(a_n) \in \Sigma^+$, la suite $(a_0 \dots a_n \cdot x_0)_{n \ge 0}$ converge vers un point $\pi(\mathbf{a}) \in \Lambda_\Gamma$, qui ne dépend pas du choix de $x_0$;

(2) l'application $\pi: \Sigma^+ \to \Lambda(\Gamma)$ est injective;

(3) l'ensemble $\Lambda_\Gamma \setminus \pi(\Sigma^+)$ est égal à l'orbite des points fixes des générateurs $\gamma_1, \dots, \gamma_r$.

Pour $1 \le i \le r$, on pose $\Lambda_i = \Lambda_\Gamma \cap U_i$; les ensembles $\Lambda_i$, $1 \le i \le r$, sont fermés et deux à deux disjoints. Afin de prendre en compte aussi les mots finis admissibles, on introduit les ensembles $\tilde{\Lambda} = \Lambda_\Gamma \cup \Gamma \cdot x_0$ et $\tilde{\Lambda}_i = \tilde{\Lambda} \cap U_i$ pour $1 \le i \le r$.

Le cocycle $b$ introduit en (2.3) joue un rôle central par la suite ; il dépend du choix de la métrique $g_a$. Afin de pouvoir calculer la distance entre deux
points de $\Gamma \cdot \mathbf{o}$, on étend ce cocycle sur $\tilde{\Lambda}$ de la façon suivante : pour tout
$\gamma \in \Gamma$ et $x \in \tilde{\Lambda}$,

$$
\tilde{b}_a(\gamma, x) := \begin{cases} b_a(\gamma, x) & \text{si } x \in \Lambda; \\ d_a(\gamma^{-1} \cdot \mathbf{o}, g \cdot \mathbf{o}) - d_a(\mathbf{o}, g \cdot \mathbf{o}) & \text{si } x = g \cdot x_0 \text{ pour un } g \in \Gamma. \end{cases}
$$

L'égalité de cocycle (2.3) est aussi vérifiée par $\tilde{b}_a$. De plus, si $\gamma \in \Gamma$ se
décompose sous la forme $\gamma = a_1 \dots a_k$, alors

$$
\begin{gather*}
\tilde{b}_a(\gamma, x_0) = d_a(\mathbf{o}, \gamma \cdot \mathbf{o}) = \tilde{b}_a(a_1, \gamma_2 \cdot x_0) + \tilde{b}_a(a_2, \gamma_3 \cdot x_0) + \dots + \tilde{b}_a(a_k, x_0) \quad (3.1) \\
\text{où } \gamma_l = a_l \dots a_k \text{ for } 2 \le l \le k.
\end{gather*}
$$

Enfin, il existe $C > 0$ tel que pour tout $\gamma \in \Gamma$, $\gamma \neq \text{Id}$, et tout $x \in \tilde{\Lambda} \setminus \tilde{\Lambda}_{l_\gamma}$, on ait

$$
d_a(\mathbf{o}, \gamma \cdot \mathbf{o}) - C \le \tilde{b}_a(\gamma, x) \le d_a(\mathbf{o}, \gamma \cdot \mathbf{o}). \quad (3.2)
$$

3.2. Série de Poincaré versus opérateurs de transfert

Lorsque l'on dispose d'un codage de l'ensemble limite de Γ, l'étude de sa
fonction orbitale N_Γ peut se faire via le formalisme thermodynamique (voir
par exemple [13]) et repose sur certaines propriétés spectrales d'une famille
d'opérateurs L_{a,s}, s ∈ R, 0 ≤ a ≤ a_0, appelés opérateurs de Ruelle.

Formellement, pour tout $s \in \mathbb{R}$, toute fonction borélienne bornée $\phi : \tilde{\Lambda} \to \mathbb{C}$ et tout $x \in \tilde{\Lambda}$, on pose

$$
\mathcal{L}_{a,s} \phi(x) = \sum_{\gamma \in \Gamma} 1_{x \notin \tilde{\Lambda}_{l_\gamma}} e^{-s \tilde{b}_a(\gamma, x)} \phi(\gamma \cdot x) = \sum_{i=1}^{r} \sum_{n \in \mathbb{Z}^*} 1_{x \notin \tilde{\Lambda}_i} e^{-s \tilde{b}_a(\gamma_i^n, x)} \phi(\gamma_i^n \cdot x).
$$

Les puissances $\mathcal{L}_{a,s}^k, k \ge 1$, de l'opérateur $\mathcal{L}_{a,s}, s \ge \delta$, s'écrivent alors comme
suit :

$$
\mathcal{L}_{a,s}^{k} \phi(x) = \sum_{\gamma \in \Gamma(k)} 1_{x \notin \tilde{\Lambda}_{l_\gamma}} e^{-s \tilde{b}_a(\gamma, x)} \phi(\gamma \cdot x).
$$

Pour $1 \le i \le r$ fixé, la suite $(\gamma_i^n \cdot \mathbf{o})_{n \in \mathbb{Z}}$ s'accumule auprès du (des) point(s) fixe(s) de $\gamma_i$ ; la suite $(\tilde{b}_a(\gamma_i^n, x) - d_a(\mathbf{o}, \gamma_i^n \cdot \mathbf{o}))_{n \in \mathbb{Z}}$ est donc bornée unifor- mément en $x \in \tilde{\Lambda} \setminus \tilde{\Lambda}_i$ et la série qui définit $\mathcal{L}_{a,s}1(x)$ est finie dès que $s \ge \delta_{\langle \gamma_1 \rangle} = \frac{1}{2}$.

Série de Poincaré de Γ et famille d'opérateurs ($\mathcal{L}_{a,s}$)$_{s \ge \delta}$ sont étroitement
liées puisque de (3.2) découle l'encadrement suivant

$$
\sum_{\gamma \in \Gamma(k)} e^{-s d_{a}(\mathbf{o}, \gamma \cdot \mathbf{o})} \le \mathcal{L}_{a,s}^{k} 1 \le e^{Cs} \sum_{\gamma \in \Gamma(k)} e^{-s d_{a}(\mathbf{o}, \gamma \cdot \mathbf{o})}.
$$
Ainsi,

$$
P_{\Gamma}(s) := \sum_{\gamma \in \Gamma} e^{-sd_a(o, \gamma \cdot o)} = +\infty \iff \sum_{k \ge 0} \mathcal{L}_{a,s}^k 1 = +\infty. \quad (3.3)
$$

Sous (H1), pour tout $s \ge \frac{1}{2}$, l'opérateur $\mathcal{L}_{a,s}$ agit continûment sur l'espace
$(C(\tilde{\Lambda}), |\cdot|_{\infty})$; on note $\rho_{a,s}(\infty)$ son rayon spectral sur cet espace et on vérifie
aisément que la fonction $s \mapsto \rho_{a,s}(\infty)$ est décroissante sur $[\frac{1}{2}, +\infty[$ [14]. Par
conséquent,

$$
\delta_{\Gamma} = \sup \left\{ s \ge \frac{1}{2} \middle| \rho_{a,s}(\infty) \ge 1 \right\} = \inf \left\{ s \ge \frac{1}{2} \middle| \rho_{a,s}(\infty) \le 1 \right\}.
$$

Cette caractérisation de l'exposant critique est essentielle pour montrer que
le groupe Γ est convergent si et seulement si ρ_{a, 1/2}(∞) < 1 ; pour établir cette
équivalence, une étude plus fine du spectre des opérateurs L_{a,s} est cependant
nécessaire, c'est l'objet du paragraphe suivant.

3.3. Propriété de trou spectral des opérateurs de Ruelle $\mathcal{L}_{a,s}$, $s \ge \frac{1}{2}$

Nous notons $\omega_0$ la constante qui apparaît dans la Propriété 2.5 et étudions
la restriction des opérateurs $\mathcal{L}_{a,s}$ à l'espace $\mathcal{H}_{\omega_0}(\tilde{\Lambda})$ des fonctions Hölder-
continues sur $\tilde{\Lambda}$ défini par

$$
\mathcal{H}_{\omega_0}(\tilde{\Lambda}) = \{ \phi \in C(\tilde{\Lambda}) \mid \|\phi\| = |\phi|_{\infty} + [\phi]_{\omega_0} < +\infty \}
$$

où

$$
[\phi]_{\omega_0} = \sup_{1 \le i \le r} \sup_{\substack{x,y \in \tilde{\Lambda}_i \\ x \ne y}} \frac{|\phi(x) - \phi(y)|}{D^{\omega_0}(x, y)}.
$$

L'espace $(\mathcal{H}_{\omega_0}(\tilde{\Lambda}), \|\cdot\|)$ est normé et complet et l'application identité de $(\mathcal{H}_{\omega_0}(\tilde{\Lambda}), \|\cdot\|)$ dans $(C(\tilde{\Lambda}), |\cdot|_{\infty})$ est compacte.

Dans [1], les auteurs montrent que $\mathcal{L}_{a,s}$, $s \ge \frac{1}{2}$ agit continûment sur $(C(\tilde{\Lambda}), |\cdot|_{\infty})$ et $(\mathcal{H}_{\omega_0}(\tilde{\Lambda}), \|\cdot\|)$ ; cette propriété s'étend aux espaces de Banach $(C(\tilde{\Lambda}), |\cdot|_{\infty})$ et $(\mathcal{H}_{\omega_0}(\tilde{\Lambda}), \|\cdot\|)$ (voir [17]). On note $\rho_{a,s}$ le rayon spectral de $\mathcal{L}_{a,s}$ sur $\mathcal{H}_{\omega_0}(\tilde{\Lambda})$ ; l'énoncé qui suit résume les propriétés essentielles qui nous seront utiles par la suite, nous renvoyons le lecteur aux articles [1, 14, 17] pour les démonstrations détaillées.

PROPOSITION 3.2. — *Supposons que les propriétés (H1), (H2) et (H3) sont satisfaites et r ≥ 3. Alors, pour tout s ≥ 1 2 et a ∈ [0, a₀],*

$$
(1) \rho_{a,s} = \rho_{a,s}(\infty);
$$

$$
(2) \rho_{a,s} \text{ est une valeur propre simple de } \mathcal{L}_{a,s} \text{ sur } \mathcal{H}_{\omega_0}(\tilde{\Lambda}) \text{ et la fonction } \text{propre associée } h_{a,s} \text{ est strictement positive sur } \tilde{\Lambda};
$$
(3) il existe $0 \le r < 1$ tel que le reste du spectre de $\mathcal{L}_{a,s}$ sur $\mathcal{H}_{\omega_0}(\tilde{\Lambda})$ soit inclus dans le disque de rayon $\le r\rho_{a,s}$;

(4) la fonction $s \mapsto \rho_{a,s}$ est continue, strictement décroissante sur $[\frac{1}{2}, +\infty[$ et tend vers 0 lorsque $s \to +\infty$.

De plus, la fonction $a \mapsto \rho_{a, \frac{1}{2}}$ est continue et strictement décroissante sur $[0, a_0]$.

Dans le cas $r = 2$, le jeu de ping-pong entre les deux ensembles $U_1$ et $U_2$ fait apparaître un phénomène de classes cycliques de période 2. L'opérateur $\mathcal{L}_{a,s}$ possède deux valeurs propres « dominantes » $\rho_{a,s}$ et $-\rho_{a,s}$, qui sont simples et isolées dans le spectre de $\mathcal{L}_{a,s}$ (voir [1]). L'énoncé précédent reste valide pour les restrictions de $(\mathcal{L}_{a,s})^2$ à chacun des espaces $\mathcal{H}_{\omega_0}(\tilde{\Lambda}_i)$, $i = 1, 2$.

**COROLLAIRE 3.3.** — *Sous les hypothèses (H1), (H2) et (H3),*

(1) le groupe $\Gamma$ est convergent relativement à $g_a$ si et seulement si $\rho_{a, \frac{1}{2}} < 1$;

(2) il existe un unique réel $a^* \in ]0, a_0]$ tel que $\rho_{a^*, \frac{1}{2}} = 1$.

*Démonstration.*

(1). — Notons que pour tout $s \ge \frac{1}{2}$ et tout $x \in \tilde{\Lambda}$, uniformément en $k \ge 0$, on a

$$ \mathcal{L}_{a,s}^k 1(x) \asymp \mathcal{L}_{a,s}^k h_{a,s}(x) = \rho_{a,s}^k h_{a,s}(x) \asymp \rho_{a,s}^k. \quad (4) $$

Combinons cette estimation avec (3.3).

* Si $\rho_{a, \frac{1}{2}} < 1$ alors $P_{\Gamma}(\frac{1}{2}) < +\infty$ et donc $\delta_{\Gamma} \le \frac{1}{2}$. Il vient $\delta_{\Gamma} = \frac{1}{2}$ puisque $\langle \gamma_1 \rangle \subset \Gamma$, et $\Gamma$ est convergent.

* Supposons à présent $\rho_{a, \frac{1}{2}} = 1$. D'après la Proposition 3.2(4), on a $\rho_{a, \frac{1}{2}} < 1$ pour tout $s > \frac{1}{2}$; on obtient comme dans le cas précédent $\delta_{\Gamma} = \frac{1}{2}$ mais cette fois-ci $\Gamma$ est divergent puisque $\sum_{k \ge 0} \mathcal{L}_{a, \frac{1}{2}}^k 1(x) \asymp \sum_{k \ge 0} 1 = +\infty$.

* Supposons enfin $\rho_{a, \frac{1}{2}} > 1$. D'après la Proposition 3.2(4), si $s > \frac{1}{2}$ est suffisamment proche de $\frac{1}{2}$, on a encore alors $\rho_{a,s} > 1$ si bien que $P_{\Gamma}(s) = +\infty$. On obtient alors $\delta_{\Gamma} > \frac{1}{2}$ et la divergence de $\Gamma$ découle de [5].

(2). — Les hypothèses (H2) et (H3) entraînent $\rho_{0, \frac{1}{2}} \le 1$ et $\rho_{a_0, \frac{1}{2}} \ge 1$; l'assertion découle alors du fait que la fonction $a \mapsto \rho_{a, \frac{1}{2}}$ est continue et strictement décroissante sur $[0, a_0]$ (voir [14, Section 4.6] pour les détails). $\square$

<footnote>(4) si $f, g$ sont deux fonctions de $\mathbb{R}^+$ dans $\mathbb{R}^+$, on écrit $f \asymp g$ (ou plus simplement $f \asymp g$) lorsque $\frac{g(R)}{c} \le f(R) \le cg(R)$ pour tout $R$ suffisamment grand.</footnote>
La valeur $a^*$ du paramètre « hauteur » $a$ correspond à une transition de phase dans le comportement de $\Gamma$ :

(1) si $0 \le a < a^*$ alors $\delta_{a,\Gamma} = \frac{1}{2}$ et $\Gamma$ est convergent relativement à $g_a$;

(2) $\delta_{a^*,\Gamma} = \frac{1}{2}$ et $\Gamma$ est divergent relativement à $g_{a^*}$;

(3) si $a > a^*$ alors $\delta_{a,\Gamma} > \frac{1}{2}$ et $\Gamma$ est divergent relativement à $g_a$.

**4. Sur le comportement asymptotique de $N_{a,\Gamma}$, $a \ge 0$**

Dans ce paragraphe, nous expliquons comment apparaissent les différentes situations énumérées dans l'énoncé du Théorème 1.1 ainsi que la façon dont chacune d'entre elles est traitée; nous renvoyons pour les détails des démonstrations aux articles [6, 15, 17].

Remarquons que le cas sur-critique du Théorème 1.1 se déduit du résultat général de T. Roblin [16]. En effet, lorsque $a > a^*$, on a $\delta_{a,\Gamma} > \frac{1}{2}$, le groupe $\Gamma$ est divergent sur $(X, g_a)$ et sa mesure de Bowen-Margulis $m_{BM}^{(a)}$ est finie d'après [5].

Dans les cas critique et sous-critique, l'exposant critique de $\Gamma$ vaut $\frac{1}{2}$ et la mesure de Bowen-Margulis de $\Gamma$ est infinie.

**4.1. Fonction orbitale et potentiel**

Nous expliquons ici comment la fonction orbitale de $\Gamma$ s'exprime à l'aide des opérateurs de Ruelle introduits dans le paragraphe 3.

Nous notons $\Phi = \Phi_a$ la fonction de $\mathbb{R}$ dans $\mathbb{R}$ définie par : pour tout $R > 0$

(1) $\Phi_a(R) := 1$ lorsque $a > a^*$;

(2) $\Phi_a(R) := R^{2-\alpha}L(R)$ lorsque $a = a^*$;

(3) $\Phi_a(R) := \frac{R^\alpha}{L(R)}$ lorsque $0 \le a < a^*$.

Afin d'unifier la présentation qui suit et alléger les notations, nous posons $\delta = \delta_{a,\Gamma}$; on a $\delta = \frac{1}{2}$ lorsque $a \le a^*$ et $\delta > \frac{1}{2}$ lorsque $a > a^*$. De même, une fois $a$ fixé, on note $\mathcal{L}_{a,\delta} = \mathcal{L}$, $\rho = \rho_{a,\delta}$ et $h = h_{a,\delta}$.
Notons $M_a(R, \cdot)$ la mesure sur $\mathbb{R}$ définie par : pour toute fonction continue à support compact $u : \mathbb{R} \to \mathbb{R}$,

$$ 
\begin{align*} 
M_a(R, u) &:= \sum_{\gamma \in \Gamma} e^{-\delta d_a(o, \gamma \cdot o)} u(d_a(o, \gamma \cdot o) - R) \\ 
&= \sum_{\gamma \in \Gamma} e^{-\delta \tilde{b}_a(\gamma, x_0)} u(\tilde{b}_a(\gamma, x_0) - R). 
\end{align*} 
$$

On a $0 \le M_a(R, u) < +\infty$ puisque le support de $u$ est compact et que $\Gamma$ est discret. Pour établir le Théorème 1.1, il nous suffit de démontrer qu'il existe une constante $C_a > 0$ telle que

$$ \lim_{R \to +\infty} \Phi_a(R) M_a(R, u) = C_a \int_{\mathbb{R}} u(t)dt. \quad (4.1) $$

En effet, si tel est le cas, cette convergence a aussi lieu pour toute fonction positive à support compact et dont l'ensemble de discontinuité est négligeable par rapport à la mesure de Lebesgue ; le Théorème 1.1 suit puisque

$$ N_{a,\Gamma}(R) = e^{\delta R} \sum_{n \ge 0} M_a(R, u_n), \quad \text{avec} \quad u_n(t) := e^{\delta t} 1_{[-(n+1),-(n]}(t). \quad (4.2) $$

On décompose $M_a(R, u)$ en $M_a(R, u) = \sum_{k \ge 0} M_{a,k}(R, u)$ avec

$$ M_{a,k}(R, u) := \sum_{\gamma \in \Gamma(k)} e^{-\delta \tilde{b}_a(\gamma, x_0)} u(\tilde{b}_a(\gamma, x_0) - R). $$

La quantité $M_k(R, u)$ s'exprime de façon simple à l'aide de la puissance $k^{\text{ième}}$ de l'opérateur de Ruelle $\mathcal{L}$ et, plus précisément, d'une « extension » $\tilde{\mathcal{L}}$ de cet opérateur, définie par : pour toutes fonctions boréliennes bornées $\phi : \tilde{\Lambda} \to \mathbb{R}$, $v : \mathbb{R} \to \mathbb{R}$ et tout $(x, \mathfrak{b}) \in \tilde{\Lambda} \times \mathbb{R}$,

$$ \tilde{\mathcal{L}}(\phi \otimes v)(x, \mathfrak{b}) = \sum_{\gamma \in \Gamma(1)} 1_{x \notin \tilde{\Lambda}_{l,\gamma}} e^{-\delta \tilde{b}_a(\gamma, x)} \phi(\gamma \cdot x) v(\mathfrak{b} + \tilde{b}_a(\gamma, x)). $$

On vérifie que $\tilde{\mathcal{L}}^k(\phi \otimes v)(x, \mathfrak{b}) = \sum_{\gamma \in \Gamma(k)} 1_{x \notin \tilde{\Lambda}_{l,\gamma}} e^{-\delta \tilde{b}_a(\gamma, x)} \phi(\gamma \cdot x) v(\mathfrak{b} + \tilde{b}_a(\gamma, x))$ d'où l'on déduit que

$$ M_{a,k}(R, u) = \tilde{\mathcal{L}}^k (1 \otimes u)(x_0, -R). \quad (4.3) $$

Il ressort du paragraphe 3 que les opérateurs $\mathcal{L}$ et $\tilde{\mathcal{L}}$ agissent respectivement sur $C(\tilde{\Lambda})$ et $C(\tilde{\Lambda} \times \mathbb{R})$, qu'ils sont tous les deux positifs et ont le même rayon spectral $\rho$; on sait aussi que ce dernier a une grande influence sur la série de Poincaré de $\Gamma$. Afin d'expliciter au mieux la façon dont il intervient dans le comportement des quantités $M_{a,k}(R, u)$, on se ramène au cas d'opérateurs markoviens, grâce à un procédé classique en calcul des probabilités, appelé
« transformation de Doob ». Nous introduisons ainsi les opérateurs $P$ et $\tilde{P}$ définis par

$$P\phi := \frac{1}{\rho h}\mathcal{L}(h\phi) \quad \text{et} \quad \tilde{P}(\phi \otimes v) := \frac{1}{\rho h}\tilde{\mathcal{L}}(h\phi \otimes v).$$

Leurs puissances s'expriment de façon simple puisque l'on a, pour tout $k \ge 1$,

$$P^k \phi = \frac{1}{\rho^k h} \mathcal{L}^k(h\phi) \quad \text{et} \quad \tilde{P}^k(\phi \otimes v) := \frac{1}{\rho^k h} \tilde{\mathcal{L}}^k(h\phi \otimes v).$$

Il vient

$$M_{a,k}(R, u) = \rho^k h(x_0) \tilde{P}^k \left( \frac{1}{h} \otimes u \right) (x_0, -R)$$

et

$$M_a(R, u) = h(x_0) \sum_{k \ge 0} \rho^k \tilde{P}^k \left( \frac{1}{h} \otimes u \right) (x_0, -R). \quad (4.4)$$

Les opérateurs $P$ et $\tilde{P}$ gouvernent respectivement les transitions d'une chaîne de Markov $(X_n)_{n \ge 0}$ sur $\tilde{\Lambda}$ et d'une « marche de Markov » $(X_n, S_n)_{n \ge 0}$ sur $\tilde{\Lambda} \times \mathbb{R}$.

Lorsque $\rho < 1$, la série (4.4) est absolument convergente; lorsque $\rho = 1$, elle coïncide au facteur $h(x_0)$ près avec le noyau de Green de la chaîne $(X_n, S_n)_{n \ge 0}$ et l'étude de son comportement lorsque $R \to +\infty$ relève de la théorie du renouvellement en calcul des probabilités.

Le choix des métriques $g_a$ dicte la loi des accroissements $\tilde{b}_a(\cdot, \cdot)$ de la marche $(S_n)_{n \ge 0}$; à une constante multiplicative près, la quantité $M_{a,1}(R, 1_{[0,\Delta[})$ correspond à la probabilité que ces accroissements appartiennent à l'intervalle $[R, R + \Delta[$. Soulignons que dans l'expression de $M_{a,1}(R, 1_{[0,\Delta[})$, seuls les éléments de $\Gamma$ de longueur symbolique 1 sont pris en compte; le comportement asymptotique de cette quantité lorsque $R \to +\infty$ est donc dicté par les puissances de $\gamma_1$, les générateurs hyperboliques n'étant pas influents dans les sommes considérées. À partir de la propriété (2.7), expression fonctionnelle de la condition (H1), on obtient, lorsque $R \to +\infty$,

$$\begin{cases} \text{si } a \le a^* \text{ alors } M_{a,1}(R, 1_{[0,\Delta[}) \sim 2^{\alpha} \frac{L(R)}{R^\alpha} \Delta \\ \text{si } a > a^* \text{ alors } M_{a,1}(R, 1_{[0,\Delta[}) = O(e^{-(\delta-\frac{1}{2})R}). \end{cases} \quad (4.5)$$

Nous présentons dans le paragraphe suivant quelques éléments de la théorie du renouvellement dans le cas des marches aléatoires classiques sur $\mathbb{N}$ dont la loi satisfait une condition analogue à celle donnée ci-dessus lorsque $a \le a^*$.
## 4.2. Eléments de la théorie du renouvellement sur $\mathbb{N}$

Nous considérons dans ce paragraphe une suite $(Y_k)_{k \ge 1}$ de variables aléatoires indépendantes et identiquement distribuées (i.i.d.) selon la loi $\mu$, définies sur un espace probabilisé $(\Omega, \mathcal{F}, \mathbb{P})$ et à valeurs dans $\mathbb{N}$. On pose $m := \mathbb{E}(Y_i) \in ]0, +\infty[$.

On note $(S_k)_{k \ge 0}$ la marche aléatoire sur $\mathbb{N}$, de loi $\mu$, définie par $S_0 = 0$ et $S_k = Y_1 + \cdots + Y_k$ pour tout $k \ge 1$. Pour tout $x, y \in \mathbb{Z}$ et tout $0 \le \rho \le 1$, on pose

$$G_{\rho}(x, y) = \sum_{k \ge 0} \rho^k \mathbb{P}(x + S_k = y).$$

Pour tout $N \in \mathbb{Z}$, la quantité $G_{\rho}(0, N) = G_{\rho}(-N, 0)$ est l'analogue dans le cas des marches aléatoires discrètes à pas i.i.d. du potentiel $\sum_{k \ge 0} \rho^k \hat{P}^k (\frac{1}{h} \otimes u)(x_0, -R)$ du paragraphe précédent. Dans l'esprit de la propriété (2.6), on suppose que la mesure de probabilité $\mu$ satisfait la condition suivante.

(C) Il existe $\alpha > 1$ et une fonction à variations lentes $L$ tels que

$$\mu(N) \sim \frac{L(N)}{N^{\alpha}} \quad \text{lorsque} \quad N \to +\infty$$

On s'intéresse au comportement lorsque $N \to +\infty$ des quantités $G_{\rho}(0, N)$, $0 \le \rho \le 1$.

**PROPOSITION 4.1.** — Avec les notations ci-dessus et sous la condition (C), on a

$$(1) \text{ Lorsque } \sum_{k \ge 1} k\mu(k) < +\infty, \text{ il existe } C_{\mu} > 0 \text{ tel que} \\ \lim_{N \to +\infty} G(0, N) = C_{\mu}. \qquad (4.6)$$

$$(2) \text{ Lorsque } 1 < \alpha < 2 \text{ (et donc } \sum_{k \ge 1} k\mu(k) = +\infty), \text{ il existe } C_{\mu} > 0 \\ \text{ tel que} \\ G(0, N) \sim \frac{C_{\mu}}{N^{2-\alpha}L(N)}. \qquad (4.7)$$

De plus, pour tout $0 \le \rho < 1$, il existe $C_{\rho, \mu} > 0$ telle que

$$G_{\rho}(0, N) \sim C_{\rho, \mu} \frac{L(N)}{N^{\alpha}}. \qquad (4.8)$$

Ce résultat est analogue à la propriété (4.1) ; le terme exponentiel $e^{R/2}$ est ici absent puisqu'il apparaît en facteur dans (4.2) et que la quantité $G_{\rho}(0, N)$ correspond au terme $M_a(R, u)$ dans le cadre géométrique qui nous intéresse.
*Eléments de démonstration.* — Nous énonçons simplement quelques idées maîtresses qui sous-tendent ces résultats; elles proviennent de la théorie du renouvellement en calcul des probabilités.

Pour tout $N \ge 1$, on a

$$G(0, N) = \sum_{k=0}^{\infty} \mathbb{P}(S_k = N) = \mathbb{E}(\mathcal{N}_N)$$

où $\mathcal{N}_N := \sum_{k=0}^{+\infty} \mathbb{1}_{\{N\}}(S_k)$ est égal au nombre de visites du point $N$ par la marche $(S_k)_{k \ge 0}$. Lorsque $R$ est grand et que la marche $(S_k)_{k \ge 0}$ visite cet intervalle, elle a atteint son régime stationnaire ; c'est ce régime qui dicte le comportement moyen de $\mathcal{N}_N$ lorsque $N \to +\infty$, et celui-ci varie en fonction de $\alpha$ et $L$.

(1). — Lorsque les variables aléatoires $Y_i$ admettent un moment d'ordre 1, on a $0 < m := \mathbb{E}(Y_i) < +\infty$; la loi forte des grands nombres entraîne $S_k \sim km\mathbb{P}$-a.s. lorsque $k \to +\infty$. Par conséquent, lorsque $N \to +\infty$,

$$G(0, N) \sim \mathbb{1}\{k \mid N \le km < N + 1\} \sim \frac{1}{m}.$$

On a $C_\mu = \frac{1}{m}$ dans ce cas.

(2). — On a $\mathbb{E}(Y_i) = +\infty$ et $G(0, N)$ tend vers 0 lorsque $N \to +\infty$. Pour préciser la vitesse de convergence vers 0, on adopte la démarche intuitive ci-dessus, en remplaçant $\mathbb{E}(Y_i)$ par $\mathbb{E}(Y_i; Y_i \le N)$; en effet, lorsque la marche visite le site $N$, les pas effectués jusqu'alors sont tous inférieurs à $N$. On a $\mathbb{E}(Y_i; Y_i \le N) \sim CN^{2-\alpha}L(N)$, d'où (4.7).

Regardons à présent la quantité $G_\rho(0, N) = \sum_{k=0}^{+\infty} \rho^k \mu^{*k}(N)$. Un calcul élémentaire montre que la condition (C) s'étend aux puissances de convolution de $\mu$: pour tout $k \ge 1$, on a, lorsque $N \to +\infty$,

$$\mu^{*k}(N) \sim k \frac{L(N)}{N^\alpha}. \qquad (4.9)$$

Pour pouvoir injecter cette estimée dans l'expression de $G_\rho(0, N)$, on doit disposer d'une majoration de chacun de ces termes, uniformément par rapport à $N$; de façon surprenante, c'est elle qui est la plus délicate à obtenir, même dans ce cadre probabiliste classique. Elle a été obtenue de façon très ingénieuse par R. A. Doney [7], sous l'hypothèse *restrictive* $1 < \alpha < 2$; de ses travaux découle l'existence d'une constante $C > 0$ telle que, pour tout $N, k \ge 1$,

$$\mu^{*k}(N) \le Ck \frac{L(N)}{N^\alpha}. \qquad (4.10)$$

L'équivalence (4.8) découle des estimés (4.9) et (4.10) et du théorème de convergence dominée. Les travaux de R. A. Doney ont été étendus récemment par S. Gouëzel aux systèmes dynamiques hyperboliques [9]. C'est cette
approche qu'a suivie P. Vidotto dans [17], elle fournit la majoration requise pour conclure [15]. □

Les démonstrations de (4.9) et (4.10), plus que les résultats en eux-mêmes, sont utiles pour aborder le cas markovien correspondant au cadre géométrique de cet article ; nous en présentons les grandes lignes.

(1) — Tout d'abord, considérons deux suites $(a_n)_{n \ge 0}$ et $(b_n)_{n \ge 0}$ de réels positifs telles que, lorsque $n \to +\infty$,

$$a_n \sim a \frac{L(n)}{n^\alpha} \quad \text{et} \quad b_n \sim b \frac{L(n)}{n^\alpha} \quad \text{avec } a, b > 0.$$

Posons $A := \sum_{n=1}^{+\infty} a_n$ et $B := \sum_{n=1}^{+\infty} b_n$. Il vient

$$\sum_{\ell=1}^{n} a_{\ell} b_{n-\ell} \sim (aB + bA) \frac{L(n)}{n^{\alpha}}. \quad (4.11)$$

En effet, pour tout $0 \le r < n/2$ fixé, on a, lorsque $n \to +\infty$,

$$\begin{align*} \Sigma_1(r) &:= \sum_{\ell=1}^{r} a_{\ell} b_{n-\ell+1} \sim b \left( \sum_{\ell=1}^{r} a_{\ell} \right) \times \frac{L(n)}{n^{\alpha}}, \\ \Sigma_2(r) &:= \sum_{\ell=n-r+1}^{n} a_{\ell} b_{n-\ell} \sim a \left( \sum_{\ell=1}^{r} b_{\ell} \right) \times \frac{L(n)}{n^{\alpha}} \end{align*}$$

et

$$\begin{align*} \Sigma_3(r) &:= \sum_{\ell=r+1}^{n-r} a_{\ell} b_{n-\ell} \\ &= \sum_{\ell=r+1}^{\lfloor \frac{n}{2} \rfloor} a_{\ell} b_{n-\ell} + \sum_{\ell=\lceil \frac{n}{2} \rceil+1}^{n-r} a_{\ell} b_{n-\ell} \\ &\le \left( \sum_{\ell=r+1}^{+\infty} a_{\ell} + \sum_{\ell=r+1}^{+\infty} b_{\ell} \right) \frac{L(n)}{n^{\alpha}}, \end{align*}$$

à une constante multiplicative près. L'équivalence (4.11) s'obtient en faisant tendre $r$ vers $+\infty$.

(2) — Pour obtenir (4.9), on raisonne par induction. Cette propriété est satisfaite pour $k=1$. Supposons qu'elle est satisfaite pour un certain entier $k \ge 1$, posons $a_n = \mu^{*k}(n)$ et $b_n = \mu(n)$ pour tout $n \ge 0$ (on a donc $a_n \sim k \frac{L(n)}{n^\alpha}$ lorsque $n \to +\infty$) et appliquons (4.11) avec $a = k, b = 1$ et
$A = B = 1$; il vient

$$ \mu^{*(k+1)}(n) \sim (k+1) \frac{L(n)}{n^\alpha}. $$

(3). — Pour disposer de la majoration (4.10), l'idée première est de reprendre la décomposition ci-dessus en écrivant

$$ \sum_{\ell=1}^{n} a_{\ell} b_{n-\ell} = \Sigma_{1}(r) + \Sigma_{2}(r) + \Sigma_{3}(r) $$

avec cette fois-ci $r = r(n) \to +\infty$ lorsque $n \to +\infty$. Prenons par exemple, $r(n) = \varepsilon n$ avec $0 < \varepsilon < 1/2$; on obtient

$$ n^{\alpha} \sum_{\ell=1}^{n} a_{\ell} b_{n-\ell} \le (a+b) \left( \frac{1}{(1-\varepsilon)^{\alpha}} + \frac{2^{\alpha}}{(\alpha-1)\varepsilon^{\alpha}n^{\alpha}} \right). $$

On voit ainsi qu'il n'est pas possible de procéder par induction : le facteur $\left( \frac{1}{(1-\varepsilon)^{\alpha}} + \frac{2^{\alpha}}{(\alpha-1)\varepsilon^{\alpha}n^{\alpha}} \right)$ est strictement supérieur à 1, il se répercute à chaque étape donnant lieu à une majoration à croissance exponentielle. Cette approche ne fonctionne pas !

La parade est d'étudier directement le terme $\mu^{*k}(n)$ quelque soit la valeur de $k$, en examinant la taille des termes qui contribuent à la somme $S_k$; c'est l'approche très astucieuse, mais extrêmement technique, développée par R. A. Doney [7] et reprise par S. Gouëzel [9] et P. Vidotto [14].

## 4.3. Démonstration du Théorème 1.1

L'expression (2.7) joue le rôle de la condition (C) dans le cadre géométrique qui nous concerne; elle gouverne donc la discussion qui suit.

### 4.3.1. Cas sur-critique

Les accroissement de la marche de Markov $(X_n, S_n)_{n \ge 0}$ admettent des moments d'ordre 1; ce cas relève de la théorie du renouvellement de marches de Markov dont les accroissements sont $\mathbb{L}^1$ (cas (1) de la Proposition 4.1). On renvoie le lecteur à [1, 10] pour les détails. Ce résultat découle aussi du théorème général de T. Roblin [16] puisque la mesure de Bowen-Margulis $m_{BM}^{(a)}$ de $\Gamma$ est finie.
### 4.3.2. Cas critique

Le groupe $\Gamma$ est exotique d'exposant $\delta = \frac{1}{2}$ et sa mesure de Bowen-Margulis est infinie; du point de vue du calcul des probabilités, cela correspond au cas (2) de la Proposition 4.1. Suivant la stratégie de R. A. Donney [7] et S. Gouëzel [9], P. Vidotto étudie le comportement de chaque terme $M_{a,k}(R, u)$ lorsque $R \to +\infty$ et ne retient que les termes dont la contribution est déterminante. Posons $\beta = 1 - \alpha$ et notons $\alpha_k, k \ge 1$, la solution de l'équation $\frac{\alpha_k^\beta}{L(\alpha_k)} = k$ et $\Psi$ la densité de la loi stable complètement asymétrique de paramètre $\beta$ $^{(5)}$ Dans un premier temps, P. Vidotto montre que pour tout $K > 0$ et uniformément en $R \in [0, Ka_k]$, on a

$$M_{a^*,k}(R, u) = \frac{C}{a_k} \Psi\left(\frac{R}{a_k}\right) (1 + \epsilon_k(R)) \int_{\mathbb{R}} u(t)dt.$$

Par ailleurs, il établit la majoration suivante, valide pour tous $R \ge a_k \ge 0$: il existe $C > 0$ tel que

$$M_{a^*,k}(R, u) \le Ck \frac{L(R)}{R^\alpha} \int_{\mathbb{R}} |u(t)|dt.$$

Les termes $M_{a,k}(R, u)$ dominants correspondent alors aux indices $k$ tels que $a_k \simeq R$. On renvoie le lecteur à [17] pour une démonstration détaillée.

### 4.3.3. Cas sous-critique

Le groupe $\Gamma$ est convergent avec $\delta = \frac{1}{2}$ et on a $\rho = \rho_{a,\delta} < 1$, d'après le Corollaire 3.3. L'expression

$$M_a(R, u) = h(x_0) \sum_{k \ge 0} \rho^k \tilde{P}_a^k \left( \frac{1}{h} \otimes u \right) (x_0, -R)$$

suggère d'étudier le comportement en $+\infty$ de chaque quantité $\Phi_a(R) \tilde{P}^k(\frac{1}{h} \otimes u)(x_0, -R)$. Pour $k=1$, cette quantité admet une limite en $+\infty$ d'après (2.7); cette propriété est en fait vérifiée pour toute puissance de $\tilde{P}$, comme elle l'est dans le cas des marches aléatoires à pas indépendants (4.9). Ainsi il existe des constantes $C, C_0 > 0$ telles que pour tous $R > 0$ et $k \ge 1$,

$$\Phi_a(R) \left| \tilde{P}_a^k \left( \frac{1}{h} \otimes u \right) (x_0, -R) \right| \le Ck^2 \int_{\mathbb{R}} |u(t)|dt$$

<footnote>$^{(5)}$ une distribution de probabilité est dite *stable et complètement asymétrique de paramètre* $\beta \in ]0, 1[$ lorsque sa fonction caractéristique est de la forme $\psi_\beta(t) = e^{-\Gamma(1-\beta)e^{i\operatorname{sign}(t))\beta\pi/2}|t|^\beta$, où $\Gamma$ désigne la fonction Gamma [8, p. 162].</footnote>
et

$$ \lim_{R \to +\infty} \Phi_a(R) \tilde{P}_a^k \left( \frac{1}{h} \otimes u \right) (x_0, -R) = C_0 \int_{\mathbb{R}} u(t) dt. $$

Nous renvoyons le lecteur à la Proposition 5.1. de [15].

*Remarque.* — Lorsque $a = a^*$, $\alpha = 2$ et $\int_1^{+\infty} \frac{L(t)}{t} dt = +\infty$, le groupe $\Gamma$ est divergent et le comportement asymptotique de $N_{a^*, \Gamma}(R)$ est décrit par (1.5). La démonstration dans ce cas est différente du cas critique évoqué ci-dessus; P. Vidotto s'inspire des travaux de K. B. Erickson [4] et I. Melbourne et D. Terhesiu [11] en étudiant directement le comportement lorsque $R \to +\infty$ de la quantité $M_a(R, u)$, sans passer par l'examen de chacun des termes $M_a(R, u)$, $k \ge 0$. Il « symétrise » tout d'abord $M_a(R, u)$ en posant

$$ \begin{aligned} M_a^\delta(R, u) &= \sum_{\gamma \in \Gamma} e^{-\delta \tilde{b}_a(\gamma, x_0)} (u(\tilde{b}_a(\gamma, x_0) - R) + u(-\tilde{b}_a(\gamma, x_0) - R)) \\ &= \lim_{\xi \searrow \delta} M_a^\xi(R, u). \end{aligned} $$

L'étude du comportement de $M^\xi(R, u)$ lorsque $R \to +\infty$ se fait via l'analyse de Fourier, elle repose sur une étude fine du comportement au voisinage de 0 de la valeur propre dominante des opérateurs de transfert $\mathcal{L}_{a, \xi+it}$, $t \in \mathbb{R}$. Nous renvoyons le lecteur à [17, Section 6] pour les détails.

# 5. Une question

Il est naturel de se demander si le résultat ci-dessus persiste pour des métriques à courbures négatives pincées plus générales.

Lorsque $\Gamma$ n'est pas exotique, l'asymptotique en $e^{\delta \Gamma R}$ reste valide, d'après le théorème de T. Roblin.

Examinons à présent le cas où $\Gamma$ est exotique; son exposant critique est égal à celui d'un ou plusieurs de ses sous-groupes paraboliques maximaux $\mathcal{P}_i$, lesquels sont convergents. À une constante multiplicative près, la mesure de comptage $\sum_{p \in \mathcal{P}_i} e^{-d(\mathbf{o}, p \cdot \mathbf{o})} D_{d(\mathbf{o}, p \cdot \mathbf{o})}$ est une mesure de probabilité sur $\mathbb{R}^+$, dont le moment d'ordre 1 existe si et seulement si la mesure de Bowen-Margulis est finie; dans le cas contraire, comme le suggère la théorie du renouvellement en moyenne infinie, c'est la quantité tronquée

$$ m(R) := \sum_{\substack{p \in \mathcal{P}_i \\ d(\mathbf{o}, p \cdot \mathbf{o}) \le R}} d(\mathbf{o}, p \cdot \mathbf{o}) e^{-\delta \mathcal{P}_i d(\mathbf{o}, p \cdot \mathbf{o})} $$
qui dicte le comportement en l'infinie de la fonction orbitale, une fois écarté
le terme de croissance exponentielle. Ainsi, si la distance *d* vérifie la condi-
tion (1.3), on a, lorsque $R \to +\infty$,

$$
m(R) \sim \int_{1}^{R} \frac{L(t)}{t^{\alpha-1}} dt \sim \frac{1}{2-\alpha} \times L(R) R^{2-\alpha} \quad \text{si } 1 < \alpha < 2
$$

$$
\text{et } m(R) \sim \int_{1}^{R} \frac{L(t)}{t} dt \qquad \text{si } \alpha = 2.
$$

Considérons de façon générale une variété d'Hadamard (X, g) à cour-
bure strictement négative et pincée et Γ un groupe géométriquement fini
d'isométries de X ; supposons que la variété quotient X̄ = X/Γ possède
ℓ ≥ 1 bouts cuspidaux C₁, ..., Cℓ dont on note P₁, ..., Pℓ les groupes para-
boliques maximaux associés. On pose δ = max{δPᵢ | 1 ≤ i ≤ ℓ} et m(R) :=
∑ℓ i=1 ∑ p∈Pᵢ d(o, p·o)e⁻δd(o, p·o).

La question naturelle qui se pose alors est la suivante : sous quelles condi-
tions sur la métrique *g* la fonction orbitale de Γ se comporte-t-elle comme
suit, lorsque *R* → +∞ :

• $N_{\Gamma}(R) \asymp \sum_{i=1}^{\ell} N_{P_i}(R)$ si $\Gamma$ est exotique convergent;

• $N_{\Gamma}(R) \asymp \frac{e^{\delta R}}{m(R)}$ si $\Gamma$ est exotique divergent ?

Bibliographie

[1] M. BABILLOT & M. PEIGNÉ, « Asymptotic laws for Geodesic homology on Hyperbolic manifolds with Cusps », *Bull. Soc. Math. Fr.* **134** (2006), n° 1, p. 119-163.

[2] A. F. BEARDON, « The exponent of convergence of Poincaré series », *Proc. Lond. Math. Soc.* **18** (1968), p. 461-483.

[3] M. BOURDON, « Structure conforme au bord et flot géodésique d'un CAT(−1)-espace », *Enseign. Math.* **41** (1995), n° 1, p. 63-102.

[4] E. K. BRUCE, « Strong renewal theorems with infinite mean », *Trans. Am. Math. Soc.* **151** (1970), p. 263-291.

[5] F. DAL'BO, J.-P. OTAL & M. PEIGNÉ, « Séries de Poincaré des groupes géométrique-
ment finis », *Isr. J. Math.* **118** (2000), p. 109-124.

[6] F. DAL'BO, M. PEIGNÉ, J.-C. PICAUD & A. SAMBUSETTI, « Convergence and counting in infinite measure », *Ann. Inst. Fourier* **67** (2017), n° 2, p. 483-520.

[7] R. A. DONEY, « One-sided local large deviation and renewal theorems in the case of infinite mean », *Probab. Theory Relat. Fields* **107** (1997), n° 4, p. 451-465.

[8] B. V. GNEDENKO & A. N. KOLMOGOROV, *Limit distributions for sums of independent random variables*, Addison-Wesley Publishing Co., 1968, Translated from the Russian, annotated, and revised by K. L. Chung.

[9] S. GOUËZEL, « Correlation asymptotics from large deviations in dynamical systems with infinite measure », *Colloq. Math.* **125** (2011), n° 2, p. 193-212.
[10] S. LALLEY, « Renewal theorems in symbolic dynamics, with applications to geodesic flows, non-Euclidean tessellations and their fractal limits », *Acta Math.* **163** (1989), n° 1-2, p. 1-55.

[11] I. MELBOURNE & D. TERHESIU, « Operator renewal theory and mixing rates for dynamical systems with infinite measure », *Invent. Math.* **189** (2012), n° 1, p. 61-110, erratum in *ibid.* **202** (2015), no. 3, p. 1269-1272.

[12] J.-P. OTAL & M. PEIGNÉ, « Principe variationnel et groupes Kleiniens », *Duke Math. J.* **125** (2004), n° 1, p. 15-44.

[13] W. PARRY & M. POLLICOTT, *Zeta functions and the periodic orbit structure of hyperbolic dynamics*, Astérisque, vol. 187-188, Société Mathématique de France, 1990.

[14] M. PEIGNÉ, « On some exotic Schottky groups », *Discrete Contin. Dyn. Syst.* **31** (2011), n° 2, p. 559-579.

[15] M. PEIGNÉ, S. TAPIE & P. VIDOTTO, « Counting for some convergent groups of isometries in negative curvature », https://hal.archives-ouvertes.fr/hal-01568931, 2017.

[16] T. ROBLIN, *Ergodicité et équidistribution en courbure négative*, Mém. Soc. Math. Fr., Nouv. Sér., vol. 95, Société Mathématique de France, 2003.

[17] P. VIDOTTO, *Ergodic properties of some negatively curved manifolds with infinite measure*, Mém. Soc. Math. Fr., Nouv. Sér., vol. 160, Société Mathématique de France, 2019.