# Identification d'un systeme a non minimum de phase par approximation stochastique : application en transmission de données

Albert Benveniste, Madeleine Bonnet, Maurice Goursat, César Macchi,
Gabriel Ruget

<figure><img src="image_1.png" /></figure>

## To cite this version:

Albert Benveniste, Madeleine Bonnet, Maurice Goursat, César Macchi, Gabriel Ruget. Identification d'un systeme a non minimum de phase par approximation stochastique : application en transmission de données. [Rapport de recherche] IRIA-RR-325, IRIA. 1978, pp.167. hal-04716549

HAL Id: hal-04716549

https://inria.hal.science/hal-04716549v1

Submitted on 1 Oct 2024

HAL is a multi-disciplinary open access
archive for the deposit and dissemination of sci-
entific research documents, whether they are pub-
lished or not. The documents may come from
teaching and research institutions in France or
abroad, or from public or private research centers.

L'archive ouverte pluridisciplinaire HAL, est
destinée au dépôt et à la diffusion de documents
scientifiques de niveau recherche, publiés ou non,
émanant des établissements d'enseignement et de
recherche français ou étrangers, des laboratoires
publics ou privés.

<figure><img src="image_2.png" /></figure>

Distributed under a Creative Commons Attribution 4.0 International License
RIA
laboria

Institut de Recherche
d'Informatique
et d'Automatique

Domaine de Voluceau
Rocquencourt
B. P. 105 78150 - Le Chesnay
France
Tél.: 954 90 20

laboratoire de recherche
en informatique
et automatique

IDENTIFICATION D'UN SYSTÈME
À NON MINIMUM DE PHASE
PAR APPROXIMATION
STOCHASTIQUE :
APPLICATION EN
TRANSMISSION DE DONNÉES

Albert BENVENISTE
Madeleine BONNET
Maurice GOURSAT
César MACCHI
Gabriel RUGET

Rapport de Recherche N° 325

Septembre 1978

167p.
IDENTIFICATION D'UN SYSTEME A NON MINIMUM
DE PHASE PAR APPROXIMATION STOCHASTIQUE
APPLICATION EN TRANSMISSION DE DONNÉES

Albert Benveniste*, Madeleine Bonnet**, Maurice Goursat***

César Macchi**, Gabriel Ruget****

Résumé :

L'objet de ce rapport est la résolution d'un problème d'identification d'un système à non minimum de phase rencontré en transmission de données. Dans le premier chapitre nous présentons le problème et, de manière succinte, son environnement théorique et pratique. Le chapitre 3 est consacré à la construction et l'étude d'un potentiel particulier dont la minimisation donne la solution du problème. Cette minimisation est réalisée par un algorithme de gradient stochastique dont la convergence est assurée par le chapitre 2 qui donne en effet un résultat général de convergence des processus d'approximation stochastique sous des hypothèses adaptées aux applications envisagées. Nous terminons par les applications et résultats numériques qui forment le chapitre 4.

Abstract :

The purpose of this report is the solution of an identification problem for a non-minimum phase system encountered in data communication systems. In the first chapter we set the problem and briefly present its theoretical and practical environment. Chapter 3 is devoted to the construction and the study of a special potential which gives, by minimization, the solution of our problem. The minimization is achieved by a stochastic gradient algorithm. The convergence of the algorithm is ensured by a general result given in chapter 2 and relative to the convergence of stochastic approximation algorithms under suitable assumptions which are adapted to the applications in view. Numerical results are given in chapter 4.

<footnote>* IRISA, avenue du Général Leclerc, 35042 Rennes Cédex</footnote>

<footnote>** Université Paris VI, Institut de Programmation, 4 pl. Jussieu, 75230 Paris Cédex 05</footnote>

<footnote>*** IRIA/LABORIA, Domaine de Voluceau, 78150 Le Chesnay</footnote>

<footnote>****Université de Paris-Sud Orsay, Bât. 425, 91405 Orsay Cédex.</footnote>
# INTRODUCTION

Nous présentons dans ce rapport la résolution d'un problème d'identification d'un système linéaire non contrôlé excité par des réalisations non observées de variables aléatoires de la loi non-gaussienne connue. Le problème pratique qui est à l'origine de cette étude se pose en transmission de données. Un émetteur envoie par le biais d'un canal S (ligne téléphonique) une suite de données numériques que le récepteur doit reconstruire. Il utilise pour cela un dispositif (égaliseur) qui doit inverser le système linéaire S : la procédure employée est un algorithme stochastique itératif dont l'initialisation (phase d'accrochage) nécessite l'émission d'une séquence de données connues. Dans certaines circonstances, cette émission ne peut être réalisée et l'égaliseur doit donc s'adapter directement sur le flot de données reçues. Sous cette forme générale, le problème semble bien connu et avoir pour solution par exemple les méthodes d'identification aux moindres carrés. Mais dans notre cas, S est à non-minimum de phase : on perd alors l'unicité de la factorisation du spectre de la sortie et les méthodes classiques deviennent inopérantes. Si les entrées étaient gaussiennes, les statistiques du second ordre étant exhaustives, le problème serait même totalement insoluble. La démarche de la méthode de résolution est classique : définition d'une fonctionnelle spéciale dont la minimisation donne la solution du problème, cette minimisation étant réalisée par un algorithme de gradient stochastique.

La première partie de cette étude est consacrée à la présentation générale du problème et la méthode de résolution. Elle comporte également des rappels élémentaires de transmission données ainsi que la présentation de domaines connexes (problèmes d'intérêt voisin ou méthodes parallèles). Ces éléments ont paru nécessaires pour permettre aux lecteurs d'horizons différents de cerner au mieux le problème.

La deuxième partie donne un résultat général de convergence d'algorithmes d'approximation stochastique : il s'agit de la convergence vers le chemin moyen sous des hypothèses adaptées à notre cas (présence en particulier de discontinuités et de contraintes). L'objet de la troisième partie est la définition et l'étude du potentiel et des algorithmes de minimisation. Les algorithmes sont des algorithmes de gradient stochastique :
disposant du résultat de la partie II l'étude de convergence se ramène à l'étude du champ des lignes de plus grande pente du potentiel; cette étude est assez délicate à cause de la forme du potentiel. Les algorithmes utilisés en pratique sont les algorithmes théoriques tronqués : l'étude de l'effet de troncature termine ce chapitre.

Le chapitre IV est consacré aux applications et résultats numériques. Nous avons pris plusieurs exemples dont certains correspondent à des lignes existantes sur le réseau PTT.

La résolution d'un problème pratique nous a amenés à des méthodes et des résultats qui dépassent largement le cadre de l'application. Cela peut donc présenter un intérêt pour des lecteurs différents. Pour cette raison les cinq parties de ce rapport sont, au prix de quelques redits, présentées de manière presque autonome.

Le plan est le suivant :

<table><thead><tr><th></th><th>Pages</th></tr></thead><tbody><tr><td>I PRESENTATION GENERALE DU PROBLEME</td><td>5</td></tr><tr><td>1. - Introduction</td><td>5</td></tr><tr><td>2. - Transmission de données - Rappels</td><td>5</td></tr><tr><td>2.1. - Modulation linéaire d'une porteuse</td><td>5</td></tr><tr><td>2.2. - Modulation d'amplitude de deux porteuses en quadrature</td><td>8</td></tr><tr><td>3. - Egalisation - Rappels - Problèmes</td><td>11</td></tr><tr><td>3.1. - Egalisation non récursive</td><td>11</td></tr><tr><td>3.2. - Accrochage classique d'un égaliseur</td><td>14</td></tr><tr><td>3.3. - Problème de l'accrochage d'un égaliseur sur un flot de données inconnues</td><td>16</td></tr><tr><td>4. - Environnement du problème et méthode de résolution</td><td>17</td></tr><tr><td>4.1. - Identification aux moindres carrés</td><td>17</td></tr><tr><td>4.2. - Egaliseur récursif et selon le maximum de vraisemblance</td><td>17</td></tr><tr><td>4.3. - Accélération de convergence</td><td>20</td></tr><tr><td>4.4. - Convergence d'algorithmes stochastiques récursifs</td><td>21</td></tr></tbody></table>
5. - Méthode de résolution du problème d'identification
aveugle 23

Bibliographie 25

## II APPROXIMATION STOCHASTIQUE : RESULTAT GENERAL DE CONVERGENCE ET APPLICATION AUX ALGORITHMES UTILISES EN TRANSMISSION DE DONNEES 26

1. - Introduction 26

2. - Le théorème principal 28

2.1. - Définition d'un processus d'approximation stochastique 28

2.2. - Quelques conditions heuristiques 30

2.3. - Hypothèses et énoncé du théorème 31

3. - Etude des hypothèses H2 et H4 - Quelques exemples 33

3.1. - Etude de H4, condition de Lipschitz en moyenne 34

3.2. - Etude des conditions de mélange - Hypothèses H1 et H2 36

4. - Extension du résultat principal à l'approximation stochastique sur une variété; application aux algorithmes avec contraintes égalités 42

5. - Conclusion 44

Bibliographie 63

## III DEFINITION ET ETUDE D'UNE FONCTIONNELLE MESURANT LA DEFORMATION PAR ROTATION D'UNE LOI PRODUIT. APPLICATION : ACCROCHAGE AVEUGLE D'UN EGALISEUR 64

1. - Introduction 64

2. - Enoncé du problème; description de la méthode et de l'al-
gorithme 65

3. - Mesure de la déformation d'une loi produit par une rotation :
  étude du potentiel J 70

3.1. - Notations 70

3.2. - Utilisation de la ligne globale 71

3.3. - Etude de la restriction à s² du potentiel V: une
mesure de la déformation d'une loi produit par
rotation 76

3.4. - Etude du potentiel V sur ℓ² 82
3.5. - Etude des lignes de plus grande pente de J 86

3.6. - Utilisation d'un blanchisseur : un algorithme avec contraintes 88

3.7. - Comment converger vers +S⁻¹ plutôt que vers -S⁻¹? 90

4. - Justification de la troncature 91

4.1. - Une mesure de la rapidité de convergence de (T_t) 92

4.2. - Effet de la troncature sur la fonction de Lyapunov δ 95

4.3. - Repérage des minima locaux de V sur Eⁿ 96

4.4. - La troncature pour l'algorithme (3.39) avec blanchisseur et contraintes 100

5. - Etude des algorithmes d'approximation stochastique (2.7) et (3.39) 101

## IV APPLICATIONS ET RESULTATS NUMERIQUES 123

1. - Exemples tests 123

1.1. - Ligne téléphonique 123

1.2. - Cas d'école 142

2. - Lignes du réseau en fonctionnement normal 148
# I - PRESENTATION GENERALE DU PROBLEME

## 1. - INTRODUCTION

Nous présentons dans ce chapitre le problème à résoudre concernant l'égalisation adaptative sur des données inconnues. La méthode de résolution que nous apportons a un intérêt qui dépasse le cadre des égaliseurs et emploie des techniques utilisées dans des domaines très différents. Nous développons cette partie pour des lecteurs d'horizons divers : nous commençons par quelques rappels succincts sur la transmission de données. Nous citons ensuite quelques problèmes (résolus en pratique pour l'essentiel) dans ce domaine : ceci donne un aperçu des techniques utilisées et nous précisons pourquoi elles s'appliquent mal à notre problème. Le chapitre II lève une hypothèse restrictive par rapport aux démonstrations de convergence existantes pour certains algorithmes décrits ici. Nous présentons également un résultat analogue à celui du chapitre II mais correspondant à un cadre d'hypothèses différent.

## 2. - TRANSMISSION DE DONNEES - RAPPELS ([1], [2], [3])

### 2.1. - Modulation linéaire d'une porteuse

La modulation linéaire (ou en amplitude) d'une onde porteuse de fréquence $f_c$ ($f_c$ = 1800 Hz par exemple) par un message de données est généralement utilisée pour transmettre des données à grande vitesse sur une ligne téléphonique $\mathcal{L}$. Rappelons qu'une ligne téléphonique a une bande passante de 3000 Hz (300 - 3300 Hz) et que le débit binaire maximum couramment réalisé sur ces lignes est 9600 bits par seconde.

Le type le plus simple de modulation linéaire est la modulation d'une seule porteuse $\cos(2 \pi f_c t - \phi)$ où $\phi$ est une phase aléatoire équirépartie sur $[0, 2 \pi]$. La figure 1 représente ce type de transmission.
<figure><img src="image_3.png" /><figcaption>Figure 1
Transmission de données par modulation linéaire d'une porteuse</figcaption></figure>

Le message $d(t)$ à émettre est de la forme :

$$ (2.1) \qquad d(t) = \sum_{k=-\infty}^{+\infty} a_k g_{\Delta}(t - k \Delta) $$

les symboles $a_k$ qui sont les données à transmettre prennent des valeurs discrètes dans un ensemble fini, par exemple $\{\pm 1, \pm 3\}$. Ils sont transmis à intervalles réguliers $\Delta$.

La fonction $g_{\Delta}(t)$ est par exemple la fonction indicatrice de l'intervalle $[0, \Delta]$. La figure 2 représente un message à émettre.

<figure><img src="image_4.png" /><figcaption>Figure 2
Exemple de message</figcaption></figure>

En remarquant qu'une impulsion rectangulaire de largeur $\Delta$ est la réponse d'un certain filtre linéaire dont l'entrée est une impulsion de Dirac, on peut montrer que le système émetteur-ligne-récepteur de la figure 1 est équivalent au système de la figure 3. Dans ce système, appelé système en bande de base équivalent,
<figure><img src="image_5.png" /><figcaption>Figure 3
Système en bande de base</figcaption></figure>

Le signal émis est :

$$ (2.2) \qquad e(t) = \sum_{k=-\infty}^{\infty} a_k \delta(t - k \Delta), $$

le signal reçu a pour expression :

$$ (2.3) \qquad x(t) = \sum_{k=-\infty}^{+\infty} a_k s(t - k \Delta) + b(t) $$

où $b(t)$ est un bruit additif et $s(t)$ est la réponse impulsionnelle d'un filtre linéaire.

La figure 4 donne un exemple de réponse $s(t)$.

<figure><img src="image_6.png" /><figcaption>Figure 4
Exemple de réponse impulsionnelle $s(t)$</figcaption></figure>

Dans la pratique on désire utiliser un intervalle $\Delta$ aussi petit que possible pour augmenter le débit d'information : $s(t)$ peut avoir une durée de 1'ordre de 10 à 20 s. Ceci provoque un chevauchement des impulsions successives ou interférences intersymboles et pose donc un problème
de reconstitution de la suite de données émises à partir du signal reçu.
Nous reviendrons plus tard sur ce problème.

## 2.2. - Modulation d'amplitude de deux porteuses en quadrature (MAQ)

Pour la transmission de données à grande vitesse sur ligne téléphonique on utilise généralement une modulation d'amplitude de deux porteuses en quadrature dont nous verrons l'avantage ci-dessous. Les données de rang pair et de rang impair peuvent par exemple être séparées pour constituer deux messages de données $a_1(t)$ et $a_2(t)$. Ces messages modulent ensuite deux porteuses en quadrature comme l'indique la figure 5.

<figure><img src="image_7.png" /><figcaption>Figure 5
Modulation de deux porteuses en quadrature</figcaption></figure>

Nous avons ainsi :

$$ (2.4) \quad u(t) = a_1(t) \cos(2 \pi f_c t - \phi) + a_2(t) \cos(2 \pi f_c t - \phi + \frac{\pi}{2}) $$

avec

$$ (2.5) \quad a_i(t) = \sum_{k=-\infty}^{+\infty} a_{i,k} g_{\Delta}(t - k\Delta - \tau_o) \quad \text{pour } i = 1 \text{ et } 2 $$

avec $a_{i,k} \in \{\pm 1, \pm 3\}$ par exemple et retard $\tau_o = \text{variable équirépartie}$ sur $[0, \Delta]$

Nous pouvons écrire $d(t)$ sous la forme :

$$ (2.6) \quad u(t) = A(t) \cos(2 \pi f_c t - \phi - \varphi(t)) \quad \text{avec} $$
$$
(2.7) \qquad \left\{
\begin{aligned}
a_1(t) &= A(t) \cos \varphi(t) \\
a_2(t) &= A(t) \sin \varphi(t)
\end{aligned}
\right.
$$

A(t) et φ(t) sont des fonctions en escalier de palier Δ ne prenant qu'un
nombre fini de valeurs A_j et φ_j par exemple.

$$
(2.8) \qquad \left\{
\begin{aligned}
A_1 &= A_2 = A_3 = A_4 = \sqrt{2} \\
\varphi_1 &= \frac{\pi}{4}, \quad \varphi_2 = \frac{3\pi}{4}, \quad \varphi_3 = \frac{5\pi}{4}, \quad \varphi_4 = \frac{7\pi}{4}
\end{aligned}
\right.
$$

La figure 6 représente le diagramme spatial du signal émis,
c'est-à-dire l'ensemble des points représentatifs de $A_j$ e$^{i\varphi_j}$ dans le
plan complexe

<figure><img src="image_8.png" /><figcaption>Figure 6
Diagramme spatial d'un signal émis</figcaption></figure>

La figure 7 représente le diagramme spatial normalisé par le
CCITT pour les transmissions à 9600 bits/s (si on émet des signaux $a_i \in E$
chaque $\Delta$ seconde avec $E$ ayant $2^q$ éléments, le débit binaire est de $q/\Delta$
bits/s).
<figure><img src="image_9.png" /><figcaption>Figure 7</figcaption></figure>

Diagramme spatial CCITT pour 9600 bits/s

Comme dans le cas d'une seule porteuse on peut montrer qu'on a
un système en bande de base équivalent analogue à la figure 3 mais avec un
signal complexe c'est-à-dire que le signal reçu a pour expression :

$$
(2.9) \qquad x(t) = x_c(t) + i x_s(t)
$$

$$
(2.10) \qquad x(t) = \sum_{k} a_{k} s(t - k\Delta) + b(t)
$$

avec

$$
(2.11) \quad \left\{
\begin{aligned}
a_k &= a_{1,k} + i a_{2,k} \\
s(t) &= s_1(t) + i s_2(t)
\end{aligned}
\right.
$$

où s(t) est la réponse impulsionnelle complexe du filtre équivalent à
l'ensemble {modulateur, filtres émission-réception, ligne de transmission,
démodulateur}.

Dans ce cas le phénomène d'interférences intersymboles est
analogue au cas d'une seule porteuse.

Voyons maintenant brièvement l'avantage de la modulation de
deux porteuses : on considère un signal s dont la mesure est perturbée
par un bruit b de niveau donné; sur la figure 8 on a représenté le do-
maine (✔) de s + b.
<figure><img src="image_10.png" /><figcaption>Figure 8
Zone d'incertitude d'un signal perturbé par un bruit</figcaption></figure>

Prenons par exemple le cas de la figure 6 : on veut en sortie de ligne mettre un dispositif qui retrouve les données émises; étant donné qu'il y a un bruit additif en sortie de ligne, il est donc intéressant d'avoir une distance entre les $X_i$ aussi grande que possible. On voit donc que une même tolérance vis-à-vis du bruit (distance $X_i, X_j$) il faut une puissance de signal $(\frac{1}{4} \sum_i |X_i|^2)$ supérieure dans le cas d'une seule porteuse (diagramme sur l'axe réel). D'un point de vue pratique cela signifie : pour un support de transmission donné, la limite de puissance est fixée; pour cette puissance, avec la même tolérance vis-à-vis du bruit et le même débit d'information, la bande de fréquence occupée est plus petite dans le cas de modulation de deux porteuses que dans le cas d'une porteuse. Ceci permet de placer à l'entrée du récepteur un filtre passe-bande de largeur plus petite et donc de réduire la puissance du bruit (à même débit on divise la bande par 2 ou à même bande on multiplie le débit par 2).

### 3. - EGALISATION - RAPPELS - PROBLEMES

#### 3.1. - Egalisation non récursive

Pour retrouver les données émises ($a_k$) à partir du signal démodulé $x(t)$ on peut envisager plusieurs types de récepteurs. Nous décrivons ici les récepteurs les plus simples constitués par un échantillonneur aux instants $k\Delta$, un filtre numérique non récursif et un détecteur à seuil conformément à la figure 9.
<figure><img src="image_11.png" /><figcaption>Figure 9
Egaliseur linéaire non récursif</figcaption></figure>

Le filtre numérique du récepteur ainsi décrit a essentiellement pour objet d'être le filtre inverse de la ligne de transmission. Ainsi le gain de l'ensemble {ligne - filtre de réception} est uniforme dans la bande de fréquence utile. C'est pourquoi ce récepteur est appelé égaliseur.

$x_k$ représente l'échantillon à kΔ.

Soit H le vecteur des coefficients de l'égaliseur :

$$ (3.1) \quad H = (h_{-N}, \dots, h_0, \dots, h_N) $$

et $X_k$ le vecteur des échantillons présents dans le filtre

$$ (3.2) \quad X_k = (x_{k+N}, \dots, x_{k+N-1}, \dots, x_{k-N}) $$

La sortie de l'égaliseur est :

$$ (3.3) \quad C_k = \sum_{i=-N}^{N} h_i \cdot x_{k-i} \quad \text{que nous noterons désormais} $$

$$ (3.4) \quad C_k = H * X_k $$

Le problème est donc de déterminer H tel que $c_k = a_k$, ou $c_k \approx a_k$ car les entrées sont discrètes. Le filtre numérique est suivi
d'un détecteur à seuils c'est-à-dire que si les données transmises sont {±1, ±3} alors les seuils sont {0, ±2} et si par exemple $c_k \in [0, 2]$ on prend $\hat{a}_k = 1$. De ce fait, dans le cas d'une décision correcte, le bruit est éliminé (pour un niveau pas trop important).

Dans le cas de la modulation de deux porteuses en quadrature la situation est analogue. Le filtre numérique est alors un filtre complexe représenté sur la figure 10.

<figure><img src="image_12.png" /><figcaption>Figure 10
Egaliseur linéaire non récursif pour deux porteuses en quadrature</figcaption></figure>

Etant donné l'identité des deux situations, nous ne considérons plus dans ce qui suit que le cas d'une porteuse (sauf pour les applications numériques où nous prendrons un cas réel).

Notre système est désormais celui de la figure 11.

<figure><img src="image_13.png" /><figcaption>Figure 11
Modèle de la transmission de données</figcaption></figure>

- Données transmises ($a_n$) suite de variables aléatoires indépendantes équiréparties sur un ensemble de valeurs E fini, par exemple $E = \{±1, ±3\}$. Dans des cas plus généraux, nous considérons les ($a_n$) comme des variables aléatoires indépendantes (inconnues) de la loi $v$, dite loi d'entrée, connue.
- S = ($s_k$)$_{-N \le k \le N}$ ($N = +\infty$ éventuellement) système linéaire qui représente
le canal de transmission. S est inconnu et supposé stationnaire.

- Observations : $x_n = \sum_{k=-N}^{+N} s_k a_{n-k} = S * A_n$ avec la notation

$$
(3.5) \qquad A_n = (a_{n-N}, \dots, a_n, \dots, a_{n+N})
$$

- Egaliseur $H = (h_k)_{-N \le k \le N}$ système ajustable; on cherche $H$ pour avoir la sortie $c_n \approx a_n$.

3.2. - Accrochage classique d'un égaliseur

On cherche à retrouver les données transmises en utilisant
un vecteur $H^*$ qui réalise le filtrage inverse de S et qui minimise l'effet
du bruit. Pour cela, on cherche $H^*$ tel que :

$H$ minimise l'erreur quadratique moyenne

$$
(3.6) \qquad e(H) = \mathbb{E}(|c_n - a_n|^2)
$$

Pour cette détermination, on utilise un algorithme de gradient
stochastique

$$
(3.7) \qquad H^{n+1} = H^n - \tau_n X_n (c_n - a_n)
$$

$\tau > 0$ est le pas du gradient.

Le premier problème qui se pose est celui de la convergence
de cet algorithme. Les résultats standards de la littérature (cf. par
exemple [2], [3]) portent sur l'algorithme suivant :

$$
(3.8) \quad \begin{cases}
H^{n+1} = H^n - \tau_n X_n (c_n - a_n) & \text{avec } \tau_n \text{ tel que} \\
\tau_n > 0, \quad \tau_n \downarrow 0, \quad \sum_n \tau_n^2 + \sum_n \tau_n < +\infty
\end{cases}
$$
On a alors $H^n \to H^* \text{ p-s sous l'hypothèse d'indépendance des}$
$(X_n)$ ce qui est une hypothèse injustifiée ici, car $X_n$ et $X_{n-1}$ ont 2 n
coordonnées identiques. Nous citons ci-dessous un résultat récent sur la
convergence de tels algorithmes sans indépendance [5]. Nous donnons au
chapitre II un résultat général de convergence sans indépendance pour les
algorithmes du type (3.7) ($\tau$ constant est bien le cas concret). Signalons
enfin que la simple convergence en moyenne n'a qu'un faible intérêt pratique.

Le deuxième problème est la présence de $(a_n)$ inconnu dans (3.7).
Ce problème est réglé en pratique par la phase d'acquisition pendant la-
quelle l'émetteur commence par envoyer un train de signaux connus que le
récepteur utilise pour amener $H$ au voisinage de $H^*$ par (3.7) puis continue
ensuite avec :

$$
(3.9) \qquad H^{n+1} = H^n - \tau X_n (c_n - \hat{a}_n).
$$

L'algorithme continue car S n'est évidemment pas stationnaire
en pratique; il y a deux raisons pour lesquelles (3.9) marche bien :

- l'évolution de S est lente devant la vitesse d'adaptation de l'algorithme,

- les données sont discrètes et par exemple si $|c_n - a_n| < 1$ alors $\hat{a}_n = a_n$ ce qui donne un voisinage de $H^*$ pour $H^n$ assez important pour retrouver les données sans erreurs, autrement dit pour que (3.9) et (3.7) soient identiques. Pendant la phase d'acquisition, on conserve l'algorithme (3.7) pour des raisons de simplicité : il n'est pas envisageable d'employer des procédures numériques très compliquées dans un modem.

Il reste cependant un problème pour l'accrochage : on cherche
naturellement à augmenter les vitesses de transmission ce qui, pour une
ligne donnée, a pour effet d'augmenter les interférences intersymboles.
Ce phénomène accroît la difficulté d'inversion de S d'où la nécessité
d'allonger les trains de signaux connus pour la phase d'acquisition. Cette
phase étant répétée très souvent, il se pose donc le problème d'accélérer
la convergence de (3.7) pour les grandes vitesses. Nous citons en 4.3 un
exemple de procédure proposée pour illustrer ce problème [6].
### 3.3. - **Problème de l'accrochage d'un égaliseur sur un flot de données inconnues**

Nous exposons ici le problème pratique que nous avons étudié. Nous considérons deux types de liaisons entre terminaux téléinformatiques : les liaisons point à point et les liaisons multipoints (cf. figure 12).

<figure><img src="image_14.png" /><figcaption>**Figure 12**
Liaisons point à point (a) et multipoint (b)</figcaption></figure>

Dans le premier cas si B décroche, A émet une nouvelle séquence d'accrochage. Dans le second cas, les terminaux $B_i$ sont en permanence à l'écoute de A; si l'un d'eux décroche il n'est pas souhaitable que A interrompe son émission pour émettre une séquence connue. Il importe que le terminal décroché s'adapte sur le flot de données inconnues qu'il reçoit. Nous avons donc un problème d'identification aveugle à résoudre. Ce problème est d'ailleurs résolu partiellement sur le plan pratique. Pour certains modems on a imaginé d'utiliser le procédé suivant : on utilise (3.9) avec une initialisation choisie "au mieux"; après un certain délai fixé a priori et en cas d'échec on recommence l'opération avec une nouvelle initialisation avec renouvellements éventuels. Pour 4800 bits/s cette manipulation semble suffire en pratique. Pour une vitesse de 9600 bits/s un modem (CODEX) existe : la procédure employée n'est pas dévoilée, on sait simplement que le temps maximum d'adaptation annoncé est de 1 s.
# 4. ENVIRONNEMENT DU PROBLEME ET METHODE DE RESOLUTION

## 4.1. Identification aux moindres carrés

Nous reprenons ici très rapidement une partie du § 1 chapitre III. Il existe un problème très classique analogue au problème que nous venons de poser : l'identification d'un système linéaire S excité par un bruit blanc. Dans ce cas $(a_n)$ est l'innovation de $(x_n)$ donnée par :

$$ (4.1) \qquad a_n = \lambda(x_n - \mathbb{E}(x_{n-1}, x_{n-2}, \dots)) \quad \text{avec} $$

$\mathbb{E}(./.)$ estimateur aux moindres carrés; $\lambda$ coefficient d'ajustage de la variance. Cette méthode marche sous l'hypothèse : S est à minimum de phase [5]. En effet cela revient à factoriser la matrice de covariance de la sortie : la factorisation est unique si S est à minimum de phase. Mais dans notre cas S est à non minimum de phase : (4.1) ne donne alors que des variables non corrélées; nous avons ainsi seulement un filtre blanchisseur. Dans ce cas avec des entrées gaussiennes le problème d'inversion de S est insoluble. Il apparaît donc que dans la méthode que nous allons proposer la loi d'entree joue un rôle essentiel (clairement explicité au chapitre III).

Nous avons voulu montrer ici simplement le parallèle :

- système à minimum de phase
  entrées gaussiennes

identification aux moindres carrés

- système à non minimum de phase
  entrées non gaussiennes

méthode proposée ici

## 4.2. Egaliseur récursif et selon le maximum de vraisemblance

Nous avons décrit et utilisé un seul type d'égaliseur : l'égaliseur linéaire non récursif. Nous donnons ici deux exemples illustrant deux types d'égaliseurs différents (nous passons sous silence les très nombreuses variantes de ces trois types). La figure 13 représente un égaliseur récursif.
<figure><img src="image_15.png" /><figcaption>Figure 13
Egaliseur récursif</figcaption></figure>

On note :

(4.2) $F = (h_{-N}, \dots, h_0, \dots, h_N, g_1, \dots, g_M)$ coefficients de l'égaliseur

(4.3) $Z_k = (x_{k+N}, \dots, x_k, \dots, x_{k-N}, a_{k-1}, \dots, a_{k-M})$ échantillons présents dans l'égaliseur

La sortie de l'égaliseur est alors

(4.4) $$C_k = F * Z_k$$

La formulation est analogue à celle de l'égaliseur non récursif; la minimisation de l'erreur quadratique moyenne donne l'algorithme de gradient stochastique

(4.5) $$F^{n+1} = F^n - \tau Z_n (c_n - a_n)$$

Voyons maintenant brièvement le principe de l'égaliseur selon le maximum de vraisemblance : il existe un filtre adapté blanchissant tel que la réponse globale du système soit :

(4.6) $$y_k = \sum_{j=0}^{N} a_{k-j} w_j + B_k$$
les $B_k$ étant non corrélés et les $y_k$ étant un résumé exhaustif de la sortie de ligne pour l'estimation des $(a_k)$.

On note :

$$ (4.7) \qquad \begin{cases} A_k = (a_k, \dots, a_{k-N}) \\ W = (w_o, \dots, w_N) & y_k = A_k * W + B_k \\ E_k = (a_{k-1}, \dots, a_{k-N}) \end{cases} $$

$E_k \in \mathcal{E} = \{E_k\}$ ensemble des $q$-états possibles (si $a_k$ prend $q$ valeurs) supposons qu'un message envoyé m soit de la forme

$$ (4.8) \qquad m = \left( \underbrace{1, \dots, 1}_{N}, a_1, \dots, \underbrace{a_p, \dots, 1}_{N} \right) $$

c'est-à-dire

$$ (4.9) \qquad m = (E_1, E_2, \dots, E_{p+N}, E_{p+N+1} = E_1) $$

$E_1$ et $E_{p+N+1}$ sont supposés connus pour la commodité de l'exposé.

On peut alors définir un treillis

$$ (4.10) \qquad \mathcal{E}(E_1, E_{p+N+1}) = \{m(E_1, E_{p+N+1}) / E_2, \dots, E_{p+N} \in \mathcal{E} \text{ quelconques, réalisables}\} $$

Au message m défini en (4.9) on associe

$$ (4.11) \qquad A = (A_1, \dots, A_{p+N}) $$

Le message estimé $\hat{m}$ selon le maximum de vraisemblance est celui qui correspond au plus court chemin du treillis :

$$ (4.12) \qquad \hat{m} = \inf_{m} \Lambda(m) \quad \text{avec } \Lambda(m) = \sum_{k=1}^{p+1} (y_k - A_k * W)^2 $$

Sous cette forme la méthode paraît très lourde en calcul et en mémorisation. En fait elle se simplifie avec le principe d'optimalité de la programmation dynamique : tout sous-chemin du chemin optimal est optimal.
Il suffit alors de mémoriser les sous-chemins optimaux et de calculer les chemins optimaux de pas en pas avec ces sous-chemins. De nombreux travaux ont eu pour objet la mise au point d'un algorithme simple sur le principe précédent.

### 4.3. - Accélération de convergence

Nous illustrons ce problème en reprenant ici R.D. GITLIN - F.R. MAGEE [6]. On reprend l'algorithme (3.7),

$$ (4.13) \quad H^{n+1} = H^n - \tau X_n (c_n - a_n) $$

On suppose pour simplifier que les données sont $\{\pm 1\}$. On a

$$ (4.14) \quad H^n \to H^* = R^{-1}. \quad S \quad S \text{ étant la ligne et R la matrice de covariance de l'observation d'éléments :} $$

$$ (4.15) \quad R_{i-j} = \sum_{n=-N}^{+N} S_{n-i} S_{n-j} + \sigma^2 \delta_{i-j}, \quad \sigma^2 = \text{variance du bruit additif b(t)} \\ ((4.13) \text{ peut s'écrire } H^{n+1} = H^n - \tau X_n (X_n^t H_n - a_n) = H^n - \tau (R_n H_n - a_n X_n)) $$

La convergence de (4.13) dépend du rapport $\lambda_{min}/\lambda_{max}$ des valeurs propres minimum et maximum de R. Comme pour le gradient déterministe on cherche alors à orthogonaliser R et à utiliser l'algorithme

$$ (4.16) \quad H^{n+1} = H^n - \tau R^{-1} X_n (c_n - a_n) \quad (\text{pour avoir } \lambda_{min}/\lambda_{max} = 1) $$

$R^{-1}$ est inconnu; on emploie alors un algorithme auto-orthogonalisant :

$$ (4.17) \quad H^{n+1} = H^n - \tau D^n X_n (c_n - a_n) \quad \text{avec } D^n \to R^{-1}, $$

Pour réaliser $D^n \to R^{-1}$ le premier algorithme cité est défini par :

$$ (4.18) \quad D_{ij}^n = D_{i-j}^n = \sum_{k=-N}^{+N} h_k^n h_{k-(i-j)}^n \quad \text{avec } h_{k-(i-j)} = 0 \text{ si } |k-(i-j)| > N $$

Pour le second on remarque que :
$\hat{\mathbb{R}}_{n+1} = \frac{1}{n+1} \sum_{j=1}^{n+1} X_h^j X_j^t$ peut s'écrire sous forme récursive

$$
(4.19) \quad \hat{\mathbb{R}}_{n+1} = \frac{n}{n+1} \hat{\mathbb{R}}_n + \frac{1}{n+1} X_{n+1} X_{n+1}^t
$$
Si on note $\tilde{\mathbb{R}}_{n+1} = n \hat{\mathbb{R}}_{n+1}$ (4.19) devient

$$
(4.20) \quad \tilde{\mathbb{R}}_{n+1} = \tilde{\mathbb{R}}_n + X_{n+1} X_{n+1}^t
$$
que l'on inverse de manière récursive par :

$$
(4.21) \quad \tilde{D}_{n+1} = \tilde{D}_n - \frac{\tilde{D}_n X_{n+1} X_{n+1}^t \tilde{D}_n}{1 + X_{n+1}^t \tilde{D}_n X_{n+1}}
$$
et on obtient l'algorithme avec $D_n = \frac{1}{n} \tilde{D}_n$.

Il existe d'autres procédures mais leur défaut majeur semble
être toujours le même : le degré de complexité trop important.

4.4. - <u>Convergence d'algorithmes stochastiques récursifs</u>

Nous présentons ici un résultat de L.LJUNG [5] comparable
au résultat du chapitre II.

Considérons l'algorithme :

$$
(4.22) \quad x(t) = x(t-1) + \gamma(t) Q(t; x(t-1), \varphi(t)) \\
x(t) \in \mathbb{R}^n ; \quad \gamma(t) \in \mathbb{R} ; \quad Q : \mathbb{R} \times \mathbb{R}^n \times \mathbb{R}^m \to \mathbb{R}^n \text{ déterministe.}
$$

$x(t)$ représente par exemple l'estimé d'un vecteur de paramètres.

$\varphi$ représente par exemple l'observation; on prend $\varphi$ sous la forme :

$$
(4.23) \quad \varphi(t) = A(x(t-1)) \varphi(t-1) + B(x(t-1)) e(t) \quad \varphi \in \mathbb{R}^m
$$

A et B sont des matrices m × m et m × r ; e(.) est une suite de vecteurs
aléatoires (bruit d'excitation par exemple).
A l'algorithme précédent on associe une équation différentielle et on montre que $x(.)$ suit asymptotiquement les trajectoires de cette équation.

On note :

$$ (4.24) \quad D_S = \{x/A(x) \text{ a toutes ses valeurs propres à l'intérieur du cercle unité}\} $$

on a alors :

$$ (4.25) \quad \forall x \in D_S \quad \exists \lambda = \lambda(x) \quad \text{t.q} \quad |A(x)^k| < C \lambda(x)^k \quad \lambda(x) < 1 $$

Pour $\bar{x} \in D_S$ on définit les variables aléatoires $\bar{\varphi}(t, \bar{x})$ et $v(t, \lambda, c)$ avec $\lambda < 1$ par

$$ (4.26) \quad \begin{cases} \bar{\varphi}(t, \bar{x}) = A(\bar{x}) \quad \bar{\varphi}(t-1, \bar{x}) + B(\bar{x}) \quad e(t) \\ \bar{\varphi}(0, \bar{x}) = 0 \end{cases} $$

$$ (4.27) \quad \begin{cases} v(t, \lambda, c) = \lambda v(t-1, \lambda, c) + c|e(t)| \\ v(0, \lambda, c) = 0 \end{cases} $$

Soit $D_R$ un ouvert connexe de $D_S$. On fait les hypothèses suivantes :

$H_1$ : $e(.)$ est une suite de variables aléatoires indépendantes

$H_2$ : $|e(t)| < C \quad \forall t \text{ p.s}$

$H_3$ : $Q(t, x, \varphi)$ pour $x \in D_R$ est $C^1$ en $x$ et $\varphi$ et à dérivées (x et $\varphi$ fixés) bornées en $t$

$H_4$ : $A(.)$ et $B(.)$ sont continues lipschitziennes dans $D_R$.

$H_5$ : pour $\bar{x} \in D_R \quad \lim_{t \to \infty} E Q(t, \bar{x}, \bar{\varphi}(t, \bar{x}))$ existe et est notée $f(\bar{x})$

$H_6$ : $\sum_{1}^{\infty} \gamma(t) = \infty$

$H_7$ : $\exists p, \sum_{1}^{\infty} \gamma(t)^p < + \infty$
$H_8$ : $\gamma(\cdot)$ est une suite décroissante

$H_9$ : $\limsup_{t \to \infty} (1/\gamma(t) - \gamma(t-1)) < \infty$

On considère l'équation différentielle :

$$
(4.28) \quad \frac{d}{d\tau} x^D(\tau) = f(x^D(\tau)) \quad f(\cdot) \text{ définie en } H_5.
$$

**Théorème** : On considère l'algorithme (4.22) et (4.23) sous les hypothèses $H_1 \dots H_9$. Soit $\bar{D} \subset D_R$ un compact tel que les trajectoires de (4.28) partant dans $\bar{D}$ restent dans un fermé $\bar{D}_R \subset D_R$ pour $\tau > 0$. On suppose de plus

$$
(4.29) \quad \exists C > 0 \text{ v.a. telle que } x(t) \in \bar{D} \text{ et } |\varphi(t)| < C \text{ p.s. infiniment souvent}
$$

(4.30) L'équation différentielle (4.28) a un domaine invariant $D_C$ avec un domaine d'attraction $D_A \supset \bar{D}$

alors lorsque $t \to \infty$ $x(t) \to D_C \text{ p.s.}$

(domaine invariant $D_C$: $x^D(0) \in D_C \Rightarrow x^D(\tau) \in D_C$, $\tau > 0$; domaine d'attraction $D_A$: $x^D(0) \in D_A \Rightarrow x^D(\tau) \to D_C$ quand $\tau \to \infty$).

Un cas particulier intéressant de ce résultat est
$D_C = \{x^*, f(x^*) = 0\}$ ; on a alors $x(t) \to x^*$ p.s.

Le papier cité contient deux autres cas :

- $e(t)$ par exemple gaussien, l'hypothèse $H_2$ est remplacée par $E|e(t)|^p$
  existe et est borné en $t$ pour tout $p > 1$

- $e(t)$ déterministe.

Pour les jeux d'hypothèses correspondants à ces deux cas ainsi
que pour les démonstrations, nous renvoyons donc à L.LJUNG [5].

5. - METHODE DE RESOLUTION DU PROBLEME D'IDENTIFICATION AVEUGLE

La méthode proposée consiste à construire un potentiel à partir de
la sortie ($c_n$) de l'égaliseur
$$
(4.31) \quad J(H) = \mathbb{E}(\varphi(c_n)) \quad \varphi \text{ fonction à choisir}
$$

de telle manière que

$$
(4.32) \quad H^* = \min_H J(H) \\
H
$$

donne la solution du problème.

La solution de (4.32) est obtenue par un algorithme de gradient sto-
chastique

$$
(4.33) \quad H^{n+1} = H^n - \tau X_n \psi(C_n)
$$

L'étude est alors séparée en deux parties : la première, qui fait
l'objet du chapitre II, est un résultat général de convergence d'algorithmes
d'approximation stochastique. L'idée de base est analogue à celle du § 4.4
précédent : convergence vers les trajectoires de l'équation différentielle
associée. Les hypothèses, la technique et le résultat sont cependant sensi-
blement différents : il s'agit de l'étude à pas τ constant sous des hypo-
thèses très générales adaptées au problème : présence de discontinuités et
de contraintes éventuelles, hypothèse très faible sur les observations por-
tant sur la décroissance des covariances. Disposant de ce résultat l'étude
de la procédure proposée se ramène donc à l'étude des lignes de plus grande
pente du potentiel défini : c'est l'objet du chapitre III. C'est contraire-
ment au cas des moindres carrés, la partie la plus délicate et intéressante
de l'étude.

- Commentaires

La bibliographie relative aux problèmes abordés ici est trop importante
pour être citée. Nous renvoyons le lecteur aux bibliographies des articles
et ouvrages cités; en particulier [2] est un article de synthèse comportant
une bibliographie très abondante sur la transmission de données.
BIBLIOGRAPHIE

[1] R.W. LUCKY, J.SALZ, E.J. WELDON - *Principles of data communication*
Mac Graw Hill, 1968.

[2] C. MACCHI, J.P. JOUANNAUD, O. MACCHI - Récepteurs adaptatifs pour transmission de données à grande vitesse. Ann. des Télécom. Tome 30 n° 9-10. Sept., Oct. 75

[3] A.J. VITERBI editor & al. - *Advances in communication systems*. Vol. 4 Academic Press 1975.

[4] G. KAWAS - KALEM - Réception de données par un codeur de complexité réduite en présence de bruit et d'interférence entre symboles. Colloque GRETSI Nice, Avril 1977.

[5] L. LJUNG - Analysis of recursive stochastic algorithms.
IEEE Trans. on Aut. Control - Vol. 22 n° 4 pp. 551-575 - August 77.

[6] R.D. GITLIN, F.R. MAGEE - Self-orthogonalizing adaptive equalization algorithms. IEEE Trans. on Comm. Vol. 25 n° 7 - pp. 666-672 - July 77.
## II - APPROXIMATION STOCHASTIQUE : RESULTAT GENERAL DE CONVERGENCE ET APPLICATION AUX ALGORITHMES UTILISES EN TRANSMISSION DE DONNEES

### 1. - INTRODUCTION

Les algorithmes d'approximation stochastique jouent un grand rôle dans des domaines variés tels que le contrôle adaptatif, l'estimation et la transmission de données. De nombreux résultats de convergence existent dans la littérature; parmi les plus significatifs on peut citer l'article [12] de L. LJUNG (cf. 4.4. chapitre I) concernant des algorithmes stochastiques récursifs apparaissant en identification et contrôle adaptatifs. Notre but est ici d'étudier les algorithmes d'approximation stochastique rencontrés en transmission de données. Les caractéristiques spéciales de ces algorithmes sont :

- 1 Les perturbations ne dépendent pas des estimés (comparer avec (4.23) de I)

- 2 La perturbation est stationnaire mais ne possède pas de bonnes propriétés d'indépendance ou de mélange.

- 3 Le terme de correction n'est pas régulier et peut être même discontinu.

Nous allons étudier la forme générale d'algorithme d'approximation stochastique :

$$ (1.1) \quad X_{n+1}^{\tau}(\omega) = X_{n}^{\tau}(\omega) + \tau V_{n}(X_{n}^{\tau}(\omega), \omega) , \quad X_{0}^{\tau} = x_{0} \in \mathbb{R}^{d} $$

où $(V_n(x, \cdot))_{n \in \mathbb{Z}, x \in \mathbb{R}^d}$ est un champ de vecteurs aléatoire sur $\mathbb{R}^d$;

$\tau$ est un petit paramètre fixé. Nous nous intéressons au comportement asymptotique de la trajectoire $(X_n^\tau)_{0 \le n\tau \le S}$ ($S < +\infty$ fixé) lorsque $\tau \to 0$.

Le résultat que nous obtenons est de la forme :

$$ (1.2) \quad \mathbb{P} \left\{ \sup_{0 \le n\tau \le S} \left\| X_n^\tau - \bar{x}_{n\tau} \right\| \ge C \epsilon(\tau) \right\} \le C' \epsilon(\tau) $$
avec $\epsilon(\tau) \to 0$ lorsque $\tau \to 0$ et où $(\bar{x}_t)_{t \ge 0}$ est la courbe intégrale issue de $x_0$ pour l'équation différentielle ordinaire :

$$
(1.3) \quad \frac{dx}{dt} = \bar{V}(x) , \quad \bar{V}(x) = E(V_n(x, .))
$$

Les idées de base de ce problème sont en fait celles du principe
d'homogénéisation dont le rôle est très important en mécanique des vibra-
tions (BOGOLYUBOV [4], KRASNOLS'KII et KREIN[8], V.I. ARNOLD [1]). Rappe-
lons brièvement ce principe : soit $x^\epsilon(t)$ la courbe intégrale, issue de
$x_0 \in \mathbb{R}$, de l'équation différentielle ordinaire :

$$
(1.4) \quad \frac{dx}{dt} = V(x, t/\epsilon) \qquad \epsilon > 0 \text{ petit paramètre.}
$$

Supposons que $V(x, t)$ possède la propriété d'homogénéisation suivante :

$$
(1.5) \quad \lim_{T \to \infty} \frac{1}{T} \int_0^T V(x, t) \, dt = \bar{V}(x) \quad \text{existe } \forall x
$$

Alors (sous certaines hypothèses de régularité), on a :

lorsque $\epsilon \to 0$ la trajectoire $(x^\epsilon(t))_{0 \le t \le S}$ ($S < +\infty$ fixé) converge unifor-
mément vers la solution $(\bar{x}_t)_{0 \le t \le S}$ de :

$$
(1.6) \quad \frac{d\bar{x}}{dt} = \bar{V}(x), x(0) = x_0
$$

Le résultat (1.2) est donc simplement une version stochastique de ce
principe d'homogénéisation, la condition (1.5) étant automatiquement remplie
grâce à l'ergodicité.

Citons également le travail de KHASMINS'KII [7] dans lequel (sous des
hypothèses fortes de régularité) est démontré un théorème central-limite
de la forme suivante :

lorsque $\tau \to 0$, $\frac{1}{\sqrt{\tau}} (\bar{x}_n^\tau - \bar{x}_{n\tau})$ converge en loi vers un processus gaussien
markovien $y_t$ qui est la solution de :
$d y_t = \frac{d\bar{V}}{dx}(y_t) \dot{y}_t dt + \sigma(y_t) dW_t$ où $W_t$ est le brownien standard, le coefficient de diffusion $\sigma(y)$ dépendant de la propriété de mélange de $(V_n(x))$. Citons enfin d'importants résultats de KUSHNER [9, 10] mais avec des hypothèses de régularité trop éloignées du cadre de la transmission de données.

Présentons maintenant le contenu de ce chapitre. Pour faciliter la lecture nous avons renvoyé en annexe les démonstrations importantes. Dans le paragraphe 2 nous définissons un processus d'approximation stochastique, nous énonçons le résultat (1.2) avec les hypothèses correspondantes. Le paragraphe 3 est consacré à une étude plus précise des hypothèses de 2 c'est-à-dire des discontinuités autorisées pour le champ de vecteurs aléatoire $(V_n(x, \cdot))$; nous donnons également deux exemples pour étudier l'apPLICabilité de la propriété de mélange non classique que nous utilisons : le premier est le très connu algorithme de Robbins-Monro, largement utilisé en transmission de données (cf. 3.2 chapitre I); le second, qui présente de désagréables propriétés de discontinuité, est celui qui est à l'origine de cette étude (annoncé en 5.chapitre I - Résultats dans IV).

Dans le dernier paragraphe, nous donnons une extension de (1.2) au cas où le processus d'approximation stochastique évolue sur une variété riemannienne avec une application : minimisation sous des contraintes égalité (cf. III et IV).

## 2. - LE THEOREME PRINCIPAL

### 2.1. - Définition d'un processus d'approximation stochastique

#### Définition

Un processus d'approximation stochastique est défini par

$$ \{\Omega, \mathcal{F}, (X_n)_{n \in \mathbb{N}}, (V_n(x))_{x \in \mathbb{Z}}, (W_t)_{t \in \mathbb{R}}^d, (P^T)_{\tau>0}\} \text{ où} $$

(i) $\{\Omega, \mathcal{F}\}$ est un espace probabilisable muni de la famille de lois de probabilité $(P^T)_{\tau \ge 0}$ indexée par un petit paramètre $\tau$.
(ii) $(V_n(x))_{x \in \mathbb{Z}, x \in \mathbb{R}^d}$ est une suite aléatoire de champs de vecteurs sur $\mathbb{R}^d$ ;
lorsque $\{\Omega, \mathcal{F}\}$ est muni de $\mathcal{P}^T$, $(V_n(x))$ est une suite aléatoire station-
naire dont la loi est la même pour toute valeur de $\tau$.

(iii) $(X_n)_{n \ge 0}$ est une suite aléatoire à valeurs dans $\mathbb{R}^d$ ayant la propriété
suivante : pour tout compact $K \subset \mathbb{R}^d$, il existe $\alpha_k > 0$ et $C_1^K < +\infty$
tels que pour $0 < \tau < \alpha_K$ et $n \ge 0$ on a :

$$
(2.1) \quad \{X_n \in K\} \mathcal{P}^T - \text{p.s.} \quad \{ \| X_{n+1} - X_n - \tau V_n(X_n) \| \le C_1^K \tau^2 \}
$$

Exemple

On considère un champ de vecteurs aléatoire stationnaire $(V_n(x))$
défini sur un espace probabilisé {$W, \mathcal{W}, \mathcal{P}$} ; on munit $\Omega = (\mathbb{R}^d)^N \times W$ de la
$\sigma$-algèbre produit $\mathcal{F}$, $\omega \in \Omega$ est alors de la forme $((x_n)_{n \ge 0})$, $w$) et on note
$(X_n)_{n \ge 0}$ les premières coordonnées définies par $X_n(\bar{w}) = x_n$ pour

$\omega = ((x_n)_{n \ge 0}, w)$. Soit $(X_n^T(w))$ la suite définie par (1.1) :

$$
(2.2) \quad X_{n+1}^{\tau}(w) = X_{n}^{\tau}(w) + \tau V_{n}(X_{n}^{\tau}(w), w) , \quad X_{o}^{\tau} = x_{o}
$$

Soit alors $\varphi_\tau$ 1'application mesurable :

$\{W, \mathcal{W}\} \longrightarrow \{\Omega, \mathcal{F}\}$

$w \longrightarrow ((X_n^T(w))_{n \ge 0}, w) ; \mathcal{P}^T = \text{image de } \mathcal{P} \text{ par } \varphi_\tau$

Alors {$\Omega, \mathcal{F}, \cdot X_n, V_n(x), \mathcal{P}^T$} satisfait les conditions de la définition.
Nous avons ici simplement une forme canonique pour (1.1) puisque $\mathcal{P}^T$
apparaît comme étant la loi de la suite $(X_n^T)$ donnée par (1.1).

La définition que nous avons prise apparaît compliquée pour cet
exemple : la raison en est que la condition (2.1) autorise des déviations
non précisées par rapport à (1.1) (correspondant à $C_1^K = 0$) d'amplitude de
l'ordre de $\tau^2$. Ceci est nécessaire dans le cas suivant : nous aurons à
travailler avec des contraintes égalité, par exemple $||X_n|| = 1$. On veut
donc étendre les résultats au cas où le processus d'approximation stochas-
tique évolue sur une variété riemanienne. Dans le cas $||X_n|| = 1$ l'effet
de projection fait apparaître clairement la nécessité de (2.1); il en est
évidemment de même pour une variété quelconque suffisamment régulière.

Remarque

Grâce à la condition (ii) de la définition, si $\mathcal{Y}$ désigne la sous-tribu
de $\mathcal{F}$ engendrée par la suite $V_n(x)$, alors la restriction de $\mathbb{P}^\tau$ à $\mathcal{Y}$ est la
même $\nu_\tau > 0$. Nous notons $\mathbb{P}$ cette restriction.

2.2. - Quelques considérations heuristiques

Reprenons la forme simple (1.1)

$$
X_{n+1}^{\tau} = X_{n}^{\tau} + \tau V_{n}(X_{n}^{\tau})
$$

ce qui nous donne :

$$
(2.3) \quad X_{n+N+1}^{\tau} = X_{n}^{\tau} + \tau \left[ V_{n}(X_{n}^{\tau}) + \dots + V_{n+N}(X_{n+N}^{\tau}) \right]
$$

que nous approximons par :

$$
(2.4) \quad X_{n+N+1}^{\tau} \approx X_{n}^{\tau} + \tau \left[ V_{n}(X_{n}^{\tau}) + \dots + V_{n+N}(X_{n}^{\tau}) \right]
$$

pour pouvoir utiliser la loi des grands nombres et écrire :

$$
(2.5) \quad X_{n+N+1}^{\tau} \approx X_{n}^{\tau} + N \tau \bar{V}(X_{n}^{\tau})
$$

Nous cherchons des approximations valides avec une probabilité
voisine de 1 soit, comme elles dépendent de τ, 1 - ε(τ) pour τ petit et
ε(τ) → 0 avec τ .

L'approximation (2.4) sera obtenue si :

- $X_n^\tau$ varie lentement devant $V_n(x)$

- $x \to V_n(x)$ est suffisamment régulière (Lipschitz).
L'approximation (2.5) nous dit que $(X_n^T)$ est à peu près la discrétisée de la courbe intégrale de (1.3). Pour passer de (2.4) à (2.5) il nous faut examiner les exemples que nous voulons traiter : considérons le cas bien connu de l'algorithme de Robbins Monro. On inverse un système linéaire en minimisant l'erreur quadratique. Dans ce cas, on a $V_n(x) = V(x, Y_n)$ où $Y_n \in \mathbb{R}^m$ est l'entrée du système (cf. I § 3.2 $Y_n \in \mathbb{R}$, $Y_n = a_n$). Nous allons nous placer dans le cas où $V_n$ est fonction d'un processus mélangeant (cf. BILLINGSLEY [3]) c'est-à-dire que $Y_n$ et $Y_{n+p}$ ou $V_n$ et $Y_{n+p}$ sont dépendants mais la "dépendance décroit" lorsque p croît.

### 2.3. - Hypothèses et énoncé du théorème

Pour le champ de vecteurs stationnaire $(V_n(x))_{n \in \mathbb{Z}}$ nous considérons le jeu d'hypothèses suivant.

#### Hypothèses

H1 Il existe une suite aléatoire stationnaire $(\xi_n)$ définie sur $(\Omega, \mathcal{F}, \mathbb{P})$, à valeurs dans un espace probabilisable $\{E, \mathcal{F}\}$ et qui a la propriété de $\varphi$-mélange suivante (BILLINGSLEY [3]).

$$ (2.6) \qquad \sum_{k \ge 0} \varphi_k^{1/2} < + \infty \quad \text{avec} \quad \varphi_k = \sup_{\begin{subarray}{l} A \in \sigma\{\xi_m, m \le 0\} \\ B \in \sigma\{\xi_n, n \ge k\} \end{subarray}} |\mathbb{P}(A/B) - \mathbb{P}(A)| $$

H2 Pour $0 \le p < \infty$ il existe une application mesurable

$V^p : \{\mathbb{R}^d \times \mathbb{E}^{2p+1}, \mathcal{B}(\mathbb{R}^d) \times \mathcal{F}^{2p+1}\} \to \{\mathbb{R}^d, \mathcal{B}(\mathbb{R}^d)\}$ et une suite décroissante $(v_{p,K})_{p \ge 0}$ (où K est un compact de $\mathbb{R}^d$) telle que :
$$
(2.7) \quad \left\{
\begin{array}{ll}
\displaystyle \sum_{p \ge 0} v_{p,K}^{1/2} < + \infty & \\
\displaystyle v_{p,K} \ge \sup_{x \in K} \mathcal{E} \left\| v_n(x) - v_n^P(x) \right\|^2 & \text{où} \\
\displaystyle v_n^P(x) = v^P(x; \xi_{n-p}, \dots, \xi_n, \dots, \xi_{n+p}) &
\end{array}
\right.
$$

H3 Pour tout compact $K \subset \mathbb{R}^d$, $\exists$ $C_2^K < + \infty$ telle que

$$
(2.8) \quad [\mathbb{E}(V_n^*)^2]^{1/2} \le C_2^K \quad \text{avec} \quad V_n^* = \sup_{x \in K} ||V_n(x)||
$$

H4 $\forall K \subset \mathbb{R}^d$ compact, $\exists$ $C_3^K < + \infty$ tel que $\forall x \in K$ et $\forall \varepsilon > 0$ suffisamment petit on ait

$$
(2.9) \quad \mathbb{E}(\tilde{V}_n^\varepsilon(x)) \le C_3^K \cdot \varepsilon \quad \text{où} \quad \tilde{V}_n^\varepsilon(x) = \sup_{\|y-x\| \le \varepsilon, y \in K} \|V_n(y) - V_n(x)\|
$$

Grâce à (2.9) il vient clairement le

Lemme 2.1

La fonction $\bar{V}(x) = \mathbb{E}(V_n(x))$ est localement de Lipschitz sur $\mathbb{R}^d$.
Ceci entraîne que l'équation différentielle ordinaire

$$
(2.10) \quad \frac{d\bar{x}}{dt} = \bar{V}(x), \quad \bar{x}(0) = x_0
$$

admet une courbe intégrale que nous noterons $(\bar{x}_t)_{t \in \mathbb{R}}$

Le résultat principal est alors le

Théorème 2.2.

Soit $S < + \infty$ fixé.

∃ C, C' constantes 0 < C, C' < + ∞, ∃ une fonction ε(τ),
ε(τ) > 0, ε(τ) → 0 lorsque τ → 0 tels que

$$
(2.11) \quad \mathbb{P}^{\mathcal{T}} \left\{ \sup_{0 \le n \tau \le S} \| X_n - \bar{x}_{n\tau} \| > C \varepsilon(\tau) \} < C' \varepsilon(\tau) * \right.
$$

<footnote>* $\varepsilon(\tau)$ spécifiée dans la démonstration</footnote>
## Démonstration : Annexe I

**Remarque 1** : Il est possible, sous des hypothèses modifiées, de donner des formes explicites pour $\varepsilon(\tau)$, par exemple $\varepsilon(\tau) = \tau^\gamma$ avec $0 < \gamma < \frac{1}{3}$ (en fait $\gamma = \frac{1}{3}$ correspond à la vitesse infinie pour la convergence du théorème central limite, et apparaît donc comme la perfection inaccessible). Par exemple, l'indépendance des v.a. $V_n(x)$ donne $\gamma = \frac{1}{5}$. D'autre part si $V_n(x)$ satisfait lui-même la condition de mélange (2.6) et si on remplace (2.8) par $\mathbb{E}(V_n^*{}^{2+\alpha} < \infty)$ avec $\alpha > 0$ alors on peut choisir $\gamma = \frac{1}{1+\beta}$ avec

$\beta = \max\left(1 + \frac{2}{\alpha}, 2^{\frac{4+\alpha}{2+\alpha}}\right)$ de telle sorte que $\alpha = 2$ donne $\gamma = \frac{1}{4}$ et $\alpha \nearrow +\infty$ donne $\gamma \nearrow \frac{1}{3}$.

**Remarque 2** : Grâce au théorème 2.2, pour $\tau$ petit, l'étude de l'algorithme (1.1) se ramène à l'étude du comportement des courbes intégrales de (1.3) tant que l'on s'intéresse à la trajectoire $(X_n^T)$ pour $0 \le n\tau \le S$ avec $S < +\infty$ fixé; ce résultat est suffisant pour obtenir une estimation de la forme :

$$ (2.12) \quad \mathbb{P} \left\{ \left\| \begin{array}{l} X^T \\ \left[ \begin{array}{c} S \\ \tau \end{array} \right] \end{array} - x^* \right\| \ge \eta + C \varepsilon(\tau) \le C' \varepsilon(\tau) \right\} \\ \text{si } x^* = \lim_{t \to \infty} \bar{x}(t) \text{ existe, S étant tel que } \| \dot{x}(S) - x^* \| < \eta $$

Ceci est une condition de convergence en probabilité au sens large. Cependant pour $\tau$ petit et $n \to \infty$, $(X_n^T)$ n'a pas un comportement donné par le théorème 2.2 mais suit la loi des grands écarts (cf. par exemple [2]).

## 3. - ÉTUDE DES HYPOTHESES H2 ET H4 - QUELQUES EXEMPLES

Nous allons décrire la forme générale de $V_n(x)$ utilisée en 2 et étudier plus précisément la forme particulière suivante utilisée en transmission de données :

soit $(Y_n)_{n \in \mathbb{Z}}$ une suite stationnaire de v.a. (observation) à valeurs dans $\mathcal{Y} = \mathbb{R}^m$;

soit V l'application borélienne: $\mathcal{X} \times \mathcal{Y} \to \mathcal{X}$
$(x,y) \to V(x,y)$

où $\mathcal{X}=\mathbb{R}^d$ est l'espace d'évolution des estimées $(X_n)$.
Le champ de vecteurs stationnaire $(V_n(x))$ est alors de la forme :

$$ (3.1) \qquad V_n(x) = V(x, Y_n) $$

Nous allons vérifier H2 et H4 avec des hypothèses spéciales sur V et $Y_n$.

### 3.1. - Etude de H4, condition de Lipschitz en moyenne

Commençons par donner sans démonstration un lemme évident avec une forte condition de Lipschitz (apparaissant également dans [8]).

#### Lemme 3.1

Soit $\mu$ la loi de la v.a. $Y_n$; supposons que pour tout compact $K \subset \mathcal{X}(= \mathbb{R}^d)$, il existe une fonction $C^K(y) \in L^1(\mu)$ telle que l'on ait pour tout $(x_1, x_2) \in K \times K$ et pour $\mu$-presque tout $y \in \mathcal{Y}(= \mathbb{R}^m)$ :

$$ (3.2) \qquad \|V(x_1,y) - V(x_2,y)\| \le C^K(y) \|x_1 - x_2\| $$

alors (2.9) est vérifiée.

Ce que nous voulons faire ici est d'étudier précisément les discontinuités permises pour $V(x,y)$ tout en conservant la condition (2.9). Nous introduisons pour cela les hypothèses suivantes :

### (3.3) Hypothèses

V1 Il existe une variété $\Delta$ de classe $\mathcal{C}^1$ de codimension 1 dans $\mathcal{X} \times \mathcal{Y}$ telle que :

(i) (3.2) est satisfaite dans un voisinage de tout $(x,y) \notin \Delta$

(ii) la condition transversale suivante est satisfaite : soit $\theta(x,y)$ l'angle entre $\mathcal{Y}$ et l'hyperplan tangent à $\Delta$ en $(x,y)$; alors pout tout compact $K \subset \mathcal{X}$ on a :

$$ (3.4) \qquad \inf_{x \in K, y \in \mathcal{Y}} |\theta(x,y)| > 0. $$
V2 (i) La loi $\mu$ de la v.a. $Y_n$ a une densité $f(y)$ continue par rapport à la mesure de Lebesgue sur $y$.

(ii) Pour tout compact $K \subset \mathcal{X}$

$$ (3.5) \qquad \sup_{x \in K} \int_{\Delta_x} f(y) \lambda(dy) < + \infty $$

où $\lambda$ est la (m-1) dimensionnelle mesure de Hansdorff sur $y$ (rappelons que $y = \mathbb{R}^m$) (voir FEDERER [5]).

V3 Pour tout compact $K \subset \mathcal{X}$

$$ (3.6) \qquad \sup_{x \in K, y \in \mathcal{Y}} \|V(x,y)\| < + \infty $$

### Remarques

#### Hypothèse V1

$\Delta$ contient tous les points singuliers de V, en particulier les discontinuités et est suffisamment régulière.

Si on note $\Delta_x = \Delta \cap \{x \times y\}$ alors la condition (3.4) implique que, pour tout $x \in \mathcal{X}$, $\Delta_x$ est difféomorphe à une variété de classe $\mathcal{C}^1$ de codimension 1 dans $y$ (voir figure 1) où $\dim \mathcal{X} = 1$ et $\dim y = 2$).

<figure><img src="image_16.png" /><figcaption>Figure 1</figcaption></figure>
### Hypothèse V2

C'est une condition géométrique qui évite les fortes oscillations à l'infini pour les sections $\Delta_x$. Une situation classique en transmission de données est $\Delta_x$ = hyperplan et cette condition est automatiquement vérifiée.

### Hypothèse V3

On suppose que $V(x,y)$ est localement borné dans un sens assez fort.

Nous avons alors le :

### Théorème 3.2

Sous les hypothèses V1, V2, V3 la condition de Lipschitz en moyenne (2.9) est satisfaite.

### Démonstration : Annexe II

## 3.2. - Etude des conditions de mélange - Hypothèses H1 et H2

Les relations (2.6) et (2.7) sont évidemment vérifiées si $(Y_n)_{n \in \mathbb{Z}}$ possède lui-même la condition de $\phi$-mélange (2.6). Nous allons main-tenant examiner deux exemples.

### Exemple 1 : Identification aveugle en égalisation adaptative

C'est l'exemple présenté en I et que nous retrouverons en III et IV : ce qui donne (avec quelques changements de notations) :

- entrées $(a_n)_{n \in \mathbb{Z}}$ v.a. scalaires, identiquement distribuées, loi v symétrique de variance finie.

- canal $S = (s_k); S^{-1}$ à identifier.

- observation : sortie du canal.

$$ (3.7) \qquad \begin{gathered} y_n = \sum_{k \in \mathbb{Z}} s_k a_{n-k} \\ - \text{égaliseur } H = (h_k)_{-N \le k \le N} \text{ adaptatif; sortie } c_n. \end{gathered} $$
L'algorithme d'approximation stochastique est (cf. III et IV) :

$$
\[
(3.8) \qquad \left\{
\begin{array}{@{}l@{\quad}l@{}}
\displaystyle H_{n+1} = H_n - \tau Y_n \psi(c_n) & H_n = (h_n(k)) \\
\phantom{H_{n+1} = {}} -N \le k \le N \\[1em]
\displaystyle c_n = \sum_{k=-N}^{+N} h_n(k) y_{n+k} & t Y_n = (y_{n-N}, \dots, y_n, \dots, y_{n+N})
\end{array}
\right.
\qquad \psi : \mathbb{R} \to \mathbb{R}
\]
$$

$$
(3.9) \quad \psi(t) = \tilde{\psi}(t) + \alpha \operatorname{sgn}(t), \alpha \in \mathbb{R}, \quad \tilde{\psi} \text{ partie régulière de } \psi
$$

Dans ces conditions (3.8) est une forme particulière de (1.1)
avec le champ de vecteurs stationnaire : .

$$
(3.10) \quad V_n(H) = Y_n \psi \left( \sum_{k=-N}^{+N} h_n(k) y_{n+k} \right)
$$
il est de la forme (3.1) : $V_n(H) = V(H, Y_n)$ avec

$$
(3.11) \quad V(h,y) = y \quad \psi(<h,y>) \quad h \in \mathcal{H} = \mathbb{R}^{2N+1}, \quad y \in \mathcal{Y} = \mathbb{R}^{2N+1}, \quad <.,> \\
\text{produit scalaire dans } \mathbb{R}^{2N+1}.
$$

Avant d'analyser la condition de mélange, voyons l'applicabilité
du théorème 3.2. Si $\tilde{\psi}$ est localement lipschitzienne (avec une certaine condi-
tion de croissance sur la constante de Lipschitz) alors la condition (3.2)
est remplie sauf pour la variété (d = 2N+1) :

$$
(3.12) \quad \Delta = \{z = (h_1, \dots, h_d; y_1, \dots, y_d) \in \mathcal{H} \times \mathcal{Y} / \sum h_i y_i = 0\}
$$

Remarquons que si l'on se restreint à $\mathcal{H}\setminus\{0\}$ les hypothèses V1 et V2 sont vérifiées si la loi $\mu$ de $Y_n$ admet une densité continue, puisque pour $h \neq 0$

$$
(3.13) \quad \Delta_h = \{y \in \mathcal{Y} \mid \langle h, y \rangle = 0\}
\quad \text{est simplement un hyperplan (cf. remarque sur V2).}
$$
Examinons maintenant les conditions de mélange (2.6) et (2.7).

Le rôle de $(\xi_n)_{n \in \mathbb{Z}}$ étant ici joué par $(a_n)_{n \in \mathbb{Z}}$, (2.6) est automatiquement vérifiée.

Pour examiner (2.7) nous introduisons :

$$
(3.14) \quad \begin{gathered}
y_n^p = \sum_{|k| \le p} s_k a_{n-k} \quad , \quad t_y^p = (y_{n-N}^p, \dots, y_{n}^p, \dots, y_{n+N}^p) \\
\text{et}
\end{gathered}
$$

$$
(3.15) \quad V_n^p(H) = V(H, Y_n^p) \quad (V(h,y) \text{ donné par (3.11)})
$$

qui est bien de la forme (2.7). Nous avons donc à estimer :

$$
(3.16) \quad \nu_{p,H} = E \left\| V_n(H) - V_n^p(H) \right\|^2
$$

On introduit la matrice $(d \times d)$ $M(h,y)$ suivante

$$
(3.17) \quad M(h,y) = \tilde{\psi}(\langle h,y \rangle) \cdot I + \tilde{\psi}'(\langle h,y \rangle) h_o^t y_o \quad \text{où}
$$

I est la matrice identité dans $\mathbb{R}^d$, $h.t.y$ est la matrice dont le (i,j)
coefficient est $h_i.y_j$ et $\tilde{\psi}'$ est la dérivée de $\tilde{\psi}$.

Lorsque $\psi = \tilde{\psi}$ (i.e. $\psi$ régulière) nous avons $M(h,y) = \frac{\partial}{\partial y} V(h,y)$,
$M$ étant la dérivée par rapport à y de la partie régulière de V dans le cas
général. Nous introduisons alors les hypothèses M (pour "mélange") suivantes :

$\underline{M1}$ $\psi$ est régulière ($\psi = \tilde{\psi}$) et il existe $p$ et $q$ tels que $\frac{1}{p} + \frac{1}{q} = 1$ avec $1 \le p \le \infty$ tels que l'on ait

$$
(3.18) \quad \sup_{h \in K} E \left\| M(h, \sum_{k \in \mathbb{Z}} |s_k a_k|^2) \right\| < + \infty \quad \text{pour tout compact } K \subset \mathbb{R}^d
$$

$$
(3.19) \quad \sum_{m \ge 0} \rho_m^{1/2} < + \infty \quad \text{avec} \quad \rho_m = (E ( \sum_{|k|>m} s_k a_k )^{2p} )^{1/p}
$$
M1-a $\psi$ est régulière, bornée avec $\psi'(x) = 0$ pour x suffisamment grand et

$$
(3.20) \quad \sum_{m \ge 0} \left( \sum_{|k| < m} s_k^2 \right)^{1/2} < + \infty
$$

M1-b $\psi$ est régulière; $\exists$ C t.q. $P\{|a_n| \le C\} = 1$ ; (3.20) est satisfaite et
1'on a de plus :

$$
(3.21) \quad \sum_{k \in \mathbb{Z}} |s_k| < \infty
$$

M2 $\psi$ est discontinue ($\alpha \neq 0$ dans (3.9)) et la loi $\mu$ de $Y_n$ a une densité continue; (3.18) et (3.19)sont satisfaites; il existe une suite $(\varepsilon_m)_{m \ge 0}$ avec $\varepsilon_m \in \mathbb{R}$, $\varepsilon_m \ge 0$ telle que

$$
(3.22) \quad \sum_{m \ge 0} \epsilon_m^{1/2} < \infty \quad \text{et} \quad \sum_{m \ge 0} \left( \rho_m / \epsilon_m^2 \right)^{p/2q} < \infty
$$

M2-a $\psi$ est discontinue, $\mu$ a une densité continue, $Y_n$ est bornée p.s., et

$$
(3.23) \quad \sum_{m \ge 0} \left( \sum_{|k| > m} |s_k| \right)^{1/2} < \infty
$$

Remarque 1

La condition (3.18) donne la croissance de $\psi$ et S à l'infini
par rapport à la valeur maximale de $\alpha$ telle que $\int |x|^{\alpha} v(dx) < \infty$ . Les cas
M1-a et M1-b sont les cas particuliers de M1 avec $p = 1, q = \infty$ dans (3.18)
et (3.19). Les conditions (3.20), (3.21) et (3.23) sont simplement des condi-
tions de décroissance sur S pour avoir une faible dépendance entre $y_n$ et
$a_{n+k}$ pour k grand.

Remarque 2

La continuité absolue de μ ne nécessite pas que la loi v de
a_n soit absolument continue (si on prend v\{0} = v\{1} = 1/2 et s_k = 2^{-k} pour
k > 0 et s_k = 0 pour k ≤ 0, alors y_n = Σ s_k a_{n-k} est uniformément distri-
bué sur l'intervalle [0,1]).

Théorème 3.3

Si une des hypothèses M est vérifiée, alors la condition (2.7)
est remplie : $\sup_{H \in K} \sum_{p \ge 0} v^{1/2}_{p,H} < \infty$ pour tout compact K.

Démonstration : Annexe III
Exemple 2 : Algorithme de Robbins-Monro pour ajuster un filtre transversal

C'est l'algorithme très classique décrit dans I § 3.2. En
reprenant les notations de l'exemple précédent :

S = ($s_k$) ، d'énergie finie : ($\sum s_k^2$) 1/2 < ∞ ، est le canal dont la sortie est

y_n = Σ_{k∈Z} s_k a_{n-k} + v_n v_n bruit blanc indépendant de (a_n).

L'algorithme donnant l'égaliseur H est :

$$
(3.24) \quad H_{n+1} = H_n - \tau Y_n (t^T Y_n H - a_n) \quad t^T Y_n = (y_{n-N}, \dots, y_n, \dots, y_{n+N})
$$

ce qui est l'algorithme de gradient stochastique pour réaliser :

$$
(3.25) \quad \min_{H} \mathbb{E} (t^T H Y_n - a_n)^2
$$

Le champ de vecteurs aléatoire est exactement de la forme (3.1).
Les conditions de régularité sont vérifiées ici de manière évidente, il
reste à voir la condition de mélange (2.7). A (3.14) est associé le champ
de vecteurs :

$$
(3.26) \quad - V_n(H) = Y_n^T H - a_n
$$

Si on note :

$$
(3.27) \quad y_n^m = \sum_{|k| \le m} s_k a_{n-k} + v_n , \quad t y_n^m = (y_{n-N}^m, \dots, y_n^m, \dots, y_{n+N}^m)
$$

on a à estimer :

$$
(3.28) \quad v_{m,H} = \mathbb{E} \left\| v_n(H) - v_n^m(H) \right\|^2
$$

avec

$$
(3.29) \quad - V_n^m(H) = Y_n^m (t Y_n^m H - a_n)
$$
La suite $(\xi_n)$ de (2.6) est ici simplement $(a_n, v_n)_{n \in \mathbb{Z}}$. Nous avons le résultat suivant :

**Théorème 3.4**

Supposons qu'il existe $p$ et $q$ tels que $\frac{1}{p} + \frac{1}{q} = 1$, $1 \le p \le +\infty$ pour lesquels on ait :

$$ (3.30) \quad \sum_{m \ge 0} \left[ \mathbb{E} \left( \sum_{|k|>m} s_k a_k \right)^{2p} \right]^{1/2p} < +\infty, \quad \mathbb{E} \left( \sum_k |s_k a_k|^2 \right) < \infty $$

alors la condition (2.7) est remplie $(\sup_{H \in K} \sum_{m \in H} v_m^{1/2} < \infty)$ pour tout compact $K)

**Démonstration : Annexe IV.**

**Exemple 3 : Algorithme de Robbins Monro après accrochage**

Nous avons vu en I, qu'après la phase d'accrochage (($a_n$) connus), on continue à utiliser l'algorithme (3.24) en remplaçant $a_n$ par $\hat{a}_n$ :

$$ (3.31) \quad H_{n+1} = H_n - \tau Y_n (t Y_n H_n - \hat{a}_n) \quad (\text{supposons ici } v_n = 0) $$

$\hat{a}_n$ étant la sortie d'un détecteur à seuil (cf. I § 3.2).

Prenons le cas où $v$ est uniformément distribuée sur $\{\pm 7, \pm 5, \pm 3, \pm 1\}$ et considérons la fonction $\psi(x)$ donnée par la figure 2.

<figure><img src="image_17.png" /><figcaption>**Figure 2 - Graph de $\psi$**</figcaption></figure>

Alors (3.31) est de la forme :

$$ (3.32) \quad H_{n+1} = H_n - \tau Y_n \psi(c_n) \quad \text{avec } c_n = t Y_n H_n $$
Il apparaît donc que (3.31) est du type (3.8) et nous renvo-
yons à l'étude de ce dernier. Rappelons simplement qu'il n'est pas néces-
saire que $v$ ait une densité par rapport à la mesure de Lebesgue pour que $\mu$ soit
absolument continue (voir Remarque 2 précédant le théorème 3.3).

Maintenant, pour étudier le comportement asymptotique de (3.31)
pour $\tau$ petit, il reste à étudier l'équation différentielle ordinaire :

$$
(3.33) \quad \frac{dH}{dt} = - \bar{V}(H) \quad , \quad \bar{V}(H) = E(Y_n \psi(\tau Y_n H))
$$

pour lequel $H^* \approx S^{-1}$ est clairement un équilibre stable ((3.33) peut avoir
d'autres équilibres stables, si bien que (3.31) ne peut être utilisé que
dans un voisinage de $S^{-1}$ : c'est un fait bien connu. (L'algorithme de l'exem-
ple 1 supprime cet inconvénient).

4. - EXTENSION DU RESULTAT PRINCIPAL A L'APPROXIMATION STOCHASTIQUE SUR
UNE VARIETE; APPLICATION AUX ALGORITHMES AVEC CONTRAINTE EGALITE

Soit $\mathcal{M}$ une variété riemannienne connexe de dimension $d$, de classe $\mathcal{C}^2$.
Soit $T(\mathcal{M})$ le fibré tangent de $\mathcal{M}$ muni de la métrique riemannienne
$\rho = (\rho_x)_{x \in \mathcal{M}}$, $\rho$ étant la distance correspondante sur $\mathcal{M}$ (cf. S. LANG [11]).
Pour chaque $x, y, z \in \mathcal{M}$ on peut définir $\|V_1(x) - V_2(y)\|_{\rho_3}$ (où $V_1(x) \in T_x$, hyperplan tangent en $x$, et $V_2(y) \in T_y$) par un déplacement parallèle en $z \in \mathcal{M}$ le long des géodésiques de $\mathcal{M}$, $\rho_z$ étant la métrique sur $T_z$. Rappelons que pour $V_1(x)$ et $V_2(y)$ fixés, toutes ces différentes estimations de $\|V_1(x) - V_2(y)\|$ restent équivalentes lorsque $z$ évolue dans $\text{1 compact, de telle sorte que les conditions (2.8) et (2.9) peuvent être immédiatement traduites dans ce cas.}$

Voyons maintenant brièvement comment modifier les autres définitions
et hypothèses. Un processus d'approximation stochastique évoluant sur $\mathcal{M}$
devient une collection $\{\Omega, \mathcal{F}, X_n, V_n(x), P^T\}$ où $(V_n(x))$ est un champ de
vecteurs aléatoire stationnaire sur $\mathcal{H}$ (pour $\omega \in \Omega$ $V_n(., \omega)$ est une sélection
borélienne du fibré tangent $T(\mathcal{H})$) dont la loi reste la même pour tout $\tau$;
$X_n$ évolue sur $\mathcal{H}$ et, au lieu de (2.1), nous avons maintenant pour tout $\tau$ :
$$
(4.1) \quad \{X_n \in K\} \stackrel{P^T - \text{p.s.}}{\Rightarrow} \{\rho(X_{n+1}, X_n + \tau V_n(X_n)) \le C_1^K \tau^2\}
$$

où $x + \tau V(x)$ désigne l'extrémité de l'arc géodésique issu de $x$, tangent à $V(x) \in T_x$ et de longueur $\tau ||V(x)||_{\rho_x}$.

Dans les conditions (2.8) et (2.9), $V_n^*$ et $\tilde{V}_n^\epsilon(x)$ sont maintenant

$$
V_n^* = \sup_{x \in K} ||V_n(x)||_{\rho_x} , \quad \tilde{V}_n^\epsilon(x) = \sup_{\rho(x,y) \le \epsilon, y \in K} ||V_n(y) - V_n(x)||_{\rho_x}
$$

Alors le champ de vecteurs moyen $\bar{V}(x) = \mathbb{E}(V_n(x))$ est encore
localement lipschitzien et définit donc sur $\mathcal{M}$ le flot de ses courbes in-
tégrales. Soit $(\bar{x}(t))_{0 \le t \le S}$ la courbe intégrale issue de $x_o$ : nous avons
alors l'équivalent du théorème 2.2.

Théorème 4.1

$\mathbb{E} C, C' \ 0 < C, C' < + \infty$ telles que, pour $\tau$ suffisamment petit,
1'on ait :

$$
P^{\tau}\left\{ \sup_{0 \le n \tau \le S} \rho(X_n, \bar{x}(n\tau)) \ge C \epsilon(\tau) \right\} \le C' \epsilon(\tau)
$$

Démonstration : Annexe V

Remarquons que les petites déviations de l'ordre de $\tau^2$ dans
(4.1) doivent être prises en compte dans le cas où le processus d'appro-
ximation stochastique évolue sur une variété. C'est la raison pour la-
quelle nous avons pris (2.1) au lieu de (1.1).

Exemple : Algorithme d'approximation stochastique avec contraintes

Reprenons l'exemple 1 du paragraphe 3 et considérons la procédure donnée par la figure 3.

<figure><img src="image_18.png" /><figcaption>Figure 3</figcaption></figure>

La différence avec la méthode de 3 est l'introduction d'un
filtre blanchissant W donnant :
(4.2) $(z_n)_{n \in \mathbb{Z}}$ est une suite décorrélée telle que $E(z_n^2) = E(a_n^2) ((z_n) \text{ n'est pas en général une suite de v.a. indépendantes}). Cela peut être réalisé simplement en prenant $z_n = y_n - \hat{y}_n \text{(innovation) où } \hat{y}_n \text{ est la meilleure prédiction linéaire de } y_n$. Avec (4.2) nous avons :

$$
(4.3) \quad \{ \mathbb{E}(c_n^2) = \mathbb{E}(a_n^2) \} \Leftrightarrow \{ \sum_k h_k^2 = 1 \}
$$

L'égaliseur va donc être ajusté sous la contrainte d'énergie
$||H||^2 = 1$. L'algorithme (3.8) est donc remplacé par :

$$
(4.4) \quad \left\{
\begin{array}{@{}l@{}}
H_{n+1} = \lambda_n (H_n - \tau Z_n \psi(c_n)) \\
\lambda_n \text{ tel que } \|H_{n+1}\|^2 = \sum_k h_{n+1}^2 (k)^2 = 1
\end{array}
\right.
$$

Dans ces conditions ($H_n$) évolue sur la sphère unité de
$\mathbb{R}^d$ ($d = 2N+1$) qui joue le rôle de la $n \ge 0$ variété $\mathcal{H}$. Un calcul simple (cf.
chapitre III) montre que le champ de vecteur aléatoire (tangent à la sphère !)
correspondant est :

$$
(4.5) \quad - V_n^C(H) = (Z_n - H c_n) \psi(C_n)
$$

car nous avons alors

$$
(4.6) \quad H_{n+1} = H_n + \tau V_n^C(H_n) + O(\tau^2)
$$

Nous n'allons pas examiner l'applicabilité du théorème 4.1; les considérations sur les hypothèses sont analogues à celles faites dans 3.pour l'exemple 1.

5. - CONCLUSION

Nous avons présenté un traitement général des algorithmes d'approxi-
mation stochastique comprenant éventuellement des contraintes égalité. Le
résultat de base d'éclatement de l'étude en deux parties indépendantes :
1) le comportement de l'équation différentielle ordinaire moyenne,
2) estimation des déviations par rapport à la trajectoire moyenne,
est maintenant bien connu. Pour assurer l'applicabilité des hypothèses,
nous avons étudié ici le point 2) en tenant compte des caractéristiques
particulières (condition de mélange au sens large et discontinuités) ren-
contrées en transmission de données. Le point 1) fait l'objet du chapitre
III.

Les seuls exemples que nous avons choisis viennent de la transmission
de données car ce domaine n'était pas couvert par le travail de LJUNG [1]
mais d'autres illustrations de cette méthode pourraient être considérées.

Remarque

Les idées de base de la démonstration du théorème principal (théorème 2.2) et des notes informelles préparatoires de [2] sont fortement corrélées.

Merci.
ANNEXE I : DEMONSTRATION DU THEOREME 2.2

La courbe intégrale $(\bar{x}_t)_{0 \le t \le S}$ étant de classe $\mathcal{L}^1$, est donc compacte dans $\mathbb{R}^d$. On choisit donc un compact $K \subset \mathbb{R}^d$ contenant le tube de squelette $(\bar{x}_t)_{0 \le t \le S}$ et d'épaisseur $\ell > 0$ (i.e. $\forall t \in [0,S]$ on a $B(\bar{x}_t, \ell) \subset K$, $B(\bar{x}_t, \ell)$ boule fermée). A partir de maintenant les constantes $C_1, C_2, \dots$ sont relatives au compact $K$ et on omettra donc d'indexer par $K$.

Bien entendu la trajectoire moyenne $(\bar{x}_t)_{0 \le t \le S}$ reste dans $K$ alors que la trajectoire aléatoire $(X_n)_{0 \le n \tau \le S}$ quitte $K$ avec une probabilité positive pour toute valeur de $\tau$; considérons alors le premier temps de sortie $T$

$$ (I.1) \quad T(\omega) = \inf \{n \ge 0 \mid X_n \notin K\} $$

La démonstration comporte quatre étapes :

- 1 : formulation précise de l'approximation (2.4).

- 2 : utilisation de quelques estimations de BILLINGSLEY [ ] sur la loi des grands nombres pour justifier (2.5).

- 3 : en quel sens (2.5) signifie-t-elle que $(X_n)$ est proche de $(\bar{x}_t)$

- 4 : résultat final du théorème.

### Etape 1 : Quelques estimations p.s. ($\tau > 0$ fixé)

Pour tout $m, n \ge 0$ nous avons

$$ (I.2) \qquad \left\{ \begin{array}{@{}l@{\quad}l@{}} & \left\| X_{m+n} - X_n - \bar{x}_{(m+n)\tau} + \bar{x}_{m\tau} \right\| \le \sum_{j=m}^{m+n-1} \left\| X_{j+1} - X_j - \tau V_j(X_j) \right\| + \\ & \tau \sum_{j=m}^{m+n-1} \left\| V_j(X_j) - V_j(\bar{x}_{m\tau}) \right\| + \tau \left\| S_n^m(\bar{x}_{m\tau}) \right\| + \left\| \bar{x}_{(m+n)\tau} - \bar{x}_{m\tau} \right\| - \\ & n\tau \left\| \bar{V}(\bar{x}_{m\tau}) \right\| = \textcircled{1} + \textcircled{2} + \textcircled{3} + \textcircled{4} \end{array} \right. $$

avec

$$ (I.3) \quad S_n^m(x) = \sum_{j=m}^{m+n-1} (V_j(x) - \bar{V}(x)) \quad \text{et} \quad S_n(x) = S_n^O(x) $$
① et ④ ne posent pas de problème pour $X_j \in K$ ;
③ sera étudié à
l'étape suivante. Considérons ② :

pour $\epsilon > 0$, $\tau > 0$ et $m \ge 0$ on définit la v.a. $T(\epsilon, \tau, m)$.

$$
(\tau.4) \quad T(\epsilon, \tau, m) = \inf \{i \ge m \mid \|X_i - \bar{X}_{m\tau}\| > \epsilon\}
$$

et la v.a. $Z_n^{\epsilon,m}(x)$ :

$$
(I.5) \quad Z_n^{\epsilon,m}(x) = \sum_{j=m}^{m+n-1} \tilde{V}_j^{\epsilon}(x) \quad (\text{cf. } (2.9))
$$

La définition de $\tilde{V}_j^\epsilon(x)$ entraîne :

$$
(I.6) \quad \textcircled{2} \le \tau Z_n^{\epsilon,m}(\bar{x}_{m\tau}) \mathbb{P}^{\tau\text{-p.s.}} \text{ sur } \{m+n < \min[T, T(\epsilon, \tau, m)]\}
$$

avec (I.2) et (I.6) on obtient :

$$
(I.7) \quad \left\{
\begin{array}{l}
\| X_{m+n} - \bar{x}_{(m+n)\tau} \| \le \| X_m - \bar{x}_{m\tau} \| + n \tau^2 C_1 + \tau Z_n^{\epsilon,m}(\bar{x}_{m\tau}) + \\
\qquad \tau \| S_n^m(\bar{x}_{m\tau}) \| + C_5 n \tau^2 \\
\qquad \mathbb{P}^{\tau\text{-p.s.}} \text{ sur } \{m+n < \min[T, T(\epsilon, \tau, m)]\}
\end{array}
\right.
$$

avec $C_5 = \sup_{x \in K} ||\bar{V}(x)|| < +\infty$ ($\bar{V}$ est localement borné).

D'autre part avec (2.8), (I.7) devient :

$$
(I.8) \quad \left\{
\begin{array}{l}
\| X_{m+n} - \bar{x}_{(m+n)\tau} \| \le \| X_m - \bar{x}_{m\tau} \| + C_1 n \tau^2 + \tau \sum_{j=m}^{m+n-1} V_j^* \\
\mathbb{P}^{\tau\text{-p.s.}} \text{ sur } \{m+n < T\}
\end{array}
\right.
$$

Etape 2 : *Application de la loi des grands nombres à* $||S_n^m(x)||$ *et* $Z_n^{\epsilon,m}(x)$

Nous allons réécrire, dans une forme affaiblie, l'estimation (21.34)
donnée dans [3] en explicitant les constantes car nous voulons une estima-
tion uniforme en x. Comme (V_n(x)) est stationnaire il nous suffit donc de
prendre m = 0 et d'estimer ||S_n(x)|| et Z_n^ε(x).
Commençons par $S_n(x)$. Considérons $U_n(x) = V_n(x) - \bar{V}(x) : (U_n(x))_{n \in \mathbb{Z}}$
est une suite stationnaire à moyenne nulle dont les sommes partielles
sont $S_n(x)$. Reprenons l'estimation (21.13) de [3]:

$$
(I.9) \quad \left| \mathbb{E} \left( \langle U_o(x), U_n(x) \rangle \right) \right| \le 2 \varphi^{1/2}_{[n/3]} \mathbb{E} \left\| U_o(x) \right\|^2 + 2 \varphi^{1/2}_{[n/3]} \mathbb{E} \left\| U_o(x) \right\|^2 + \varphi_{[n/3]} \mathbb{E} \left( \langle U_o(x), U_n(x) \rangle \right)
$$
uniforme pour $x \in K$ grâce à (2.6), (2.7) et (2.8) (", ") produit scalaire
dans $\mathbb{R}^d$).

Par conséquent :

$$
\sigma^2(x) = \sum_{n \in \mathbb{Z}} \rho_n(x) \quad \text{avec } \rho_n(x) = \mathbb{E} \left( \langle U_o(x), U_n(x) \rangle \right)
$$

est absolument convergente et cela uniformément pour $x \in K$

Cela entraîne que :

$$
|\sigma^2(x) - \frac{1}{n} \mathbb{E} \|S_n(x)\|^2| \le 2 \sum_{k \ge n} |\rho_k(x)| + \frac{2}{n} \sum_{i=1}^{n-1} \sum_{k \ge i} |\rho_k(x)|
$$

converge uniformément vers 0 pour $x \in K$ grâce à (I.9).

L'inégalité de Tchebychev donne :

$\exists C_6 < \infty$ (dépendant uniquement de $\sup_{x \in K} \mathbb{E} \|U_o(x)\|^2$, $(\varphi_k)$ et $(\nu_k)$) telle que
$\forall n \ge 1, \forall \lambda > 0, \forall x \in K \text{ on ait :}$

$$
(I.10) \quad \mathbb{P} \left\{ \| S_n(x) \| > \lambda \sqrt{n} \right\} < \frac{C_6}{\lambda^2}
$$

Ceci est une forme affaiblie de (21.39) de [3]. En suivant [3] on peut
remplacer (I.10) par une estimation plus forte :

$\exists C_7 < + \infty \text{ et } N(\lambda) \text{ tels que } \forall x \in K, \lambda > 0 \text{ et } N \ge N(\lambda) \text{ on ait}$

$$
(I.11) \quad \mathbb{P} \left\{ \sup_{0 \le n \le N} \| S_n(x) \| > \lambda \sqrt{n} \right\} < \frac{C_7}{\lambda^2}
$$
Examinons maintenant $(Z_n^\epsilon(x))$. Les v.a. $(\tilde{V}_n^\epsilon(x))$ sont aussi fonction du processus $\phi$-mélangeant $(\xi_n)$ dans le sens (2.6), (2.7) puisque nous avons $\mathbb{E}(\tilde{V}_n^\epsilon(x) - \tilde{V}_n^{\epsilon,P}(x))^2 \le v_p$ avec $\tilde{V}_n^{\epsilon,P}(x)$ défini avec $v_p^\epsilon(x)$ comme en (2.9).

L'argument utilisé pour obtenir (I.11) peut être repris pour les v.a de moyenne nulle $\{Z_n^\epsilon(x) - \mathbb{E}(Z_n^\epsilon(x))\}_{n \in \mathbb{Z}}$ et donne un résultat analogue à (I.11) valable uniformément en $\epsilon$ grâce à (2.8). En tenant compte de (2.9) nous obtenons $0 \le \mathbb{E}(Z_n^\epsilon(x)) = n \mathbb{E}(\tilde{V}_n^\epsilon(x)) \le n C_3$. $\epsilon$ ce qui donne :

$$ \forall x \in K, \quad \forall \lambda > 0 \text{ et } \forall N \ge N(\lambda). $$

$$ (I.12) \quad \mathbb{P}(Z_n^\epsilon(x) > C_3 \cdot \epsilon \cdot N + \lambda \sqrt{N}) < \frac{C_7}{\lambda^2} $$

Nous obtenons de manière identique une estimation pour les sommes partielles de la suite $(v_n^*)$ (il suffit simplement de supprimer $\epsilon$ dans (I.12)) :

$$ \forall \lambda > 0 \quad \forall N \ge N(\lambda) $$

$$ (I.13) \quad \mathbb{P}\{ \sum_{0 \le n \le N} v_n^* > C_2 N + \lambda \sqrt{N} \} < \frac{C_7}{\lambda^2} $$

Nous allons enfin estimer l'erreur que nous commettons dans les v.a. $S_n(x)$ et $Z_n^\epsilon(x)$ en utilisant les v.a. "tronquées" $v_n^P(x)$ (cf. (2.7)) au lieu de $v_n(x)$. Considérons N et M fixés; notre but est, intuitivement, de compa- rer $S_N(x)$ et $\mathbb{E}(S_N(x) / \xi_{-M}, \dots, \xi_O, \dots, \xi_N, \dots, \xi_{N+M})$.

Avec (2.7) et l'inégalité de Schwartz nous avons :

$$ (I.14) \quad \sup_{x \in K} \mathbb{E} \left\| v_n(x) - v_n^{p_n}(x) \right\| \le v_{p_n}^{1/2} \quad \text{avec } p_n = \min(n+M, N+M-n). $$

Notons que pour tout $n = 0, \dots, N$ la v.a. $v_n^{p_n}$ est mesurable par rapport à la tribu $\sigma\{\xi_{-M}, \dots, \xi_{N+M}\}$. En sommant sur $n = 0, \dots, N$ (I.14) donne :

$$ \sup_{x \in K} \mathbb{E} \left( \sum_{n=0}^{N} \left\| v_n(x) - v_n^{p_n}(x) \right\| \right) \le 2 \sum_{k \ge M} v_k^{1/2} $$
et finalement on obtient : $\forall \mu > 0 \ \forall x \in K$

$$
(\text{I.15}) \quad \mathbb{P} \left[ \sum_{n=0}^{N} \left\| v_n(x) - v_n^{(p_n)}(x) \right\| \ge 2 \mu \quad \sum_{k \ge M} v_k^{1/2} \le \frac{1}{\mu} \right]
$$

Etape 3 : Estimation de $\sup_{0 \le n \tau \le S} \| X_n - \bar{x}_{n\tau} \|$ ($\tau$ fixé)

On divise $[0,S]$ en $L$ intervalles de longueur $N\tau$ (sauf pour le der-
nier qui est plus petit) tels que $L N\tau \le S < (L+1)N\tau$; et on choisit $M = N/3$.

<figure><img src="image_19.png" /></figure>

Anticipons sur l'étape suivante : avec $\tau \to 0$ L et N vont tendre vers $+\infty$ et des simplifications (par exemple négliger $N^2 \tau^2$ devant Nτ) pourront être faites par un choix approprié des constantes.

Lignes générales de cette étape : nous allons utiliser les estimations
de l'étape 2 sur chaque intervalle de longueur N et définir

$$
\begin{align*}
\tilde{\Omega} &= \cap_{p \le L} \tilde{\Omega} \subset \Omega \quad \text{avec} \quad \tilde{\Omega} = \{ \sup_{p N \le n \le (p+1)N} \| X_n - \bar{X}_{n\tau} \| \le \varphi(\tau, L) \} \quad \text{où} \varphi(\tau, L) \text{ est} \\
&\text{petit. Avec l'étape 2 nous savons que } \mathbb{P}(\tilde{\Omega}_p) \text{ est proche de 1. Pour estimer} \\
&\mathbb{P}(\tilde{\Omega}) \text{ nous allons utiliser les conditions de mélange (2.6) et (2.7) de la} \\
&\text{manière suivante : remplacer } \tilde{\Omega}_p \text{ par } \{\tilde{\Omega} / \xi \mid \xi \text{ est une suite de constants}\} = \bar{\Omega}_p \\
&\text{et estimer l'erreur avec (I.15). Ensuite, en appliquant (2.6) à} \\
&\quad (\bar{\Omega}_{2k})_{0 \le k \le L/2} \text{ et } (\bar{\Omega}_{2k+1})_{0 \le k \le L/2} \text{ séparément on obtient que } \mathbb{P}(\cap \bar{\Omega}_{2k}) \text{ et} \\
&\mathbb{P}(\cap \bar{\Omega}_{2k+1}) \text{ sont proches de 1 et on a finalement l'estimation désirée :} \\
&\mathbb{P}(\tilde{\Omega}) \approx 1.
\end{align*}
$$

Soit $\lambda > 0$, $N \ge N(\lambda)$ (voir (I.11), (I.12)) avec L correspondant, et
$(\varepsilon_p)_{0 \le p \le L}$ qui sera choisi plus tard. Pour $p = 0, \dots, L$ on note $A_p^\lambda$ et
$B_p^\lambda$ les événements suivants appartenant à $\mathcal{F}$ (cf. § 2) :
$$
(I.16) \quad \left\{
\begin{array}{l}
A_p^\lambda = Z_p^\lambda \cap S_p^\lambda \quad \text{avec} \\
\qquad \qquad \epsilon_p, p^N \\
\\
Z_p^\lambda = \{ Z_N \in (\bar{x}_{pN\tau}, \bar{x}_{pN\tau}) \le C_3 \epsilon_p N + \lambda \sqrt{N} \} \\
\\
S_p^\lambda = \{ \sup_{0 \le n \le N} \| S_n^{pN} (\bar{x}_{pN\tau}) \| \le \lambda \sqrt{N} \} \\
\\
B_p^\lambda = \{ \sum_{n=0}^{N-1} V_{pN+n}^* \le C_2 N + \lambda \sqrt{N} \}
\end{array}
\right.
$$

Avec (I.7), il existe $C_8 < \infty$ telle que pour $n = 0, \dots, N$

$$
(I.17) \quad \| X_{pN+n} - \bar{x}_{(pN+n)\tau} \| \le \| X_{pN} - \bar{x}_{pN\tau} \| + C_8 (N_{\tau}^2 + \epsilon_p N_{\tau} + \lambda \tau \sqrt{N})
$$
$$
\mathbb{P}^{\tau}\text{-p.s. sur } C_p^{\lambda} = A_p^{\lambda} \cap \{pN + n < \min[T, T(\epsilon_p, \tau, pN)]\} \text{ (cf (I.14))}
$$

Et (I.8) donne pour $n = 0, \dots, N$

$$
(I.18) \quad \| X_{pN+n} - \bar{x}_{(pN+n)\tau} \| \le \| X_{pN} - \bar{x}_{pN\tau} \| + C_8 (N_{\tau} + \lambda \tau \sqrt{N}) \\
\mathbb{P}^{\tau}\text{-p.s. sur } D_p^{\lambda} = B_p^{\lambda} \cap \{ pN + n < T \}
$$

Choisissons maintenant

$$
(I.19) \quad \epsilon_p = \zeta_p + 2 C_8 \tau (N + \lambda \sqrt{N}) \text{ avec} \\
\zeta_p = \sup \{ \| X_{kN}(\omega) - \bar{x}_{kN\tau} \| \mid k \le p; pN < T(\omega) \; ; \; \omega \in A_m^\lambda \cap B_m^\lambda \quad m = 0, \dots, p-1 \}
$$

Pour $\zeta_p < \infty$, (I.18, 19) donnent

$$
(p+1)N < T(\epsilon_p, \tau, pN)
$$

$$
\mathbb{P}^{\tau}\text{-p.s. sur } \{(p+1)N < T\} \cap B_{p}^{\lambda} \cap \{m \le p \ (A_{m}^{\lambda} \cap B_{m}^{\lambda})\}
$$

Par conséquent avec (I.17, 18, 19) il existe $C_9$ tel que, pour $\tau$ suffisamment petit :
$$
(I.20) \quad \begin{aligned}[t]
\sup_{0 \le n \le N} & \left\| X_{pN+n} - \bar{x}_{(pN+n)\tau} \right\| \le (1 + C_9 N_\tau) \zeta_p + C_9 (N^2 \tau^2 + \lambda \tau \sqrt{N}) \\
\mathbb{P}_{-p} \text{ s.s. sur } & \{ (p+1)N < T \} \cap \left\{ \begin{smallmatrix} \lambda_m \ge \lambda \\ \sum_{m \le p} (A_m^\lambda \cap B_m^\lambda) \end{smallmatrix} \right\}
\end{aligned}
$$

En conséquence on a :

$$
(I.21) \quad \zeta_{p+1} \le (1 + C_9 N_\tau) \zeta_p + C_9 (N^2 \tau^2 + \lambda \tau \sqrt{N})
$$

Or $\zeta_o = 0$ et donc $\zeta_p < \infty \forall p \le L$ et par conséquent $(\epsilon_p)_{0 \le p < L}$ dans (I.19)
est bien défini.

Notons

$$
(I.22) \quad \alpha = C_9 N_{\tau}, \quad \beta = C_9 (N^2 \tau^2 + \lambda \tau \sqrt{N})
$$

avec (I.20) et (I.21) on obtient alors

$$
(I.23) \quad \sup_{0 \le n \le \min(T, \frac{S}{\tau})} \left\| X_n - \bar{x}_{n\tau} \right\| \le \beta \frac{(1-\alpha)^{L+1} - 1}{\alpha}
$$

$$
(I.24) \quad \mathbb{P}_{-p}^{\tau} \text{ s.s. sur } \tilde{\Omega} = \bigcap_{m \le L} (A_m^{\lambda} \cap B_m^{\lambda})
$$

Pour estimer $\mathbb{P}(\tilde{\Omega})$ reprenons (1.16) avec $p$ fixé; remplaçons les v.a.
$$
(V_{pN+n}(x))_{\substack{0 \le n \le N \\ p_n}} \quad \text{(utilisées dans la définition de } A_p^\lambda \text{ et } B_p^\lambda \text{)} \quad \text{par}
$$
$$
(V_{pN+n}(x))_{\substack{0 \le n \le N \\ \tau}} \quad \text{(avec } p_n \text{ donné dans (I.14); rappelons que } M = \lfloor \frac{N}{3} \rfloor \text{) pour}
$$
définir les v.a. $Z_N^{\epsilon,p}, p^N$ ($\bar{x}_{pN\tau}$), $S_n^{pN}$ ($\bar{x}_{pN\tau}$) et $V_{pN+n}^*$ ; nous obtenons les
v.a. notées respectivement $\tilde{Z}_N^{\tilde{\epsilon},p}, p^N$ ($\bar{x}_{pN\tau}$), $\tilde{S}_n^{pN}$ ($\bar{x}_{pN\tau}$) et $\tilde{V}_{pN+n}^*$ avec lesquelles
nous définissons $\tilde{A}_p^\lambda$ et $\tilde{B}_p^\lambda$ comme en (I.16).

Remarquons que

$$
(I.25) \quad \tilde{A}_p^\lambda \text{ et } \tilde{B}_p^\lambda \text{ appartiennent à } \sigma\{\xi_{pN+n} ; n = -M, \dots, N+M\}
$$
Reprenant d'autre part (I.25) en choisissant $\mu$ tel que :

$$ (I.26) \qquad \mu \le \frac{\lambda \sqrt{N}}{8} \left( \sum_{k \ge M} v_k^{1/2} \right)^{-1} $$

on obtient pour $p = 0, \dots, L$ :

$$ (I.27) \qquad \left\{ \begin{array}{l} \mathbb{P}(\tilde{A}_p^{3\lambda/4} \setminus A_p^{\lambda}) \le \frac{1}{\mu} ; \quad \mathbb{P}(\tilde{B}_p^{3\lambda/4} \setminus B_p^{\lambda}) \le \frac{1}{\mu} \\[2ex] \mathbb{P}(A_p^{\lambda/2} \setminus \tilde{A}_p^{3\lambda/4}) \le \frac{1}{\mu} ; \quad \mathbb{P}(B_p^{\lambda/2} \setminus \tilde{B}_p^{3\lambda/4}) \le \frac{1}{\mu} \end{array} \right. \qquad (A \setminus B = A \cap B^C) $$

Avec la propriété de $\varphi$-mélange (cf [3]; (20-29)) on obtient séparément pour $p$ pair et impair les estimations suivantes :

$$ (I.28) \qquad \left\{ \begin{array}{@{}l@{}} \left| \mathbb{P} \left\{ \begin{smallmatrix} \lfloor \frac{L-1}{2} \rfloor \\ \cap \\ k=0 \end{smallmatrix} \left( \tilde{A}_{2k}^{3/4} \cap \tilde{B}_{2k}^{3\lambda/4} \right) \right\} - \prod_{k=0}^{\lfloor \frac{L-1}{2} \rfloor} \mathbb{P} \left( \tilde{A}_{2k}^{3\lambda/4} \cap \tilde{B}_{2k}^{3\lambda/4} \right) \right| \le \frac{L}{2} \varphi_M \\[2ex] \left| \mathbb{P} \left\{ \begin{smallmatrix} \lfloor \frac{L}{2} \rfloor - 1 \\ \cap \\ k=0 \end{smallmatrix} \left( \tilde{A}_{2k+1}^{3\lambda/4} \cap \tilde{B}_{2k+1}^{3\lambda/4} \right) \right\} - \prod_{k=0}^{\lfloor \frac{L}{2} \rfloor - 1} \mathbb{P} \left( \tilde{A}_{2k+1}^{3\lambda/4} \cap \tilde{B}_{2k+1}^{3\lambda/4} \right) \right| \le \frac{L}{2} \varphi_M \end{array} \right. $$

Finalement (I.26, 27, 28) et (I.11, 12, 13) (nous utilisons $N \ge N(\lambda) !$) donnent pour $p$ pair $= 2k$

$$ \begin{align*} \mathbb{P} \left\{ \begin{smallmatrix} \lfloor \frac{L-1}{2} \rfloor \\ \cap \\ k=0 \end{smallmatrix} (A_{2k}^{\lambda} \cap B_{2k}^{\lambda}) \right\} &\ge \mathbb{P} \left\{ \begin{smallmatrix} \lfloor \frac{L-1}{2} \rfloor \\ \cap \\ k=0 \end{smallmatrix} (\tilde{A}_{2k}^{3\lambda/4} \cap \tilde{B}_{2k}^{3\lambda/4}) \right\} - \frac{L}{\mu} \\ &\ge \prod_{k=0}^{\lfloor \frac{L-1}{2} \rfloor} \left\{ \mathbb{P}(\tilde{A}_{2k}^{3\lambda/4} \cap \tilde{B}_{2k}^{3\lambda/4}) \right\} - \frac{L}{\mu} - \frac{L}{2} \varphi_M \\ &\ge \prod_{k=0}^{\lfloor \frac{L-1}{2} \rfloor} \left\{ \mathbb{P}(A_{2k}^{\lambda/2} \cap B_{2k}^{\lambda/2}) - \frac{2}{\mu} \right\} - \frac{L}{\mu} - \frac{L}{2} \varphi_M \\ &\ge \left(1 - \frac{4 C_7}{\lambda^2} - \frac{2}{\mu}\right)^{L/2} - \frac{L}{\mu} - \frac{L}{2} \varphi_M \end{align*} $$

et l'estimation correspondante pour $p = 2k+1$. Enfin avec $\mu$ donné par (I.26) on obtient :
$$
(I.30) \quad \mathbb{P}(\tilde{\Omega}) \ge 1 - 2\gamma \quad \text{avec} \quad 1 - \gamma = \left(1 - \frac{4C_7}{\lambda^2} - \frac{2}{\mu}\right)^{\frac{L}{2}} - L\left(\frac{1}{\mu} + \frac{\varphi_M}{2}\right)
$$

ce qui donne avec (I.23) le résultat essentiel de cette étape.

Étape 4 : Obtention de l'estimation du théorème

Nous allons introduire maintenant la fonction $\epsilon(\tau)$ : on prend

$$
(I.31) \quad \lambda = L, N = \max(L^4, N(\lambda)), \quad \tau(\lambda) = \frac{S}{LN}
$$

$\tau(\lambda)$ est une fonction décroissante de $\lambda$, $\tau(\lambda) \to 0$ lorsque $\lambda \to +\infty$;

On définit pour $\tau > 0$

$$
(I.32) \quad \frac{1}{\epsilon(\tau)} = \lambda(\tau) = \sup \{\lambda \mid \tau \le \tau(\lambda)\}
$$

$\epsilon(\tau) \downarrow 0$ lorsque $\tau \downarrow 0$.

Analysons maintenant (I.30); ($\varphi_k$) étant une suite décroissante avec
$\sum_k \varphi_k^{1/2} < \infty$ nous avons $\varphi_k = o(\frac{1}{k^2})$ et donc $L \varphi_M = o(\frac{1}{L^3})$ ;

d'autre part comme (λ_k) est une suite décroissante avec Σ v_k^{1/2} < ∞ ,
grâce à (I.26) on peut choisir μ tel que, lorsque τ → 0,

$$
\frac{1}{\mu} = o\left(\frac{1}{\lambda N^{3/2}}\right) = o\left(\frac{1}{L^7}\right)
$$

Donc (I.30) entraîne que

$$
(I.33) \quad \exists C' < \infty \text{ t.q. } \mathbb{P}(\tilde{\Omega}) \ge 1 - C' \epsilon(\tau) \text{ pour } \tau \text{ suffisamment petit.}
$$

Reprenons maintenant (I.23); puisque $\frac{(1+\alpha)^{L-1} - 1}{\alpha} = O(L)$ et $\beta = O(\frac{1}{L^2})$

On a : $\exists C < \infty$ telle que pour $\tau$ suffisamment petit

$$
(I.34) \quad \sup_{0 \le n \le \min(T, \frac{S}{\tau})} \| X_n - \bar{x}_{n\tau} \| \le C \epsilon(\tau) \mathbb{P}^{\tau} \text{p.s sur } \tilde{\Omega}
$$
Les inégalités (I.33) et (I.34) donnent le résultat du théorème excepté pour le premier temps de sortie T apparaissant dans (I.34).

Nous aurons le résultat complet si nous montrons que pour $\tau$ suffisamment petit :

$$
\begin{array}{l}
(\text{I.35}) \quad T \ge \frac{S}{\tau} \quad \mathbb{P}^{\mathcal{T}}\text{-p.s. sur } \tilde{\Omega} \\[1.5em]
\quad \text{Soit } \omega \in \tilde{\Omega} \text{ tel que } T(\omega) < \frac{S}{\tau} \text{ et}
\end{array}
$$

$$
\begin{array}{@{}l@{\qquad}l@{}}
\text{(I.36)} & \sup_{0 \le n < T(\omega)} \left\| X_n(\omega) - \bar{x}_{n\tau} \right\| \le C \varepsilon(\tau) \\[1.5ex]
& \text{(qui est valable pour } \mathbb{P}^{\mathcal{T}}\text{- presque tout } \omega \in \tilde{\Omega} \text{ grâce à (I.34)). Nous avons en particulier } \\
& \qquad \left\| X_{T-1}(\omega) - \bar{x}_{(T(\omega)-1)\tau} \right\| \le C \varepsilon(\tau); \text{ mais le choix du compact K entraine que } \\
& \qquad \left\| X_T(\omega) - \bar{x}_{T(\omega)\tau} \right\| \ge \ell \text{ et donc nous devons avoir } \\
& \qquad \left\| V_{T(\omega)-1}(X_{T-1}(\omega)) \right\| \ge \frac{\ell}{\tau} \text{ ce qui est impossible } \mathbb{P}^{\mathcal{T}}\text{-p.s. sur } \tilde{\Omega} \\
& \text{d'après sa définition; (I.35) est donc vraie, ce qui achève la démonstration.} \quad \blacksquare
\end{array}
$$

\underline{\text{Commentaires sur les remarques suivant le théorème 2.2}}

Si les v.a. $V_n(x)$ sont indépendantes on peut utiliser l'estimation
(10.7) de [3], ce qui nous permet d'utiliser les estimations de l'étape 2
pour tout N si bien que l'on peut choisir dans l'étape 4:$\lambda = L = N^{1/4}$
et obtenir $\varepsilon(\tau) = \tau^{1/5}$.

Dans le cas où ces v.a. satisfont la condition de mélange (2.6) avec
$E(V_n^*(x))^{2+\alpha} < \infty$ pour un certain $\alpha > 0$ alors nous avons, pour $x \in K$ :
$$E \|S_n(x)\|^{2+\alpha} \le C n^{\frac{2+\alpha}{2}}$$

(voir [12] Lemme 18.5.1. pour la démonstration avec $\alpha < 1$ qui peut être réécrite dans le cas général avec de petites modifications) de telle sorte que les estimations de l'étape 2 peuvent être renforcées de la manière suivante : nous réécrivons (I.11) en guise d'exemple :
$$
(\text{I.38}) \quad \mathcal{P} \left\{ \sup_{0 \le n \le N} \left\| S_n(x) \right\| > \lambda \sqrt{N} \right\} < C_7 \left( \frac{1}{\lambda^{2+\alpha}} + \varphi_{p_N} \right)
$$

avec $p_N = N^{\frac{\alpha}{2+\alpha}}$ (remarquons que (I.38) donne explicitement $N(\lambda)$ dans (I.11))

On applique ensuite la même démarche que précédemment mais avec

$L = \lambda \quad 1 + \frac{\alpha}{2} \quad 2 + \frac{4+\alpha}{2+\alpha} \quad \text{et} \quad N = L \quad \text{on obtient } \varepsilon(\tau) = \tau \frac{1}{1+\beta} \quad \text{avec}$

$$
\beta = \max \left( 1 + \frac{2}{\alpha}, 2 \frac{4+\alpha}{2+\alpha} \right).
$$
ANNEXE II : DEMONSTRATION DU THEOREME 3.2

<figure><img src="image_20.png" /><figcaption>Figure 2 - ($\dim \mathcal{X} = \dim \mathcal{Y} = 1$)</figcaption></figure>

Considérons pour $x \in \mathcal{X}$, $K$ un voisinage compact de $x$ et définissons
$Y^\mathcal{E}(x) \subset \mathcal{Y}$ :

$$
(II.1) \quad Y^{\mathcal{E}}(x) = \{y \in \dot{y} \mid \sup_{x' \in K \cap B(x, \epsilon)} \|V(x', y) - V(x, y)\| > C_1^{\mathcal{K}}(y) \cdot \epsilon\}
$$

où $B(x, \epsilon)$ est la boule centrée en $x$ de rayon $\epsilon$, $C_1^{\mathcal{K}}(y)$ donnée par (3.2).
Nous allons montrer qu'il existe $C_1^{\mathcal{K}}$ telle que pour $\epsilon$ petit, $\forall x \in K$ :

$$
(II.2) \quad \mu(Y^\mathcal{E}(x)) \le C_1^\mathcal{K} \cdot \epsilon
$$

où $\mu$ est la loi de $Y_n$.

Grâce à l'hypothèse V1 nous avons

$$
(II.3) \quad Y^{\mathcal{E}}(x) \subset \Delta_x^{\eta} \quad \text{avec} \quad \Delta_x^{\eta} = \{y \in \mathcal{Y} \mid d(y, \Delta_x) < \eta\} \quad \text{et}
$$

$$
\eta \le \epsilon / \inf \{|\theta(x,y)| \ ; \ x \in K, y \in \mathcal{Y}\} . \text{ (voir figure 2).}
$$

D'autre part, grâce à la continuité de la densité f de µ(V2(i)) nous
avons que µ(Δxⁿ) = ∫Δxⁿ f(y) dy est dominé par η ∫Δx f(y) λ(dy) lorsque
η → 0 (voir Federer [5]) et par conséquent, avec V2(ii), nous avons :
Ê C₂^K < ∞ telle que pour η petit

$$
(II.4) \quad \mu(\Delta_x^n) \le c_2^K \cdot n
$$

ce qui, avec (II.3), donne (II.2).

Mais

$$
\mathbb{E}(\tilde{V}_n^\epsilon(x)) = \int_y \tilde{V}^\epsilon(x,y) \, \mu(dy)
$$

avec

$$
\tilde{V}^{\epsilon}(x,y) = \sup_{x' \in K \cap B(x, \epsilon)} \|V(x',y) - V(x,y)\|
$$

Donc avec V3 et (II.2) nous obtenons :

$$
\mathbb{E}(\tilde{V}_n^\epsilon(x)) = \int_{y \setminus Y^\epsilon(x)} \tilde{V}^\epsilon(x,y) \, \mu(dy) + \int_{Y^\epsilon(x)} \tilde{V}^\epsilon(x,y) \, \mu(dy)
$$

$$
\le \epsilon \left\{ \int C_1^K(y) \mu(dy) + C_3^K \cdot \epsilon \right\} \text{ ce qui achève la démonstration.} \blacksquare
$$
ANNEXE III : DEMONSTRATION DU THEOREME 3.3

M1-a et b étant des cas particuliers de M1 nous examinons simplement M1.

M2 et M2-a - L'indice n, arbitraire, est supprimé dans ce qui suit
(Y_n → Y).

Rappelons que :

$$
(\text{III.1}) \quad \mathbb{E} \left\| V(H) - V^m(H) \right\|^2 = \mathbb{E} \left\| V(H, Y) - V(H, Y^m) \right\|^2
$$

Nous avons :

$$
(\text{III.2}) \quad V(h,y') - V(h,y) = \int_{[y,y^+]} M(h,z) \, dz \pm \alpha \cdot (y+y') \cdot \mathbb{1}_{\{y \le \Delta_h \le y'\}} = \textcircled{1} \pm \alpha \textcircled{2}
$$

( 1 = fonction caractéristique)
{.}

où ① est une intégrale sur un chemin arbitraire de y à y' et {y ≤ Δh ≤ y'} est l'ensemble des points situés sur les différents côtés de Δh (cf. (3.13)).

Nous avons à estimer séparément ① et ② (correspondant à M2 et M2-a seulement) correspondant respectivement aux parties régulière et discontinue de $\psi$.

En utilisant les inégalités de Jensen et Hölder on obtient pour ① :∀ k ∈ K compact de R d

$$
\[
\mathbb{E} \left\| \int_{[Y, Y^m]} M(h,z) \, dz \right\|^2 = \mathbb{E} \left\| \left( \int_0^1 M(h, Y+t(Y^m-Y)) \, dt \right) (Y^m-Y) \right\|^2
\]
\[
\le \int_0^1 \mathbb{E} \left\| M(h, Y+t(Y^m-Y)) (Y^m-Y) \right\|^2 \, dt
\]
$$

(III.3)

$$
\le \sup_{0 \le t \le 1} (\mathbb{E} \| M(h, Y+t(Y^m-Y)) \|^2 q)^{1/q} \cdot (\mathbb{E} \| Y-Y^m \|^2 p)^{1/p}
$$

$$
\le C_1^K (\mathbb{E} \| Y-Y^m \|^2 p)^{1/p} = C_1^K \cdot R_m (C_1^K \text{ défini par (3.18)}
$$

Estimation de $\textcircled{2}$ (sous l'hypothèse M2) : on a

$$
\begin{align*}
(\text{III.4}) \quad \int_{\{Y \le \Delta_h \le Y^m\}} \|Y+Y^m\|^2 \, d\mathcal{P} \le 8 \int_{\{Y \le \Delta_h \le Y^m\}} \|Y\|^2 \, d\mathcal{P} + 2 \int \|Y-Y^m\|^2 \, d\mathcal{P} \\
&= 8. \textcircled{3} + 2 \mathbb{E} \|Y-Y^m\|^2
\end{align*}
$$
Soit $g(y)$ la densité de la loi de $Y$ par rapport à la mesure de Lebesgue sur $\mathbb{R}^d$ et $\lambda$ la mesure de Hansdorff (d-1)-dimensionnelle sur $\mathbb{R}^d$, (d,...) la distance sur $\mathbb{R}^d$; pour $m$ assez grand, la suite $(\varepsilon_m)$ étant définie par (3.22), on a :

$$ \textcircled{3} \quad \le \int_{\{d(Y, \Delta_h) \le \varepsilon_m\}} ||Y||^2 dP + \int_{\{||Y-Y^m|| > \varepsilon_m\}} ||Y||^2 dP $$

$$ (III.5) \quad \le 4 \cdot \varepsilon_m \int_{\Delta_h} ||y||^2 g(y) \lambda(dy) + (\mathbb{E} ||Y||^{2p} )^{1/p} (\mathbb{P}\{ ||Y - Y^m|| > \varepsilon_m \})^{1/q} $$

$$ \le 4 \varepsilon_m c_2^K + (\mathbb{E} ||Y||^{2p})^{1/p} \left( \frac{\mathbb{E} ||Y - Y^m||^{2p}}{\varepsilon_m^{2p}} \right)^{1/q} $$

Voir $h \in K$ compact de $\mathbb{R}^d$, où l'on a :

$$ (III.6) \quad c_2^K = \sup_{k \in K} \int_{\Delta_h} ||y||^2 g(y) \lambda(dy) $$

On a $c_2^K < + \infty$ car $\mathbb{E} ||Y||^2 = \int_{\mathbb{R}^d} ||y||^2 g(y) dy < \infty$ et $\Delta_h$ est un hyperplan dépendant continuement de $h$.

Sous l'hypothèse M2-a on choisit $\varepsilon_m = \ess \sup ||Y - Y^m|| = C \sum_{|k|>m} |s_k|$ et on obtient :

$$ (III.7) \quad \textcircled{3} \quad \le 4 \cdot c_2^K \varepsilon_m $$

Nous pouvons maintenant conclure. Tout d'abord (3.19) donne $\sum_m \mathbb{R}_m^{1/2} < \infty$ ($\mathbb{R}_n^p = \mathbb{E} ||Y - Y^m||^{2p}$) ce qui, joint à (III.1,2,3), achève l'étude de (1) et donne le théorème sous M1. Sous M2, (3.22) implique que $\sum_m \varepsilon_m^{1/2} < \infty$ et $\sum \left(\frac{\mathbb{R}_m}{2\varepsilon_m}\right)^{p/2q} < \infty$ ; ce qui, joint à (III.1,2,3,4,5,6) donne le théorème sous M2. Enfin (3.23) et (III.7) donnent le résultat sous M2-a. ■
ANNEXE IV : DEMONSTRATION DU THEOREME 3.4

Comme dans l'annexe III nous omettons l'indice n. Nous voulons estimer :

$$
(\text{IV.1}) \quad \textcircled{1} = \mathbb{E} \left\| Y_a - Y^m a \right\|^2 , \quad \textcircled{2} = \mathbb{E} \left\| Y^t Y - Y^m t Y^m \right\|^2
$$

Pour $\textcircled{1}$ nous avons :

$$
(\text{IV.2}) \quad \textcircled{1} = \mathbb{E} \left\| (Y - Y^m) a \right\|^2 \le (\mathbb{E} \left\| Y - Y^m \right\|^2 p)^{1/p} (\mathbb{E} (a^{2q}))^{1/q}
$$

et pour $\textcircled{2}$ :

$$
(\text{IV.3}) \quad \textcircled{2} = \sum_{|i|, |j| \le N} \mathbb{E} (y_i y_j - y_i^m y_j^m)^2 \le 2 \sum_{|i|, |j| \le N} \{ \mathbb{E} (y_i (y_j - y_j^m))^2 + \\
\qquad \qquad + \mathbb{E} (y_j^m (y_i - y_i^m))^2 \}
$$

dans lequel nous avons :

$$
(\text{IV.4}) \quad \left\{
\begin{array}{l}
\mathbb{E} (y_i (y_j - y_j^m))^2 \le (\mathbb{E} (y_i^2 q))^{1/q} (\mathbb{E} (y_j - y_j^m)^2 p)^{1/p} \\[1em]
\qquad + \mathbb{E} (y_j^m (y_i - y_i^m))^2 \le (\mathbb{E} (y_j^m 2q))^{1/q} (\mathbb{E} (y_i - y_i^m)^2 p)^{1/p}
\end{array}
\right.
$$

et on obtient le résultat avec (IV.2,3,4) et (3.30).

<figure><img src="image_21.png" /></figure>
ANNEXE V : DEMONSTRATION DU THEOREME 4.1

Commençons par donner une démonstration simple dans le cas où le champ de vecteurs moyen $(\bar{V}(x))_{x \in \mathcal{H}}$ est de classe $C^1$. Avec cette hypothèse supplémentaire le flot des courbes intégrales du champ permet de construire naturellement un voisinage tubulaire de la courbe $(\bar{x}_t)_{-\eta < t < S+\eta}$ ($\eta > 0$ petit);
c'est-à-dire un $C^1$-difféomorphisme $\varphi$ de $(-\eta, S+\eta) \times B_{d-1}(0,\eta)$ (où $B_{d-1}(0,\eta)$ est la boule de $\mathbb{R}^{d-1}$ centrée en 0 et de rayon $\eta$) sur un voisinage de $(\bar{x}_t)_{0 \le t \le S}$ relativement compact dans $\mathcal{H}$, envoyant $(-\eta, S+\eta) \times \{0\}$ sur la courbe $(\bar{x}_t)_{-\eta < t < S+\eta}$ (cf. [10]). Avec $\varphi$ nous transportons la métrique de $\mathcal{H}$ sur $(-\eta, S+\eta) \times B_{d-1}(0,\eta)$ : nous obtenons une métrique équivalente à la métrique usuelle sur $\mathbb{R}^d$.

Pour $\varepsilon < \eta$ considérons $\tilde{K} = [-\varepsilon, S+\varepsilon] \times \bar{B}_{d-1}(0,\varepsilon)$ et $K = \varphi(\tilde{K})$, compact dans $\mathcal{H}$; nous pouvons transporter sur $\tilde{K}$ tous les êtres définis sur $K$: le champ de vecteurs aléatoire (avec les hypothèses correspondantes), le processus d'approximation stochastique (c'est ici qu'intervient de manière obli-gatoire la possibilité de déviations en $o(\tau^2)$ de (2.1)).

Il apparaît là une difficulté due au fait que la trajectoire aléatoire $X_n$ sur la variété $\mathcal{H}$ peut en général sortir de $K$ or $\varphi$ est seulement un diffé-omorphisme local de $\tilde{K}$ sur $K$ et non pas de $\mathbb{R}^d$ sur $\mathcal{H}$ ! On lève cette diffi-culté en travaillant localement comme dans l'étape 4 de l'annexe I : soit $T$ le premier temps de sortie de $K$ pour $X_n \in \mathcal{H}$: on transporte sur $K$, avec $\varphi$, l'estimation du théorème 2.2 et on a :

$$ P^{\tau} \begin{cases} \sup_{0 \le n < \min(T, \frac{S}{\tau})} \rho (X_n, \bar{x}_{n\tau}) \le C \varepsilon(\tau) \} \ge 1 - C' \varepsilon(\tau). \\ 0 \end{cases} $$

On supprime $T$ de la même manière que dans l'étape 4 de l'annexe I : on montre que pour $\tau$ suffisamment petit on a $T \ge \frac{S}{\tau}$ sur l'ensemble sur lequel on a la minoration de probabilité ci-dessus.

Dans le cas où le champ de vecteurs moyen $(\bar{V}(x))$ est seulement locale-ment Lipschitzien on ne peut évidemment pas utiliser les voisinages tubu-laires. Il est alors nécessaire de recopier la démonstration du théorème 2.2 faite pour $\mathbb{R}^d$ entier et utiliser un système de cartes locales. Ce travail ne présente pas de difficulté supplémentaire si ce n'est sa longueur et nous ne l'entreprenons pas ici.

<figure><img src="image_22.png" /></figure>
BIBLIOGRAPHIE

[1] V.I. ARNOLD - Conditions for applicability and estimation of the error in the averaging method for systems which in the process of evolution pass through resonance. Dokl. Akad. Nauk. SSSR, 161, 1(1965) pp. 9-12.

[2] R. AZENCOTT, G. RUGET - Mélanges d'équations différentielles et grands écarts à la loi des grands nombres. Z. Wahrscheinlichkeitsth. 38, 1.54 (1977).

[3] P. BILLINGLEY - *Convergence of Probability measures*. J. Wiley & Sons 1968.

[4] N.N. BOGOLYUBOV. Some statistical method in mathematical physics. Kiev Izd-vo Akad. Nauk. Ukrain. SSR 1945.

[5] H. FEDERER - *Geometric Measure Theory*. Springer V. 1969.

[6] R.Z. KHAS'MINSKII - On stochastic processes defined by differential equations with a small parameter. Th. of Probability and its applications, XI-2, pp. 211-228, 1966.

[7] KRASNOSEL'SKII, KREIN - An averaging principle in nonlinear mechanics Uspechi. Mat. Nauk, 10, 3, pp. 147-152, 1955.

[8] H.J. KUSHNER - Convergence of recursive adaptive and identification procedures via weak convergence theory. To appear.

[9] H.J. KUSHNER - *Probability methods for approximation in stochastic control and for elliptic equations*. Academic Press 1977.

[10] S. LANG - *Introduction aux variétés différentiables*. Dunod 1967.

[11] L. LJUNG - Analysis of Recursive stochastic algorithms. IEEE Trans. on Aut. Control V 22 n° 4, pp. 551-575, 1977.
[12] I.A. IBRAGIMOV, Yu. V. LINNIK : *Independent and stationary sequences of random variables*, Woltens Nordhoff publishing Groningen 1971.

[13] J. G. PROAKIS : *Advances in equalization for intersymbol interference* in Adv. in Comm. Systems pp 124-194, vol. 4, Academic Press 1975.
### III - DEFINITION ET ETUDE D'UNE FONCTIONNELLE MESURANT
LA DEFORMATION PAR ROTATION D'UNE LOI PRODUIT.
APPLICATION : ACCROCHAGE AVEUGLE D'UN EGALISEUR.

#### 1. - INTRODUCTION

Le problème exposé dans I (1.3.3 et 1.5) peut se formuler de la manière suivante : on observe une suite $(x_n)_{n \in \mathbb{Z}}$ de la forme

$$ (1.1) \qquad x_n = \sum_{k \in \mathbb{Z}} s_k a_{n-k} $$

où $(a_n)_{n \in \mathbb{Z}}$ est une suite de variables indépendantes, identiquement distribuées de loi v connue (loi d'entrée) et où le système $S = (\mathbb{S}_k)_{k \in \mathbb{Z}}$ est inconnu. Il s'agit d'identifier le système S, ou plus exactement son inverse $S^{-1}$. Nous négligeons ici la présence éventuelle d'une perturbation s'ajoutant dans le second membre de (1.1) pour deux raisons pratiques : dans les applications visées (transmission de données) ce bruit n'est pas très important et d'autre part nous ne cherchons pas une identification très fine de $S^{-1}$ mais plutôt une bonne initialisation pour d'autres algorithmes (celui donné par I(3.9) par exemple).

Dans le cas où v est gaussienne et S à minimum de phase (i.e. stable et d'inverse stable) nous savons que ce problème ne présente pas de difficulté particulière : $(a_n)$ est simplement l'innovation de la suite $(x_n)$ (cf. par exemple LJUNG [5]).

En transmission de données le système S n'est pas à minimum de phase : son identification restait jusqu'alors un problème ouvert, dont on sait qu'il est insoluble si v est gaussienne; en conséquence, même dans le cas non gaussien, il est impossible de se contenter de minimiser une certaine erreur quadratique moyenne, en usant seulement des statistiques du second ordre. Nous allons effectuer, pour identifier $S^{-1}$, une reconstruction avec un certain retard (une reconstruction en temps réel est impossible puisque S n'est pas à minimum de phase) de la suite d'entrée $(a_n)$ en utilisant le schéma suivant (cf. I.3 et I.5) :
$$
(1.2) \qquad \mathbf{a}_n \xrightarrow[\text{inconnu}]{\mathbf{S}} (\mathbf{x}_n) \xrightarrow[\text{ajustable}]{\mathbf{H}} (\mathbf{c}_n)
$$

le système ajustable H (égaliseur) devant être choisi de façon à ce que
$c_n = a_{n-N}$ (N = retard arbitraire). La méthode consiste à construire une
fonctionnelle $\gamma(H)$ atteignant son minimum en $H = S^{-1}$; le potentiel $\gamma$ est
en fait une certaine mesure de la déformation d'une probabilité produit
dans $\mathbb{R}^2$ par une rotation (déformation qui, précisément, n'existe pas si
$v$ est gaussienne), dont une forme particulière se rapproche de la notion
d'information mutuelle entre deux lois. Puis on minimise $\gamma$ à l'aide d'un
algorithme de gradient stochastique qui est donc l'algorithme d'ajustement
de H. Ce dernier point est justifié par le résultat de convergence donné
au chapitre II pour des processus d'approximation stochastique admettant
des discontinuités.

2. - ENONCE DU PROBLEME; DESCRIPTION DE LA METHODE ET DE L'ALGORITHMEE

Soit $(a_n)_{n \in \mathbb{Z}}$ une suite stationnaire de variables aléatoires indépendantes de loi $v$; ces variables sont envoyées à travers une ligne inconnue $S$, modélisée par un système dynamique linéaire et invariant dans le temps.
On observe la sortie $(x_n)_{n \in \mathbb{Z}}$ :

$$
(2.1) \qquad x_n = \sum_{k \in \mathbb{Z}} s_k a_{n-k} , \quad \text{où } S = (s_k)_{k \in \mathbb{Z}}
$$

Nous faisons, pour toute la suite, les hypothèses suivantes :

(2.2) Hypothèses :

A1 La loi $v$, dite loi d'entrée, est symétrique et de variance finie.

A2 La ligne inconnue S est d'énergie finie et inversible en ce sens que,
si on note $\Lambda = (\Lambda_{ij})_{i,j \in \mathbb{Z}}$ avec $\Lambda_{ij} = \sum_{k \in \mathbb{Z}} s_k s_{k+i-j}^*$ (*)

l'opérateur symétrique $\Lambda$ est borné et défini positif dans l'espace
de Hilbert $\ell^2$ des suites de carré sommable indicées par $Z$.

<footnote>(*) $\Lambda$ est donc à une constante près la matrice de covariance de l'observation $(x_n)$</footnote>
Le problème posé est alors le suivant : on <u>connaît</u> la loi d'entrée <u>v</u>, on <u>observe</u> la suite $(x_n)_{n \in \mathbb{Z}}$, et l'on désire <u>reconstruire</u> la suite de signaux $(a_n)_{n \in \mathbb{Z}}$ qui a été réellement <u>émise</u>. En d'autres termes, il s'agit d'identifier le système inverse noté $S^{-1}$, qui existe et est d'énergie finie en vertu de l'hypothèse (2-2) -A2. Bien entendu, pour cette identification, on ignore quelle a été la suite $(a_n)$ <u>émise</u>. Le problème peut aussi être regardé comme un problème de <u>déconvolution aveugle</u>, aveugle puisque la convolution a été effectuée par une ligne S inconnue.

**REMARQUE 1** : Supposons un instant que l'on sache que la ligne inconnue S soit à **minimum de phase**, ce qui signifie, compte tenu de l'hypothèse (2.2)-A2 que S est causale ($s_k = 0$ pour $k < 0$), ainsi que son inverse $S^{-1}$.
Dans ce cas, notre problème d'identification est une version très simple d'un problème connu (LJUNG [5], condition (6)), et la suite émise $(a_n)$ est simplement l'**innovation** de $(x_n)$, donnée par la formule

$$ (2.3) \qquad a_n = \lambda (x_n - E(x_n / x_{n-1}, x_{n-2}, \ldots)) $$

où $E(./.)$ est l'opérateur d'estimation aux moindres carrés, et où la constante $\lambda$ est simplement là pour restituer la bonne variance. Dans ce cas il s'agit simplement de blanchir convenablement le signal $(x_n)$, ce qui est une question bien connue et ne fait appel qu'aux statistiques du second ordre. Malheureusement, dans notre cas, si nous pouvons sans inconvénient supposer S causale, le système S n'est pas à minimum de phase. Et il est bien connu dans ce cas que l'on est capable, à l'aide des statistiques du second ordre, d'identifier le **spectre** de S, mais que l'identification de la **phase** de S est impossible; en d'autres termes, parmi les factorisations du spectre de la suite $(x_n)$, nous ne savons pas retrouver celle qui nous intéresse; et il y a toujours beaucoup de factorisations possibles, en général une infinité. On peut donc d'ores et déjà affimer :

1) que l'on ne peut résoudre notre problème en utilisant seulement les statistiques du second ordre (ou, si l'on veut, en cherchant à minimiser une erreur quadratique moyenne),

2) et, qu'en conséquence, ce problème est insoluble si la loi d'entrée $v$ est gaussienne.
Nous sommes donc amenés à supposer explicitement que $v$ n'est pas gaussienne et à utiliser cette propriété en allant au delà de l'usage des statistiques du second ordre.

**REMARQUE 2** : Comme nous avons à identifier un système à non-minimum de phase, nous ne pouvons pas espérer reconstruire en temps réel la suite émise $(a_n)$, nous pouvons seulement espérer une reconstruction hors-ligne (off-line) de la suite $(a_n)$ toute entière à partir de la connaissance de la suite $(x_n)$ toute entière (en pratique, nous tronquerons les lignes $S$ et $S^{-1}$, ce qui nous donnera une restitution en temps différé, avec un certain retard, de la suite émise $(a_n)$; cf. la description des algorithmes). En conséquence, pour nous, la ligne inverse $S^{-1}$ n'a de sens qu'à un décalage d'indice près. D'autre part, il est clair que le fait que la loi d'entrée $v$ soit symétrique nous interdit de distinguer la ligne cherchée $S^{-1} = (\tilde{s}_k)$ de la ligne opposée $-S^{-1} = (-\tilde{s}_k)$, puisque la suite $(-a_n)_{n \in \mathbb{Z}}$ a même loi que la suite $(a_n)$ réellement émise (*).

Le mieux que nous pouvons espérer est donc la chose suivante :

**BUT A ATTEINDRE** : Construire une ligne $H$ (égaliseur) telle que la ligne composée (ligne globale) $H.S$ soit égale à $\pm 1$'identité à un décalage près (i.e. ait tous ses coefficients nuls, sauf un qui est de module 1).

On va commencer par établir un critère commode permettant de caractériser les solutions $H$ cherchées. Commençons par un lemme, plus ou moins classique, qui est lié à la caractérisation des lois invariantes par rotation :

**LEMME 2.1** : Soit $(a_n)_{n \in \mathbb{Z}}$ une suite de variables indépendantes et de même loi $v$ symétrique et de variance finie. S'il existe une suite $T = (t_k)_{k \in \mathbb{Z}}$ admettant au moins deux coefficients non nuls, telle que $\sum_{k \in \mathbb{Z}} t_k^2 = 1$, et pour laquelle la variable aléatoire

<footnote>(*) cf. § (3.7) pour voir comment cette difficulté insoluble en théorie peut être levée dans la pratique.</footnote>
c = Σ$_{k∈Z}$ t_k a_{-k} soit encore de loi v, alors la loi v est nécessairement gaussienne.

## DEMONSTRATION : Annexe I

Donnons, en corollaire, une caractérisation des solutions H cherchées :

**THEOREME 2.2** : Supposons la loi v non gaussienne. Soit $H = (h_k)_{k \in Z}$ une ligne telle que la variable c = Σ$_{k \in Z}$ h_k x_{-k} soit de loi v; alors, nécessairement, la ligne composée H.S est égale à ± l'identité à un décalage près.

## DEMONSTRATION : Soit $T = (t_k)_{k \in \mathbb{Z}}$ la ligne globale, où $t_k = \sum_{p \in \mathbb{Z}} h_p s_{k-p}$ Puisque c est de loi v, on a $E(c^2) = E(a_n^2)$ ce qui exige que T est d'énergie 1 ($\sum_{k \in \mathbb{Z}} t_k^2 = 1$) puisque la suite (a_n) est une suite de variables décorrélées. Il reste à appliquer à T le lemme 2.1. ■

Le théorème exprime que, pour atteindre le but fixé, il suffit de chercher à ajuster les coefficients de l'égaliseur *H* de telle sorte que, si $(c_n)_{n \in \mathbb{Z}}$ désigne la sortie de cet égaliseur

<figure><img src="image_23.png" /></figure>

la loi instantanée des variables $c_n$ se rapproche de la loi d'entrée v.

Nous sommes maintenant en mesure d'expliquer la méthode employée pour ajuster les coefficients de l'égaliseur H :

## Etape 1 : Définition d'un potentiel à minimiser (traité au § 3)

Traditionnellement, les algorithmes d'identification s'obtiennent par minimisation d'une certaine erreur quadratique moyenne; comme une telle approche est inopérante dans notre cas, nous allons remplacer cette minimisation aux moindres carrés par la minimisation d'un certain potentiel; le théorème 2.2 nous conduit à construire ce potentiel à partir de la sortie $c_n$ de l'égaliseur. Nous allons chercher à réaliser :
$$
(2.4) \quad \min_{H \in \mathcal{H}^2} \mathcal{J}(H) \ , \text{où } \mathcal{J}(H) = \mathbb{E}(\varphi(c_n)) \text{, } c_n = \sum_{k \in \mathcal{Z}} h_k x_{n+k} \quad (*)
$$

où $\varphi$ est une certaine fonction paire (car $v$ est symétrique) de $\mathbb{R}$ dans $\mathbb{R}$, qui est à déterminer de sorte que **les seuls minima locaux** (et par conséquent globaux) **de $\mathcal{J}$ soient les lignes visées**, c'est-à-dire les lignes $\pm S^{-1}$ (à un décalage près). Contrairement à ce qui se passe quand on travaille aux moindres carrés, c'est cette étape de travail qui est la plus difficile et la plus intéressante; elle est traitée au § 3 où l'on définit, pour une certaine classe de lois $v$ (contenant les lois que l'on rencontre en pratique en égalisation des voies de transmission), une classe de fonctions $\varphi$ telles que le champ des lignes de plus grande pente de ce potentiel converge vers l'un des points cherchés.

**_Étape 2 : Justification de l'usage d'une troncature_** (traité au § 4)

En fait, en pratique, on effectuera une minimisation sur des égali-
seurs $H = (h_k)_{-N \le k \le N}$ tronqués avec une fenêtre de largeur $2N+1$. Il nous
faut alors montrer que les minima de $\mathcal{J}$ traités avec cette troncature
sont proches, pour $N$ grand, des minima de $\mathcal{J}$ sur $\ell^2$. On cherchera donc
à réaliser en pratique (après choix de la largeur $N$ de la fenêtre)

$$
(2.5) \quad \min_{H=(h_k)_{-N \le k \le N}} \mathcal{J}(H) \ , \text{où } \mathcal{J}(H) = \mathbb{E}(\varphi(c_n)) \text{, } c_n = \sum_{k=-N}^{+N} h_k x_{n+k}
$$

**_Étape 3 : Réalisation de (2.5) par un algorithme de gradient stochas-_
_tique_** (traité au § 5)

Soit $\psi$ la dérivée de $\varphi$, on a alors, formellement, en dérivant (2.5)
sous le signe somme,

$$
(2.6) \quad \operatorname{grad} \mathcal{J}(H) = \mathbb{E}(X_n \psi(c_n))
$$

où $X_n$ est le vecteur aléatoire $X_n = (x_{n-N}, \dots x_n, \dots, x_{n+N})$ qui conserve
les valeurs intéressantes de $(x_n)$ dans un registre à décalage, $c_n$ étant

<footnote>(*) Nous avons en fait, remplacé la ligne $(h_k)$ par $(h_{-k})$, d'où l'apparition du signe "+" dans le produit de convolution cf. § 3.</footnote>
comme en (2.5). Nous utiliserons alors, pour identifier $S^{-1}$, un algorithme
de gradient stochastique dont l'usage est justifié par le chapitre II qui
assure une convergence de $(H^n)$ approximativement vers les minima locaux
de $f$. L'algorithme est

$$
(2.7) \qquad \left\{
\begin{array}{ll}
H^{n+1} = H^n - \tau X_n \psi(c_n) & \text{où } H^n(h_k^n) \\
& \qquad -N \le k \le N \\[1em]
c_n = \sum_{k=-N}^{+N} h_k^n x_{n+k} & X_n = (x_{n-N}, \dots, x_n, \dots, x_{n+N})
\end{array}
\right.
$$

où $\tau > 0$ est un petit paramètre, le pas de l'algorithme de gradient.
Le fait de converger vers $S^{-1}$ (ligne désirée) plutôt que vers $-S^{-1}$
(ligne parasite) dépendra du point d'initialisation de (2.7), la bonne
zone d'initialisation pouvant être connue avec une précision suffisante
en pratique et cela avec un renseignement vague sur $S$, renseignement
dont on dispose dans notre application (cf. 3.7).

Après convergence de (2.7) nous aurons donc :

$$
(2.8) \quad c_n = a_{n-n_0} \quad \text{où } n_0 \text{ est un certain retard (inconnu) dans l'identification.}
$$

3. - MESURE DE LA DEFORMATION D'UNE LOI PRODUIT PAR UNE ROTATION : ETUDE DU POTENTIEL F.

3.1. - Notations

Si deux suites de variables aléatoires $A = (a_n)_{n \in \mathbb{Z}}$,
$X = (x_n)_{n \in \mathbb{Z}}$, et une ligne $S = (s_k)_{k \in \mathbb{Z}}$ sont liés par la relation (2.1),
nous utiliserons la notation en produit de convolution suivante :

$$
(3.1) \qquad x_n = (S * A)(n), \quad \text{soit } X = S * A
$$

Avec cette notation, la composée de deux lignes $S = (s_k)$ et
$R = (r_k)$ est la ligne $S * R$ obtenue par convolution. Enfin, si $H$ est
une ligne, nous notons $\bar{H}$ la ligne *symétrique* définie par
l'égalité $||T||^2 = \langle H, \Lambda H \rangle$ résultant de ce que

$$ (3.7) \qquad \langle H, \Lambda H \rangle = \langle H, S * \tilde{S} * H \rangle = \langle H * \tilde{S}, \tilde{S} * H \rangle = ||T||^2 . $$

Introduisons le potentiel $\tilde{V}$ sur $\ell^2$, défini par

$$ (3.8) \qquad \tilde{V}(T) = \mathbb{E} (\varphi(c)) \quad \text{où } c = \sum_{k \in \mathbb{Z}} t_k a_k = \langle T, A \rangle (*) $$

on a donc

$$ (3.9) \qquad \tilde{V}(T) = \mathcal{J}(H) \quad \text{si } T = H * \tilde{S} $$

est la ligne globale (inconnue) produite par l'égaliseur H. Au lieu de choisir la fonction $\varphi$ de telle sorte que les minima locaux de $\tilde{V}$ soient les lignes $\pm \tilde{S}^{-1}$ (à un décalage près), nous allons la choisir pour que les minima locaux de $\tilde{V}$ soient réalisés pour $T = \pm I$ (I ligne identité) à un décalage près; la formule (3.9) nous permet en effet d'affirmer que cela revient au même.

Nous avons ici l'idée de base de la méthode car nous pouvons construire $\tilde{V}$ pour deux raisons : nous connaissons explicitement les points réalisant le minimum et la loi d'entrée $v$. Considérons le cas très simple d'une ligne globale $T$ avec seulement deux coefficients; supposons que $T$ est une rotation pure $T_\theta$ ($||T||^2 = 1$; la dilatation est sans importance pour le raisonnement) et que $v$ est la loi uniforme sur [-1, +1]. Appelons $P_\theta$ la transformée de $v \times v$ par $T_\theta$. La loi $v_\theta$ de la sortie $c$ est une marginale de $P_\theta$. L'effet de $T_\theta$ pour $\theta \in [0, 2\pi]$ est clair : partant en $\theta = 0$, le support de $v_\theta$ croit jusqu'à $\theta = \frac{\pi}{4}$ puis décroit de $\frac{\pi}{4}$ à $\frac{\pi}{2}$ et ainsi de suite. Il est donc intuitivement clair que nous allons pouvoir construire un potentiel avec 4 minima locaux ($\theta = 0, \frac{\pi}{2}, \pi, \frac{3\pi}{2}$) correspondant à $T = \pm I$ avec un décalage d'un pas en temps ($T = (1,0); (0,1); (-1,0); (0,-1)$). Nous voyons aussi que nous avons deux lignes de crête ($\theta = \frac{\pi}{4}, \frac{5\pi}{4}$ et $\theta = \frac{3\pi}{4}, \frac{7\pi}{4}$) séparant le plan en 4 zones de convergence et que partant par exemple d'un point entre $-\frac{\pi}{4}$ et $\frac{\pi}{4}$ nous allons converger vers $T = (1,0)$ (cf. figure 1).

<footnote>(*) Nous notons donc $c$ pour $c_o$; la notation $\langle T, A \rangle$ est formelle, puisque $A$ est une suite aléatoire.</footnote>
<figure><img src="image_24.png" /><figcaption>Figure 1</figcaption></figure>

Un tel potentiel va être défini et étudié pour une large classe de lois d'entrée. La démarche est la suivante :

1) Ajustage des minima locaux de $V$ en les points $\pm I$ à un décalage près.

2) Etude des lignes de plus grande pente de $V$.

3) Etude des lignes de plus grande pente de $V$.

Commençons par les deux premiers points.

Rappelons que $\psi$ désigne la dérivée de $\varphi$, supposée exister.
Introduisons les deux champs de vecteurs suivants :

$$ (3,10) \qquad \begin{aligned} V_T &= - \mathbb{E}(A \psi(c) \text{ pour } T \in \ell^2) \\ V_T^c &= - \left[ \mathbb{E}(A \psi(c) - T \mathbb{E}(c \psi(c))) \right] \text{ pour } T \in s^2, \end{aligned} $$

où $A = (a_n)_{n \in \mathbb{Z}}$, et $c = c_o = \sum t_k a_k = \langle T, A \rangle$. Introduisons les hypothèses suivantes :
(3.11) **HYPOTHESES**

H.1 La fonction $\psi$ est impaire, de classe $\mathcal{C}^1$, et telle que

$$
(3.12) \quad \sup_{||T|| \le K} \mathbb{E}(\psi' (<T, A>))^2 < + \infty
$$

pour toute constante K < + ∞ . La loi d'entrée v admet un moment
d'ordre 4.

H.2 La fonction $\psi$ est la somme d'une fonction $\tilde{\psi}$ satisfaisant à (3.12), et d'une fonction constante par morceaux et admettant un nombre fini de discontinuités. La loi d'entrée $v$ admet un moment d'ordre 4, et est absolument continue par rapport à la mesure de Lebesgue, et de densité $f$ bornée.

H.3 La fonction $\psi$ est de classe $\mathcal{C}^3$, satisfait à (3.12) et à.

$$
(3.13) \quad \sup_{||T|| \le K} \mathbb{E}(\psi^{(3)} (<T, A>))^2 < + \infty
$$

pour toute constante K < + ∞ . La loi d'entrée v admet un moment
d'ordre 4.

H.4 La condition H.2 est satisfaite. De plus, $\tilde{\psi}$ satisfait à (3.13) et la densité $f$ de $v$ est de classe $\mathcal{C}^2$, bornée et à dérivée seconde bornée.

On a le résultat suivant :

LEMME 3.1

(i) Sous l'hypothèse H.1 (resp. H.2) le champ de vecteurs $(V_T)_{T \in \ell^2}$ est localement borné dans $\ell^2(\text{resp. } \ell^2 - \{0\})$, et est l'opposé du champ de gradients du potentiel $\nabla$. Sous ces mêmes hypothèses, $(V_T^c)_{T \in s^2}$ est localement borné et est l'opposé du champ de gradients de la restriction de $\nabla$ à la sphère unité $s^2$.

(ii) Sous l'hypothèse H.3 (resp. H.4), le champ $(V_T)_{T \in \ell^2}$ est localement lipschitzien dans $\ell^2$ (resp. $\ell^2 - \{0\}$); le champ $(V_T^c)_{T \in s^2}$ est localement Lipschitzien.
DEMONSTRATION : Annexe II

Remarquons que le champ $(v_T^c)_{T \in s^2}$ n'est autre que la projection sur $s^2$ du champ $(v_T)$; les seuls résultats à montrer concernent le champ $(v_T)$, et les conditions imposées sont celles qui permettent de dériver sous le signe somme la formule $\mathcal{V}(T) = \mathbb{E}(\varphi(<T,A>))$. Dans ces conditions ([3]), les champs $(v_T)$ et $(v_T^c)$ définissent chacun le flot de leurs courbes intégrales.

**REMARQUE** : Nous allons donner un exemple de situation où (3.12) est satisfaite. Supposons que $v$ admette des moments à l'ordre $2n$, et soit $\hat{f}$ la transformée de Fourier de $v$; on a

$$ \hat{f}(t_k u) = 1 = \frac{\mathbb{E}(a^2)}{2!} t_k^2 u^2 + \frac{\mathbb{E}(a^4)}{4!} t_k^4 u^4 + \dots + (-1)^n \frac{\mathbb{E}(a^{2n})}{(2n)!} (t_k u)^{2n} + o((t_k u)^{2n}). $$

La transformée de Fourier de la loi de $c = \langle T, A \rangle$ où $T = (t_k)$ est alors :

$$ \hat{g}(u) = \pi \hat{f}(t_k u) = 1 - \frac{\mathbb{E}(a^2)}{2!} (\sum_k t_k^2) u^2 + \left(\frac{\mathbb{E}(a^2)}{4}\right)^2 \sum_{i,j} (t_i^2 t_j^2 + \frac{\mathbb{E}(a^4)}{4!} \sum_k t_k^4) u^4 + \dots + (-1)^n P_n(t_k) u^{2n} + o(u^{2n}), $$

où $P_m(t_k)$ est une série convergente de termes homogènes de degré $2m$ en les coefficients $(t_k)$; ces séries satisfont à des inégalités de la forme $|P_m(t_k)| \le Q_m (\|T\|^2)$, où $Q_m$ est un polynôme de degré $m$. Mais alors, pour $\|T\| \le K < + \infty$, les moments d'ordre $\le 2n$ de la variable $c = \langle T, A \rangle$ existent et sont uniformément bornés. Il est alors clair que, si $\psi'(x)$ croît à l'infini au plus comme $|x|^n$, la majoration (3.12) est satisfaite.

Revenons à l'étude de $\mathcal{V}$. L'introduction du champ $(v_T^c)_{T \in s^2}$ est due au fait que nous allons étudier $\mathcal{V}$ en coordonnées sphériques : c'est en effet le lemme 2.1 qui nous conduit à étudier la déformation de la loi de c par les rotations.
### 3.3. - Etude de la restriction à $s^2$ du potentiel $\mathcal{V}$: une mesure de la déformation d'une loi produit par rotation.

Calculons d'abord les dérivées partielles spériques de $\mathcal{V}$.

Isolons un couple $(i,j)$ avec $i \neq j$, et fixons-nous une suite $(t_k)_{k \neq i,j}$ avec :

$$R^2 = -1 - \sum_{k \neq i, j} t_k^2 > 0,$$

et notons $T_{\theta} \in s^2$ la ligne admettant comme coefficients $t_k$ pour $k \neq i, j$

et $t_i^{\theta} = R \cos \theta, t_j^{\theta} = R \sin \theta$. Nous définissons la dérivée partielle

$\frac{\partial}{\partial \theta_{ij}} \mathcal{V}(T)$ comme étant la dérivée au point $T = T_{\theta}$ de la fonction

$\theta \to \mathcal{V}(T_{\theta})$. On a alors la formule suivante :

**LEMME 3.2** Soit $\mu$ la loi de la variable $\sum_{k \neq i, j} t_k a_k$ et soit $\psi^\mu = \psi * \mu$.
On a la formule suivante :

$$ (3.14) \qquad \frac{\partial}{\partial \theta_{ij}} \mathcal{V} \Big|_{T=T_{\theta}} = 2 R \iint (y \psi^{\mu}(Rx) - x \psi^{\mu}(Ry)) \mathcal{P}_{\theta} (dx, dy), \\ \qquad \qquad \qquad \qquad \{x \ge 0; y \ge 0\} $$

où $\mathcal{P}_{\theta}(dx,dy)$ est la transformée de la loi produit $v \times v$ par une rotation d'angle $\theta$.

**DEMONSTRATION** : Posons $c_{ij} = c - t_i a_i - t_j a_j = \sum_{k \neq i, j} t_k a_k$, qui est une variable de loi $\mu$, indépendante de $a_i$ et $a_j$. On a alors

$\mathcal{V}(T_{\theta}) = \mathbb{E}(\varphi(a_i R \cos \theta + a_j R \sin \theta + c_{ij}))$, ce qui donne

$$ (3.15) \qquad \frac{\partial}{\partial \theta_{ij}} \mathcal{V} \Big|_{T=T_{\theta}} = R \mathbb{E}((a_j \cos \theta - a_i \sin \theta) \psi(a_i R \cos \theta + a_j R \sin \theta + c_{ij})) \\ = R \iint (Y \cos \theta - X \sin \theta) \psi^{\mu}(R X \cos \theta + R Y \sin \theta) v(dX) v(dY). $$

Posons $x = X \cos \theta + Y \sin \theta$, $y = Y \cos \theta - X \sin \theta$;

$\mathcal{P}_{\theta}(dx, dy)$ n'est autre que la loi du couple $(x,y)$ sous la probabilité produit $v(dX) v(dY)$, ce qui permet d'écrire (3.15) sous la forme :
$$
(3.16) \quad \left. \frac{\partial}{\partial \theta_{ij}} \right|_{T-T_{\theta}} = R \iint y \psi^{\mu}(Rx) \mathbb{P}_{\theta}(dx, dy).
$$

Pour passer de (3.16) à (3.14), il reste à utiliser le fait
que $\psi^\mu$ est impaire (car $\psi$ 1'est et $\mu$ est symétrique), et que la loi
$\mathbb{P}_\theta(dx, dy)$ est invariante par les deux applications $(x,y) \to (-x, -y)$
et $(x,y) \to (-y, x)$.
■

Remarquons que pour $\theta = k \cdot \frac{\pi}{4} (k \in \mathbb{Z})$, on a $\frac{\partial}{\partial \theta_{ij}} \nu = 0$, en raison de l'invariance, dans ce cas de $\mathbb{P}_{\theta}$ par l'application $(x,y) \to (y,x)$. Par conséquent :

COROLLAIRE 3.3 : Si tous les coefficients non nuls de T ∈ s² sont de module égal, alors T est un point stationnaire de la restriction à s² du potentiel ν.

Dans tous les cas, l'**ensemble des lignes** $\pm I$ (à un décalage près) est donc constitué de points stationnaires pour $\nu$. Nous allons main- tenant choisir la fonction $\psi$ de telle sorte que **ces** lignes soient les **seuls** minima locaux (et donc globaux) de $\nu$. Les autres points stationnaires se- ront alors des points-cols pour $\nu$, qui apparaîtra ainsi comme un potentiel en forme de **boîte à oeufs**.

Les symétries du problème nous permettent de restreindre l'étude
à $0 < \theta < \frac{\pi}{4}$, où l'on doit donc avoir $\frac{\partial}{\partial \theta_{ij}} \nu \Big|_{T=T_\theta} > 0$. Ceci va être fait pour
la loi uniforme et deux familles de lois sous-gaussiennes et sur-gaussiennes.

(3.17) HYPOTHESES

L1 $v$ est la loi uniforme sur $[-a, +a]$

L2 $v$ est définie par $v(dx) = K \cdot e^{-g(x)} dx$ ($K$ constante) $g$ étant paire, $g(x)$ et $g'(x)/x$ strictement croissantes sur $\mathbb{R}_+$

L3 $v$ est définie par $v(dx) = K \cdot e^{-g(x)} dx$, $g$ paire et strictement croissante sur $\mathbb{R}_+$; $g'(x)/x$ strictement décroissante sur $\mathbb{R}_+$
L4 $\psi$ est impaire, deux fois différentiable en dehors de l'origine et telle que :

(3.18) $$ \psi(O_+) \le 0, \psi''(x) \ge 0 \text{ pour } x > 0, \text{ une au moins de ces inégalités étant stricte.} $$

L5 $\psi$ est impaire, deux fois différentiable en dehors de l'origine et telle que :

(3.18') $$ \psi(O_+) \ge 0, \psi''(x) \le 0 \text{ pour } x > 0, \text{ une au moins de ces inégalités étant stricte.} $$

Nous avons alors le :

LEMME 3.4 Sous les hypothèses L1-L4 ou L2-L4 ou L3-L5 de (3.17) nous avons :

$$ \frac{\partial}{\partial \theta_{ij}} \nu_{T=T_{\theta}} > 0 \quad \text{pour } 0 < \theta < \frac{\pi}{4} $$

et le corollaire suivant :

THEOREME 3.5

Sous les hypothèses du lemme 3.4 les seuls minima locaux (et globaux de $\nu$ sur $\mathbb{S}^2$ sont les lignes $\pm I$ (à un décalage près).

Démonstration du lemme 3.4 : Nous considérons uniquement les cas L1-L4 ou L2-L4, le cas L3-L5 étant obtenu en changeant le sens de quelques inégalités.

Nous allons utiliser le lemme 3.2; pour cela montrons tout d'abord que :

$$ (3.19) \quad \chi^{\mu}(x) = \frac{\psi^{\mu}(x)}{x} \text{ est strictement croissante sur } \mathbb{R}_{+} = ]0, +\infty[ $$

C'est immédiat si $t_k = 0$ pour $k \ne i,j$, puisque $\psi^\mu = \psi$. Dans le cas contraire, commençons par remarquer que, avec les hypothèses faites sur $\nu$, la loi $\mu$ est _unimodale_, ce qui signifie que $\mu(dx) = h(x) dx$, où h est paire et strictement décroissante sur $\mathbb{R}_+$. D'après (3.18), on a :
$$
(3.20) \qquad \psi(x) = - \alpha \operatorname{sign}(x) + \tilde{\psi}(x),
$$

où $\tilde{\psi}$ est la partie régulière de $\psi$, $\alpha \ge 0$ l'amplitude du saut à l'origine.
On a alors

$$
\psi^{\mu}(x) = \psi * h(x) = -2 \alpha \int_{C}^{x} h(t) dt + \tilde{\psi} * h(x) = \textcircled{1} + \textcircled{2}
$$

La dérivée de $\textcircled{1}$ est $-2 \alpha h(x)$ qui est strictement croissante sur $\mathbb{R}_+$ si $\alpha > 0$; concernant $\textcircled{2}$, on a $(\tilde{\psi} * h)''(x) = \tilde{\psi}'' * h(x)$ qui est $\ge 0$, et $> 0$ dès que $\tilde{\psi}'' > 0$ sur $\mathbb{R}_+$ (on utilise le fait que $h$ est paire et strictement décroissante sur $\mathbb{R}_+$). En résumé, on a $(\psi^\mu)'' > 0$ sur $\mathbb{R}_+$, ce qui, joint au fait que $\psi^\mu(0) = 0$, donne (3.19).

Il nous suffit donc de montrer que :

$$
(3.21) \quad \iint \limits_{\mathbb{R}_+} x y [\chi(x) - \chi(y)] \mathbb{P}_\theta(dx, dy) > 0 \quad \text{pour } 0 < \theta < \frac{\pi}{4}, \\
\{x \ge 0, y \ge 0\}
$$

dès que $\chi$ est une fonction strictement croissante sur $\mathbb{R}_+$. Un passage en
coordonnées polaires permet d'écrire cette intégrale double sous la forme :

$$
I(\theta) = \int_{0}^{\infty} \rho^{3} F(\theta, \rho) \, d\rho \text{, avec}
F(\theta, \rho) = \int_{0}^{\pi/2} \sin \alpha \cos \alpha [\chi(\rho \cos \alpha) - \chi(\rho \sin \alpha)] f(\rho \cos(\alpha+\theta)) \\
f(\rho \sin(\alpha+\theta)) \, d\alpha
$$

où $f = \text{cte.}$ $e^{-g}$ est la densité de la loi $\nu$. Il nous suffit donc de montrer
que l'on a $F(\theta,\rho) > 0$ pour $0 < \rho < \pi/4$, $0 < \theta < \pi/4$. Pour cela, il suffit de
montrer que, si $0 < \theta < \pi/4$,

$$
f(\rho \cos(\alpha+\theta)) f(\rho \sin(\alpha+\theta)) > f(\rho \cos(\frac{\pi}{2} - \alpha+\theta)) f(\rho \sin(\frac{\pi}{2} - \alpha+\theta))
$$

pour tout $\alpha \in ]0, \frac{\pi}{4}[$ ; on laisse au lecteur le soin de vérifier que cette
inégalité est bien satisfaite en raison de ce que la fonction
$\alpha \to f(\rho \cos \alpha) f(\rho \sin \alpha)$ est strictement croissante sur $]0, \frac{\pi}{4}[$, et stric-
tement décroissante sur $]\frac{\pi}{4}, \frac{\pi}{2}[$.
Concernant la démonstration du cas 2, tout est identique, moyennant des changements de sens appropriés dans certaines inégalités. ■

Pour achever l'étude de la restriction à s² de $\mathcal{V}$, nous allons étudier ses lignes de plus grande pente; pour cela, **nous supposons en vigueur l'une des deux hypothèses** H.3 ou H.4 de (3.11) qui assurent que le champ de gradients de $\mathcal{V}$ sur s² est de classe $\mathcal{C}^1$, ce qui permet de parler du flot $(T_t^C)_{t \in \mathbb{R}}$ des lignes de plus grande pente (courbes intégrales du champ $(V_t^C)$, qui existent, cf. S. LANG [3]) du potentiel $\mathcal{V}$ restreint à s².

**THEOREME 3.6**

Sous les hypothèses du lemme 3.4 l'ensemble des lignes $\pm I$ (à un décalage près) est un attracteur stable du flot $(T_t^C)_{t \in \mathbb{R}}$, et il n'y en a pas d'autre.

**DEMONSTRATION :** Soit $(T_t^C)_{t \in \mathbb{R}}$ une trajectoire du flot avec $T_t^C = (t_k(t))_{k \in \mathbb{Z}}$. Comme les courbes d'équations $t_k = \text{cte}$ pour $k \neq i, j$ et $t_i^2 + t_j^2 = R^2$ sont orthogonales aux hyperplans $\frac{t_i}{t_j} = \text{cte}$, le lemme 3.4 permet d'affirmer que :

$$ (3.22) \qquad \left\{ \begin{array}{l} \text{les fonctions } t \to \frac{|t_i(t)|}{|t_j(t)|} \text{ sont respectivement strictement décroissantes, strictement croissantes, et constantes, suivant que le rapport} \\ \qquad \frac{|t_i(0)|}{|t_j(0)|} \text{ est } < 1, > 1 \text{ ou } = 1. \end{array} \right. $$

Considérons alors $T_0^C \in s^2$, et soit $\{i_1, \dots, i_n\}$ l'ensemble des indices $i$ où $|t_i|$ atteint son maximum, avec $T_0^C = (t_i)$. Nous aurons montré le théorème si nous savons montrer que

$$ (3.23) \qquad T_t^C \to T_\infty^C \text{ dans } \ell^2 \text{ lorsque } t \to \infty, $$

$T_\infty^C$ étant la ligne admettant comme coefficients

$$ (3.24) \qquad t_i^{(\infty)} \left\{ \begin{aligned} & = \frac{1}{\sqrt{n}} \operatorname{sgn}(t_i) & \text{si } i \in \{i_1, \dots, i_n\} \\ & = 0 & \text{sinon,} \end{aligned} \right. $$
le cas n = 1 donnant alors un attracteur stable, et le cas n > 1 faisant
de $T_\infty^c$ un point-col de $\mathcal{V}$, qui n'est donc pas un équilibre stable. Voyons
(3.23) :

en vertu de (3.22), $\rho(t) = \max_{k \in \mathbb{Z}} |t_k(t)|$ est une fonction crois-
sante et majorée par 1 puisque $\|T_t^c\|^2 = 1$; elle admet donc une limite
$\rho(\infty)$. Toujours en vertu de (3.22), il vient que $\frac{1}{\rho(t)} T_t^c$ converge faiblement
dans $\ell^2$ (convergence coefficient par coefficient) vers la ligne $\sqrt{n} \cdot T_\infty^c$
$(T_\infty^c$ comme en (3.24)) Par conséquent, $\rho(\infty) = \sqrt{n}$, et $T_t^c \to T_\infty^c$ faiblement dans
$\ell^2$, donc fortement puisque l'on est sur la sphère unité $s^2$. Ceci montre
(3.23) et le théorème. ■

**REMARQUE 1** : (3.23) et (3.24) montrent que les hyperplans $t_i = t_j$ sont les lignes de crête du potentiel $\mathcal{V}$ (cf. figure 1 représentant les lignes de plus grande pente de $\mathcal{V}$ dans le quadrant $t_k \ge 0$).

<figure><img src="image_25.png" /><figcaption>Figure 1</figcaption></figure>

(Les points (1,0,0), (0,1,0), (0,0,1) sont trois lignes identité).
## REMARQUE 2 : EXEMPLES DE FONCTIONS $\psi$

1) Dans la pratique, on choisit $\psi$ le plus simple possible de la forme suivante :

$$ (3.25) \qquad \psi(x) = x - \gamma \quad \text{pour } x > 0, \text{ avec } \gamma > 0 $$

dans le cas 1 et $\psi(x) = -x + \gamma$ dans le cas 2 (hypothèse L3 de 3.17).

2) Plaçons-nous dans le cas où $v(dx) = Cte e^{-g(x)} dx$, $g$ étant suffisamment régulière, avec $g^{(3)} > 0$ (resp. $< 0$) sur $R_+$ dans le cas 1 (resp. le cas 2). Dans les deux cas, on peut alors choisir $\psi = g'$ ; par conséquent,

$$ (3.26) \qquad \mathcal{V}(T) = E(-\log f(<T,A>)) \text{ où } v(dx) = f(x) dx, $$

est un potentiel qui permet, dans les deux cas 1 et 2, de mesurer la déformation par rotation de la loi de $c = <T,A>$ ; mais alors, si $v_c$ est la loi de $c$, (3.26) s'écrit

$$ (3.27) \qquad \mathcal{V}(T) = - \int \log \frac{dv}{dv_c} \cdot dv_c - \int \log \left( \frac{dv_c}{dt} \right) dv_c, $$

et $\mathcal{V}$ apparaît comme étant la somme de l'entropie relative de $v$ par rapport à $v_c$, et de l'entropie de $v_c$. Le potentiel (3.27) n'a aucun caractère universel, en ce sens qu'il ne peut pas, en général, donner une mesure de "l'angle de rotation". Cela n'est le cas que pour les lois $v$ énumérées du lemme 3.4; un examen de ces lois montrent qu'elles jouissent de la propriété suivante, qui est la clef de tout : si nous désignons par $v_\theta$ la marginale de $P_\theta(dx, dy)$ et si nous fixons $t > 0$, sur $]0, \frac{\pi}{4}]$ l'application $\theta \to v_\theta>]t, \infty[$ est croissante dans les cas L1, L2 (déplacement de masse vers $+\infty$ lorsque $\theta$ croît), et décroissante dans le cas L3. En général, cette fonction n'est pas monotone.

### 3.4. - Etude du potentiel $\mathcal{V}$ sur $\ell^2$

Pour étudier le potentiel $\mathcal{V}$ sur $\ell^2$ en tirant bénéfice du travail déjà effectué, nous utilisons la représentation de $T \in \ell^2$ en coordonnées sphériques, ce qui signifie que, à tout $T \neq 0$, nous associons le couple $(\rho, T^c)$, avec $\rho > 0$, et $T^c = \frac{1}{\rho} \cdot T \in \ell^2$. Le travail concernant
les dérivées partielles sphériques a déjà été fait : on a encore la formule
(3.14) donnant $\frac{\partial}{\partial \theta_{ij}} \mathcal{V}/T = \rho T_{\theta}$, où, cette fois $R^2 = \rho^2 - \sum_{K \neq i,j} t_k^2$, et
l'étude effectuée au lemme 3.4 reste donc valable. Il reste donc à étudier
les dérivées radiales de $\mathcal{V}$.

Plaçons-nous encore sous l'une des hypothèses H.3 ou H.4 de
(3.11) qui assurent que le champ $(V_T)$ est $\mathcal{C}^1$ en dehors de l'origine, ce
qui permet de parler des lignes $(T_t)_{t \in \mathbb{R}}$ de plus grande pente de $\mathcal{V}$ sur
$\ell^2 - \{0\}$ (S. LANG [3]). L'analogue des théorèmes 3.5 et 3.6 est le résultat
suivant :

**THEOREME 3.7** : Sous les hypothèses L1-L4 ou L2-L4 de (3.17) avec

$\psi(x) = \alpha \operatorname{sgn}(x) + \tilde{\psi}(x)$. Si le couple $(\alpha, \tilde{\psi})$ est tel que

$$
(3.28) \qquad \int x \tilde{\psi}(x) v(dx) = \int \alpha |x| v(dx) ,
$$

alors les seuls minima locaux de $\mathcal{V}$ sur $\ell^2$ sont les lignes $\pm I$ (à un
décalage près), et ces lignes sont les uniques attracteurs stables
du flot $(T_t)_{t \in \mathbb{R}}$. Il n'y a pas de choix possible pour $\psi$ sous l'hypo-
thèse L3 de (3.17).

**DEMONSTRATION** : Fixons $T \in s^2$, et étudions la fonction

$$
(3.29) \qquad v(\rho) = \mathcal{V}(\rho \ T), \quad \rho \ge 0
$$

Posons $c = \langle T, A \rangle$, on a $v(\rho) = \mathbb{E}(\varphi(\rho c))$ et, si $v_c$ est la loi
de $c$, on a, pour $\rho \ge 0$,

$$
v'(\rho) = \mathbb{E}(c \psi(\rho c)) = \int x \tilde{\psi}(\rho x) v_c(dx) - \alpha \int |x| v_c(dx),
$$

$$
v^{(3)}(\rho) = \int x^3 \tilde{\psi}''(\rho x) v_c(dx) \ge 0,
$$

où l'inégalité résulte de ce que $\tilde{\psi}'' \ge 0$ sur $\mathbb{R}_+$. La fonction $v'$ est donc
convexe, avec $v'(0) \le 0$ et strictement convexe si $v'(0) = 0$. De plus,
(3.28) exige que $v''(0) = \tilde{\psi}'(0) \mathbb{E}(a^2) < 0$ dès que $\alpha = 0$. Mais alors,
(3.30) il existe $\rho_c > 0$ unique tel que $v'(\rho_c) = 0$, plus $v''(\rho c) > 0$.

Par conséquent, pour $\rho < \rho_c$, la composante radiale de champ ($V_T$) est sortante, et rentrante pour $\rho > \rho_c$. Le fait que les lignes $\pm I$ (à un décalage près) soient les seuls minima locaux de $V$ résulte alors de l'étude du mouvement du rayon, effectuée au lemme 3.4 et de ce que $\rho_c = 1$ pour $T = \pm I$ à un décalage près (cf. (3.29)). La convergence du flot ($T_t$) s'étudie alors comme suit, en tenant compte de ce que tout rayon est orthogonal à toute sphère centrée à l'origine :

1) on montre, comme au théorème 3.6 que $\frac{1}{\|T_t\|} \cdot T_t$ converge dans $\ell^2$ vers $T_\infty$, donné par (3.24),

2) que $\|T_t\| \to 1$ grâce à (3.30).

Ceci achève l'étude du flot ($T_t$).

Sous l'hypothèse L3 il y a contradiction avec les conditions imposées à $\tilde{\psi}$, et l'exigence $v^{(3)}(\rho c) \ge 0$, et les lignes $\pm I$ sont seulement des points-cols de $V$ sur $\ell^2$ tout entier. ■

La figure 2 suivante représente le comportement des lignes de plus grande pente de $V$ sur $\ell^2$ tout entier (nous ne faisons figurer que deux coordonnées).

La disposition adoptée sur la figure ($\rho_c < 1$ en dehors de $\pm I$) est justifiée par le fait que $\int_0^\infty x(\tilde{\psi}(x) - \alpha) v_c(dx) > 0$ en dehors de $\pm I$, avec les conditions imposées à $\alpha$ et $\tilde{\psi}$.
<figure><img src="image_26.png" /><figcaption>Figure 2</figcaption></figure>

Remarque 1 :

Exemple de fonction ψ

Pour illustrer les conditions du théorème 3.7, nous nous contentons de donner la fonction ψ la plus simple, qui est celle qui est utilisée pour l'application à l'égalisation des voies de transmission de données. On choisit :
$$
(3.31) \quad \psi(x) = x - \alpha \quad \text{pour } x > 0, \text{ avec } \alpha = \frac{\int x^2 v(dx)}{\int |x| v(dx)}
$$

Reportons-nous, un instant, à l'algorithme (2.7), et explicitons ce que
l'on obtient :

$$
(3.32) \quad H^{n+1} = H^n - \tau X_n (c_n - \alpha \operatorname{sgn}(c_n)) ,
$$

ce qui est exactement l'algorithme proposé et expérimenté par SATO [6],
dont nous donnons ainsi une justification complète.

3.5. - Étude des lignes de plus grande pente de J

Nous passons maintenant à l'étude proprement dite du potentiel
J qui fonde notre algorithme. En vertu de (3.5) et (3.9), il est déjà clair
que les seuls minima locaux (et globaux) de J sont les lignes ± S⁻¹ (à un
décalage près), et que le potentiel J conserve, avec une certaine déforma-
tion, la forme d'un casier à oeufs. Il reste à préciser le comportement des
lignes de plus grande pente de J.

**THEOREME 3.8** : Soient $\psi$ et $v$ donnés comme au théorème 3.7. Alors, le flot $(H_t)_{t \in \mathbb{R}}$ des lignes de plus grande pente de $J$ existe; ses seuls points limites sont :

1) les lignes $\pm S^{-1}$ (à un décalage près),

2) les points-cols du potentiel J.

L'ensemble des lignes de crête de J (i.e. les trajectoires (H_t) qui convergent vers un point-col de J) constitue une réunion dénombrable de variétés de codimension 1, et est donc un ensemble exceptionnel.

**DEMONSTRATION** : Sous les hypothèses (H.3) ou (H.4) de (3.11) imposées à $\psi$ et $v$, le champ de vecteurs $(W_T)_{T \in \mathcal{L}^2}$ défini par

$$
(3.33) \quad W_T = (\mathring{S} * S) * V_T = - (\mathring{S} * S) * \mathcal{E}(A \quad \psi(c))
$$
et de classe $\ell^1$, en vertu de (3.6), (3.7) et du lemme 3.1(ii)). Il
s'ensuit que le champ $(V_H)_{H \in \ell^2}$ défini par

$$
(3.34) \qquad W_T = \mathcal{V} * V_H \quad \text{si } T = \mathcal{V} * H,
$$

soit encore :

$$
(3.35) \qquad V_H = - \mathbb{E}(X \psi(c)), \quad c = \sum_k h_k x_k,
$$

est de classe $\ell^1$ et est l'opposé du champ de gradients de $\mathcal{V}$ dans $\ell^2$. Par
conséquent, ce champ de vecteurs définit un flot $(H_t)_{t \in \mathbb{R}}$ sur $\ell^2$, qui est
le flot des lignes de plus grande pente de $\mathcal{V}$, et (3.34) montre que, lors-
que l'égaliseur suit une de ces lignes de plus grande pente, la ligne glo-
bale suit une courbe intégrale du champ $(W_T)$. Soit donc $(\tilde{T}_t)$ le flot des
courbes intégrales du champ $(W_T)$ : comme (cf (3.6), la convolution par
$\mathcal{V} * S$ s'identifie à l'opérateur $\Lambda$, on a donc $W_T = \Lambda V_T$, et le champ $(W_T)$
apparaît simplement comme étant l'opposé du champ de gradients du potentiel
$\mathcal{V}$ lorsque l'on munit $\ell^2$ de la métrique associée à l'opérateur $\Lambda^{-1}$, qui est
équivalente à la métrique ordinaire. Le flot $(\tilde{T}_t)$ est alors simplement le
flot des lignes de plus grande pente de $\mathcal{V}$, $\ell^2$ étant muni de cette nouvelle
métrique.

C'est alors un phénomène général que le remplacement d'une
métrique par une autre (qui lui soit équivalente) n'affecte pas le compor-
tement des lignes de plus grande pente d'un potentiel (attention, si les
minima et les points-selles sont indépendants du choix de la métrique,
les lignes de crête sont évidemment modifiées par le changement de métrique).
Donnons un argument rapide en ce sens. Fixons $T_0 \in \ell^2$, et soient respective-
ment $(T_t)_{t \ge 0}$ et $(\tilde{T}_t)_{t \ge 0}$ les courbes intégrales des champs de vecteurs $(V_T)$
et $(W_T)$, issues de $T_0$. Considérons l'arc $(\tilde{T}_s)_{0 \le s \le t}$ ; il existe alors
$\sigma(t) < \infty$ tel que les arcs $(\tilde{T}_s)_{0 \le s \le t}$ et $(T_s)_{0 \le s \le \sigma(t)}$ aient même longueur dans
la métrique associée à $\Lambda^{-1}$, puisque $(\tilde{T}_t)$ est une ligne de plus grande pente
de $\mathcal{V}$ dans cette métrique, et l'on a

$$
(3.36) \quad \mathcal{V}(T_{\sigma(t)}) \ge \mathcal{V}(\tilde{T}_t).
$$

Mais alors, la courbe $(T_s)_{0 \le s < \infty}$ est de longueur finie (pour les
**DEMONSTRATION** : Le second point résulte de ce que la convolution par $\mathcal{V} * B$ n'est autre que l'opérateur de covariance de la suite $(y_n)$, c'est-à-dire l'identité puisque $(y_n)$ est décorrélée (cf. (3.7)). Pour le premier point, soit $\sigma^2 = \mathbb{E}(a_n^2)$. Les deux suites $(a_n)$ et $(y_n)$ étant décorrélées et de même variance, il vient

$$ ||T||^2 = \frac{\mathbb{E}(c_n^2)}{\sigma^2} = ||H||^2 $$

quel que soit l'égaliseur H, d'où le lemme. ■

Le raisonnement effectué à l'alinéa 3.5 (remplacer ici S par B) montre que, lorsque $(H_t)$ suit une ligne de plus grande pente du potentiel $J$, la ligne globale $(T_t)$ suit cette fois une ligne de plus grande pente de $J$ pour la métrique associée à l'inverse de la covariance de $(y_n)$, c'est-à-dire la métrique usuelle, les minima de $J$ étant ici $\pm B$ (à un décalage près).

Autrement dit, il n'y a rien à ajouter à ce qui a été déjà dit pour justifier l'usage de l'algorithme (2.7) derrière un blanchisseur. De ce seul point de vue, l'intérêt n'en est cependant qu'anecdoctique. En revanche, le lemme (3.9) permet d'affirmer que, si $(H_t^C)_{t \in \mathbb{R}}$ est une ligne de plus grande pente de la restriction à $s^2$ (sphère unité de $\ell^2$) du potentiel $J$, $(T_t^C)_{t \in \mathbb{R}}$ (où $T_t^C = H_t^C * \mathcal{V}$) est aussi une ligne de plus grande pente (pour la métrique usuelle !) de la restriction à $s^2$ du potentiel $J$, lignes qui ont été étudiées au théorème 3.6.

La descente le long des lignes de plus grande pente de $J$ sur $s^2$ est réalisée par un algorithme de gradient stochastique avec contrainte (la contrainte étant $H \in s^2$, soit encore $||H||^2 = 1$) qui est (après troncation, cf. (2.5)), l'analogue de l'algorithme (2.7) et que voici :

$$ (3.39) \quad \left\{ \begin{array}{l} H^{n+1} = \lambda_n (H^n - \tau Y_n \psi(c_n)), \quad H^n = (h_k^n)_{-N \le k \le N} \\ \qquad + N \\ c_n = \sum_{K=-N}^{N} h_k^n y_{n+k} \\ \\ Y_n = (y_{n-N}, \dots, y_n, \dots, y_{n+N}) , \end{array} \right. $$
où le scalaire $\lambda_n$ ($\lambda_n - 1 = O(\tau^2)$) est choisi pour maintenir la contrainte
$||H^{n+1}||^2 = 1$. On vérifie bien que (3.39) est l'algorithme d'approximation
stochastique sous contraintes associé au champ de gradients de y sur $s^2$,
défini par (cf. II).

$$
(3.40) \quad V_H^C = [E(Y \psi(c)) - Y E(c \psi(c))], \quad H \in S^2
$$

et tel que

$$
(3.41) \quad V_T^c = \mathbb{V}_B * V_H \quad \text{si } T = \mathbb{V}_B * H \in S^2,
$$

le champ $(v_T^c)_{T \in S^2}$ étant donné en (3.10).

L'intérêt de (3.39), bien que non fondamental est double :

1) Il permet de traiter les lois d'entrée que les rotations tassent en 0 (hypothèse L3 du lemme 3.4), ce que (2.7) ne peut faire (comparer les théorèmes 3.7 et 3.8).

2) Les expérimentations montrent que, même dans le cas 1,
l'algorithme (3.39) peut être plus efficace que (2.7), et est donc préfé-
rable si toutefois l'usage d'un blanchisseur préalable est réaliste.

3.7. - Comment converger vers + S⁻¹ plutôt que vers - S⁻¹ ?

Nous ne pouvons que donner des indications qualitatives : il
s'agit d'une question d'initialisation convenable de l'algorithme (2.7).
Dans le cas, décrit à l'alinéa 3.6, où l'on utilise un blanchisseur,
nous connaissons les lignes de partage des eaux pour l'évolution de la
ligne globale (T<sub>t</sub>), puisqu'il s'agit des lignes de crête de V pour la
métrique usuelle, lignes de crêtes identifiées aux formules (3.24) du
théorème (3.6) (cf. remarque 1 suivant ce théorème) : il faut initialiser
H<sub>0</sub> de sorte que T<sub>0</sub> = H<sub>0</sub> * V<sub>B</sub> soit dans le demi-espace {t<sub>max</sub> > 0}, si t<sub>max</sub>
est le coefficient de plus grand module de T<sub>0</sub> (cf. fig. 2). Bien entendu,
B étant inconnue (comme S), rien ne permet d'assurer une telle condition;
disons qu'une connaissance très grossière sur B permet une telle initiali-
sation avec peu de risques : dans notre application, nous savons que le
plus grand coefficient de B est > 0, et nous prenons alors H<sub>0</sub> = + I,
d'où T<sub>0</sub> = V<sub>B</sub> satisfait à la condition requise.
Nous pouvons utiliser le même genre de connaissance très grossière a priori lorsque l'on travaille sans blanchisseur, les zones respectives de convergence vers + S⁻¹ et - S⁻¹ étant cette fois déformées par le changement de métrique étudié à l'alinéa 3.5.

## 4. - JUSTIFICATION DE LA TRONCATURE (remplacement de (2.4) par (2.5))

Dans ce paragraphe, nous allons justifier la troncature (qui est la situation dans laquelle on se trouve réellement) pour les deux algorithmes présentés : sans contrainte et sans blanchisseur (algorithme (2.7)), avec contraintes et avec blanchisseur (algorithme (3.39)). Nous allons examiner en détails le premier point, qui est le plus délicat, et nous contenter d'indiquer les résultats pour le second.

Fixons une largeur de fenêtre N, et désignons par :

$$ (4.1) \qquad \mathcal{H}^N = \{H = (h_k) \in \ell^2 \mid \text{ pour } |k| > N \} $$

l'ensemble des égaliseurs tronqués au-delà de N; nous considérons $\mathcal{H}^N$ comme plongé dans $\ell^2$. L'algorithme utilisé en pratique consiste donc à minimiser $\mathcal{J}$ non pas sur $\ell^2$ tout entier, mais sur $\mathcal{H}^N$. Introduisons d'autre part :

$$ (4.2) \qquad \mathcal{C}^N = \{T \in \ell^2 \mid T = \mathcal{S} * H, \text{ où } H \in \mathcal{H}^N \}, $$

qui est le sous-espace de dimension finie de $\ell^2$ dans lequel évolue la ligne globale T lorsque l'on utilise l'égaliseur tronqué. Comme il a été déjà expliqué dans l'alinéa 3.5, lorsque l'égaliseur H descend selon les lignes de plus grande pente (pour la métrique ordinaire) de la restriction à $\mathcal{H}^N$ du potentiel $\mathcal{J}$, la ligne globale T descend selon les lignes de plus grande du potentiel $\mathcal{J}^*$ restreint à $\mathcal{C}^N$, mais relativement à la métrique sur $\ell^2$ associée à l'opérateur $\Lambda^{-1}$. Il n'en reste pas moins que ce qui nous intéresse maintenant est de savoir situer les minima locaux de la restriction à $\mathcal{C}^N$ du potentiel $\mathcal{J}$, lesquels minima constitueront les attracteurs stables pour les lignes de plus grande pente de $\mathcal{J}^*$ sur $\mathcal{C}^N$ par rapport à la métrique ordinaire, aussi bien que celle associée à l'opérateur $\Lambda^{-1}$.
Pour justifier la troncature, nous allons en fait chercher à montrer que, pour N grand, les minima locaux de la restriction à $\mathcal{C}^N$ de $\mathcal{W}$ sont proches des minima de $\mathcal{W}$ sur $\ell^2$ tout entier (cf. théorème 4.5 pour un énoncé précis et théorème 4.6 pour l'étude de la troncature pour (3.39)).

## 4.1. - Une mesure de la rapidité de convergence de $(T_t)$

Pour étudier la troncature, il nous faut commencer par évaluer la rapidité de convergence de $(T_t)$ vers une ligne $\pm I$. Comme au chapitre précédent, nous allons étudier séparément le mouvement du rayon et le mouvement sur le rayon. Pour étudier le mouvement du rayon, à chaque ligne de plus grande pente $(T_t)_{t \ge 0}$ de $\mathcal{W}$ sur $\ell^2$, nous associons une fonction de Lyapunov $\delta(t)$ de la manière suivante : si $i \in \mathbb{Z}$ est l'indice pour lequel $T_0$ admet $|t_i|$ comme coefficient de plus grand module (i n'est pas nécessairement unique), nous notons $I_i$ la ligne de $s^2$ admettant 1 à l'emplacement $i$, et nous posons :

$$ (4.3) \qquad \delta(t) = \| \hat{T}_t - \operatorname{sgn}(t_i) \cdot I_i \|^2, \text{ où } \hat{T} = \frac{T}{\|T\|} \in \mathbb{s}^2 \text{ si } T \neq 0 \quad (*) \; ; $$

d'après l'étude faite au paragraphe 3, nous savons que $\lim_{t \to \infty} \delta(t) = 0$; nous allons maintenant chercher à mesurer cette vitesse de convergence.

Commençons par le mouvement sur le rayon. Reportons-nous pour cela à la figure 2; nous aurons besoin de connaître le comportement de la surface $\rho=\rho_c$ qui sépare les zones où la composante radiale du champ $(V_T)$ est rentrante (resp. sortante). Pour cela, pour $T \in \mathbb{s}^2$, et $c = \sum t_k a_k$, nous notons :

$$ (4.4) \qquad \rho^*(T) = \rho_c, $$

où $\rho_c$ est défini en (3.30). Nous avons vu que $\rho^*(T) \le 1$, nous désirons maintenant minorer $\rho^*(T)$. A cet effet, soit, pour $0 < \beta < 1$ ;

<footnote>(*) Attention : lorsque $(T_t)_{t \ge 0}$ décrit une courbe intégrale du champ $(V_T)$, $(\hat{T}_t)$, qui décrit le mouvement du rayon, n'est pas en général une courbe intégrale du champ sphérique $(V_T^c)$.</footnote>
$$
(4.5) \qquad s_{\beta} = \{T = (t_k) \in s^2 / \max_k |t_k| \ge \beta\}
$$

On a alors le résultat suivant :

PROPOSITION 4.1 : Les hypothèses H.3 ou H.4 de (3.11) sont en vigueur, et
$\psi$ est choisie comme au théorème 3.7; de plus, en notant $\psi = \alpha H + \tilde{\psi}$,
on suppose que $\tilde{\psi}$ satisfait à la condition suivante, pour tout réel
$K < + \infty$ :

$$
(4.6) \quad \sup_{||T|| \le K} \mathbb{E}(c^3 \psi''(c)) < + \infty, \text{où } c = \langle T, A \rangle.
$$
Alors, pour tout $\beta \in ]0, 1[$, on a :

$$
(4.7) \qquad \inf_{T \in s_{\beta}} \rho^*(T) = \rho_{\min}(\beta) > 0,
$$
et, de plus,

$$
(4.8) \quad \lim_{\beta \to 1} \rho_{\min}^{*}(\beta) = 1.
$$
\underline{DÈMONSTRATION} : Annexe III.
$$

Concernant la condition de croissance (4.6), on se reportera
à la remarque suivant le lemme 3.1 : il s'agit en fait de conditions jointes
sur la croissance polynômiale permise à $\tilde{\psi}$ et l'ordre maximal des moments de $\nu$.

La condition (4.8) nous montre qu'il nous suffit maintenant de
mesurer la vitesse de convergence du rayon pour connaître l'évolution du
point d'équilibre sur le rayon. Nous passons donc à l'étude de la fonction
de Lyapunov δ. Nous commençons par le lemme suivant.

LEMME 4.2 : Supposons que $v$ admette un moment d'ordre quatre, et que
$$ \psi = - \alpha \operatorname{sgn} + \tilde{\psi} $$
satisfasse à :

$$
(4.9) \qquad \begin{array}{l}
\psi = - \alpha \operatorname{sgn} + \tilde{\psi} \text{ satisfasse à :} \\
\\
\tilde{\psi}^{(3)}(x) \ge \gamma. \quad \gamma > 0 \text{ pour } x > 0. \\
\\
\text{Alors, pour tout } T \in \ell^2, \text{ et } 0 \le \theta \le \pi/4, \text{ on a}
\end{array}
$$
$$
(4.10) \quad \underbrace{\frac{\partial}{\partial \theta_{ij}} \psi'}_{|T=T_{\theta}} \geq \frac{\gamma R^4}{3} F(\theta)
$$

où $t_i = R \cos \theta$ et $t_j = R \sin \theta$, et

$$
(4.11) \quad F(\theta) = \int_0^\infty \int_0^\infty xy (x^2 - y^2) \mathbb{P}_\theta(dx, dy) .
$$

DEMONSTRATION : Annexe IV

Remarquons que la fonction x → x³ qui intervient dans la confection
de F(θ) satisfait aux conditions du théorème 3.7; de plus, on vérifie que

$$
(4.12) \quad F'(0) = -F'\left(\frac{\pi}{4}\right) = 3\left(\int x^2 v(dx)\right)^2 - \int x^4 v(dx) > 0.
$$

Ce lemme donne explicitement F(θ) mais la condition (4.9) est manifeste-
ment trop restrictive; nous avons le résultat équivalent suivant :

LEMME 4.2 A : La condition (4.9) est remplacée par :

$$
(4.9)_A \quad \left\{
\begin{array}{l}
\psi''(\tilde{x}) \text{ a une limite à droite en 0} \\
\exists c > 0 \quad \tilde{\psi}''(x) \ge c \quad \text{pour } x \in ]0, 4 ||T||^{3/2}[
\end{array}
\right.
$$

alors (4.11) devient :

$$
(4.11)_A \quad \left\{
\begin{array}{l}
F(\theta) \text{ ne dépend que de } v, F(\theta) > 0 \text{ sur } ]0, \frac{\pi}{4}] \text{, } F \text{ est continue et a} \\
\text{une dérivée non nulle en } 0 \text{ et } \frac{\pi}{4}.
\end{array}
\right.
$$

DEMONSTRATION : Annexe IV A

Revenons à l'étude de δ. Introduisons :

$$
(4.13) \quad \mathcal{S} = \{T \in \mathcal{S}^2, v_T^c = 0\},
$$

$\mathcal{S}$ est donc l'ensemble des points stationnaires pour la restriction de $\nabla$
à $s^2$ et est constitué des lignes dont tous les coefficients non nuls sont
de module égal.
$$
\begin{array}{ll}
\textbf{PROPOSITION 4.3 :} & \text{Les hypothèses du lemme 4.2 sont en vigueur. Soient} \\
& 0 < \beta < 1 \text{ et } \alpha < 0. \text{ Il existe } \varepsilon > 0 \text{ dépendant uniquement de } \alpha \text{ et } \beta, \\
& \text{tel que, pour tout } T \in \ell^2 \text{ tel que } \hat{T} \in s_\beta \text{ et } \|T\| \ge \alpha, \text{ on ait} \\
& \qquad - \delta' |_{T_t=T} \ge \frac{\gamma F'(0)}{6} \cdot \beta^4 \alpha^2 d(\hat{T}, \mathcal{G})^2, \text{ si } |\delta'| \le \varepsilon \\
& \\
\textbf{DEMONSTRATION :} & \text{Annexe V.}
\end{array}
$$

4.2. - Effet de la troncature sur la fonction de Lyapunov $\delta$

Fixons une largeur de fenêtre N, et notons $(T_t^N)_{t \in \mathbb{R}}$ le flot des
lignes de plus grande pente (pour la métrique ordinaire) de la restriction
à $\mathcal{C}^N$ du potentiel $\mathcal{V}$. Introduisons les fonctions suivantes sur $\ell^2$

(4.15) $$ D_i^+(T) = \| \hat{T} - I_i \|^2, \quad D_i^-(T) = \| \hat{T} + I_i \|^2, $$

où $I_i$ désigne la ligne de $s^2$ admettant + 1 comme coefficient d'indice i et zéro ailleurs. Remarquons que, si $(T_t)$ $t \in \mathbb{R}$ est une ligne de plus grande pente de $\mathcal{V}$ sur $\ell^2$ issue d'une ligne admettant $t_i \ge 0$ (par exemple) comme coefficient de plus grand module, on a, pour cette trajectoire, $\delta(t) = D_i^+(T_t)$. Le lemme ci-dessus vise à comparer l'évolution des fonctions $D^+$ et $D^-$ le long des trajectoires respectives des flots $(T_t)$ et $(T_t^N)$.

A cet effet, commençons par introduire une mesure de la dé-
croissance à l'infini de la ligne à identifier $S^{-1}$. Par hypothèse,
$S^{-1} \in \ell^2$. Donc, si $S_i^{-1}$ désigne la ligne dont les coefficients d'indice k
sont ceux de $S_i^{-1}$ pour $|k-i| \le N$, et nuls pour $|k-i| > N$ ($S_i^{-1}$ s'obtient en
tronquant $S^{-1}$ à l'aide d'une fenêtre de largeur $2N+1$, centrée autour du
coefficient d'indice i), il vient que, pour tout $i \in \mathbb{Z}$,
$\lim_{N \to \infty} \|S^{-1}, S_i^{-1}\| = 0$. Comme $\Lambda$ est un opérateur borné dans $\ell^2$, il vient que,
si nous définissons :

$$
(4.16) \quad \epsilon_{i,N}^2 = \|S^{-1} - S_{i,N}^{-1}\|_{\Lambda}^2 = \langle (S^{-1} - S_{i,N}^{-1}), \Lambda(S^{-1} - S_{i,N}^{-1}) \rangle,
$$

la suite $(\epsilon_{i,N}^2)_{N \ge 0}$ décroit vers 0 (et ce, de manière uniforme pour i borné).
On a alors la majoration suivante :
**LEMME 4.4** : Supposons que $\psi$ satisfasse à la condition suivante, pour tout $K < + \infty$

$$
(4.17) \qquad c(K) = \sup_{\|T\| \le K} \mathbb{E}(\psi^2(c))^{1/2} < +\infty, \text{ où } c = \langle T, A \rangle.
$$
Alors on a la majoration suivante, pour tout $i \in \mathbb{Z}$ et tout $T \in \mathcal{T}^{\mathcal{N}}$,

$$
(4.18) \qquad \left| \frac{d}{dt} D_i^\pm(T_t) \Big|_T - \frac{d}{dt} D_i^\pm(T_t^N) \Big|_T \le \frac{c(\|T\|)}{\|T\|} \quad \epsilon_{i,N}.
$$
**DEMONSTRATION : Annexe VI."
$$

Pour la compréhension de (4.18), disons que, au point $T \in \mathcal{T}^N$
passent deux trajectoires : l'une, notée $(T_t)$ est une ligne de plus grande
pente de $\mathcal{V}$ sur $\ell^2$, qui définit une fonction $D_i^+(T_t)$ (resp. $D_i^-(T_t)$) dont
$\frac{d}{dt} D_i^+(T_t)|_T$ désignent les dérivées respectives au point $T$; l'autre, notée
$(T_t^N)$ est une ligne de plus grande pente de la restriction à $\mathcal{T}^N$ de $\mathcal{V}$, qui
définit une fonction $D_i^+(T_t^N)$, dont $\frac{d}{dt} D_i^+(T_t^N)|_T$ désigne la dérivée au point $T$.
La majoration (4.18) compare ces deux dérivées.

Disons également que la condition (4.17) portant sur $\psi$ est
analogue à H1 et H3 de (3.11) (cf. la remarque suivant l'exposé de ces
hypothèses).

4.3. - **_Repérage des minima locaux de**** $\mathcal{V}$**_ sur $\mathcal{Z}^N$

Fixons une largeur de fenêtre N. Nous partageons le sous-espace
$\mathcal{T}^N$ en cellules de la manière suivante :

$$
(4.19) \qquad \mathcal{T}_i^N = \{T = (t_k) \in \mathcal{T}^N \mid |t_i| = \max_k |t_k|\},
$$

et rappelons que, pour tout $i \in \mathbb{Z}$ :

$$
\epsilon_{i,N}^2 = \mathbb{E} \left( \left. \sum_{|k|>N} x_k \hat{s}_{i-k} \right|^2 , \text{où } S^{-1} = (\hat{s}_k) . \right.
$$

est une mesure de la décroissance de $S^{-1}$ à l'infini (cf. (4.16)); rappelons
également que (lemme 4.2) $\tilde{\psi}^{(3)} \ge \gamma > 0$ si $\psi = - \alpha \operatorname{sgn} + \tilde{\psi}$ ; notons enfin
c(K)$_{K \ge 1}$ les constantes introduites au lemme 4.4. Notons $I_i$ la ligne identité admettant $+1$ à l'emplacement $i$, et zéro ailleurs; notons $\mathscr{L}_i$ l'ensemble des points-cols de la restriction à $s^2$ de $\mathscr{V}$, dont l'indice $i$ est l'emplacement d'un coefficient de module maximal (si $T = (t_k) \in \mathscr{L}_i$, ou bien $|t_k| = |t_i| > 0$, ou bien $|t_k| = 0$, et T admet au moins deux coefficients non nuls). Définissons, pour $\beta > 0$ petit :

$$
(4.20) \quad \mathcal{L}_i^{O,N,\beta} = \{ T \in \mathcal{L}_i^{N} | \beta(\hat{T}) \ge \beta \text{ et } \epsilon_{i,N} < \frac{\gamma F'(O)}{6} \frac{\|T\|^3 \beta^4 (\hat{T})^4 d^2(\hat{T}, \mathcal{L}_i)}{c(\|T\|)} \},
$$

où $\hat{T} = \frac{\|T\|}{\|T\|} = (\hat{t}_k) \in \mathbb{S}^2$, et $\beta(\hat{T}) = \max_k |\hat{t}_k|$. On remarquera que le cône tronqué $\mathcal{L}_i^{O,N,\beta}$ représente en un certain sens les lignes qui ne sont pas trop proches du bord de $\mathcal{L}_i^N$, constitué des lignes de crête de $\mathscr{V}$ sur $\ell^2$, d'où la notation $\mathscr{L}^o$, qui suggère qu'il s'agit d'un intérieur. Sont exclus de $\mathcal{L}_i^{O,N}$ :

1) les points de $\mathcal{L}_i^N$ qui sont "loin" dans $\ell^2$ au sens suivant :
ou bien $\|T\|$ est très petit ou très grand, ou bien T n'a que des petits coefficients;

2) les points de $\mathcal{L}_i^N$ qui sont proches des lignes de crête de $\mathscr{V}$ sur $\ell^2$ ($d(\hat{T}, \mathcal{L}_i)$ petit) pour la métrique ordinaire. Le résultat ci-dessous donne une description du potentiel $\mathscr{V}$ dans la cellule $\mathcal{L}_i^N$ :

**THEOREME 4.5 (SUR LA TRONCATURE) :** Les points stationnaires de la restric-
tion à $\mathcal{L}_i^{O,N,\beta}$ du potentiel $\mathscr{V}$ sont tous situés à une distance des lignes
$\pm I_i$ qui, pour $N \ge N_o$ ($N_o$ dépendant de $i$ et $\beta$), est majorée par
$[d_{i,N}^2 + (1 - \rho_{\min} (1 - d_{i,N})^2)^2]^{1/2}$, où $d_{i,N}$ est égal à (*)
$$d_{i,N}^2 = \frac{10 C}{\gamma F'(O)} \epsilon_{i,N},$$
avec $C = C(1) = \sup_{||T|| \le 1} (\mathbb{E} \psi^2(c))^{1/2}$ où $c = \langle T, A \rangle$.

<footnote>(*) cf. la proposition 4.1 pour le comportement de $\rho_{\min}$.</footnote>
## REMARQUES

1) Supposons N grand, donc $\gamma_i^N - \gamma_i^{0,N,\beta}$ petit, et $d_{i,N}$ petit. Le théorème 4.5 nous dit :

a) que $\gamma_i^N - \gamma_i^{0,N,\beta}$ est proche des lignes de crête de $\mathcal{V}$ sur $\ell^2$, donc loin des minima de $\mathcal{V}$;

b) que les points stationnaires pour $\mathcal{V}$ sur $\gamma_i^0, N, \beta$ sont proches des minima de $\mathcal{V}$. Par conséquent, on peut dans ce cas affirmer que les minima de $\mathcal{V}$ dans la cellule $\gamma_i^N$ se trouvent dans $\gamma_i^0, N, \beta$, donc près des minima de $\mathcal{V}$; dans le bord $\gamma_i^N - \gamma_i^{0,N,\beta}$ par contre, on ne trouvera (s'il en existe !) que des minima locaux très peu stables, qui seront ignorés par l'algorithme de gradient stochastique en raison des grands écarts à la loi des grands nombres (cf. AZENCOTT-RUGET [1]). Le théorème 4.5 nous permet alors de considérer que l'algorithme de gradient stochastique fera effectivement converger la ligne globale au voisinage d'une ligne identité.

2) Pour N fixé, on a $\lim_{|i| \to +\infty} \epsilon_{i,N} = 1$ quel que soit N. Autrement dit, pour i grand, les estimations (4.20) et (4.21) peuvent ne donner aucun renseignement. On a, au contraire, intérêt (la largeur N de la fenêtre ayant été choisie), pour l'initialisation de l'algorithme, à faire en sorte que la ligne globale $T_0$ à laquelle on initialise soit située dans une cellule $\gamma_i^N$ favorable, ce qui revient à avoir une certaine connaissance concernant l'emplacement des grands coefficients de $S^{-1}$ (pour ne pas éliminer de grands coefficients par troncature, et avoir ainsi $\epsilon_{i,N}$ petit), autrement dit, du point de vue pratique, à avoir une bonne idée du retard de la ligne à identifier. Une bonne initialisation est à ce prix.

**DEMONSTRATION DU THEOREME 4.5** : Il est clair que, si $T \in \gamma_i^N$ est un point stationnaire du flot $(T_t^N)$ (ou de la restriction à $\gamma_i^N$ de $\mathcal{V}$), on a nécessairement :

$$ (4.22) \qquad \|T\| = \rho^*(\hat{T}) \le 1 \quad , \text{ et } \frac{d}{dt} D_i^\pm (T_t^N) \Big|_{T=0} = 0, $$

la première assertion résultant de ce que les composantes radiales des
champs ($V_T$) et ($V_T^N$) (dont ($T_T^N$) constitue le flot des courbes intégrales) coïncident sur $\mathcal{C}^N$. Il est alors clair que, pour obtenir le théorème, il nous suffit de montrer que, si l'on suppose de plus $T \in \mathcal{C}_{i}^{0,N,\beta}$,

$$ (4.23) \qquad d(\hat{T}, \pm I_i) \le d_{i,N}. $$

Or, la proposition 4.3, le lemme 4.4, le fait que $T \in \mathcal{C}_i^{0,N,\beta}$ et la seconde assertion de (4.22) exigent que l'on ait :

$$ (4.24) \qquad \begin{aligned} \varepsilon_{i,N} &\ge \frac{\gamma F'(0)}{6} \frac{(\rho^*(\hat{T}))^3 \beta^4(\hat{T}) d^2(\hat{T}, \pm I_i)}{c(\rho^*(\hat{T}))} \\ &\ge \frac{\gamma F'(0)}{6} \frac{\rho_{\min}^3 (\beta) \beta^4 d^2}{c}, \end{aligned} $$

où nous avons noté $d = d(\hat{T}, \pm I_i)$ ; la seconde inégalité résulte de (4.22) et de ce que $\beta(\hat{T}) \ge \beta$ , donc

$$ \rho_{\min}(\beta) \le \rho^*(\hat{T}) \le 1. $$

Il reste alors à remarquer que (4.24) implique l'existence d'un $N_0$ tel que, pour $N \ge N_0$, on ait que

$$ d^2 \le \frac{6C}{\gamma F'(0) \beta^4 \rho_{\min}^3(\beta)} \quad \varepsilon_{i,N} $$

soit assez petit pour que

$$ (4.25) \qquad (\rho^*(\hat{T}))^3 \beta^4(\hat{T}) \ge \rho_{\min}^3 (1-d) (1-d)^4 \ge \frac{6}{10}. $$

La première inégalité de (4.24), jointe à (4.25) et au fait que $c(\rho^*(\hat{T})) \le c$, donne la majoration (4.23), et le théorème. $\blacksquare$

**REMARQUE** : En travaillant de manière plus fine, il est possible de montrer que, pour la métrique ordinaire, les lignes de crête de la restriction de $\mathcal{V}$ à $\mathcal{C}^N$ sont situées près du bord de $\mathcal{C}^N$. Mais cette propriété dépend du choix de la métrique, et est donc d'un intérêt limité puisque l'algorithme utilisé suit les lignes de plus grande pente pour la métrique associée à $\Lambda^{-1}$; c'est pourquoi nous l'avons omis.

Ceci achève donc l'étude de la troncature pour l'algorithme (2.7) sans blanchisseur et sans contraintes.
### 4.4. - La troncature pour l'algorithme (3.39) avec blanchisseur et contraintes

La méthode d'étude est la même. Deux difficultés disparaissent :

1) l'étude du mouvement sur le rayon, en raison de l'existence de la contrainte sur l'énergie;

2) le changement de métrique, en raison de l'utilisation du blanchisseur R (cf. § (3.6)). Comme nous n'effectuons pas de changement de métrique, il nous est alors possible de repérer les lignes de crête pour le potentiel après troncature, ce qui nous permet, avec la même méthode, d'énoncer (sans démonstration) un résultat plus précis dans ce cas : soit $\mathcal{H}^N$ défini par (4.1), et, cette fois, prenons :

$$ (4.26) \qquad s^N = \{T \in s^2 / T = \mathfrak{B} * H, H \in \mathcal{H}^N\}, $$

où $\mathfrak{B}$ est défini en (3.37); comme $\mathfrak{B}$ est une isométrie de $\ell^2$ (lemme 3.9), lorsque l'égaliseur $H$ descend selon les lignes de plus grande pente (pour la métrique ordinaire) de la restriction à $s^2 \cap \mathcal{H}^N$ de $\mathcal{Y}$, la ligne globale $T$ descend suivant les lignes de plus grande pente (pour cette même métrique) de la restriction à $s^N$ de $\mathcal{Y}$; soit $(T_t^{N,c})_{t \in \mathbb{R}}$ le flot de ces lignes de plus grande pente, le résultat suivant est un raffinement du théorème 4.5.

### THEOREME 4.6 (TRONCATURE AVEC BLANCHISSEUR ET CONTRAINTE)

Soit $T_0 \in s_{N_0}$ admettant un unique plus grand coefficient $t_i$; il existe $N_1 \ge N_0$ (dépendant de $T_0$) tel que, pour $N \ge N_1$, on ait :

$$ (4.27) \qquad \lim_{t \to \infty} \sup \left\| T_t^{N,c} - \operatorname{sgn}(t_i) I_i \right\|^2 \le \frac{10 C}{\gamma F'(0)} \left( \sum_{|k-i|>N} b_k^2 \right)^{1/2}, $$
où $(T_t^{N,c})_{t \ge 0}$ est issue de $T_0$, et où $B = \{b_k\}_{k \in \mathbb{Z}}$.

Ici $\varepsilon_{i,N}$ est remplacé par la mesure de la queue de $B$, égale à la grandeur $\left( \sum_{|k|>N} b_k^2 \right)^{1/2}$. La remarque 2 suivant le théorème 4.5 est encore valable.
5. - ETUDE DES ALGORITHMES D'APPROXIMATION STOCHASTIQUE (2.7) et (3.39)

Pour achever la résolution du problème exposé au paragraphe 2 il
reste à étudier la convergence des algorithmes (2.7) et (3.39). Cette
 étude a été faite au chapitre II dont les paragraphes 3 et 4 donnent les
résultats nécessaires.
# ANNEXES

## ANNEXE I - DEMONSTRATION DU LEMME 2.1

Soit $\varphi(u) = \int e^{iux} v(dx)$ la transformée de Fourier de $v$; la transformée de Fourier de la loi de c est donc égale à $\varphi_c(u) = \pi \varphi(t_k u)$, puisque les variables $(a_n)$ sont indépendantes. L'hypothèse permet alors d'affirmer que $\varphi$ satisfait à l'équation fonctionnelle suivante :

$$ (I.1) \qquad \varphi(u) = \pi \sum_{k \in \mathbb{Z}} \varphi(t_k u), \quad \forall u \in \mathbb{R}, \text{ avec } \sum_k t_k^2 = 1. $$

La loi $v$ étant symétrique, quitte à remplacer $t_k$ par $|t_k|$ pour tout $k$, nous pouvons supposer que l'on a $t_k \ge 0$ pour tout $k$. Soit $\beta = \max_k t_k$, on a $\beta < 1$ puisque T admet au moins deux coefficients non nuls. Soit alors $u_o > 0$ tel que $\varphi(u_o) = 0$; l'équation (I.1) permet d'affirmer l'existence d'un $u_l = t_k u_o \le \beta u_o$ tel que $\varphi(u_l) = 0$; de proche en proche, on en déduit l'existence d'une suite $u_n \to 0$ telle que $\varphi(u_n) = 0$, ce qui exigerait $\varphi(0) = 0$ puisque $\varphi$ est continue, cette dernière exigence étant contradictoire avec la propriété $\varphi(0) = 1$ satisfaite par toute transformée de Fourier de probabilité. Comme $v$ est symétrique, $\varphi$ est par ailleurs à valeurs réelles et l'on a donc $\varphi(u) > 0$ pour tout $u$, et l'on peut définir, pour $s \ge 0$

$$ \psi(s) = \log \varphi(\sqrt{s}). $$

L'équation (I.1) s'écrit alors

$$ (I.2) \qquad \psi(s) = \sum_{k \in \mathbb{Z}} \psi(\ell_k s) \quad \forall s \ge 0 \quad \text{où } \ell_k = t_k^2. $$

Pour montrer que $v$ est une gaussienne, il nous reste à montrer que $\varphi(u) = e^{-\frac{\sigma^2}{2} u^2}$, soit encore que $\psi$ est linéaire. La fonction $\psi$ est déjà continue sur $\mathbb{R}_+$; montrons qu'elle est dérivable à l'origine. On a l'inégalité suivante, pour $s \ge 0$.

$$ \left| \frac{\left(e^{i\sqrt{s}} x - i \sqrt{s} x\right)}{s} - 1 \right| \le \frac{|x|^2}{2}, $$

qui est $v$-intégrale par hypothèse. En vertu du théorème de convergence de Lebesgue, et du fait que $v$ est centrée, il vient que,
$$
\lim_{s \to 0} \frac{\varphi(\sqrt{s}) - 1}{s} &= \lim_{s \to 0} \frac{1}{s} \int (e^{ix\sqrt{s}} - ix\sqrt{s} - 1) v(dx) \\
&= \int \lim_{s \to 0} \frac{e^{ix\sqrt{s}} - ix\sqrt{s} - 1}{s} v(dx)
$$

existe et est fini; par conséquent, $\psi(s)$ est bien dérivable à l'origine.
Revenons à l'équation (I.2), et soit $s_o > 0$; posons $\alpha = \psi(s_o)/s_o$ ; ou
bien $\psi(\ell_k s_o) = \alpha \ell_k s_o$ pour tout k, et alors il existe $s_l \le \beta s_o$ tel que
$\psi(s_l) = \alpha s_l$ ; ou bien cette condition n'est pas remplie et l'équation
(I.2) permet alors d'affirmer l'existence de k et k' tels que
$\psi(\ell_k s_o) < \alpha \ell_k s_o$ et $\psi(\ell_k', s_o) > \alpha \ell_k' s_o$, donc un point $s_l \le \beta s_o$
(parce que situé entre $\ell_k s_o$ et $\ell_k' s_o$) tel que $\psi(s_l) = \alpha s_l$ ($\psi$ est continue).
De proche en proche, on montre ainsi l'existence d'une suite $s_n \to 0$ telle
que $\psi(s_n) = \alpha s_n$. Comme $\psi$ est dérivable en 0, il s'ensuit que $\alpha = \psi'(0)$,
ce qui montre que $\alpha$ est indépendant de $s_o$, donc que $\psi$ est linéaire. ■
# ANNEXE II - DEMONSTRATION DU LEMME 3.1

## (i) Le champ ($V_T$) est localement borné.

- Sous hypothèse H.1 de (3.11)

Fixons $i \in \mathbb{Z}$, et posons $c_i = c - t_i a_i = \sum_{k \neq i} t_k a_k$, où
$T = (t_k) \in \mathcal{l}^2$. Introduisons la fonction $F(t)$ définie par

$$F(t) = \mathbb{E}(a_i \psi(c_i + t a_i)) .$$

Elle satisfait à :

$$(\text{II.1}) \qquad V_T^i = \mathbb{E}(a_i \psi(c)) = F(t_i) \quad ; \quad F(0) = 0,$$

la seconde égalité résultant de ce que $c_i$ est indépendant de $a_i$. Posons (cf (3.12))

$$C_K^1 = \sup_{\|T\| \le K} \mathbb{E}(\psi' \langle T, A \rangle)^2 .$$

Fixons une constante $K < \infty$. Pour $\|T\| \le K$, et $|t| \le |t_i|$, on peut écrire

$$(\text{II.2}) \qquad \mathbb{E}(\psi'(c_i + t a_i))^2 \le C_K^1, \quad \text{où } c = \langle T, A \rangle,$$

puisque la ligne produisant la sortie $c_i + t a_i$ a une énergie(carré de la norme $\ell^2$) majorée par $\|T\|^2$ pour $|t| \le |t_i|$. Par conséquent, on a :

$$(\text{II.3}) \qquad \mathbb{E}(a_i^2 |\psi'(c_i + t a_i)|) \le \sqrt{\mathbb{E}(a_i^4)} \cdot \sqrt{C_K^1}$$

pour $|t| \le |t_i|$. Mais alors, cela permet d'utiliser la dérivation sous le signe somme, et d'écrire, en tenant compte de (II.1) :

Pour tout $T$ tel que $\|T\| \le K$, on a

$$(\text{II.4}) \qquad v_T^i = F(t_i) = \int_0^{t_i} F'(t) dt, \quad F'(t) = \mathbb{E}(a_i^2 \psi'(c_i + t a_i)) ;$$
d'où la majoration suivante, grâce à (II.3) et (II.4) :

$$
(II.5) \quad \text{pour } \|T\| \le K, \quad |v_T^i| \le \sqrt{C_K^1 \cdot \mathbb{E}(a^4)} \cdot |t_i|,
$$

qui permet immédiatement d'obtenir la majoration suivante :

$$
(II.6) \quad \text{pour } ||T|| \le K, \quad ||V_T||_{\ell^2} \le \sqrt{C_K^1 \cdot \mathbb{E}(a^4)} \cdot ||T||_{\ell^2},
$$

qui montre bien que le champ est localement borné.

- Sous hypothèse H.2 de (3.11)

Pour simplifier, nous traiterons seulement le cas où $\psi$ admet une seule discontinuité à l'origine. Autrement dit, nous prenons

$$
\psi = \alpha \operatorname{sgn} + \tilde{\psi}
$$

. La contribution de $\tilde{\psi}$ au champ $(V_T)$
a déjà été étudiée. Il nous suffit donc d'examiner le cas où $\psi = \operatorname{sgn}$
autrement dit de chercher une majoration de la forme (II.5) pour
$\mathbb{E}(a_i \operatorname{sgn}(c))$. Soit $T^0 \neq 0$ fixé. Nous allons chercher une majoration de
$V_T$ qui soit uniforme pour $T \in B(T^0, \varepsilon)$ (boule centrée en $T^0$, de rayon
$\varepsilon$), où $\varepsilon$ sera choisi assez petit.

$$
\text{Prenons } \epsilon = \frac{1}{2} \sup_k |t_k^o| \quad , \text{ si } T^o = (t_k^o) ,
$$

et soit $i_o$ l'indice $k$ pour lequel le sup est réalisé. On a donc :

$$
(II.7) \quad |t_{i_o}| \ge \epsilon \text{ pour } T \in B(T^0, \epsilon).
$$

Pour $i \neq i_o$, nous allons donner une majoration de $\mathbb{E}(a_i \operatorname{sgn}(c))$
qui sera uniforme pour $T \in B(T^0, \varepsilon)$. Posons $c_i = c - t_i a_i$, et
soit $f_i$ la densité de probabilité de $c_i$ ; comme $i \neq i_o$, on peut
écrire

$$
c_i = t_{i_o} a_{i_o} + \tilde{c},
$$

où $\tilde{c}$ est indépendant de $a_{i_o}$ ; si nous notons $\tilde{v}$ la loi de $\tilde{c}$, il vient
$$f_i(x) = \frac{1}{t_i} \int f(\frac{x-u}{t_i}) \tilde{v}(du)$$

d'où il vient, en tenant compte de (II.7)

$$(II.8) \qquad |f_i(x)| \le \frac{1}{\epsilon} \cdot \sup |f|.$$

Introduisons la fonction $G(t)$ définie par

$$G(t) = E(a_i \operatorname{sgn}(c_i + t \cdot a_i)),$$

elle satisfait à

$$(II.9) \qquad G(t_i) = E(a_i \operatorname{sgn}(c_i)) \quad ; \quad G(0) = 0,$$

tandis que la majoration (II.8) permet d'affirmer que $G$ est désirable sur $[0, t_i]$ et que $G'(t)$ s'obtient en dérivant sous l'intégrale, ce qui donne

$$(II.10) \qquad G'(t) = \int x^2 f(x) f_i(tx) dx \quad ( = E(a_i^2 \delta(c_i + t a_i)))$$

(où $\delta$ est la mesure de Dirac à l'origine). Finalement, en tenant compte de (II.8), (II.9) et (II.10), il vient pour tout $T \in B(T^o, \epsilon)$, et $i \neq i_0$ :

$$(II.11) \qquad \left\{ \begin{array}{l} |E(a_i \operatorname{sgn}(c_i))| = \left| \int_0^{t_i} G'(t) dt \right| \\ \\ \le \frac{E(a_i^2)}{\epsilon} - \sup |f| \cdot |t_i| \end{array} \right. .$$

On achève alors la démonstration comme précédemment.

### (ii) Le champ $(V_T)$ est localement Lipschitzien

Nous allons montrer que le champ de vecteurs $(V_T)_{T \in \ell^2}$ est dérivable, sa dérivée étant un champ $(M_T)$ à valeurs opérateur symétrique, dont on montrera qu'il est localement borné.
- Sous l'hypothèse H.3 de (3.11)

Introduisons le champ d'opérateurs $(M_T)_{T \in \mathcal{L}^2}$ défini par

$$m_T^{ij} = \mathbb{E}(a_i^* a_j \psi'(c)) \quad c = \langle T, A \rangle.$$

Nous allons étudier ce champ et justifier la dérivation sous le signe somme dans $(V_T)$, ce qui montrera que $(M_T)$ est bien le champ dérivé de $(V_T)$. Nous allons donner une majoration des termes $m_T^{ij}$ en distinguant deux cas :

$i \neq j$

Posons (cf (3.13))

$$C_K^3 = \sup_{\|T\| \le K} \mathbb{E}(\psi''' \langle T, A \rangle)^2,$$

$$\text{et introduisons } c_{ij} = c - t_i a_i^* - t_j a_j^* = \sum_{k \neq i, j} t_k a_k^*.$$

Pour $|\sigma| \le |t_i|$ et $|\tau| \le t_j$, nous pouvons écrire, d'après l'inégalité de Schwarz :

$$(\text{II.12}) \qquad |\mathbb{E}(a_i^2 a_j^2 \psi'''(c_{ij} + \sigma a_i + \tau a_j))| \le \mathbb{E}(a^4) \cdot \sqrt{C_K^3} \quad \text{pour } ||T|| \le K.$$

Mais alors, si nous introduisons la fonction de deux variables $F(s,t)$ définie par

$$F(s,t) = \mathbb{E}(a_i^* a_j \psi'(c_{ij} + s a_i + t a_j)),$$

elle satisfait à $F(0,t) = F(s,0) = 0$ pour tous $s$ et $t$, et l'on a $F(t_i, t_j) = m_T^{ij}$. D'autre part, la majoration (II.12) permet d'écrire, en tenant compte de ces remarques

$$m_T^{ij} = F(t_i, t_j) = \int_0^{t_i} \int_0^{t_j} F''_{s,t}(\sigma, \tau) \, d\sigma \, d\tau, \text{ avec}$$

$$(\text{II.13}) \qquad F''_{s,t}(\sigma, \tau) = \mathbb{E}(a_i^2 a_j^2 \psi'''(c_{ij} + \sigma a_i + \tau a_j)).$$
Finalement, (II.12) et (II.13) donnent la majoration suivante :

$$
(\text{II.14}) \quad \text{pour } \|T\| \le K, |m_T^{ij}| \le \mathbb{E}(a^4) \cdot \sqrt{c_K^3} \cdot |t_i| |t_j|.
$$
$$
i = j
$$

On a $m_T^{ii} = \mathbb{E}(a_i^2 \psi'(c))$, et la majoration suivante résulte immédiatement de (3.12) :

$$
(\text{II.15}) \quad \text{pour } \|T\| \le K, |m_T^{ii}| \le \sqrt{\mathbb{E}(a^4)} \cdot \sqrt{c_K^1}.
$$

Finalement, les majorations (II.14) et (II.15) montrent que
le champ d'opérateurs M_T est la somme d'un champ d'opérateurs diagonaux
dont les coefficients sont localement bornés, et d'un champ d'opérateurs
de norme de Hilbert-Schmidt bornée pour ||T||≤ K ; ce champ est donc
localement borné, et les majorations obtenues montrent en même temps
que (M_T) est bien le champ dérivé de (V_T).

- Sous l'hypothèse H.4 de (3.11)

Comme dans le cas de l'étude sous l'hypothèse H.2, nous nous
bornons à regarder le cas où $V_T^i = \mathbb{E}(a_i \operatorname{sgn}(c))$. Nous allons étudier
cette fois le champ d'opérateurs ($D_T$) défini formellement par :

$$
d_T^{ij} = \mathbb{E}(a_i a_j \delta(c)) \quad \text{où } c = \langle T, A \rangle ,
$$

$\delta$ étant la mesure de Dirac à l'origine. Soit $T^0 \neq 0$; nous allons comme pour l'étude sous H.2, chercher une majoration de $d_T^{ij}$ qui soit uniforme pour $T \in B(T^0, \varepsilon)$ (boule de centre $T^0$ et de rayon $\varepsilon$), où $\varepsilon$ sera choisi suffisamment petit. Comme précédemment, nous notons $i_o$ l'indice i pour lequel $|t_{io}^o| = \max_k |t_k^o|$, où $T^0 = (t_k^o)$, et nous prenons encore une fois $\varepsilon = \frac{1}{2} |t_{io}^o|$, ce qui implique que la minoration (II.7) est satisfaite. Nous allons majorer $d_T^{ij}$ pour $||T - T^0|| \le \varepsilon$, en distinguant plusieurs cas, suivant les couples $(i,j)$.
i ≠ j ; i et j ≠ i₀

Posons $c_{ij} = c - t_i a_i - t_j a_j = \sum_{K \neq i,j} t_k a_k$, et nous notons $g(x)$ la densité de probabilité de $c_{ij}$ (en raison de (II.7)), $c_{ij}$ n'est pas p.s. nulle, et admet donc une densité de probabilité en vertu de H.4, et $f(x)$ celle de $a$. En vertu de (II.7) nous pouvons écrire :

$$c_{ij} = t_{i_0} a_{i_0} + \tilde{c},$$

où $\tilde{c}$ est une variable indépendante de $a_{i_0}$, de loi $\tilde{v}$. On a donc

$$g(x) = \frac{1}{t_{i_0}} \int f\left(\frac{x-u}{t_{i_0}}\right) \tilde{v}(du),$$

soit encore

$$|g''(x)| \le \frac{1}{|t_{i_0}|} \int \left| f''\left(\frac{x-u}{t_{i_0}}\right) \right| \tilde{v}(du) \le \frac{c_2}{\epsilon},$$

où

$$C_2 = \sup_{x \in \mathbb{R}} |f''(x)| . < + \infty .$$

Introduisons alors la fonction $G(s,t)$ définie par

$$G(s,t) = \int_{\mathbb{R}^2} x f(x) y f(y) g(sx + ty) \, dx \, dy.$$

On a $G(s,0) = G(0,t) = 0$ pour tous $s$ et $t$, et la majoration (II.16) permet, en utilisant la dérivation sous le signe somme, d'écrire :

$$ \begin{cases} G(t_i, t_j) = \int_0^{t_i} \int_0^{t_j} G''_{s,t}(\sigma, \tau) \, d\sigma \, d\tau \, , \text{où} \\ G''_{s,t}(\sigma, \tau) = \int_{\mathbb{R}^2} x^2 f(x) y^2 f(y) g''(\sigma x + \tau y) \, dx \, dy \, . \end{cases} $$

Finalement, si nous posons
$$d_T^{ij} = \int_{\mathbb{R}^2} x f(x) y f(y) g(t_i x + t_j y) \, dx \, dy,$$

qui est la version propre de la définition formelle $d_T^{ij} = E(a_i a_j \delta(c))$, on obtient la majoration

$$(II.18) \quad \text{Pour } \|T - T^O\| \le \epsilon, \quad |d_T^{ij}| \le [E(a^2)]^2 \frac{c_2}{\epsilon} \cdot |t_i| |t_j| \cdot \\ i = i_o \ne j$$

Nous notons $v_j$ la loi de $c_{i_o j} = c - t_{i_o} a_{i_o} - t_j a_j = \sum_{K \ne i_o, j} \epsilon_k t_k a_k$.
On a la majoration suivante pour $\|T - T^O\| \le \epsilon$ :

$$(II.19) \quad \left\{ \begin{array}{l} \left| \frac{1}{t_{i_o}^4} \int_{\mathbb{R}^2} z^2 y^2 f(y) f''\left(\frac{\sigma z + \tau y}{t_{i_o}}\right) \, dy \right| \\ \le \frac{c_2}{\epsilon^4} E(a^2) \cdot E(c_{i_o j}^2) = \frac{c_2^2 [E(a^2)]^2}{\epsilon^4} \cdot \left( \sum_{K \ne i_o, j} \epsilon_k t_k^2 \right) \\ \le \frac{c_2}{\epsilon^4} [E(a^2)]^2 \cdot \left( \|T^O\| + \epsilon \right)^2 \end{array} \right.$$

Par conséquent, si nous introduisons la fonction de deux variables :

$$H(s,t) = \frac{1}{t_{i_o}^2} \int_{\mathbb{R}^2} z y f(y) f\left(\frac{sz+ty}{t_{i_o}}\right) \, dy \, v_j(dz),$$

qui satisfait à $H(s,0) = H(0,t) = 0$ pour tous $s$ et $t$, la majoration (II.19) nous permet d'écrire :

$$(II.20) \quad \left\{ \begin{array}{l} H(1, t_j) = \int_0^1 \int_0^{t_j} H_{s,t}'' (\sigma, \tau) \, d\sigma \, d\tau, \text{ où} \\ H_{s,t}'' (\sigma, \tau) = \frac{1}{t_{i_o}^4} \int_{\mathbb{R}^2} z^2 y^2 f(y) f''\left(\frac{\sigma z + \tau y}{t_{i_o}}\right) \, dy \, v_j(dz) \end{array} \right.$$

Posons maintenant
$$
\begin{align*}
d_T^{ij} &= \frac{t_j}{t_i^2} \int_{\mathbb{R}^2} y^2 f(y) f\left(\frac{z+t_j y}{t_i^2}\right) dy v_j(dz) \\
(II.21) \qquad &\qquad + \frac{1}{t_i^2} \int_{\mathbb{R}^2} z y f(y) f\left(\frac{z+t_j y}{t_i^2}\right) dy v_j(dz) ,
\end{align*}
\text{qui est la définition convenable de l'écriture formelle.}
$$
$$
d_T^{ij} = \mathbb{E}(a_i^T a_j \delta(c)) = \int_{\mathbb{R}^3} x f(x) y f(y) \delta(z + t_i^T x + t_j^T y) dx dy v_j(dz),
$$

En vertu de (II.7), (II.19), (II.20), (II.21) et du fait que
$f$ est bornée, nous obtenons la majoration suivante, pour $\|T - T^o\| \le \varepsilon :$

$$
\begin{gather*}
|d_T^{ij}| \le C_4(T^o, \epsilon) \cdot |t_i^T| |t_j^T| , \\
\text{où la constante } C_4(T^o, \epsilon) \text{ ne dépend que de } T^o, \text{ et de } \epsilon.
\end{gather*}
$$

$$
i = j \neq i_o
$$

Posons $c_i = c - t_i^T a_i^T = \sum_{k \neq i} t_k^T a_k^T = t_{i_o}^T a_{i_o}^T + \tilde{c}$, où $\tilde{c}$ est
indépendant de $a_{i_o}^T$ et de loi $\tilde{v}$. Utilisant le fait que

$$
C_5 = \sup_{x \in \mathbb{R}} |f(x)| < \infty,
$$

il vient, si $g_i(x)$ dénote la densité de probabilité de $c_i$

$$
(II.23) \quad |g_i(x)| = \frac{1}{|t_{i_o}^T|} \int f\left(\frac{x-u}{t_{i_o}^T}\right) \tilde{v}(du) \le \frac{C_5}{\epsilon}
$$
pour $||T - T^o|| \le \epsilon$. Par conséquent, si nous posons

$$
\begin{gather*}
d_T^{ii} = \int x^2 f(x) g_i(t_i x) dx, \\
\text{qui est l'écriture convenable pour } d_T^{ii} = \mathbb{E}(a_i^2 \delta(c)), \text{ nous obtenons} \\
\text{la majoration}
\end{gather*}
$$

$$
(II.25) \quad \text{Pour } \|T - T^o\| \le \epsilon, \quad |d_T^{ii}| \le \frac{C_5 \mathbb{E}(a_i^2)}{\epsilon}.
$$
$$i = j = i_o$$

$$ \text{(II.26)} \qquad d_T^{i_o i_o} = \frac{1}{t_i^3} \int z^2 f\left(\frac{z}{t_i}\right) v_o(dz) , $$

qui est l'écriture propre pour $d_T^{i_o i_o} = E(a_i^2 \delta(c))$, nous obtenons la majoration suivante, toujours pour $||T - T^o|| \le \epsilon$.

$$ \text{(II.27)} \qquad |d_T^{i_o i_o}| \le \frac{c_5}{\epsilon^3} E(c_i^2) \le \frac{c_5 E(a_i^2)}{\epsilon^3} (||T^o|| + \epsilon)^2 , $$

où la seconde inégalité s'obtient comme en (II.19).

Finalement, le champ d'opérateurs ($D_T$) ainsi défini apparaît comme la somme d'un champ d'opérateurs diagonaux localement borné en dehors de l'origine, et d'un champ d'opérateurs de Hilbert-Schmidt également localement borné en dehors de l'origine. Les majorations obtenues justifient la dérivation formelle sous le signe somme dans la définition de $(V_T)$, et montrent que ce champ de vecteurs est dérivable en dehors de l'origine, et admet bien $(D_T)$ comme champ d'opérateurs dérivé. Ceci achève la démonstration du lemme 2.1, dans la mesure où les propriétés ainsi montrées autorisent bien à dériver la fonction $\mathcal{V}(T) = E(\phi<T, A>)$ sous le signe somme. ■
ANNEXE III - DEMONSTRATION DE LA PROPOSITION 4.1

Fixons $T \in s_\beta$, et reprenons la fonction $v(\rho)$ introduite en (3.29).
Pour minorer $\rho_c$, il nous suffit de savoir :

1) minorer $|v'(0)|$ lorsque $\alpha \neq 0$, ou $|v''(0)|$ lorsque $\alpha = 0$,

2) majorer la convexité $v^{(3)}$ de $v'$. Rappelons que

$$
(III.1) \quad \left\{
\begin{aligned}
v'(\rho) &= \int x \tilde{\psi}(\rho x) v_c(dx) - \alpha \int |x| v_c(dx) \\
v''(\rho) &= \int x^2 \tilde{\psi}'(\rho x) v_c(dx) \\
v^{(3)}(\rho) &= \int x^3 \tilde{\psi}''(\rho x) v_c(dx).
\end{aligned}
\right.
$$

Tout d'abord, la condition (4.6) nous permet d'affirmer que $v^{(3)}(\rho)$ est majoré pour $\rho$ borné par une constante indépendante de $T \in s^2$.

D'autre part, $v''(0) = \tilde{\psi}'(0) \int x^2 v_c(dx) = \tilde{\psi}'(0) \mathbb{E}(a^2)$ qui ne dépend pas de $T$ puisque $T \in s^2$; lorsque $\alpha = 0$, le fait que nécessairement $\tilde{\psi}'(0) < 0$ donne alors la minoration voulue.

Il nous réste à minorer $\mathbb{E}(|c|)$ lorsque $\alpha \neq 0$, c'est-à-dire sous l'hy-
pothèse H.4. Pour cela, nous utilisons la minoration élémentaire

$$
(III.2) \quad \int_{-\infty}^{+\infty} |x| g * h(x) \, dx \geq \int_{-\infty}^{+\infty} |x| g(x) \, dx
$$

si $g$ et $h$ sont deux densités de probabilité admettant un moment du premier
ordre, telles que $\int x h(x) \, dx = 0$. Ecrivons $c$ sous la forme
$c = t_{k_o} a_{k_o} + \tilde{c}$, où $|t_{k_o}| = \max |t_k| > \beta$, et $\tilde{c}$ est indépendant de $c$;
comme la loi de $\tilde{c}$ est symétrique, donc centrée, (III.2) donne, grâce au
fait que $|t_{k_o}| > \beta$

$$
\mathbb{E}(|c|) > \beta \quad \int_{-\infty}^{+\infty} |x| v(dx) \quad \text{pour } T \in s_{\beta} .
$$

Et ceci achève de montrer la condition (4.7).
Pour obtenir (4.8), commençons par remarquer que

$$ \lim_{\beta \to 1} v_c = v, \text{où } c = \langle T, A \rangle, \ T \in s_\beta $$

au sens de la convergence faible. Par conséquent, on a

$$ (III.3) \quad \lim_{\beta \to 1} \int (x \tilde{\psi}(x) - \alpha|x|) v_c(dx) = 0, \text{ pour } c = \langle T, A \rangle, \ T \in s_\beta $$

puisque $\alpha$ a été choisi de sorte que cette intégrale soit nulle pour $v_c = v$. Penchons-nous maintenant sur le croquis ci-dessous, représentant les graphes de $v'(\rho)$ pour $v_c$ et $v$ :

<figure><img src="image_27.png" /></figure>

Le cercle figurant sur le dessin est le cercle de rayon $\frac{1}{\sup_{||T|| \le 1}} E(c^3 \tilde{\psi}''(c)) > 0$ tangent aux courbes $v'(\rho)$ au point $(0, -\alpha)$;

tous les graphes **convexes** des fonctions $v'(\rho)$ sont au-dessous de ce cercle;
il s'ensuit que, pour $0 < \beta < 1$ fixé, on a :

$$ v''(\rho_c) \ge v''_{\min} > 0 \quad \text{pour tout } c = \langle T, A \rangle, \ T \in s_\beta. $$

Par conséquent, $v'(\rho)$ a une convexité uniformément bornée et une dé-rivée première en $\rho = \rho_c$ qui est uniformément minorée dans $s_\beta$. En conséquence (III.3) implique bien que $\rho_c \to 1$ uniformément pour $c = \langle T, A \rangle$, $T \in s_\beta$, lorsque $\beta \to 1$, et (4.8) est montré. ■
ANNEXE IV - DEMONSTRATION DU LEMME 4.2

Il est tout d'abord clair que l'hypothèse faite entraîne que
$(\tilde{\psi}^\mu)^{(3)} = \tilde{\psi}^{(3)} * \mu \ge \gamma > 0$. Soit maintenant $x > y > 0$, nous allons
minorer $y \ \psi^\mu(x) - x \psi^\mu(y)$; d'après la formule de Taylor à l'ordre 3,
on a :

$$
y \psi^{\mu}(x) - x \psi^{\mu}(y) \geq y \tilde{\psi}^{\mu}(x) - x \tilde{\psi}^{\mu}(y)
$$

$$
\begin{align*}
(\text{IV.1}) \qquad & = y \int_0^x \frac{(x-t)^2}{2} (\tilde{\psi}^\mu)^{(3)}(t) \, dt - x \int_0^y \frac{(y-t)^2}{2} (\tilde{\psi}^\mu)^{(3)}(t) \, dt \\
& = \frac{1}{2} \int_0^y [y(x-t)^2 - x(y-t)^2] \tilde{\psi}^\mu^{(3)}(t) \, dt + \frac{1}{2} \int_y^x y(x-t)^2 \tilde{\psi}^\mu^{(3)}(t) \, dt \\
& = \qquad \qquad \qquad \qquad \qquad \qquad \qquad \textcircled{1} + \qquad \qquad \qquad \qquad \textcircled{2}
\end{align*}
$$

On vérifie que, dans les intégrales $\textcircled{1}$ et $\textcircled{2}$, les intégrants sont $\ge 0$.
On obtiendra donc une minoration en remplaçant dans $\textcircled{1}$ et $\textcircled{2}$ $(\tilde{\psi}^\mu)^{(3)}$ par
la constante $\gamma$. Un calcul simple permet alors d'obtenir

$$
(\text{IV.2}) \quad \text{pour } x > y > 0, \quad y \psi^\mu(x) - x \psi^\mu(y) \ge \frac{\gamma}{6} x y(x^2 - y^2).
$$

En se reportant à la démonstration du lemme 3.2 (voir aussi l'annexe
III), il vient bien la conclusion désirée, en tenant compte de ce que
$$ \int |x^3 y| \mathbb{P}_\theta(dx, dY) \text{ est borné en } \theta \text{ dès que } v \text{ admet des moments d'ordre } 4 \blacksquare $$
# ANNEXE IV<sub>A</sub> - DEMONSTRATION DU LEMME 4.2<sub>A</sub>

Dans une première étape on cherche à obtenir, au voisinage de $x = y = 0$ :

$$ (IV.2) \quad \frac{\tilde{\psi}^{\mu}(x)}{x} - \frac{\tilde{\psi}^{\mu}(y)}{y} \geq C(x^2 - y^2) \text{ pour } x > y > 0 \text{ où } C > 0 \text{ ne dépend pas de } \mu. \text{ Pour cela, on va montrer :} $$

$$ (IV.3) \quad \frac{d}{dx} \left( \frac{\psi^{\mu}(x)}{x} \right) \geq C x $$

La formule de Taylor avec reste intégral donne :

$$ \frac{\psi^{\mu}(x)}{x} = (\psi^{\mu})'(0) + \frac{x}{2} (\psi^{\mu})''(0) + \int_{0}^{x} \frac{(x-t)^2}{2x} (\psi^{\mu})'''(t) dt $$
et nous obtenons

$$ (IV.4) \quad \frac{d}{dx} \frac{\psi^{\mu}(x)}{x} = \frac{1}{2} \int_{0}^{x} \left(1 - \frac{t^2}{x^2}\right) (\psi^{\mu})'''(t) dt + \frac{1}{2} (\psi^{\mu})''(0) \quad ((\psi^{\mu})''(0) \ge 0) $$
ou, au pas précédent :

$$ (IV.5) \quad \frac{d}{dx} \frac{\psi^{\mu}(x)}{x} = \int_{0}^{x} \frac{t}{x^2} (\psi^{\mu})''(t) dt $$

On note h la densité de $\mu$ : h est unimodale; en considérant la loi uniforme de même variance on obtient aisément (voir figure IV.1) :

$$ (IV.6) \quad h(x) \le 3 \frac{\|T\|^2 - R^2}{x^2} $$

$$ (IV.7) \quad h(0) \ge \frac{1}{2\sqrt{3}} \frac{1}{\sqrt{\|T\|^2 - R^2}} $$

<figure><img src="image_28.png" /></figure>
$$
\text{(IV.8)} \quad \left\{
\begin{array}{l}
\text{Nous pouvons également avoir :} \\[1ex]
\quad \text{pour } \frac{h(0) - h(x)}{x}, \text{ au voisinage de 0, une majoration indépendante de} \\
\quad \mu, \text{ pourvu que la variance de } \mu \text{ soit minorée.}
\end{array}
\right.
$$

Ceci est clair lorsque l'un des coefficients $t_k$, $k \neq i,j$ (donnant $\mu$)
est minoré. Si tous les $t_k$ sont petits on utilise un théorème central
limite du type Berry-Esseen (cf. par exemple FELLER [2]) et l'unimodalité
de $\mu$.

Nous pouvons également obtenir, en utilisant encore l'unimodalité de μ :

(IV.9) pour x suffisamment petit μ([-x, x]) ≥ 1/(12 ||T||) x

La démarche est la suivante : si $\mu([0,\alpha]) \le C$ x nous avons $h(\alpha) \le C$;
la variance de $\mu$ est supérieure à la variance d'une loi rectangulaire de
masse $1 - 2C\alpha$ et de densité $h(\alpha)$ à l'origine. Le calcul donne

$$
C^2 \geq \frac{1}{12} \frac{(1 - 2C\alpha)^2}{\|T\|^2} \text{ et on obtient (IV.9) par contradiction :}
$$

Considérons à nouveau (IV.3) :

- si la variance de est petite, on obtient (IV.3) grâce à (IV.5), la continuité à droite de $\psi''$ en 0 et (IV.9),

- si nous avons une borne inférieure pour la variance de μ, nous obte-
nons une borne inférieure pour

$$
\frac{d^2}{dx^2} \left( \frac{\psi^\mu(x)}{x} \right) = \frac{1}{3} \int_0^x \frac{t^2}{x^3} (\psi^\mu)'''(t) \, dt \quad \text{(donné par (IV.4)) avec la} \\
\text{minoration de } (\psi^\mu)''' = \psi'' * \mu' \text{ donnée par (IV.7) et (IV.8). } \text{(IV.6) donne} \\
\text{l'intervalle sur lequel } \psi'' \text{ doit être minorée).}
$$
* Deuxième étape : on reprend

$$ \frac{\partial}{\partial \theta_{ij}} v \Big|_{T=T_{\theta}} \geq 2 R \iint_{\substack{x \geq 0 \\ y \geq 0}} (y \tilde{\psi}^{\mu}(Rx) - x \tilde{\psi}^{\mu}(Ry)) \mathcal{P}_{\theta}(dx, dy) $$

l'intégrale est positive sur chaque quart de cercle et on peut donc minorer par l'intégrale sur $x^2 + y^2 \le \rho^2$ de sorte que $Rx$ et $Ry$ restent dans le domaine où nous avons (IV.3) (ce qui est possible si $R \le \|T\|$ reste majoré).

Nous avons alors :

$$ \frac{\partial v}{\partial \theta_{ij}} \Big|_{T=T_{\theta}} \geq 2 R^2 \int_0^{\rho} d\rho \int_0^{\frac{\pi}{2}} xy \left\{ \frac{\tilde{\psi}^{\mu}(Rx)}{Rx} - \frac{\tilde{\psi}^{\mu}(Ry)}{Ry} \right\} \mathcal{P}_{\theta}(dx, dy) $$

Comme pour le lemme 3.4 nous replions l'intégrale de 0 à $\frac{\pi}{2}$ en une intégrale de 0 à $\frac{\pi}{4}$ : on a $x > y$ et on minore $\frac{\tilde{\psi}^{\mu}(Rx)}{Rx} - \frac{\tilde{\psi}^{\mu}(Ry)}{Ry}$ par $C R^2(x^2 - y^2)$. On voit donc que, à la constance C près, la nouvelle fonction $F(\theta)$ est une portion de l'ancienne et en conserve les propriétés utiles. ■
ANNEXE V - DEMONSTRATION DE LA PROPOSITION 4.3

Pour le résultat demandé, on ne perd rien à supposer que les coefficients de T sont tous positifs ou nuls, en raison des symétries de v.
Rappelons que $\delta = \|\hat{T} - I_i\|^2$, où $t_i$ est le plus grand coefficient de T.
Montrons la formule suivante :

$$
\begin{gather*}
\text{(V.1)} \qquad - \delta' |_{T_t=T} = \frac{1}{\|T\|^3} \sum_{j \neq i} t_j \frac{\partial}{\partial \theta_{i,j}} \mathcal{V}(T), \\
\text{où } T = (t_j) \qquad \text{. En effet, en notant} \\
\qquad j \in \mathbb{Z}
\end{gather*}
$$

$$
(V.2) \qquad - V_T^c = \mathbb{E}(A \psi(c)) - \frac{T}{\|T\|^2} \mathbb{E}(c \psi(c))
$$

la composante sphérique du champ $(V_T)_{T \in \mathcal{L}^2}$, on a

$$
\begin{align*}
- \delta' |_{T_t=T} &= \frac{1}{\|T\|^3} \langle V_T^c, I_i \rangle \\
&= \frac{1}{\|T\|^3} (t_i \mathbb{E}(c \psi(c)) - \|T\|^2 \mathbb{E}(a_i \psi(c))) \\
&= \frac{1}{\|T\|^3} \sum_{j \neq i} t_j [t_i \mathbb{E}(a_j \psi(c)) - t_j \mathbb{E}(a_i \psi(c))] \\
&= \frac{1}{\|T\|^3} \sum_{j \neq i} t_j \frac{\partial}{\partial \theta_{ij}} \mathcal{V}(T)
\end{align*}
$$

en raison de la formule (3.15). Comme $t_i \ge \beta \|T\|$, il vient, grâce au
lemme 4.2

$$
(V.3) \quad \frac{\partial}{\partial \theta_{ij}} \mathcal{V}(T) \geq \frac{\gamma}{3} \beta^4 \|T\|^4 F(\theta_{ij}),
$$

où $t_i = R \cos \theta_{ij}$ et $t_j = R \sin \theta_{ij}$. Mais alors (V.1) et (V.3) donnent,
en notant $\hat{T} = (\hat{t}_j)_{j \in \mathbb{Z}} = T / \|T\|$ ,

$$
(V.4) \quad - \delta' |_{T_t=T} \geq \frac{\gamma}{3} \beta^4 \|T\|^2 \sum_{j \neq i} \hat{t}_j F(\theta_{ij}).
$$
Par ailleurs, en vertu des propriétés de la fonction F, il existe
$\eta > 0$ tel que, pour $0 \le \theta \le \frac{\pi}{4}$, on ait (cf. (4.12))

$$
(V.5) \quad \left|F(\theta)\right| < \eta \text{ exige} \quad \begin{cases} \text{ou bien } F(\theta) \ge \frac{F'(0)}{2} \frac{t_j}{t_i} & \text{(si } \theta \text{ est petit)} \\ \text{ou bien } F(\theta) \ge \frac{F'(0)}{2} \frac{t_i - t_j}{t_i} & \text{(si } \frac{\pi}{4} - \theta \text{ est petit)}, \end{cases}
$$
si $t_i = R \cos \theta$ et $t_j = R \sin \theta$. Prenons alors $\varepsilon = \frac{\gamma}{6} \beta^5 \alpha^2 \eta$; la
condition $\varepsilon > -\delta'$ exige alors que chacun des termes $\hat{t}_j F(\theta_{ij})$ est majoré
par $\frac{\beta \eta}{2}$. En conséquence, ou bien $\hat{t}_j$ n'est pas petit, et (V.5) exige que
$F(\theta_{ij})$ soit petit et minoré par $\frac{F'(0)}{2} \frac{\hat{t}_i - \hat{t}_j}{\hat{t}_i}$, donc que

$$
(V.6) \quad \hat{t}_j F(\theta_{ij}) \ge \frac{F'(0)}{2} \frac{\hat{t}_j}{\hat{t}_i} (\hat{t}_i - \hat{t}_j) \ge \frac{F'(0)}{2} (\hat{t}_i - \hat{t}_j)^2 .
$$

Ou bien $\hat{t}_j$ est petit, et l'autre équivalent joue, ce qui donne

$$
(V.7) \quad \hat{t}_j F(\theta_{ij}) \ge \frac{F'(0)}{2} \hat{t}_j^2 .
$$

Il reste alors à regrouper les indices j en deux parties : l'une, soit J,
est composée de j satisfaisant à (V.6) et comporte n < + ∞ éléments, et
l'autre est composée d'indices j satisfaisant à (V.7); cela donne, avec (V.4)

$$
(V.8) \quad -|\delta'|_{T_t=T} \ge \frac{\gamma F'(0)}{6} \beta^4 \alpha^2 \left( \sum_{j \in J} (\hat{t}_i - \hat{t}_j)^2 + \sum_{j \notin J} \hat{t}_j^2 \right) .
$$

Mais, pour $\delta'$ petit, on a nécessairement $\hat{t}_i$ proche de $\frac{1}{\sqrt{n}}$ et la parenthèse de (V.8) est alors proche de $d(\hat{T}, \mathcal{F})$. ■
ANNEXE VI - DEMONSTRATION DU LEMME 4.4

Notons $A^N = (a_n^N)$ la suite (non stationnaire) de variables définie par

$$
(VI.1) \quad a_n^N = \sum_{|k| \le N} x_k \hat{s}_{n-k},
$$

où $S^{-1} = (\hat{s}_k)$ (pour $N = +\infty$, on a simplement $A^N = A$). Montrons pour
commencer que l'opposé du champ de gradients (pour la métrique ordinaire !)
de la restriction de $\mathcal{V}$ à $\mathcal{C}^N$ est donné par

$$
(VI.2) \quad \mathcal{V}_T^N = - \mathbb{E}(A^N \psi(c)) , \text{ pour } T \in \mathcal{C}^N .
$$

En effet, l'opposé du champ de gradients (pour la métrique ordinaire)
de la restriction de $\mathcal{V}$ à $\mathcal{H}^N$ est égal à $\mathcal{V}_H^N = - \mathbb{E}(\mathcal{X}^N \psi(c))$, où $\mathcal{X}^N = (\mathcal{X}_n^N)_{n \in \mathbb{Z}}$
est simplement $\mathcal{X}$ tronquée : $\mathcal{X}_n^N = \mathcal{X}_n$ pour $n \le N$, $= 0$ pour $n > N$ ; remarquons
que $\mathcal{A}^N = \mathcal{S}^{-1} * \mathcal{X}^N$. Lorsque l'égaliseur H évolue suivant une ligne de plus
grande pente (pour la métrique ordinaire) de $\mathcal{V}$ sur $\mathcal{H}^N$, la ligne globale
$T = \mathcal{V} * H$ évolue alors suivant une courbe intégrale du champ $(w_T^N)$, où
$w_T^N = - \mathcal{V} * S * \mathbb{E}(\mathcal{A}^N \psi(c))$, dont on sait que c'est simplement une ligne de
plus grande pente pour la métrique associée à $\Lambda^{-1}$ de la restriction à $\mathcal{C}^N$
du potentiel $\mathcal{V}$. Comme $w_T^N = \Lambda w_T^N$, il vient bien que $(w_T^N)$ défini en (VI.2)
est l'opposé du champ de gradients pour la métrique ordinaire, de $\mathcal{V}$
restreint à $\mathcal{C}^N$.

Par ailleurs, on a :

$$
(VI.3) \quad - \delta^{\prime N} |_{T^N_t = T} = \frac{1}{\|T\|} \langle V_T^{c,N}, I_{i_o} \rangle \quad (T \in \mathcal{C}^N),
$$

où

$$
(VI.4) \quad - V_T^{c,N} = \mathbb{E}(A^N \psi(c)) - \frac{T}{\|T\|^2} \mathbb{E}(c \psi(c))
$$

est la composante sphérique du champ $(V_T^N)$ : nous utilisons ici le fait que
$\langle A^N, T \rangle = \langle S^{-1} * X^N, S * H \rangle = \langle X^N, H \rangle = c = \langle A, T \rangle$ dès que $T \in \mathcal{C}^N$. On a
alors, d'une part