Convergence de variables aléatoires

Dans la théorie des probabilités, il existe différentes notions de convergence de variables aléatoires. 
La convergence (dans un des sens décrits ci-dessous) de suites de variables aléatoires est un concept important de la théorie des probabilités utilisé notamment en statistique et dans l'étude des processus stochastiques. 
Par exemple, la moyenne de  variables aléatoires indépendantes et identiquement distribuées converge presque sûrement vers l'espérance commune de ces variables aléatoires (si celle-ci existe).
Ce résultat est connu sous le nom de loi forte des grands nombres.

Dans cet article, on suppose que  est une suite de variables aléatoires réelles, que  est une variable aléatoire réelle, et que toutes ces variables sont définies sur un même espace probabilisé . D'éventuelles généralisations seront discutées.

Les différents modes de convergence 
Il existe plusieurs notions de convergence de variables aléatoires. Elles ont toutes en commun le fait qu'elles sont insensibles face à d'éventuelles modifications négligeables des variables aléatoires. Plus précisément, si  converge vers  (selon n'importe lequel des sens ci-dessous) et si  sont d'autres variables aléatoires telles que  pour tout  et , alors  converge aussi vers .

Convergence essentiellement uniforme (ou L∞) 
Rappelons qu'une variable aléatoire réelle  est dite essentiellement bornée s'il existe un nombre , appelé borne essentielle, tel que . Dans ce cas on définit  comme la borne inférieure de l'ensemble des bornes essentielles de .Remarques : 

 Le fait que  et  soient essentiellement bornées implique que  l'est aussi. Ainsi la quantité  est bien définie. Plus précisément l'ensemble des variables aléatoires réelles définies sur  essentiellement bornées est un espace vectoriel réel pour lequel la fonction  est une semi-norme. Attention ce n'est pas une norme, en général on quotiente par le sous-espace des variables aléatoires presque-sûrement nulles. Sur cet espace quotient,  induit une norme.  

 Par abus de langage on parle parfois de « convergence uniforme » au lieu de « convergence essentiellement uniforme ». Cependant il ne faut pas s'y tromper, la notion de convergence donnée ci-dessus est plus faible que la convergence uniforme au sens strict. En effet, il se pourrait que les variables  soient toutes essentiellement bornées mais non bornées au sens strict auquel cas la convergence uniforme au sens strict n'aurait pas de sens. La raison pour laquelle on considère la convergence essentiellement uniforme plutôt que la convergence uniforme au sens strict et celle donnée plus haut : on veut que la convergence soit insensible face aux modifications négligeables des variables aléatoires. Ce ne serait pas le cas si on prenait la convergence uniforme au sens strict. Donnons un exemple concret : prenons  muni de la tribu  et de la probabilité définie par  et . Prenons les variables définies par , ,  et  pour tout n. Il est clair que  ne converge pas uniformément vers  au sens strict puisque pour tout n,. En revanche  converge essentiellement uniformément vers  puisque pour tout n, .
Si  converge essentiellement uniformément vers  alors il existe un évènement  de probabilité 1 tel que, restreint à ,  converge uniformément vers  au sens strict. Plus précisément,  tend vers 0, où  est la variable aléatoire qui vaut 1 sur  et 0 ailleurs (elle est donc presque-sûrement égale à 1).
La convergence essentiellement uniforme se généralise à des variables aléatoires à valeurs dans un espace vectoriel normé muni de sa tribu borélienne. Il est même possible de généraliser cette notion de convergence à des fonctions mesurables sur un espace mesuré.

Convergence en moyenne d'ordre p (ou Lp) 
Rappelons qu'une variable aléatoire réelle  est dite avoir un moment d'ordre p > 0 fini si . Dans ce cas on définit . 

Remarques :

 Le fait que  et  aient un moment d'ordre p fini implique que  aussi (pour p ≥ 1 cela est une conséquence de l'inégalité de Minkowski). Ainsi la quantité  est bien définie. Plus précisément l'ensemble des variables aléatoires réelles définies sur  ayant un moment d'ordre p fini est un espace vectoriel réel pour lequel la fonction  est une semi-norme, quand p ≥ 1, et est une semi-quasi-norme, quand 0 < p < 1. Attention ce n'est pas une norme, en général on quotiente par le sous-espace des variables aléatoires presque-sûrement nulles. Sur cet espace quotient,  induit une norme quand p ≥ 1 et induit une quasi-norme quand 0 < p < 1. 
Pour p = 1, on parle simplement de convergence en moyenne et pour p = 2 de convergence en moyenne quadratique. 

 La convergence en moyenne d'ordre p se généralise à des variables aléatoires à valeurs dans un espace vectoriel normé muni de sa tribu borélienne. Il est même possible de généraliser cette notion de convergence à des fonctions mesurables sur un espace mesuré.

 Pour r =2, on a le résultat suivant :

Convergence presque sûre 
On rappelle qu'un ensemble négligeable de l'espace probabilisé  est un sous-ensemble  tel qu'il existe  vérifiant  et . Autrement dit, un ensemble négligeable est un sous-ensemble de  inclus dans un ensemble de probabilité nulle.

Remarques :

 L'ensemble  appartient bien à la tribu , donc sa probabilité est bien définie. En effet cela peut se voir en écrivant  et en utilisant les propriétés de stabilité d'une tribu.

 La convergence presque sûre est équivalente à la condition :

ainsi qu'à la condition :

où ces limites inférieure et supérieure de suites d'ensembles sont définies par

et
.

 La convergence presque sûre est utilisée dans la loi forte des grands nombres.
La convergence presque sûre se généralise à des variables aléatoires à valeurs dans un espace topologique muni de sa tribu borélienne. Il est même possible de généraliser cette notion de convergence à des fonctions mesurables sur un espace mesuré, on parle alors de convergence presque partout.

Convergence en probabilité 
Remarques :

 La convergence en probabilité se généralise à des variables aléatoires à valeurs dans un espace métrique muni de sa tribu borélienne. Dans ce cas il faut remplacer  par  dans la définition, où  désigne la distance. Il est même possible de généraliser cette notion de convergence à des fonctions mesurables sur un espace mesuré, on parle alors de convergence en mesure.

Convergence en loi 

Remarques :

 Le fait que  soit continue nous assure qu'elle est mesurable, donc par composition,  et  aussi. De plus, le fait que  soit bornée implique que  et  sont aussi bornées. Ainsi les quantités  et  sont bien définies.
 Dans le cas de variables aléatoires à valeurs entières, la convergence en loi est équivalente à :

 pour tout entier .

 Dans le cas de variables aléatoires à valeurs réelles, il existe un critère de convergence en loi important faisant appel aux fonctions de répartition. Plus précisément, soient  la suite des fonctions de répartition  associées aux variables aléatoires réelles  et  la fonction de répartition de la variable aléatoire réelle . Autrement dit,  est définie par , et  par . La suite () converge vers  en loi si et seulement si
 pour tout réel  où  est continue.
Puisque , cela signifie que la probabilité que  appartienne à un certain intervalle est très proche de la probabilité que  soit dans cet intervalle pour  suffisamment grand.

 Un autre résultat important donnant des critères équivalents de convergence en loi est le théorème porte-manteau.
 Le théorème de convergence de Lévy donne une équivalence entre la convergence en loi et la convergence, en tout point, des fonctions caractéristiques.
 La convergence en loi se généralise à des variables aléatoires à valeurs dans un espace topologique muni de sa tribu borélienne.

Exemples

Convergence en loi

Convergence d'une fonction d'une variable aléatoire 
Un théorème très pratique, désigné en anglais généralement sous le nom de , établit qu'une fonction  continue appliquée à une variable qui converge vers  convergera vers  pour tous les modes de convergence :

On sait alors par le  que l'estimateur  de l'écart type

Liens entre les différents modes de convergence

Convergences L∞ et Lp 

À noter que si  et  sont essentiellement bornées, alors elles admettent un moment d'ordre p fini. Il est donc légitime de parler de la convergence en norme .

La réciproque du résultat est fausse. Par exemple, prenons une suite de variables aléatoires  à valeurs dans  telles que  pour tout . Alors, pour tout ,  converge vers 0 en norme  car . Pourtant elle ne converge pas en norme  car .

Convergences Lp et Lq 

À noter que si  et  ont un moment d'ordre p fini, alors elles ont aussi un moment d'ordre q fini. Il est donc légitime de parler de la convergence en norme .

La réciproque du résultat est fausse. Par exemple, prenons une suite de variables aléatoires  à valeurs dans  telles que  et  pour tout . Alors  converge vers 0 en norme  car . Pourtant elle ne converge pas en norme  car .

Convergences Lp et en probabilité 

La réciproque du résultat est fausse. Par exemple, prenons  une variable aléatoire de loi uniforme sur  et posons . Alors  converge vers 0 en probabilité car  pour . Cette suite converge même presque sûrement vers 0. Pourtant elle ne converge pas en norme  car .

Le théorème de Lebesgue-Vitali et le lemme de Riesz-Scheffé donnent chacun une condition suffisante pour que la convergence en probabilité donne la convergence en moyenne d'ordre p. La condition du premier est l'uniforme intégrabilité et la condition du second est la convergence des moments d'ordre p.

Convergences L∞ et presque sûre 
La réciproque du résultat est fausse. Par exemple, prenons  une variable aléatoire de loi uniforme sur  et posons . Alors la suite  converge vers 0 presque sûrement mais elle ne converge pas vers 0 dans  car  pour tout .

Le théorème d'Egoroff donne une réciproque partielle : s'il y a convergence presque sûre, alors il y a convergence uniforme sur des évènements de probabilité aussi proche de 1 que l'on souhaite (sans jamais atteindre 1 exactement).À noter que dans le théorème d'Egoroff la convergence est uniforme ce qui est plus fort que la convergence essentiellement uniforme.

Convergence presque sûre et en probabilité 

La réciproque du résultat est fausse. Par exemple prenons  une variable aléatoire de loi uniforme sur . On crée les intervalles , , , , , , , , ... Plus explicitement, pour tout  on pose  et . On crée alors . On définit ensuite . Alors la suite  converge en probabilité vers 0. Elle converge même dans  pour tout  car . Pourtant cette suite ne converge pas presque sûrement vers 0 car presque sûrement il existe une infinité de  tels que .

Il est également possible de trouver des suites qui convergent en probabilité mais qui converge ni presque sûrement, ni dans  comme le montre l'exemple suivant.

Les trois propriétés suivantes donnent des réciproques partielles. La première dit que la convergence en probabilité implique la converge presque sûre d'une sous-suite. La deuxième est une conséquence du théorème de Borell-Cantelli et dit que si la convergence en probabilité a lieu assez rapidement alors la convergence presque sûre a lieu également. Enfin, la troisième dit que la convergence en probabilité est équivalente à la convergence presque sûre pour une somme de variables aléatoires indépendantes.

Convergence en probabilité et en loi

Convergence presque sûre et en loi 
La convergence presque sûre implique la convergence en loi, puisqu'elle implique la convergence en probabilité et cette dernière implique celle en loi. La réciproque est fausse. Le théorème de représentation de Skorokhod donne une réciproque partielle.

Notes et références

Bibliographie

Liens externes 
  : cours de l’école centrale de Paris de 1e année sur la convergence des variables aléatoires

Variable aléatoire