<figure><img src="image_1.png" /></figure>

HAL
open science

# L'analyse statistique bayésienne

Christian Robert

► To cite this version:

Christian Robert. L'analyse statistique bayésienne. Courrier des Statistiques, 2001, 100, pp.3-4.
hal-05441620

HAL Id: hal-05441620

https://insee.hal.science/hal-05441620v1

Submitted on 5 Jan 2026

HAL is a multi-disciplinary open access
archive for the deposit and dissemination of sci-
entific research documents, whether they are pub-
lished or not. The documents may come from
teaching and research institutions in France or
abroad, or from public or private research centers.

L'archive ouverte pluridisciplinaire HAL, est
destinée au dépôt et à la diffusion de documents
scientifiques de niveau recherche, publiés ou non,
émanant des établissements d'enseignement et de
recherche français ou étrangers, des laboratoires
publics ou privés.

<figure><img src="image_2.png" /></figure>

Distributed under a Creative Commons CC BY 4.0 - Attribution - International License
# L'analyse statistique bayésienne

Il subsiste, chez beaucoup, une représentation de la statistique bayésienne qui tient de l'image d'Épinal, à savoir celle d'une approche statistique fondée sur l'arbitraire d'une loi a priori, point de référence qui ne saurait être remis en cause, tout en déterminant l'inférence résultante...

Si telle est la vision présente dans la littérature du début du XXe siècle, où l'on peut trouver des articles « justifiant » l'emploi d'une certaine loi de probabilité contre tous les autres choix possibles, cette approche de la statistique bayésienne a totalement cédé la place à des perspectives beaucoup plus pragmatiques, tout d'abord dans les années 1950 avec la formalisation décisionnelle de Wald, puis dans les années 1990 avec l'apparition de méthodes de calcul spécialement adaptées qui permettent d'affiner le choix d'une loi a priori et d'en étudier les conséquences.

Par ailleurs, même si un certain sentiment « communautaire » contribue à lier les statisticiens se réclamant de la perspective bayésienne (ou « paradigme » bayésien), l'adoption de cette perspective par un nombre croissant de praticiens d'autres disciplines fait que son utilisation relève de moins en moins du dogme et de plus en plus de considérations pratiques de maniabilité et d'efficacité.

Durant ces dix dernières années, l'approche bayésienne a en effet considérablement accru sa visibilité. On peut, pour s'en convaincre, consulter les tables des matières (et les éditoriaux) des grands journaux de statistique comme *Annals of Statistics*, *Journal of the American Statistical Association* (voir par exemple la série de « vignettes » sur l'état de la statistique parues dans

les quatre numéros de l'an 2000), *Journal of the Royal Statistical Society* ou *Biometrika*, ainsi que le programme des conférences internationales de statistique, comme par exemple le congrès Bernoulli ou encore les congrès de l'IMS, de l'ISI et de l'ASA. Cette visibilité croissante est encore plus évidente lorsqu'on examine des disciplines utilisant la statistique sans pour autant s'y rattacher : que ce soit en finance, en médecine, en génomique, en traitement du signal ou en économie, il est courant de voir paraître des articles bayésiens et ils ne cherchent plus à justifier ce point de vue face à d'autres paradigmes.

## La perspective bayésienne

Rappelons en quelques paragraphes les principes de base de l'analyse bayésienne et ce qui la distingue de l'approche classique, parfois qualifiée de fréquentiste. Si l'on s'en tient à un modèle paramétré bien défini, de densité $f_\theta(x)$, où la variable aléatoire (et l'observation) $x$ évolue dans un espace probabilisé $X$ et où $\theta$ est le paramètre indiçant la densité, à valeurs dans l'espace $\Theta$, la démarche bayésienne consiste à probabiliser le paramètre inconnu en lui associant une loi de probabilité sur l'espace $\Theta$ dite loi a priori. Cette loi représente, pour le statisticien bayésien, l'ensemble des informations a priori disponibles sur le paramètre $\theta$ ainsi que les imprécisions qui s'y rattachent. Dans un contexte pratique, la loi a priori regroupe aussi l'ensemble des opinions d'experts qui, si elles ne sont que rarement probabilisées, sont souvent suffisamment différentes pour devoir être probabilisées ! Adrian Raftery, professeur à l'Université Washington de Seattle et membre de la Commission

baleinière internationale, rapporte ainsi la distribution a priori du nombre de baleines à bosse en pondérant les avis (divergents !) des pays pêcheurs et des pays défenseurs des baleines.

Le choix de cette loi a priori est bien entendu crucial pour la suite de l'analyse : deux lois a priori différentes conduisent à deux systèmes d'inférence différents, même si l'accumulation de données finit par gommer cette différence. Le paradoxe de l'approche bayésienne est qu'il n'existe pratiquement jamais une unique loi a priori, mais plutôt un ensemble de lois compatibles avec les informations a priori disponibles et les opinions des modélisateurs ! Tout au plus peut-on chercher à réduire l'influence de ce choix en retenant des lois à faible contenu informatif, comme les lois de maximum d'entropie, ou des lois dites non informatives, comme les lois de Bernardo-Berger, qui minimisent l'information apportée par la loi a priori face à l'information apportée par les données. Il me semble que cette imprécision fondamentale sur la loi a priori, souvent assimilée à la subjectivité de l'approche bayésienne, en est au contraire la force : reconnaisant que l'ensemble de nos connaissances sur $\theta$ est incomplet et impartsait, nous devrions aussi accepter que cette imperfection se transfère à l'inférence résultante après observation des données.

De plus, la multiplicité des choix possibles de lois a priori est tempérée par le fait que, pour tous ces choix, les procédures résultantes possèdent les propriétés d'optimalité exigées des procédures classiques (convergence, admissibilité, invariance...), à l'exception de la propriété de sans-biais. En fait, pour des
problèmes d'estimation suffisamment réguliers, il s'avère, réciproquement, que l'ensemble des procédures optimales se restreint à l'ensemble des procédures bayésiennes, suivant les théorèmes dits de *classes complètes*.

En sus de ces justifications relevant de la théorie de la décision (ou de la théorie des jeux), on trouve aussi dans des visions plus heuristiques du traitement des données comme les réseaux neuronaux une redécouverte de l'approche bayésienne comme *technique* (cohérente) de *l'apprentissage*. Il s'agit en fait d'une redécouverte/extension du *principe de Laplace* : si un événement s'est produit n fois sur n expériences, la probabilité qu'il se reproduise une n + *unième* fois lors de la n + *unième* expérience est égale à n + 1/n + 2.

Les croyances/connaissances sur le paramètre θ sont actualisées au travers du théorème de Bayes, c'est-à-dire via la loi a posteriori π (θ | x). À l'accumulation d'observations x₁, ..., xₙ correspond donc une suite d'actualisations π (θ | x₁), ..., π (θ | x₁, ..., xₙ), qui sont mutuellement compatibles au sens où l'ordre d'apparition (ou de collection) des xᵢ n'a pas d'importance sur la loi π (θ | x₁, ..., xₙ). Ce principe – fondamental – d'actualisation joue un grand rôle dans la modélisation efficace des problèmes de choix de modèles et de sélection de variables, comme l'ont montré les avancées considérables de la dernière décennie.

Une autre caractéristique essentielle de l'approche bayésienne est l'exploitation systématique des structures de dépendance conditionnelle des modèles analysés. Ces structures, souvent représentées par des graphes probabilistes, sont par exemple omniprésentes dans les analyses de causalité et les systèmes

experts. L'exploitation des relations d'indépendance conditionnelle permet alors un traitement *local* des modèles par conditionnement récurrent sur les variables voisines, donc autorise le traitement effectif de modèles à plusieurs centaines de variables. L'éclosion de la littérature sur les réseaux bayésiens relève de cette facilité de l'approche bayésienne dans un tel contexte.

## Évolutions récentes

Diverses raisons ont contribué à ce que l'approche bayésienne devienne plus visible en statistique appliquée, mais deux facteurs me semblent prédominants : le premier est l'émergence de moyens de calcul beaucoup plus puissants, comme les méthodes de Monte Carlo par chaînes de Markov (MCMC), qui ont libéré soudainement la puissance modélisatrice de l'approche bayésienne. Cette « libération » s'exprime par exemple dans la parution d'une multiplicité d'articles, au cours des années 1990, dont le seul but était de démontrer qu'un modèle complexe donné, comme par exemple un modèle graphique, pouvait être traité par l'inférence bayésienne (et souvent uniquement par celle-ci).

De manière encore plus fondamentale, le second facteur est un déplacement du débat (voire de laquelle) entre bayésiens et non-bayésiens, du champ philosophique au cadre pratique de l'implémentation. En effet, cette querelle philosophique sur la validité d'une approche subjective des probabilités et de la statistique, ou sur le simple fait de conditionner par rapport aux données, qui impliqua entre autres Venn, Fisher, de Finetti, Neyman, Jeffreys, Good et Lindley, ne pouvait avoir d'issue. Elle a par contre eu pour conséquence majeure de faire perdurer l'impression de chapelle, voire de

ghetto, de la communauté bayésienne.

Au cours des deux dernières décennies, l'aspect philosophique a été considérablement élagué en justifiant l'approche bayésienne par des motifs pragmatiques (incorporation des informations a priori et de l'incertitude sur ces informations, développement de lois a priori de référence, facilité de calcul, connexion naturelle avec les impératifs décisionnels comme les fonctions de coût, extension au cadre non paramétrique) doublés d'une validation théorique (convergence, efficacité, admissibilité). Cette évolution est clairement perceptible dans des livres de cours récents comme ceux de Carlin & Louis (1996), et de Gelman, Carlin, Stern & Rubin (1996 également), qui insistent sur l'aspect « analyse de données » bayésienne et évacuent dès les premières pages les considérations philosophiques. Elle l'est plus encore dans le choix de non-statisticiens d'adopter le paradigme bayésien pour le traitement de leurs données. On peut ainsi penser à l'analyse d'images, au traitement du signal et de la parole, mais également à l'économie, à l'épidémiologie, à la biologie, à la finance et à de nombreux autres champs. La morale de ce tableau d'ensemble est donc que l'approche bayésienne a fini par s'imposer comme méthode inférentielle pertinente, non pas à cause de son élégance intrinsèque ou de sa validité philosophique, mais parce qu'elle avait su convaincre les praticiens d'autres disciplines qu'elle leur permettait de résoudre plus facilement et plus naturellement leurs problèmes...

Christian P. ROBERT
Université de Paris-Dauphine
et Centre de recherche
en économie
et statistique de l'Insee