# Inégalité de Jensen

En mathématiques, et plus précisément en analyse, l’inégalité de Jensen est une relation utile et très générale concernant les fonctions convexes, due au mathématicien danois Johan Jensen et dont il donna la preuve en 1906. On peut l'écrire de deux manières : discrète ou intégrale. Elle apparaît notamment en analyse, en théorie de la mesure et en probabilités (théorème de Rao-Blackwell), mais également en physique statistique, en mécanique quantique et en théorie de l'information (sous le nom d'inégalité de Gibbs).
L'inégalité reste vraie pour les fonctions concaves, en inversant le sens. C'est notamment le cas pour la fonction logarithme, très utilisée en physique.

## Énoncé
### Forme discrète

Théorème — Inégalité de convexité
Soient $f$ une fonction convexe, $(x_{1},\ldots ,x_{n})$ un $n$-uplet de réels appartenant à l'intervalle de définition de $f$ et $(\lambda _{1},\ldots ,\lambda _{n})$ un $n$-uplet de réels positifs tels que
$\sum _{i=1}^{n}\lambda _{i}=1$
Alors,
$f\left(\sum _{i=1}^{n}\lambda _{i}x_{i}\right)\leq \sum _{i=1}^{n}\lambda _{i}f\left(x_{i}\right)$
De nombreux résultats élémentaires importants d'analyse s'en déduisent, comme l'inégalité arithmético-géométrique : si $(x_{1},\ldots ,x_{n})$ est un $n$-uplet de réels strictement positifs, alors :
${\frac {1}{n}}\sum _{i=1}^{n}x_{i}\geq {\sqrt[{n}]{\prod _{i=1}^{n}x_{i}}}$

### Forme intégrale
#### Cas particulier

Inégalité de Jensen — Soient $g$ une fonction continue de $[0,1]$ dans $]a,b[$ (avec $-\infty \leqslant a<b\leqslant +\infty$) et $\varphi$ une fonction convexe de $]a,b[$ dans $\mathbb {R}$. Alors,
$\varphi \left(\int _{0}^{1}g(x)~\mathrm {d} x\right)\leq \int _{0}^{1}\varphi (g(x))~\mathrm {d} x$
Cet énoncé a un sens car sous ces hypothèses, l'intégrale de $g$ appartient à $[a,b]$ et $\varphi \circ g$ est continue sur $[0,1]$ donc intégrable.

#### Théorie de la mesure

Inégalité de Jensen$^,$ — Soient
* $(\Omega ,A,\mu )$ un espace mesuré de masse totale $\mu (\Omega )$ égale à $1$,
* $g$ une fonction $\mu$-intégrable à valeurs dans un intervalle réel $I$ et
* $\varphi$ une fonction convexe de $I$ dans $\mathbb {R}$.
Alors,
$\varphi \left(\int _{\Omega }g~\mathrm {d} \mu \right)\leq \int _{\Omega }\varphi \circ g\,\mathrm {d} \mu ,$
l'intégrale de droite pouvant être égale à $+\infty$.
Cet énoncé a un sens car sous ces hypothèses, l'intégrale de g appartient à I.
Lorsque $\varphi$ est strictement convexe, les deux membres de cette inégalité sont égaux (si et) seulement si $g$ est constante $\mu$-presque partout.
De ce théorème on déduit, soit directement$^,$, soit via l'inégalité de Hölder, une relation importante entre les espaces L$^p$ associés à une mesure finie de masse totale $M\neq 0$ :
$0<p<q\leq +\infty \Rightarrow \mathrm {L} ^{p}\supset \mathrm {L} ^{q}{\text{ et }}\forall f\in \mathrm {L} ^{q},\|f\|_{p}\leq M^{{\frac {1}{p}}-{\frac {1}{q}}}\|f\|_{q}$
avec égalité si et seulement si $|f|$ est constante presque partout.

#### Probabilités, statistiques

L'énoncé ci-dessus se transcrit dans le langage de la théorie des probabilités et de la statistique :
Inégalité de Jensen — Soit $f$ une fonction convexe sur un intervalle réel $I$ et $X$ une variable aléatoire à valeurs dans $I$, dont l'espérance $\mathbb {E} (f(X))$ existe. Alors,
$f(\mathbb {E} (X))\leq \mathbb {E} [f(X)].$
On peut alors en déduire un résultat important de statistique : le théorème de Rao-Blackwell. En effet, si $L$ est une fonction convexe, alors d'après l'inégalité de Jensen,
    $L(\mathbb {E} \{\delta (X)\})\leq \mathbb {E} \{L(\delta (X))\}\quad \Rightarrow \quad \mathbb {E} \{L(\mathbb {E} \{\delta (X)\})\}\leq \mathbb {E} \{L(\delta (X))\}.$
Si $\delta (X)$ est un estimateur d'un paramètre non observé $\theta$ étant donné un vecteur $X$ des observables, et si $T(X)$ est une statistique suffisante pour $\theta$, alors un estimateur plus performant, dans le sens de la minimisation des pertes, est donné par :
    $\delta _{1}(X)=\mathbb {E} _{\theta }\{\delta (X')\,|\,T(X')=T(X)\},$
C'est-à-dire l'espérance de $\delta$ par rapport à $\theta$, prise sur tous les vecteurs $X$ compatibles avec la même valeur de $T(X)$.

## Démonstration

La démonstration historique de la forme discrète est une preuve (par un principe de récurrence alternatif) du cas où les coefficients sont égaux, complétée par un argument de densité de $\mathbb {Q}$ dans $\mathbb {R}$. La forme intégrale dans le cadre de la théorie de la mesure (dont toutes les autres formes sont des cas particuliers) peut se déduire de la forme discrète par des arguments de densité, mais la démonstration la plus courante est directe et repose sur l'existence, pour une fonction convexe, de suffisamment de minorantes affines$^,$$^,$.