# Lemme de Neyman-Pearson

En statistique, selon le lemme de Neyman-Pearson, lorsque l'on veut effectuer un test d'hypothèse entre deux hypothèses H$_0$ : θ = θ$_0$ et H$_1$ : θ = θ$_1$, pour un échantillon $\mathbf {x} =(X_{1},\ldots ,X_{n})$, alors le test du rapport de vraisemblance, qui rejette H$_0$ en faveur de H$_1$ lorsque ${\frac {{\mathcal {L}}(\mathbf {x} ,\theta _{0})}{{\mathcal {L}}(\mathbf {x} ,\theta _{1})}}\leq k_{\alpha }$, où $k_{\alpha }$ est tel que
    $P\left({\frac {{\mathcal {L}}({\textbf {x}},\theta _{0})}{{\mathcal {L}}({\textbf {x}},\theta _{1})}}\leq k_{\alpha }{\bigg |}H_{0}\right)=\alpha$, est le test le plus puissant de niveau $\alpha$.
Ce lemme est nommé d'après Jerzy Neyman et Egon Sharpe Pearson dans un article publié en 1933.
En pratique, la plupart du temps, le rapport de vraisemblance lui-même n'est pas explicitement utilisé dans le test. En effet, le test du rapport de vraisemblance ci-dessus est souvent équivalent à un test de la forme $T\leq t_{\alpha }$ pour une statistique $T$ plus simple, et le test est effectué sous cette forme-ci.

## Démonstration

Théorème : La région de rejet $R_{0}$ optimale est définie par l'ensemble des points $\mathbf {x} =(x_{1},\ldots ,x_{n})\in \mathbb {R} ^{n}$ tels que
    ${\frac {{\mathcal {L}}({\textbf {x}},\theta _{0})}{{\mathcal {L}}({\textbf {x}},\theta _{1})}}\leq k_{\alpha }$
où la constante $k_{\alpha }$ est telle que $P(\mathbf {x} \in R_{0}|\theta _{0})=\alpha$. À noter qu'on a les relations suivantes :
    $P\left({\textbf {D}}_{n}\in R_{0}|\theta _{0}\right)=\alpha =\int _{R_{0}}\!{\mathcal {L}}(\mathbf {x} ;\theta _{0})\ d\mathbf {x}$
    $P\left({\textbf {D}}_{n}\in R_{0}|\theta _{1}\right)=1-\beta =\int _{R_{0}}\!{\mathcal {L}}(\mathbf {x} ;\theta _{1})\ d\mathbf {x}$
où $D_{n}=(x'_{1},\ldots ,x'_{n})$ est l'échantillon.
Démonstration :
Montrons tout d'abord que lorsque $f_{\mathcal {X}}(.;\theta )$ est une densité bornée, il existe toujours une constante $k$ telle que
    $P\left({\frac {{\mathcal {L}}({\textbf {x}},\theta _{0})}{{\mathcal {L}}({\textbf {x}},\theta _{1})}}>k{\bigg |}H_{0}\right)=\alpha$.
    En effet, lorsque $k=0$, cette probabilité vaut 1. D'autre part, cette probabilité décroit monotonément et continument vers zéro, lorsque $k\rightarrow \infty$. Par conséquent, il doit exister une valeur finie de $k$, appelée $k_{\alpha }$, qui satisfait l'égalité, $\forall \alpha \in ]0;1[$.
    Désignons alors par $R_{0}$, le sous-ensemble de $\mathbb {R} ^{n}$ suivant,
    $R_{0}\triangleq \lbrace \mathbf {x} \in \mathbb {R} ^{n}{\bigg |}{\frac {{\mathcal {L}}({\textbf {x}},\theta _{0})}{{\mathcal {L}}({\textbf {x}},\theta _{1})}}\leq k_{\alpha }\rbrace$,
    et soit $R$ une autre partie de $\mathbb {R} ^{n}$, telle que $P(\mathbf {x} \in R|\theta _{0})\leq \alpha$.
Montrons que $P(\mathbf {x} \in R_{0}|\theta _{1})>P(\mathbf {x} \in R|\theta _{1})$:
${\begin{aligned}P(\mathbf {x} \in R_{0}|\theta _{1})-P(\mathbf {x} \in R|\theta _{1})&=\int _{R_{0}}\!{\mathcal {L}}(\mathbf {x} ;\theta _{1})\ d\mathbf {x} -\int _{R}\!{\mathcal {L}}(\mathbf {x} ;\theta _{1})\ d\mathbf {x} \\&=\int _{R_{0}\backslash R}\!{\mathcal {L}}(\mathbf {x} ;\theta _{1})\ d\mathbf {x} -\int _{R\backslash R_{0}}\!{\mathcal {L}}(\mathbf {x} ;\theta _{1})\ d\mathbf {x} \end{aligned}}$
${\text{Or }}{\mathcal {L}}(\mathbf {x} ;\theta _{1})\geq k_{\alpha }{\mathcal {L}}(\mathbf {x} ;\theta _{0}){\text{ sur }}R_{0}{\text{ et }}{\mathcal {L}}(\mathbf {x} ;\theta _{1})<k_{\alpha }{\mathcal {L}}(\mathbf {x} ;\theta _{0}){\text{ en dehors}}$
${\begin{aligned}P(\mathbf {x} \in R_{0}|\theta _{1})-P(\mathbf {x} \in R|\theta _{1})&\geq k_{\alpha }(\int _{R_{0}\backslash R}\!{\mathcal {L}}(\mathbf {x} ;\theta _{0})\ d\mathbf {x} -\int _{R\backslash R_{0}}\!{\mathcal {L}}(\mathbf {x} ;\theta _{0})\ d\mathbf {x} )\\&\geq k_{\alpha }(\int _{R_{0}}\!{\mathcal {L}}(\mathbf {x} ;\theta _{0})\ d\mathbf {x} -\int _{R}\!{\mathcal {L}}(\mathbf {x} ;\theta _{0})\ d\mathbf {x} )\\\end{aligned}}$
La première intégrale vaut $\alpha$ par construction, la deuxième est majorée par $\alpha$, on obtient:
$P(\mathbf {x} \in R_{0}|\theta _{1})-P(\mathbf {x} \in R|\theta _{1})\geq 0$ ce qui conclut.