Lemme de Neyman-Pearson

Type	Théorème
Inventeurs	Jerzy Neyman, Egon Sharpe Pearson
Nommé en référence à	Jerzy Neyman, Egon Sharpe Pearson
Formule	Λ(x)=L(x∣θ0)L(x∣θ1)≤η

Cet article est une ébauche concernant les mathématiques.

En statistique, selon le lemme de Neyman-Pearson, lorsque l'on veut effectuer un test d'hypothèse entre deux hypothèses H₀ : θ = θ₀ et H₁ : θ = θ₁, pour un échantillon $𝐱 = (X_{1}, \dots, X_{n})$ , alors le test du rapport de vraisemblance, qui rejette H₀ en faveur de H₁ lorsque $\frac{ℒ (𝐱, θ_{0})}{ℒ (𝐱, θ_{1})} \leq k_{α}$ , où $k_{α}$ est tel que

P (\frac{ℒ (𝐱, θ_{0})}{ℒ (𝐱, θ_{1})} \leq k_{α} | H_{0}) = α

, est le test le plus puissant de niveau

α

.

Ce lemme est nommé d'après Jerzy Neyman et Egon Sharpe Pearson dans un article publié en 1933^[1].

En pratique, la plupart du temps, le rapport de vraisemblance lui-même n'est pas explicitement utilisé dans le test. En effet, le test du rapport de vraisemblance ci-dessus est souvent équivalent à un test de la forme $T \leq t_{α}$ pour une statistique $T$ plus simple, et le test est effectué sous cette forme-ci.

Démonstration

Si ce bandeau n'est plus pertinent, retirez-le. Cliquez ici pour en savoir plus.

Cet article peut contenir un travail inédit ou des déclarations non vérifiées (mars 2019).

Théorème : La région de rejet $R_{0}$ optimale est définie par l'ensemble des points $𝐱 = (x_{1}, \dots, x_{n}) \in ℝ^{n}$ tels que

\frac{ℒ (𝐱, θ_{0})}{ℒ (𝐱, θ_{1})} \leq k_{α}

où la constante $k_{α}$ est telle que $P (𝐱 \in R_{0} | θ_{0}) = α$ . À noter qu'on a les relations suivantes :

P (𝐃_{n} \in R_{0} | θ_{0}) = α = \int_{R_{0}} ℒ (𝐱; θ_{0}) d 𝐱

P (𝐃_{n} \in R_{0} | θ_{1}) = 1 - β = \int_{R_{0}} ℒ (𝐱; θ_{1}) d 𝐱

où $D_{n} = (x'_{1}, \dots, x'_{n})$ est l'échantillon.

Démonstration :

Montrons tout d'abord que lorsque $f_{𝒳} (.; θ)$ est une densité bornée, il existe toujours une constante $k$ telle que

P (\frac{ℒ (𝐱, θ_{0})}{ℒ (𝐱, θ_{1})} > k | H_{0}) = α

.

En effet, lorsque

k = 0

, cette probabilité vaut 1. D'autre part, cette probabilité décroit monotonément et continument vers zéro, lorsque

k \to \infty

. Par conséquent, il doit exister une valeur finie de

k

, appelée

k_{α}

, qui satisfait l'égalité,

\forall α \in] 0; 1 [

.

Désignons alors par

R_{0}

, le sous-ensemble de

ℝ^{n}

suivant,

R_{0} ≜ {𝐱 \in ℝ^{n} | \frac{ℒ (𝐱, θ_{0})}{ℒ (𝐱, θ_{1})} \leq k_{α}}

,

et soit

R

une autre partie de

ℝ^{n}

, telle que

P (𝐱 \in R | θ_{0}) \leq α

.

Montrons que $P (𝐱 \in R_{0} | θ_{1}) > P (𝐱 \in R | θ_{1})$ :

$\begin{matrix} P (𝐱 \in R_{0} | θ_{1}) - P (𝐱 \in R | θ_{1}) & = \int_{R_{0}} ℒ (𝐱; θ_{1}) d 𝐱 - \int_{R} ℒ (𝐱; θ_{1}) d 𝐱 \\ = \int_{R_{0} ∖ R} ℒ (𝐱; θ_{1}) d 𝐱 - \int_{R ∖ R_{0}} ℒ (𝐱; θ_{1}) d 𝐱 \end{matrix}$

$Or ℒ (𝐱; θ_{1}) \geq k_{α} ℒ (𝐱; θ_{0}) sur R_{0} et ℒ (𝐱; θ_{1}) < k_{α} ℒ (𝐱; θ_{0}) en dehors$

$\begin{matrix} P (𝐱 \in R_{0} | θ_{1}) - P (𝐱 \in R | θ_{1}) & \geq k_{α} (\int_{R_{0} ∖ R} ℒ (𝐱; θ_{0}) d 𝐱 - \int_{R ∖ R_{0}} ℒ (𝐱; θ_{0}) d 𝐱) \\ \geq k_{α} (\int_{R_{0}} ℒ (𝐱; θ_{0}) d 𝐱 - \int_{R} ℒ (𝐱; θ_{0}) d 𝐱) \end{matrix}$

La première intégrale vaut $α$ par construction, la deuxième est majorée par $α$ , on obtient:

$P (𝐱 \in R_{0} | θ_{1}) - P (𝐱 \in R | θ_{1}) \geq 0$ ce qui conclut.

Notes et références

↑ (en) J. Neyman et E. S. Pearson, « IX. On the problem of the most efficient tests of statistical hypotheses », Phil. Trans. R. Soc. Lond. A, vol. 231, n^os 694-706,‎ 16 février 1933, p. 289–337 (ISSN 0264-3952, DOI 10.1098/rsta.1933.0009, lire en ligne)

Liens externes

cnx.org -- Neyman-Pearson criterion
« Eléments de Statistiques », sur ulg.ac.be (consulté le 27 février 2024)

Voir aussi

Portail des probabilités et de la statistique

[1] (en) J. Neyman et E. S. Pearson, « IX. On the problem of the most efficient tests of statistical hypotheses », Phil. Trans. R. Soc. Lond. A, vol. 231, n^os 694-706,‎ 16 février 1933, p. 289–337 (ISSN 0264-3952, DOI 10.1098/rsta.1933.0009, lire en ligne)

[1]