Fonction de répartition empirique

En statistiques, une fonction de répartition empirique est une fonction de répartition qui attribue la probabilité 1/n à chacun des n nombres dans un échantillon.

100 visualisations d'une fonction de distribution empirique, générées à l'aide de JavaScript

Soit X1,...,Xn un échantillon de variables iid définies sur un espace de probabilité (Ω,𝒜,ℙ), à valeurs dans ℝ, avec pour fonction de répartition F. La fonction de répartition empirique Fn de l'échantillon X1,…,Xnest définie par :

∀x∈ℝ,∀ω∈Ω,Fn(x,ω)=nombre d′e´le´ments≤xdans l′e´chantillonn=1n∑i=1n𝟏Xi(ω)≤x

où 𝟏A est la fonction indicatrice de l'événement A.

Pour chaque ω, l'application x→Fn(x,ω) est une fonction en escalier, fonction de répartition de la loi de probabilité uniforme sur l'ensemble {X1(ω),…,Xn(ω)}.

Pour chaque x, la variable aléatoire 𝟏(Xi≤x) est une variable aléatoire de Bernoulli, de paramètre p=F(x). Par conséquent, la variable aléatoire ω→nFn(x,ω), qu'on notera nFn(x,.), est distribuée selon une loi binomiale, avec pour moyenne nF(x) et pour variance nF(x)(1 − F(x)). En particulier, Fn(x) est un estimateur non-biaisé de F(x).

Propriétés asymptotiques

modifier
pour tout x, Fn(x,.)→F(x) presque sûrement.
n(Fn(x,.)−F(x)) converge en loi vers une loi normale 𝒩(0,F(x)(1−F(x)) pour un x fixé.
Le théorème de Berry–Esseen procure le taux de convergence.
‖Fn−F‖∞=supx∈ℝ‖Fn(x,.)−F(x)‖ →n→∞ 0 presque sûrement.
L' inégalité de Dvoretzky-Kiefer-Wolfowitz procure le taux de convergence.
n‖Fn−F‖∞ converge en distribution vers la distribution de Kolmogorov, à condition que F soit continue.
Le test de Kolmogorov-Smirnov de goodness-of-fit est basé sur ce fait.
n(Fn−F), en tant que processus indexé par x, converge faiblement dans ℓ∞(ℝ) vers un pont brownien B(F(x)).

Bibliographie

modifier
  • (en) Galen R. Shorack et Jon A. Wellner, Empirical Processes With Applications to Statistics, Society for Industrial & Applied Mathematics, , 998 p. (ISBN 978-0-89871-684-9 et 0-89871-684-5, lire en ligne)
  • van der Vaart, A.W. and Wellner, J.A. (1996) "Weak Convergence and Empirical Processes", Springer. (ISBN 0-387-94640-3).