Loi uniforme continue

En théorie des probabilités et en statistiques, les lois uniformes continues forment une famille de lois de probabilité à densité. Une telle loi est caractérisée par la propriété suivante : tous les intervalles de même longueur inclus dans le support de la loi ont la même probabilité. Cela se traduit par le fait que la densité de probabilité d'une loi uniforme continue est constante sur son support.

Loi uniforme continue
de paramètres et
Image illustrative de l’article Loi uniforme continue
Densité de probabilité

Image illustrative de l’article Loi uniforme continue
Fonction de répartition

Paramètres
Support
Densité de probabilité
Fonction de répartition
Espérance
Médiane
Mode
Variance
Asymétrie
Kurtosis normalisé
Entropie
Fonction génératrice des moments
Fonction caractéristique

Elles constituent donc une généralisation de la notion d'équiprobabilité dans le cas continu pour des variables aléatoires à densité ; le cas discret étant couvert par les lois uniformes discrètes.

Une loi uniforme est paramétrée par la plus petite valeur et la plus grande valeur que la variable aléatoire correspondante peut prendre. La loi uniforme continue ainsi définie est souvent notée

Les densités associées aux lois uniformes continues sont des généralisations de la fonction rectangle en raison de leurs formes.

Caractérisation

modifier

Densité

modifier

La densité de probabilité de la loi est une fonction porte sur l'intervalle [a, b] :

Fonction de répartition

modifier

La fonction de répartition de la loi  est :

Fonctions génératrices

modifier

Fonction génératrice des moments

modifier

La fonction génératrice des moments de la loi  est :

Elle permet de calculer tous les moments non centrés, mk :

Ainsi, pour une variable aléatoire suivant la loi l'espérance est m1 = (a + b)/2, et la variance est m2 − m12 = (b − a)2/12.

Fonction génératrice des cumulants

modifier

Pour n ≥ 2, le n-ième cumulant de la loi uniforme continue sur l'intervalle [0, 1] est bn/n, où bn est le n-ième nombre de Bernoulli.

Propriétés

modifier

Statistiques d'ordre

modifier

Soit X1, ..., Xn un échantillon i.i.d. issu de la loi Soit X(k) la k-ième statistique d'ordre de l'échantillon. Alors la distribution de X(k) est une loi bêta de paramètres k et n − k + 1.

L'espérance est :

Ce fait est utile lorsqu'on construit une droite de Henry.

La variance est :

Aspect uniforme

modifier

La probabilité qu'une variable uniforme tombe dans un intervalle donné est indépendante de la position de cet intervalle, mais dépend seulement de sa longueur à condition que cet intervalle soit inclus dans le support de la loi. Ainsi, si X suit la loi et si est un sous-intervalle de [a, b], avec fixé, alors :

qui est indépendant de x. Ce fait motive la dénomination de cette loi.

Loi uniforme standard

modifier

Le cas particulier a = 0 et b = 1 donne naissance à la loi uniforme standard, notée Il faut noter le fait suivant : si u1 est distribué selon une loi uniforme standard, alors c'est aussi le cas pour u2 = 1 – u1.

Loi uniforme sur une partie borélienne

modifier

À toute partie A de borélienne, dont la mesure de Lebesgue λ(A) est finie et strictement positive, on associe une loi de probabilité, appelée loi uniforme sur A, de densité de probabilité ƒ définie, pour tout par :

χA est la fonction indicatrice (ou caractéristique), notée aussi 𝟙A, de l'ensemble A. La densité est donc nulle à l'extérieur de A, mais égale à la constante 1λ(A) sur A.

Cette page traite principalement du cas particulier où d = 1 et où A est un intervalle [a, b] de

Transport et invariance

modifier

Condition suffisante — La loi de la variable aléatoire Y = T(X), image par une transformation T d'une variable X uniforme sur une partie A de est encore la loi uniforme sur T(A) si T est, à un ensemble négligeable près, injective et différentiable, et si, presque partout sur A, la valeur absolue du jacobien de T est constante.

Exemples de transformations respectant l'uniformité :
  • Si T est affine et bijective, alors Y suit la loi uniforme sur T(A).
  • En particulier, si T est une isométrie de laissant A globalement invariant, alors Y a même loi que X.
  • Par exemple, une isométrie de laisse invariante la loi uniforme sur B(O, 1], la boule unité centrée en l'origine, à condition de laisser l'origine invariante (donc de laisser B(O, 1] globalement invariante).
  • Autre exemple d'isométrie : si U est uniforme sur [0, 1], alors 1 – U l'est aussi.
  • Notons la partie fractionnaire de Les fonctions et ne sont ni injectives ni différentiables sur tout [0, 1], mais satisfont les hypothèses énoncées plus haut, avec T([0, 1[) = [0, 1[. En conséquence, si alors et ont même loi que En sortant un peu du cadre de cette page, et en notant M(x) le point du cercle trigonométrique ayant pour affixe on peut voir M(U) comme un point tiré au hasard uniformément sur le cercle trigonométrique. Les points et respectivement sont alors obtenus par rotation d'angle a et par symétrie par rapport à la droite d'angle directeur πa respectivement, qui sont des isométries laissant le cercle unité globalement invariant. Donc ces points suivent aussi la loi uniforme sur le cercle unité. Cela traduit une propriété très particulière de la loi uniforme : elle est la mesure de Haar de

Conséquence — Si la suite est une suite de variables aléatoires indépendantes et uniformes sur [0, 1], et si alors la suite est une suite de variables aléatoires indépendantes et uniformes sur [0, 1].

Il peut sembler surprenant que les variables et par exemple, soient indépendantes, alors qu'elles dépendent toutes deux de manière cruciale des variables et C'est une conséquence particulière de la propriété d'invariance de la loi uniforme : par exemple, étant la mesure de Haar de elle est idempotente pour la convolution.

Distributions associées

modifier

Le théorème suivant[1] stipule que toutes les distributions sont liées à la loi uniforme :

Théorème de la réciproque — Pour une variable aléatoire de fonction de répartition on note sa réciproque généralisée, définie, pour tout par :

Si désigne une variable aléatoire réelle uniforme sur alors a pour fonction de répartition

Ainsi, pour obtenir des tirages (indépendants) selon la loi répartie par il suffit d'appliquer l'inverse de à des tirages (indépendants) uniformes sur

Voici quelques exemples d’application de ce théorème

  • suit la loi exponentielle de paramètre
  • Y = 1 – U1/n suit la loi bêta de paramètres 1 et n. Ceci implique que la loi uniforme standard est un cas particulier de la loi bêta, de paramètres 1 et 1.

On trouvera un tableau plus complet ici. Par ailleurs, l'art d'engendrer des variables aléatoires de lois arbitraires, par exemple à l'aide de variables uniformes, est développé dans Non-Uniform Random Variate Generation, de Luc Devroye, édité chez Springer, disponible sur le web[2].


Inférence statistique

modifier

Estimation de l'un des paramètres lorsque l'autre est connu

modifier

Cette section décrit l'estimation de la borne supérieure de la distribution au vu d'un échantillon de individus, la borne inférieure étant connue.

Estimation du maximum

modifier
Estimateur sans biais de variance minimale
modifier

Pour une loi uniforme sur avec inconnu, l'estimateur sans biais de valeur minimale (en) pour le maximum est donné par :

est le maximum de l'échantillon et la taille de l'échantillon, échantillonné sans remise (bien que cette précision n'a aucune incidence dans le cas uniforme).

On obtient cette valeur par un raisonnement similaire au cas discret. Ce problème peut être vu comme un cas simple d'estimation de l'espacement maximal (en). Il est connu sous le nom de Problème du char d'assaut allemand, par son application d'estimation maximale de la production des chars d'assaut allemands pendant la Seconde Guerre mondiale.

Estimateur par maximum de vraisemblance
modifier

L'estimateur par maximum de vraisemblance est :

est la valeur maximum dans l'échantillon, qui est aussi la statistique d'ordre maximale de l'échantillon.

Estimateur par la méthode des moments
modifier

L'estimateur par la méthode des moments est :

est la moyenne de l'échantillon.

Estimation du milieu

modifier

Le milieu de l'intervalle de la loi uniforme est à la fois la moyenne et la médiane de cette loi. Bien que la moyenne et la médiane de l'échantillon sont des estimateurs sans biais du milieu, ils ne sont pas aussi efficaces que le milieu de gamme de l'échantillon, i.e. la moyenne arithmétique du maximum et du minimum de l'échantillon, qui est l'estimateur sans biais de variance minimale du milieu (et aussi l'estimateur par maximum de vraisemblance).

Intervalle de confiance

modifier

Pour le maximum

modifier

On considère X1, X2, ..., Xn un échantillon de L est la valeur maximum dans la population. Alors X(n) = max( X1, X2, ..., Xn ) a la densité de Lebesgue-Borel[3]

est la fonction caractéristique (ou indicatrice) de

L'intervalle de confiance est mathématiquement incorrect, car ne peut être résolu pour sans information sur On peut cependant résoudre

pour pour tout inconnu mais valide ;

on peut alors choisir le plus petit possible vérifiant la condition ci-dessus. On note que la longueur de l'intervalle dépend de la variable aléatoire

Estimation simultanée des deux paramètres

modifier

Cette section décrit l'estimation des deux bornes de la distribution uniforme continue au vu d'un échantillon de individus.

Soient et les estimateurs respectifs des bornes inférieure et supérieure de la distribution mère, construits sur la base de l'échantillon contenant les modalités de la variable aléatoire issues de la distribution

La méthode du maximum de vraisemblance aboutit à la sélection des minimum et maximum empiriques :

Ce couple d'estimateurs est biaisé : la probabilité qu'un -échantillon capture le minimum ou le maximum permis par la distribution mère étant quasi-nulle, la moyenne d'un grand nombre d'observations sur de tels -échantillons ne converge pas vers les bornes de ladite distribution mère :

La démonstration est produite plus bas.

Loi de distribution régissant ces estimateurs biaisés

modifier

Les densités de probabilité sont notées en minuscules (par ex. ), les fonctions de répartition sont notées en majuscules (par ex. ).

Densité de probabilité associée au couple d'estimateurs biaisés
modifier

Lois marginales régissant les minimum et maximum empiriques
modifier

Concernant l'estimateur de la borne inférieure

Par une démonstration similaire, on obtient pour l'estimateur de la borne supérieure  :

Convergence de ces estimateurs

modifier

La définition de la convergence d'un estimateur est donnée dans le document référencé [4].

Concernant l'estimateur de la borne inférieure ( sur un n-échantillon) : car aucune valeur inférieure à a ne peut être observée. Donc :

Une démonstration similaire s'applique pour l'estimateur de la borne supérieure.

forme donc un couple d'estimateurs convergents.

Biais de ces estimateurs

modifier

Lorsque l'on multiplie les échantillons (de taille donnée), la moyenne des observations ne tend pas vers le couple de bornes de la distribution mère :

Ces deux estimateurs ne sont qu'asymptotiquement sans biais[4], i.e. lorsque la taille de l'échantillon tend vers l'infini.

Recherche d'estimateurs sans biais

modifier

Le couple d'estimateurs défini ci-dessous est sans biais[5] :

Le calcul de ces estimateurs (avec ou sans biais) ne nécessite pas la connaissance des paramètres de la distribution mère.

Les lois de distribution qui régissent le couple d'estimateurs sans biais sont plus complexes à déterminer. Le document [5] donne les lois suivantes :

Densité de probabilité associée au couple d'estimateurs sans biais
modifier
Lois marginales régissant chacun des deux estimateurs sans biais
modifier

Sachant que la variable admet comme support l'intervalle  :

Sachant que la variable admet comme support l'intervalle  :

Intervalle de pari

modifier

On considère ici :

  • une loi mère uniforme donnée et connue,
  • le couple d'estimateurs avec biais formé par le minimum et le maximum empiriques déterminés sur un -échantillon.

Les estimateurs considérés sont ceux avec biais car :

  • leurs lois de distribution sont simples à manipuler ;
  • le document référencé [5] montre que construire des intervalles de pari à partir des estimateurs sans biais n'aboutit pas in fine à des intervalles plus réduits pour un niveau de confiance donné, et en explique la raison.

On cherche à connaître comment se répartissent les n-échantillons possibles formés à partir de la distribution mère , en plaçant dans le plan  :

  • sur l'axe des abscisses, la borne inférieure de la distribution mère et les minima empiriques des échantillons ;
  • sur l'axe des ordonnées, la borne supérieure de la distribution mère et les maxima empiriques des échantillons.

On note :

Zone du plan où l'on peut trouver des des échantillons issus de U (a,b)
Zone du plan où l'on peut trouver des échantillons issus de U (a,b)

La distribution mère et la construction des estimateurs imposent la hiérarchie suivante : Les échantillons issus de cette loi mère sont tous situés à l'intérieur du triangle rectangle formé par la droite , la droite et la première bissectrice (cf. figure ci-contre).

Un bon échantillon (i.e. un échantillon représentatif de sa population mère) se caractérise par :

  • un minimum empirique proche de
  • et un maximum empirique proche de

Le risque de pari associé à un échantillon est défini par la probabilité de trouver un échantillon plus mauvais que lui, i.e. présentant :

  • un minimum empirique supérieur ou égal à
  • ou un maximum empirique inférieur ou égal à
Intervalle de pari sur le minimum empirique
modifier
Intervalle de pari sur le minimum empirique d'un échantillon issu de U (a,b)
Intervalle de pari sur le minimum empirique d'un échantillon issu de U (a,b)

L'expérimentateur choisit son risque de pari . Le risque de pari sur le minimum empirique est défini par l'équation suivante :

La surface de pari sur le minimum empirique au niveau de confiance rassemble les échantillons qui vérifient : et .

Intervalle de pari sur le maximum empirique
modifier
Intervalle de pari sur le maximum empirique d'un échantillon issu de U (a,b)
Intervalle de pari sur le maximum empirique d'un échantillon issu de U (a,b)

De façon similaire, le risque de pari sur le maximum empirique est défini par l'équation suivante :

La surface de pari sur le maximum empirique au niveau de confiance rassemble les échantillons qui vérifient : et .

Surface de pari sur les deux bornes
modifier

La surface de pari est celle qui capture la proportion des échantillons formés à partir d'une population mère donnée et connue.

Choix de la forme de la surface de pari, représenté dans les coordonnées réduites (φ;ψ)
Choix de la forme de la surface de pari, représenté dans les coordonnées réduites

Le problème dépend de la forme que l'on aura choisi de donner à cette surface, qui peut être un carré, un triangle, un quart de cercle, ... On choisit ici un triangle rectangle, de sommet et dont l'hypoténuse est parallèle à la première bissectrice (cf. figure ci-contre). La raison est que la densité de probabilité associée au couple est constante le long d'un lieu . Ceci permet de découper l'espace suivant une ligne iso-densité, minimisant ainsi la surface de pari pour capturer un effectif donné.

Les variables réduites classiques pour les distributions uniformes sont introduites afin de simplifier les calculs qui suivent :

Les relations de conversion du domaine réel en domaine réduit sont données par le tableau ci-dessous :

Échantillon {m ; M} à population {a ; b} donnée Représentation adimensionnée Population {a ; b} à échantillon {m ; M} donné

Exprimée dans le plan des coordonnées réduites, la surface pari au niveau de confiance est constituée par l'intérieur du triangle rectangle de sommets :

La marge réduite est reliée au risque de pari par l'équation suivante :

Marge réduite = f (effectif de l'échantillon, risque de pari)
Marge réduite = f (effectif de l'échantillon, risque de pari

L'équation liant la marge réduite au risque de pari peut être résolue par la méthode du point fixe : la suite définie ci-dessous converge rapidement vers la solution, même avec une initialisation forfaitaire :

Surface pari au niveau de confiance (1−α) tracée dans le plan des coordonnées de l'expérimentateur
Surface pari au niveau de confiance tracée dans le plan des coordonnées de l'expérimentateur

Le lieu des solutions est tracé ci-contre, en fonction de l'effectif de l'échantillon et du risque de pari .

Replacée dans le plan des coordonnées correspondant au problème réel de l'expérimentateur, la surface pari au niveau de confiance est constituée par l'intérieur du triangle rectangle de sommets :

Surface de confiance

modifier

Le point de vue est inversé par rapport à la section précédente :

  • le n-échantillon est connu, et le couple des minimum et maximum empiriques obtenus est  ;
  • on veut connaître quelles populations mères auraient pu générer cet échantillon, au niveau de confiance choisi par l'expérimentateur.
Surface de confiance au niveau de confiance {\displaystyle \left(1-\alpha \right)} tracée dans le plan des coordonnées de l'expérimentateur
Surface de confiance au niveau de confiance tracée dans le plan des coordonnées de l'expérimentateur

Il s'agit donc de recenser les populations mères qui contiennent l'échantillon en question dans leurs surfaces de pari respectives au niveau de confiance .

L'intégrale calculée lors de la démonstration qui établit la surface de pari en coordonnées réduites reste inchangée, quelles que soient les raisons qui font varier ces coordonnées réduites :

  • les variations du couple à population mère fixée,
  • ou bien les variations des bornes de la population mère à échantillon fixé

La surface de confiance est obtenue par déréduction de la surface établie en coordonnées pour le niveau de confiance , en cherchant à échantillon fixé. Cette surface de confiance est constituée par l'intérieur du triangle rectangle de sommets :

Applications

modifier

En statistiques, lorsqu'une valeur p (p-value) est utilisée dans une procédure de test statistique pour une hypothèse nulle simple, et que la distribution du test est continue, alors la valeur p est uniformément distribuée selon la loi uniforme sur [0, 1] si l'hypothèse nulle est vérifiée.

Obtenir des réalisations de la loi uniforme

modifier

La plupart des langages de programmation fournissent un générateur de pseudo-nombres aléatoires, dont la distribution est effectivement la loi uniforme standard.

Si u est U(0, 1), alors v = a + (ba)u suit la loi U(a, b).

Obtenir des réalisations d'une loi continue quelconque

modifier

D'après le théorème cité plus haut, la loi uniforme permet en théorie d'obtenir des tirages de toute loi continue à densité. Il suffit pour cela d'inverser la Fonction de répartition de cette loi, et de l'appliquer à des tirages de la loi uniforme standard. Malheureusement, dans bien des cas pratiques, on ne dispose pas d'une expression analytique pour la fonction de répartition; on peut alors utiliser une inversion numérique (coûteuse en calculs) ou des méthodes concurrentes, comme la Méthode de rejet.

Le plus important exemple d'échec de la méthode de la transformée inverse est la Loi normale. Toutefois, la Méthode de Box-Muller fournit une méthode pratique pour transformer un échantillon uniforme en un échantillon normal, et ce de manière exacte[6].

Des mathématiciens comme Luc Devroye ou Richard P. Stanley ont popularisé l'utilisation de la loi uniforme sur [0, 1] pour l'étude des permutations aléatoires (tailles des cycles, nombres eulériens, analyse d'algorithmes de tri comme le tri rapide, par exemple).

Construction d'une permutation aléatoire uniforme à l'aide d'un échantillon de loi uniforme

modifier

Soit une suite de variables aléatoires i.i.d. uniformes sur [0, 1], définies sur un espace probabilisé (par exemple, définies sur muni de sa tribu des boréliens et de sa mesure de Lebesgue, par ou, de manière équivalente, par ). Pour tout entier k compris entre 1 et n, posons

Ainsi, s'interprète comme le rang de dans l'échantillon, une fois celui-ci rangé dans l'ordre croissant.

Proposition —  L'application est une permutation aléatoire uniforme.

La proposition ci-dessus reste vérifiée si la distribution de probabilité commune aux variables possède une densité, quelle qu'elle soit, et non pas seulement pour la densité uniforme. On peut même se contenter de variables i.i.d. dont la loi est diffuse (sans atomes) modulo une modification mineure de la démonstration. Cependant la loi uniforme est particulièrement commode pour diverses applications.

Nombres de descentes d'une permutation aléatoire, et nombres eulériens

modifier

Soit le nombre de descentes d'une permutation tirée au hasard uniformément dans Bien sûr,

A(n,k) désigne le nombre de permutations de possédant exactement k descentes. A(n,k) est appelé nombre eulérien. Posons

On a alors[7]

Théorème (S. Tanny, 1973) — De manière équivalente,

ou bien

Il en découle immédiatement un théorème central limite pour via le théorème de Slutsky.

Notes et références

modifier
  1. Voir l'article détaillé ici.
  2. La version pdf (libre et autorisée) de (en) Luc Devroye, Non-Uniform Random Variate Generation, New York, Springer-Verlag, , 1re éd. (lire en ligne) est disponible, ainsi qu'un récit humoristique des démêlés de Luc Devroye avec son éditeur.
  3. (en) KN Nechval, NA Nechval NA, EK Vasermanis et VY Makeev, « Constructing shortest-length confidence intervals », Transport and Telecommunication, vol. 3, no 1,‎ , p. 95-103 (lire en ligne)
  4. a et b Jean-Jacques Ruch, « Statistiques : estimation », sur www.google.fr (consulté le )
  5. a b et c Christophe Boilley, « Estimation des bornes d'une loi uniforme », sur Classeur numérique de Christophe Boilley, (consulté le )
  6. Plus exactement, la méthode nécessite deux tirages indépendants U(0, 1) pour fournir deux tirages normaux indépendants.
  7. voir (en) S. Tanny, « A probabilistic interpretation of the Eulerian numbers », Duke Math. J., vol. 40,‎ , p. 717-722 ou bien (en) R.P. Stanley, « Eulerian partitions of a unit hypercube », Higher Combinatorics, Dordrecht, M. Aigner, ed., Reidel,‎ .

Articles connexes

modifier