Loi uniforme continue
En théorie des probabilités et en statistiques, les lois uniformes continues forment une famille de lois de probabilité à densité. Une telle loi est caractérisée par la propriété suivante : tous les intervalles de même longueur inclus dans le support de la loi ont la même probabilité. Cela se traduit par le fait que la densité de probabilité d'une loi uniforme continue est constante sur son support.
Loi uniforme continue de paramètres et | |
Densité de probabilité | |
Fonction de répartition | |
Paramètres | |
---|---|
Support | |
Densité de probabilité | |
Fonction de répartition | |
Espérance | |
Médiane | |
Mode | |
Variance | |
Asymétrie | |
Kurtosis normalisé | |
Entropie | |
Fonction génératrice des moments | |
Fonction caractéristique | |
modifier |
Elles constituent donc une généralisation de la notion d'équiprobabilité dans le cas continu pour des variables aléatoires à densité ; le cas discret étant couvert par les lois uniformes discrètes.
Une loi uniforme est paramétrée par la plus petite valeur et la plus grande valeur que la variable aléatoire correspondante peut prendre. La loi uniforme continue ainsi définie est souvent notée
Les densités associées aux lois uniformes continues sont des généralisations de la fonction rectangle en raison de leurs formes.
Caractérisation
modifierDensité
modifierLa densité de probabilité de la loi est une fonction porte sur l'intervalle [a, b] :
Fonction de répartition
modifierLa fonction de répartition de la loi est :
Fonctions génératrices
modifierFonction génératrice des moments
modifierLa fonction génératrice des moments de la loi est :
Elle permet de calculer tous les moments non centrés, mk :
Ainsi, pour une variable aléatoire suivant la loi l'espérance est m1 = (a + b)/2, et la variance est m2 − m12 = (b − a)2/12.
Fonction génératrice des cumulants
modifierPour n ≥ 2, le n-ième cumulant de la loi uniforme continue sur l'intervalle [0, 1] est bn/n, où bn est le n-ième nombre de Bernoulli.
Propriétés
modifierStatistiques d'ordre
modifierSoit X1, ..., Xn un échantillon i.i.d. issu de la loi Soit X(k) la k-ième statistique d'ordre de l'échantillon. Alors la distribution de X(k) est une loi bêta de paramètres k et n − k + 1.
L'espérance est :
Ce fait est utile lorsqu'on construit une droite de Henry.
La variance est :
Aspect uniforme
modifierLa probabilité qu'une variable uniforme tombe dans un intervalle donné est indépendante de la position de cet intervalle, mais dépend seulement de sa longueur à condition que cet intervalle soit inclus dans le support de la loi. Ainsi, si X suit la loi et si est un sous-intervalle de [a, b], avec fixé, alors :
qui est indépendant de x. Ce fait motive la dénomination de cette loi.
Loi uniforme standard
modifierLe cas particulier a = 0 et b = 1 donne naissance à la loi uniforme standard, notée Il faut noter le fait suivant : si u1 est distribué selon une loi uniforme standard, alors c'est aussi le cas pour u2 = 1 – u1.
Loi uniforme sur une partie borélienne
modifierÀ toute partie A de borélienne, dont la mesure de Lebesgue λ(A) est finie et strictement positive, on associe une loi de probabilité, appelée loi uniforme sur A, de densité de probabilité ƒ définie, pour tout par :
où χA est la fonction indicatrice (ou caractéristique), notée aussi 𝟙A, de l'ensemble A. La densité est donc nulle à l'extérieur de A, mais égale à la constante 1⁄λ(A) sur A.
Cette page traite principalement du cas particulier où d = 1 et où A est un intervalle [a, b] de
Transport et invariance
modifierCondition suffisante — La loi de la variable aléatoire Y = T(X), image par une transformation T d'une variable X uniforme sur une partie A de est encore la loi uniforme sur T(A) si T est, à un ensemble négligeable près, injective et différentiable, et si, presque partout sur A, la valeur absolue du jacobien de T est constante.
- Si T est affine et bijective, alors Y suit la loi uniforme sur T(A).
- En particulier, si T est une isométrie de laissant A globalement invariant, alors Y a même loi que X.
- Par exemple, une isométrie de laisse invariante la loi uniforme sur B(O, 1], la boule unité centrée en l'origine, à condition de laisser l'origine invariante (donc de laisser B(O, 1] globalement invariante).
- Autre exemple d'isométrie : si U est uniforme sur [0, 1], alors 1 – U l'est aussi.
- Notons la partie fractionnaire de Les fonctions et ne sont ni injectives ni différentiables sur tout [0, 1], mais satisfont les hypothèses énoncées plus haut, avec T([0, 1[) = [0, 1[. En conséquence, si alors et ont même loi que En sortant un peu du cadre de cette page, et en notant M(x) le point du cercle trigonométrique ayant pour affixe on peut voir M(U) comme un point tiré au hasard uniformément sur le cercle trigonométrique. Les points et respectivement sont alors obtenus par rotation d'angle 2πa et par symétrie par rapport à la droite d'angle directeur πa respectivement, qui sont des isométries laissant le cercle unité globalement invariant. Donc ces points suivent aussi la loi uniforme sur le cercle unité. Cela traduit une propriété très particulière de la loi uniforme : elle est la mesure de Haar de
Conséquence — Si la suite est une suite de variables aléatoires indépendantes et uniformes sur [0, 1], et si alors la suite est une suite de variables aléatoires indépendantes et uniformes sur [0, 1].
Il peut sembler surprenant que les variables et par exemple, soient indépendantes, alors qu'elles dépendent toutes deux de manière cruciale des variables et C'est une conséquence particulière de la propriété d'invariance de la loi uniforme : par exemple, étant la mesure de Haar de elle est idempotente pour la convolution.
Distributions associées
modifierLe théorème suivant[1] stipule que toutes les distributions sont liées à la loi uniforme :
Théorème de la réciproque — Pour une variable aléatoire de fonction de répartition on note sa réciproque généralisée, définie, pour tout par :
Si désigne une variable aléatoire réelle uniforme sur alors a pour fonction de répartition
Ainsi, pour obtenir des tirages (indépendants) selon la loi répartie par il suffit d'appliquer l'inverse de à des tirages (indépendants) uniformes sur
Voici quelques exemples d’application de ce théorème
- suit la loi exponentielle de paramètre
- Y = 1 – U1/n suit la loi bêta de paramètres 1 et n. Ceci implique que la loi uniforme standard est un cas particulier de la loi bêta, de paramètres 1 et 1.
On trouvera un tableau plus complet ici. Par ailleurs, l'art d'engendrer des variables aléatoires de lois arbitraires, par exemple à l'aide de variables uniformes, est développé dans Non-Uniform Random Variate Generation, de Luc Devroye, édité chez Springer, disponible sur le web[2].
Inférence statistique
modifierEstimation de l'un des paramètres lorsque l'autre est connu
modifierCette section décrit l'estimation de la borne supérieure de la distribution au vu d'un échantillon de individus, la borne inférieure étant connue.
Estimation du maximum
modifierEstimateur sans biais de variance minimale
modifierPour une loi uniforme sur avec inconnu, l'estimateur sans biais de valeur minimale (en) pour le maximum est donné par :
où est le maximum de l'échantillon et la taille de l'échantillon, échantillonné sans remise (bien que cette précision n'a aucune incidence dans le cas uniforme).
On obtient cette valeur par un raisonnement similaire au cas discret. Ce problème peut être vu comme un cas simple d'estimation de l'espacement maximal (en). Il est connu sous le nom de Problème du char d'assaut allemand, par son application d'estimation maximale de la production des chars d'assaut allemands pendant la Seconde Guerre mondiale.
Estimateur par maximum de vraisemblance
modifierL'estimateur par maximum de vraisemblance est :
où est la valeur maximum dans l'échantillon, qui est aussi la statistique d'ordre maximale de l'échantillon.
Estimateur par la méthode des moments
modifierL'estimateur par la méthode des moments est :
où est la moyenne de l'échantillon.
Estimation du milieu
modifierLe milieu de l'intervalle de la loi uniforme est à la fois la moyenne et la médiane de cette loi. Bien que la moyenne et la médiane de l'échantillon sont des estimateurs sans biais du milieu, ils ne sont pas aussi efficaces que le milieu de gamme de l'échantillon, i.e. la moyenne arithmétique du maximum et du minimum de l'échantillon, qui est l'estimateur sans biais de variance minimale du milieu (et aussi l'estimateur par maximum de vraisemblance).
Intervalle de confiance
modifierPour le maximum
modifierOn considère X1, X2, ..., Xn un échantillon de où L est la valeur maximum dans la population. Alors X(n) = max( X1, X2, ..., Xn ) a la densité de Lebesgue-Borel[3]
où est la fonction caractéristique (ou indicatrice) de
L'intervalle de confiance est mathématiquement incorrect, car ne peut être résolu pour sans information sur On peut cependant résoudre
- pour pour tout inconnu mais valide ;
on peut alors choisir le plus petit possible vérifiant la condition ci-dessus. On note que la longueur de l'intervalle dépend de la variable aléatoire
Estimation simultanée des deux paramètres
modifierCette section décrit l'estimation des deux bornes de la distribution uniforme continue au vu d'un échantillon de individus.
Soient et les estimateurs respectifs des bornes inférieure et supérieure de la distribution mère, construits sur la base de l'échantillon contenant les modalités de la variable aléatoire issues de la distribution
La méthode du maximum de vraisemblance aboutit à la sélection des minimum et maximum empiriques :
Ce couple d'estimateurs est biaisé : la probabilité qu'un -échantillon capture le minimum ou le maximum permis par la distribution mère étant quasi-nulle, la moyenne d'un grand nombre d'observations sur de tels -échantillons ne converge pas vers les bornes de ladite distribution mère :
La démonstration est produite plus bas.
Loi de distribution régissant ces estimateurs biaisés
modifierLes densités de probabilité sont notées en minuscules (par ex. ), les fonctions de répartition sont notées en majuscules (par ex. ).
Densité de probabilité associée au couple d'estimateurs biaisés
modifier
Lois marginales régissant les minimum et maximum empiriques
modifierConcernant l'estimateur de la borne inférieure
Par une démonstration similaire, on obtient pour l'estimateur de la borne supérieure :
Convergence de ces estimateurs
modifierLa définition de la convergence d'un estimateur est donnée dans le document référencé [4].
Concernant l'estimateur de la borne inférieure ( sur un n-échantillon) : car aucune valeur inférieure à a ne peut être observée. Donc :
Une démonstration similaire s'applique pour l'estimateur de la borne supérieure.
forme donc un couple d'estimateurs convergents.
Biais de ces estimateurs
modifierLorsque l'on multiplie les échantillons (de taille donnée), la moyenne des observations ne tend pas vers le couple de bornes de la distribution mère :
Ces deux estimateurs ne sont qu'asymptotiquement sans biais[4], i.e. lorsque la taille de l'échantillon tend vers l'infini.
Recherche d'estimateurs sans biais
modifierLe couple d'estimateurs défini ci-dessous est sans biais[5] :
Le calcul de ces estimateurs (avec ou sans biais) ne nécessite pas la connaissance des paramètres de la distribution mère.
Les lois de distribution qui régissent le couple d'estimateurs sans biais sont plus complexes à déterminer. Le document [5] donne les lois suivantes :
Densité de probabilité associée au couple d'estimateurs sans biais
modifierLois marginales régissant chacun des deux estimateurs sans biais
modifierSachant que la variable admet comme support l'intervalle :
Sachant que la variable admet comme support l'intervalle :
Intervalle de pari
modifierOn considère ici :
- une loi mère uniforme donnée et connue,
- le couple d'estimateurs avec biais formé par le minimum et le maximum empiriques déterminés sur un -échantillon.
Les estimateurs considérés sont ceux avec biais car :
- leurs lois de distribution sont simples à manipuler ;
- le document référencé [5] montre que construire des intervalles de pari à partir des estimateurs sans biais n'aboutit pas in fine à des intervalles plus réduits pour un niveau de confiance donné, et en explique la raison.
On cherche à connaître comment se répartissent les n-échantillons possibles formés à partir de la distribution mère , en plaçant dans le plan :
- sur l'axe des abscisses, la borne inférieure de la distribution mère et les minima empiriques des échantillons ;
- sur l'axe des ordonnées, la borne supérieure de la distribution mère et les maxima empiriques des échantillons.
On note :
La distribution mère et la construction des estimateurs imposent la hiérarchie suivante : Les échantillons issus de cette loi mère sont tous situés à l'intérieur du triangle rectangle formé par la droite , la droite et la première bissectrice (cf. figure ci-contre).
Un bon échantillon (i.e. un échantillon représentatif de sa population mère) se caractérise par :
- un minimum empirique proche de
- et un maximum empirique proche de
Le risque de pari associé à un échantillon est défini par la probabilité de trouver un échantillon plus mauvais que lui, i.e. présentant :
- un minimum empirique supérieur ou égal à
- ou un maximum empirique inférieur ou égal à
Intervalle de pari sur le minimum empirique
modifierL'expérimentateur choisit son risque de pari . Le risque de pari sur le minimum empirique est défini par l'équation suivante :
La surface de pari sur le minimum empirique au niveau de confiance rassemble les échantillons qui vérifient : et .
Intervalle de pari sur le maximum empirique
modifierDe façon similaire, le risque de pari sur le maximum empirique est défini par l'équation suivante :
La surface de pari sur le maximum empirique au niveau de confiance rassemble les échantillons qui vérifient : et .
Surface de pari sur les deux bornes
modifierLa surface de pari est celle qui capture la proportion des échantillons formés à partir d'une population mère donnée et connue.
Le problème dépend de la forme que l'on aura choisi de donner à cette surface, qui peut être un carré, un triangle, un quart de cercle, ... On choisit ici un triangle rectangle, de sommet et dont l'hypoténuse est parallèle à la première bissectrice (cf. figure ci-contre). La raison est que la densité de probabilité associée au couple est constante le long d'un lieu . Ceci permet de découper l'espace suivant une ligne iso-densité, minimisant ainsi la surface de pari pour capturer un effectif donné.
Les variables réduites classiques pour les distributions uniformes sont introduites afin de simplifier les calculs qui suivent :
Les relations de conversion du domaine réel en domaine réduit sont données par le tableau ci-dessous :
Échantillon {m ; M} à population {a ; b} donnée | Représentation adimensionnée | Population {a ; b} à échantillon {m ; M} donné |
---|---|---|
Exprimée dans le plan des coordonnées réduites, la surface pari au niveau de confiance est constituée par l'intérieur du triangle rectangle de sommets :
La marge réduite est reliée au risque de pari par l'équation suivante :
L'équation liant la marge réduite au risque de pari peut être résolue par la méthode du point fixe : la suite définie ci-dessous converge rapidement vers la solution, même avec une initialisation forfaitaire :
Le lieu des solutions est tracé ci-contre, en fonction de l'effectif de l'échantillon et du risque de pari .
Replacée dans le plan des coordonnées correspondant au problème réel de l'expérimentateur, la surface pari au niveau de confiance est constituée par l'intérieur du triangle rectangle de sommets :
Surface de confiance
modifierLe point de vue est inversé par rapport à la section précédente :
- le n-échantillon est connu, et le couple des minimum et maximum empiriques obtenus est ;
- on veut connaître quelles populations mères auraient pu générer cet échantillon, au niveau de confiance choisi par l'expérimentateur.
Il s'agit donc de recenser les populations mères qui contiennent l'échantillon en question dans leurs surfaces de pari respectives au niveau de confiance .
L'intégrale calculée lors de la démonstration qui établit la surface de pari en coordonnées réduites reste inchangée, quelles que soient les raisons qui font varier ces coordonnées réduites :
- les variations du couple à population mère fixée,
- ou bien les variations des bornes de la population mère à échantillon fixé
La surface de confiance est obtenue par déréduction de la surface établie en coordonnées pour le niveau de confiance , en cherchant à échantillon fixé. Cette surface de confiance est constituée par l'intérieur du triangle rectangle de sommets :
Applications
modifierEn statistiques, lorsqu'une valeur p (p-value) est utilisée dans une procédure de test statistique pour une hypothèse nulle simple, et que la distribution du test est continue, alors la valeur p est uniformément distribuée selon la loi uniforme sur [0, 1] si l'hypothèse nulle est vérifiée.
Obtenir des réalisations de la loi uniforme
modifierLa plupart des langages de programmation fournissent un générateur de pseudo-nombres aléatoires, dont la distribution est effectivement la loi uniforme standard.
Si u est U(0, 1), alors v = a + (b − a)u suit la loi U(a, b).
Obtenir des réalisations d'une loi continue quelconque
modifierD'après le théorème cité plus haut, la loi uniforme permet en théorie d'obtenir des tirages de toute loi continue à densité. Il suffit pour cela d'inverser la Fonction de répartition de cette loi, et de l'appliquer à des tirages de la loi uniforme standard. Malheureusement, dans bien des cas pratiques, on ne dispose pas d'une expression analytique pour la fonction de répartition; on peut alors utiliser une inversion numérique (coûteuse en calculs) ou des méthodes concurrentes, comme la Méthode de rejet.
Le plus important exemple d'échec de la méthode de la transformée inverse est la Loi normale. Toutefois, la Méthode de Box-Muller fournit une méthode pratique pour transformer un échantillon uniforme en un échantillon normal, et ce de manière exacte[6].
Permutations aléatoires uniformes et loi uniforme
modifierDes mathématiciens comme Luc Devroye ou Richard P. Stanley ont popularisé l'utilisation de la loi uniforme sur [0, 1] pour l'étude des permutations aléatoires (tailles des cycles, nombres eulériens, analyse d'algorithmes de tri comme le tri rapide, par exemple).
Construction d'une permutation aléatoire uniforme à l'aide d'un échantillon de loi uniforme
modifierSoit une suite de variables aléatoires i.i.d. uniformes sur [0, 1], définies sur un espace probabilisé (par exemple, définies sur muni de sa tribu des boréliens et de sa mesure de Lebesgue, par ou, de manière équivalente, par ). Pour tout entier k compris entre 1 et n, posons
Ainsi, s'interprète comme le rang de dans l'échantillon, une fois celui-ci rangé dans l'ordre croissant.
Proposition — L'application est une permutation aléatoire uniforme.
La proposition ci-dessus reste vérifiée si la distribution de probabilité commune aux variables possède une densité, quelle qu'elle soit, et non pas seulement pour la densité uniforme. On peut même se contenter de variables i.i.d. dont la loi est diffuse (sans atomes) modulo une modification mineure de la démonstration. Cependant la loi uniforme est particulièrement commode pour diverses applications.
Nombres de descentes d'une permutation aléatoire, et nombres eulériens
modifierSoit le nombre de descentes d'une permutation tirée au hasard uniformément dans Bien sûr,
où A(n,k) désigne le nombre de permutations de possédant exactement k descentes. A(n,k) est appelé nombre eulérien. Posons
On a alors[7]
Théorème (S. Tanny, 1973) — De manière équivalente,
ou bien
Il en découle immédiatement un théorème central limite pour via le théorème de Slutsky.
Notes et références
modifier- Voir l'article détaillé ici.
- La version pdf (libre et autorisée) de (en) Luc Devroye, Non-Uniform Random Variate Generation, New York, Springer-Verlag, , 1re éd. (lire en ligne) est disponible, ainsi qu'un récit humoristique des démêlés de Luc Devroye avec son éditeur.
- (en) KN Nechval, NA Nechval NA, EK Vasermanis et VY Makeev, « Constructing shortest-length confidence intervals », Transport and Telecommunication, vol. 3, no 1, , p. 95-103 (lire en ligne)
- Jean-Jacques Ruch, « Statistiques : estimation », sur www.google.fr (consulté le )
- Christophe Boilley, « Estimation des bornes d'une loi uniforme », sur Classeur numérique de Christophe Boilley, (consulté le )
- Plus exactement, la méthode nécessite deux tirages indépendants U(0, 1) pour fournir deux tirages normaux indépendants.
- voir (en) S. Tanny, « A probabilistic interpretation of the Eulerian numbers », Duke Math. J., vol. 40, , p. 717-722 ou bien (en) R.P. Stanley, « Eulerian partitions of a unit hypercube », Higher Combinatorics, Dordrecht, M. Aigner, ed., Reidel, .