Variable antithétique

Les variables antithétiques sont une des techniques de réduction de la variance employées dans la méthode de Monte-Carlo. Il s'agit de tirer parti de certaines symétries d'une distribution et de la corrélation négative entre deux variables aléatoires.

Principe

On souhaite estimer $\theta =\mathbb {E} (h(X))$ , où $X$ est une variable aléatoire et $\mathbb {E}$ désigne son espérance mathématique. La méthode de Monte-Carlo de base consiste à simuler $n$ variables iid selon la loi de $X$ , disons $X 1, X 2, ... , X n$ , puis à estimer $θ$ par

{\hat {\theta }}={\frac {1}{n}}\sum _{i=1}^{n}h(X_{i})

.

On peut avoir une idée de l'erreur commise en construisant un intervalle de confiance ; ce dernier nécessite un estimateur de la variance de l'estimateur $\sigma _{\hat {\theta }}^{2}$ .

Supposons que l'on dispose de deux échantillons de taille $n$ ; le premier est noté $X 1, X 2, ... , X n$ et le second $X' 1, X' 2, ... , X' n$ . Pour simplifier les notations, on pose $m 1, m 2$ les estimateurs empiriques de l'espérance de $h (X)$ sur respectivement l'échantillon 1 et 2. Autrement dit, on aura

m_{1}={\frac {h(X_{1})+\cdots +h(X_{n})}{n}}

et

m_{2}={\frac {h(X'_{1})+\cdots +h(X'_{n})}{n}}

.

L'estimateur Monte-Carlo sur l'échantillon complet est simplement

{\hat {\theta }}={\frac {m_{1}+m_{2}}{2}}

et, du point de vue de la variance :

\sigma _{\hat {\theta }}^{2}={\frac {\sigma _{m_{1}}^{2}+\sigma _{m_{2}}^{2}+2\mathrm {Cov} (m_{1},m_{2})}{4}}

.

Dans le cas iid, la covariance s'annule et (seulement vrai quand n → ∞) $\sigma _{m_{1}}^{2}=\sigma _{m_{2}}^{2}$ , si bien que $\sigma _{\hat {\theta }}^{2}=\sigma _{m_{1}}^{2}/2$ : le facteur 2 s'explique car on a doublé la taille de l'échantillon.

La technique de la variable antithétique consiste à choisir l'échantillon 2 identiquement distribué selon la loi de $X$ mais en renonçant à l'indépendance, plus précisément en s'arrangeant pour que $\mathrm {Cov} (m_{1},m_{2})<0$ . Il faut donc exploiter les éléments de symétrie de la loi de $X$ afin de construire le second échantillon à partir du premier, en s'assurant de la négativité de la covariance. Ce faisant, la variance sera inférieure à la variance "normale" $\sigma _{m_{1}}^{2}/2$ .

Par exemple, si la loi de $X$ est la loi uniforme sur [0;1], le premier échantillon sera simplement $u 1, u 2, ... , u n$ , où pour tout i, $u i$ est tirée selon ${\mathcal {U}}(0;1)$ . On construit le second échantillon $u' 1, u' 2, ... , u' n$ , en posant pour tout i: $u' i = 1- u i$ . Si les $u i$ sont uniformes sur [0;1], alors il en va de même pour les $u' i$ . De plus, la covariance est négative, ce qui permet de réduire la variance initiale.

Un autre exemple concerne la loi normale ${\mathcal {N}}(\mu ,s)$ . En appliquant la transformation $x' i = 2 μ - x i$ , où $x_{i}\sim {\mathcal {N}}(\mu ,s)$ , on obtient un tirage selon ${\mathcal {N}}(\mu ,s)$ , qui est négativement corrélé avec le premier tirage $x i$

Exemple : estimation d'une intégrale

On souhaite estimer

I=\int _{0}^{1}{\frac {1}{1+x}}\,\mathrm {d} x

.

La valeur exacte est $I=\ln 2\approx 0,69314718055995$ . Cette intégrale peut se voir comme l'espérance de $f (U)$ , où

f(x)={\frac {1}{1+x}}

et $U$ distribuée selon une loi uniforme sur [0;1].

On compare l'estimateur Monte-Carlo classique (échantillon de taille $2 n$ , avec $n = 1500$ , tiré selon la loi uniforme standard) à l'estimateur avec variable antithétique (échantillon de taille n, complété par l'échantillon transformé $1- u i$ ). La variance se réduit comme suit

	Estimation	Variance
Méthode classique	0,69365	0,02005
Variable antithétique	0,69399	0,00063

On constate une très nette réduction de la variance dans le cas de l'utilisation d'une variable antithétique.

Notes et références

Bibliographie

M. Hammersley et K. W. Morton, A new Monte Carlo technique antithetic variates, Proc. Camb. Phil. Soc., 52, 449, 1956.

Liens externes

[PDF] un cours sur la réduction de la variance