Paradoxe de Simpson

Le paradoxe de Simpson ou effet de Yule-Simpson est un paradoxe statistique décrit par George Udny Yule en 1903 et Edward Simpson en 1951, dans lequel un phénomène observé dans plusieurs groupes s'inverse lorsque les groupes sont combinés. Ce résultat, qui semble impossible au premier abord, est lié à des éléments qui ne sont pas pris en compte, comme la présence de variables non indépendantes ou de différences d'effectifs entre les groupes ; il est souvent rencontré dans la réalité, en particulier dans les sciences sociales et les statistiques médicales.

Paradoxe de Simpson

Illustration du paradoxe de Simpson pour un échantillon de données : alors que des tendances positives apparaissent dans les échantillons rouge et bleu, l'union des deux échantillons présente une tendance inversée, négative (représentée par la droite pointillée noire).

Type	Paradoxe logique, paradoxe logique, biais cognitif
Inventeurs	Karl Pearson, George Udny Yule, Edward Simpson
Nommé en référence à	Edward Simpson

Formulation mathématique

Soient $f<g$ deux fonctions mesurables bornées sur un espace de probabilités et supposons que $\sup(f)>\inf(g)$. Alors on peut trouver deux mesures de probabilités $P,Q$ telles que $\mathbb {E} _{P}[f]>\mathbb {E} _{Q}[g]$ où $\mathbb {E} _{P}$ et $\mathbb {E} _{Q}$ désignent l'espérance selon la mesure de probabilités $P$, resp. $Q$. L'apparent paradoxe vient du fait que si on prenait l'espérance selon la même mesure de probabilités, par exemple $P$, on aurait l'inégalité intuitive $\mathbb {E} _{P}[f]<\mathbb {E} _{Q}[g]$.

Formulation en termes de probabilité conditionnelle

Considérons deux variables aléatoires, $X$ et $Y$, et une variable de conditionnement, $Z$. Le paradoxe de Simpson se produit lorsque la relation entre $X$ et $Y$ est différente dans les sous-groupes de $Z$ par rapport à l'ensemble des données combinées. Soit $\mathbb {P} (Y\vert X,Z)$ la probabilité conditionnelle de $Y$ sachant $X$ et $Z$. Le paradoxe apparaît lorsque, par exemple, pour un certain $x$ :

$\mathbb {P} (Y=1|X=x,Z=z)>\mathbb {P} (Y=1|X\neq x,Z=z)$

pour tous les $z$, mais :

$\mathbb {P} (Y=1|X=x)<\mathbb {P} (Y=1|X\neq x)$

Ceci peut être expliqué par le fait que :

$\mathbb {P} (Y=1|X=x)=\sum _{z}\mathbb {P} (Y=1|X=x,Z=z)\mathbb {P} (Z=z|X=x)$

$\mathbb {P} (Y=1|X\neq x)=\sum _{z}\mathbb {P} (Y=1|X\neq x,Z=z)\mathbb {P} (Z=z|X\neq x)$

Lorsque les probabilités $\mathbb {P} (Y=1\vert X=x,Z=z)$ varient beaucoup avec $z$, les pondérer avec $\mathbb {P} (Z=z\vert X=x)$ ou $\mathbb {P} (Z=z\vert X\neq x)$ peut inverser l'ordre des inégalités. Cette formulation met en évidence l'importance de la prise en compte des variables de confusion potentielles lors de l'analyse des données et sert de rappel que les corrélations observées ne doivent pas être interprétées comme des relations causales sans une analyse plus approfondie. C'est un exemple du paradoxe de Simpson. Oublier le conditionnement peut changer les conclusions d'une étude.

Exemples

Résultats scolaires et pratique sportive

Pour expliquer le paradoxe de Simpson, imaginons que l'on mesure la performance scolaire de différents élèves en fonction de la quantité de sport pratiqué. Supposons que l'on obtienne les résultats présentés dans le graphique en tête de cet article : l'axe horizontal x (abscisse) représente la quantité de sport pratiqué (par exemple en heures par semaine) et l'axe vertical y (ordonnée) représente la performance scolaire (par exemple, la moyenne des notes sur 10). Dans cet exemple imaginaire, on voit que parmi les élèves « bleus » ceux qui pratiquent davantage de sport sont meilleurs à l'école et il en est de même dans le groupe « rouge ». Pourtant, quand on combine les deux groupes on a une relation inversée qui semble indiquer que plus on pratique de sport (x élevé), moins on obtient de bonnes performances scolaires (baisse sur l'axe y) : l'observation des deux groupes combinés (droite noire en pointillés) semble contredire ce qu'on a observé dans chacun des groupes.

Cet exemple-jouet illustre l'existence de différences entre les groupes (bleu et rouge) dont on n'a pas tenu compte dans l'analyse. En les négligeant, on peut aboutir à des conclusions qui semblent contradictoires. C'est un exemple du paradoxe de Simpson^{[réf. nécessaire]}.

Contributeurs de Wikipédia

Illustration animée du paradoxe de Simpson.

Pour illustrer ce paradoxe de manière plus détaillée, considérons deux contributeurs de Wikipédia : Lisa et Bart. La première semaine, Lisa modifie 60 % des articles qu'elle consulte alors que Bart modifie 90 % des articles qu'il lit. La deuxième semaine, Lisa ne modifie que 10 % des articles lus et Bart 30 %. Les deux fois, Bart possède un taux de modifications supérieur à Lisa.

Pourtant, sur les deux semaines, Lisa a modifié un plus grand pourcentage d'articles que Bart : 55 % contre 35 % pour Bart (chiffres arrondis). Ce paradoxe apparent est dû au fait que dans les chiffres hebdomadaires on n'a pris en compte que le taux de modifications, alors que dans le bilan, on a utilisé en plus le nombre d'articles lus.

La première semaine, Lisa lit 100 articles et en modifie 60 (on retrouve bien 60 % de modifications). Pendant ce temps, Bart modifie 9 des 10 articles qu'il consulte (on retrouve les 90 % de la première semaine). La deuxième semaine, Lisa modifie 1 article sur les 10 lus (10 %) et Bart 30 sur 100 (30 %). Quand les chiffres des deux semaines sont combinés, on constate que les deux contributeurs ont lu autant d'articles (110) mais que Lisa en a modifié 61 contre seulement 39 pour Bart.

	Semaine 1	Semaine 2	Total
Lisa	60/100 = 60 %	1/10 = 10 %	61/110 = 55,45 %
Bart	9/10 = 90 %	30/100 = 30 %	39/110 = 35,45 %

Il apparaît que les chiffres de chaque semaine, pris séparément, soutiennent une hypothèse mais, une fois rassemblés, démontrent l'hypothèse inverse.

D'une manière plus formelle :

La première semaine :

• $S_{A}(1)=60\%~$ — Lisa modifie 60 % des articles qu'elle lit.
• $S_{B}(1)=90\%~$ — Bart modifie 90 % des articles étudiés.

Bart a modifié un plus grand taux d'articles.

La deuxième semaine :

• $S_{A}(2)=10\%~$ — Lisa modifie 10 % des articles lus.
• $S_{B}(2)=30\%~$ — Bart modifie 30 % des articles lus.

Bart a encore dépassé Lisa.

Dans les deux cas, Bart a un pourcentage de modifications supérieur à Lisa. Mais comme en deux semaines, les deux contributeurs ont lus 110 articles chacun, on établit que :

• $S_{A}={\begin{matrix}{\frac {61}{110}}\end{matrix}}$ — Lisa a modifié 61 articles.
• $S_{B}={\begin{matrix}{\frac {39}{110}}\end{matrix}}$ — Bart n'en a modifié que 39.
• $S_{A}>S_{B}~$ — Lisa a modifié plus d'articles que Bart (hypothèse opposée).

Le paradoxe apparent vient du fait que Bart a un taux de modifications supérieur chaque semaine, alors que sur les quinze jours, Lisa a modifié plus d'articles. Dans un cas, on prend en compte le taux de modifications, et dans l'autre, le nombre de modifications.

Les bases mathématiques du paradoxe sont sans équivoque. Si $S_{B}(1)>S_{A}(1)$ et $S_{B}(2)>S_{A}(2)$, on sent que $S_{B}$ doit être plus grand que $S_{A}$. Mais si des pondérations différentes sont utilisées pour obtenir le score final de chaque contributeur, alors cette tendance s'inverse.

Le premier score de Lisa est pondéré : ${\begin{matrix}{\frac {100}{110}}\end{matrix}}$; de même pour Bart : ${\begin{matrix}{\frac {10}{110}}\end{matrix}}$.

Mais ces poids sont inversés par la suite.

• $S_{A}={\begin{matrix}{\frac {100}{110}}\end{matrix}}S_{A}(1)+{\begin{matrix}{\frac {10}{110}}\end{matrix}}S_{A}(2)$
• $S_{B}={\begin{matrix}{\frac {10}{110}}\end{matrix}}S_{B}(1)+{\begin{matrix}{\frac {100}{110}}\end{matrix}}S_{B}(2)$

Finalement, la question est de savoir qui est le plus efficace. Lisa semble l'être plus que Bart, puisqu'elle a modifié plus d'articles. Cependant, si on suppose que Lisa n'a fait que des corrections de coquilles et Bart que des modifications complexes concernant la neutralité, on pourrait dire que les 39 modifications de Bart sont plus importantes que les 61 de Lisa. Bart serait alors plus efficace. Le résultat dépend donc de ce que l'on entend par « efficacité ».

Cet exemple démontre que le vocabulaire et le contexte sont importants pour qualifier la notion de succès, concept qui peut être trompeur si l'on s'en tient aux chiffres^{[réf. nécessaire]}.

Traitement des calculs rénaux

Un exemple réel provenant d'une étude médicale sur le succès de deux traitements contre les calculs rénaux permet de voir le paradoxe sous un autre angle.

Cette table montre le succès des traitements A et B pour soigner petits et gros calculs :

Succès en fonction de la taille des calculs

petits calculs		gros calculs
Traitement A	Traitement B	Traitement A	Traitement B
93 % (81/87)	87 % (234/270)	73 % (192/263)	69 % (55/80)

Dans les deux cas, le traitement A est plus efficace.

Toutefois, si l'on construit un résultat global en additionnant naïvement les traitements de petits et gros calculs, on trouve que B est plus efficace.

Taux de succès (succès/total)

Traitement A	Traitement B
78 % (273/350)	83 % (289/350)

Ce qui crée le paradoxe, et l'impression erronée que B est globalement plus efficace, c'est que le traitement A a été donné beaucoup plus souvent pour les gros calculs, qui sont plus difficiles à soigner. Le rebroussement de cette inégalité, qui conduit au paradoxe, se produit à cause de deux effets concurrents :

1. La variable supplémentaire (ici la taille des calculs) a un impact significatif sur les rapports, elle a une influence en même temps sur le choix du traitement (les calculs de taille élevée ont été plus souvent traités par le traitement A) et sur le résultat du traitement (les calculs de taille élevée sont plus difficiles à soigner). Cette variable est appelée facteur de confusion.
2. Les tailles des groupes qui sont combinés quand la variable supplémentaire est ignorée sont très différentes.

Efficacité des vaccins

Le paradoxe de Simpson peut aussi amener à des fausses conclusions sur l'efficacité d'un vaccin. Par exemple, les vaccins contre le Covid-19 sont plus efficaces contre les formes graves de la maladie, sans l'être à 100 %. En France, les vaccins ont été en priorité administrés à des personnes à risque (donc particulièrement susceptibles de développer une forme grave de la maladie), alors que les populations jeunes (peu susceptibles de développer une forme grave de la maladie) restent souvent en grande partie non-vaccinées. En conséquence, la grande proportion de vaccinés parmi les personnes hospitalisées et décédées peut donner l'impression que les vaccins n'ont pas ou très peu d'efficacité contre les formes graves de la maladie, même en tenant compte de la grande proportion de vaccinés parmi la population générale (autrement dit sans commettre l'erreur de l'oubli de la fréquence de base). Mais cette impression est biaisée car il faut tenir compte des caractéristiques démographiques de la population vaccinée, et dans cet exemple les personnes à risque sont surreprésentées. Dans ce cas, une analyse par tranches d'âge permet de constater l'efficacité réelle des vaccins.

On peut se convaincre de l'importance de l'effet Simpson avec un exemple poussé à l'extrême : une maladie affecte (ou tue) uniquement des personnes de plus de 60 ans et seules celles-ci sont vaccinées avec un vaccin imparfait. Dans ce cas, tous les décès enregistrés concernent des personnes ayant été vaccinées.

Interprétation géométrique

Illustration du paradoxe de Simpson géométrique

On peut fournir une interprétation géométrique, c'est-à-dire sans mentionner les probabilités, très visuelle du paradoxe de Simpson. Il est possible de considérer des vecteurs $u_{1}$, $u_{2}$, $v_{1}$ et $v_{2}$ du plan vérifiant :

• la pente de $u_{1}$ est strictement inférieure à celle de $v_{1}$ ;
• la pente de $u_{2}$ est strictement inférieure à celle de $v_{2}$ ;

mais la pente de $u_{1}+u_{2}$ est strictement supérieure à celle de $v_{1}+v_{2}$.

Voir aussi

Articles connexes

• Analyse multivariée
• Des résultats paradoxaux assez similaires :
  • Le phénomène de Rogers
  • les dés non transitifs
  • le paradoxe de Parrondo
• Effet de structure
• Erreur écologique
• Voyages au pays des maths

Bibliographie

• (en) E. H. Simpson, « The Interpretation of Interaction in Contingency Tables », Journal of the Royal Statistical Society, b, vol. 13,‎ 1951, p. 238-241 (lire en ligne)
• N. Gauvrit, Statistiques, Méfiez-vous !, Paris, Ellipses, 2007
• Jean-Paul Delahaye, Au pays des paradoxes, Belin [détail des éditions] (ISBN 978-2-84245090-8), « Le paradoxe de Simpson », p. 115-118
• (en) Bigelow, John, « Simpson’s Paradox », dans The Stanford Encyclopedia of Philosophy, 2 février 2004 (lire en ligne)

Liens externes

• Le paradoxe de Simpson, Denis van Waerebeke, Cédric Piktoroff (réalisation), dans Voyages au pays des maths sur Arte (2022, 10 minutes), consulté le 20 mai 2023