Abeba Birhane
Abeba Birhane, née en Éthiopie, est une scientifique éthiopienne, spécialiste des sciences cognitives.
Elle travaille sur les systèmes complexes adaptatifs, sur l'apprentissage automatique, sur les biais algorithmiques et sur les risques de suprémacisme. Le travail d'Abeba Birhane avec Vinay Prabhu révèle que des ensembles de données d'images à grande échelle couramment utilisés pour développer des systèmes d'intelligence artificielle (IA), notamment ImageNet et 80 Million Tiny Images, portent des étiquettes de racisme systémique, de misogynie et des images offensantes ou dégradantes. [1] [2] [3]
Elle est reconnue par VentureBeat comme l'une des principales innovatrices en matière de vision par ordinateur [4] et nommée parmi les 100 personnes les plus influentes de l'IA 2023 par le magazine TIME . [5]
Jeunesse, formation
Abeba Birhane naît en Éthiopie . [6] Elle obtient son Bachelor of Science en psychologie et son Bachelor of Arts en philosophie de l'Open University . [7] Elle obtient ensuite en 2015 sa maîtrise ès sciences en sciences cognitives et en 2021, son doctorat au Complex Software Lab de la School of Computer Science de l'University College Dublin . [8] [9]
Recherches
Abeba Birhane étudie les impacts des technologies émergentes d’intelligence artificielle et la manière dont elles façonnent les individus et les communautés locales. Elle découvre que les algorithmes d’IA ont tendance à avoir un impact disproportionné sur les groupes vulnérables comme les travailleurs âgés, les personnes trans, les immigrants et les enfants. Les recherches qu'elle mène sur l’éthique relationnelle remportent le prix du meilleur article lors de l’atelier Black in AI du Neural Information Processing Systems (NeurIPS) en 2019. [10] Elle étudie également et écrit sur la colonisation algorithmique. [11] Son travail de décolonisation des sciences informatiques aborde les oppressions héritées des systèmes actuels, particulièrement à l'égard des femmes de couleur.
En 2020, Abeba Birhane et Vinay Prabhu, les deux principaux scientifiques en apprentissage automatique chez UnifyID, publient un article examinant les problèmes de la chaîne d'acquisition de données, d'étiquetage, de classification et les conséquences des grands ensembles de bases de données d'images. Ces ensembles de données, notamment ImageNet et 80 Million Tiny Images du Massachusetts Institute of Technology (MIT), sont utilisés pour développer des milliers d'algorithmes et de systèmes d'IA. Abeba Birhane et Vinay Prabhu constatent que ces ensembles contiennent de nombreuses légendes à caractère insultant, raciste, misogyne ou offensant. [12] Cela a conduit le MIT à s'excuser publiquement et à supprimer volontairement l’ensemble de données de 80 millions de petites images. [13] [14] [15]
Plus récemment, Abeba Birhane travaille avec Rediet Abebe, George Obaido et Sekou Remy sur des recherches sur les obstacles au partage de données en Afrique. Ils constatent que les déséquilibres de pouvoir sont importants dans le processus de partage des données, même lorsque ces données proviennent d’Afrique. Leurs recherches sont rendues publiques lors de la conférence ACM sur l'équité, la responsabilité et la transparence . [16]
Principaux prix
- Prix du meilleur article du NeurIPS Black in AI Workshop 2019 [17]
- 2020 Venture Beat AI Innovations Award dans la catégorie Computer Vision Innovation (reçu avec Vinay Prabhu) [4]
- Honorée au Temple de la renommée des 100 femmes brillantes dans l'éthique de l'IA 2021 [18]
- Prix du Directeur Lero 2022 pour la contribution doctorale/postdoctorale. [19]
- 2023 : Fait partie des 100 personnes les plus influentes dans le domaine de l'IA selon le magazine TIME [5] [20]
Notes et références
- (en-US) Song, « MIT Takes Down Popular AI Dataset Due to Racist, Misogynistic Content », Gizmodo, (consulté le )
- (en) « UCD student's research takes down an 80-million image artificial intelligence database », independent (consulté le )
- (en) « From data strikes to data poisoning, how consumers can take back control from corporations », Fortune (consulté le )
- (en-US) « Announcing the AI Innovation Awards winners at Transform 2020 », VentureBeat, (consulté le ) Erreur de référence : Balise
<ref>
incorrecte : le nom « :0 » est défini plusieurs fois avec des contenus différents. - (en) {{Article}} : paramètre «
titre
» manquant, paramètre «périodique
» manquant, Erreur de référence : Balise<ref>
incorrecte : le nom « :1 » est défini plusieurs fois avec des contenus différents. - (en) Claire O'Connell, « Getting to the heart of machine learning and complex humans », The Irish Times, {{Article}} : paramètre «
date
» manquant (lire en ligne) - « TCD student wins 2018 Mary Mulvihill Award – Mary Mulvihill Award », marymulvihillaward.ie (consulté le )
- (en) « Abeba Birhane | Lero », lero.ie (consulté le )
- « i'm a dr », sur Twitter, Paramètre
user
manquant ;Paramètrenumber
manquant - Gibney, « The battle for ethical AI at the world's biggest machine-learning conference », Nature, vol. 577, no 7792, , p. 609 (PMID 31992885, DOI 10.1038/d41586-020-00160-y, Bibcode 2020Natur.577..609G, S2CID 210938518)
- (en-US) « Building Wakanda », VentureBeat, (consulté le )
- (en) Gorey, « 80m images used to train AI pulled after researchers find string of racist terms », Silicon Republic, (consulté le )
- « 80 Million Tiny Images », groups.csail.mit.edu (consulté le )
- (en-US) « MIT takes down 80 Million Tiny Images data set due to racist and offensive content », VentureBeat, (consulté le )
- (en-US) Ustik, « MIT removes huge dataset that teaches AI systems to use racist, misogynistic slurs », Neural | The Next Web, (consulté le )
- (en-US) « AI researchers detail obstacles to data sharing in Africa », VentureBeat, (consulté le )
- (en-US) « AI experts urge machine learning researchers to tackle climate change », VentureBeat, (consulté le )
- (en-US) « Hall of Fame », 100 Brilliant Women in AI Ethics (consulté le )
- « Seven researchers from Irish universities take home Lero prizes », siliconrepublic.com,
- (en) {{Article}} : paramètre «
titre
» manquant, paramètre «périodique
» manquant, paramètre «date
» manquant