Usine à trolls
Une usine à trolls[1],[2],[3],[4] (en anglais « troll factory »), ou une ferme à trolls[5] (de l'anglais « troll farm »), est une organisation qui regroupe et coordonne des trolls sur internet, voire des hackers, payés pour diffuser de manière massive des informations partielles, partiales ou totalement mensongères sur les réseaux sociaux.
59° 59′ 03,7″ N, 30° 16′ 19,2″ E
Leur but est la déstabilisation géopolitique ou politique, le lobbying ou la propagande politique[1],[6]. Ces usines à trolls peuvent soit être issues d’initiatives privées, soit être constituées et coordonnées par un gouvernement, parti politique ou tout autre groupe de pression. Les méthodes utilisées incluent la rémunération de commentateurs sur les réseaux sociaux, le trolling agressif de journalistes, ou la création de bots informatiques et de médias diffusant des informations mensongères[7].
L'organisation de diffusion de propagande russe Internet Research Agency, ayant participé à des activités d'ingérence électorale dans la présidentielle américaine de [5],[8], est souvent qualifiée d'usine à trolls.
Terminologie
modifierEn anglais, l'usage de l'expression « troll farm » (ferme de troll) ou « troll army » (armée de trolls) s'est répandu à partir de l'enquête The Agency, publiée en par le New York Times, sur une usine à troll à Saint-Pétersbourg chargée de publier des messages pro-Vladimir Poutine, anti-Ukraine et anti-américains[9],[10]. Le terme gagne en popularité avec les enquêtes sur les ingérences russes dans la présidentielle américaine de , et en particulier l'enquête du magazine américain New Yorker, qui utilise à la fois le terme « troll farm » et de « Russian hacks » (militants ou hackers russes)[11]. L'ONG américaine Freedom House parle de « keyboard armies » (armée de claviers). Le site de l'agence de presse américaine Bloomberg parle de « state-sponsored trolling » (trolling d'État)[12].
En français, l'expression « usine à troll » apparait dès sur FranceInfo, à la suite de l'enquête du New York Times[9]. Certains journalistes préfèrent néanmoins utiliser les termes de « propagandiste », pour appuyer la différence avec le simple pourrissage non-rémunéré de forums sur internet par des trolls classiques, voire « d'armées de troll »[1].
D'autres traductions ou néologismes apparaissent dans d'autres langues, tels que les « web-brigades » (en russe : Веб-бригады), mot-valise calqué sur les Red brigades (Brigades rouges, en russe : Красные бригады).
Trolls non humains
modifierDepuis le milieu des années 2010 au moins, certains trolls ne sont plus des humains, mais des bots, parfois dénommés « Bad Bots ».
Générés et gérés par une plate-forme dite d'intelligence artificielle, ils sont capables de délivrer des messages ciblés, construits en fonction de la personnalité de l'internaute visé[13].
Les algorithmes qui les construisent se basent sur la science de l'influence psychologique. Mis au service de la publicité et de la propagande politique[14], ils ont déjà pu contribuer à fausser des processus électoraux ou de référendums[15],[16],[13].
Ce type de trollisme virtuel, qui peut être associé aux fermes de trolls classiques, a été révélé par le scandale Facebook-Cambridge Analytica / AggregateIQ et la découverte de Ripon, une plateforme logicielle créée par AggregateIQ pour le Groupe SCL, afin de truquer les processus électoraux ou référendaires, en influençant artificiellement les émotions et le choix de vote des votants (sans leur consentement, et sans qu'ils aient conscience d'être manipulés)[15],[13].
Silvia Lombardo craint que ces bots générateurs de faits alternatifs, appuyés par des « deepfakes » (« hypertrucages »), construits pour manipuler les personnes et la vérité peuvent conduire, voire ont déjà conduit depuis le milieu des années 2010 au développement de politiques populistes[17], et à l'évolution de nos sociétés vers un avenir plus dystopique[18].
Dans le monde
modifierPlusieurs pays dans le monde ont hébergé ou ont été la cible d'actions menées par des usines à trolls. Selon l'ONG américaine Freedom House, au moins 30 gouvernements dans le monde avaient en créé ou eu recours à des usines à trolls dans le but de discréditer le modèle démocratique[7], dont 18 pour influencer directement des élections[14].
- Aux États-Unis : les campagnes électorales de Ted Cruz, Ben Carson et surtout de Donald Trump, soutenu par Steve Bannon qui considère qu'une campagne électorale doit être menée comme une guerre[15] et Robert Mercer[19] semblent avoir utilisé des fermes de trolls et ont utilisé le trollisme virtuel (via le logiciel Ripon) pour promouvoir les idéologies du libertarianisme de droite et du populisme politique. Pendant la présidentielle américaine de et la pandémie de Covid-19, Turning Point USA et sa filiale Turning Point Action ont été décrites comme des fermes à trolls pour avoir payé de jeunes conservateurs de Phoenix, en Arizona, dont certains étaient mineurs et étaient encouragés par leurs parents, pour poster des informations mensongères sur l'intégrité du processus électoral et sur la menace du Covid-19. Le paiement comprenait des primes pour les posts qui avaient le plus d'impact. Ils utilisaient leurs propres comptes de médias sociaux ou de faux comptes, sans révéler leur relation avec Turning Point, et Turning Point leur demandait de modifier légèrement les messages proposés et de les rediffuser sous chaque forme un nombre limité de fois pour empêcher la détection automatique[20].
- Au Brésil, l'ancien président d'extrême droite Jair Bolsonaro s'est servi d'armées de trolls pour propager de la désinformation et tenter de discréditer ses adversaires[21].
- En Iran les fermes à trolls sont aussi un outil de répression nationale[22]
- Au Royaume-Uni : la campagne du référendum sur l'appartenance du Royaume-Uni à l'Union européenne a utilisé ces méthodes pour faire advenir le Brexit, qui selon Dominic Cummings n'aurait pas pu être voté sans AggregateIQ[16], c'est-à-dire sans son logiciel Ripon, expliquent en (près de deux ans après le vote du Brexit) Christopher Wylie et l'agence de cybersécurité UpGuard[13].
- En Russie[5],[8], en Turquie[23], aux Philippines[12], en Macédoine du Nord[24], en Albanie[25] des usines à troll ont été installées à des fins de propagande politique.
- En Macédoine du Nord et dans les Philippines, elles auraient aussi participé à diffuser en des informations mensongères sur la pandémie de Covid-19[26].
- En France, en , le site Mediapart dénonce les pratiques de Digital Big Brother, une société de gestion de la communication numérique basée en Espagne, qui aurait mis en place une pratique de trollage de grande ampleur visant à contrôler, pour le compte du Paris Saint-Germain, les informations circulant sur twitter se rapportant au club, à ses joueurs et aux médias que ce club considère être ses détracteurs[27].
Guerre en Ukraine
modifier- Dans le contexte de l'invasion de l'Ukraine par la Russie depuis , les fermes à trolls russes[28] des oligarques (Prigojine entre autres) sont particulièrement actives et participent à la propagande, désinformation et désorganisation du monde occidental dues à la guerre en Ukraine[29].
- En , des vidéos d'Adolf Hitler générées par intelligence artificielle sur les réseaux sociaux sont vues plus de 50 millions de fois[30] venant également du réseau social TikTok[31]. Ces vidéos ciblent le « Juif » bouc émissaire, et visent à générer l'antisémitisme en usant de procédés du passé couplés avec les moyens des nouveaux médias. Les services de sûreté intérieure des pays soutenant l'invasion russe de l'Ukraine, et en premier lieu Vladimir Poutine, n'hésitant pas à assimiler Volodymyr Zelensky (lui-même juif) à un nazi, et son peuple de même[32], selon un discours que Léon Poliakov a démonté dans ses ouvrages, et dont il a exposé l'entière fausseté[33].
Dans la culture populaire
modifierNotes et références
modifier- 1 2 3 Claire Richard, « Propagande : la redoutable usine à trolls du Kremlin », L'Obs, (consulté le ).
- ↑ Gilbert Kallenborn, « Facebook démantèle trois opérations d'intox d'origine russe », sur 01net, (consulté le ).
- ↑ Brice Couturier, « États-Unis : quand la Chine et l'Iran s'invitent dans la campagne », Le Tour du monde des idées, sur radiofrance.fr, France Culture, (consulté le ).
- ↑ « «Bienvenue dans le monde des dark PR», Jérôme Lascombe (Wiztopic) », Stratégies, (consulté le ).
- 1 2 3 Derek Perrotte, « Visite guidée d'une « ferme à trolls » russe », Les Échos, (consulté le ).
- ↑ (en-GB) Shaun Walker, « Russian troll factory paid US activists to help fund protests during election », The Guardian, (consulté le ).
- 1 2 (en) Sanja Kelly, Mai Truong, Adrian Shahbaz, Madeline Earp et Jessica White, « Freedom on the Net 2017 : Manipulating Social Media to Undermine Democracy », sur freedomhouse.org, Freedom House, (consulté le ).
- 1 2 Sébastian Seibt, « Présidentielle américaine : le retour des trolls russes », France 24, (consulté le ).
- 1 2 Celia Mascré, « L'usine à trolls du Kremlin condamnée par la justice russe », sur franceinfo.fr, (consulté le ).
- ↑ (en-US) Adrian Chen, « The Agency », The New York Times, (consulté le ).
- ↑ (en-US) Adrian Chen, « The Real Paranoia-Inducing Purpose of Russian Hacks »
, The New Yorker, (consulté le ). - 1 2 (en) Michael Riley, Lauren Etter et Bibhudatta Pradhan, « A Global Guide to State-Sponsored Trolling », Bloomberg, (consulté le ).
- 1 2 3 4 (en) « The Aggregate IQ Files, Part One: How a Political Engineering Firm Exposed Their Code Base », sur upguard.com, (consulté le ).
- 1 2 (en-GB) James Titcomb, « Governments in 30 countries are paying 'keyboard armies' to spread propaganda, report says », The Daily Telegraph, (consulté le ).
- 1 2 3 (en-GB) Carole Cadwalladr, « The Cambridge Analytica files. ‘I made Steve Bannon's psychological warfare tool': meet the data war whistleblower », The Guardian, .
- 1 2 AFP, « "Sans Cambridge Analytica, il n'y aurait pas eu de Brexit", affirme le lanceur d'alerte Christopher Wylie », sur franceinfo.fr, (consulté le ).
- ↑ (ru) Vladislav Sourkov, « Владислав Сурков: Долгое государство Путина / Идеи и люди / Независимая газета », Nezavissimaïa Gazeta, (consulté le ) : « Les responsables politiques étrangers accusent la Russie de s’ingérer dans les élections et les référendums partout dans le monde. En réalité, la situation est encore plus grave : la Russie s’immisce dans leur esprit, et ils ne savent pas quoi faire de leur propre conscience altérée. Depuis que, après les années 90 désastreuses, notre pays a renoncé aux emprunts idéologiques, a commencé à produire lui-même du sens et est passé à la contre-offensive informationnelle contre l’Occident, les experts européens et américains se trompent de plus en plus souvent dans leurs prévisions. Les préférences « paranormales » de l’électorat les surprennent et les exaspèrent. Désemparés, ils ont annoncé l’avènement du populisme. On peut le dire ainsi, faute de mots. »
- ↑ (en) Silvia Lombardo, chap. 13 « The Bad, the Good, and the Rebellious Bots : World's First in Artificial Intelligence », dans Thomas Heinrich Musiolik (dir.) et Adrian David Cheok (dir.), Analyzing Future Applications of AI, Sensors, and Robotics in Society, Hershey (PA), IGI Global, coll. « Advances in Computational Intelligence and Robotics (ACIR) », , XXI-335 p. (ISBN 978-1-79983-499-1, 978-1-79983-500-4, 978-1-79983-501-1 et 978-1-79983-502-8), p. 221-237 (DOI 10.4018/978-1-7998-3499-1.ch013 , lire en ligne ).
- ↑ (en-CA) Katie DeRosa, « Victoria firm AggregateIQ denies link to data-miner at heart of Facebook controversy », Times Colonist, (consulté le ).
- ↑ (en-us) Isaac Stanley-Becker, « Turning Point Action enlists teenagers in 'troll farm' spreading coordinated pro-Trump messaging », The Washington Post, (version du sur archive.org).
- ↑ (pt-BR) Giuliana Vallone, « Inspirado nos EUA, Bolsonaro adota tática de troll: testar limites para ganhar visibilidade, diz filósofo », BBC News Brasil, (consulté le ).
- ↑ Christophe Morel, « Twitter révèle des millions de tweets liés à la Russie et l'Iran », sur cosmo-games.com, .
- ↑ (en-GB) Leo Benedictus, « Invasion of the troll armies: ‘Social media where the war goes on’ », The Guardian, (consulté le ).
- ↑ (en-GB) Dan Tynan, « How Facebook powers money machines for obscure political 'news' sites », The Guardian, (consulté le ).
- ↑ (en-US) Patrick Kingsley, « Highly Secretive Iranian Rebels Are Holed Up in Albania. They Gave Us a Tour. », The New York Times, (consulté le ).
- ↑ (en-US) Ben Collins et Brandy Zadrozny, « Troll farms from North Macedonia and the Philippines pushed coronavirus disinformation on Facebook », NBC News, (consulté le ).
- ↑ Clément Fayol et Yann Philippin, « Révélations sur « l'armée numérique » du Paris Saint-Germain » , sur Mediapart, (consulté le ).
- ↑ « La ferme à trolls du Kremlin », sur Inform Napalm, , traduit de (ru) « Городской типаж: блогер-пропагандист », sur sobaka.ru, .
- ↑ Julien Moreau, « Ukraine : la Russie utilise une "usine de trolls" pour relayer sa propagande, selon le Royaume-Uni », sur TF1 Info, .
- ↑ Thomas Messias, « L'IA a ressuscité Adolf Hitler et l'extrême droite n'hésite pas à l'utiliser pour séduire les plus jeunes », Korii, sur Slate.fr, .
- ↑ Manon Mariani, « Comment des discours d'Hitler se sont retrouvés sur TikTok ? », Veille sanitaire, sur radiofrance.fr, France Inter, .
- ↑ Par AFP, « Dans sa quête de soutien, Zelensky invoque son judaïsme », sur fr.timesofisrael.com (consulté le )
- ↑ Ces mécanismes de duperies nuisibles, Poliakov les démonte dans la La causalité diabolique.
- ↑ Thomas Sotinel, « « Le Bureau des légendes », saison 5 : le récap’ » , Le Monde, (consulté le ).
