Wikipédia

Singularité technologique

période hypothétique d'extrêmes changements
Page d’aide sur l’homonymie

Pour les articles homonymes, voir Singularité.

La singularité technologique (ou plus simplement singularité) est l'hypothèse selon laquelle l'invention de l'intelligence artificielle déclencherait un emballement de la croissance technologique qui induirait des changements imprévisibles dans la société humaine[1].

Lorsqu’on représente sur un graphe logarithmique quinze listes différentes d’événements de l'histoire humaine, le graphe mettrait en évidence une tendance exponentielle. Listes préparées entre autres par Carl Sagan, Paul D. Boyer, l'Encyclopædia Britannica, le musée américain d'histoire naturelle et l'université de l'Arizona, compilées par Ray Kurzweil.

Au-delà de ce point, le progrès ne serait plus l’œuvre que de systèmes d'intelligence artificielle qui s’auto-amélioreraient, de nouvelles générations de plus en plus intelligentes apparaissant de plus en plus rapidement dans une « explosion d'intelligence », débouchant sur une puissance superintelligente qui dépasserait qualitativement de loin l'intelligence humaine[1],[2],[3].

Le risque serait que l'humanité perde le contrôle de son destin[4]. Dans son essai La venue de la singularité technologique, l'auteur de science-fiction Vernor Vinge explique que, selon lui, l'atteinte de cette singularité signifierait la fin de l'ère humaine[3]. La nouvelle superintelligence continuerait alors à s'améliorer et à évoluer technologiquement à une vitesse incompréhensible pour les humains[5].

La notion de singularité technologique a été envisagée par John von Neumann dès les années 1950[6] et ses conséquences ont été débattues dans les années 1960 par I. J. Good. Raymond Kurzweil a affirmé à plusieurs reprises que la singularité technologique surviendrait vers 2045, dont dans son livre The Singularity Is Near (2005) et lors de conférences comme celle du SXSW à Austin, Texas[7], cofondateur de la Singularity University[8],[3].

La possibilité ou la date de survenue de cet évènement hypothétique fait toutefois débat entre scientifiques. Plusieurs experts en IA et futurologues ou transhumanistes l’attendent pour la fin des années 2020[9],[3] et d'autres, comme Yann Le Cun, estiment qu'il n'arrivera jamais[10] ou en tout cas pas grâce aux seuls progrès de l'IA générative[11].

Émergence du concept

modifier

L'idée de présenter l'évolution exponentielle de la technologie remonte au moins à 1932, avec John B. Sparks et son « histocarte de l’évolution ». Vers la même époque, cette idée a été critiquée par le cybernéticien Heinz von Foerster (secrétaire des conférences Macy auxquelles a participé John von Neumann, entre autres)[12], en soutenant que les souvenirs s'estompent naturellement d'une manière exponentielle.

Même si le concept de singularité ne s’est développé qu'au cours des deux dernières décennies du XXe siècle, l’origine du terme remonte en fait aux années 1950 :

« L’une des conversations avait pour sujet l’accélération constante du progrès technologique et des changements du mode de vie humain, qui semble nous rapprocher d’une singularité fondamentale de l’histoire de l’évolution de l’espèce, au-delà de laquelle l’activité humaine, telle que nous la connaissons, ne pourrait se poursuivre. »

— Stanislaw Ulam, mai 1958, au sujet d’une conversation avec John von Neumann

Dans sa conférence du , « Psychanalyse et cybernétique ou de la nature du langage », Jacques Lacan relève, à son époque, un bougé des lignes du côté de la science, frémissement qu’il perçoit ainsi : « quelque chose est passé dans le réel, et nous sommes à nous demander — peut-être pas très longtemps, mais des esprits non négligeables le font — si nous avons une machine qui pense. » (cette citation fut à plusieurs reprises extraite de son contexte et attribuée à tort à John von Neumann lui-même).

En 1965, Irving John Good décrit un concept de singularité plus proche de son acception actuelle, dans le sens où il inclut l’arrivée d’intelligences artificielles générées par une première amorçant le phénomène[13].

Le terme de singularité ne désigne pas une croissance devenant infinie à l'instar d'une singularité mathématique, mais représente le fait que les modèles prédictifs existants ne sont plus appropriés à sa proximité, de la même façon que les modèles physiques actuels ne sont plus adaptés au voisinage d’une singularité de l'espace-temps.

La singularité vingienne

modifier

Le concept de « singularité technologique » fut repopularisé en partie grâce au mathématicien et auteur Vernor Vinge[14]. Vinge a commencé à parler de la singularité dans les années 1980 et a formulé ses idées dans son premier article sur le sujet en 1993 : l’essai Technological Singularity[15]. Il y postule que, d’ici trente ans, l’humanité aurait les moyens de créer une intelligence surhumaine mettant un terme à l’ère humaine[3]. Depuis, la singularité a été le sujet de nombreuses nouvelles et essais futuristes.

Vinge écrit que des intelligences surhumaines, créées par des humains aux capacités augmentées cybernétiquement ou par d'autres intelligences artificielles moins développées, seraient capables d’améliorer leurs propres capacités plus efficacement que les esprits humains les ayant conçues. Ainsi, une spirale de progrès de plus en plus rapide amènerait à des progrès technologiques très importants en une courte période de temps.

La singularité peut être vue comme la fin des civilisations humaines actuelles et le début d’une nouvelle organisation. Dans son œuvre, Vinge s’interroge sur les raisons de cette fin et conclut que les humains pourraient s'organiser pendant la Singularité en une forme supérieure d’intelligence[3]. Après la création de cette intelligence « surhumaine », les humains seraient, d’après Vinge, des formes de vie ayant une moindre influence sur le développement du monde, plutôt membres participants à un système que « pilotes dans l'avion ».

Explosion d'intelligence

modifier
Article détaillé : Explosion d'intelligence.
Estimations de la puissance de traitement nécessaire pour émuler un cerveau humain à différents niveaux, ainsi que du supercalculateur le plus rapide du TOP500, cartographié par année, et d'une ligne de tendance. Détermination exponentielle, avec l'hypothèse du doublement de la puissance de calcul tous les 1,1 an pour la ligne de tendance.

Le terme « explosion d'intelligence » a été mentionné dès 1965 par Irving John Good[13] :

« Mettons qu’une machine supra-intelligente soit définie comme une machine capable de largement surpasser l'humain, aussi brillant soit-il, dans toutes les tâches intellectuelles. Comme la conception de telles machines est l’une de ces activités intellectuelles, une machine supra-intelligente pourrait concevoir des machines encore meilleures ; il y aurait alors sans conteste une « explosion d’intelligence », et l’intelligence humaine serait très vite dépassée. Ainsi, l’invention de la première machine supra-intelligente est la dernière invention que l’Homme ait besoin de réaliser. »

Selon Jeff Hawkins en 2008[16] :

« Le terme Singularité appliqué à des machines intelligentes se réfère à l'idée que lorsque des machines intelligentes pourront concevoir des machines intelligentes, plus intelligentes qu'elles, cela provoquera une croissance exponentielle de l'intelligence des machines conduisant à une singularité de l'intelligence à l'infini (ou du moins immense). La croyance en cette idée se fonde sur une conception naïve de ce qu'est l'intelligence. Par analogie, imaginez que nous ayons un ordinateur qui pourrait concevoir de nouveaux ordinateurs (puces, systèmes et logiciels) plus rapides que lui-même. Est ce qu'un tel ordinateur produirait infiniment des ordinateurs ou même des ordinateurs plus rapides que ce que les humains pourraient construire d'eux-mêmes ? Non, cela pourrait accélérer le rythme des améliorations pour un certain temps, mais à la fin il y a des limites de taille et de vitesse. Nous arriverions au même résultat, nous aurions tout simplement été un peu plus rapides en prenant des risques. Et il n'y aurait eu aucune singularité. »

Prédictions

modifier

En 1964, Irving John Good a prédit qu'il y avait plus d'une chance sur deux pour qu'une machine ultra-intelligente soit créée au XXe siècle[17]. Vernor Vinge a écrit en 1993 qu'il serait surpris si des intelligences supérieures à l'humain n'étaient pas créées entre 2005 et 2030[18]. Ray Kurzweil a prédit en 2005 une IA de niveau humain vers 2029[19], et la singularité en 2045[20]. Il a réaffirmé ces prédictions en 2024[21],[22]. Hans Moravec a prédit en 1988 que si les progrès continuent à la même vitesse, les capacités de calcul nécessaires pour l'IA de niveau humain seraient accessibles dans les superordinateurs en 2010[23]. En 1998, il a prédit l'IA de niveau humain d'ici 2040, et dépassant grandement l'humain d'ici 2050[24].

Accélération du progrès

modifier
Représentation des grandes avancées sur une échelle temporelle.

Raymond Kurzweil, un futuriste et inventeur (il a notamment inventé différents modèles de synthétiseurs), a proposé des théories étendant la loi de Moore à des formes de calcul autres qu’informatiques[3], qui suggèrent que les phases de croissance exponentielle du progrès technologique feraient partie de motifs visibles à travers toute l’histoire humaine et même avant, dès l’apparition de la vie sur Terre, en prenant en compte sa complexification biologique. D’après Kurzweil, ce motif aboutit au XXIe siècle à un progrès technologique inimaginable, ce qui ne veut pas dire infini.

Pour se représenter de manière abordable l'accélération de la vitesse, la vitesse étant le progrès, ce serait identique à un changement de vitesse sur une voiture ou un vélo : ce qui correspond à changer pour un rapport de couple supérieur permettant d'atteindre une vitesse supérieure, ce qui équivaut à plus de progrès pour une même valeur temporelle[réf. nécessaire].

La vitesse des flux, la vitesse d'apprentissage dans une société sont des composantes pouvant définir des limites systémiques dans la société[réf. nécessaire].

La question sera donc de savoir si toute l'humanité voudra changer de vitesse, ce qui pourrait par conséquent redéfinir la notion d'humanité, ou s’il y aura une humanité qui préférera rester à sa vitesse, ou peut être que l'avènement de la singularité se passera « trop vite » et personne ne pourra réagir : en prendre conscience avec un temps de réaction et d'observation à la vitesse humaine, puis la réaction politique, et législative[réf. nécessaire].

La définition de la singularité technologique serait alors : un progrès technologique si rapide que cela dépasse la capacité des humains à la contrôler ou à la prédire, à la comprendre et à réagir à temps[25]. Quelles sont les conséquences à long terme de la révolution industrielle pour l'humanité ? Et n'est-ce pas déjà une forme de singularité ?

Les questions d'ordre philosophique surgissent : l'« humain » est-il dépassé, et y a-t-il un mal à accepter ses limites naturelles[3] ? Y a-t-il un mal à vouloir s'améliorer ? Peut-on raisonnablement refuser le téléphone portable, dans notre société, et quelles en sont les conséquences ? Vous pouvez remplacer pour l'exemple l'outil téléphone portable par tout autre gadget à se greffer en permanence pour augmenter les capacités humaines. Slavoj Žižek pointe ce manque de réflexion de la société, et le manque d'attention voire de capacité et de temps pour la population, pour analyser et comprendre des grands problèmes philosophiques qui s'annoncent : OGM, manipulation génétique, cure génétique, intelligence artificielle, etc.[26]

Améliorations matérielles

modifier
Évolution de la loi de Moore jusqu'en 2020[27].

La loi de Moore est l'observation selon laquelle le nombre de transistors sur les circuits intégrés double tous les deux ans. Elle permet en particulier de prédire l'évolution des capacités de mémoire. Elle s'est avérée correcte pendant des décennies, mais cette croissance semble s'être finalement ralentie, du fait des limites physiques de la miniaturisation[28],[29].

L'intelligence artificielle moderne repose cependant beaucoup sur les cartes graphiques, dont les capacités semblent croître à un rythme exponentiel. Similairement à la loi de Moore, la « loi de Huang » prédit que les capacités des cartes graphiques vont plus que doubler tous les deux ans[30]. Une étude estime, elle, que les performances des cartes graphiques doublent tous les 2,5 ans[31].

L'informatique quantique pourrait accélérer drastiquement certains types de calcul, mais n'a pas la même polyvalence que les ordinateurs classiques[32].

Les capacités de calcul pourraient aussi être améliorées en créant des puces en 3 dimensions, qui empilent verticalement plusieurs couches de transistors[33].

Enjeux

modifier

Le futuriste Jamais Cascio estime en 2007 qu'il est important que la singularité se base sur des valeurs de démocratie, d'ouverture, de transparence et de libre accès[34].

Transhumanisme

modifier

Pour l’entrepreneur et directeur de l’ingénierie de Google Ray Kurzweil, la singularité technologique ressemble à une promesse eschatologique qui prédit une transformation profonde et radicale des sociétés humaines grâce au développement surprenant de l’intelligence artificielle (IA). Les dynamiques vertigineuses des IA associées aux progrès dans les champs des nanotechnologies, biotechnologies, informatique et sciences cognitives (NBIC) conduiront probablement à la fusion de l’homme avec la machine, à l’union du biologique avec la technologie, ce dont les effets pratiques seront de résoudre les problèmes humains les plus complexes (moraux, culturels, économiques, politiques, etc.) et même d’éradiquer la mort. La fusion effective de l’homme avec l’intelligence artificielle annoncerait la naissance d’une nouvelle humanité qui bénéficierait des capacités analytiques d’un superordinateur et qui serait débarrassée des inconvénients du corps biologique[35], réalisant le rêve du transhumanisme dont il est l'un des théoriciens.

Anarcho-transhumanisme

modifier

Au sein de la pensée anarcho-transhumaniste (un courant anarchiste anticapitaliste combinant des idées du transhumanisme), certains penseurs nuancent cette « singularité technologique » en préférant parler plutôt d'une « singularité sociale ». Le militant anarcho-transhumaniste américain William Gillis explique cela dans son article « Anarchy and Transhumanism » :

« Ainsi, de manière générale, le développement technologique tend à faire pencher le rapport de force en faveur des minorités, les aidant à résister à la domination, et rend les habitudes culturelles du consensus et de l’autonomie essentielles, car tout le monde y gagne une forme de veto. Similairement, les technologies de l’information permettent des boucles de rétroaction positives et augmentent la complexité de nos structures socioculturelles. [...] Elles offrent une capacité de résistance incroyable en rendant le contrôle de masse de plus en plus dur. Ce qui est “cool” change si vite et est si divers et imprévisible que les politiciens et les entreprises trébuchent de plus en plus en essayant de l’exploiter. Les anarcho-transhumanistes ont défendu l’idée que cette complexité socioculturelle rétroactive constitue une singularité, non pas technologique mais sociale—un phénomène par lequel des découvertes s’alimentent collaborativement elles-mêmes et grandissent trop vite pour être prédites ou contrôlées. La Silicon Valley tente désespérément d’éviter la réalité du fait que la profitabilité de l’entière industrie de la publicité est en baisse. Depuis la démocratisation d’Internet, les gens ont commencé à apprendre, et, de manière générale, les publicitaires ont de moins en moins d’impact[36] »

Les anarcho-transhumanistes nuancent également au sujet d'un éventuel grand progrès de l'intelligence artificielle (IA), en particulier de l'intelligence artificielle générale. William Gillis critique ainsi certains transhumanistes non-libertaires qui seraient trop fixés et concentrés sur le développement de l'intelligence artificielle, ces transhumanistes non-anarchistes délaissant ainsi le développement du progrès social :

« Il y a un courant notable dans les cercles transhumanistes non-anarchistes qui se concentre sur le développement des IA, avec pour but de résoudre le problème du contrôle d'un esprit plus intelligent que le nôtre. Beaucoup de transhumanistes sont convaincus que l’IA va accéder à une augmentation auto-entraînée de sa propre intelligence qui lui permettra de changer le monde. Pour les anarchistes, cette fixation est ridicule étant donnée les milliards d’esprits déjà vivants et criminellement sous-estimés. Si nous voulions libérer l’intelligence potentielle dans notre société, alors le chemin le plus sûr et le plus rapide serait de libérer et aider à s'émanciper tous les potentiels Einstein actuellement abandonnés dans des bidonvilles, des favelas, des mines à ciel ouvert et dans des champs partout sur Terre. [...] Plutôt qu’une course à l’Intelligence artificielle générale, beaucoup d’anarcho-transhumanistes ont défendu que nous devrions plutôt nous concentrer sur les bienfaits des technologies qui améliorent ou étendent nos connexions entre nous, pour que nous puissions collectivement dépasser n’importe quelle IA[36]. »

Singularité dans les discours de représentants du secteur de l'IA

modifier

L'hypothèse de la singularité est régulièrement évoquée par des patrons ou autres représentants des compagnies de l'intelligence artificielle. Le sociologue Julien Mattern estime même qu'actuellement[37] « Le discours sur la singularité technologique (en mode célébration ou en mode alerte) est principalement porté par les cadres dirigeants de la Silicon Valley (et leurs relais). »

Sam Altman, PDG d'OpenAI, dans un texte publié sur son blog en 2025[38], dédramatise le sujet de la singularité en développant la notion de gentle singularity (singularité douce). Pour lui, qui la voit arriver dans les années 2030, « Vivre cette expérience sera sans doute impressionnant, mais gérable. D'un point de vue relativiste, la singularité se produit progressivement, et la fusion est lente. Nous gravissons la longue courbe du progrès technologique exponentiel ; elle paraît toujours verticale vue d'avant et plate vue d'arrière, mais il s'agit en réalité d'une courbe continue. »[39]. D'autres, comme Mark Zuckerberg[40] patron de Meta et Satya Nadella[41] de Microsoft, tout en évitant d'employer le terme de singularité[42], annoncent l'atteinte prochaine d'une super intelligence et font des descriptions assez proches des temps à venir.

Dario Amodei, dirigeant d'Anthropic, tout en y qualifiant la singularité de « vision de science-fiction » en développe sa propre version en 2024 dans un texte intitulé Machines of Loving Grace[43]. Il y décrit l'intelligence artificielle à venir comme « un pays de génies dans un centre de données » et estime que « la plupart des gens sous-estiment l'ampleur des avantages potentiels de l'IA, tout comme je pense qu'ils sous-estiment la gravité des risques. » tout en évoquant un bouleversement économique et scientifique radical issu de l'accélération de ses progrès. Si ce texte était plutôt optimiste, dans un suivant publié en 2026, The Adolescence of Technology[44], il se montre bien plus inquiet. Dans une interview à Bloomberg il déclare[45] : « Je pense que nous allons être surpris par la façon dont la courbe exponentielle s'inverse. Le propre des exponentielles, c'est que, vous savez, elles semblent évoluer très, très lentement. Elles accélèrent un peu, puis elles vous dépassent à toute vitesse. Et je pense que nous sommes au bord du précipice. »

Elon Musk, patron de Tesla et SpaceX , qui se montre depuis des années inquiet quant à celle ci[46], va encore plus loin, qualifiant aux premiers jours de l'année 2026 celle ci d'« année de la singularité »[47] et voyant un mois plus tard l'existence d'un site où des agents IAs discutent entre eux comme un signe qu'elle « est déjà là »[48].

Demis Hassabis, dirigeant de Google DeepMind déclare en mai 2026[42] : « Quand nous nous remémorerons cette époque, je pense que nous réaliserons que nous étions aux prémices de la singularité »

Yann Le Cun pense que les machines sont capables d'effectuer tout ce que les êtres humains peuvent réaliser intellectuellement[49]. Il pense même que les machines pourraient être un jour conscientes, car selon lui il n'y a rien de magique dans les émotions. Pour sa part, il pense que les émotions sont des choses calculées par notre cerveau et qu'une machine pourrait faire les mêmes calculs que notre ganglion de la base[50].

Sceptiques et critique des singularitaristes

modifier

L'hypothèse de la singularité est l'objet de controverses, que ce soit sur sa faisabilité ou la scientificité même du concept, tandis que le singularitarisme est également critiqué en tant qu'idéologie.

Critique du modèle scientifique

modifier

Des personnalités du monde de l'IA ou autres scientifiques, tout en jugeant fulgurants les progrès de l’intelligence artificielle, considèrent néanmoins qu'il existe encore des limites technologiques, philosophiques et biologiques lointaines ou infranchissables pour l’émergence d’une superintelligence autonome.

Jeff Hawkins (neuroscientifique et fondateur de Numenta) critique la pertinence de l’idée de singularité, estimant qu’elle repose sur une conception naïve de ce qu’est l’intelligence[51]. John Searle (philosophe) soutient que les machines ne peuvent pas « penser » au sens humain du terme, faute de conscience et d’intentionnalité propre ; Steven Pinker (psychologue cognitif), classe les prédictions sur la singularité dans la science-fiction car l’intelligence humaine est, selon lui, trop liée à des contextes biologiques et sociaux pour être intégralement simulée[11] ; Theodore Modis, physicien et futurologue, estime en 2017, plus prudemment, sept ans après une première critique de la plausibilité d'une singularité technologique, qu’« une courbe exponentielle ne mène pas nécessairement à une singularité, mais peut simplement croître indéfiniment sans rupture brutale » ; mais que néanmoins en 2015 « une chose est de faire des progrès multiples dans de nombreux domaines, autre chose est que ceux-ci convergent à terme vers une intelligence artificielle forte ou une AGI telle que la prévoyait RK à l’horizon 2045/2050 .... Nous n’en sommes pas encore là, ce qui n’est pas complètement anormal en 2015, mais là encore on est sur la trajectoire envisagée par RK »[52].

D'autres auteurs, sans critiquer directement la notion de singularité, remettent en question l'idée d'accélération technologique.

Le concept de singularité ne tient pas compte des besoins et des ressources disponibles en énergie. Soit il postule des ressources infinies, soit il estime sans le démontrer que les besoins ne changeront que peu. Accessoirement, il ne tient pas compte de la limite quantique à laquelle la miniaturisation des composants électroniques se heurtera nécessairement un jour, ni de perturbations négligeables aux échelles actuelles et qui ne le resteront pas forcément à d'autres échelles (particules alpha, etc.) ; à moins que l'ordinateur quantique ne prenne le relais des composants traditionnels...

Les hypothèses relatives à la Singularité sont régulièrement critiquées pour leur manque de solidité scientifique. Theodore Modis rappelle par exemple[53] qu'une courbe exponentielle ne débouche sur aucune singularité, mais continue à croître à l'infini, mais sept ans plus tard, il revient sur ce point de vue en étant plus nuancé ; et à propos de la loi de Moore, il dit que « si les chemins pris par l’évolution technologique n’ont pas tous été ceux envisagés, la trajectoire et les idées essentielles de RK n’ont pas été, contredites par les faits... et que l'hypothèse qu'elles puissent se poursuivre, ne peut être rejetée (...) Tout ceci pour constater que, même si on n’est pas d’accord avec tout ou partie de ce que représente Ray Kurtzweil, et avec tout ce qui est agrégé autour du concept de singularité (technologique), 10 ans après la sortie de son ouvrage il semble bien que, les fondements de ses thèses sur l’évolution du progrès technologique et l'état d'avancement des applications qu'il envisageait, sont globalement acceptées, et qu’en terme de trajectoire de cette évolution nous sommes en 2015, globalement en ligne. »[52].

Pour Jonathan Huebner, « la preuve avancée indique que le rythme de l'innovation a atteint un pic il y a environ un siècle et est maintenant en déclin. Ce déclin est le plus probablement dû à une limite économique de la technologie ou à une limite du cerveau humain que nous approchons. Nous avons déjà parcouru 85 % du chemin qui nous sépare de cette limite, et le rythme du développement technologique diminuera à chaque année écoulée. »[54],[55]. De telles analyses se retrouvent en 2006 chez Bob Seidensticker[56] ou chez David Bodanis[57].

Il existe bien des limites politiques, économiques, militaires (et stratégiques), des limites en ressources, et surtout la connaissance et les découvertes technologiques ont également leurs limites, ce que ne nie pas Ray Kurzweil[réf. souhaitée], mais l'explosion de l'IA générative dans les années 2020 semble démentir les hypothèses de Huebner et Seidensticker et conforte encore les prédictions de Kurzweil.

Critique dialectique

modifier

Plusieurs auteurs critiquent vivement la notion de singularité, notamment telle que développée par Ray Kurzweil.

En 2006, Theodore Modis écrivait : « Ce que je veux dire est que Kurzweil et les singularistes sont impliqués dans une sorte de para-science, qui diffère des vraies sciences en termes de méthodologie et de rigueur. Ils ont tendance à négliger les pratiques scientifiques rigoureuses telles que se concentrer sur les lois naturelles, donner des définitions précises, vérifier les données méticuleusement, et estimer les incertitudes. […] Kurzweil et les singularistes sont plus des croyants que des scientifiques. »[58],[53]. Modis a depuis changé son point de vue et reconnait que Kurzweil pourrait peut-être avoir raison.

Selon Ted Gordon, autre détracteur des hypothèses de Kurzweil : « Kurzweil avance un argument frappant au sujet de l'accélération du changement. Il utilise de nombreuses courbes de croissance exponentielles, principalement concernant l'électronique, les nano-technologies et les ordinateurs, mais en incluant Internet et la biologie. Il montre une croissance similaire avec le PIB américain et le PIB par habitant. Il utilise aussi comme source majeure le travail de Modis sur le raccourcissement du temps entre les changements de paradigme. Il argumente en faveur de l'accélération du taux passé d'accélération et par conséquent de l'inévitabilité de la continuation de cet élan. Cependant, l'extrapolation sous toutes ses formes est dangereuse et condamnée en fin de compte à être fausse »[59],[53].

Drew McDermott, sans être aussi sévère, s'inquiète des conséquences de ce genre de littérature pour les recherches en Intelligence Artificielle : « Bien que je ne pense pas que Kurzweil ait prouvé son affirmation à propos de l'IA (et je n'ai rien à dire à propos de ses arguments concernant la génétique, les nano-technologies, la politique ou l'écologie), il pourrait voir juste. Mais juste ou faux, j'aimerais qu'il arrête d'écrire de tels livres ! Le domaine de l'IA est régulièrement empesté de lubies qui semblent surgir à la moindre perturbation »[60],[61].

En France Jean-Gabriel Ganascia, président du comité d’éthique au CNRS, consacre un livre à dénoncer "Le mythe de la singularité"[62],[63] en 2017, pour lui « Là où la science distingue nettement entre une argumentation rationnelle fondée sur des preuves d’ordre empirique ou mathématique et l’imaginaire de romanciers ou de cinéastes, les penseurs de la Singularité technologique les confondent dans un grand récit. ». Il relie la croyance en une singularité prochaine à d'autres « technoprophétismes contemporains » comme ceux relatifs à l'émergence d'une post-humanité. L'Association Française pour l'Information Scientifique[64] employant le même terme de mythe, considère quant à elle que « Les théories de la Singularité technologique et les autres annonces, catastrophistes ou enthousiastes, lancées par des célébrités, chercheurs, hommes d’affaires ou ingénieurs, se révèlent, à l’analyse, bien peu fondées sur le plan scientifique. »

Critique en tant qu'idéologie ou mouvement

modifier

Le singularitarisme, défini comme un courant idéologique ou mouvement entretenant le mythe de la singularité et considérant son atteinte désirable est l'objet d'analyses critiques diverses, que ce soit individuellement[65] ou en tant qu'élément d'un groupe d'idéologies reliées au transhumanisme[66].

Il fait partie de l'ensemble qualifié de TESCREAL Bundle, vigoureusement critiqué par le philosophe Emile P. Torres et la chercheuse en éthique de l'IA Timnit Gebru en 2022[67] comme ayant des racines communes avec l'eugénisme, critique souvent reprise par des pratiquants des sciences sociales ou intellectuels technocritiques[68].

Il l'est également parfois au sein des tendances faisant partie de l'ensemble TESCREAL par des inquiets des risques futurs de l'intelligence artificielle, qui tout en adhérant à l'hypothèse de la singularité souhaitent une pause des recherches en IA car ils ne croient pas en la possibilité de maîtriser une "superintelligence" ou de fusionner avec elle. Ray Kurzweil s'oppose aux initiatives long-termistes en la matière[69].

Certains futurologues comme Eliezer Yudkowsky et Nick Bostrom oscillent au fil de leur carrière entre singularitarisme (périodes où ils jugent l'atteinte de la singularité souhaitable) et alarmisme quant aux risques existentiels de la superintelligence.

La singularité technologique dans la fiction

modifier


Notes et références

modifier
  1. 1 2 (en) Singularity hypotheses: A Scientific and Philosophical Assessment, Dordrecht, Springer, , 1–2 p. (ISBN 978-3-642-32560-1, lire en ligne).
  2. ↑ (en) David Chalmers, « The singularity: A philosophical analysis », dans Journal of Consciousness Studies 17.9-10, 2010, p. 7-65.
  3. 1 2 3 4 5 6 7 8 Dominique de Gramont, Le Christianisme est un transhumanisme, Paris, Éditions du Cerf, , 365 p. (ISBN 978-2-204-11217-8), chap. 1 (« À la recherche du transhumain »).
  4. ↑ (en) Bill Joy, « Why the Future Doesn't Need Us », Wired,‎ (ISSN 1059-1028, lire en ligne, consulté le ).
  5. ↑ (en) Vernor Vinge, « The Coming Technological Singularity: How to Survive in the Post-Human Era », originellement dans Vision-21: Interdisciplinary Science and Engineering in the Era of Cyberspace, G. A. Landis, ed., NASA Publication CP-10129, p. 11–22, 1993.
  6. ↑ Kurzweil appuie son propos en rapportant une citation apocryphe de Von Neumann, qui selon l'explication que donne Kurzweil (dans la 3e note du premier chapitre de son livre The Singularity is Near) serait une paraphrase de Von Neumann par Stanislaw Ulam, « Tribute to John Von Neumann », dans Bulletin of the American Mathematical Society 64.3, pt. 2 (May 1958). Von Neumann aurait ainsi dit, selon Ulam : « The ever accelerating process of technology […] gives the appearance of approaching some essential singularity » (« La rapidité toujours croissante des technologies nous donne l'impression d'approcher une singularité essentielle. ») Comme le relève Theodore Modis (dans Technological Forecasting & Social Change 73 (2006) 95–127), ces propos signalent plus une illusion qu'un phénomène réel, ce qui s'éloigne de l'interprétation que donne Kurzweil de la citation de Von Neumann.
  7. ↑ (en) Ray Kurzweil, The Singularity is Near, Ed. Viking, 2005, p.  10.
  8. ↑ Laurent Sacco, « Google recrute Ray Kurzweil, un gourou du transhumanisme », sur futura-sciences.com, .
  9. ↑ url Un monde sans humains, documentaire de Philippe Borrel, Arte, 2012.
  10. ↑ « L’intelligence artificielle, du fantasme à la réalité », sur Bilan, (consulté le )
  11. 1 2 Université de Genève (UNIGE), « Yan Lecun : comment les machines pourraient-elles atteindre l'intelligence humaine? Conférence universitaire », (consulté le ).
  12. ↑ (en) « Interview Heinz von Foerster », sur université Stanford (consulté le ).
  13. 1 2 (en) Irving John Good, « Speculations Concerning the First Ultraintelligent Machine », Advances in Computers,‎ (lire en ligne) :
    « Let an ultraintelligent machine be defined as a machine that can far surpass all the intellectual activities of any man however clever. Since the design of machines is one of these intellectual activities, an ultra-intelligent machine could design even better machines; there would then unquestionably be an "intelligence explosion," and the intelligence of man would be left far behind. Thus the first ultraintelligent machine is the last invention that man need ever make, provided that the machine is docile enough to tell us how to keep it under control. It is curious that this point is made so seldom outside of science fiction. It is sometimes worthwhile to take science fiction seriously. »
  14. ↑ Voir les romans Un feu sur l'abîme, Au tréfonds du ciel et La Captive du temps perdu.
  15. ↑ (en) « Technological Singularity » (consulté le ).
  16. ↑ (en) « Tech Luminaries Address Singularity - Ten technologists share their views on the Singularity », sur IEEE Spectrum, (consulté le ) : « The term 'singularity' applied to intelligent machines refers to the idea that when intelligent machines can design intelligent machines smarter than themselves, it will cause an exponential growth in machine intelligence leading to a singularity of infinite (or at least extremely large) intelligence. Belief in this idea is based on a naive understanding of what intelligence is. As an analogy, imagine we had a computer that could design new computers (chips, systems, and software) faster than itself. Would such a computer lead to infinitely fast computers or even computers that were faster than anything humans could ever build? No. It might accelerate the rate of improvements for a while, but in the end there are limits to how big and fast computers can run. We would end up in the same place; we'd just get there a bit faster. There would be no singularity. »
  17. ↑ (en) Irving John Good, « Speculations Concerning the First Ultraintelligent Machine », Advances in Computers,‎  :
    « It is more probable than not that, within the twentieth century, an ultraintelligent machine will be built »
    .
  18. ↑ (en) « Vernor Vinge on the Singularity », sur mindstalk.net (consulté le ).
  19. ↑ (en) « List of Analyses of Time to Human-Level AI », sur AI Impacts, (consulté le ).
  20. ↑ (en) Ray Kurzweil, The Singularity Is Near, Penguin Group, , p. 120.
  21. ↑ (en) Zoë Corbyn, « AI scientist Ray Kurzweil: ‘We are going to expand intelligence a millionfold by 2045’ », The Observer,‎ (ISSN 0029-7712, lire en ligne, consulté le ).
  22. ↑ (en) Ray Kurzweil, The singularity is nearer: when we merge with Al, Viking, (ISBN 978-0-399-56276-1, OCLC on1438926317, lire en ligne).
  23. ↑ (en) Hans P. Moravec, Mind Children: The Future of Robot and Human Intelligence, Harvard University Press, (ISBN 978-0-674-57616-2, lire en ligne).
  24. ↑ (en) Hans P. Moravec, « Robot: Mere Machine to Transcendent Mind », sur philpapers.org, (consulté le ).
  25. ↑ (en) Steven A. Edwards, The nanotech pioneers: where are they taking us?, Wiley-VCH, (ISBN 978-3-527-31290-0).
  26. ↑ Slajov Zizek en conférence chez Google
  27. ↑ (en) « What is Moore’s Law? », sur Our World in Data (consulté le ).
  28. ↑ « La loi de Moore est morte, vive la loi de Huang ! », sur Banque Transatlantique, (consulté le ).
  29. ↑ « La loi de Moore est morte, encore une fois. Et pour de bon ? », sur ZDNet France, (consulté le ).
  30. ↑ (en) Christopher Mims, « Huang’s Law Is the New Moore’s Law, and Explains Why Nvidia Wants Arm », Wall Street Journal,‎ (ISSN 0099-9660, lire en ligne, consulté le ).
  31. ↑ (en) Marius Hobbhahn, « Trends in GPU Price-Performance », sur Epoch, (consulté le ).
  32. ↑ (en) Susan Galer, « If You Think AI Is Hot, Wait Until It Meets Quantum Computing », sur Forbes (consulté le ).
  33. ↑ (en) « 3 Ways 3D Chip Tech Is Upending Computing - IEEE Spectrum », sur spectrum.ieee.org (consulté le ).
  34. ↑ (en) Jamais Cascio, « Open the Future: Singularity Summit Talk: Openness and the Metaverse Singularity » (consulté le ).
  35. ↑ Mark O’Connell (trad. de l'anglais), Aventures chez les transhumanistes : cyborgs, techno-utopistes, hackers et tous ceux qui veulent résoudre le modeste problème de la mort, Paris, L'Échappée, , 256 p. (ISBN 978-2-37309-037-6), p. 26.
  36. 1 2 William Gillis, « Anarchie et Transhumanisme – Le Conseil », (consulté le )
  37. ↑ « La mécanisation du monde et le mythe de la singularité », sur www.canal-u.tv, (consulté le )
  38. ↑ Matheo Malik, « Le nouveau texte de Sam Altman traduit et commenté », sur Le Grand Continent, (consulté le )
  39. ↑ (en) Sam Altman, « The Gentle Singularity », sur Sam Altman, (consulté le )
  40. ↑ Nicolas Lellouche, « Oubliez le métavers, la « super-intelligence » est le futur selon Mark Zuckerberg », sur Numerama, (consulté le )
  41. ↑ (en-US) Nilay Patel, « Microsoft AI chief on why it’s ‘dangerous’ to call AI ‘alive’ », sur The Verge, (consulté le )
  42. 1 2 (en-US) Shivaune Field, « Google’s AI chief says we’re in the 'foothills of the singularity'. Here's why that matters », sur Forbes Australia, (consulté le )
  43. ↑ (en) Dario Amodei, « Machines of Loving Grace », sur www.darioamodei.com, (consulté le )
  44. ↑ (en) Dario Amodei, « The Adolescence of Technology », sur www.darioamodei.com, (consulté le )
  45. ↑ (en) Marco Quiroz-Gutierrez, « ‘Country of geniuses in a data center’: Anthropic CEO sees every AI cluster having the brainpower of 50 million Nobel Prize winners », sur Fortune (consulté le )
  46. ↑ (en-US) Toby Walsh, « Elon Musk is wrong. The AI singularity won't kill us all », Wired,‎ (ISSN 1059-1028, lire en ligne, consulté le )
  47. ↑ (en) John Werner, « 2026 Singularity? Muskian Comment Is Backed By Real Stuff », sur Forbes, (consulté le )
  48. ↑ (en) Jason Ma, « Elon Musk warns a new social network where AI agents talk to one another is the beginning of ‘the singularity’ », sur Fortune, (consulté le )
  49. ↑ France Inter, « Yann Le Cun : ChatGPT, c'est "de la bonne ingénierie" mais "pas révolutionnaire" », (consulté le )
  50. ↑ France Culture, « Yann LeCun : "Les émotions sont inséparables de l'intelligence" », (consulté le )
  51. ↑ Bernard Calvino, « 1000 cerveaux. Une nouvelle compréhension du cerveau et de l'intelligence artificielle », sur Association française pour l'avancement des sciences (AFAS), (consulté le ).
  52. 1 2 Singularité.. 7 ans après, conférence, 2015, 17 pages (lire en ligne [PDF], sur emergenceparis.org).
  53. 1 2 3 (en) Technological Forecasting & Social Change 73 (2006) 95–127.
  54. ↑ « the evidence presented indicates that the rate of innovation reached a peak over a hundred years ago and is now in decline. This decline is most likely due to an economic limit of technology or a limit of the human brain that we are approaching. We are now approximately 85% of the way to this limit, and the pace of technological development will diminish with each passing year ».
  55. ↑ (en) Jonathan Huebner, A possible declining trend for worldwide innovation, Technological Forecasting & Social Change 72 (2005) 980–986.
  56. ↑ (en) Bob Seidensticker, Future Hype: The Myths of Technology Change, Berrett-Koehler Publishers, Inc., 2006.
  57. ↑ (en) David Bodanis, Slow Forward, Is the speed of technological change an illusion?, Discover, vol. 27, no 6, juin 2006.
  58. ↑ « What I want to say is that Kurzweil and the singularitarians are indulging in some sort of para-science, which differs from real science in matters of methodology and rigor. They tend to overlook rigorous scientific practices such as focusing on natural laws, giving precise definitions, verifying the data meticulously, and estimating the uncertainties. […] Kurzweil and the singularitarians are more believers than they are scientists ».
  59. ↑ « Kurzweil makes an impressive argument about the acceleration of change. He uses many exponential growth curves, primarily drawn from electronics, nano-technology and computers, but including Internet and biology. He shows similar growth in real US GDP and GDP per capita. He also uses as one major source work by Modis on the shortening time between paradigm shifts. He argues for the acceleration of the past rate of acceleration and by implication the inevitability that this momentum will carry on. However, extrapolation in any guise is dangerous and ultimately bound to be wrong ».
  60. ↑ « Although I don’t think Kurzweil has proved his case about AI (and I have had nothing to say about his arguments on genetics, nanotechnology, politics, or ecology), he may be right. But right or wrong, I wish he would stop writing these books! The field of AI is periodically plagued by “hype hurricanes” that seem to surge up from the slightest perturbation ».
  61. ↑ D. McDermott, Kurzweil’s argument for the success of AI, Artificial Intelligence 170 (2006) 1227–1233.
  62. ↑ Jean-Gabriel Ganascia, Le mythe de la singularité: faut-il craindre l'intelligence artificielle?, Éditions du Seuil, (ISBN 978-2-02-130999-7)
  63. ↑ Philippe Monin, « Ganascia J.G., Le mythe de la singularité. Faut-il craindre l’intelligence artificielle ?, Le Seuil, Coll. Science ouverte, 2017 », RIMHE : Revue Interdisciplinaire Management, Homme & Entreprise, vol. 368, no 3,‎ , p. 121–128 (ISSN 2259-2490, DOI 10.3917/rimhe.036.0121, lire en ligne, consulté le )
  64. ↑ « Le mythe de la Singularité technologique / Afis Science - Association française pour l’information scientifique », sur Afis Science - Association française pour l’information scientifique (consulté le )
  65. ↑ Cadell Last, « The Politics of Technological Singularity », sur Philosophy Portal, (consulté le )
  66. ↑ (en) Matthew Claudel et Matthew Shafer, « A Rumble in the Taupe Hum of Info-Capital: On Reduction and the Neoliberal City », Journal of Design and Science,‎ (lire en ligne, consulté le )
  67. ↑ « Wayback Machine » [archive du ], sur firstmonday.org (consulté le )
  68. ↑ « Intelligence artificielle : la Silicon Valley devient-elle anti-humaine ? », sur L'ADN, (consulté le )
  69. ↑ (en) John Koetsier, « Ray Kurzweil On AI Pause: No », sur Forbes (consulté le )
  70. ↑ Kill the tech bro, save the world: how CEOs became Hollywood's new supervillains, The Guardian, 6/6/2018
  71. ↑ Johann A R Roduit, Flesh & Foil, BioéthiqueOnline, (lire en ligne).

Voir aussi

modifier

Sur les autres projets Wikimedia :

Bibliographie

modifier
  • Ray Kurzweil, « Humanité 2.0 : La bible du changement », M21 Éditions, 2007 (ISBN 9782916260044) (traduction de « The Singularity is near »).
  • Serge Boisse, « L'esprit, l'IA et la Singularité » (ISBN 978-2-9530512-1-6).
  • Kate Darling, Alain Bensoussan, Yannis Constantinides, Jean-Gabriel Ganascia, John Mc Carthy, Olivier Tesquet, « En compagnie des robots » (ISBN 979-10-94841-17-4).

Articles connexes

modifier

Notions générales

Penseurs « pro-singularité »

Penseurs « anti-singularité »

Liens externes

modifier

Ce document provient de « https://fr.wikipedia.org/w/index.php?title=Singularité_technologique&oldid=239513338 ».