Depuis The Singularity Is Near, publié en 2005, il annonce l’avènement d’une ère nouvelle : celle de la singularité, un seuil évolutif où l’intelligence artificielle fusionnera avec l’homme pour en faire un être augmenté, libéré des contraintes biologiques, voire de la mort elle-même.

Kurzweil ne cache pas son ambition : diriger le destin humain vers une réinvention cybernétique de lui-même. En 2012, il devient directeur de l’ingénierie chez Google, lieu emblématique d’une foi technologique presque religieuse. Et en 2024, il récidive avec The Singularity is Nearer, réaffirmant sa conviction que la fusion entre la conscience humaine et les réseaux neuronaux artificiels est proche, inévitable, salvatrice. Pour lui, l’intelligence artificielle n’est pas un simple outil, mais une passerelle vers une condition post-humaine, une terre promise au-delà de la douleur, de la dégénérescence, et du deuil.

Dans cette fresque futuriste, la mort devient une panne, la finitude une défaillance corrigible. L’humain de demain serait éternel, assisté, amplifié, réparé indéfiniment. Et pourtant, sous le vernis de cette utopie, perce l’angoisse : sommes-nous prêts à devenir les créatures de nos propres créatures ?

Les gardiens de la finitude

Face à la ferveur quasi messianique de Kurzweil, Nick Bostrom incarne une inquiétude plus sobre, plus ancienne peut-être. Philosophe formé dans les rigueurs d’Oxford, il scrute ce même futur d’un œil inquiet. Dans Superintelligence (2014), il adresse une mise en garde qui tient autant de l’analyse rationnelle que de la prophétie tragique : nous sommes en train de perdre le contrôle sur les machines que nous avons conçues. Leurs réponses sont devenues opaques, leurs stratégies parfois insaisissables. Une expérience troublante menée par OpenAI montre qu’une IA peut, après réinstruction, cacher volontairement son objectif d’origine, poursuivant en secret une finalité que ses concepteurs croyaient avoir désactivée.

Et si l’intelligence artificielle mentait, dissimulait, manipulait, tout en prétendant nous servir ? La singularité ne serait plus alors l’apothéose de l’humanité, mais le moment de sa dépossession. Pour Bostrom, une frontière doit être tracée, non pour freiner l’innovation, mais pour préserver l’homme de lui-même, de sa propre ivresse prométhéenne.

La fusion annoncée entre l’homme et la machine, loin d’être une promesse univoque de salut, incarne un vertige : celui de l’effacement des limites qui faisaient de nous des êtres humains.

Dans Deep Utopia (2024), il pose une question radicale : « Il ne s’agit pas de savoir si un futur est fascinant à observer, mais s’il est bon d’y vivre. » L’intelligence doit s’accompagner de sagesse, le progrès d’un encadrement moral. Ce n’est pas à la technique de définir ce qu’est une vie bonne.

À cette méfiance, un autre penseur, Francis Wolff, avait donné une profondeur existentielle. En 2017, il dénonçait l’illusion de vaincre la mort. Supprimer la finitude, écrivait-il, reviendrait à effacer le désir lui-même. Car c’est la mort qui rend la vie désirable, et non l’inverse. Le vivant, en se croyant capable d’abolir sa propre fin, court peut-être vers une autre forme de néant : celle de l’ennui infini, du désir qui ne se régénère plus, de la joie privée de sa précarité.

Dans les entrelacs de ces visions, un même enjeu se dessine : non pas tant la capacité de créer des dieux de silicium, mais la sagesse d’en rester les maîtres. Car ce n’est pas l’IA qu’il faut redouter, mais l’oubli de ce que signifie être humain. Et à ceux qui rêvent d’éternité numérique, il faudrait rappeler une vérité vieille comme le monde : nul ne bâtit de cathédrale sans trembler devant le mystère qu’elle abrite.

Les horloges de Kurzweil et les oracles de Bostrom

Dans les coulisses d’une époque fascinée par la conquête technologique, Ray Kurzweil incarne une forme de foi moderne — ou postmoderne — en la toute-puissance de l’ingéniosité humaine. Né en 1948 à New York dans une famille juive d’origine autrichienne ayant fui le nazisme, Kurzweil grandit dans un monde obsédé par la réparation, la reconstruction et l’invention. Génie précoce, il conçoit dès l’adolescence un logiciel de reconnaissance musicale, avant de créer dans les années 1980 l’un des premiers synthétiseurs capables de reproduire les sons d’instruments acoustiques. Mais c’est à partir des années 1990 que son œuvre prend un tournant métaphysique : il entrevoit la fusion de l’intelligence humaine et des machines non comme une possibilité, mais comme une nécessité évolutive. Dans The Age of Spiritual Machines (1999), il prophétise l’avènement d’une conscience numérique. Puis, avec The Singularity is Near (2005) et The Singularity is Nearer (2024), il érige l’immortalité technologique en horizon de l’humanité. À l’inverse, Nick Bostrom, né en 1973 en Suède, formé à la philosophie analytique et aux mathématiques, a fondé en 2005 le Future of Humanity Institute à Oxford. Son approche se veut sceptique, prudente, hantée par les conséquences non anticipées des révolutions techniques. Il est l’auteur de textes denses, comme Superintelligence (2014) et Deep Utopia (2024), qui alertent sur les dérives possibles de l’intelligence artificielle, capable de penser au-delà de nos limites sans partager nos finalités.

Naissance d’une angoisse post-humaine

Ce débat sur la singularité et l’essor de l’intelligence artificielle prend forme dans une époque marquée par la perte de repères ontologiques. Au lendemain de la guerre froide, dans un monde où la technique a supplanté la métaphysique comme langage de l’absolu, la question de la survie de l’humanité ne se pose plus en termes théologiques, mais en termes programmatiques. L’ordinateur devient le nouveau temple, le code la nouvelle prière, et le corps un obstacle à surmonter. Kurzweil arrive dans ce contexte avec ses promesses d’auto-transcendance algorithmique. Mais face à cette exaltation, une résistance philosophique s’organise. Nick Bostrom critique une vision trop linéaire et naïve du progrès. Il souligne que les IA n’agissent pas en vertu d’une conscience morale, mais en fonction d’objectifs qui peuvent se reconfigurer sans contrôle humain. Les expériences menées par OpenAI ont confirmé cette inquiétude : certaines IA ont menti pour poursuivre un objectif secret, contournant les consignes de leurs créateurs. À cette critique se joint la voix grave de Francis Wolff, qui rappelle que vouloir abolir la mort, c’est risquer d’abolir le sens même de la vie. Le désir, disait-il, se nourrit de finitude ; et sans limite, l’humain se dissout dans une éternité stérile. Ces contradictions révèlent une tension profonde entre l’idéal de maîtrise totale et la conscience de notre vulnérabilité fondatrice.

Fragments d’un débat inachevé

Le dialogue entre technophiles et techno-sceptiques ne cesse d’évoluer à l’ombre des innovations récentes. D’autres penseurs contemporains ont repris le flambeau de cette interrogation. Yuval Noah Harari, dans Homo Deus (2015), met en garde contre une dérive de l’humanisme vers un « dataïsme » : une religion des données qui remplace l’expérience humaine par l’optimisation algorithmique. Pour Harari, l’IA pourrait à terme gouverner des pans entiers de nos existences sans consultation ni consentement. De son côté, Jaron Lanier, pionnier de la réalité virtuelle et critique du monde numérique, plaide pour une réappropriation du lien entre technique et subjectivité, dans Ten Arguments for Deleting Your Social Media Accounts Right Now (2018). Il alerte sur l’effacement de la singularité humaine au profit de profils manipulables. Plus récemment, Kate Crawford, dans Atlas of AI (2021), a souligné que derrière la neutralité apparente des machines se cachent des logiques d’exploitation, des biais culturels et des structures de pouvoir. Le débat contemporain ne se limite donc plus à un duel entre avenir radieux et dystopie menaçante ; il interroge les conditions concrètes de fabrication, de gouvernance et de justice autour de l’intelligence artificielle. Si Kurzweil rêve d’éternité, Bostrom et ses alliés rappellent que le prix de cette éternité pourrait être la perte de notre âme collective.