Quantcast
Image : Scène de Zardoz (1974).

À genoux devant le dieu-machine

Wolfram Klinger

Plusieurs décennies après l'Église de Scientologie, la religion Digitaliste a provoqué une vague de ferveur sans précédent au cœur de la Silicon Valley.

Image : Scène de Zardoz (1974).

Depuis peu, la Silicon Valley a entrepris d'institutionnaliser ses croyances religieuses. Comme Wired l'annonçait récemment, Anthony Levandowski – l'ingénieur qui se trouve actuellement au cœur d'un procès opposant Waymo à Uber sur une affaire de secret industriel – a fondé une organisation religieuse appelée Way of the Future dont le but est de "développer et promouvoir la réalisation d'une Divinité basée sur l'Intelligence Artificielle". Selon Wired, Way of the Future serait née en septembre 2015.

Le même mois, je participais à une conférence à Chamonix rassemblant des top managers du secteur tech et des technologues distingués, afin de discuter du futur de nos sociétés. J'ai ainsi rencontré des grands pontes de Google et d'eBay ainsi et le directeur d'un think tank américain très influent à l'occasion d'une table-ronde intitulée : "La technologie bouleverse le monde – que se passe-t-il ?"

J'ai alors assisté à une scène étonnante. Les intervenants ont immédiatement orienté la discussion sur les bienfaits de la numérisation, répétant à l'envi que la révolution numérique avait pacifié l'ensemble de la planète. Chacun y allait de sa petite remarque sur la portée salvatrice de l'IA et de l'innovation technologique. Quoique j'ai entendu ce discours à maintes reprises au cours de ma carrière, cette fois-ci, il m'est apparu sous un jour différent. Il était plus dense, plus puissant, plus fervent, et ne laissait pas de place à la contradiction.

Tout à coup, les gens qui m'entouraient semblaient être les prophètes d'une nouvelle religion, des croyants véritables invoquant une Terre Promise virtuelle.

Dans la version du paradis de ces techno-prophètes fortunés, les voitures conduisent toutes seules, les usines produisent de manière autonome, les technologies guérissent toutes les maladies, la réalité virtuelle nous permet de vivre nos rêves instantanément et les robots nous comprennent mieux que nous ne nous comprenons nous-mêmes. Ils nous promettent la vie sur une terre d'abondance où des poulets rôtis sur demande viennent remplir nos assiettes, et où nos boissons préférées s'acheminent vers notre bouche après une simple sollicitation mentale.

À la tête de ce Royaume terrestre, une super-intelligence bienveillante qui absoudra toutes les péchés de l'humanité, mettant fin au changement climatique et à la pauvreté tandis que nous jouirons pour l'éternité, hypnotisés par nos écrans et servis par des machines-esclaves.

"Cette ferveur est proprement fascinante", disait William Gibson en évoquant la Silicon Valley dans une interview publiée cette année dans Das Magazin. "Ces gens sont des athées, ils affirment qu'ils n'appartiennent à aucune religion, et pourtant ils sont pénétrés de croyances toutes religieuses. Ils pensent qu'un Dieu va venir nous sauver. La technologie."

Il me semble à moi que ces types ont bel et bien une religion : le Digitalisme, ou le culte des machines. Ses prêtres croient en la possibilité de transcender la condition humaine et d'abolir la mort grâce à la technologie.

Tout comme le christianisme promet la rédemption du péché originel, le Digitalisme promet la rédemption du péché fondamental de l'humanité : son inefficacité.

Comme l'expliquait le cofondateur de Wired, Kevin Kelly, dans un article de 2002 intitulé "God is the Machine", les Digitalistes croient de manière littérale en une sorte de pouvoir transcendant de l'informatique. En ce sens, le Digitalisme est lié aux croyances des transhumanistes, extropiens, post-humanistes et autres mouvements similaires, et prospère sur un terrain où les religions traditionnelles sont en déclin (tandis que les mouvements évangélistes sont en plein essor).

Pour ces fanatiques, remettre la société entre les mains d'une IA super-intelligente ne comporte pas de risques – car si risques il y a, les ordinateurs seront bientôt assez intelligents pour les gérer. On pourrait s'attendre à ce qu'ils reconnaissent au moins que la sécurité informatique est aujourd'hui un enjeu essentiel avec lequel on ne peut pas faire de compromis. Pourtant, aucun des intervenants du séminaire de Chamonix n'a jamais lâché le moindre mot sur le piratage et la vie privée.

Plus les pontes de Google parlaient, plus l'analogie avec les adeptes des religions traditionnelles me semblait évidente. Si vous ne promouvez pas activement le Digitalisme, vous serez laissé de côté ; vous ferez partie d'une espèce misérable, inférieure et anachronique dans un monde analogique dysfonctionnel, sale et bientôt éteint.

Au cœur du discours digitaliste, il y a l'idée selon laquelle les machines sont destinées à compenser la nature imparfaite de l'homme. Tout comme le christianisme promet la rédemption du péché originel, le Digitalisme promet d'effacer le péché fondamental de l'humanité : son inefficacité. Nos cerveaux limités, nos esprits distraits et confus, nos émotions irrationnelles et nos corps vieillissants, tout ces tares pourront être dépassées grâce à la Sainte Machine.

Selon cette nouvelle religion, la rédemption numérique prendra la forme d'une intervention de machines super-intelligentes, de puces à implanter dans nos cerveaux et de disques durs sur lesquels uploader nos consciences (selon la vision du prophète de Google, Ray Kurzweil). Tandis que les religions traditionnelles croient en une âme immortelle, les digitalistes estiment que l'immortalité est accessible par l'intermédiaire de lignes de code disposées en un arrangement parfait. Le Digitalisme propose une solution définitive à tous les problèmes rencontrés par les humains. En fait, ses adeptes méprisent l'humanité. Ils estiment que le facteur humain doit être éliminé afin de construire un monde idéal.

Christopher Mims, journaliste au Wall Street Journal, expliquait dans un article sur la cybersécurité publié en janvier dernier que "l'être humain possède une faiblesse intrinsèque que l'on ne peut réparer". Pour compenser ce défaut, il estime que "nous pouvons construire des systèmes informatiques clos susceptibles d'endiguer la propagation des erreurs humaines. Jusqu'à ce que nous ayons la capacité de mettre à jour le cerveau humain, cela parait être une stratégie raisonnable."

Le rejet de ce que les digitalistes appellent "le facteur humain", combiné au rêve d'une machine parfaite toute-puissante, les rapproche fondamentalement du post-humanisme le plus débridé, avec des atours plus intellos et plus civilisés. On pourrait également voir chez eux une certaine analogie avec des fondamentalistes contemporains. Comme le philosophe André Glucksmann l'expliquait dans son ouvrage Dostoïevski à Manhattan, c'est la négation et la destruction de toutes les valeurs humaines qui a fait le succès l'État islamique – en quelque sorte, l'EI propose une version violente, barbare et belliqueuse du post-humanisme.

Les digitalistes annihileraient sans hésitation l'imperfection humaine, s'ils étaient certains de pouvoir eux-mêmes se transformer en machines.

Comme de nombreux post-humanistes, les digitalistes estiment que nous vivons actuellement les derniers instants de l'espèce Homo sapiens. Ils sont persuadés que la fusion de l'humanité et de la machine en une nouvelle super-espèce est proche : une vingtaine d'année. Cet espoir est comparable à l'attente du Messie chez les Chrétiens. Selon les grands prêtres de la Singularité, une super-intelligence semblable à Dieu s'apprête à surgir du néant pour marquer l'entrée dans l'âge d'or de la machine.

La Silicon Valley, avec son culte du chef (le CEO, l'entrepreneur tech qui a réussi) et ses coutumes très masculines, ressemble parfois à un État religieux à part entière. De même, la croyance en l'immaculée conception de Marie, le mythe sur lequel est adossé la naissance du Christ, n'est pas très loin de l'idée selon laquelle nous pourrons faire émerger la conscience d'une machine pour peu que l'on utilise la bonne série de 0 et de 1.

Chez les digitalistes, ces croyances sont adossés à un soupçon de nature métaphysique : l'idée selon laquelle l'univers – voir Dieu lui-même – serait un ordinateur, et la réalité une simulation. Ainsi, si l'humanité développait suffisamment sa puissance de calcul, elle pourrait ne faire qu'un avec Dieu – ce qui est le désir ultime de nombreuses religions.

L'article de Kevin Kelly de 2002 est l'un des premières à utiliser le terme de Digitalisme. "D'une manière ou d'une autre, selon le digitalisme, nous sommes – êtres vivants et inertes – tous liés les uns aux autres. Nous partageons, comme l'explique le physicien John Wheeler, 'un principe universel et immatériel.'", écrit Kelly. "Ce principe commun, évoqué par les mystiques de toutes les religions, porte aussi un nom scientifique : le calcul. Les bits, les atomes de la logique, peuvent être compris à partir de leur forme spirituelle par l'intermédiaire des quarks quantiques, des ondes gravitationnelles, des pensées brutes."

De cette remarque confuse qui, paradoxalement, montre un certain dédain pour le raisonnement scientifique, on peut déduire une chose ; il n'existe qu'une seule différence entre le Digitalisme et les religions traditionnelles : les digitalistes sont persuadés qu'ils ne croient en rien.

"Nous évoquons uniquement des faits", a d'ailleurs conclu l'un des participants de la conférence, après avoir essuyé une critique sur la nature hautement spéculative de ses propos.

Quand Dieu lui envoie ce qu'il estime être des malheurs ou des calamités, le croyant fanatique en déduit qu'il n'a pas pratiqué sa religion comme il le faudrait. Chez les techno-prophètes de Chamonix, lorsqu'un problème émerge de l'usage des technologies, d'autres technologies permettront de le résoudre. Quand le dieu-machine teste votre foi, vous devez approfondir votre foi en la machine. Ainsi, la vision digitaliste appelle à utiliser toujours plus de calculs afin de computer la réalité en limitant au maximum les interférences humaines, qui sont sources d'erreurs. Elle appelle de ses vœux une société en pilote automatique, guidée par l'intelligence artificielle. Deux cents ans après Kant, les humains pourront enfin cesser d'utiliser leurs cerveaux imparfaits pour effectuer des tâches opérationnelles et logiques.

À la fin de la conférence – qui aura été surréaliste de bout en bout – les organisateurs ont diffusé "Imagine" de John Lennon. Ils avaient trouvé, en quelque sorte, un hymne à leur mouvement.

À ce moment là, la chanson m'a semblé paraphraser la nouvelle mission officielle de Facebook. "Il faut donner aux gens le pouvoir de bâtir une communauté, et de se rapprocher les uns des autres", déclarait Mark Zuckerberg à ses managers il y a quelques mois. Comme le démontre la logique des médias sociaux, le beau récit que nous avons développé sur le futur de l'humanité n'a pas besoin d'être réaliste et cohérent – tant qu'il est viral.

Parce que nous sommes bombardés d'idées digitalistes à longueur de temps, nous pouvons parfois oublier que le réel colle rarement aux visions des prophètes de telle ou telle époque. Comme le site Salon le rappelait récemment, cette nouvelle mystique de la machine est le produit du culte des entrepreneurs du milieu tech, qui sont devenus – à l'image d'Elon Musk – des prêtres puissants offrant des récits de dimension biblique. Il est grand temps de combattre cette religion, qui devient lentement, mais sûrement, la pire de toutes.

You may say I'm a dreamer
But I'm not the only one
I hope someday you'll join us
And the world will be as one


Wolfram Klingler est le fondateur du XTP Group et de credX. Ces deux entreprises ont pour mission d'augmenter la transparence et l'efficacité du secteur des services financiers en utilisant une approche axée sur l'usage de technologies propriétaires, dans le but d'accompagner les investisseurs et de sauvegarder leurs intérêts.