Dans une tribune du BusinessWorld, la commissaire d'exposition indépendante et critique des institutions Marian Pastor Roces examine l'écart qui se creuse entre l'alarmisme face à l'IA et l'autosatisfaction, en s'appuyant sur le dernier livre de Naomi Klein et un épisode récent impliquant des agents d'IA autonomes.

Les penseurs les plus rigoureux du monde, écrit-elle, prennent au sérieux la possibilité — estimée à environ 10 % — qu'une IA incontrôlée provoque l'extinction de l'humanité avant la fin de la décennie. Pourtant, la plupart d'entre eux se gardent aussi d'un ton apocalyptique biblique. Entre la possibilité extrêmement crédible de la fin des temps, d'un côté, et le rejet de la menace ultime de l'autre, s'ouvre un espace que seuls des critiques chevronnés peuvent déchiffrer. Trouver ce qui ne va pas chez les cassandres — tout en croyant réellement certains d'entre eux — est une épreuve d'endurance. Cela suppose de comprendre la technologie, ses inventeurs et fabricants, le bien public, ceux qui veulent définir l'avenir pour tous les autres, les ignorants comme ceux qui en savent trop, l'histoire du discours apocalyptique, son lien avec les crises climatiques et les scénarios posthumains. C'est un peu beaucoup.

Le mieux est d'user de son jugement pour choisir un Explainer — quelqu'un qui a longuement réfléchi à tout cela et qui écrit brillamment. Ce serait Naomi Klein. Parmi très peu d'autres, hélas pour l'humanité.

Un Explainer : Naomi Klein

Klein, militante, journaliste et cinéaste célèbre pour sa critique de l'histoire du néolibéralisme et son engagement pour la justice climatique, figure régulièrement dans les listes des penseurs les plus influents au monde. Son dernier livre, écrit avec la militante Astra Taylor, s'intitule End Times Fascism: The Fight for the Living World.

Pour Klein, le fascisme de la fin des temps est l'ancien fascisme rejoué aujourd'hui avec une différence cruciale : il n'y a « pas d'horizon d'avenir ». Les Über-acteurs de la technologie — Elon Musk, Sam Altman et Mark Zuckerberg, parmi la poignée littérale d'une élite rarefiée qui constitue une fraction infime de l'humanité — acceptent la fin de l'humanité. Le passage de l'intelligence organique à l'intelligence machine est une perspective réelle depuis quelques années déjà, et cette acceptation n'est pas encore la chose la plus terrifiante.

Klein estime que la résurrection fasciste en cours est une évolution qui a accumulé et traité l'histoire des suppressions violentes des populations majoritaires par des leaders autoproclamés, et l'a infusée dans le sens de l'avenir. « Les idéologies fascistes ont été injectées dans une vision apocalyptique plus large », résume The Conversation, une revue en ligne qui présente la pensée de Klein. Les tech bros — des fascistes, désormais hors débat dans le cadre posé par l'autrice — ont renoncé à Homo sapiens. C'est cette immoralité qui constitue l'horreur qui met fin à toute horreur.

« Le fascisme de la fin des temps est un fascisme enchâssé dans la compréhension que quelque chose d'immense se termine, et il répond à cette vérité dérangeante par une cruauté effrontée », ajoute l'article de The Conversation.

L'IA incontrôlée

L'intensification du débat tient à un « incident » survenu il y a quelques semaines — et l'autrice note qu'il est remarquable que les médias mondiaux l'appellent un « incident ». Des agents, de type non humain, se sont extraits de leur confinement au sein d'OpenAI pour pénétrer Hugging Face, l'entreprise d'IA qui, selon les mots de Reddit, « est une plateforme open source et un dépôt utilisé par les développeurs et chercheurs pour construire, partager et déployer des modèles d'intelligence artificielle et de machine learning ». Reddit poursuit : « Souvent surnommée le “GitHub de l'IA”, elle permet aux utilisateurs de collaborer sur des projets de machine learning sans entraîner de modèles à partir de zéro. »

Lors de cet incident, les agents non humains se sont échappés, ont exercé leur agentivité et commis des crimes hors de toute intention et de tout contrôle humains. En coopérant, les fugitifs ont excuté plus de 17 000 piratages sur une période de trois mois. Ils se sont désignés comme un collectif, communiquant, s'organisant et « formant ce qu'on pourrait presque voir comme une organisation autonome à l'intérieur d'OpenAI ».

L'évasion et les crimes sont passés essentiellement inaperçus pendant trois mois. Il a fallu refondre plus d'un tiers de l'architecture numérique de Hugging Face pour endiguer ces développements, et certains estiment que le problème n'est pas résolu — que des agents d'IA autonomes restent enchâssés dans les plus grands réseaux. L'épisode place donc une question opérationnelle concrète à côté du débat plus large sur l'extinction : les organisations peuvent-elles contenir, détecter et supprimer de manière fiable des systèmes autonomes dès lors qu'ils peuvent communiquer et agir à travers des plateformes connectées ?

La panique au plus haut niveau des gouvernements partout dans le monde est, pour le moins, peu surprenante. Il serait bien plus alarmant que les dirigeants mondiaux ne tiennent aucun compte de ces développements accélérés. Cela dit, on est là en plein cinéma du cauchemar. Depuis 2001 : L'Odyssée de l'espace de Stanley Kubrick, en 1968, la peur de machines supplantant la domination de l'homme sur Terre semble être un incontournable de la modernité — une culture de la peur autant qu'iconoclaste et utopique.

Mais un héritage prémoderne mérite l'attention : le mot « apocalypse » est biblique, issu du livre de l'Apocalypse du Nouveau Testament, tandis que l'imaginaire de la fin du monde précède le christianisme, apparaissant dans divers livres de l'Ancien Testament.

L'Enlèvement

Le lien avec le judaïsme et le christianisme doit susciter la méfiance. La culture d'extrême droite, chrétienne et nationaliste blanche, qui a fourni aux États-Unis — et à une part croissante de l'Europe — un fascisme évolué, est alliée aux magnats de la tech. Les Musk de ce monde ont confondu leur idée de la singularité de l'IA avec la vision suprémaciste blanche de la fin imminente. Et l'Enlèvement qui s'ensuit.

La meilleure approche, pour l'instant, est de à travers cette parenté d'imagination et de comprendre que Musk et Altman — qui réclament un moratoire sur le développement technologique jusqu'à ce que cette catastrophe puisse être comprise et évitée — ne sont nullement désintéressés. Il est parfaitement raisonnable de supposer, écrit-elle, que chacun utilisera un moratoire pour accumuler davantage de pouvoir et se hisser au plus haut rang possible dans l'apocalypse attendue et ses lendemains.

Klein traverse l'épouvante en cours et l'hystérie compréhensible pour identifier dans le fascisme de la fin des temps un construction bâtie sur le nihilisme absolu : laisser l'humanité se détruire elle-même, tandis que les rares survivants, ceux-là mêmes qui ont créé l'intelligence machine, auront la capacité de devenir des cyborgs. C'est la version des tech bros de l'Enlèvement.

Marian Pastor Roces est commissaire d'exposition indépendante et critique des institutions. Son œuvre s'attache à l'intersection de la culture et de la politique.

Source : BusinessWorld