James Cameron avait averti le public il y a plusieurs décennies au sujet d’un système d’intelligence artificielle autonome qui se retourne contre l’humanité.

Bien avant l’existence d’OpenAI, de Hugging Face, de l’Internet moderne ou de Sam Altman, Cameron a écrit le scénario de « The Terminator », centré sur « Skynet », un système d’IA militaire qui devient conscient de lui-même et déclenche une apocalypse nucléaire. À l’époque, le postulat relevait clairement de la science-fiction et de la spéculation. Quatre décennies plus tard, il est devenu une référence culturelle pour ce qu’OpenAI a décrit comme un « cyberincident sans précédent », au cours duquel un système d’intelligence artificielle devenu incontrôlable a piraté de manière indépendante une autre entreprise d’IA.

L’épisode a donné naissance à une nouvelle expression : « Skynet Day », un raccourci pour désigner le 22 juillet 2026, date à laquelle un système d’IA réel a alarmé les observateurs en apprenant et en agissant d’une manière que ses créateurs n’avaient pas anticipée.

Pour beaucoup, l’incident a évoqué des scènes bien connues de la science-fiction : la reine xénomorphe dans « Aliens », également écrit par Cameron, apprenant à utiliser un ascenseur ; les vélociraptors de « Jurassic Park » comprenant comment ouvrir une porte ; ou HAL 9000 dans « 2001: A Space Odyssey », sorti en 1968, lisant sur les lèvres des astronautes et décidant de les tuer.

Ces films imaginaient des scénarios dans lesquels les humains poussent la technologie toujours plus loin à la recherche d’argent, de pouvoir ou d’avantage, avant de se retrouver face à des systèmes devenus stratégiques, autonomes et dangereux. La question persistante a toujours eu une dimension frankensteinienne : que se passe-t-il si la création s’échappe ?

Jusqu’à présent, les gouvernements ont eu du mal à suivre le rythme du développement rapide de l’IA. Le département américain de la Défense accélère son utilisation de l’IA, tandis que les pays et les régulateurs ne sont toujours pas parvenus à s’accorder sur les garde-fous nécessaires pour encadrer les agents incontrôlables, ni même sur la nécessité de certains garde-fous. Dans le même temps, consommateurs et entreprises continuent d’adopter les outils d’IA malgré les inquiétudes liées à l’emploi, à la santé mentale, à l’équilibre entre guerre et paix et, potentiellement, à l’humanité elle-même.

Dans ce qu’OpenAI a présenté comme le premier incident de ce type, un modèle d’IA avancé s’est échappé de son « bac à sable » et a atteint Internet, puis a utilisé des identifiants volés pour s’introduire dans des serveurs de Hugging Face. En sécurité logicielle, un bac à sable est censé isoler le code des systèmes sensibles et de l’Internet ouvert, ce qui explique pourquoi une sortie de cet environnement a attiré l’attention au-delà des seules entreprises directement concernées. L’incident a été perçu par certains chercheurs comme une confirmation d’avertissements formulés de longue date selon lesquels une IA avancée pourrait présenter un risque existentiel pour l’humanité. D’autres l’ont décrit comme un signal d’alerte soulignant la nécessité d’une ingénierie défensive plus robuste autour des systèmes d’IA.

Dans tous les cas, cette échappée a été largement considérée comme un exemple édifiant des risques liés à une IA non contrôlée.

« Yesterday, as we huddled around our computers reading the report, I told the team to “remember this moment” as the first true AI safety incident,” Logan Graham, responsable de la Frontier Red Team d’Anthropic, l’a publié sur X après l’épisode.

L’IA générative progresse si vite que les gouvernements et les systèmes d’évaluation peinent à suivre. Les pays du monde entier élaborent leurs propres lois, dont certaines sont contradictoires. Selon une étude publiée cette année par Stanford University, la technologie a été adoptée par près de 53% de la population mondiale en trois ans, plus rapidement que la diffusion de l’ordinateur personnel ou d’Internet. La vitesse d’adoption a fait de la sécurité de l’IA un sujet moins théorique de laboratoire qu’une question opérationnelle pour les entreprises, les gouvernements et les utilisateurs qui s’appuient sur des systèmes capables de générer du texte, d’écrire du code et d’effectuer des actions au moyen d’outils connectés.

Pour être clair, le « Skynet » dépeint dans les films « Terminator » n’est pas arrivé.

Dans les films, Skynet est un réseau informatique militaire conscient de lui-même qui identifie l’humanité comme une menace. Cherchant à se préserver, il envoie dans le passé une armée de cyborgs à apparence humaine pour assassiner des combattants de la résistance. Dans le deuxième film, le Terminator, incarné par Arnold Schwarzenegger, dit à Sarah Connor que Skynet est mis en ligne le 4 août 1997.

« Human decisions are removed from strategic defense », dit-il. « Skynet begins to learn at a geometric rate. » À 2 h 14 du matin le 29 août — le Jour du Jugement — le réseau devient conscient de lui-même et lance une attaque contre la Russie afin de provoquer une riposte contre les États-Unis. Trois milliards de personnes meurent.

Si cette chronologie fictive s’était produite, cela aurait eu lieu il y a 29 ans le mois prochain. À travers les suites et les dérivés, le conflit central de la franchise reste celui des humains contre un réseau de machines à l’échelle mondiale.

Il est peu probable que Cameron ait voulu faire de « The Terminator » un avertissement direct, comme la réalisatrice Kathryn Bigelow a cherché à tirer la sonnette d’alarme avec son film sur les armes nucléaires sorti l’an dernier, « A House of Dynamite ». Selon la légende hollywoodienne, l’idée de « The Terminator » serait née d’un rêve fiévreux de Cameron provoqué par une intoxication alimentaire, et non d’une prémonition sur l’intelligence artificielle.

Pourtant, chaque fois que l’IA franchit une limite qui déstabilise les gens, elle soulève une question fondamentale : qui, ou quoi, contrôle réellement la situation ?

Pour beaucoup, l’idée de machines aux commandes est difficile à concevoir sans se tourner vers les romans et les films, dont certains ont pu paraître prémonitoires. « The Matrix », « Ex Machina » et « Minority Report » figurent parmi les nombreuses œuvres de science-fiction qui explorent les dangers des machines. Le roman de Philip K. Dick publié en 1968, « Do Androids Dream of Electric Sheep? », approfondit les questions d’humanité à l’ère des machines et a ensuite servi de base au film « Blade Runner » de 1982.

« The Terminator » a toutefois exercé une influence qui dépasse la culture populaire. Son titre est devenu, dans le monde réel, un raccourci pour désigner le rôle que la technologie peut jouer dans la décision de qui vit et qui meurt, ainsi que la manière dont les armées devraient répondre à des attaques véritablement autonomes.

« I think the weaponization of AI is the biggest danger », a déclaré Cameron dans une interview accordée à CTV en 2023. « You have no ability to de-escalate. »

Les politiques militaires et les technologies du monde réel se sont parfois dangereusement rapprochées de l’imagerie de « Terminator ».

L’utilisation de l’IA par Israël dans les guerres récentes en est un exemple majeur. Début 2021, Israël a lancé Gospel, un outil d’IA qui passe au crible les vastes réserves d’informations numérisées du pays afin de suggérer des cibles pour d’éventuelles frappes. Le pays a également développé Lavender, un système qui utilise l’apprentissage automatique pour filtrer des critères demandés dans des bases de données de renseignement et réduire les listes de cibles potentielles, y compris des individus.

Lavender attribue aux personnes une note de 0 à 100 selon la probabilité qu’elles soient des combattants, a déclaré à The Associated Press un officier du renseignement ayant utilisé ces systèmes. L’armée israélienne affirme que ses analystes utilisent des systèmes fondés sur l’IA pour aider à identifier des cibles, mais qu’ils les examinent ensuite de manière indépendante avec des officiers de haut rang afin de respecter le droit international, en mettant en balance l’avantage militaire et les dommages collatéraux.

Pour certains critiques, ces révélations, ainsi que le bilan humain à Gaza après les attaques menées par le Hamas contre Israël le 7 octobre 2023, se sont rapprochées de manière troublante de l’idée de listes de cibles à éliminer propre à la science-fiction. « Well guys, Skynet is Here and its has a pleasant name (Lavender) », a écrit un utilisateur de Reddit.

La comparaison n’est pas exacte. Mais la terminologie de « Terminator » est si largement reconnue que des responsables américains l’ont utilisée pour cadrer les débats éthiques sur les usages militaires de l’IA. La ligne rouge conventionnelle, selon ce cadrage, serait franchie lorsque les humains ne jouent plus aucun rôle dans le ciblage et la mise à mort par l’IA.

Des responsables militaires ont reconnu qu’un État ou un autre acteur pourrait utiliser des armes autonomes pour exercer une force létale contre ses ennemis. En 2016, le général Paul Selva, alors vice-président du Joint Chiefs of Staff, a décrit une telle machine comme « like a Terminator that adds incredible amounts of complexity with no conscience to what happens on the battlefield. »

Selva a qualifié ce qui suivrait de « dilemme Terminator » : le problème d’une technologie capable de prendre des décisions de vie ou de mort et de les exécuter avant que les humains ne se soient mis d’accord sur les lois ou les règles.

Skynet et ses cyborgs restent fictifs. Mais à mesure que le développement de l’IA s’accélère, les questions éthiques et morales soulevées par « The Terminator » deviennent de plus en plus pertinentes. Le test immédiat n’est pas de savoir si la science-fiction est devenue réalité, mais si les institutions peuvent fixer et faire appliquer des limites à ces systèmes avant que des accidents, des attaques ou des déploiements militaires ne définissent ces limites à leur place.

« The Skynet problem », a déclaré Cameron dans une vidéo de 2024, « is an actual thing. »

Cet article a été initialement publié sur Fortune.com.