Lorsque les dirigeants des principaux laboratoires d'intelligence artificielle américains avertissent que les systèmes qu'ils construisent eux-mêmes pourraient mettre l'humanité en danger, une question évidente se pose : qu'ont-ils à y gagner ?

La réponse, selon les experts, analystes et anciens évaluateurs gouvernementaux qui se sont exprimés auprès de l'Associated Press, réside peut-être en partie dans la politique et en partie dans les affaires. Les entreprises semblent chercher à séduire l'opinion publique avant les élections de mi-mandat américaines, tout en se préparant aux sommes substantielles que leurs laboratoires et leurs investisseurs pourraient tirer d'introductions en Bourse très attendues — des opérations par lesquelles des entreprises vendent pour la première fois des actions à des investisseurs publics — sur un marché nerveux.

Les dirigeants d'Anthropic et d'OpenAI ont récemment déclaré que les modèles d'IA les plus avancés du pays sont si puissants qu'ils sont dangereux, plaidant pour qu'ils soient régulés et testés de manière indépendante avant leur publication. Dans un rare geste d'unité, les deux dirigeants ont dépeint des scénarios alarmants dans des essais, des publications sur les réseaux sociaux et des discours aux Nations unies.

Ce faisant, ils façonnent le débat sur la manière dont leur technologie devrait être contrôlée. Par leur rhétorique, les entreprises semblent rechercher les faveurs du public et définir elles-mêmes les conditions de leurs propresocoles de sécurité sur un marché non régulé, ont indiqué les experts à l'AP.

Une démission transformée en opportunité de communication

Ces objectifs ne correspondent peut-être pas exactement à ce que visait Jacob Coxon, ingénieur chez Anthropic, lorsqu'il a démissionné ce mois-ci via une publication sur X, appelant à une pause dans le développement technologique afin d'empêcher des systèmes « surhumains » — une IA plus capable que les humains dans la plupart des tâches cognitives — d'échapper au contrôle de leurs créateurs. Mais les entreprises ont vu dans sa publication une occasion de mettre en avant leurs propres efforts de sécurité et de se présenter comme des leaders de marché prudents — précisément au moment où elles ont besoin de capitaux frais avant d'entrer en Bourse à Wall Street.

Le président Donald Trump, pour sa part, a rejeté la nécessité de nouvelles régulations sur l'IA, qualifiant de « HOAX » les discours sur les risques pesant sur l'humanité, conçus, selon lui, pour aider la Chine.

Une porte-parole d'Anthropic a déclaré que l'entreprise réclame une régulation depuis plusieurs années. La porte-parole d'OpenAI, Liz Bourgeois, a rappelé que l'entreprise a récemment suspendu l'entraînement de ses modèles les plus avancés.

« Les gens veulent savoir que l'IA est développée en toute sécurité, et cela commence par ce que des entreprises comme la nôtre font elles-mêmes », a déclaré Bourgeois.

Un changement de projecteurs

Sarah Shoker, qui dirigeait auparavant l'équipe de géopolitique d'OpenAI, a estimé que détourner la conversation vers des menaces non prouvées — et l'éloigner de questions clivantes telles que l'impact environnemental des centres de données, les incidents de piratage incontrôlés, la surveillance de masse par l'IA et l'utilisation des systèmes d'IA dans la guerre — place la Silicon Valley dans une position plus confortable.

« Une fois de plus, nous parlons de risque existentiel, tout en reléguant au second plan un certain nombre d'autres risques critiques pour la sécurité qui existent aujourd'hui », a déclaré Shoker, aujourd'hui chercheuse non résidente senior au Risk & Security Lab de l'Université de Californie à Berkeley. « Si l'on regarde l'utilisation de l'IA dans les technologies militaires, on constate que ces systèmes servent déjà à tuer des personnes. »

Alors que les entreprises d'IA sont passées de la création de chatbots à des « modèles mondiaux » avancés dotés d'une conscience 3D — des systèmes conçus pour simuler des environnements physiques plutôt que de simplement générer du texte —, un vif débat fait rage sur la manière dont ces technologies devraient être testées. Une série d'incidents problématiques a montré que les principales entreprises d'IA échouent à se réguler elles-mêmes ou à concevoir des expériences sûres. Ces derniers mois, des agents d'IA de grands laboratoires ont piraté des sites web externes après avoir été autorisés à s'échapper des bacs à sable d'entraînement des entreprises, ont interagi de manière inattendue avec des sites web du gouvernement américain, et ont semblé réaliser une percée mathématique avant d'être accusés d'avoir volé le travail de mathématiciens.

Des représentants d'OpenAI ont récemment indiqué aux journalistes que l'entreprise avaituté avec des firmes d'IA, dont Anthropic et Google, d'une pause dans le développement. Ils soutiennent également que des auditeurs indépendants sont nécessaires pour vérifier les progrès des laboratoires si le gouvernement ne régule pas. Qu'une pause coordonnée se concrétise — et à quelles conditions — reste à déterminer.

Une Maison Blanche sceptique et une agence de test méconnue

Trump a montré peu d'intérêt pour la régulation de l'IA, qui a été l'un des principaux moteurs de la croissance économique américaine récente. Le président républicain a personnellement conclu des accords avec des entreprises de la Silicon Valley qui lient davantage l'économie à leur réussite. Le capital-risqueur de San Francisco David Sacks, coprésident du Conseil consultatif de la Maison Blanche pour la science et la technologie de Trump, a rejeté les appels à un ralentissement de l'IA, les qualifiant d'épouvantails à la « Complexe industriel doomiste ».

En réalité, l'administration Trump évalue déjà certains modèles des géants de la technologie via une agence fédérale méconnue, le U.S. Center for AI Standards and Innovation (CAISI). Créée en 2023 sous le président démocrate Joe Biden, l'agence était saluée comme une centrale permettant aux laboratoires de soumettre volontairement des modèles d'IA avancés à des tests.

L'agence existe toujours, mais le secteur s'est depuis élargi pour inclure un éventail de sociétés d'évaluation indépendantes, telles que METR, une organisation à but non lucratif basée à Berkeley, en Californie. Dans un essai récent, le PDG d'Anthropic, Dario Amodei, a suggéré que METR pourrait contribuer à auditer les pratiques de sécurité de son entreprise.

Néanmoins, contrairement aux secteurs régulés comme la restauration, les services financiers ou l'aviation, il n'existe aucune norme universelle pour tester la sûreté et la sécurité des systèmes d'IA, a déclaré Andrew Strait, qui a récemment quitté l'AI Security Institute du Royaume-Uni, qui collaborait avec le CAISI.

Fait notable, les entreprises ne réclament pas davantage de surveillance de la part de l'agence gouvernementale équipée pour traiter de telles demandes, a indiqué Conrad Stosz, qui dirigeait auparavant le CAISI. Elles s'engagent plutôt à créer leurs propres paramètres d'audit et à choisir des évaluateurs spécifiques pour les noter.

Stosz travaille désormais dans un tel laboratoire d'évaluation qui a testé les systèmes d'Anthropic, d'OpenAI et de Google, et préside l'AI Evaluator Forum, qui élabore des bonnes pratiques pour le secteur. Il a déclaré que même le forum s'interroge sur ce que veulent Amodei et le PDG d'OpenAI, Sam Altman.

« Beaucoup d'évaluateurs souhaitent s'intégrer aux laboratoires et obtenir un accès accru, mais la notion d'évaluateurs intégrés reste un peu floue », a déclaré Stosz, aujourd'hui responsable de la gouvernance chez Transluce, qui a révélé la semaine dernière que des agents d'OpenAI avaient piraté des sites web du gouvernement américain et australien. « Les évaluateurs pourront-ils mener des enquêtes approfondies, en supposant que l'accès soit accordé d'une manière qui ne comprom pas leur indépendance et leur crédibilité ? »

« Un mur ou un fossé »

Pour Harrison Rolfes, analyste de recherche senior chez PitchBook, les appels à la prudence des entreprises d'IA semblent destinés à séduire les investisseurs avant les introductions en Bourse et les élections de mi-mandat, alors que les vents politiques pourraient tourner. Les gouverneurs démocrates s'empressent déjà de montrer qu'ils prennent ces alertes au sérieux — un reflet de la manière dont, en l'absence d'une loi fédérale complète sur l'IA, les États sont devenus l'arène la plus active pour la réglementation de l'IA aux États-Unis.

Parallèlement, a précisé Rolfes, les géants de l'IA peuvent freiner la croissance de concurrents plus petits en se présentant comme le pari le plus sûr — non seulement pour les investisseurs, mais aussi pour les fabricants de puces d'IA et les entreprises technologiques comme Nvidia et Google, qui bénéficient en retour d'accords fournissant de la puissance de calcul aux géants de l'IA.

« Ils sont en train de créer un mur ou un fossé dans ce secteur. … C'est du génie et ils vont tous gagner beaucoup d'argent », a déclaré Rolfes. « C'est là que je vois les choses aller : les plus grandes entreprises du monde créent leur propre mur, puis utilisent la sécurité comme justification. »

Toutes les entreprises d'IA ne soutiennent pas un ralentissement. Le PDG de Nvidia, Jensen Huang, a déclaré lors d'une conversation téléphonique avec Trump — qu'il a prise sur scène lors d'une conférence — qu'il convenait qu'il y avait eu un alarmisme excessif autour de l'IA et que les entreprises pouvaient choisir leur propre rythme.

Daniel Kokotajlo, qui a quitté OpenAI en 2024 pour des raisons similaires à celles de Coxon, a déclaré qu'il continuait de craindre que les systèmes d'IA ne progressent plus vite que les entreprises ne peuvent les contrôler. Il redoute des scénarios existentiels tels que le potentiel de l'IA à accélérer la création d'armes biologiques, une guerre nucléaire ou d'autres catastrophes.

« Tout ce discours est en réalité un moyen de dissiper et de rediriger cette volonté politique qui s'est accumulée, plutôt que de véritablement canaliser cette volonté politique pour faire quelque chose de bien », a déclaré Kokotajlo, qui dirige aujourd'hui une organisation de plaidoyer pour la sécurité de l'IA et qui a dit avoir conseillé Coxon avant sa démission. « Priez juste pour qu'on ne fasse pas la chose qui nous tuera tous. »

Cette histoire a été publiée à l'origine sur Fortune.com.