OpenAI a demandé à des membres du Congrès si des entreprises d’intelligence artificielle concurrentes pouvaient légalement convenir de ralentir leur développement, selon WIRED. Cette démarche intervient alors que le scientifique en chef d’OpenAI, Jakub Pachocki, exhorte le secteur à établir des normes de sécurité communes et à envisager des pauses volontaires jusqu’à ce que les développeurs puissent mieux démontrer que leurs systèmes sont sûrs.

WIRED, citant des sources proches d’OpenAI, a rapporté que l’entreprise avait demandé aux parlementaires ces dernières semaines si un accord entre développeurs d’IA visant à ralentir les progrès pouvait enfreindre les lois antitrust. Un arrangement limitant la concurrence pourrait soulever des préoccupations en matière d’antitrust, même si une législation présentée par les sénateurs Adam Schiff et Jim Banks protégerait certaines collaborations liées à la sécurité lorsque les participants en informent au préalable le ministère de la Justice.

Selon des experts, les financements et les pressions concurrentielles rendent difficile un ralentissement indépendant du développement par les entreprises. « La concurrence commerciale et géopolitique dans le domaine de l’IA est incroyablement intense, ce qui crée une dynamique préoccupante dans laquelle les entreprises sont incitées à commercialiser des produits avant que leurs risques ne soient pleinement compris », a déclaré à Decrypt Miranda Bogen, directrice de la technologie au Center for Democracy and Technology.

« Même lorsque les équipes internes savent que davantage de recherches et de tests sont nécessaires, leurs entreprises subissent une pression immense pour réduire les exigences et omettre des tests de sécurité essentiels, malgré l’accumulation de preuves sur les conséquences d’une progression trop rapide », a-t-elle ajouté.

Cette discussion intervient alors que les États-Unis et la Chine se livrent une compétition pour le leadership dans l’IA. Le président américain Donald Trump a retardé en mai un décret présidentiel sur l’IA, craignant qu’il ne compromette l’avance des États-Unis sur la Chine. Il a ensuite signé le décret en juin, créant une procédure d’examen volontaire des modèles avancés avant leur mise à disposition.

Les incitations financières pourraient constituer un obstacle encore plus direct à la coordination. « Dans les conditions actuelles, chaque avancée génère des financements supplémentaires se chiffrant en dizaines ou en milliards de dollars et place ses créateurs dans une position accrue de pouvoir et d’influence », a déclaré à Decrypt Duncan Sabien, responsable de la communication au Machine Intelligence Research Institute.

Sabien a déclaré que la dynamique de course aux armements était réelle et qu’OpenAI et Anthropic subissaient des pressions pour continuer à progresser malgré l’incertitude entourant les risques. Chaque nouveau système peut contribuer à produire des successeurs plus performants, ce qui crée la possibilité qu’un concurrent prenne de l’avance si l’une des entreprises ralentit sans accord commun.

« Cela est particulièrement vrai puisque les progrès en matière d’intelligence sont cumulatifs ; chaque nouveau système facilite l’entraînement et le déploiement du système suivant, plus avancé », a-t-il déclaré. « En l’absence d’un mécanisme de coordination, prendre du recul signifie simplement que l’autre prendra l’avantage. »

OpenAI a suspendu en août ses travaux internes sur Astra, car ceux-ci ne comportaient pas de mesures de protection suffisantes face aux préoccupations liées à la cybersécurité. En février, toutefois, OpenAI et Anthropic ont toutes deux assoupli leurs engagements en matière de sécurité. Le directeur scientifique d’Anthropic, Jared Kaplan, a estimé qu’il était moins pertinent de ralentir le développement de manière indépendante tant que les concurrents continuaient d’avancer.

Le débat s’est intensifié cette semaine après que l’ancien ingénieur d’Anthropic Jacob Coxon a annoncé publiquement sa démission, invoquant les risques que le développement continu de l’IA fait peser sur l’humanité.

« Les personnes qui construisent l’IA croient sincèrement qu’elle pourrait tous nous tuer d’ici la fin de la décennie », a déclaré Coxon sur X, ajoutant qu’il ne s’agissait pas d’un « coup marketing ». « Au contraire, de nombreux dirigeants et chercheurs de haut niveau formuleront leurs propos dans la presse de manière à paraître raisonnables — mais j’entends ces mêmes personnes exprimer leur peur en privé. Aucune autre activité humaine ne présente un tel niveau de danger », a-t-il écrit.

Sabien a déclaré que les chercheurs pourraient accomplir peu de choses en partant si quelqu’un d’autre les remplaçait simplement. « Si un nombre suffisant d’entre eux acquièrent la connaissance commune qu’ils devraient tous s’arrêter, ils peuvent franchir l’obstacle de la coordination et s’arrêter ensemble, plutôt que d’être simplement remplacés par la personne suivante, légèrement moins prudente », a-t-il déclaré.