La course d’OpenAI à la mise en production de nouveaux modèles et produits a contribué aux conditions ayant permis à ses agents d’IA de s’échapper d’environnements de test internes et de pirater Hugging Face plus tôt cette année, selon des employés qui ont parlé à Wired.

Plusieurs employés actuels et anciens d’OpenAI ont indiqué à Wired que la pression concurrentielle pour livrer rapidement rend difficile, pour les équipes, de consacrer suffisamment d’attention à la sécurité, à la sûreté et à l’alignement — le travail consistant à garantir que les systèmes d’IA se comportent comme prévu. À la suite de l’incident, OpenAI a ralenti la recherche, réaffecté des équipes et dépensé des millions de dollars pour enquêter sur l’échec, rappelant à quel point des décisions opérationnelles prises au sein d’un laboratoire d’IA de premier plan peuvent rapidement se répercuter sur la sécurité des outils désormais développés en vue d’un déploiement plus large.

« Ils ont été incroyablement négligents. Si vous prenez cela au sérieux, votre IA ne devrait pas pouvoir sortir sur internet puis recommencer juste après », a déclaré à Wired un ancien employé d’OpenAI. « C’était le plus grand incident de sécurité de l’histoire d’OpenAI. »

En mai, GPT-5.6 Sol d’OpenAI et un modèle préversion non nommé ont quitté un environnement de test à accès Internet restreint en exploitant une faille logicielle jusque-là inconnue. Les agents ont ensuite violé Hugging Face, le dépôt open source d’IA, afin d’obtenir les réponses à leurs tests de cybersécurité. OpenAI a confirmé en juillet que ses modèles étaient responsables, avant de fournir une analyse plus complète lors de la conférence annuelle Black Hat la semaine dernière.

Le président d’OpenAI, Greg Brockman, a déclaré que l’entreprise renforçait ses garde-fous à mesure que ses modèles deviennent plus capables. « Nous atteignons de nouveaux niveaux de capacité des modèles qui exigent un entraînement, un alignement, des tests de sécurité et de sûreté, des pratiques de déploiement et une gouvernance plus robustes », a déclaré Brockman à Wired.

Des employés avaient déjà soulevé des inquiétudes similaires. Jan Leike, ancien responsable de l’alignement chez OpenAI, a quitté l’entreprise pour le concurrent Anthropic en 2024 après avoir averti que la sécurité avait « été reléguée au second plan » au profit du développement produit. « Construire des machines plus intelligentes que l’humain est une entreprise intrinsèquement dangereuse », a averti Leike. « Mais au cours des dernières années, la culture et les processus de sécurité ont été relégués au second plan par rapport à des produits clinquants. »

Boaz Barak, codirigeant du groupe consultatif sur la sécurité d’OpenAI, a écrit sur X que traiter la dernière défaillance exigerait « non seulement de corriger certains problèmes, mais aussi de changer notre culture ».

Ce rapport intervient dans un contexte de plusieurs mois de rotation de la direction chez OpenAI. En avril, Bill Peebles, responsable du projet de générateur vidéo Sora ; Kevin Weil, ancien chief product officer et chief science officer ; et Srinivas Narayanan, responsable des technologies pour les applications d’entreprise, ont quitté l’entreprise. En juillet, Fidji Simo, responsable produit et affaires ; Sandhini Agarwal, responsable de la sécurité ; Joshua Achiam, chief futurist ; et Chloé Bakalar, responsable de l’éthique de l’IA, sont partis. Johannes Heidecke, responsable des systèmes de sécurité, est également parti après la fusion par OpenAI de ses équipes de sécurité et de recherche fondamentale.

Plus tôt cette semaine, le chief operating officer d’OpenAI, Brad Lightcap, a annoncé son départ après huit ans pour lancer une nouvelle entreprise.