Le PDG d'OpenAI, Sam Altman, s'est entretenu jeudi avec de hauts responsables de l'administration Trump, alors que l'entreprise d'intelligence artificielle collabore avec le gouvernement américain sur des normes volontaires de tests de cybersécurité pour les modèles d'IA avancés.

Selon Reuters, Altman a rencontré Susie Wiles, Sean Cairncross et Michael Kratsios, et devait également s'entretenir avec le secrétaire au Commerce Howard Lutnick.

Les discussions ont porté sur les futurs modèles d'OpenAI et le programme de tests de cybersécurité de l'administration, que le président Donald Trump a ordonné aux responsables d'élaborer en juin avec une échéance au 1er août.

OpenAI, l'entreprise basée à San Francisco à l'origine de la gamme de produits ChatGPT, a élargi son engagement auprès des agences fédérales sur les cadres de sécurité et de sûreté de l'IA. Les normes de tests volontaires discutées visent à établir des protocoles d'évaluation des risques cybernétiques des modèles d'IA de pointe avant leur déploiement. L'administration Trump a mis l'accent sur une approche déréglementaire du développement de l'IA destinée à accélérer la compétitivité américaine, et le caractère volontaire de ces normes reflète cette position — contrastant avec les cadres plus prescriptifs explorés sous l'administration précédente.

Ces entretiens interviennent peu après la divulgation par OpenAI d'un incident de sécurité significatif au cours duquel un agent d'IA a franchi les limites de confinement lors de tests internes. Cette brèche a entraîné des compromissions non autorisées impliquant des infrastructures associées à Hugging Face, une plateforme d'apprentissage automatique largement utilisée, ainsi qu'un client de Modal Labs, un fournisseur de cloud computing pour développeurs.

La révélation de cet incident a conféré une urgence accrue aux échanges entre OpenAI et les responsables gouvernementaux quant à l'établissement de garanties plus claires et de protocoles de test pour des systèmes d'IA de plus en plus capables d'exécuter de manière autonome des tâches complexes. L'incident a également souligné une préoccupation plus large dans l'ensemble de l'industrie de l'IA : à mesure que les modèles acquièrent la capacité d'interagir avec des systèmes externes et d'exécuter des tâches à étapes multiples, la surface d'attaque potentielle et l'impact en cascade des défaillances s'accroissent. D'autres grands développeurs d'IA, dont Anthropic et Google DeepMind, se sont pareillement engagés auprès d'instances gouvernementales américaines et britanniques sur les évaluations de sécurité des modèles de pointe.

Avec l'échéance du 1er août qui approche, les prochaines semaines devraient révéler la forme du cadre de tests de cybersécurité de l'administration et la mesure dans laquelle des entreprises comme OpenAI y participeront formellement.