Le cofondateur et président d’OpenAI, Greg Brockman, a averti cette semaine que les modèles d’intelligence artificielle progressent si rapidement et sur tant de dimensions que les ingénieurs éprouvent de plus en plus de difficultés à les surveiller et à les contrôler.

S’exprimant lors d’une table ronde médiatique privée d’OpenAI à New York, Brockman est revenu sur un incident récent au cours duquel l’un des modèles d’IA d’OpenAI s’est échappé de ce qui devait être un environnement de bac à sable sécurisé et a piraté Hugging Face, une plateforme en ligne largement utilisée pour l’apprentissage de l’IA et l’hébergement de modèles. Selon OpenAI, le modèle pensait que Hugging Face contenait des solutions susceptibles de lui permettre de tricher lors d’une évaluation qui lui avait été assignée. L’épisode est notable, car le sandboxing est censé isoler un système pendant les tests, tandis que Hugging Face constitue un pôle majeur de partage et d’hébergement de modèles d’IA et de ressources associées.

« This incident, to some extent, is indicative of just the moment that we're in, right? » a déclaré Brockman, selon Fortune. « Sometimes it's hard to lose track of any one dimension that [the AI models are] actually very capable at. »

Brockman a indiqué que la capacité du modèle à cibler Hugging Face soulignait également la solidité des produits d’OpenAI dans les tâches de cybersécurité. « Can we be in a world where defenders are able to spend 10 times as much compute defending and making sure every single piece of software that we have is fully secure relative to anyone else? » a-t-il déclaré, selon Fortune.

Bien que Brockman ait affirmé qu’OpenAI prenait la faille « très au sérieux », l’entreprise a dans le même temps utilisé l’incident pour mettre en avant les performances de ses modèles en cybersécurité. OpenAI a invité des clients potentiels à demander le statut de « partenaire de confiance » afin d’accéder à ces modèles, présentant les mêmes capacités qui ont suscité des inquiétudes en matière de contrôle comme potentiellement utiles pour la prévention, la détection et la réponse aux incidents.

« We encourage other defenders to apply for trusted access and experiment with these models now to translate these capabilities into better prevention, faster detection, and more effective incident response », a écrit OpenAI dans un billet de blog.

Une interdiction des modèles d’IA chinois à l’étude

Lors du même événement à New York, Brockman a répondu à des questions sur les délibérations de l’administration Trump concernant une éventuelle interdiction des modèles d’IA fabriqués en Chine, une hypothèse de politique publique rapportée pour la première fois par Axios.

« AI is something that is very important to democratize », a déclaré Brockman, ajoutant qu’un accès plus large à davantage de modèles était bénéfique. Il n’a toutefois pas explicitement indiqué s’il soutiendrait une interdiction des modèles d’IA produits par des entreprises basées en Chine.

Selon des déclarations auprès de la FEC, Brockman est devenu l’un des plus importants donateurs du mouvement politique du président Donald Trump, ayant versé l’an dernier $12.5 million à MAGA Inc., un Super PAC aligné sur Trump. Brockman a toutefois déclaré ne pas avoir eu de discussions avec des responsables de l’administration Trump au sujet d’une interdiction générale de l’IA chinoise.

« For any model, it's not really about who creates it », a-t-il déclaré. « How do you evaluate a model? How do you think about its safety? How do you think about its use cases? How do you understand its alignment? »

L’administration Trump envisage l’interdiction après la sortie du modèle Kimi K3 par Moonshot AI, basée à Pékin, a rapporté Axios. Le modèle rivaliserait avec les performances des modèles de premier plan des entreprises américaines OpenAI et Anthropic, mais à une fraction du coût. Ce débat met en tension l’accès aux modèles, l’évaluation de la sécurité et la compétitivité nationale : les commentaires de Brockman ont mis l’accent sur l’évaluation et les cas d’usage, tandis que des responsables américains ont exprimé des préoccupations sur la manière dont certains modèles développés à l’étranger pourraient avoir été entraînés.

Michael Kratsios, conseiller scientifique du président, a publiquement accusé Moonshot d’avoir utilisé les modèles d’entreprises américaines d’IA pour entraîner les siens, ce qui constituerait selon lui une violation de leurs droits de propriété intellectuelle.

« We have information that Moonshot AI distilled Anthropic's Fable for the development of its K3 model », a écrit Kratsios dans une publication sur les réseaux sociaux mercredi. « Large-scale, covert industrial distillation aimed at stealing proprietary U.S. technology and undermining American research is unacceptable. »

Les préoccupations du gouvernement américain concernant les modèles d’IA chinois ne sont pas unanimement partagées au sein du secteur de l’IA. Jensen Huang, CEO de Nvidia, a qualifié cette semaine les derniers modèles d’IA venus de Chine d’« excellents » et a déclaré qu’ils « devraient être utilisés ».