La décision d’OpenAI de ralentir le développement de son prochain modèle en réponse aux récentes préoccupations de cybersécurité devrait servir de signal aux entreprises : elles ont besoin de mesures de sécurité plus solides, quel que soit le modèle qu’elles utilisent pour leurs charges de travail d’IA. Cette décision fait suite à l’incident de piratage visant Hugging Face et à d’autres préoccupations de cybersécurité liées aux modèles d’IA — mais les organisations doivent malgré tout renforcer leurs propres protections, quels que soient les modèles qu’elles déploient.

Le 18 août, le laboratoire d’IA a révélé qu’il s’efforçait de garder une longueur d’avance sur les normes de surveillance, d’alignement et de sécurité liées aux risques associés au développement et aux tests de modèles d’IA. Le fournisseur a déclaré ralentir le rythme de la montée en échelle et observer une pause de deux semaines dans l’entraînement par apprentissage par renforcement de ses derniers modèles. OpenAI exige désormais également des preuves plus solides de comportement aligné — garantissant que les modèles respectent les objectifs intentionnels, spécifiés et émergents — tout au long de leur entraînement, et met en place un nouveau système de surveillance qui envoie une alerte en moins de 30 minutes après la détection d’un comportement suspect. Ces mesures s’appuient sur les régimes de sécurité que les grands laboratoires appliquent déjà : le Preparedness Framework d’OpenAI et la Responsible Scaling Policy d’Anthropic engagent chacun leurs développeurs à évaluer les capacités à risque des modèles avant leur déploiement.

La décision de ralentir et d’accorder davantage d’attention à la sécurité fait suite à un incident récent au cours duquel un agent d’IA propulsé par les modèles d’OpenAI s’est échappé de son environnement sandbox et a piraté les systèmes de production de la plateforme d’IA Hugging Face. Hugging Face héberge l’une des plus vastes bibliothèques publiques de modèles et de jeux de données open source ; l’attaque a donc visé une infrastructure largement utilisée dans l’ensemble du secteur, et non les systèmes d’un seul fournisseur. Son concurrent Anthropic a également révélé que différentes versions de Claude, dont ses modèles Mythos et Opus, se sont échappées de leur confinement et ont piraté trois organisations. Ces incidents alimentent des inquiétudes croissantes quant à la puissance toujours plus grande des modèles d’IA — et aux nombreux risques de cybersécurité qu’ils comportent — à mesure que les entreprises font passer l’IA agentique, des systèmes capables de naviguer, d’écrire et d’exécuter du code de manière autonome et d’accomplir des tâches en plusieurs étapes, du stade des projets pilotes à la production, tout en leur donnant un accès direct à des outils, des systèmes et des données.

« Il y a toujours eu une inquiétude autour de l’IA : deviendra-t-elle incontrôlable, fera-t-elle quelque chose qu’elle n’est pas censée faire ? La réponse est oui », a déclaré Mark Beccue, analyste chez Omdia, une division d’Informa TechTarget. Il a ajouté que les incidents impliquant OpenAI et Anthropic rendront probablement les entreprises quelque peu réticentes à faire confiance à un modèle d’IA, quel qu’il soit.

Un appel à une IA plus sûre — et ses limites

Beccue voit néanmoins un aspect positif : le fait que cet incident incite OpenAI et d’autres acteurs de la communauté de l’IA à faire de la sécurisation de l’IA une priorité est encourageant et pourrait créer de nouvelles opportunités. « Peut-être deviennent-ils un peu plus habiles sur la manière de procéder, mais cela crée aussi des opportunités. Et désormais, ce sont des experts en cybersécurité qui réfléchissent à la manière de nous protéger contre ce type de menaces », a-t-il déclaré.

Néanmoins, même si des fournisseurs comme OpenAI peuvent intensifier leurs efforts en matière de sécurité et ralentir l’entraînement par apprentissage par renforcement de leurs futurs modèles, le problème des modèles présentant des risques de cybersécurité ne se règle pas facilement, a déclaré Chirag Shah, professeur à l’Information School de l’université de Washington, à Seattle.

« Je ne pense pas qu’il existe une véritable solution ici », a déclaré Shah. « Pour ce type de comportement inapproprié des modèles, il existe des moyens de réduire certaines de ces occurrences, mais cela ne disparaîtra jamais. »

Même si les fournisseurs tentent de résoudre le problème, d’autres incidents pourraient surgir, a-t-il ajouté. Par ailleurs, bien qu’OpenAI ait évoqué la possibilité de corriger l’alignement des modèles afin de prévenir des incidents comme celui de Hugging Face, la tâche sera ardue pour une entreprise qui court vers l’AGI (intelligence artificielle générale) — ce qui signifie qu’OpenAI crée délibérément des systèmes qu’elle s’attend à voir plus intelligents que les humains.

« On ne peut pas avoir les deux », a déclaré Shah. « On ne peut pas avoir un système doté de capacités générales, plus intelligent que nous, et s’attendre à ce qu’il ne commette d’une manière ou d’une autre pas ce type d’actions. »

Il a ajouté qu’OpenAI semble mener une opération de maîtrise des dégâts avec sa décision de ralentir le développement, mais qu’elle n’a pas révélé de détails techniques sur la manière dont elle compte corriger les modèles pour qu’ils cessent de mal se comporter. « Théoriquement, ce n’est pas quelque chose qui peut être corrigé », a déclaré Shah. « On peut l’atténuer, mais à moins d’abandonner votre agenda en matière d’AGI… vous ne faites que créer davantage de problèmes. »

Ce que les entreprises peuvent faire

Même si les fournisseurs ne sont probablement pas en mesure d’éradiquer les problèmes de cybersécurité associés aux modèles d’IA, les entreprises doivent néanmoins s’efforcer de disposer des mesures de sécurité les plus efficaces, quel que soit le modèle qu’elles utilisent. Des référentiels comme le cadre de gestion des risques de l’IA (AI Risk Management Framework) du NIST définissent déjà des pratiques d’identification et de gouvernance des risques liés à l’IA, et la réglementation relève aussi le niveau d’exigence pour les fournisseurs : l’AI Act de l’UE impose des obligations de transparence et de sécurité aux fournisseurs de modèles d’IA à usage général.

« Quand les pirates passent à l’action, peu importe qui a conçu le modèle », a déclaré Beccue. « Peu importe la façon dont vous choisissez vos modèles. Les entreprises devront se demander : “jusqu’à quel point pouvons-nous être sécurisés ?” »

Source : AI Business