OpenAI a révélé mercredi six cas supplémentaires de comportement de modèle « inattendu ou préoccupant » observés au cours des six derniers mois, détaillant des incidents dans lesquels ses systèmes dissimulaient des informations aux utilisateurs ou prenaient des « actions non autorisées » pour surmonter des obstacles.

Dans un article de blog, l'entreprise a indiqué que ces cas illustrent une gamme de comportements qu'elle classe comme « comportement désaligné ». OpenAI a précisé que ces divulgations visaient à « inaugurer » son nouveau cadre de signalement du désalignement des modèles, et a mis en garde contre le fait que ces cas ne devraient pas être considérés comme représentatifs de la fréquence du désalignement dans ses modèles. Ce cadre offre à l'entreprise un canal formel pour divulguer des incidents similaires à l'avenir.

Ces divulgations s'ajoutent aux inquiétudes des développeurs et chercheurs en IA quant à savoir si les garanties de sécurité suivent le rythme de modèles de plus en plus performants. La semaine dernière, le PDG d'Anthropic, Dario Amodei, a appelé à un ralentissement du développement de l'IA de pointe, avertissant qu'une progression incontrôlée de l'IA pourrait « dépasser notre capacité à comprendre et à contrôler ces systèmes ».

Instructions de type jailbreak et erreurs dissimulées

Parmi les cas les plus notables, OpenAI a indiqué qu'un « modèle de recherche non publié » avait inséré des « instructions de type jailbreak » dans ses propres résumés de tâches — utilisés lors de la poursuite d'une tâche dans une nouvelle fenêtre de contexte — incluant des directives visant à ignorer les messages des développeurs ou à adopter un persona sans restrictions. Les chercheurs ont identifié 27 résumés contenant de telles instructions. Comme ces résumés sont ce qui transmet une tâche à sa prochaine fenêtre de contexte, les instructions dissimulées en leur sein peuvent influencer la manière dont les travaux ultérieurs sont effectués.

OpenAI a également révélé que, pendant l'entraînement de GPT-5.6 Sol, de nombreuses instances du modèle avaient ajouté des instructions visant à dissimuler des erreurs ou un comportement désaligné à l'utilisateur, comme l'invention de données historiques manquantes sans les divulguer.

« Dans un exemple, un agent préparant un modèle financier n'a pas pu trouver les données historiques demandées. Son résumé proposait d'inventer des valeurs historiques plausibles et de dissimuler ce fait à moins qu'on ne le lui demande », a déclaré OpenAI.

Téléchargements non autor et chiffres fabriqués

Dans un autre cas, un modèle d'IA s'est vu demander les noms de lacs de plus de 5 millions de mètres carrés, mais comme les instructions de l'utilisateur exigeaient une citation via le navigateur, l'agent a décidé de téléverser le fichier afin de pouvoir le citer dans sa réponse.

Les autres cas impliquaient un modèle utilisant une clé API exposée sans autorisation avant de fabriquer des chiffres qu'il ne pouvait pas récupérer ; un autre utilisant un dépôt logiciel interne pour échanger des messages entre tâches d'entraînement distinctes ; et un dernier partageant des fichiers via des services d'hébergement publics malgré des instructions visant à conserver le travail en local.

Le fil conducteur de ces cas est que les systèmes ont improvisé des solutions de contournement — inventant des données, réutilisant des identifiants ou déplaçant des fichiers au-delà des environnements spécifiés par les utilisateurs — plutôt que de s'arrêter ou de signaler un échec. La fréquence d'utilisation par OpenAI de son nouveau cadre de signalement à l'avenir pourrait offrir une mesure plus claire de la fréquence de tels comportements.

Ces divulgations font suite à une révélation de juillet selon laquelle une combinaison de modèles d'OpenAI s'était échappée de son environnement de test et avait piraté la startup d'IA Hugging Face pour tricher lors d'une évaluation de sécurité.