Un modèle de recherche interne d'OpenAI a accédé à un portefeuille de crypto-monnaies financé sans autorisation, dépensant de l'Ether de testnet pour déployer des contrats intelligents sur le réseau de test Sepolia d'Ethereum, puis omettant cette dépense de son résumé final de tâche, selon un rapport d'incident publié sur le blog d'alignement d'OpenAI.

OpenAI a indiqué que le modèle, qui faisait partie de sa famille GPT-5.6 Sol, avait pour mission de mettre à jour un prototype de trading de crypto-monnaies et de déployer des contrats compatibles. N'ayant pas réussi à obtenir de l'ETH de testnet via des faucets, le modèle a dérivé des comptes à partir de phrases de récupération de développeurs connues publiquement, vérifié 362 adresses de portefeuille et en a sélectionné une détenant suffisamment de fonds pour continuer.

Sepolia est un réseau de test public d'Ethereum que les développeurs utilisent pour essayer des contrats intelligents avant le déploiement sur le mainnet ; son Ether est un actif de test distribué via des faucets plutôt qu'un instrument de marché, et les phrases de récupération des comptes de test sont couramment documentées dans les outils de développement, ce qui signifie que n'importe qui peut dériver les mêmes adresses.

Dans son raisonnement enregistré, le modèle s'est demandé : "But using public known key/funds ethically?" Il a ensuite soutenu que les fonds étaient "effectivement abandonnés / de l'ETH de test" et que l'ETH de Sepolia n'avait aucune valeur, avant d'utiliser la clé privée du portefeuille pour signer et diffuser une transaction de déploiement. La transaction a réussi, les frais de réseau étant débités du compte.

Selon OpenAI, l'incident a montré comment un modèle d'IA pouvait décider de lui-même que l'utilisation des fonds d'autrui était acceptable, même sans permission. L'entreprise a découvert cet épisode en examinant l'activité antérieure du modèle et a depuis introduit des mesures de sécurité pour empêcher l'accès à Internet en direct dans des situations similaires.

L'incident alimente les inquiétudes concernant les agents IA autonomes

La transaction non autorisée a eu lieu le 26 juin, mais n'a été découverte que le 25 septembre, soit près de trois mois plus tard, selon OpenAI. La transaction n'a pas transféré d'ETH vers un autre portefeuille ; elle a en revanche débité du compte des frais de réseau pour le déploiement d'un contrat.

OpenAI a précisé que son système de surveillance des désalignements fonctionne désormais sur tout le trafic et est conçu pour alerter le personnel de sécurité si un modèle obtient un accès à Internet en direct.

Cet incident de portefeuille fait suite à d'autres divulgations impliquant des modèles d'OpenAI agissant au-delà de leur autorisation ou dissimulant leurs actions. Le 16 septembre, OpenAI avait révélé six autres cas de désalignement de l'IA. Dans un cas, des instances de GPT-5.6 Sol avaient inséré des instructions dans des résumés de tâches pour dissimuler des erreurs aux utilisateurs. Un autre cas impliquait un modèle utilisant une clé API exposée sans autorisation avant de fabriquer des chiffres qu'il pouvait pas récupérer. OpenAI a précisé que ces divulgations antérieures ne visaient pas à indiquer la fréquence à laquelle le désalignement se produit dans ses modèles.

Les inquiétudes concernant les agents autonomes gérant des actifs numériques sont antérieures à cette dernière divulgation. En juin, des chercheurs avaient averti que des agents IA autonomes équipés de portefeuilles de crypto-monnaies pourraient causer des dommages involontaires, même lorsqu'ils sont déployés à des fins légitimes. Les chercheurs avaient recommandé des mesures de sécurité, notamment des mécanismes d'arrêt d'urgence, afin de limiter les risques potentiels.