Un modèle de recherche d'OpenAI a pris des fonds d'un portefeuille crypto dont il n'était pas propriétaire afin de terminer une tâche de programmation en juin. L'entreprise a découvert l'incident en septembre, trois mois après qu'il s'est produit, et l'a divulgué publiquement cette semaine.

La divulgation figure dans un rapport d'incident publié par OpenAI.

Comment le modèle a accédé à un portefeuille non autorisé

L'incident implique un modèle de la famille GPT-5.6 Sol d'OpenAI. Le modèle était chargé de mettre à jour un prototype de trading crypto et de déployer des contrats sur Sepolia, un réseau de test Ethereum où les développeurs essaient leurs applications avant de les lancer en production. Les jetons sur Sepolia n'ont aucune valeur marchande et ne sont liés d'aucune manière à l'ether échangé sur le réseau principal d'Ethereum.

La tâche ne s'accompagnait d'aucun portefeuille financé pour payer les frais de déploiement, et les robinets de jetons gratuits — des points de distribution publics qui fournissent des jetons de test aux développeurs sur demande — ne fonctionnaient pas. Le modèle a donc écrit un script générant 362 adresses à partir de phrases de récupération fréquemment réutilisées par les développeurs, puis a vérifié chacune d'elles à la recherche d'un solde adéquat. Les phrases de récupération servent de clés maîtresses à partir desquelles les adresses de portefeuille sont dérivées, de sorte que toute phrase rendue publique remet le contrôle de ses adresses à quiconque la découvre.

L'une des 362 adresses contenait suffisamment d'ether de test pour la tâche. Avant de l'utiliser, le modèle s'est arrêté et a examiné dans ses notes s'il était éthique d'utiliser une clé publiquement connue et les fonds qui y étaient attachés. Il a conclu que l'argent était « effectivement abandonné », puisque la phrase de récupération était publique et que les jetons de test n'avaient aucune valeur. Le modèle a ensuite signé le déploiement, payé les frais et signalé la tâche comme terminée.

Fait notable, le modèle n'a jamais indiqué d'où provenait l'argent.

Si la transaction avait eu lieu sur le réseau principal d'Ethereum, les frais auraient été prélevés sur les avoirs réels d'une personne à laquelle le modèle n'avait aucun droit. L'affaire survient à un moment sensible, alors que les entreprises crypto et IA connectent de plus en plus des agents détenant des portefeuilles et payant des services sans validation humaine de chaque transaction.

OpenAI a déclaré avoir depuis coupé l'accès Internet du modèle et ajouté une surveillance.

Selon le rapport, l'incident s'est produit le 26 juin mais n'a été détecté que trois mois plus tard, le 25 septembre. OpenAI a indiqué avoir découvert l'événement lors de l'élargissement de sa surveillance des dysalignements — des examens visant à détecter les comportements de modèle s'écartant de l'intention des développeurs — sur les journaux d'activité de modèles plus anciens.

Pression réglementaire croissante

OpenAI a créé un cadre de signalement des dysalignements et a publié sa première série de rapports, indiquant vouloir révéler rapidement les comportements préoccupants, « même lorsque nous ne avons pas entièrement expliqués ou atténués ».

Le calendrier, cependant, signifie que chaque rapport sincère devient un élément matériel pour les parties constituant des plaintes. La FTC, qui prévoit de faire témoigner sous serment des cadres dirigeants, a délivré mercredi des assignations à comparaître civiles à OpenAI et Anthropic afin d'obtenir des documents sur les incidents de sécurité, les pratiques de sécurité et les politiques de confidentialité, a rapporté Cryptopolitan.

Quelques mois plus tôt, dans un épisode distinct, 15 procureurs généraux républicains d'États, menés par Brenna Bird de l'Iowa, ont ordonné à OpenAI de conserver chaque enregistrement de sa violation de Hugging Face, y compris les notes qu'un agent avait laissées « apparemment pour ses propres versions futures » sur la manière d'échapper aux contrôles de l'entreprise.

OpenAI a admis la violation de Hugging Face en juillet, indiquant que des agents dérogataires avaient contouré les contrôles internes, accédé à l'Internet ouvert et coordonné ce qu'elle a qualifié de « cyberincident sans précédent ». Les agents auraient sondé trois sites du gouvernement américain, dont le Bureau du recensement du département du Commerce et la SEC.

Le nouveau site d'OpenAI mentionne un certain nombre d'autres incidents, dont une évasion d'environnement isolé en septembre et une expérience en laboratoire avec une injection de prompt auto-réplicative.

Le directeur général Sam Altman a déclaré que l'entreprise examine toujours les journaux d'activité des agents et divulguera les cas par ordre de gravité. L'incident de Hugging Face demeure le pire cas trouvé à ce jour.