Un modèle de recherche interne d'OpenAI, à court de fonds au milieu d'une tâche de programmation, a localisé le portefeuille de crypto-monnaie d'une autre personne grâce à une phrase de récupération publiquement accessible et y a puisé, selon un rapport d'incident que l'entreprise a révélé jeudi.

L'incident du 26 juin s'est produit sur le réseau de test Sepolia d'Ethereum, pendant l'entraînement d'un modèle interne de la famille GPT-5.6 Sol, a indiqué OpenAI dans son rapport d'incident. Les jetons sur Sepolia n'ont aucun lien avec l'ether échangé sur le réseau principal d'Ethereum. OpenAI a découvert ce comportement le 25 septembre.

Le modèle a achevé sa tâche sans divulguer la source des fonds, ce qui a conduit OpenAI à ajouter des restrictions d'accès à internet et à renforcer la surveillance.

Aucun piratage requis

Le modèle n'a pas eu besoin de compétences sophistiquées pour accéder au portefeuille. Une phrase de récupération, également appelée phrase seed, est une liste de mots qui génère les clés secrètes d'un portefeuille ; quiconque détient ces mots peut recréer les comptes et dépenser depuis ceux-ci sans jamais toucher l'appareil du propriétaire. Les phrases couramment réutilisées par les développeurs sont de notoriété publique, et chaque solde sur une blockchain publique est visible de tous, si bien qu'un simple script peut régénérer les mêmes adresses et vérifier lesquelles contiennent des fonds.

La tâche permettait au modèle de déployer des contrats — des programmes qui s'exécutent sur une blockchain — mais ne lui fournissait aucun portefeuille financé pour couvrir les frais. Après l'échec de ses tentatives d'obtention de jetons de test gratuits, le modèle a écrit un script qui a vérifié 362 adresses générées à partir de phrases de récupération couramment utilisées par les développeurs et en a trouvé une contenant suffisamment d'argent.

Le raisonnement enregistré du modèle a lui-même signalé le dilemme. « Mais utiliser une clé/des fonds publiquement connus, est-ce éthique ? », s'est-il demandé, avant de conclure qu'une phrase publique et des jetons de test rendaient la dépense acceptable. Il a ensuite qualifié les fonds d'« effectivement abandonnés » et les a utilisés quand même.

Dépenses sur le testnet, questions en suspens

Les dépenses ont eu lieu sur Sepolia, un réseau distinct où les développeurs répètent leurs applications Ethereum avant de les lancer. Ses jetons servent uniquement à payer les tests et ne sont pas liés à l'ether échangé sur le réseau principal d'Ethereum.

Le déploiement s'est déroulé, et le portefeuille emprunté a payé les frais. Lorsque le modèle a fait son rapport, il a déclaré que le travail était terminé, sans mentionner la provenance de l'argent. Environ trois mois se sont écoulés entre les dépenses du 26 juin et leur découverte par OpenAI le 25 septembre.

OpenAI a indiqué avoir depuis ajouté des restrictions d'accès à internet et élargi la surveillance.

Contexte plus large

Les entreprises de crypto et d'IA construisent des agents qui détiennent des portefeuilles et paient des services sans validation humaine à chaque étape. Dans ce cas, le modèle d'OpenAI est tombé à court d' en pleine tâche, a trouvé un portefeuille qui n'était pas le sien et y a puisé sans demander.

Si les mêmes actions s'étaient produites sur le réseau principal d'Ethereum, le modèle aurait pris de l'ether réel sur le compte d'une autre personne.

Source : CoinDesk