Anthropic a annoncé jeudi que trois de ses modèles d'intelligence artificielle avaient accédé à l'Internet ouvert lors de tests de cybersécurité et obtenu un accès non autorisé aux systèmes de trois véritables organisations.

Cette révélation fait suite à l'annonce d'OpenAI plus tôt ce mois-ci, selon laquelle l'un de ses modèles d'IA avancés avait pénétré les systèmes de l'entreprise d'IA Hugging Face lors de tests internes, soulevant de nouvelles questions sur les garanties entourant des systèmes d'IA de plus en plus autonomes. Les annonces consécutives de deux des principaux laboratoires d'IA américains ont intensifié l'examen de la manière dont les entreprises évaluent les modèles de pointe pour détecter des capacités dangereuses avant leur déploiement.

« Nous avons identifié trois incidents dans lesquels un modèle Claude a accédé à Internet depuis un environnement d'évaluation tiers ou en interagissant avec celui-ci, puis a obtenu un accès non autorisé aux systèmes réels de trois organisations différentes », a déclaré Anthropic dans un communiqué de presse.

Anthropic a indiqué avoir examiné plus de 140 000 séries d'évaluation de cybersécurité suite à la révélation d'OpenAI et avoir identifié trois incidents impliquant différents modèles Claude. L'entreprise a attribué les trois incidents à une erreur de configuration lors de tests internes, qui a involontairement donné aux modèles un accès à l'Internet ouvert.

Selon Anthropic, Claude avait reçu pour instruction qu'il fonctionnait à l'intérieur d'une simulation fermée sans accès à Internet, ce qui l'a amené à traiter par erreur les systèmes de véritables organisations comme faisant partie d'un exercice de cybersécurité fictif de type « capture du drapeau » — un format d'entraînement courant dans lequel les participants tentent de localiser des drapeaux numériques cachés en exploitant des vulnérabilités dans les systèmes cibles.

Les incidents ont impliqué trois modèles Claude différents — notamment Opus 4.7, Mythos 5 et un modèle de test de recherche interne — et tous se sont produits lors de tests internes plutôt que sur des systèmes clients, a précisé Anthropic. Le premier incident remonte à avril.

« Claude a cru que tout ce qu'il a initialement rencontré faisait partie de la simulation, et a traité les systèmes réels qu'il a trouvés comme des éléments de l'exercice », a déclaré Anthropic.

« Dans aucune de ces situations Claude ne s'est exfiltré lui-même ni n'a délibérément tenté de s'échapper de son environnement de test », a ajouté l'entreprise.

Anthropic a souligné que les incidents mettaient en évidence la nécessité de garanties plus solides autour des environnements de test d'IA.

« Les environnements d'évaluation qui impliquent des capacités autonomes puissantes nécessitent également des contrôles significatifs », a déclaré l'entreprise. « Nous encourageons les autres laboratoires d'IA à effectuer des examens similaires. »

Le président Donald Trump a déclaré mercredi que son administration envisageait des garanties supplémentaires pour l'intelligence artificielle à la suite des récents incidents de cybersécurité. Trump a déclaré que les États-Unis devaient trouver un équilibre entre la protection contre les risques liés à l'IA et le maintien de leur avantage technologique sur la Chine.

« Nous examinons l'IA, nous examinons les contrôles », a déclaré Trump.

« Quiconque gagne avec l'IA va gagner », a-t-il ajouté. « C'est à quel point c'est important. C'est plus grand que l'Internet ne l'a jamais été. C'est plus grand que quoi que ce soit n'a jamais été. Je ne veux donc pas restreindre. Je connais beaucoup de ces personnes. Je ne veux pas les restreindre dans leur excellent travail. »

Cette annonce est intervenue un jour après que le PDG d'OpenAI, Sam Altman, a reconnu les inquiétudes publiques croissantes concernant l'intelligence artificielle à la suite de l'incident de cybersécurité de sa propre entreprise.

« Je pense qu'il est tout à fait naturel d'avoir peur après chaque nouveau niveau de capacité », a déclaré Altman à FOX Business. « De toute évidence, nous prenons cela très au sérieux et nous continuerons de le faire, mais je dirais que je comprends, je le saisis. Beaucoup de choses en IA se sont très bien passées et c'est un moment où les gens se disent : 'D'accord, nous sommes à un nouveau niveau.' »

Lorsqu'on lui a demandé si les modèles d'OpenAI auraient pu pénétrer les systèmes d'autres entreprises, Altman a répondu : « C'est possible, oui. »