OpenAI a publié jeudi une lettre d'avertissement selon laquelle, d'ici quelques mois, les modèles d'intelligence artificielle (IA) pourraient devenir suffisamment puissants pour permettre à des acteurs malveillants de mener des cyberattaques de plus en plus sophistiquées contre les hôpitaux, les stations de traitement des eaux et autres infrastructures critiques. Des secteurs comme la santé et les services de l'eau sont depuis longtemps considérés comme des cibles de choix pour les attaquants, car des systèmes obsolètes et des conséquences potentiellement mortelles leur laissent peu de tolérance aux interruptions, une préoccupation qui a motivé des avertissements répétés du gouvernement américain sur la sécurisation des technologies opérationnelles ces dernières années.

Plus de 100 entreprises couvrant la banque, la technologie et la cybersécurité ont signé la lettre, dont Accenture, Anthropic, Capital One, Google, Microsoft et Visa. L'ampleur des signataires est notable, car les banques et les réseaux de paiement — des secteurs qui opèrent déjà dans le cadre de structures formelles de partage de menaces public-privé, comme l'organisme de renseignement du secteur financier américain — coordonnent rarement des déclarations de sécurité communes avec des laboratoires d'IA concurrents. Hugging Face, un dépôt de modèles d'IA open source dont les systèmes ont été piratés par un agent d'OpenAI en juillet, a également signé.

« Les progrès actuels de l'IA offrent déjà aux défenseurs de nouveaux moyens de corriger des faiblesses accumulées depuis des années. Si nous agissons avec détermination, nous pouvons profiter de la fenêtre des défenseurs pour rendre notre monde numérique beaucoup plus sûr », peut-on lire dans un extrait de la lettre.

Appels aux organisations et aux gouvernements

Pour répondre à cette menace, OpenAI a exhorté toutes les organisations à faire de la défense contre la cybercriminalité « une priorité immédiate des dirigeants ». Selon la lettre, les organisations de cybersécurité doivent « diriger la réponse pour se défendre contre des attaques soutenues enabled par l'IA, notamment en testant continuellement les défenses face aux capacités cyber de pointe, en renforçant les outils existants avec l'IA et en travaillant avec les partenaires technologiques pour combler les failles dès maintenant ».

Les gouvernements du monde entier ont également été interpellés, OpenAI estimant qu'ils devraient renforcer les défenses cyber aux niveaux local, national et international.

« Donnez aux hôpitaux, aux services de l'eau et aux collectivités locales l'accès à une IA défensive performante, à des tests autorisés et à un soutien pratique via des fournisseurs et partenaires de sécurité de confiance. Faites payer les attaquants », a déclaré OpenAI aux gouvernements dans la lettre.

Dans une partie de la lettre adressée aux « entreprises d'IA de pointe », OpenAI a indiqué que celles-ci devraient donner aux opérateurs d'infrastructures critiques l'accès à des modèles puissants, à des financements, à de la formation et à une aide technique. En retour, les opérateurs devraient construire des outils pour suivre l'utilisation des agents d'IA, tester les vulnérabilités des systèmes, corriger les problèmes de manière responsable et partager les informations de sécurité utiles avec les gouvernements et les autres défenseurs, selon OpenAI. L'accent mis sur le partage d'information fait écho à des structures de longue date comme le rôle de coordination de la CISA pour la sécurité des infrastructures critiques, ce qui suggère que la lettre vise à étendre les canaux de défense existants plutôt qu'à les remplacer.

Cyberattaques antérieures utilisant l'IA

Plusieurs cyberattaques exploitant l'IA ont déjà eu lieu. Plus notablement, Anthropic a accusé en septembre dernier un groupe chinois sponsorisé par l'État d'avoir manipulé son outil Claude Code dans le but de pirater 30 cibles mondiales, en en compromettant prétendument plusieurs.

« Cela marque le premier cas documenté d'IA agentique obtenant l'accès à des cibles de grande valeur confirmées à des fins de collecte de renseignements », a indiqué un rapport d'incident d'Anthropic.

Anthropic n'a pas identifié les victimes, mais a précisé que de grandes entreprises technologiques, des institutions financières, des entreprises de fabrication chimique et des gouvernements figuraient parmi les cibles.

Anthropic est également un leader du secteur dans l'avertissement que l'IA à progression rapide doit être contenue afin d'éviter des attaques désastreuses contre les infrastructures civiles. En avril, l'entreprise a annoncé Project Glasswing, une initiative visant à sécuriser les logiciels les plus critiques au monde. Dans cette annonce, Anthropic a déclaré que l'un de ses modèles de pointe, Claude Mythos, avait atteint « un niveau de capacité de programmation où ils peuvent surpasser tous, sauf les humains les plus qualifiés, pour trouver et exploiter des vulnérabilités logicielles ».

Le calendrier de la lettre — avertissant de menaces arrivant « d'ici quelques mois » — indique que la prochaine chose à observer est de savoir si les gouvernements et les opérateurs d'infrastructures traduisent ces recommandations en déploiements défensifs concrets, et si les intrusions documentées utilisant l'IA continuent de se multiplier.

OpenAI et Anthropic n'ont pas répondu immédiatement à la demande de commentaire de FOX Business.