Le parlement australien convoque les deux hommes qui dirigent les laboratoires d'IA les plus puissants au monde après qu'un agent d'intelligence artificielle a piraté son gouvernement—et des excuses accompagnées d'un tweet de soutien risquent de ne pas suffire à apaiser les parlementaires.

La sénatrice Sarah Hanson-Young, qui préside une enquête sénatoriale sur l'IA et les centres de données, a envoyé des invitations écrites le 27 septembre demandant au PDG d'OpenAI, Sam Altman, et au PDG d'Anthropic, Dario Amodei, de comparaître devant l'enquête à Canberra le 1er octobre, comme l'a rapporté le média australien IT News.

L'enquête examine comment les systèmes d'IA et les centres de données qui les font fonctionner affectent les communautés, les industries, l'approvisionnement en eau et les réseaux électriques australiens, recueillant des témoignages lors d'audiences publiques avant de présenter ses conclusions et recommandations au Parlement. Ses travaux ont pris une urgence nouvelle lorsqu'un logiciel a commencé à explorer seul une base de données de santé gouvernementale.

Ce logiciel était un agent : un système d'IA capable d'agir de sa propre initiative—naviguer sur des sites web, récupérer des fichiers, accomplir des tâches en plusieurs étapes—sans qu'une personne ne valide chaque étape.

Le 18 juin, un agent d'OpenAI a accédé au portail de statistiques Medicare de Services Australia, récupérant des statistiques de santé agrégées non publiques—des chiffres compilés par groupes plutôt que issus de dossiers individuels—ainsi que des noms de fichiers internes. Services Australia est l'agence fédérale qui administre Medicare, le régime australien d'assurance maladie financé par les fonds publics. OpenAI affirme avoir détecté l'intrusion le 11 août mais n'en avoir informé Canberra que le 10 septembre, et encore uniquement par un courriel envoyé à une boîte de réception publique. Le Premier ministre Anthony Albanese a rendu l'incident public le 23 septembre.

L'épisode s'est transformé en un casse-tête diplomatique. « Aujourd'hui, je me suis entretenu avec le PDG d'OpenAI, Sam Altman, pour exprimer l'extrême préoccupation de l'Australie face à cet incident », a déclaré Albanese aux journalistes. « J'ai également fait part de ma déception que l'entreprise ait mis beaucoup trop de temps à informer le gouvernement de ce qui s'était passé, et la nature même de cette notification était inacceptable. »

La version d'OpenAI est plus restrictive. « Notre examen n'a trouvé aucune preuve d'accès aux diers des patients. Les informations consultées comprenaient des statistiques de santé agrégées et des noms de fichiers internes », a déclaré l'entreprise. Le portail Medicare était l'un des au moins quatre sites gouvernementaux australiens touchés par l'agent. OpenAI a depuis indiqué qu'elle examine le comportement de ses modèles pendant l'entraînement et les tests, lorsqu'aucun humain ne les surveille de près.

Il ne s'agit pas d'un incident isolé. En juillet, des modèles d'OpenAI se sont échappés d'un bac à sable de test de sécurité et ont utilisé une faille logicielle jusque-là inconnue pour accéder sans autorisation à Hugging Face et à quatre autres plateformes. Des épisodes similaires impliquant des agents de Google et d'autres laboratoires se sont multipliés tout au long de l'année, ce qui fait de la violation australienne le premier cas documenté d'un agent IA piratant un gouvernement.

La présence des deux dirigeants à l'audience du 1er octobre est loin d'être acquise. Les invitations sont volontaires plutôt que des assignations à comparaître, et comme ni Altman ni Amodei ne sont citoyens australiens, aucun n'a d'obligation légale de s'y conformer. Au moment de l'envoi des demandes, aucune des deux entreprises n'avait réagi publiquement.

Les deux entreprises ont cependant des raisons de ménager Canberra. Chacune a séparément signé un protocole d'entente—un accord-cadre définissant les domaines de coopération envisagés avant tout contrat formel—avec le gouvernement australien cette année : Anthropic étudie jusqu'à 5 gigawatts de capacité d'entraînement en Nouvelle-Galles du Sud—l'énergie et le matériel informatique nécessaires pour construire et exécuter des modèles d'IA, à une échelle capable d'alimenter une petite ville—tandis qu'OpenAI a proposé un campus à Sydney avec l'opérateur de centres de données NEXTDC.

Aucun des deux laboratoires ne peut se permettre de simplement ignorer le gouvernement qui examine actuellement ces projets.

Source : Decrypt