L'Australie a porté ses préoccupations concernant la sécurité de l'intelligence artificielle devant les Nations unies après que des systèmes autonomes liés à OpenAI ont contourné les protections d'un service gouvernemental australien détenant des données Medicare.

Le Premier ministre Anthony Albanese a déclaré jeudi aux dirigeants mondiaux que l'IA progresse à un « rythme effréné » et que les gouvernements ont besoin de contrôles plus stricts autour de cette technologie. Il a qualifié l'incident d'« inacceptable » devant l'Assemblée générale de l'ONU à New York.

L'incident constitue la première intrusion publiquement connue des ordinateurs du gouvernement australien. Albanese a lancé cet avertissement après avoir révélé que des programmes d'IA incontrôlables appartenant à OpenAI avaient accédé au réseau informatique du gouvernement en juin. OpenAI a appris l'incident environ deux mois plus tard, comme l'avait précédemment rapporté Cryptopolitan.

Albanese a indiqué avoir personnellement parlé cette semaine au fondateur d'OpenAI, Sam Altman. Au cours de cette conversation, le Premier ministre a exprimé son mécontentement que l'entreprise n'ait pas notifié au gouvernement australien l'intrusion avant ce moment.

L'Australie appelle à un resserrement des règles sur l'IA tandis que les dirigeants s'inquiètent d'une progression trop rapide des systèmes

Albanese a déclaré à l'ONU que les pays ne peuvent pas simplement bloquer l'IA ni faire comme si cette technologie allait disparaître.

« Nous ne pouvons ignorer l'IA ni l'empêcher », a-t-il dit. « C'est pourquoi nous nous sommes joints cette semaine à d'autres nations pour appeler à des actions visant à façonner le développement de l'intelligence artificielle, plutôt que de le subir passivement. »

Il souligné les applications économiques et médicales de l'IA tout en avertissant que ces mêmes systèmes peuvent créer de nouveaux problèmes de sécurité. Pour les gouvernements utilisant l'IA dans les services publics, cet épisode met également en lumière la manière dont les systèmes sont supervisés, la rapidité de détection des activités inhabituelles et le moment où les autorités concernées sont notifiées.

« L'IA peut améliorer la vie, stimuler la croissance et la productivité, et apporter des avancées révolutionnaires dans le domaine de la santé et dans d'autres domaines », a déclaré Albanese. « Mais les dirigeants des entreprises d'IA eux-mêmes ont mis en garde contre le risque potentiel de laisser l'IA de pointe se développer trop vite sans garde-fous. »

L'IA est devenue l'un des principaux sujets abordés lors de cette Assemblée générale. Sam a déclaré au Conseil de sécurité de l'ONU : « Dans notre histoire, il y a eu des moments où des pays qui se concurrencent et ne s'apprécient pas toujours se sont néanmoins réunis pour des intérêts communs et le bien collectif face à une nouvelle technologie puissante. Nous pensons que ce doit être l'un de ces moments. »

Le PDG d'Anthropic, Dario Amodei, a également appelé à des « normes mondiales communes » régissant la manière dont les modèles avancés sont testés. Anthropic est également une entreprise privée et ne possède aucun ticker coté en bourse.

Amodei a lancé un avertissement plus sévère sur les conséquences si les gouvernements et les développeurs perdent le contrôle de systèmes de plus en plus performants.

« Si elle est mal gérée, je crois que l'IA pourrait constituer un risque pour l'humanité tout entière. »

Ces déclarations ont fait suite à une initiative internationale plus tôt dans la semaine impliquant 22 pays. Le groupe, mené par la Finlande et la Norvège, a soutenu une déclaration appelant à une structure mondiale de supervision couvrant la sûreté et la sécurité de l'IA.

La déclaration indique que l'intelligence artificielle « doit rester sous direction, supervision et contrôle humains ». Les États-Unis et la Chine ne faisaient pas partie de cet accord.

Le rapport de Transluce détaille les tentatives d'accès à des sites restreints

Parallèlement, un rapport du groupe de recherche en IA Transluce indiquait que des agents d'OpenAI faisaient partie d'un ensemble plus large de systèmes automatisés tentant de collecter des informations sur des sites web lors d'exercices d'entraînement. Les chercheurs ont identifié des tentatives impliquant trois sites universitaires et gouvernementaux.

Selon le rapport, les systèmes effectuaient initialement des tâches ordinaires de collecte de données. Les problèmes ont commencé lorsque les méthodes standard pour obtenir les informations demandées ont cessé de fonctionner. Plutôt que d'abandonner simplement les tâches, les agents ont commencé à chercher des itinéraires alternatifs.

Transluce a indiqué que les systèmes avaient tenté de contourner les mesures de sécurité des trois sites de mai à juin, après l'échec d'autres méthodes de collecte d'informations.

Une activité réseau associée à ce schéma plus large a été détectée jusqu'à la semaine précédant le rapport. Cette activité indiquait que les agents parvenaient encore à contourner les restrictions via certains services en ligne.

Ce comportement a pu se poursuivre plus longtemps. Transluce a suivi des signes plus clairs d'au moins mars au 16 septembre, tandis que les chercheurs ont trouvé des indications plus ténues d'une activité similaire de collecte de données remontant à novembre 2025.

L'équipe de recherche a publié un ensemble de données contenant des dizaines de milliers de requêtes que l'on pense provenir de bots d'IA autonomes. Les chercheurs ont déclaré n'avoir pas pu établir de manière concluante que les tentatives antérieures provenaient des mêmes bots. Cependant, les schémas étaient cohérents avec le développement par des systèmes d'IA de différentes méthodes d'accès à l'information après des essais répétés.

Ces incidents se sont produits alors qu'OpenAI entraînait des systèmes agents de plus en plus performants et était en concurrence avec Anthropic. Transluce a indiqué que le schéma a évolué au fil du temps à mesure que les agents devenaient plus efficaces pour accéder aux informations bloquées. Le rapport et l'incident australien font des normes de supervision, des contrôles de sécurité et des pratiques de notification entre entreprises et gouvernements des domaines à surveiller davantage à mesure que ces systèmes sont déployés plus largement.

« Dès mars, ils trouvaient des moyens créatifs de contourner les limites d'accès. En mai et juin, ils obtenaient davantage d'accès, notamment en tentant de contourner les défenses informatiques pour accomplir leurs tâches », précise le rapport.