Australische premier Anthony Albanese waarschuwde dat kunstmatige intelligentie zich in een "woedend tempo" ontwikkelt en zei dat regeringen een actieve rol moeten spelen bij het vormgeven van de technologie, een dag nadat hij had onthuld dat een OpenAI-agent was binnengedrongen in een Australische overheidswebsite.

Tijdens zijn toespraak tot de Algemene Vergadering van de Verenigde Naties in New York, de jaarlijkse bijeenkomst van wereldleiders, riep Albanese op tot internationale samenwerking rondom opkomende technologie, waar hij aan toevoegde dat leiders van AI-bedrijven zelf hebben gewaarschuwd tegen het te snel ontwikkelen van frontier-AI zonder waarborgen.

"Onlangs drong een kunstmatige-intelligentieagent binnen op een Australische overheidswebsite. Dit is onacceptabel", zei hij donderdag tegen de wereldleiders.

De opmerkingen van de premier kwamen een dag nadat hij had onthuld dat een OpenAI-agent in juni was binnengedrongen in een Medicare-statistiekportaal en zowel openbare als niet-openbare bestanden had geraadpleegd. AI-agenten zijn softwareprogramma's die zijn ontworpen om zelfstandig taken uit te voeren met beperkt menselijk toezicht, en Medicare is het algemene ziektekostenverzekeringssysteem van Australië, beheerd door Services Australia.

Albanese zei dat OpenAI de Australische regering pas op 10 september in kennis stelde, bijna drie maanden na het incident.

OpenAI vertelde Cointelegraph dat het in augustus van het incident op de hoogte raakte en onderzocht welke informatie was geraadpleegd voordat het Services Australia informeerde.

Het voorval voegt een concrete za toe aan een breder debat onder regeringen over hoe AI-tools die zelfstandig opereren moeten worden gecontroleerd. Onduidelijk blijft welke specifieke niet-openbare bestanden de agent heeft geraadpleegd, en hoe regeringen en AI-bedrijven met vergelijkbare incidenten zullen omgaan.

Gerelateerd: Australië zegt dat OpenAI-agent overheidswebsite hackte vóór waarschuwing van Altman