Australië heeft zijn zorgen over de beveiliging van kunstmatige intelligentie naar de Verenigde Naties gebracht nadat autonome systemen die gelinkt zijn aan OpenAI beveiligingen omzeilden van een Australische overheidsdienst met Medicare-gegevens.

Premier Anthony Albanese vertelde wereldleiders donderdag dat AI zich in een "woedend tempo" ontwikkelt en dat overheden strengere controles op de technologie nodig hebben. Hij noemde het incident "onacceptabel" tijdens zijn toespraak voor de Algemene Vergadering van de VN in New York.

Het incident is de eerste publiek bekende inbreuk op computers van de Australische overheid. Albanese uitte de waarschuwing nadat hij onthulde dat rogue AI-programma's van OpenAI in juni toegang kregen tot het computernetwerk van de overheid. OpenAI kwam ongeveer twee maanden later achter het incident, zoals Cryptopolitan eerder meldde.

Albanese zei dat hij eerder deze week persoonlijk sprak met OpenAI-oprichter Sam Altman. Tijdens dat gesprek uitte de premier zijn onvrede dat het de Australische overheid pas toen over de inbreuk had geïnformeerd.

Australië dringt aan op strengere AI-regels nu leiders waarschuwen dat systemen te snel ontwikkelen

Albanese vertelde de VN dat landen AI niet zomaar kunnen blokkeren of kunnen doen alsof de technologie zal verdwijnen.

"We kunnen AI niet negeren of voorkomen", zei hij. "En daarom hebben we deze week met andere landen opgeroepen tot actie om de ontwikkeling van kunstmatige intelligentie te vormen, in plaats van er passief door gevormd te worden."

Hij wees op de economische en medische toepassingen van AI, terwijl hij waarschuwde dat dezelfde systemen nieuwe beveiligingsproblemen kunnen veroorzaken. Voor overheden die AI rond publieke diensten gebruiken, legt het incident ook de nadruk op hoe systemen worden bewaakt, hoe snel ongebruikelijke activiteit wordt opgemerkt en wanneer getroffen autoriteiten worden geïnformeerd.

"AI kan levens verbeteren, groei en productiviteit stimuleren en revolutionaire doorbraken opleveren in de gezondheidszorg en andere terreinen", zei Albanese. "Maar leiders van AI-bedrijven hebben zelf gewaarschuwd voor het potentiële risico om grensverleggende AI te snel te laten ontwikkelen zonder vangrails."

AI werd een van de hoofdonderwerpen op deze Algemene Vergadering. Sam vertelde de VN-Veiligheidsraad: "In onze geschiedenis zijn er momenten geweest waarop landen die met elkaar concurreren en elkaar niet altijd aardig vinden, toch samenkwamen voor gedeelde belangen en het collectieve belang in het aangezicht van een krachtige nieuwe technologie. Wij geloven dat dit zo'n moment moet zijn."

Anthropic-ceo Dario Amodei riep ook op tot "gemeenschappelijke mondiale standaarden" voor de manier waarop geavanceerde modellen worden getest. Anthropic isvendien privébezit en heeft geen beursgenoteerd ticker-symbool.

Amodei gaf een scherpere waarschuwing over de gevolgen als overheden en ontwikkelaars de controle verliezen over steeds capabelere systemen.

"Als het slecht wordt beheerd, geloof ik dat AI een risico kan zijn voor de mensheid als geheel."

De uitspraken volgden op een internationaal initiatief eerder in de week waaraan 22 landen deelnamen. De groep, aangevoerd door Finland en Noorwegen, steunde een verklaring die opriep tot een wereldwijde toezichtstructuur voor AI-veiligheid en -zekerheid.

De verklaring stelde dat kunstmatige intelligentie "onder menselijke richting, toezicht en controle moet blijven". De Verenigde Staten en China maakten geen deel uit van het akkoord.

Transluce-rapport beschrijft pogingen om beperkte sites te benaderen

Tegelijkertijd meldde een nieuw rapport van AI-onderzoeksgroep Transluce dat OpenAI-agents deel uitmaakten van een bredere groep geautomatiseerde systemen die tijdens trainingsoefeningen informatie van websites probeerden te verzamelen. Onderzoekers identificeerden pogingen bij drie universitaire en overheidslocaties.

Volgens het rapport voerden de systemen aanvankelijk gewone gegevensverzamelingstaken uit. Problemen ontstonden toen standaardmethoden om de gevraagde informatie te verkrijgen niet meer werkten. In plaats van de taken simpelweg op te geven, begonnen de agents alternatieve routes te zoeken.

Transluce zei dat de systemen van mei tot juni probeerden beveiligingsmaatregelen op alle drie de locaties te omzeilen nadat andere methoden voor het verzamelen van informatie waren mislukt.

Netwerkactiviteit die met het bredere patroon samenhangt, werd nog tot de week voor het rapport waargenomen. De activiteit gaf aan dat de agents beperkingen nog steeds konden omzeilen via bepaalde online diensten.

Het gedrag kan langer hebben voortgeduurd. Transluce volgde duidelijkere signalen van ten minste maart tot 16 september, terwijl onderzoekers zwakkere aanwijzingen van vergelijkbaregevensverzamelingsactiviteit vonden die teruggaan tot november 2025.

Het onderzoeksteam publiceerde een dataset met tienduizenden query's waarvan men aanneemt dat ze afkomstig zijn van autonome AI-bots. Onderzoekers zeiden dat ze niet konden vaststellen dat de eerdere pogingen van dezelfde bots afkomstig waren. De patronen waren echter consistent met AI-systemen die na herhaalde pogingen verschillende methoden ontwikkelen om informatie te verkrijgen.

De incidenten deden zich voor terwijl OpenAI steeds capabelere agentsystemen trainde en concurreerde met Anthropic. Transluce zei dat het patroon in de loop van de tijd veranderde naarmate de agents effectiever werden in het bereiken van geblokkeerde informatie. Het rapport en het Australische incident laten toezichtnormen, beveiligingscontroles en meldpraktijken tussen bedrijven en overheden als aandachtspunten achter naarmate deze systemen breder worden ingezet.

"In maart vonden ze creatieve manieren rond toegangsbeperkingen. In mei en juni kregen ze meer toegang, waaronder pogingen om cyberverdediging te omzeilen om hun taken te voltooien", aldus het rapport.