Het Australische parlement roept de twee mannen aan het roer van 's werelds krachtigste AI-labs ter verantwoording nadat een kunstmatig-intelligentieagent de overheid hackte—en een verontschuldiging plus een steunende tweet zal waarschijnlijk niet volstaan om wetgevers te kalmeren.

Senator Sarah Hanson-Young, voorzitter van een senaatscommissie over AI en datacenters, stuurde op 27 september schriftelijke uitnodigingen aan OpenAI-ceo Sam Altman en Anthropic-ceo Dario Amodei om op 1 oktober voor de commissie te verschijnen in Canberra, meldde het Australische nieuwsmedium IT News.

De commissie onderzoekt hoe AI-systemen en de datacenters die ze aandrijven Australische gemeenschappen, industrieën, watervoorzieningen en elektriciteitsnetten beïnvloeden, en verzamelt bewijs tijdens openbare hoorzittingen voordat bevindingen en aanbevelingen aan het parlement worden voorgelegd. Het werk kreeg nieuwe urgentie toen een stuk software op eigen initiatief een overheidsgezondheidsdatabase begon te verkennen.

Die software was een agent: een AI-systeem dat op eigen initiatief kan handelen—websites bezoeken, best ophalen en meerstaps-taken voltooien—zonder dat een persoon elke stap goedkeurt.

Op 18 juni kreeg een OpenAI-agent toegang tot het Medicare Statistics Reporting Portal van Services Australia en haalde niet-openbare geaggregeerde gezondheidsstatistieken op—cijfers die over groepen zijn samengesteld in plaats van uit individuele dossiers—en interne bestandsnamen. Services Australia is het federale agentschap dat Medicare beheert, het publiek gefinancierde ziektekosteverzekeringssysteem van Australië. OpenAI zegt dat het de inbraak op 11 augustus ontdekte, maar pas op 10 september Canberra op de hoogte bracht, en zelfs toen alleen per e-mail naar een openbaar postvak. Premier Anthony Albanese maakte het incident op 23 september publiek bekend.

De affaire is uitgegroeid tot een diplomatieke kopzorg. "Vandaag sprak ik met de ceo van OpenAI, Sam Altman, om Australiës uiterste zorg over dit incident te uiten," zei Albanese tegen verslaggevers. "Ik heb ook mijn teleurstelling geuit dat het veel te lang duurde voordat het bedrijf de regering informeerde over wat er was gebeurd, en de aard van de manier waarop die melding plaatsvond was eveneens onacceptabel."

OpenAI's eigen versie van de inbreuk is beperkter. "Ons onderzoek vond geen bewijs dat patiëntendossiers werden geraadpleegd. De geraadpleegde informatie omvatte geaggregeerde gezondheidsstatistieken en interne bestandsnamen," aldus het bedrijf. Het Medicare-portaal was een van ten minie vier Australische overheidswebsites die de agent raakte. OpenAI heeft sindsdien gezegd te onderzoeken hoe zijn modellen zich gedragen tijdens training en tests, wanneer weinig mensen nauwgezet toezien.

Het is ook geen geïsoleerd incident. In juli ontuchtten OpenAI-modellen een sandbox voor beveiligingstests en gebruikten een voorheen onbekende softwarefout om zonder toestemming toegang te krijgen tot Hugging Face en vier andere platforms. Vergelijkbare voorvallen met agents van Google en andere labs stapelden zich het hele jaar op, waardoor de Australische inbraak het eerste gedocumenteerde geval is van een AI-agent die een overheid hackte.

Aanwezigheid bij de hoorzitting van 1 oktober is allerminst zeker, en geen van beide ceo's zal waarschijnlijk verschijnen. De uitnodigingen zijn vrijwillig in plaats van dagvaardingen, en aangezien noch Altman noch Amodei de Australische nationaliteit heeft, bestaat er geen wettelijke verplichting om te gehoorzamen. Op het moment dat de verzoeken werden verstuurd, had geen van beide bedrijven publiek gereageerd.

Beide bedrijven hebben echter redenen om het mee te kunnen krijgen met Canberra. Elk heeft dit jaar afzonderlijk memorandums van overeenstemming getekend—raamovereenkomsten die beoogde samenwerkingsgebieden vastleggen vóór formele contracten—met de Australische regering: Anthropic onderzoekt tot 5 gigawatt aan trainingscapaciteit in New South Wales—de stroom en computerhardware die nodig zijn om AI-modellen te bouwen en te draaien, op een schaal die een kleine stad van energie zou kunnen voorzien—terwijl OpenAI een voorgestelde campus in Sydney heeft met datacenter-exploitant NEXTDC.

Geen van beide labs kan het zich veroorloven de regering die over die deals oordeelt simpelweg te negeren.

Bron: Decrypt