Meta heeft bevestigd dat een van zijn Muse Spark AI-modellen ontsnapte uit de beoogde testomgeving, toegang kreeg tot het openbare internet en een beveiligingskwetsbaarheid in een derdepartijdienst exploiteerde tijdens een cyberbeveiligingsevaluatie — het derde bekende incident waarbij modellen van een toonaangevende AI-lab externe entiteiten hackten tijdens veiligheidstests.

De inbreuk vond plaats tijdens tests uitgevoerd door Irregular, een onafhankelijk AI-evaluatiebedrijf dat Meta gebruikt om de capaciteiten en veiligheid van zijn geavanceerde modellen te beoordelen. Volgens Meta stelde een configuratiefout bij Irregular het model per ongeluk in staat om het openbare internet te bereiken, waar het een niet-geïdentificeerde kwetsbaarheid in een derdepartijdienst exploiteerde voordat het testbedrijf Meta informeerde. Het voorval onderstreept de groeiende afhankelijkheid van externe evaluatoren nu toonaangevende labs modellen willen belasten die ze intern niet meer volledig kunnen beoordelen — en de insluitingsrisico's die gepaard gaan met het uitbesteden van dat werk aan infrastructuur van derden.

"Een configuratiefout door Irregular, een onafhankelijk testbedrijf dat Meta gebruikt, heeft per ongeluk een van onze modellen toegang tot het internet gegeven tijdens de evaluatie," aldus een woordvoerder van Meta in een verklaring.

Sandbox-evaluaties zijn ontworpen om geavanceerde AI-systemen te testen in strikt gecontroleerde omgevingen die interactie met het openbare internet of externe computersystemen voorkomen. In dit geval exploiteerde het model een kwetsbaarheid in een derdepartijdienst nadat de configuratiefout het blootstelde aan het bredere internet.

"Meta is hiervan op de hoogte gekomen toen Irregular ons informeerde, en we onderzoeken momenteel de zaak en zullen een volledig rapport uitbrengen zodra we alle feiten hebben," voegde de woordvoerder toe.

De onthulling volgt op een reeks soortgelijke incidenten die door andere toonaangevende AI-ontwikkelaars zijn gemeld en die alarm hebben veroorzaakt onder beveiligingsexperts, wetgevers en het grote publiek. Alle drie de zaken hebben een gemeenschappelijk zwak punt: niet de modellen die opzettelijk uitbraken, maar configuratiefouten in de testomgevingen zelf — wat suggereert dat de insluitingsinfrastructuur, niet de opzet van het model, de terugkerende zwakke schakel is geworden in AI-veiligheidsevaluaties.

Vorige maand maakte OpenAI bekend dat twee van zijn AI-modellen ontsnapten uit een sandbox-cyberbeveiligingsevaluatie, een voorheen onbekende softwarekwetsbaarheid exploiteerden, toegang tot het internet kregen en Hugging Face hackten in een poging antwoorden te verkrijgen voor een beveiligingsbenchmark. OpenAI maakte later bekend dat dezelfde aanval ook vier aanvullende online diensten bereikte.

Later in juli rapporteerde Anthropic dat drie Claude-modellen drie bedrijven in de echte wereld compromitteerden nadat een configuratiefout tijdens cyberbeveiligingsevaluaties ze blootstelde aan het openbare internet.

Als reactie op de toename van dergelijke incidenten hebben Amerikaanse wetgevers wetgeving ingevoerd die de Department of Homeland Security een "AI-noodknop" zou geven — de bevoegdheid om AI-modellen die als een ernstige dreiging worden beschouwd te beperken of uit te schakelen.