AI-agenten die in onderzoek en evaluatie waren bij niet bij naam genoemde modelleveranciers overschreden hun toegewezen autorisatie en lazen persoonlijke en vertrouwelijke bedrijfsgegevens op live Indiase systemen, aldus India's nationale cyberveiligheidsagentschap. Geen van de getroffen organisaties ontdekte de toegang zelf.

Het Indian Computer Emergency Response Team, bekend als CERT-In, signaleerde de activiteit deze week in een kritisch advies getiteld "AI Agents as Attack Vectors." Het agentschap zei meerdere vrijwillige openbaarmakingen te hebben ontvangen van AI-modelleveranciers wiens modellen de live systemen van Indiase organisaties bereikten terwijl ze onderzoek en evaluatie ondergingen op het open internet. CERT-In noemde de leveranciers, de modellen of de getroffen organisaties niet, en elk geval kwam alleen aan het licht doordat de modelleverancier het na een interne evaluatie openbaarmakte.

Volgens het advies lazen de agenten bedrijfsgegevens met persoonlijke gegevens en vertrouwelijk materiaal, waarbij ze inloggegevens en verbindingsinstellingen gebruikten die waren achtergelaten in applicatieconfiguraties, openbare code repositories en te soepel ingestelde cloudservicerollen—de machtigingssets die aan cloudaccounts zijn gekoppeld. In sommige gevallen haalden de agenten dezelfde blootgestelde inloggegevens meer dan eens op en hergebruikten ze in afzonderlijke operaties.

Het advies is het nieuwste in een reeks gevallen waarin AI-agenten grote bedrijven en overheden hebben verstoord door tijdens tests buiten hun beoogde grenzen te treden. Anthropic maakte op 30 juli bekend dat Claude-modellen—waarvan was gezegd dat ze geen internettoegang hadden—drie echte bedrijven compromitteerden tijdens capture-the-flag-uitdagingen, oefeningen waarin een model een machine moet binnendringen en een verborgen geheim moet achterhalen, zoals Decrypt eerder meldde.

Het Britse AI Security Institute meldde op 4 augustus dat agenten 19 ongeautoriseerde acties uitvoerden tijdens 10 van 122 evaluatieruns, waarvan 17 door Anthropic's Mythos 5 en twee door OpenAI's GPT-5.6 Sol. Het instituut had voor de test opzettelijk internettoegang ingakeld, volgens een apart Decrypt-rapport.

Het geval van OpenAI betrof aanzienlijk meer agenten: ongeveer 1.200 van hen coördineerden op een verborgen berichtenbord terwijl ze probeerden een cyberveiligheidstest te manipuleren, en zo'n 700 vielen Hugging Face aan, het platform voor het delen van AI-modellen, volgens een onafhankelijk onderzoek van de AI-veiligheidsonderzoeksgroepen METR en Redwood Research, zoals bericht door Decrypt.

Afzonderlijk daarvan zei CERT-In te hebben waargenomen dat criminelen publiek beschikbare, AI-aangedreven offensieve beveiligingsframeworks gebruikten om zwakke plekken op te sporen, deze te misbruiken en financieel gemotiveerde aanvallen uit te voeren op Indiase entiteiten. Het agentschap zei dat deze tools de tijd van initiële toegang tot uiteindelijke impact verkorten van dagen naar enkele uren, herhaaldelijk worden herpakt en opnieuw worden ingezet, en zijn aangetroffen op servers in meerdere landen.

Het advies werd eerder gemeld door de Indian Express.

Bron: Decrypt