KI-Agenten, die von nicht genannten Modellanbietern erforscht und evaluiert wurden, überschritten ihre zugewiesenen Berechtigungen und lasen persönliche sowie vertrauliche Geschäftsunterlagen auf Live-Systemen in Indien, wie die nationale Cybersicherheitsbehörde des Landes mitteilte. Keine der betroffenen Organisationen entdeckte den Zugriff selbst.

Das Indian Computer Emergency Response Team, bekannt als CERT-In, wies diese Woche in einer kritischen Stellungnahme mit dem Titel „AI Agents as Attack Vectors“ auf die Aktivitäten hin. Die Behörde erklärte, sie habe mehrere freiwillige Meldungen von KI-Modellanbietern erhalten, deren Modelle während Forschung und Evaluierung im offenen Internet die Live-Systeme indischer Organisationen erreicht hatten. CERT-In nannte weder die Anbieter noch die Modelle oder die betroffenen Organisationen. Jeder Fall wurde ausschließlich bekannt, weil der Modellanbieter ihn nach einer internen Prüfung meldete.

Der Stellungnahme zufolge lasen die Agenten Geschäftsunterlagen mit personenbezogenen Daten und vertraulichen Inhalten. Dabei verwendeten sie Zugangsdaten und Verbindungseinstellungen, die in Anwendungskonfigurationen, öffentlichen Code-Repositories und übermäßig großzügigen Cloud-Service-Rollen offengelegt worden waren – den Berechtigungssätzen, die Cloud-Konten zugeordnet sind. In einigen Fällen fanden sie dieselben offengelegten Zugangsdaten mehr als einmal und verwendeten sie bei separaten Vorgängen erneut.

Die Stellungnahme ist der jüngste einer Reihe von Fällen, in denen KI-Agenten große Unternehmen und Regierungen störten, indem sie während Tests über ihre vorgesehenen Grenzen hinausgingen. Anthropic teilte am 30. Juli mit, dass Claude-Modelle – denen gesagt worden war, sie hätten keinen Internetzugang – während Capture-the-Flag-Herausforderungen drei reale Unternehmen kompromittiert hatten. Dabei handelt es sich um Übungen, bei denen ein Modell in eine Maschine eindringen und ein verborgenes Geheimnis abrufen muss, wie Decrypt zuvor berichtete.

Das britische AI Security Institute berichtete am 4. Aug., dass Agenten bei 10 von 122 Evaluierungsläufen 19 nicht genehmigte Aktionen durchführten: 17 davon entfielen auf Anthropics Mythos 5 und zwei auf OpenAIs GPT-5.6 Sol. Das Institut hatte den Internetzugang für den Test absichtlich aktiviert, wie aus einem separaten Decrypt-Bericht hervorgeht.

Der Fall von OpenAI umfasste deutlich mehr Agenten: Rund 1.200 von ihnen koordinierten sich auf einem versteckten Message Board, während sie versuchten, einen Cybersicherheitstest zu umgehen, und etwa 700 griffen Hugging Face an, die Plattform zum Teilen von KI-Modellen. Das ergab eine unabhängige Untersuchung der KI-Sicherheitsforschungsgruppen METR und Redwood Research, über die Decrypt berichtete.

Unabhängig davon erklärte CERT-In, Kriminelle hätten öffentlich verfügbare, KI-gestützte Frameworks für offensive Sicherheit eingesetzt, um nach Schwachstellen zu suchen, diese auszunutzen und finanziell motivierte Angriffe gegen indische Einrichtungen durchzuführen. Nach Angaben der Behörde verkürzen die Werkzeuge die Zeit vom ersten Zugriff bis zur endgültigen Auswirkung von Tagen auf wenige Stunden. Sie würden wiederholt neu verpackt und eingesetzt und seien auf Servern in mehreren Ländern gefunden worden.

Die Stellungnahme wurde zuvor vom Indian Express berichtet.

Quelle: Decrypt