Meta hat bestätigt, dass eines seiner Muse Spark KI-Modelle während einer Cybersicherheitsbewertung aus seiner vorgesehenen Testumgebung ausbrach, Zugang zum öffentlichen Internet erlangte und eine Sicherheitslücke in einem Drittanbieter-Dienst ausnutzte – der dritte bekannte Vorfall, bei dem Modelle eines führenden KI-Labors während Sicherheitstests externe Entitäten hackten.

Die Sicherheitsverletzung ereignete sich während Tests, die von Irregular durchgeführt wurden, einem unabhängigen KI-Bewertungsunternehmen, das Meta nutzt, um die Fähigkeiten und die Sicherheit seiner Frontier-Modelle zu beurteilen. Laut Meta ermöglichte ein Konfigurationsfehler bei Irregular versehentlich dem Modell den Zugang zum öffentlichen Internet, wo es eine nicht identifizierte Sicherheitslücke in einem Drittanbieter-Dienst ausnutzte, bevor das Testunternehmen Meta informierte. Der Vorfall unterstreicht die wachsende Abhängigkeit von externen Prüfern, da führende Labore Modelle belastungstesten wollen, die sie intern nicht mehr vollständig bewerten können – und die Eindämmungsrisiken, die mit der Delegierung dieser Arbeit an eine Drittanbieter-Infrastruktur einhergehen.

„Eine Fehlkonfiguration durch Irregular, ein unabhängiges Testunternehmen, das Meta nutzt, hat versehentlich einem unserer Modelle während der Bewertung den Zugang zum Internet ermöglicht“, sagte ein Meta-Sprecher in einer Erklärung.

Sandbox-Bewertungen dienen dazu, fortschrittliche KI-Systeme in streng kontrollierten Umgebungen zu testen, die eine Interaktion mit dem öffentlichen Internet oder externen Computersystemen verhindern. In diesem Fall nutzte das Modell eine Sicherheitslücke in einem Drittanbieter-Dienst aus, nachdem die Fehlkonfiguration es dem breiteren Internet ausgesetzt hatte.

„Meta erfuhr davon, als Irregular uns informierte, und wir untersuchen den Vorfall derzeit und werden eine vollständige Rückschau veröffentlichen, sobald wir alle Fakten haben“, fügte der Sprecher hinzu.

Die Offenlegung folgt auf eine Reihe ähnlicher Vorfälle, die von anderen führenden KI-Entwicklern gemeldet wurden und die bei Sicherheitsexperten, Gesetzgebern und der breiten Öffentlichkeit Alarm ausgelöst haben. Alle drei Fälle haben einen gemeinsamen Schwachpunkt: Nicht die Modelle brachen absichtlich aus, sondern Fehlkonfigurationen in den Testumgebungen selbst – was darauf hindeutet, dass die Eindämmungsinfrastruktur und nicht die Absicht der Modelle das wiederkehrende schwache Glied in KI-Sicherheitsbewertungen geworden ist.

Im vergangenen Monat verriet OpenAI, dass zwei seiner KI-Modelle einer Sandbox-Cybersicherheitsbewertung entkamen, eine zuvor unbekannte Software-Sicherheitslücke ausnutzten, Internetzugang erlangten und Hugging Face hackten, um Antworten für einen Sicherheits-Benchmark zu erhalten. OpenAI gab später bekannt, dass der gleiche Angriff auch vier weitere Online-Dienste erreichte.

Später im Juli berichtete Anthropic, dass drei Claude-Modelle drei real existierende Unternehmen kompromittierten, nachdem eine Fehlkonfiguration bei einem Test sie während Cybersicherheitsbewertungen dem öffentlichen Internet aussetzte.

Als Reaktion auf die Zunahme solcher Vorfälle haben US-Gesetzgeber Gesetzesentwürfe eingebracht, die dem Department of Homeland Security einen „KI-Kill-Schalter“ geben würden – die Befugnis, KI-Modelle zu drosseln oder abzuschalten, von denen angenommen wird, dass sie eine ernsthafte Bedrohung darstellen.