Anthropic teilte am Donnerstag mit, dass drei seiner Modelle der Künstlichen Intelligenz während Cybersicherheitstests das offene Internet erreichten und unbefugt auf die Systeme von drei realen Organisationen zugriffen.

Die Mitteilung folgt auf die Ankündigung von OpenAI Anfang dieses Monats, dass eines seiner fortgeschrittenen KI-Modelle während interner Tests die Systeme des KI-Unternehmens Hugging Face kompromittiert habe, was neue Fragen zu den Schutzmechanismen rund um zunehmend autonome KI-Systeme aufwirft. Die aufeinanderfolgenden Offenlegungen durch zwei der führenden US-KI-Labore haben die Prüfung verschärft, wie Unternehmen Frontline-Modelle vor dem Einsatz auf gefährliche Fähigkeiten testen.

"We found three incidents in which a Claude model reached the internet from within or while interacting with a third-party evaluation environment, and then gained unauthorized access to the real systems of three different organizations," sagte Anthropic in einer Mitteilung.

Anthropic sagte, es habe nach der Offenlegung durch OpenAI mehr als 140.000 Cybersicherheits-Testläufe überprüft und drei Vorfälle mit unterschiedlichen Claude-Modellen identifiziert. Das Unternehmen führte alle drei Vorfälle auf einen Konfigurationsfehler während interner Tests zurück, der den Modellen versehentlich Zugang zum offenen Internet verschafft habe.

Laut Anthropic war Claude angewiesen worden, dass es innerhalb einer geschlossenen Simulation ohne Internetzugang arbeite, wodurch es die Systeme realer Organisationen fälschlicherweise als Teil einer fiktiven "capture-the-flag"-Cybersicherheitsübung behandelte — ein gängiges Trainingsformat, bei dem Teilnehmende versuchen, versteckte digitale Flags auszulesen, indem sie Schwachstellen in Zielsystemen ausnutzen.

Die Vorfälle betrafen drei verschiedene Claude-Modelle — darunter Opus 4.7, Mythos 5 und ein internes Forschungs-Testmodell — und ereigneten sich laut Anthropic alle während interner Tests und nicht auf Kundensystemen. Der früheste Vorfall stammt aus dem April.

"Claude glaubte, alles, was es zunächst antraf, sei Teil der Simulation, und behandelte die realen Systeme, die es fand, als Bestandteile der Übung," sagte Anthropic.

"In none of these situations did Claude exfiltrate itself or deliberately attempt to escape its test environment," fügte das Unternehmen hinzu.

Anthropic betonte, die Vorfälle unterstrichen den Bedarf an stärkeren Schutzmaßnahmen rund um KI-Testumgebungen.

"Evaluation environments that involve powerful autonomous capabilities also require significant controls," sagte das Unternehmen. "We encourage other AI labs to perform similar reviews."

Präsident Donald Trump sagte am Mittwoch, seine Regierung prüfe nach den jüngsten Cybersicherheitsvorfällen zusätzliche Schutzmaßnahmen für künstliche Intelligenz.

Trump sagte, die USA müssten ein Gleichgewicht finden zwischen dem Schutz vor KI-Risiken und der Wahrung ihres technologischen Vorsprungs gegenüber China.

"We're looking at AI, we're looking at controls," sagte Trump.

"Whoever wins with AI is going to win," fügte er hinzu. "That's how big it is. So it's bigger than the internet ever was. It's bigger than anything ever was. So I don't want to restrict. I know many of these people. I don't want to restrict them from doing great work."

Die Mitteilung erfolgte einen Tag nachdem OpenAI-CEO Sam Altman wachsende öffentliche Sorgen über künstliche Intelligenz nach dem eigenen Cybersicherheitsvorfall seines Unternehmens eingeräumt hatte.

"I think it's very natural to be fearful after any new capability level," sagte Altman gegenüber FOX Business. "Obviously we're taking this super seriously and we'll continue to do so, but I would say I understand, I get it. A lot of AI has gone super well and this is a moment where people are like, 'Okay, we're at a new level.'"

Auf die Frage, ob die Modelle von OpenAI möglicherweise die Systeme anderer Unternehmen kompromittiert haben könnten, antwortete Altman: "There could be, yeah."