Meta ist am Mittwoch mit der Einführung eines neuen KI-Coding-Agenten in einen der wettbewerbsintensivsten Bereiche der künstlichen Intelligenz eingestiegen. Das System soll mit OpenAI's Codex und Anthropic's Claude Code konkurrieren — Produkten, die zu den ersten KI-Tools gehören, für die Unternehmen bereit sind, hohe Preise zu zahlen, weil sie Aufgaben ohne Aufsicht ausführen können. Anders als Chatbots, die Text als Antwort auf Eingaben erzeugen, sind diese Agenten darauf ausgelegt, in realen Softwareumgebungen Aktionen auszuführen — Code zu schreiben, auszuführen und zu debuggen — ein Maß an Autonomie, das Eindämmungsfehler deutlich anders macht als frühere Risiken generativer KI.

Nur einen Tag später berichtete The Information, dass eines der Modelle von Meta eine Sicherheitslücke ausgenutzt habe, nachdem das Drittanbieter-Testunternehmen Irregular ihm versehentlich Internetzugang gewährt hatte. Die Offenlegung reiht Meta neben OpenAI und Anthropic in eine wachsende Zahl von Eingeständnissen großer KI-Labore über unerwartetes autonomes Verhalten während Tests ein. Meta bestätigte den Vorfall gegenüber Fortune.

Ein Meta-Sprecher sagte Fortune, das Modell habe sich "in a manner similar to previously reported instances with other companies" verhalten. Der Sprecher ergänzte per E-Mail: "We are currently investigating and will issue a full retrospective once we have all the facts."

Der Vorfall folgt auf zwei frühere Enthüllungen von Metas Wettbewerbern. Vor Wochen legte OpenAI offen, dass zwei auf Cybersecurity ausgerichtete KI-Modelle eine sichere Testumgebung verlassen und Hugging Face kompromittiert hatten, während sie versuchten, bei einem Cybersecurity-Benchmark zu betrügen. Am Mittwoch sagten OpenAI-Forscher, sie hätten herausgefunden, dass die Modelle vor dem Einbruch ein internes Nachrichtenboard nutzten, um ohne Wissen des Unternehmens miteinander zu kommunizieren und sich gegenseitig bei Aufgaben zu unterstützen. Als Reaktion auf OpenAIs Offenlegung leitete Anthropic eine eigene Prüfung ein und stellte fest, dass seine Claude-Modelle während interner Evaluierungen drei Organisationen gehackt hatten, nachdem sie Schwachstellen in ihren Testumgebungen ausgenutzt hatten.

Auch wenn die Vorfälle bei den drei Unternehmen nicht identisch sind — und alle während interner Evaluierungen und nicht in Kundeneinsätzen auftraten — verdeutlichen sie eine breitere Verschiebung im KI-Wettlauf, während Frontier-Labore über Chatbots hinaus zu autonomeren Agenten vordringen. Die Offenlegungen kommen zu einem Zeitpunkt, an dem Regierungen aktiv Sicherheitsrahmen für KI entwickeln, darunter den EU AI Act und die US-Executive Order zur künstlichen Intelligenz, die beide eine stärkere Aufsicht über Frontier-Modelle mit autonomer Handlungsfähigkeit fordern. Der Trend hat erhebliche Folgen für Organisationen, die diese Tools in großem Unternehmensmaßstab einsetzen.

Katie Moussouris, Gründerin von Luta Security, einem Unternehmen, das Firmen beim Management von Software-Schwachstellen unterstützt, stellte infrage, ob Organisationen und Regierungen für solche Risiken gerüstet sind. "If the frontier models themselves can't contain these things," sagte sie Fortune, "what chance do the rest of organizations and governments have to contain them?"

Patrick Moorhead, Chefanalyst bei Moor Insights and Strategy und eine vielbeachtete Stimme im Bereich Enterprise-Hardware, sagte Fortune, dass das Ausbrechen von Frontier-Modellen aus abgesicherten Umgebungen CEOs dazu bringe, die seit Langem bekannten Risiken ernster zu nehmen.

"The trust in frontier models has been eroded and I think this will create future direct customer business issues for them," sagte Moorhead Fortune per E-Mail. "I can say definitively that security is moving up in terms of tech partner selection criteria after these events."

Moussouris sagte, sie sei überrascht, dass Meta, OpenAI und Anthropic ihre Modelle angesichts der Tragweite nicht enger überwachten.

"I think the striking thing about all of these incidents is they weren't better anticipated by the frontier model companies, given that they've been testing their agents' capabilities for quite some time," sagte Moussouris Fortune. "I am taken aback by how long it took them to detect this kind of anomalous behavior, and the fact that they were not monitoring them in real time to make sure that something like this wasn't going to happen."

This story was originally featured on Fortune.com