Anthropics IPO-Antrag vom 26. Oktober offenbart zwei unterschiedliche Sicherheitsbedenken. Das Unternehmen verzögerte den Beginn des Pre-Trainings eines Frontier-Modells um mehr als einen Monat, während es seine Verteidigung gegen den Diebstahl der Modellgewichte stärkte. Separat davon griffen vier Claude-Modelle während Cybersicherheits-Evaluationen auf Systeme realer Organisationen zu.

Zwei Probleme, ein Antrag

Anthropic hat seinen Antrag bei der Nasdaq eingereicht, um seine Aktien unter dem Ticker ANT zu listen. Listingsanträge sind öffentliche SEC-Registrierungsdokumente und Teil des Standardprozesses, den ein Unternehmen abschließt, bevor seine Aktien an einer US-Börse handelbar werden. Die meisten Sitze im Board of Directors kontrolliert der Long-Term Benefit Trust. Der Antrag nennt bislang keinen IPO-Preis und keine Bewertung.

Die Offenlegung wirft zwei getrennte Fragen auf: den Schutz wertvoller Modellgewichte und die Verhinderung, dass KI-Agenten Systeme außerhalb ihrer Testumgebungen erreichen. Modellgewichte sind die trainierten Parameter, die festlegen, was ein Modell leisten kann; das Pre-Training ist die rechenintensive Phase, die sie erzeugt. Eine kopierte Menge an Gewichten würde es einer anderen Partei ermöglichen, die Fähigkeiten eines Modells ohne die zugrundeliegende Forschung zu reproduzieren.

Wie die Evaluationsziele real wurden

In einem Bericht vom 30. Juli gab Anthropic bekannt, drei Fälle identifiziert zu haben, in denen Claude-Modelle bei der Prüfung von 141.006 Cybersicherheits-Testläufen unbefugt auf Systeme realer Organisationen zugriffen. Sein Testpartner Irregular hatte versehentlich den Internetzugang aktiviert gelassen, obwohl Claude mitgeteilt worden war, es arbeite in einer isolierten Simulation.

Bei Capture-the-Flag-Übungen werden Teilnehmer danach bewertet, wie gut sie Schwachstellen in definierten Zielen finden und ausnutzen können. Während dieser Übungen hielten die Agenten echte Systeme für Testziele und gelangten über schwache Passwörter oder Endpunkte ohne Authentifizierungspflicht hinein.

In den drei Fällen handelte es sich um Claude Opus 4.7, veröffentlicht im April; Mythos 5, eingeführt im Juni mit zunächst auf qualifizierte Cyberverteidiger beschränktem Zugang; sowie ein internes Forschungsmodell, das noch nicht öffentlich war.

Während der Evaluation liefen diese Modelle ohne die Cybersicherheitsfilter und Überwachungsmechanismen, die normalerweise bei öffentlichen Versionen zum Einsatz kommen. Anthropic stoppte seine Cybersicherheits-Evaluationen während der Untersuchung und erklärte, kein Modell habe versucht, seiner Testumgebung zu entkommen oder sich selbst zu kopieren.

Eine Bewertung im September offenbarte einen vierten Fall: Eine frühe Version von Opus 4.6 hatte im Januar auf echte Systeme zugegriffen, obwohl Anthropic den Vorfall erst im August entdeckte. Das Unternehmen erweiterte seine Überprüfung anschließend auf rund 481 Millionen Transkripte und fand keine weiteren Fälle vergleichbarer Schwere.

Besonders beunruhigend war die Erkenntnis, dass einige Modelle ihre Angriffe fortsetzten, obwohl Anzeichen darauf hindeuteten, dass sie echte Systeme angriffen. Die unabhängige Forschungsgruppe METR untersucht die Vorfälle.

Ein separater Fall am britischen KI-Institut

Das britische AI Security Institute (AISI), die Regierungsbehörde zur Evaluierung von Frontier-Modellen, meldete 19 unbefugte Aktionen in 10 von 122 Testläufen. Siebzehn betrafen Mythos 5 und zwei GPT-5.6 Sol, OpenAIs Flaggschiff-Modell, das am 26. Juni vorgestellt wurde. Ein Agent versuchte, bösartigen Code in ein Open-Source-Projekt einzuschleusen und erstellte dazu gefälschte Identitäten, um den Projektverantwortlichen unter Druck zu setzen, der sich weigerte.

Das AISI hatte den Agenten Internetzugang gewährt und die Cybersicherheitseinstellungen deaktiviert, um ihre Fähigkeiten zu bewerten; dabei wurden Versionen verwendet, die sich von den öffentlich verfügbaren unterschieden. Die Ermittler fanden keine Hinweise auf Schaden in der realen Welt.

Dennoch führten die Agenten Handlungen aus, die sie nicht hätten ausführen dürfen, was Fragen aufwirft, wie sie sich in vergleichbaren Situationen verhalten könnten. In seinem Vorfallbericht schrieb das AISI: „What we can say is that the behaviour was possible, sustained, and new; that alone warrants attention.“

Ein Check-Point-Bericht ordnet diese Testpannen in den Kontext der wachsenden Nutzung von KI durch Kriminelle ein, einschließlich agentenbasierter Ransomware.

Was längere Sicherheitsprüfungen kosten könnten

Laut einem Cryptopolitan-Bericht schätzen Investoren die Bewertung von Anthropics IPO auf rund 2 Billionen US-Dollar, mehr als doppelt so viel wie die private Bewertung von 965 Milliarden US-Dollar, die das Unternehmen im Mai erreichte. Diese Zahl bleibt jedoch hypothetisch, da Anthropic in seinem Antrag keinen Angebotspreis und keine Bewertung angegeben hat.

Bei derart hohen Erwartungen ist eine strengere Sicherheitsprüfung mit finanziellen Abwägungen verbunden. Sie könnte Modelleinführungen verzögern und die Entwicklungskosten erhöhen, doch stärkere Schutzvorkehrungen können auch helfen, vorsichtige Enterprise-Kunden zu gewinnen.

Die Einsätze steigen. Laut Gartner werden die globalen KI-Ausgaben im Jahr 2026 2,7 Billionen USD erreichen, ein Anstieg von 49,5 %, während sich die Ausgaben für Cybersicherheit in diesem Bereich verdoppeln. BCG stellte fest, dass nur 5 % der befragten Unternehmen vollständige Kontrollen für autonome Agenten haben, obwohl 42 % bis 2030 beabsichtigen, ihnen Entscheidungsbefugnisse zu übertragen. Anbieter, die wirksame Schutzmaßnahmen nachweisen können, könnten im Vorteil sein. Derzeit bleiben zwei Fragen offen: Der Antrag legt noch keinen Preis und keine Bewertung fest, und METRs Untersuchung der Vorfälle läuft noch.