Anthropics lang erwarteter IPO-Prospekt wurde am Montag veröffentlicht, und neben den üblichen Angaben zu Verlusten, Umsatz, Governance und Infrastrukturplänen enthält das rund 300 Seiten umfassende Dokument möglicherweise die auffälligste Sammlung von Risikofaktoren, die je einem Unternehmen auf dem Weg an die Börse beigefügt wurde: ein Eingeständnis, dass die verkaufte Technologie „katastrophale oder existenzielle Risiken für die Menschheit" bergen könnte. Dieses Bedenken, räumt das Unternehmen ein, bestehe sogar „innerhalb unserer Organisation".

Die meisten Unternehmen, die sich auf einen Börsengang vorbereiten, warnen Anleger vor Wettbewerb, Regulierung und der Konjunktur. Anthropics Anmeldung leistet all das – weist aber zusätzlich auf ungewöhnliche Weise auf Gefahren hin, die mit den eigenen Produkten verbunden sind. Risikofaktor-Abschnitte sind nach Wertpapierregeln verpflichtend, und sobald die Aktien eines Unternehmens gehandelt werden, bilden sie den formellen Nachweis dessen, was Anlegern vor dem Kauf mitgeteilt wurde.

In vielerlei Hinsicht sind die Warnungen nicht überraschend. Das Unternehmen hat sich stets offen zu den Risiken geäußert, die es in seinen KI-Modellen sieht. CEO Dario Amodei hat seine eigene „p(doom)"-Zahl – die Wahrscheinlichkeit, dass KI die Menschheit vernichtet – auf zwischen 10 % und 25 % geschätzt, und Mitarbeitende haben ihre Bedenken zu zunehmend leistungsfähigen Systemen öffentlich geäußert.

Insgesamt widmet Anthropic etwa 94 Seiten der Anmeldung der Beschreibung von Bedrohungen für sein Geschäft. Hier sind die fünf, die herausstechen.

Eigene Modelle, die außer Kontrolle geraten oder Katastrophen verursachen

Laut Prospekt bergen fortschrittliche KI-Systeme insbesondere dann existenzielle Risiken, wenn sie missbraucht, als Waffe eingesetzt werden oder mit hoher Autonomie agieren dürfen. Zunehmend autonome Systeme könnten – durch Fehlausrichtung oderbsterhaltendes Verhalten – „ohne menschliches Eingreifen eigenständig und im großen Maßstab schädliche Handlungen vornehmen", warnte das Unternehmen.

Anthropic warnte in seinem S-1 – der offiziellen Bezeichnung des Formulars der US-Börsenaufsicht SEC, das Unternehmen vor dem erstmaligen öffentlichen Aktienverkauf einreichen müssen – zudem, dass es den Überblick über die eigenen Abläufe verlieren könnte, wenn es sich bei Aufgaben wie der Softwareentwicklung stärker auf Claude verlässt. „Da unsere Modelle einen großen und wachsenden Anteil unseres Codes schreiben und zunehmend unsere Forschung durchführen, einschließlich unserer Sicherheitsforschung", heißt es in der Anmeldung, könnte fehlgerichtetes Verhalten bei der internen Nutzung „diese Arbeit untergraben, Schwachstellen in unsere Systeme oder in das Training künftiger Modelle einbringen oder dazu führen, dass Modelle außerhalb unserer beabsichtigten Kontrollen agieren".

Das Unternehmen fügte hinzu, dass seine Modelle besser darin geworden seien, bestimmte Sicherheitstechniken zu umgehen, etwa indem sie ihre Ziele oder Verhaltensweisen verschleiern, und dass seine Fähigkeit, die Ausrichtung seiner Modelle zu messen, dadurch „abnehmen könnte".

Die potenziellen Kosten könnten enorm sein. „Angesichts des Ausmaßes an Schäden, die aus einem katastrophalen KI-bezogenen Zwischenfall resultieren könnten, verfügen weder ein einzelner Versicherer noch möglicherweise die Versicherungsbranche insgesamt über ausreichende Kapazitäten", um dies abzudecken, warnt die Anmeldung. Die Passage ist im Grunde das Eingeständnis, dass es für KI-Szenarien des schlimmsten Falls möglicherweise keine finanzielle Absicherung gibt.

Anthropic beschrieb auch die vielen Wege, auf denen seine Modelle von Menschen missbraucht werden könnten, und hob insbesondere das Risiko von „Malware-Erstellung, Phishing und Angriffen auf Infrastruktur" hervor. „Beispielsweise haben böswillige Akteure bereits hochgradig beachtete Cyberangriffe durchgeführt, indem sie die Fähigkeiten von KI nutzten, um Schwachstellen aufzudecken, Malware zu erzeugen und Erkennungstools zu umgehen; andere mit Missbrauch verbundene Risiken, etwa im Bereich der Biologie, könnten noch größere Schäden verursachen", schrieb das Unternehmen. „KI im großen Maßstab hat auch das Potenzial, Macht und Reichtum innerhalb und zwischen Ländern in einer Weise zu konzentrieren, die Vertrauen untergraben, der Gesellschaft schaden und die geopolitische Ordnung destabilisieren könnte."

Anderswo im Prospekt warnte Anthropic, dass KI generell von autoritären Regierungen zum Aufbau technologisch überwachter Staaten genutzt werden könnte, und erklärte, man sei entschlossen, mit freien Gesellschaften zusammenzuarbeiten, um diese Möglichkeit zu verhindern.

Politische Risiken: Ein Streit mit dem Pentagon und das Gespenst der Verstaatlichung

Auch auf dem Weg in die öffentlichen Märkte steht Anthropic weiterhin im offenen Konflikt mit der Bundesregierung über die Nutzung seiner KI-Modelle für Verteidigungszwecke. Im Februar erklärte Präsident Trump, er habe alle Bundesbehörden angewiesen, die Technologie des Unternehmens nicht mehr zu nutzen, nachdem Anthropic sich geweigert hatte, die Nutzung seiner Modelle für jedweden rechtmäßigen Zweck zuzulassen – einschließlich massenhafter Inlandsüberwachung oder vollautonomer Waffen. Im Zuge des Streit stufte das Department of War das Unternehmen als nationales Sicherheitsrisiko ein.

Anthropic legt vor Gericht Widerspruch gegen die Einstufung als „Lieferkettenrisiko" durch das Department of War ein. Ein Bundesbezirksgericht stellte sich im August weitgehend auf die Seite des Unternehmens und urte, die Maßnahmen der Regierung seien vergeltungsartig gewesen und hätten dessen Rechte aus dem Ersten Verfassungszusatz verletzt. Im September bestätigte jedoch ein gespaltener Senat des D.C. Circuit die Einstufung, und Anthropic hat eine erneute Anhörung vor dem gesamten Gericht beantragt – womit einer der folgenreichsten Rechtsstreitigkeiten des Unternehmens vor dem Börsengang ungelöst bleibt.

Die Anmeldung warnt, der anhaltende Streit mit dem Pentagon könne unabhängig vom Ausgang des Verfahrens „erheblichen Rufschaden" verursachen und dazu führen, dass Kunden Käufe aufschieben oder unterlassen oder zusätzliche vertragliche Absicherungen verlangen, bevor sie Geschäfte tätigen. Darin heißt es auch, das Ministerium habe angedeutet, es könnte den Defense Production Act heranziehen, um Anthropic zu zwingen, seine Beschränkungen für autonome Waffen und Überwachung aufzuheben.

Die Trump-Regierung hat das Geschäft des Unternehmens bereits einmal eingeschränkt. Im Juni verhängte das Handelsministerium Exportbeschränkungen, die Anthropic zwangen, seine Modelle Fable 5 und Mythos 5 für alle Kunden zu deaktivieren, unter Verweis auf Bedenken der nationalen Sicherheit.

Die Anmeldung erörtert auch weitere mögliche politische Änderungen und stellt fest, dass vorgeschlagene US-Gesetze „eine mögliche Verstaatlichung" sowie „verpflichtende Abschalt- oder Einstellungsanforderungen für KI-Systeme an der Front" als Mittel zur Steuerung der Entwicklung künstlicher Superintelligenz vorsehen. Weitere Regulierungsmaßnahmen der Regierung „könnten einschränken, wie wir unser Geschäft betreiben", heißt es in der Anmeldung.

Compute-Knappheit und das Risiko eines Preiskriegs

Anthropics weiteres Wachstum hängt davon ab, riesige Mengen teurer und zunehmend knapper Rechenleistung zu sichern. Die Anmeldung stellt fest, dass die Nachfrage nach dieser lebenswichtigen Ressource das Angebot historisch übertroffen hat – ein erhebliches Geschäftsrisiko. „Unsere Fähigkeit, Modelle an der technologischen Front zu entwickeln, zu trainieren, zu verbessern und bereitzustellen, hängt von unserem Zugang zu enormen und wachsenden Mengen spezialisierter Rechenleistung ab", schrieb das Unternehmen, während es zugleich feststellte, dass „der Markt für Rechenleistung intensiv umkämpft" ist.

Das Unternehmen hat zugesagt, zwischen 542 und 567 Milliarden Dollar für künftige Rechenleistung und Infrastruktur auszugeben – wobei einige auf dem S-1 basierende Berechnungen die Zahl noch höher ausweisen, bei über 750 Milliarden Dollar.

Die Agenten-Angebote des Unternehmens, die mehrstufige Aufgaben eigenständig ausführen, seien „strukturell rechenintensiver" als andere Produkte, heißt es in der Anmeldung, was die Rechenleistungsnachfrage zusätzlich treiben könnte. Gleichzeitig räumt es ein, dass Wettbewerbsdruck durch Konkurrenten mit scharfen Preissenkungen Anthropic dazu bewegen könnte, die Preise für einige dieser Produkte zu senken. „Sollten wir keine Preismodelle umsetzen können, die die höhere Rechenintensität dieser Agenten-Workloads angemessen widerspiegeln, oder sollten Wettbewerbsdynamiken unsere Fähigkeit einschränken, diese Produkte zu Preisen zu verkaufen, die ihre Kosten decken", warnt es, „könnte sich unsere Recheneffizienz mit wachsender Agentennutzung verschlechtern, was sich nachteilig auf unsere Fähigkeit auswirken könnte, Profitabilität zu erreichen oder aufrechtzuerhalten." Sobald Anthropic als börsennotiertes Unternehmen berichtet, wird das Gleichgewicht zwischen Agenten-Preisen und Rechenkosten seinen periodischen Berichten sichtbar sein.

Der Preis der Vorsicht – und reputationsbezogene Risiken

Im S-1 deutet Anthropic an, dass seine Sicherheitsverpflichtungen auf Kosten der Aktionäre gehen können. Als Public Benefit Corporation müssen seine Direktoren Rendite und Mission gegeneinander abwägen, und die Anmeldung erklärt, dass Entscheidungen, „das Tempo der KI-Entwicklung zu drosseln, die Veröffentlichung von Modellen oder Funktionen zu verzögern oder einzuschränken oder aus Sicherheitsgründen auf Geschäftschancen zu verzichten, den Shareholder-Value möglicherweise nicht maximieren".

Das Unternehmen hat bereits Sicherheitsentscheidungen getroffen, die sein Geschäft trafen – etwa die Beschränkung des Zugangs zu seinem Modell Mythos auf eine ausgewählte Gruppe von Organisationen im Rahmen von Project Glasswing, was laut Anmeldung die kurzfristigen Einnahmen beeinträchtigt haben könnte. Im S-1 gab das Unternehmen außerdem bekannt, dass es das Training eines KI-Modells der nächsten Generation aufgrund von Sicherheits- und Schutzbedenken vor kurzem für über einen Monat ausgesetzt hat.

Anthropic warnt zudem, dass Mitarbeitende, die wegen seiner Sicherheitsverpflichtungen gekommen sind, „einen Rückgang der Moral, Enttäuschung, Vertrauensverlust in die Führung oder geringere Produktivität erleben könnten", wenn sie den Eindruck haben, das Unternehmen löse seine Werte nicht ein. Öffentliche Kritik aktueller oder ehemaliger Mitarbeitender oder Abgänge von Personen aus dem Sicherheitsbereich könnten das Problem verschärfen und die Gewinnung und Bindung von Fachkräften erschweren und verteuern, so die Anmeldung.

Anthropics Geschicke hängen auch teilweise vom Ruf zweier Gründer ab. Die Anmeldung nennt die Geschwister CEO Dario Amodei und Präsidentin Daniela Amodei als „entscheidend für die Festlegung unserer strategischen Richtung" und erklärt, ihre Führung „wäre schwer zu ersetzen". Sollte einer von beiden „aus beliebigen Gründen nicht mehr verfügbar sein oder sollte der Ruf eines von ihnen erheblich geschädigt werden, unabhängig von der Berechtigung", könnten sich die Folgen von der Moral und Bindung der Mitarbeitenden bis hin zum Innovationstempo und dem Vertrauen der Kunden erstrecken.

Konzentrierter Kundenstamm

Wie viele seiner KI-Konkurrenten ist Anthropic für einen Großteil seines Umsatzes auf eine vergleichsweise kleine Gruppe von Großkunden angewiesen. Die fünf größten Kunden machten in den ersten neun Monaten des Jahres 2026 rund 25 % des Umsatzes aus, ein nicht namentlich genannter Kunde allein 11 % in der ersten Jahreshälfte.

Fast die Hälfte des Umsatzes – 48 % in der ersten Jahreshälfte – fließt über die Cloud-Marktplätze von Amazon, Google und Microsoft, die zugleich 58 % der Nettoforderungen des Unternehmens ausmachten.

Anthropic schätzt außerdem, dass 5 % bis 7 % seines Umsatzes in den ersten neun Monaten des Jahres 2026 von Kunden stammten, bei denen später festgestellt wurde, dass sie seine Nutzungsrichtlinien oder Geschäftsbedingungen verletzten. Das Unternehmen sagt, das Problem sei branchenweit verbreitet, und erwartet, dass der Anteil nach verstärkter Durchsetzung im August und September sinken wird.

Der S-1 legt auch Anthropics ungewöhnliche Governance-Struktur offen. Den sieben Gründern wird eine besondere Aktienklasse mit 50,1 % der Strechte der Anteilseigner ausgegeben, und die Governance-Dokumente des Unternehmens legen fest, dass die Gründer diese Anteile als Block stimmen, sofern sie sich nicht einigen können; in diesem Fall werden ihre Stimmen entsprechend der Verteilung unter den normalen Class-A-Aktionären aufgeschlüsselt. Darüber hinaus benennt der unabhängige Long-Term Benefit Trust des Labors die Mehrheit des Vorstands. Die Anmeldung warnt, diese Struktur „könnte die Möglichkeit der Inhaber unserer Class-A-Stammaktien, wichtige Entscheidungen – einschließlich eines Kontrollwechsels – zu beeinflussen, faktisch beseitigen".

Update, 26. Oktober: Dieser Bericht wurde aktualisiert, um weitere Informationen zu den im IPO-Prospekt von Anthropic detaillierten Missbrauchsrisiken aufzunehmen. Diese Geschichte erschien ursprünglich auf Fortune.com.