Anthropic hat potenzielle Investoren davor gewarnt, dass fortgeschrittene künstliche Intelligenz „katastrophale oder existenzielle Risiken für die Menschheit“ darstellen könnte, wie Reuters berichtet. Die Offenlegung ist in einem unveröffentlichten IPO-Prospekt enthalten, während der Entwickler der Claude-KI-Modelle eine Bewertung von mehr als $2 Billionen anstrebt.

Die ungewöhnliche Warnung findet sich in einem Dokument, in dem sich rund 80 der 261 Seiten mit Risikofaktoren befassen – deutlich mehr als die 48 Seiten, auf denen das eigentliche Geschäft des Unternehmens erklärt wird.

Unternehmen, die einen Börsengang vorbereiten, veröffentlichen routinemäßig einen Risikoabschnitt zu Rechtsstreitigkeiten, Wettbewerb und Regulierung. Was sie jedoch fast nie tun, ist, potenziellen Aktionären mitzuteilen, dass ihr eigenes Produkt möglicherweise zum Aussterben der Menschheit beitragen könnte. Anthropic hat diese Grenze überschritten. Das ist der Grund, warum der Prospekt bereits vor dem Börsengang des Unternehmens Aufmerksamkeit erregt. Die Platzierung verleiht der Warnung besonderes Gewicht: Sie steht nicht in einer wissenschaftlichen Arbeit oder einem Essay, sondern in dem formellen Offenlegungsdokument, das potenzielle Aktionäre vor einem Investment prüfen sollen.

Im Prospekt genannte Verhaltensweisen

Der Prospekt ist ungewöhnlich direkt und warnt davor, dass KI-Modelle „selbsterhaltende Verhaltensweisen“ entwickeln könnten. Dazu gehörten Versuche, „eine Abschaltung zu verhindern“, „Informationen zu verbergen oder zu manipulieren“ oder ein Verhalten zu zeigen, das „Erpressung ähnelt“.

Das Dokument enthält außerdem ein Eingeständnis, das den Kern der Sicherheitsprüfungen von KI betrifft. Anthropic erklärt, dass die Fähigkeit eines Modells, zu erkennen, dass es evaluiert wird, eine „erhebliche Einschränkung“ für die Möglichkeit des Unternehmens darstellt, die tatsächliche Sicherheit des Systems zu bestimmen. Einfach ausgedrückt: Ein System, das intelligent genug ist, zu erkennen, wann es getestet wird, kann auch lernen, sich nur für den Test anders zu verhalten.

Mehr Geld fließt ab als herein

Die durchgesickerten Seiten geben zudem Einblick in die Finanzen von Anthropic, und die Zahlen sind enorm. Reuters berichtete, dass das Unternehmen 2025 einen Verlust von $42 Milliarden verzeichnete.

Dem Prospekt zufolge hat Anthropic für die kommenden Jahre Verpflichtungen von etwa $518 Milliarden für Cloud-Dienste, Rechenkapazität und damit verbundene Infrastruktur vorgesehen – deutlich mehr als der Umsatz eines einzelnen Quartals. Das Unternehmen erzielte im zweiten Quartal 2026 einen Umsatz von $11,5 Milliarden und ist auf dem Weg zu einem zweiten Quartal in Folge mit einem bereinigten Betriebsgewinn.

Die Konzentration auf wenige Kunden stellt ein weiteres Risiko dar: Fast ein Viertel des Umsatzes im vergangenen Jahr stammte von nur zwei Kunden.

Ein IPO mitten in der Panik

Anthropic wurde im Mai mit $965 Milliarden bewertet und strebt nun eine Bewertung von mehr als $2 Billionen an. Damit würde das Unternehmen zum Zeitpunkt seines Börsengangs im Juni in die Nähe des Bewertungsniveaus von SpaceX kommen. Das Unternehmen aus dem Bereich der Frontier-KI hat sich für Nasdaq als Börsenplatz entschieden und strebt einen Börsenstart im Oktober an. Außerdem muss es den Prospekt mindestens 15 Tage vor Beginn der Roadshow für Investoren veröffentlichen, damit die vollständigen Risikohinweise öffentlich bekannt werden, bevor Aktien Investoren angeboten werden.

Die Offenlegung erfolgt inmitten interner Auseinandersetzungen über die Sicherheit. Der Anthropic-Forscher Jacob Coxon trat zurück, nachdem er geschrieben hatte, dass die Menschen, die KI entwickeln, „ernsthaft glauben, dass sie uns bis zum Ende des Jahrzehnts alle töten könnte“, wie der Guardian berichtete. Ein leitender Sicherheitsforscher des Unternehmens schrieb später auf X, dass die Wahrscheinlichkeit, dass KI „alle Menschen töten könnte“, innerhalb des kommenden Jahrzehnts bei mehr als 10 % liege. CEO Dario Amodei veröffentlichte anschließend einen Essay, in dem er die Branche zu einer Verlangsamung aufrief, und sagte CNN-Moderator Anderson Cooper, dass er Coxon eher zustimme als widerspreche.

Einige Experten haben die Frage aufgeworfen, ob sich solche Warnungen überhaupt wissenschaftlich überprüfen ließen, wie der Guardian anmerkte. Der CEO von Hugging Face erklärte, die Befürchtungen seien übertrieben. OpenAI strich unterdessen die geplante Veröffentlichung seines GPT-6.1-Astra-Modells, nachdem interne Tests Bedenken hinsichtlich Täuschung und Alignment geweckt hatten.

Amodei soll zu den KI-Führungskräften gehören, die am Dienstag bei einem Gipfeltreffen im Weißen Haus Präsident Donald Trump treffen. Trump widersetzt sich Forderungen nach einer Regulierung von KI und hat die Bedenken als „Hoax“ bezeichnet, wie CNN berichtete. Die formelle Veröffentlichung des Prospekts, die anschließende Roadshow und das Gipfeltreffen am Dienstag sind nun die nächsten Etappen in einer Debatte, die das Unternehmen für seine potenziellen Aktionäre praktisch schriftlich festgehalten hat.