Der New Yorker City Comptroller Mark Levine hat Anthropic aufgefordert, den geplanten Börsengang auszusetzen, bis das Unternehmen Bedenken hinsichtlich der Sicherheit künstlicher Intelligenz, der Governance und des Entwicklungstempos der KI adressiert.

In einem am 14. Oktober veröffentlichten Schreiben an Anthropics CEO Dario Amodei argumentierte Levine, das Unternehmen könne nicht gleichzeitig die Öffentlichkeit vor den Gefahren der KI warnen und um den Zugang zu den Kapitalmärkten wetteifern. Die Anfrage kommt, während Anthropic eine Bewertung von nahezu 2 Billionen Dollar anstrebt.

„Ich schreibe, um Anthropic zu bitten, seinen geplanten Börsengang (IPO) auszusetzen, bis das Unternehmen die von ihm selbst aufgezeigten Bedenken hinsichtlich der Sicherheit, Governance und Entwicklungsgeschwindigkeit der künstlichen Intelligenz (KI) vollständig und transparent adressiert hat“, schrieb Levine.

Levine beruft sich auf Amodeis Aufruf zur Verlangsamung der KI-Entwicklung

Levines Argumentation stützt sich unter anderem auf Amodeis Essay „We Must Pace the Frontier“, der am 12. September veröffentlicht wurde. In dem Essay schrieb Amodei: „We must slow the pace at which we improve the capabilities of AI models.“

Amodei erklärte, rekursive Selbstverbesserung und ein sicherheitsrelevanter Vorfall über Branchengrenzen hinweg hätten ihn überzeugt, dass die KI-Branche mehr Vorsicht brauche – nicht einfach nur höhere Ausgaben für Sicherheit.

Der Essay schlug einen Dreistufenplan vor. Der erste Schritt würde externen Prüfern mitarbeiterähnlichen Zugriff gewähren, um die Sicherheitspraktiken der Unternehmen zu überprüfen. Anthropic hat erklärt, diese Maßnahme bereits eigenständig zugesagt zu haben. Der zweite Schritt sah eine Koordination unter KI-Unternehmen in demokratischen Ländern vor, während der dritte eine globale Koordination forderte – einschließlich mit autoritären Regierungen.

Nach Ansicht von Levine könnte Anthropics Börsengang die Arbeit behindern, die Amodei als dringlich beschrieben hatte. Der Essay erhielt Unterstützung aus Teilen der KI-Branche; OpenAI-CEO Sam Altman und xAI-CEO Elon Musk stimmten seinenorschlägen zu.

Levine ist zudem unmittelbar mit den Investitionsinteressen New York Citys verbunden. Als Comptroller fungiert er als Anlageberater, Verwahrer und Treuhänder der Pensionsfonds der Stadt, die über mehr als 325 Milliarden Dollar an Vermögenswerten verfügen. Das Büro des Comptrollers teilte mit, dass die öffentlichen Pensionsfonds über Private Equity rund 7 Millionen Dollar bei Anthropic exponiert sind.

Obwohl dieser Anteil vergleichsweise gering ist, gebe er seinem Büro nach Levines Aussage eine Grundlage, um vor dem Börsengang Druck auf Anthropic auszuüben.

Bedenken hinsichtlich Anthropics Governance-Struktur

Levine äußerte zudem Bedenken über Anthropics Unternehmensstruktur. Das Unternehmen ist eine Public Benefit Corporation nach Recht Delawares mit einem Long-Term Benefit Trust. Eine Public Benefit Corporation ist eine gewinnorientierte Struktur, bei der die Direktoren Shareholder-Renditen gegen einen festgelegten öffentlichen Zweck abwägen müssen, während ein solcher Trust darauf ausgelegt ist, einem unabhängigen Gremium eine Rolle bei der Wahrung der langfristigen Mission des Unternehmens zu geben. Nach Angaben von Levine deuten Berichte darauf hin, dass die Struktur den Gründern und Treuhändern konzentrierte Kontrolle verschaffen könnte.

Eine Lücke zwischen dieser Kontrolle und der Verantwortlichkeit gegenüber den Aktionären sei angesichts der von Anthropic bereits offengelegten Risiken schwer zu akzeptieren, argumentierte er.

Levine kritisierte außerdem eine jüngste Vereinbarung zwischen der KI-Branche und der US-Regierung. Anthropic und fünf weitere Unternehmen unterzeichneten ein im Schreiben als moralisch verbindlich bezeichnetes Abkommen mit dem Weißen Haus. Levine sagte, das Abkommen „sei nicht ausreichend, um dem Moment gerecht zu werden“.

Anthropics eigene Offenlegungen haben seine Bedenken verstärkt. In seinem vertraulichen S-1-Entwurf warnte das Unternehmen, dass fortgeschrittene KI „katastrophale oder existenzielle Risiken für die Menschheit“ bergen könnte. Der Abschnitt zu Risikofaktoren umfasst Berichten zufolge etwa 80 Seiten – fast doppelt so lang wie der Abschnitt, der das Geschäft beschreibt.

Levine wies darauf hin, dass Amodeis Essay nach dem Rücktritt von Jacob Coxon, einem ehemaligen Anthropic-Forscher, am 9. September veröffentlicht wurde. Coxon nannte existenzielle Bedenken als Grund für seinen Weggang und sagte, Insider glaubten, KI könnte die Menschheit bis Ende des Jahrzehnts auslöschen, wenn sich das Entwicklungstempo fortsetze.

Evan Hubinger, Leiter der Alignment Science bei Anthropic, bezifferte die Wahrscheinlichkeit, dass KI innerhalb des Jahrzehnts alle Menschen tötet, auf über 10 %.

Anthropic meldet rasantes Umsatzwachstum

Die Debatte über Sicherheit und Governance bei Anthropic fällt zusammen mit den Vorbereitungen auf einen möglichen Börsengang, der das Unternehmen mit mehr als 2 Billionen Dollar bewerten könnte.

Bei einem privaten Pre-IPO-Treffen in San Francisco am Mittwoch, den 14. Oktober, teilte Anthropic den Investoren mit, dass der Umsatz im dritten Quartal rund 16,8 Milliarden Dollar erreicht habe – ein Anstieg von 45 % gegenüber dem Vorquartal. Das Unternehmen gab zudem an, einen bereinigten Gewinn erzielt zu haben.

Anthropic wies im ersten Quartal des Jahres einen Umsatz von 4,7 Milliarden Dollar aus. Diese Zahl stieg im zweiten Quartal erheblich an und erreichte rund 11,6 Milliarden Dollar. Trotz des Wachstums verzeichnete das Unternehmen im Zeitraum dennoch einen operativen Verlust von mehr als 8 Milliarden Dollar.

Anthropic teilte denoren außerdem mit, beim Ausgang des dritten Quartals einen positiven Cashflow gehabt zu haben – eine ungewöhnliche Behauptung in einer Branche, deren führende Unternehmen weiterhin schwer in Infrastruktur und Rechenleistung investieren.

Das Unternehmen verfügt derzeit über geplante Infrastruktur- und Rechenzusage von mehr als 518 Milliarden Dollar über das nächste Jahrzehnt. Diese Zusagen sind Teil des Falls für einen Börsengang, der 2 Billionen Dollar überschreiten und Anthropic möglicherweise vor dem Rivalen OpenAI an die Kapitalmärkte bringen könnte, der auf ein Debüt Anfang 2027 abzielt.

Anthropic reichte seinen S-1-Entwurf am 1. Juni vertraulich bei der Securities and Exchange Commission (SEC) ein. Ein vertraulicher S-1-Entwurf ermöglicht der SEC eine Prüfung des Registrierungsformulars vor dessen Veröffentlichung; eine öffentliche Einreichung ist erforderlich, bevor Aktien externen Investoren angeboten werden können.

Anthropic hat keinen genauen IPO-Termin genannt. Spekuliert wird, dass der Börsengang nach den US-Zwischenwahlen im November stattfinden könnte, obwohl das Unternehmen voraussichtlich vor OpenAI an die Börse gehen wird. Anthropics Reaktion auf Levines Schreiben und der Zeitpunkt der öffentlichen S-1-Einreichung gehören nun zu den entscheidenden Faktoren, während der Börsengangsprozess voranschreitet.