Die größten KI-Nachrichten am Wochenende waren die Debatten über Dario Amodeis langen Beitrag auf X, in dem er den Ansatz von Anthropic sowohl in Bezug auf Regulierung als auch auf die vielen Risiken von KI verteidigte. Amodei, der auf der von Elon Musk kontrollierten Social-Media-Plattform nur selten auftritt, veröffentlichte den Beitrag als Reaktion auf Kommentare des Investors Gavin Baker im Podcast „All In“, der gemeinsam vom früheren Trump-KI-Zar David Sacks moderiert wird – selbst kein Freund von Anthropic. Der Konflikt stellt zwei prominente Figuren gegeneinander: Amodei gründete Anthropic, den Hersteller des Claude-Chatbots, 2021 zusammen mit weiteren früheren OpenAI-Forschern, und das Unternehmen zählt Amazon und Google zu seinen wichtigsten Geldgebern. Sacks, ein Venture-Capital-Investor, war unter Präsident Donald Trump der erste White-House-KI- und Krypto-„Zar“ und vertrat einen zurückhaltenden Ansatz bei der KI-Aufsicht – eine Haltung, die auch die Regierung teilte, die an ihrem ersten Amtstag die 2023er KI-Exekutivanordnung von Ex-Präsident Joe Biden aufhob, welche die Entwickler der größten Modelle dazu aufgefordert hatte, Ergebnisse von Sicherheitstests mit der Regierung zu teilen.

Eine „maximalistische“ Vision und „regulatory capture“

Baker sagte, ihm sei „von mehreren Personen, denen ich vertraue“, zugetragen worden, Amodei habe gesagt, Anthropic sei sowohl vom Potenzial der KI als auch von der eigenen Position an der Spitze der KI-Entwicklung so überzeugt, dass „Anthropic irgendwann das einzige private Unternehmen der Welt sein könnte“. Baker wertete dies als Beleg für Anthropics „maximalistische“ Vision, in der nur das Unternehmen und die US-Regierung darüber entscheiden würden, wer Zugang zu sehr leistungsfähiger KI erhält.

Sacks nannte die Vorstellung „anmaßend“ und wiederholte seine Behauptung, Amodeis Strategie sei „regulatory capture“ – also dass Anthropic die Angst vor den Risiken von KI nutze, um die Regierung zu strengen Regeln für eine Technologie zu bewegen, die nur Anthropic leicht erfüllen könne, wodurch Konkurrenz durch andere KI-Startups oder Open-Source-Modelle ausgeschlossen werde.

Baker kritisierte Amodei außerdem dafür, die überwiegend negative Wahrnehmung von KI in der Öffentlichkeit zu verstärken, was seiner Ansicht nach zu Widerstand gegen den Bau von Rechenzentren in den USA beigetragen habe. Baker befürchtet, diese Negativität erschwere KI-Unternehmen das Geschäft und könne zudem die amerikanische Führungsrolle in der Technologie gefährden. Er rief Amodei dazu auf, ein positiveres Bild von KI zu vermitteln.

Amodei schlägt zurück

Anthropic bestreitet, dass Amodei jemals etwas wie von Baker behauptet gesagt habe. „Völliger und kompletter Unsinn“, antwortete Sasha de Marigny, Anthropics Chief Brand and Communications Officer, auf X. (Sacks merkte später an, dass Amodei auf Bakers Behauptung selbst nicht direkt eingegangen sei.)

Unterdessen schrieb Amodei auf X, dass Silicon-Valley-Libertäre wie Baker Regulierung tendenziell als Bremsklotz für technologische Entwicklung sähen, der zu regulatory capture führe, während andere „außerhalb dieser Blase“ Regulierung als Begrenzung unternehmerischer Macht und als Vorteil für „normale Menschen“ betrachteten. Amodei sagte, beide Positionen vereinfachten die Dinge zu stark und es sei „kompliziert und hänge wirklich davon ab, worin die ‚Regulierung‘ besteht“.

Amodei sagte, Anthropic versuche „sehr stark, Vorschläge zu machen, die Frontier-KI-Unternehmen benachteiligen (verlangsamen), während sie kleinere Wettbewerber begünstigen“. Er wies darauf hin, dass viele der von Anthropic bevorzugten Regeln entweder spezielle Ausnahmen für Unternehmen unter einer bestimmten Umsatzschwelle oder für Unternehmen mit geringeren Ausgaben für das Modelltraining enthielten oder nur auf Spitzenmodelle angewandt werden sollten, während weniger leistungsfähige Modelle ausgenommen würden. Dieses Design spiegelt sich bereits in einem bundesstaatlichen Gesetz wider: Californias SB 53, das von Gouverneur Gavin Newsom im September 2025 unterzeichnet wurde, wendet seine Anforderungen an Sicherheitsrahmen, Transparenz und Meldung kritischer Vorfälle nur auf Modelle an, die oberhalb hoher Schwellen trainiert wurden – mehr als 10^26 Rechenoperationen oder, nach Festlegung der staatlichen Behörden, 100 Millionen Dollar an Training-Compute – und nimmt kleinere Entwickler aus.

Er sagte, er glaube durchaus, dass KI natürlicherweise dazu neige, wirtschaftliche Macht zu konzentrieren, wegen der Rechenanforderungen für das Training und den Betrieb leistungsfähiger KI-Modelle. Das sei jedoch etwas ganz anderes als die Aussage, dass es in Zukunft nur ein oder wenige Unternehmen geben werde. Open-Source-Modelle, so sagte er, adressierten diese Machtkonzentration nur teilweise, da sie weiterhin Rechenleistung für Training und Betrieb benötigten. Er befürworte daher „Spielregeln“, die „Raum für Open-Weights-Modelle lassen und zugleich die spezifischen Risiken adressieren, die sie mit sich bringen“.

Auf Bakers Kritik, seine eigenen Aussagen seien dafür verantwortlich, die Öffentlichkeit gegen KI aufzubringen, sagte Amodei: „Ich glaube nicht, dass [die negative Sicht der Öffentlichkeit auf KI] hauptsächlich durch mich oder einen anderen KI-Führungsvertreter verursacht wird, der vor den Risiken von KI warnt. Ich denke, es ist im Kern eine Vertrauenskrise.“ Er sagte, er glaube nicht, dass die KI-Branche dieses Vertrauen mit „einer glanzvollen Marketingkampagne mit positivem Spin“ zurückgewinnen könne. Stattdessen müssten KI-Unternehmen tatsächlich die positiven Vorteile von KI liefern – etwa Krebs tatsächlich heilen.

„Ich glaube, die bei weitem treffendste Kritik an KI-Unternehmen einschließlich Anthropic ist, dass wir unsere großen Versprechen, der Welt zu nützen, bisher noch nicht eingelöst haben“, schrieb er. „Das liegt vollständig an uns, und ich denke, genau das ist die Kritik, die Sie vorbringen sollten, statt all dieses Geredes über Messaging und Marketing.“

Eine DMV für KI? Was soll daran falsch sein?

Amodeis Beitrag führte auf X zu noch mehr Schlagabtausch zwischen Kritikern und Verteidigern. Beim Thema Regulierung schrieb Sacks, die Schaffung irgendeiner Regulierungsbehörde für KI – er nannte sie „eine DMV für KI“ – würde den US-Techsektor lähmen, „lange Warteschlangen erzeugen, während KI-Modelle auf Tests und Genehmigungen warten“ und „die USA im Vergleich zu China benachteiligen, das diese Beschränkungen nicht übernehmen wird“. Sacks schrieb außerdem: „Dario glaubt, Frontier-KI sei zu mächtig, um sie zu verbreiten; wir glauben, sie sei zu mächtig, um sie zu zentralisieren.“

Meine eigene Einschätzung ist, dass Dario zu Recht die falsche Gegenüberstellung in Sacks’ Erzählung zur KI-Regulierung kritisiert. Wie Stuart Russell, der Computerwissenschaftler von der UC Berkeley, oft spöttisch anmerkt, muss ein Sandwichladen in San Francisco mehr Regulierung einhalten als OpenAI oder Anthropic (das stimmt seit der Verabschiedung des kalifornischen Landesgesetzes zu Frontier-KI im vergangenen Jahr weniger stark, aber auf Bundesebene gilt es weiterhin). Schränkt Regulierung die Zahl der Restaurants etwas ein? Sicher. Aber es gibt immer noch reichlich Wettbewerb. In San Francisco gibt es mehr als 3.000 Restaurants.

Haben größere Restaurantketten es wahrscheinlich leichter, die Regeln einzuhalten? Vermutlich – bei der Einhaltung gibt es gewisse Skaleneffekte, und ja, die großen Ketten verfügen über Lobby-Macht und politische Verbindungen, die die meisten kleinen Betriebe nicht haben. Aber ist die Öffentlichkeit mit etwas Lebensmittel-Sicherheitsregulierung, Arbeitsrecht und Produkthaftungsregeln besser bedient als mit gar keiner Regulierung? Natürlich ist sie das. Und ich würde argumentieren, dass dasselbe für die Autoindustrie gilt. Trotz Sacks’ Abwertung der DMV unterstützen die meisten Menschen die Idee, Fahrer zu lizenzieren und Fahrzeuge regelmäßig zu prüfen, um sicherzustellen, dass sie verkehrstauglich sind. Gibt es eine gewisse Konzentration in der Autoindustrie? Sicher, aber Regulierung ist nicht der Hauptgrund.

Was die These betrifft, Regulierung werfe die USA im technologischen Wettbewerb mit China zurück, ist wichtig zu bedenken, dass China bereits einige KI-Gesetze hat – etwa zur Datenkennzeichnung und zur Identifizierung KI-generierter Inhalte –, die strenger sind als jene in den USA. Außerdem könnte die USA, wenn es ihr um die nationalen Sicherheitsfolgen leistungsfähiger KI geht, Modelle, die speziell für nationale Sicherheitszwecke entwickelt wurden, von den Regeln ausnehmen. (Obwohl das wahrscheinlich keine gute Idee ist – siehe WarGames oder Terminator. Es ist nützlich, sich daran zu erinnern, dass wir den Kalten Krieg gewonnen haben, obwohl es bei Herstellung und Transport von Kernmaterial recht strenge Regulierung gab. Ich bin nicht sicher, dass Sicherheitsregeln für die Entwicklung von Frontier-KI anders sein sollten.)

Damit nun zu weiteren KI-Nachrichten. Jeremy Kahn jeremy.kahn@fortune.com @jeremyakahn

Bevor wir zu den Nachrichten kommen, noch ein kurzer Hinweis auf unseren neuen Vodcast Fortune AI Weekly. In dieser Woche sprechen Bea Nolan und Emily Forlini über das 6.000 Wörter lange Manifest von Meta-CEO Mark Zuckerberg, Führungswechsel bei OpenAI und interviewen Lovable-Mitgründer und CEO Anton Osika über die Bewertung des Startups von 13,3 Milliarden Dollar und die Series-C-Finanzierung über 400 Millionen Dollar. Den Vodcast können Sie hier auf YouTube ansehen.

Diese Geschichte erschien ursprünglich auf Fortune.com