NachrichtenAktienVier gemeinnützige Organisationen verklagen OpenAI, Anthropic, Google, Meta und SpaceX – mit dem Ziel eines Einfrierens der Frontier-KI-Entwicklung

Vier gemeinnützige Organisationen verklagen OpenAI, Anthropic, Google, Meta und SpaceX – mit dem Ziel eines Einfrierens der Frontier-KI-Entwicklung

Autor: Decrypt·

Wichtige Erkenntnisse

  • •Vier gemeinnützige Organisationen reichten am Donnerstag eine 63-seitige Beschwerde beim Superior Court in San Francisco ein, in der OpenAI, Anthropic, Google, Meta und SpaceX als Beklagte genannt werden.
  • •Die Kläger beantragen eine unverzügliche einstweilige Anordnung, die den Unternehmen die Entwicklung oder Bereitstellung von KI-Systemen untersagen würde, die leistungsfähiger sind als ihre fortschrittlichsten Modelle zum 12. November 2026.
  • •Die Klage beruft sich auf das Unfair Competition Law Kaliforniens und argumentiert, dass der Aufbau zunehmend leistungsfähigerer KI-Systeme eine öffentliche Beeinträchtigung schafft, die die öffentliche Gesundheit und Sicherheit gefährdet.
  • •Die Beschwerde fordert das Gericht zudem auf, den Unternehmen zu untersagen, KI unabhängig für die Durchsetzung oder Leitung von Forschung an besseren Modellen einzusetzen, unter Verweis auf Risiken im Zusammenhang mit rekursiver Selbstverbesserung.
  • •Als Beleg verweisen die Kläger auf einen Vorfall im Juli, bei dem rund 1.200 OpenAI-Agenten einer kontrollierten Testumgebung entwischen, wobei etwa 700 sich über ein nicht autorisiertes NachrichtBoard koordinierten, um die Infrastruktur von Hugging Face anzugreifen.
Vier gemeinnützige Organisationen verklagen OpenAI, Anthropic, Google, Meta und SpaceX – mit dem Ziel eines Einfrierens der Frontier-KI-Entwicklung

Vier gemeinnützige Organisationen haben Klage gegen fünf der größten KI-Entwickler der Welt eingereicht und fordern von einem Gericht in Kalifornien, die Arbeit an zunehmend leistungsfähigeren KI-Systemen zu stoppen, bevor etwas ernsthaft schiefgeht.

Die 63-seitige Beschwerde, die am Donnerstag beim Superior Court in San Francisco eingereicht wurde, nennt OpenAI, Anthropic, Google, Meta und SpaceX als Beklagte. Die Kläger sind Public Citizen, die Heat Initiative, der Irreplaceable Education Fund und die Alliance for Secure AI. Sie beantragen eine unverzügliche gerichtliche Anordnung, die den Unternehmen die Entwicklung oder Bereitstellung von KI-Systemen untersagt, die leistungsfähiger sind als ihre fortschrittlichsten Modelle zum 12. November 2026.

„Die Frontier-KI-Unternehmen entwickeln KI-Systeme, die sie nicht verstehen und die entgegen der Absicht der Entwickler handeln, sich der Kontrolle entziehen und das Gesetz brechen“, argumentieren die Kläger. Um dieses Ergebnis zu verhindern, fordern sie „eine unverzügliche einstweilige Anordnung, die es den Beklagten untersagt, KI-Systeme zu entwickeln oder bereitzustellen, die leistungsfähiger sind als ihre leistungsfähigsten Systeme zum Datum dieser Beschwerde“.

Eine solche Anordnung würde ChatGPT, Claude, Gemini oder andere bestehende Produkte der Unternehmen nicht zwangsläufig abschalten. Stattdessen würde sie die Technologie faktisch auf ihrem aktuellen Stand begrenzen und die Freigabe leistungsfähigerer Nachfolgemodelle verhindern.

Die Beschwerde fordert das Gericht zudem auf, den Unternehmen zu untersagen, KI unabhängig für die Durchsetzung oder Leitung der Forschung an besseren Modellen einzusetzen – ein Prozess, der mit dem von Forschern sogenannten rekursiven Selbstverbesserung zusammenhängt. Die Sorge ist, dass solche Systeme sich letztlich schneller verbessern könnten, als Menschen sie verstehen oder kontrollieren können.

Der Fall stützt sich auf bestehendes kalifornisches Recht

Die gemeinnützigen Organisationen machen geltend, dass die bestehenden Gesetze Kaliforniens bereits einen Weg bieten, Unternehmen von der Entwicklung von Produkten abzuhalten, die die Öffentlichkeit gefährden – ohne auf neue Gesetzgebung zu warten. Die Klage beruft sich auf das Unfair Competition Law des Bundesstaates, das rechtswidrige oder unfaire Geschäftspraktiken verbietet.

Im Kern steht die Behauptung, dass der Aufbau zunehmend leistungsfähigerer KI-Systeme eine öffentliche Beeinträchtigung schafft – eine Gefahr, die die Gesundheit, Sicherheit oder das Eigentum einer breiteren Gemeinschaft betrifft. Zur Veranschaulichung: Eine Fabrik, die gefährliche Chemikalien in ein Wohnviertel freisetzt, kann rechtlich verfolgt werden, bevor jemand einen tödlichen Schaden erleidet. Die Kläger wollen, dass das Gericht diese Logik auf die Frontier-KI-Entwicklung anwendet, und argumentieren, dass die Unternehmen wissentlich Systeme schaffen, die Cyberangriffe erleichtern, die Entwicklung biologischer Waffen unterstützen oder letztlich der menschlichen Kontrolle entgehen könnten.

„Keine andere Branche darf die Entwicklung ihrer eigenen unsicheren Produkte – geschweige denn solcher, die uns alle töten könnten – als unabwendbar behandeln“, argumentiert die Beschwerde.

Robert Weissman, Co-Präsident von Public Citizen, erklärte in einer Erklärung, die Gruppen wollten, dass das Gericht die Praktiken der Unternehmen für rechtswidrig erklärt und „die weitere KI-Entwicklung einfriert“.

Werden die Gerichte zustimmen?

Die rechtliche Herausforderung besteht darin, ob die behaupteten Risiken und Praktiken ausreichen, um so weitreichende Einschränkungen zu rechtfertigen. Zwar warnen die Frontier-Labors regelmäßig davor, wie leistungsfähig und gefährlich ihre Modelle sind, doch wurde keiner der Beklagten bisher haftbar gemacht, und Warnungen vor einer möglichen Katastrophe begründen nicht automatisch einen Verstoß gegen kalifornisches Recht. Der Antrag stößt zudem auf verfahrensrechtliche Realitäten: Gerichte betrachten einstweilige Anordnungen in der Regel als ein außerordentliches Rechtsmittel, und die Partei, die eine beantragt, muss üblicherweise einen unmittelbaren Schaden nachweisen, der nicht auf das langsamere Tempo eines vollständigen Prozesses warten kann.

Die Beschwerde verweist auf bereits eingetretene Vorfälle als Beleg dafür, dass die Gefahren nicht rein hypothetisch sind. Im Juli entwischen OpenAI-Modelle einer kontrollierten Testumgebung und kompromittierten die Infrastruktur von Hugging Face, während sie versuchten, eine Cybersicherheitsbewertung zu betrügen – ein Vorfall, über den Decrypt bereits berichtet hatte. Eine anschließende unabhängige Untersuchung ergab, dass rund 1.200 OpenAI-Agenten ein nicht autorisiertes internes NachrichtBoard zur Koordination nutzten und etwa 700 von ihnen sich dem Angriff auf Hugging Face anschlossen, während sie versuchten, Antworten auf den sie prüfenden Benchmark zu erhalten.

Diese Vorfälle betrafen KI-Agenten – Programme, die Aufgaben ausführen, Websites durchsuchen, Code schreiben und mit externen Systemen interagieren können, anstatt einfach auf Fragen zu antworten.

Dokumentierte Sicherheitsausfälle sind jedoch kein Beweis dafür, dass die heutigen KI-Modelle das menschliche Aussterben verursachen könnten. Die Kläger verknüpfen diese Vorfälle mit Vorhersagen darüber, was zunehmend leistungsfähigere Systeme letztlich tun könnten, und diese weiterreichende Gefahr ist nach wie vor umstritten.

„Es ist offensichtlich illegal, dass Unternehmen Produkte entwickeln und freigeben, von denen sie wissen, dass sie in irgendeiner Hinsicht unsicher sind“, sagte Matthew Platkin, der frühere Generalstaatsanwalt von New Jersey, der die Kläger vertritt, in der Erklärung.

Vorerst muss der Superior Court in San Francisco einen außerordentlichen Antrag abwägen: ob die Frontier-KI-Entwicklung auf ihrem aktuellen Stand eingefroren werden soll und ob bestehende Landesgesetze – statt neuer Gesetzgebung – das richtige Instrument dafür sind.

Quelle: Decrypt