Warum KI vor einer schwierigen Entscheidung steht: Verstaatlichung oder Dezentralisierung

Am 12. Sept. forderte Anthropic-CEO Dario Amodei koordinierte Grenzen für die Entwicklung hochentwickelter KI-Systeme und legte einen dreistufigen Plan vor. Anthropic würde damit beginnen, externe Prüfer in das Unternehmen einzuladen und ihnen einen weitgehend mit den internen Risikoteams vergleichbaren Zugang zu gewähren.

Das vorgeschlagene Prüfungsteam würde Unternehmensausrüstung und Zugang zu Arbeitsplätzen erhalten sowie die Möglichkeit bekommen, mit Mitarbeitern zu sprechen. Sein Vertrag würde die Veröffentlichung wesentlicher Erkenntnisse erlauben, ohne dass Anthropic die Schlussfolgerungen kontrolliert, vorbehaltlich klar definierter rechtlicher, sicherheitsbezogener, datenschutzrechtlicher und kommerzieller Einschränkungen. Externe Prüfer könnten anschließend bewerten, ob Anthropics Sicherheitszusagen tatsächliche Entscheidungen über Training und Einsatz beeinflussen.

Der Zugang zu einem einzelnen Labor kann ein wettbewerbsorientiertes Umfeld jedoch nicht allein verlangsamen. Anthropic könnte seine Systeme zur Überprüfung öffnen, während konkurrierende Unternehmen und Regierungen ihre Anstrengungen weiter beschleunigen. Amodeis zweite Stufe sieht daher eine Regulierung und eine staatlich vermittelte Koordination für eine kritische Masse von US-amerikanischen Entwicklern hochentwickelter KI-Systeme vor. Seine dritte Stufe zielt auf überprüfbare Vereinbarungen zwischen Staaten ab und soll Demokratien zugleich genügend strategischen Spielraum gegenüber China lassen, um das Entwicklungstempo zu regulieren.

Die Debatte über Verstaatlichung und Dezentralisierung verbindet drei unterschiedliche Formen von Macht. Öffentliches Eigentum beeinflusst, wer wirtschaftliche Gewinne erhält, und kann unternehmerische Entscheidungen beeinflussen. Unabhängiger Zugang bestimmt, wer die Entwicklung hochentwickelter KI-Systeme prüfen kann. Ein rechtlich durchsetzbarer Entwicklungsstopp begrenzt dagegen unmittelbar, wie schnell sich ein betroffenes System weiterentwickeln darf.

Anthropics bestehende Governance-Struktur gibt den Direktoren Spielraum, mehr als nur die Rendite der Anteilseigner zu berücksichtigen. Das Unternehmen ist als Public Benefit Corporation organisiert, und das Recht des Bundesstaates Delaware verpflichtet die Direktoren, die finanziellen Interessen der Aktionäre, die Interessen der vom Unternehmen wesentlich betroffenen Menschen und den festgelegten öffentlichen Zweck des Unternehmens gegeneinander abzuwägen. Anthropics Long-Term Benefit Trust verfügt zudem über Befugnisse bei der Auswahl des Verwaltungsrats, die die Unternehmensmission unterstützen sollen.

Eine Satzung zum öffentlichen Nutzen kann sicherheitsorientierte Entscheidungen innerhalb von Anthropic ermöglichen. Sie kann jedoch keinen Wettbewerber binden, der denselben Zielkonflikt anders entscheidet. Amodeis Vorschlag schließt diese Lücke durch gemeinsame Regeln und internationale Überprüfung, nicht durch eine Übertragung des Unternehmenseigentums.

Eigentum und Kontrolle sind unterschiedliche Hebel

Ein Vorschlag von Senator Bernie Sanders aus dem Juni 2026 veranschaulicht eine mögliche Form der teilweisen Verstaatlichung. Sein American AI Sovereign Wealth Fund würde eine öffentliche Beteiligung von 50 % an den größten US-amerikanischen KI-Unternehmen erwerben; eine unabhängige Kommission würde die damit verbundenen Stimmrechte ausüben. Die Maßnahme ist weiterhin ein Vorschlag und noch kein geltendes Recht.

Öffentliches Eigenkapital könnte einen Teil der Gewinne der Branche umleiten und der Kommission Einfluss auf unternehmerische Entscheidungen geben. Es würde jedoch allein keine Schwellenwerte für Fähigkeiten, externe Überprüfung oder durchsetzbare Anordnungen zum Entwicklungsstopp schaffen. Für diese Mechanismen wären gesonderte gesetzliche Regeln erforderlich.

Eine juristische Abhandlung von Yonathan Arbel, Simon Goldstein und Peter Salib aus dem August 2026 unterscheidet wirtschaftliche Ansprüche von der Kontrolle über Entscheidungen, die bestehende Regeln nicht vorhergesehen hatten. Die Autoren schlagen eine enge, im Ermessen stehende und zeitlich begrenzte staatliche Befugnis vor, Training oder Einsatz hochentwickelter KI-Systeme zu stoppen, wenn ein katastrophales Risiko oder das von ihnen als „harte“ unternehmerische Macht bezeichnete Phänomen betroffen ist. Bei Monopolen, Ungleichheit und anderen Schäden befürworten sie herkömmliche Regulierung oder Besteuerung.

Eine Anordnung zum Entwicklungsstopp würde die Entscheidung über das Entwicklungstempo direkter beeinflussen als öffentliches Eigenkapital. Der Staat müsste nicht jedes Modell besitzen oder jedes Labor betreiben, bevor er betroffenes Training oder dessen Einsatz aussetzen könnte. Damit eine solche Befugnis demokratische Legitimität beanspruchen kann, wären klare gesetzliche Auslöser, technische Kompetenz, unabhängige Überprüfung und Grenzen des Ermessens erforderlich.

Staatliche Kontrolle bringt auch ein eigenes Konzentrationsrisiko mit sich. Wenn jedes Labor für hochentwickelte KI-Systeme in Staatseigentum überführt würde, könnten die Modellentwicklung und die Entscheidung über ihren Stopp in derselben Institution liegen. Eine begrenzte Stoppbefugnis würde Unternehmen in privater Hand belassen und zugleich einen Notfalleingriff bei klar definierten extremen Risiken ermöglichen.

Modelle mit offenen Gewichten bewegen sich in die entgegengesetzte Richtung, indem sie den Zugang erweitern. Forscher können solche Systeme untersuchen und anpassen, ohne auf eine kleine Gruppe von Zugangswächtern aus der Unternehmenswelt angewiesen zu sein. Im Jahr 2024 kam die U.S. National Telecommunications and Information Administration zu dem Schluss, dass die verfügbaren Belege keine pauschalen Beschränkungen für weithin verfügbare Modellgewichte rechtfertigten.

Hochentwickelte KI-Fähigkeiten erschweren die Durchsetzung. Die Europäische Kommission verpflichtet Anbieter von Allzweckmodellen mit systemischem Risiko, Risiken zu bewerten und zu mindern, schwerwiegende Vorfälle zu melden und die Cybersicherheit aufrechtzuerhalten – auch wenn ein Modell quelloffen ist. Die Kommission hat gewarnt, dass Maßnahmen zur Risikominderung schwieriger werden können, nachdem ein fortschrittliches Modell offen veröffentlicht wurde.

Eine offene Veröffentlichung kann daher die externe Kontrolle ausweiten und gleichzeitig die spätere Durchsetzung erschweren. Die Vervielfältigung über verschiedene Rechtsordnungen hinweg macht eine einheitliche Anwendung von Gegenmaßnahmen schwieriger. Eine verteilte Prüfung gibt mehr Institutionen die Möglichkeit, eine vereinnahmte Regulierungsbehörde oder ein vereinnahmtes Unternehmen herauszufordern. Die uneingeschränkte Verbreitung von Gewichten hochentwickelter Modelle kann dagegen die Kontrollpunkte schwächen, die für einen rechtmäßigen Entwicklungsstopp erforderlich wären.

Die öffentliche Bremse braucht vielfältige Aufsicht

Kalifornien und die Europäische Union zeigen, wie öffentliche Regeln Entwickler in privatem Eigentum steuern können. Das im September 2025 unterzeichnete kalifornische Gesetz SB 53 verpflichtet große Entwickler hochentwickelter KI-Systeme, Sicherheitsrahmenwerke zu veröffentlichen, schafft einen Meldeweg für mögliche kritische Sicherheitsvorfälle und schützt Hinweisgeber. Die EU verpflichtet Anbieter von Modellen mit systemischem Risiko zu Risikomanagement, einschließlich bei offenen Modellen.

Amodeis vorgeschlagene Prüfer würden einen tieferen Zugang erhalten, um zu testen, ob vergleichbare Pflichten die internen Entscheidungen der Unternehmen beeinflussen. Eine enge, zeitlich begrenzte Stoppbefugnis würde staatlichen Stellen eine Durchsetzungsoption geben, wenn ein betroffenes System einen gesetzlich definierten Risikoschwellenwert überschreitet.

In dieser hybriden Struktur würden Regierungen verbindliche Regeln für systemisch bedeutende Entwickler festlegen, externe Prüfer die Einhaltung überprüfen und staatliche Stellen bestimmtes Training oder dessen Einsatz aussetzen können. Forschern, Hinweisgebern und Regulierungsbehörden in mehreren Rechtsordnungen blieben getrennte Wege, um die Beweislage anzufechten.

Der Eingriffsmechanismus müsste Kriterien vorsehen, die an nachgewiesene Fähigkeiten oder Sicherheitsversagen geknüpft sind, eine Überprüfung durch eine Stelle außerhalb der anordnenden Behörde und ausdrückliche Regeln für Ablauf und Verlängerung. Prüfer müssten die Freiheit haben, ungünstige Ergebnisse zu melden; Schwärzungen dürften sich auf legitime rechtliche, sicherheitsbezogene, datenschutzrechtliche und eng begrenzte kommerzielle Belange beschränken. Diese Schutzvorkehrungen würden das Risiko verringern, dass ein vorübergehender Sicherheitseingriff zu dauerhafter politischer Kontrolle über die allgemeine Forschung wird.

Die praktische Bewährungsprobe für dieses Modell wäre, ob die Regeln auf genügend Entwickler angewendet werden, um zu verhindern, dass Aktivitäten einfach außerhalb der erfassten Gruppe verlagert werden, und zugleich der unabhängige Zugang zu Beweismaterial erhalten bleibt. Damit werden der Umfang der erfassten Systeme, die Befugnisse der Prüfer und die Zuständigkeit für eine Stoppanordnung zu zentralen Fragen der Umsetzung – und nicht zu Details, die durch Eigentum allein gelöst werden können.

Private Entwicklung könnte innerhalb eines gemeinsamen regulatorischen Rahmens fortgesetzt werden, solange hochentwickelte Systeme identifizierbar bleiben und durchsetzbare Kontrollpunkte verfügbar sind. Unabhängige Institutionen würden die Einhaltung überprüfen und sowohl eine Vereinnahmung durch Unternehmen als auch durch Regulierungsbehörden aufdecken.

Eine öffentliche Beteiligung könnte den Wohlstand der KI-Branche und ihren Einfluss in den Führungsetagen neu verteilen, aber Eigentum würde nicht festlegen, wann das Training beendet werden muss. Eine offene Verbreitung könnte Zugang und Kontrolle erweitern, aber keine durchsetzbare Regel zum Anhalten schaffen, sobald die Gewichte hochentwickelter Modelle verbreitet sind.

Ein glaubwürdiges Entwicklungstempo würde daher voraussetzen, dass jeder erfasste Entwickler hochentwickelter KI-Systeme derselben öffentlichen Grenze unterliegt. Demokratische Legitimität würde erfordern, dass unabhängige Prüfer, Forscher, Hinweisgeber und Regulierungsbehörden die Beweislage untersuchen und sowohl die Grenze als auch jede Stoppanordnung anfechten.

Quelle: CryptoNewsNet. Ursprüngliche Referenz: CryptoSlate