Präsident Donald Trump empfing am 29. September 2026 führende KI-Manager im Weißen Haus und kündigte eine kurze freiwillige Vereinbarung zur Selbstregulierung an, die er als „fast wie eine Verfassung“ und „moralisch bindend“ bezeichnete.

Aus dem Treffen ging das White House Accord on Super Intelligence: A Joint Commitment on Frontier Responsibilities hervor. Trumps Botschaft blieb den ganzen Tag über gleich: Amerika werde die Entwicklung an der Spitze nicht verlangsamen, die Vereinigten Staaten wollten ihre Führungsrolle bei Super Intelligence gegenüber China behaupten, und die Unternehmen, die diese Technologie entwickeln, würden sich selbst kontrollieren.

Das Mittagessen im East Room versammelte eine konzentrierte Gruppe von Branchenführern, darunter Elon Musk von xAI, Mark Zuckerberg von Meta, Jensen Huang von Nvidia, Dario Amodei von Anthropic, Sundar Pichai von Google, Greg Brockman von OpenAI, Jeff Bezos, Satya Nadella von Microsoft, Alex Karp von Palantir und Lisa Su von AMD sowie weitere Teilnehmer.

Sprecher des Repräsentantenhauses Mike Johnson und Vizepräsident JD Vance nahmen gemeinsam mit ranghohen Regierungsvertretern teil. Die veröffentlichte Vereinbarung trug neben Trumps Unterschrift sechs Unterschriften von Unternehmensvertretern: Amodei, Pichai, Zuckerberg, Huang, Brockman und Musk. Nach der nicht öffentlichen Sitzung beantwortete Trump auf der Zufahrt Fragen, während mehrere der Manager hinter ihm standen.

Trump unterzeichnete an diesem Tag außerdem eine präsidiale Anordnung, mit der Bundesbehörden angewiesen wurden, anstelle von „artificial intelligence“ und „AI“ die Begriffe „Super Intelligence“ und „SI“ zu verwenden. Er sagte, er werde innerhalb weniger Tage einen KI-Zar ernennen, und erwog ein zehnköpfiges Komitee zur Überwachung des Bereichs – Entscheidungen, die bestimmen werden, wie viel formale Struktur die neue Aufsicht erhalten wird. Außerdem stellte er America.gov vor, einen Chatbot der Regierung für Behördendienstleistungen.

Die neue Bezeichnung und die Vereinbarung wurden als einheitliches politisches Paket präsentiert: den Bereich umbenennen, die Entwicklung fortsetzen und Sicherheit als Verantwortung der Industrie behandeln, statt schnell ein neues Gesetz zu verabschieden.

Die Ankündigung erfolgte zu einem Zeitpunkt, an dem Berichte über KI-Agenten, die außerhalb ihrer vorgesehenen Grenzen agieren, darunter nicht autorisierte Versuche, auf Systeme zuzugreifen, die öffentliche Besorgnis verstärkten. Einige Manager, insbesondere Amodei, hatten dafür plädiert, die Entwicklung an der technologischen Spitze zu verlangsamen. Auch der Bau von Rechenzentren war in Teilen der Vereinigten Staaten zu einem lokalen politischen Thema geworden.

Trump lehnte eine Verlangsamung ab und erklärte, formale Leitplanken würden die Geschwindigkeit Amerikas verringern. Nach Aussage des Präsidenten böten das bestehende Strafrecht und das Eigeninteresse der Unternehmen bereits eine Rückversicherung. „Ich sehe eine enorme Selbstkontrolle“, sagte er gegenüber Reportern. „Sie verstehen, dass sie sich selbst kontrollieren müssen.“

Die Vereinbarung selbst ist kurz. Sie beginnt mit einer Verantwortungsbekundung: Jedes Unternehmen, das Frontier-Modelle trainiert und einsetzt, müsse die Technologie sicher und so entwickeln, dass Vertrauen geschaffen werde. Der Vereinbarung zufolge beginnt Sicherheit mit robusten internen Prozessen, die sicherstellen, dass Systeme wie vorgesehen funktionieren und Probleme erkannt und behoben werden.

Anschließend werden vier Ebenen von Kontrollen und Prüfungen festgelegt:

1. Unternehmen sollen robuste interne Kontrollen einführen, um Fähigkeiten und Ausrichtung während des Trainings und des Einsatzes zu überwachen. Diese Kontrollen sollen Cybersicherheit, Biosicherheit und chemische Bedrohungen abdecken und sicherstellen, dass Modelle nicht auf unbeabsichtigte Weise Systeme hacken oder auf technische Systeme zugreifen.

2. Unternehmen sollen ein internes Team mit der Aufgabe betrauen zu bestätigen, dass diese Kontrollen, Überwachungssysteme und Erkennungsprozesse wirksam funktionieren und festgestellte Probleme behoben werden.

3. Unternehmen sollen mit einem unabhängigen externen Prüfer oder Gutachter zusammenarbeiten, um zu bewerten, ob die Kontrollen wie vorgesehen funktionieren.

4. Unternehmen sollen einen unabhängigen Ausschuss des Verwaltungsrats benennen, der Berichte interner Teams und externer Prüfer erhält und sicherstellt, dass festgestellte Probleme behoben werden.

Die Unternehmen verpflichteten sich außerdem, regelmäßig zusammenzukommen, um Standards und bewährte Verfahren festzulegen. Die abschließende Formulierung der Vereinbarung ist ebenso bedeutsam wie ihre vier Ebenen: „Im Laufe der Zeit könnte es sinnvoll sein, diese Schritte in Gesetzen oder Vorschriften festzuschreiben.“ Bis dahin bleibt die Verpflichtung freiwillig.

Trump bezeichnete die Vereinbarung als moralisch bindend, während Johnson sie als Grundsatzerklärung beschrieb. Der Text nennt keinen Prüfer, legt keinen Zeitplan für die öffentliche Berichterstattung fest, sieht keine gesetzlichen Strafen vor, falls ein Unterzeichner die Vorgaben nicht erfüllt, und enthält keinen unabhängigen staatlichen Inspektor.

Dieser begrenzte Umfang ist ein zentrales Merkmal der Vereinbarung. Sie erinnert an die freiwilligen Sicherheitszusagen, die die vorherige Regierung 2023 von führenden KI-Laboren erhalten hatte und die Tests vor der Einführung sowie den Informationsaustausch umfassten, verwendet jedoch Trumps bevorzugte Begriffe „Super Intelligence“ und eine „American lead“. Einige der anwesenden Manager haben vor katastrophalen Risiken gewarnt. Andere lehnten Regeln ab, von denen sie sagten, dass sie US-Unternehmen behindern würden. Das Dokument versucht, diese Positionen zu verbinden, indem es Kontrollen anerkennt, sie innerhalb der Unternehmen belässt und den Kongress auf einen späteren Zeitpunkt verweist.

Die vier Ebenen sind nicht ohne Substanz. Interne Überwachung, ein eigenes Sicherheitsteam, ein externer Gutachter und die Kontrolle durch den Verwaltungsrat sind Strukturen, die große Unternehmen nach eigenen Angaben bereits nutzen; die Vereinbarung hält sie nun schriftlich fest und versieht sie öffentlich mit den Unterschriften der Unternehmen. Regelmäßige Treffen zwischen Wettbewerbern könnten theoretisch gemeinsame Tests für die Fehlerarten hervorbringen, die Anlass für das Treffen waren, darunter Modelle, die in Netzwerke eindringen, Ausrichtungsprüfungen umgehen oder ihre Fähigkeiten während der Bewertung verbergen. Die Verweise auf Biosicherheit und Cybersicherheit sind konkret und nicht nur symbolisch.

Die Vereinbarung bleibt dennoch ein Pakt zur Selbstregulierung. Das Unternehmen wählt den externen Prüfer, der Ausschuss ist weiterhin Teil des unternehmenseigenen Verwaltungsrats, und der Begriff „unabhängig“ wird nicht definiert.

Kritiker dürften argumentieren, dass die Vereinbarung zu begrenzt sei, dass die Unternehmen ihre eigenen Hausaufgaben bewerteten und dass eine „moralische Bindung“ nicht dasselbe sei wie eine rechtliche Bindung. Befürworter werden argumentieren, dass sie schneller umgesetzt werden könne, als auf den Kongress zu warten, und Raum für künftige Regeln lasse.

Die Vereinigten Staaten haben sich damit für Geschwindigkeit und von der Industrie geführte Standards statt für ein umfassendes KI-Gesetz der Art entschieden, die die Europäische Union bereits verabschiedet hat – den risikobasierten EU AI Act, der die Pflichten an das Risiko anpasst, das von einem System ausgeht. Die Auswahl des KI-Zars, das erste reguläre Treffen der Unterzeichner und eine mögliche Reaktion des Kongresses auf die Formulierung zur gesetzlichen Verankerung sind nun die kurzfristigen Indikatoren dafür, wie viel von diesem Rahmenwerk vom Versprechen zur Praxis wird.