US-Präsident Donald Trump und Führungskräfte führender KI-Unternehmen haben im Weißen Haus ein freiwilliges Abkommen unterzeichnet, das sicherstellen soll, dass ihre KI-Modelle "sich wie beabsichtigt verhalten" – inmitten wachsender Bedenken hinsichtlich der Sicherheit immer leistungsfähigerer Frontier-KI-Systeme.

Die Vereinbarung mit dem Titel "Joint Commitment on Frontier Responsibilities" verlagert einen Großteil der Verantwortung für das Management von KI-Risiken auf die Unternehmen, die diese Systeme entwickeln. Sie fordert interne Kontrollen, unabhängige externe Audits und Aufsicht auf Vorstandsebene, "um sicherzustellen, dass die Modelle nicht auf unerwartete Weise in technische Systeme eindringen oder darauf zugreifen." Das Abkommen lässt zudem die Möglichkeit offen, diese Zusagen in Gesetze oder Vorschriften zu überführen, und erklärt, dass dies mit der Zeit sinnvoll sein könnte. Da der Pakt freiwillig ist, entfaltet er für sich genommen keine gesetzliche Wirkung; offen bleibt, wie diese Kontrollen in die Praxis umgesetzt werden und ob die Zusagen schließlich kodifiziert werden.

Trump hat sich gegen eine Verlangsamung der KI-Entwicklung ausgesprochen und verwies dabei auf die Konkurrenz mit China. "Ich sehe eine enorme Selbstkontrolle. Und sie verstehen, dass sie sich selbst kontrollieren müssen", sagte er Reportern im Weißen Haus.

Das Abkommen wurde von Google-CEO Sundar Pichai, Anthropic-CEO Dario Amodei, Meta-CEO Mark Zuckerberg, OpenAI-Präsident Greg Brockman, Nvidia-CEO Jensen Huang und xAI-CEO Elon Musk unterzeichnet. Die Unterzeichner umfassen weite Teile des KI-Ökosystems – von Nvidias Chips über die Modellentwickler OpenAI und Anthropic bis hin zu den Consumer-Plattformen von Google, Meta und xAI. Bei dem Treffen ging es um KI-Sicherheit, das Wachstum der Branche und denbau von Rechenzentren, während Trump ein Gemeinschaftsunternehmen der USA und Chinas zur KI-Entwicklung ausschloss.

Das Weiße Haus stellte das Abkommen auf seinem Rapid-Response-47-Konto auf X heraus.

Die Unterzeichnung erfolgte am selben Tag, an dem Trump eine Executive Order unterzeichnete, die die Exekutive anweist, den Begriff "Super Intelligence" statt "Artificial Intelligence" zu verwenden, da dieser Begriff "das Versprechen, das Potenzial und die sich rasch weiterentwickelnden Fähigkeiten dieser Technologien besser erfasse".

Mehr dazu: Trump kündigt laut Berichten eine "AI Force" und einen KI-Zar an

Quelle: Cointelegraph