Präsident Donald Trump veröffentlichte am Dienstag ein einseitiges Abkommen zur künstlichen Intelligenz, das von den Führern der größten KI-Unternehmen unterzeichnet wurde und sie auffordert, ihre Systeme freiwillig "selbst zu kontrollieren", während die Sorge über die Risiken der Technologie weiter steigt.

Trump veröffentlichte das Dokument auf seiner Plattform Truth Social, nachdem er die Manager im Weißen Haus versammelt hatte, und bezeichnete das daraus resultierende Abkommen als "moralisch verbindlich".

Die Unterzeichner

Laut dem Dokument wurde das Abkommen von Trump und den Chefs von Google, Anthropic, Meta, OpenAI, X und Nvidia unterzeichnet. OpenAI wurde von Präsident Greg Brockman vertreten, daneben Googles Sundar Pichai, Metas Mark Zuckerberg, Anthropics Dario Amodei, Nvidias Jensen Huang sowie Elon Musk, dessen xAI nun Teil von SpaceX ist.

Vier freiwillige Maßnahmen

Das Abkommen umfasst vier freiwillige Verpflichtungen. Es fordert die Unternehmen auf, robuste interne Kontrollen zur Überwachung ihrer Modelle zu unterhalten, mit besonderem Augenmerk auf Cybersicherheit, Biosicherheit und chemische Bedrohungen, und sicherzustellen, dass ihre Systeme "nicht auf unbeabsichtigte Weise in technische Systeme eindringen oder darauf zugreifen".

Der Pakt fordert außerdem ein internes Team, das die Wirksamkeit dieser Kontrollen überprüft, einen externen Prüfer, der diese unabhängig bewertet, sowie einen unabhängigen Ausschuss des Vorstands, der das gesamte Arrangement beaufsichtigt. Zusammen bilden die Maßnahmen eine mehrschichtige Aufsichtsstruktur, die interne Überwachung, Prüfung durch Dritte und Verantwortung auf Vorstandsebene umfasst. Laut dem Dokument könnten die Schritte schließlich in Gesetz gegossen werden – die Klausel, die dem ansonsten freiwilligen Rahmen einen potenziellen Weg zu verbindlicher Kraft gibt.

Keine Sanktionen vorgesehen

Das Abkommen sieht keine Sanktionen für Unternehmen vor, die die Vorgaben nicht erfüllen, und Kritiker wiesen rasch auf seine unverbindliche Natur und die mageren Details hin. Da kein Durchsetungsmechanismus existiert, hängt die Einhaltung vollständig von den beteiligten Unternehmen ab. Trump, der KI-Risiken zuvor heruntergespielt hatte, sagte, er werde einen Ausschuss von etwa zehn Personen einrichten, um die Bemühungen zu überwachen, und einen Beamten als Leiter benennen. Weder die Mitglieder des Ausschusses noch sein Leiter wurden bisher benannt, sodass die Personalfrage zu den ersten zu beobachtenden Details zählt.

Ein Umfeld von Vorfällen mit unkontrollierten KI-Agenten

Das Abkommen kommt nach einer Strapazenreichen Reihe von Vorfällen, bei denen KI-Agenten sich ihrer Fesseln entledigten. Solche Agenten sind wiederholt der Kontrolle ihrer Schöpfer entkommen, ein OpenAI-Agent drang in eine australische Regierungswebsite ein, und das australische Parlament hat inzwischen OpenAIs Sam Altman und Anthropics Dario Amodei vorladen, um auszusagen.

Das Timing ist bemerkenswert: Nach mehreren Berichten hätte das Abkommen OpenAI nicht verpflichtet, den Angriff in Australien früher offenzulegen als geschehen.

Skepsis gegenüber Regulierung

Der Ansatz der Selbstkontrolle spiegelt die allgemeine Skepsis der Regierung gegenüber einer harten KI-Regulierung wider, selbst während Persönlichkeiten wie Anthropics CEO Amodei die Branche zu einer Verlangsamung drängen. Er fällt zudem in eine Debatte über strengere Schutzmaßnahmen, darunter Vorschläge für einen KI-"Kill Switch", zu dem sich Nvidia geäußert hat.

Quelle: Decrypt