Das Weiße Haus hat ein „moralisch bindendes“ freiwilliges Sicherheitsabkommen vorgestellt, das Präsident Donald Trump gemeinsam mit den Führungskräften der größten KI-Unternehmen der USA unterzeichnet hat – und das Vorgehen hat im Kongress einen Riss darüber aufgerissen, ob man es mittragen soll.

Die Kritik vom Capitol Hill speist sich aus der Frustration, dass frühere freiwillige Schutzmaßnahmen nicht ausreichten, darunter die Vereinbarung vom Juli 2023 zwischen Präsident Joe Biden und Amazon, Anthropic, Google, Meta, Microsoft und OpenAI.

Wer hat das freiwillige KI-Schutzabkommen von September unterzeichnet?

Laut dem von Trump auf Truth Social veröffentlichten Dokument hat der Präsident das Abkommen zusammen mit sechs Unternehmenssignaturen unterzeichnet: Sundar Pichai von Google, Dario Amodei von Anthropic, Mark Zuckerberg von Meta, Jensen Huang von Nvidia, Greg Brockman von OpenAI und Elon Musk von X.

Laut Roll Call erklärte Sprecher Mike Johnson, die Unterzeichner hätten beim Mittagessen die „White House Accord on Super Intelligence“ verabschiedet. Der Bericht zitierte, dass „jedes Unternehmen dafür verantwortlich ist, seine eigene Technologie sicher zu entwickeln“, im Rahmen des „Joint Commitment on Frontier Responsibilities“.

Das Dokument legt Berichten zufolge vier Verpflichtungen fest:

• Die Unternehmen haben sich verpflichtet, interne Kontrollen und Überwachung ihrer Modelle durchzuführen.
• Sie haben zugesagt, ein externes Unternehmen mit einer unabhängigen Bewertung zu beauftragen.
• Ein unabhängiger Ausschuss wird interne Auditberichte prüfen und gefundene Probleme beheben.

Das Abkommen besagt außerdem, dass die Unterzeichner sich „regelmäßig treffen werden, um Standards und bewährte Verfahren festzulegen“, und der Text räumt ein, dass es „mit der Zeit sinnvoll sein kann, diese Schritte in Gesetzen oder Verordnungen zu verankern“. Ob solche Zusagen durchsetzbare Regeln ersetzen können, ist genau der Bruch, der nun durch den Kongress verläuft.

Trump: „Ich denke, es ist moralisch bindend“

Auf Nachfrage zum Abkommen antwortete Trump: „Ich denke, es ist moralisch bindend.“ In gewohnter Manier zog der Präsident einen größeren Vergleich: „Es ist gewissermaßen fast wie eine Verfassung.“

Trump hielt daran, die Branche sich selbst überwachen zu lassen, und erklärte: „Ich sehe eine enorme Selbstkontrolle, und man versteht, dass man sich selbst kontrollieren muss.“ Warum er diese Lösung bevorzugt, erläuterte er damit, dass „ihre Unternehmen auf dem Spiel stehen“.

Trump griff zudem seine Wochenendumfrage auf, künstliche Intelligenz in „Super Intelligence“ umzubenennen, und sagte, er werde eine entsprechende Executive Order unterzeichnen. Darüber hinaus kündigte er die Einrichtung eines zehnköpfigen Ausschusses an, der ihm innerhalb weniger Tage bei der Benennung eines „AI Czar“ helfen soll. Die Wahl des Czar ist der am nächsten liegende Schritt; für die Executive Order gibt es bislang keinen genannten Zeitplan.

Der Kongress ist nicht hinter dem KI-Abkommen

Nicht alle im Capitol Hill billigten die Art des Treffens, bei dem Abgeordnete ausgeschlossen waren, oder die Reichweite der Vereinbarung, die ihrer Ansicht nach der Dringlichkeit einer Lage nicht gerecht wird, die sich zugespitzt hatte, nachdem Jacob Coxon, ein ehemaliger Forscher bei OpenAI und Anthropic, gewarnt hatte, KI „könnte uns alle bis zum Ende des Jahrzehnts töten“.

OpenAI, Anthropic und Meta haben sämtlich Fälle offengelegt, in denen außer Kontrolle geratene Modelle Systeme erkundeten, zu denen sie nie autorisiert waren – darunter bundesstaatliche Datenbanken.

In einer Erklärung nach dem Treffen sagte der demokratische Senator Mark Warner aus Virginia, die Unternehmen selbst warnen davor, dass die Technologie die Schutzmaßnahmen überholt. „Die Antwort des Präsidenten? Sie umzubenennen und den Unternehmen, die sie entwickeln, zu sagen, sie sollen sich selbst regulieren“, so Warner.

Warner hatte bereits an diesem Dienstag versucht, einen Gesetzentwurf voranzubringen. Im Senat beantragte er einstimmigen Beschluss – ein Schnellverfahren, das der Einspruch eines einzigen Senators blockieren kann –, um ein AI Safety Board im Handelsministerium zu schaffen, das durchsetzbare Standards festlegen, Vorabzugang zu neuen Frontier-Modellen mindestens 45 Tage vor Veröffentlichung verlangen und Vorfallberichte innerhalb von 30 Tagen – oder 72 Stunden bei unmittelbaren Bedrohungen der nationalen Sicherheit – verlangen sollte. Keine der im Abkommen aufgeführten Zusagen enthält einen vergleichbaren Vorabzugang oder feste Meldefristen.

Der Handelsvorsitzende Ted Cruz aus Texas widersprach, und der Gesetzentwurf scheiterte. Der demokratische Senator aus Hawaii und Mitverfasser Brian Schatz bezweifelte, ob Unternehmen, die „auf die größten IPOs der Menschheitsgeschichte zusteuern“, sich freiwillig selbst zügeln würden.

Der Widerstand kam nicht nur von den Demokraten: Der republikanische Abgeordnete aus Missouri, Josh Hawley, schrieb in einem Gastbeitrag für die Washington Post, dass Frontier-Modelle verpflichtende Tests vor dem Einsatz durchlaufen sollten. Johnson wiederum versicherte, der Kongress werde „mit fester Hand am bleiben“, sagte jedoch kein Gesetz zu.

Warners Urteil liest sich heute viel wie damals: Die Zusagen seien „ein Schritt in die richtige Richtung“ gewesen, sagte er 2023, „aber wir brauchen mehr als Branchenzusagen.“