Washington und Peking haben sich darauf verständigt, KI-Gespräche aufzunehmen, bevor Staatschef Donald Trump und Xi Jinping zu einem entscheidenden Gipfel zusammenkommen, der für Donnerstag, den 24. September, in Washington angesetzt ist. Dringliche Warnungen vor den Gefahren einer unkontrollierten KI haben die Gespräche mit einem ausgeprägten Gefühl der Dringlichkeit aufgeladen.

Bisher scheiterten Versuche, globale Leitlinien für KI-Sicherheit zu etablieren, immer wieder – behindert durch den intensiven Wettbewerb und das Misstrauen zwischen den beiden Supermächten der Welt. Auch der verbreitete Zweifel an den existenziellen Risiken der Technologie hat Fortschritte verzögert: Trump hat solche Warnungen offen zurückgewiesen, eine Haltung, die nach Einschätzung von Experten mit Chinas umfassenderem strategischen Ansatz übereinstimmt. Dass die beiden führenden KI-Mächte der Welt überhaupt einen Kommunikationskanal eröffnen, verleiht der Begegnung eine Bedeutung, die über ihre bescheidene unmittelbare Agenda hinausgeht – Kommunikation, nicht Vertragsschlüsse, ist der Ausgangspunkt.

In einem seiner jüngeren Beiträge auf X schrieb Trump: "The people that say AI is going to destroy the World, and that Data Centers are bad for your neighborhood, are the same people that said, just a short time ago, that the World would be extinguished by 'Climate Change. That HOAX never worked out for them, and they're on to the next one." (via FT on X)

Trotz tief sitzender Reibungen hat die Notwendigkeit einer US-chinesischen Koordination vor dem Gipfel der beiden Staatsführer am 24. September in der US-Hauptstadt an Bedeutung gewonnen. Dieser Wandel folgt auf beispiellose Warnungen der amerikanischen Technologiebranche, die einen langsameren, überlegteren Ansatz bei der KI-Entwicklung fordern.

Bessent sagt, die USA hätten ein Benachrichtigungssystem für KI-Ausfälle oder -Zwischenfälle vorgeschlagen

Die US-Regierung hat bereits damit begonnen, die Grundlage für die Gespräche zu schaffen. Trump bestätigte, dass KI auf der vollen Agenda der kommenden Woche steht, und Finanzminister Scott Bessent erklärte Reportern, die USA seien bereit, mit Peking über die wechselseitigen Risiken zu sprechen. Bessent gab zudem bekannt, dass Washington ein formales Benachrichtigungsprotokoll für KI-Ausfälle oder -Zwischenfälle vorgeschlagen hat.

"We think that just like any cross-border activity that is moving from opaque to more transparency between the number one and number two AI powers in the world is very important", so Bessent.

Der vorgeschlagene Mechanismus würde sich auf einige der schwerwiegendsten Risiken konzentrieren, die mit fortschrittlicher KI verbunden sind, etwa Cyberangriffe, Systemausfälle und Bedrohungen kritischer Infrastruktur. Das unmittelbare Ziel ist – statt eines globalen KI-Abkommens – einen Weg zu schaffen, damit die beiden Länder einander benachrichtigen können, wenn ein KI-bezogener Vorfall die nationale Sicherheit beider Nationen bedrohen könnte. Ein solcher Kanal würde Washington und Peking ermöglichen, im Notfall Informationen auszutauschen, während beide Regierungen weiterhin um fortschrittliche Chips, KI-Modelle und Recheninfrastruktur konkurrieren.

Einige Führungskräfte US-amerikanischer KI-Unternehmen, darunter Anthropic-Chef Dario Amodei und OpenAI-Sam Altman, haben eine Verlangsamung der KI-Entwicklung gefordert, angesichts der steigenden Zahl der Risiken. Amodei hat insbesondere Schritte befürwort, die die Branche ergreifen könnte, um die "pacing the frontier" zu steuern, und er hat auch Trumps Vision unterstützt, wonach die USA ihren Wettbewerbsvorteil bewahren müssen. Ein ehemaliger Anthropic-Mitarbeiter zeigte sich dagegen besorgter und erklärte, er mache sich um die Existenz der Menschheit in den kommenden Jahren Sorgen.

Einige US-Abgeordnete haben bislang auf der Notwendigkeit beharrt, mit China Inspektionen und Sicherheitsstandards zu vereinbaren, während andere Trump weiterhin ermutigen, Schritte zur Verlangsamung von Chinas KI-Entwicklung zu ergreifen, einschließlich einer Einschränkung des Zugangs zu hochentwickelten KI-Technologien. Diese Spaltung unterstreicht die Spannung, die die Gespräche durchzieht: die Verfolgung von Sicherheitskooperation mit Peking, während das Rennen um den KI-Vorteil auf parallelen Gleisen weiterläuft.

Analysten sehen die breitere Rivalität als das größte Hindernis

Auch auf chinesischer Seite haben einige vor den möglichen Gefahren der Technologie gewarnt. So hat Chinas oberster Geheimdienstchef geltend gemacht, dass künstliche Intelligenz die politische Autorität der Kommunistischen Partei Chinas direkt bedroht. Der Sprecher des chinesischen Außenministeriums, Guo Jiakun, hat derweil betont, dass internationale Akteure zusammenarbeiten sollten, um einen offenen, inklusiven KI-Rahmen zum globalen Gemeinwohl voranzutreiben.

Alison Szalwinski, Senior Vice President bei der strategischen Beratungs- und Investmentfirma The Asia Group, argumentierte, dass die USA und China zwar inzwischen weitgehend über die Gefahren cybernetischer KI-Fähigkeiten übereinstimmen, das größte Hindernis jedoch darin bestehe, ob KI-Sicherheit von der allgemeinen Feindseligkeit zwischen den USA und China entkoppelt werden kann.

"At this point, the immediate goal is less about negotiating a major AI agreement — we're just not there yet, and more about establishing a durable channel for discussing frontier AI risk", so Szalwinski.

Kyle Chan vom John L. Thornton China Center der Brookings Institution äußerte ebenfalls Zweifel an den Aussichten einer Kooperation bei der KI-Sicherheit. "I don't think that Trump is feeling any pressure about the existential AI risk issue. He calls it a hoax multiple times. It reminds me very much of how he treats climate", sagte er. Chan ergänzte, Trump konzentriere sich in erster Linie darauf, die KI-Nachfrage und den Anstieg des Aktienmarktes zu fördern.

Die unmittelbaren Maßstäbe für die Gespräche sind konkret: ob das Benachrichtigungsprotokoll vom vorgeschlagenen Konzept zu einem funktionierenden Kanal wird und was, wenn überhaupt, die beiden Staatsführer bei ihrem Treffen am 24. September über KI sagen.