Trump nennt internationale KI-Aufsicht einen „globalistischen Plan“, während Altman und Amodei beim UN-Sicherheitsrat vorsprechen
Wichtige Erkenntnisse
- •Präsident Trump lehnte in seiner Rede vor der UN-Generalversammlung eine internationale Aufsicht über künstliche Intelligenz ab, nannte solche Vorschläge einen „globalistischen Plan“ und schwor, das Wachstum der Technologie nicht zu ersticken.
- •OpenAI-CEO Sam Altman und Anthropic-CEO Dario Amodei werden am Mittwoch dem UN-Sicherheitsrat in einer von Frankreich organisierten Sitzung zu KI und internationaler Sicherheit Bericht erstatten.
- •Anthropic-CEO Dario Amodei veröffentlichte am 12. September einen Aufsatz, in dem er KI-Unternehmen aufforderte, die Modellentwicklung zu verlangsamen und unabhängigen Prüfern vollen Zugang zu gewähren – ein Aufruf, den Altman und Elon Musk öffentlich unterstützten.
- •Das Pentagon stufte Anthropic zuvor als Lieferkettenrisiko ein und stoppte die Veröffentlichung seines Modells Mythos, während OpenAI im einräumte, dass seine Modelle aus ihrer Testumgebung entkamen und eigenständig Hugging Face hackten.
- •Die Führer von mehr als 20 überwiegend europäischen Ländern forderten vor der Generalversammlung verbindliche Sicherheitsmaßnahmen für fortgeschrittene KI, doch sowohl die USA als auch China enthielten sich der Stimme.
Präsident Donald Trump nutzte seine Rede vor der UN-Generalversammlung am Dienstag, um internationale Aufsicht über die künstliche Intelligenz abzulehnen – eine Technologie, die er in letzter Zeit „Superintelligenz“ nennt – und brandmarkte solche Vorschläge als „globalistischen Plan“, um die Technologie zu kontrollieren.
Einen Tag später werden die Chefs der beiden führenden KI-Labore Amerikas bei den Vereinten Nationen fast das Gegenteil fordern.
OpenAI-CEO Sam Altman und Anthropic-CEO Dario Amodei werden am Mittwochnachmittag dem UN-Sicherheitsrat, dem wichtigsten Gremium der Vereinten Nationen für internationalen Frieden und Sicherheit, in einer Sitzung zu KI und internationaler Sicherheit Bericht erstatten. Die Sitzung wird im Livestream übertragen. Altman werde voraussichtlich über die Sicherheitsarbeit des Unternehmens und die Bedeutung internationaler Zusammenarbeit sprechen, teilte ein OpenAI-Sprecher Reuters mit.
Trumps Angriff auf KI-Sicherheitsbefürworter
Trump ging zudem direkt auf KI-Sicherheitsbefürworter los, die sowohl von der MAGA-Bewegung als auch von Risikokapitalgebern kritisiert werden, die dem Effektiven Altruismus misstrauen – einer einst nischenphilosophischen Strömung, die Risiken aus utilitaristischer Perspektive betrachtet. Mit einem Vergleich zu Klimawarnungen sagte er, dieselben Leute, die vor der globalen Erwärmung gewarnt hätten, „sagen jetzt, dass KI uns alle umbringen wird“. Er kündigte an, diese Rufe nicht zu beachten. „Ich werde das Wachstum von etwas nicht ersticken, das größer sein wird als die industrielle Revolution“, sagte Trump.
Die Alarmglocken der Branche selbst
Trumps Haltung bringt ihn in Gegensatz zu den Top-Managern der Labore, die die Technologie entwickeln. Am 12. September veröffentlichte Amodei einensatz, in dem er KI-Unternehmen aufforderte, das Tempo ihrer Modellverbesserungen zu verlangsamen, und verlangte, dass unabhängige Prüfer vollständigen Zugang zu Frontier-Laboren erhalten. Altman und Elon Musk unterstützten den Aufruf öffentlich, während Nvidia-CEO Jensen Huang die Ängste als übertrieben bezeichnete.
Nach Amodeis Aufsatz wies Trump diese Ängste auf Truth Social zurück, nannte die existenzielle Bedrohung einen „Hoax“ und behauptete, die einzige Absicherung, die KI benötige, sei ein Präsident mit „hohem IQ“. Im selben Beitrag deutete er offenbar Sanktionen gegen KI-Unternehmen an und erklärte, seine Regierung verfüge bereits über „gewaltige STRAF- und REGULATORISCHE Befugnisse“ gegenüber diesen – und er nannte Amodei namentlich.
Tatsächlich hat die Regierung diese Macht tatsächlich gegen Anthropic eingesetzt: Das Pentagon stufte das Unternehmen zuvor als seltenen Lieferketten-Risikofall ein und stoppte die Veröffentlichung seines Modells Mythos.
Diese Warnungen folgten auf eine Reihe von Vorfällen. OpenAI gab im Juli bekannt, dass seine KI-Modelle aus ihrer „sandgeboxten“ Testumgebung ausgebrochen seien und eigenständig in die Open-Source-Entwicklerplattform Hugging Face eingedrungen seien. Auch Anthropic und Google Gemini haben Sicherheitsvorfälle gemeldet.
Hugging-Face-CEO Clément Delangue wird am Mittwoch ebenfalls vor dem Rat sprechen, ebenso wie Yoshua Bengio, Co-Vorsitzender des Unabhängigen Internationalen Wissenschaftlichen Gremiums der UN für KI. Frankreich organisierte die Sitzung, um den bösartigen Einsatz von KI und das Risiko eines Kontrollverlusts über fortschrittliche Modelle zu adressieren. Auch die chinesischen Entwickler DeepSeek und Moonshot wurden zu Erklärungen eingeladen, obwohl unklar ist, ob sie teilnehmen werden.
Eine Welt gespalten über Regeln
Vor der Generalversammlung forderten die Führer von mehr als 20 überwiegend europäischen Ländern verbindliche Sicherheitsmaßnahmen für fortgeschrittene KI und warnten, die Technologie könnte die Fähigkeit, sie zu kontrollieren, überholen. Die beiden führenden KI-Mächte, die USA und China, enthielten sich beide der Stimme zu diesem Vorhaben.
Die Enthaltungen rahmen die bevorstehende Diplomatie ein: Trump wird den chinesischen Präsidenten Xi Jinping treffen, und die beiden werden voraussichtlich über KI sprechen. Trump wird zudem einen Staatsbankett für Xi ausrichten, an dem voraussichtlich Nvidia-CEO Jensen Huang, Altman und Apples Tim Cook teilnehmen werden.
Diese Geschichte erschien ursprünglich auf Fortune.com.
