UN-Menschenrechtschef Türk warnt: KI stellt existenzielle Bedrohung für die Menschheit dar – Forderung nach globalen Schutzmaßnahmen
Wichtige Erkenntnisse
- •UN-Menschenrechtskommissar Volker Türk warnte, dass die KI-Entwicklung eine existenzielle Bedrohung für die Menschheit darstellen kann und die bestehenden Governance-Systeme überholt.
- •Türk appellierte an Länder mit führenden KI-Firmen und kritischen Lieferketten, darunter die USA und China, „rote Linien“ zu ziehen, wie weit die Technologie gehen darf.
- •Türk unterstützte ein Verbot autonomer Waffen, die ohne menschliche Beteiligung töten können – ein Thema, zu dem die UN-Mitglieder keinen bindenden Vertrag erreicht haben.
- •UN-Frauen-Chefin Sima Bahous berichtete, dass rund 88 % der Spitzen-KI-Forscher Männer sind und mindestens jede vierte befragte Aktivistin und Journalistin KI-gestützte Online-Belästigung erlebt hat.
- •Parlamentarier und Branchenvertreter teilten die Sicherheitsbedenken: Senator Bernie Sanders fordert eine Entwicklungspause und ein Superintelligenz-Verbot, Anthropic-CEO Dario Amodei verlangt verpflichtende Tests und staatliche Befugnisse gegen gefährliche KI-Einsätze.
Der Hohe Kommissar der Vereinten Nationen für Menschenrechte, Volker Türk, warnte am 7. September vor dem Menschenrechtsrat in Genf, dass die künstliche Intelligenz einen Punkt erreicht, an dem sie eine existenzielle Bedrohung für die Menschheit darstellen könnte.
Türk drängte die Regierungen, schnellstens Schutzmaßnahmen aufzubauen und die KI-Laboratororie einzudämmen, die im Wettrennen um die Führung bei autonomen Systemen stehen. Steigende Sicherheitsvorfälle und Verstöße zeigten, dass das Feld außer Kontrolle zu geraten drohe.
Die zentrale Sorge des UN-Verantwortlichen ist, dass sich die KI-Technologie schneller entwickelt als die Governance-Systeme, die sie erfassen sollen. Die Warnung fällt in eine fragmentierte Regulierungslandschaft: Die EU ist mit ihrem KI-Gesetz am weitesten gegangen, das 2024 in Kraft trat und schrittweise Pflichten für Hochrisikosysteme einführt, während sich die USA weitgehend auf sektorale Regeln und freiwillige Zusagen stützen und eine verbindliche internationale Koordination bislang begrenzt bleibt. Nach Türks Angaben hat das ungebremste Wachstum die Bedrohung über Fehlinformationen und Arbeitsplatzverluste hinaus in existenzielle Bereiche getrieben – darunter Sicherheit, Rechenschaft und das Fehlen wirksamer Aufsicht über hochautonome Systeme.
Appell zu dringendem internationalen Handeln
Türk begründete seinen Appell zu international koordiniertem Handeln mit einem sich schließenden Zeitfenster, in dem die Fähigkeiten der KI noch begrenzt werden können. Er kritisierte zudem, dass Tempo und Richtung der Entwicklung des Feldes unverhältnismäßig stark in den Händen eines kleinen Kreises von Technologie-Managern und Unternehmen liegen.
Als Lösung schlug Türk vor, dass die Länder, in denen die führenden KI-Unternehmen ansässig sind,连同 jene, die kritische Lieferketten kontrollieren – eine Gruppe, zu der die Vereinigten Staaten und China zählen, die Heimat der meisten fortschrittlichen KI-Entwicklungen und der modernen Chipfertigung –, „rote Linien“ ziehen, die festlegen, wie weit sie die Technologie gehen lassen wollen.
Der Hohe Kommissar greift damit ein Thema wieder auf, das die UN beim ersten Globalen Dialog über KI-Governance im Juli in derselben Schweizer Stadt behandelt hatte (UN-Erklärung).
Auf dem „AI for Good“-Gipfel der ITU, auf dem diese Debatte begann, sagte Türk: „Wir betrachten Sicherheitsstandards für Medikamente, Autos oder Flugzeuge nicht als Hindernis für den Fortschritt. Sie sind der Grund, warum Menschen diesen Technologien überhaupt vertrauen“, laut UN-Aufzeichnung. Menschliche Aufsicht, fügte er hinzu, „darf nicht nur ein Feigenblatt sein“.
Zu den auf dem Gipfel vorgestellten Erkenntnissen gehörten Befunde von Sonia Livingstone vom UN-mandatierten Globalen Wissenschaftspanel für KI. In einer Studie über 11 Länder des Globalen Südens gaben mindestens ein Kind pro Klasse an, Opfer sexueller KI-Deepfakes geworden zu sein.
UN-Frauen-Chefin Sima Bahous hob die Geschlechterdimension des Problems hervor. Sie verwies darauf, dass etwa 88 % der Spitzenforscher im KI-Bereich Männer sind, und berichtete, dass mindestens jede vierte der von ihrer Organisation befragten Aktivistinnen und Journalistinnen KI-gestützte Online-Belästigung erlebt hatte.
KI-Labore und Gesetzgeber reagieren
Die UN ist nicht allein, die in diesem Sommer Alarm schlägt. Der US-Senator Bernie Sanders hat ein sofortiges Moratorium für fortgeschrittene KI-Entwicklung und ein dauerhaftes Verbot von Superintelligenz gefordert, während eine parteiübergreifende Gruppe britischer Parlamentarier gesetzlich vorgeschriebene „Kill-Switches“ für KI verlangte, nachdem es ihrer Darstellung zufolge zu einer Reihe unkontrollierter KI-Vorfälle gekommen war.
Diese Sorgen folgten auf OpenAIs Behauptung – im Zusammenhang mit seinem Modell GPT-6 Astra –, seine Technologie habe die allgemeine künstliche Intelligenz erreicht, sowie auf Anthropics Eingeständnis, dass die eigenen Modelle „nicht perfekt mit menschlichen Werten ausgerichtet“ seien.
Ein Teil des Drucks kommt auch aus der Branche selbst. In einem im Juni veröffentlichten, von Axios berichteten Essay argumentierte Anthropic-CEO Dario Amodei, dass Regierungen die gesetzliche Befugnis haben sollten, gefährliche KI-Einsätze zu blockieren oder rückgängig zu machen, und dass Grenzmodelle verpflichtenden Tests unterliegen sollten, vergleichbar mit Autos, Flugzeugen oder neuen Medikamenten.
In seiner eigenen Aktualisierung vor dem Rat dehnte Türk das Argument auf den Bereich der Kriegsführung aus und unterstützte Forderungen, Waffen zu verbieten, die ohne menschliche Beteiligung töten können – ein Thema, das UN-Mitgliedstaaten seit Jahren diskutieren, ohne einen rechtsverbindlichen Vertrag über autonome Waffen abzuschließen.
