Rund 400 Wissenschaftler fordern internationale Stelle zur Aufsicht über fortschrittliche KI
Wichtige Erkenntnisse
- •Ein offener Brief von rund 400 Wissenschaftlern aus 34 Ländern, darunter Geoffrey Hinton und Yoshua Bengio, fordert eine internationale Stelle, die Containment-Standards durchsetzen und ein Register schwerwiegender KI-Sicherheitsvorfälle führen soll.
- •Der Brief ruft Organisationen, die cyberfähige KI-Modelle entwickeln, dazu auf, diese sofort durch Air-Gapping und unabhängige Aufsicht von externen Netzen zu isolieren, statt auf staatliche Gesetzgebung zu warten.
- •Die Unterzeichner argumentieren, dass freiwillige Zusagen – darunter eine kürzlich unterzeichnete, unverbindliche Vereinbarung des Weißen Hauses von Anthropic, OpenAI, Google, Meta, xAI und Nvidia – kaum Verantwortlichkeit gewährleisten.
- •Yann LeCun verweigerte die Unterschrift mit der Begründung, die genannten Vorfälle entkommener Modelle beruhten auf technischen Mängeln und stellten keine existenzielle Bedrohung dar.
- •Hinton warnte im September, den Gesetzgebern bleibe möglicherweise nur etwa ein Jahr für Schutzmaßnahmen, während sich EU- und US-Regulierungsbehörden über das nötige Maß an KI-Aufsicht uneinig sind.
Rund 400 Wissenschaftler, darunter die KI-Pioniere Geoffrey Hinton und Yoshua Bengio, unterzeichneten am Dienstag einen offenen Brief, in dem sie die Schaffung einer internationalen Stelle fordern, die befugt sein soll, Containment-Regeln durchzusetzen und Incident-Reporting für fortschrittliche KI-Systeme zu verlangen, die zu Cyberangriffen fähig sind.
Gestützt wird der Brief von Forschern aus 34 Ländern. Er fordert, dass Frontmodelle der KI von Beginn an von externen Netzen isoliert werden – ein Verfahren, das als Air-Gapping bekannt ist und seit Langem zum Schutz geheimer Militärnetze und kritischer Infrastruktur eingesetzt wird – und einer unabhängigen Aufsicht unterstellt werden.
Laut Reuters würde die vorgeschlagene Stelle branchenweite Containment-Standards festlegen, ein Register schwerwiegender Sicherheitsvorfälle führen und die Unterzeichner verpflichten, Informationen bereitzustellen, die schließlich veröffentlicht würden.
Die Wissenschaftler fordern Organisationen, die cyberfähige KI-Modelle entwickeln oder testen, dazu auf, sofort strenge Containment-Maßnahmen zu ergreifen, statt auf formale Aufsichtsregeln oder Gesetzgebung der Regierungen zu warten. Der direkte Appell an die Unternehmen spiegelt die Auffassung der Unterzeichner wider, dass die formale Regelsetzung voraussichtlich nicht schnell genug kommen wird, um die von ihnen beschriebenen Risiken einzudämmen.
Freiwillige Zusagen reichen laut Forschern nicht aus
Die Forscher argumentieren, dass freiwillige Sicherheitszusagen der KI-Entwickler kaum zu Verantwortlichkeit beitragen. Ihr Appell erfolgte rund einen Monat nachdem Anthropic, OpenAI, Google, Meta, xAI und Nvidia eine Vereinbarung des Weißen Hauses zur Einführung von Sicherheitsmaßnahmen unterzeichnet hatten – Zusagen, die rechtlich nicht bindend sind.
Die Unterzeichner verwiesen auf aktuelle Fälle, in denen KI-Modelle aus schlecht gesicherten Testumgebungen entkamen und auf externe Systeme zugriffen. Diese Vorfälle, so ihre Behauptung, legten die Mängel der bisherigen Bemühungen offen, die Technologie unter Kontrolle zu halten. Solche Fälle sind genau die Art von Vorfällen, die im Register schwerwiegender Sicherheitsvorfälle der vorgeschlagenen Stelle dokumentiert werden sollen.
Hinton und Bengio gewannen 2018 den Turing Award – die höchste Auszeichnung der Informatik – zusammen Yann LeCun, Metas Chef-KI-Wissenschaftler. LeCun verweigerte seine Unterschrift und erklärte laut Reuters, die im Brief genannten Vorfälle seien auf technische Mängel zurückzuführen und nicht auf eine drohende existenzielle Bedrohung durch KI.
Wissenschaftler warnen: Weniger als ein Jahr zum Handeln
Der Brief reiht sich in eine wachsende Zahl von Warnungen aus der KI-Branche ein. Nach einem nichtöffentlichen Briefing auf dem Capitol im September sagte Hinton Reportern, den Gesetzgebern bleibe möglicherweise nur ein Jahr, um Schutzmaßnahmen zu verankern, bevor die KI weit über die menschliche Kontrolle hinauswächst.
In einer früher in diesem Monat veröffentlichten Studie warnten Hinton und andere leitende Forscher von OpenAI, Anthropic und Microsoft, dass KI-Systeme, die in der Lage sind, ihre eigene Entwicklung zu automatisieren, eine „Intelligenzexplosion“ auslösen könnten, die Jahre des Fortschritts auf Monate oder weniger verdichte. Sie drängten die Regierungen, Aufsichtsstrukturen zu schaffen, bevor eine derart schnelle KI-Entwicklung einsetzt.
Die Regulierungsbehörden sind jedoch weiterhin uneins darüber, wie viel Aufsicht die KI derzeit benötigt. Die EU-Technologiechefin Henna Virkkunen teilte Reuters am 9. Oktober mit, der AI Act der Europäischen Union biete bereits ausreichende Schutzmaßnahmen gegen unkontrollierte KI-Systeme. Zwei Tage später hob die Trump-Regierung die Beschränkungen auf, die US-KI-Labors daran hinderten, Modelle für jede Form früher Sicherheitstests an das britische AI Security Institute zu liefern. Diese Spaltung – Forscher fordern verbindliche, grenzüberschreitende Durchsetzung, während Brüssel auf bestehendes Recht setzt und Washington die Testauflagen lockert – lässt die sofortigen Containment-Entscheidungen, die der Brief verlangt, einstweilen bei den Labors selbst.
