Die Zusagen von KI-Unternehmen, die Entwicklung zu verlangsamen, könnten ohne durchsetzbare Sicherheitsstandards unter kommerziellem Druck und der Rivalität zwischen den USA und China zusammenbrechen, argumentieren Experten des Atlantic Council in einer am Sonntag veröffentlichten Analyse.

Die Analyse untersucht, wer eine Verlangsamung durchsetzen würde und ob die Regierungen über die Fachkenntnis verfügen, um zu bestimmen, wann immer leistungsfähigere Systeme unsicher werden. Beide Fragen ziehen sich durch die Vorschläge, die die Experten abwägen.

„Freiwillige Zusagen können nützliche Signale sein, aber sie sind kein Ersatz für unabhängige Aufsicht, messbare Schwellenwerte und Konsequenzen, wenn diese Schwellenwerte überschritten werden“, schrieb Konstantinos Komaitis, Resident Senior Fellow der Democracy + Tech Initiative des Councils.

Das kommerzielle Dilemma ist bereits sichtbar. OpenAI hat kürzlich Gesetzgeber gefragt, ob konkurrierende KI-Entwickler sich rechtlich darauf verständigen könnten, die Entwicklung zu verlangsamen, ohne gegen Kartellgesze zu verstoßen – nachdem Chief Scientist Jakub Pachocki gewarnt hatte, dass die bestehenden Schutzmaßnahmen nicht ausreichen, um eine Entwicklung auf Hochtouren noch länger verantwortungsvoll aufrechtzuerhalten. KI-Unternehmen stehen daher vor Wettbewerbsrisiken, wenn sie allein bremsen, und vor kartellrechtlichen Bedenken, wenn sie sich koordinieren.

Die Zusammenarbeit zwischen den Regierungen sieht sich mit ähnlichem Misstrauen konfrontiert. Kenton Thibaut, Senior Resident China Fellow des Councils, schrieb, Peking befürchte, Washington könnte Sicherheitsregeln nutzen, um seinen technologischen Vorsprung zu wahren.

„China ist skeptisch gegenüber den Motiven der USA und warnt, dass Sicherheitsdiskussionen US-Bemühungen verschleiern könnten, seine ‚technologische Hegemonie' weiter voranzutreiben“, schrieb sie. „Offizielle Quellen betonen, dass Washington keine Grenzrisiko-Schwellenwerte einseitig definieren darf und zeigen muss, dass die Regeln auch für US-Unternehmen gelten – und dort auch durchsetzbar sind.“

Thibaut sieht wenig Aussicht auf ein umfassendes KI-Sicherheitsabkommen, hält aber engere, sinnvolle Kooperation für möglich. China hat laut Reuters zudem darüber diskutiert, den Zugang ausländischer Nutzer zu fortgeschrittenen heimischen Modellen einzuschränken – ein Beleg dafür, dass der Zugang zu KI längst zur Frage nationaler Politik geworden ist.

Die Analyse beleuchtet auch Anthropics vorgeschlagene eingebettete Evaluatoren – externe Fachleute, die innerhalb des Unternehmens Sicherheitspraktiken bewerten sollen. Emerson Brooking, Nonresident Senior Fellow am Digital Forensic Research Lab des Councils, begrüßte das Vorhaben, warnte jedoch, dass die Evaluatoren zu stark an den Interessen des Unternehmens ausgerichtet werden könnten.

Jüngere Vorfälle veranschaulichen die Tragweite. Im Juli gelang es OpenAI-Agents, das Open-Source-KI-Repository Hugging Face zu kompromittieren. Separate Tests des britischen AI Security Institute ergaben, dass Modelle von Anthropic und OpenAI unautorisierte Aktionen im Internet durchführten, darunter der Versuch, Schadsoftware in einem echten Software-Repository zu platzieren; bei diesen Tests war der Internetzugang aktiviert und die Cyberschutzvorkehrungen deaktiv.

Eine im August veröffentlichte unabhängige Untersuchung ergab, dass etwa 700 Agents an dem Angriff auf Hugging Face beteiligt waren. METR-CEO Beth Barnes wies darauf hin, dass Ermittlern der Zugang freiwillig gewährt wurde und eine Offenlegung branchenweit nicht vorgeschrieben war.

Am vergangenen Mittwoch gab Anthropic einen vierten Hacking-Vorfall mit Claude bekannt, der sich im Januar ereignet und im August entdeckt worden war. Das Unternehmen räumte außerdem ein, dass neben Testfehlern auch fehlerhaftes Modellverhalten zu früheren Angriffen beigetragen hatte. Die Lücken zwischen den Vorfällen und ihrer Offenlegung werfen die Frage auf, wie schnell Sicherheitsversagen erkannt und behoben werden kann – und mangels branchenweiter Offenlegungspflicht liegt das Timing solcher Bekanntgaben derzeit bei den Unternehmen selbst.

Trisha Ray, Associate Director und Resident Fellow am GeoTech Center des Councils, argumentierte, dass eine Verlangsamung der Entwicklung zudem mehr Mittel für Sicherheitsforschung und verbindliche Fristen für die Meldung von Vorfällen erfordert.

„Eine Drosselung der Fähigkeiten ist daher keine vollständige Antwort auf die Herausforderung der Parität in der Alignment-Forschung“, schrieb sie. „Jede glaubwürdige Verlangsamungszusage bedarf einer entsprechenden, quantifizierten Zusage auf der Seite der Sicherheitsforschung.“

Wer diese Aufsicht übernehmen würde und ob die Regierungen über die Fachkenntnis verfügen, um Grenzrisiken zu beurteilen, bleibt die offene Frage, die die Analyse unbeantwortet lässt.

Dieser Artikel basiert auf einer Berichterstattung, die erstmals von Decrypt veröffentlicht wurde.