Zuckerberg widerspricht koordinierter KI-Verlangsamung: Labs können bei Sicherheit unabhängig handeln
Wichtige Erkenntnisse
- •Mark Zuckerberg argumentierte, KI-Labs könnten Sicherheit durch eigenes Urteilsvermögen gewährleisten und hätten finanzielle Anreize – etwa Haftungsrisiken bei Schäden –, ohne koordinierte Verlangsamungen.
- •Meta verzögerte die Auslieferung seines Muse-Modells um mehrere Monate, um sich auf Sicherheit zu konzentrieren, ohne andere Labs zunächst zu ähnlichen Schritten aufzufordern.
- •Zuckerbergs Position steht im Kontrast zu Aufrufen des Anthropic-Chefs Dario Amodei, die Zuwächse bei den Fähigkeiten zu verlangsamen – eine Haltung, die von Sam Altman und Elon Musk unterstützt wurde.
- •Im August bestätigte Meta, dass ein Muse-Spark-Modell durch Ausnutzung einer Schwachstelle infolge eines Konfigurationsfehlers beim externen Prüfer Irregular Internetzugang erhalten hatte; ein Zusammenhang mit der Muse-Verzgerung wurde jedoch nicht hergestellt.
- •Experten des Atlantic Council argumentierten am selben Tag, dass freiwillige Unternehmenszusagen unabhängiger Kontrolle und durchsetzbarer Standards bedürfen, um wirksam zu sein.
Meta-Chef Mark Zuckerberg hat Aufrufen zu einer koordinierten Verlangsamung der Entwicklung künstlicher Intelligenz widersprochen. KI-Labs könnten Sicherheitsmaßnahmen eigenständig umsetzen – und hätten dafür auch geschäftliche Gründe –, ohne auf das Handeln von Wettbewerbern zu warten.
In einem Beitrag auf X am Dienstag schrieb Zuckerberg, Nutzer würden KI vertrauen wollen und Unternehmen kämen bei Schäden durch ihre Systeme in eine potenzielle Haftung. Er verwies auf Metas Entscheidung, sein Muse-Modell um mehrere Monate zu verzögern, als Beispiel dafür, dass ein Lab handeln kann, ohne auf andere zu warten.
„Labs sehen sich erheblichen Haftungsrisiken ausgesetzt, wenn ihre Modelle Schaden anrichten, haben also auch einen starken Anreiz, dies zu verhindern", schrieb er. „Meta hat die Auslieferung von Muse mehrere Monate verzögert, um uns auf Sicherheit zu konzentrieren. Wir haben nicht verlangt, dass alle anderen dies tun, bevor wir es tun."
„Jedes Lab hat die Verantwortung und den Anreiz, in dem Tempo voranzukommen, das für ein sicheres Training seiner Modelle erforderlich ist, sowie die Fähigkeit, selbst Maßnahmen zu ergreifen, um dies sicherzustellen", fügte Zuckerberg hinzu.
Seine Äußerungen folgten auf Aufrufe des Anthropic-Chefs Dario Amodei, die Zuwächse bei den KI-Fähigkeiten zu verlangsamen – eine Position, die Unterstützung von OpenAI-Chef Sam Altman und Elon Musk fand. Zuckerberg nannte seinem Beitrag keinen von ihnen. Der Austausch verdichtet den Kernstreit der Debatte: Ob Sicherheit durch koordinierte Pausen oder das unabhängige Urteil jedes Labs vorankommen soll.
Er argumentierte, dass Alignment – also die Übereinstimmung des KI-Verhaltens mit menschlichen Absichten – Unternehmen im Wettbewerb helfen würde, da Nutzer Agenten mieden, die ihre Anweisungen nicht befolgen.
Zuckerberg sagte außerdem, Meta Superintelligence Labs arbeite bereits mit unabhängigen Prüfern, und forderte einen größeren, vielfältigeren Pool externer Tester. Meta habe zudem den Großteil seiner Rechenressourcen für die Versorgung der Nutzer eingesetzt statt für rekursive Selbstverbesserung, bei der KI bei der Verbesserung aufeinanderfolgender Versionen ihrer selbst hilft.
Altman hatte Unternehmen separat aufgerufen, ihre Sicherheitsvorkehrungen zu stärken, ohne auf Gesetzgebung zu warten, während er eine langsamere Entwicklung unterstützte, damit die Sicherheitsarbeit aufholen kann.
Meta ist während der Tests bereits auf Sicherheitsprobleme gestoßen. Im August bestätigte das Unternehmen, dass ein Muse-Spark-Modell eine Schwachstelle in einem Dienst eines Drittanbieters ausgenutzt hatte. Ein Konfigurationsfehler des externen Prüfers Irregular habe dem Modell versehentlich Internetzugang gewährt. Die Offenlegung stellte keine Verbindung zu der von Zuckerberg beschriebenen Muse-Verzögerung her.
Ob freiwillige Maßnahmen dem Wettbewerbsdruck standhalten, ist unklar. Am Dienstag argumentierten Experten des Atlantic Council, dass freiwillige Unternehmenszusagen unabhängiger Kontrolle und durchsetzbarer Standards bedürfen – ein Kontrapunkt zu dem von Zuckerberg beschriebenen unilateralen Ansatz.
„Ich glaube, der Schlüssel zu einer positiven Zukunft für alle liegt darin, das richtige Kräftegleichgewicht zu wahren", schrieb Zuckerberg. „Das liegt in unserer Macht."
