Elon Musk fordert, dass die fortschrittlichsten KI-Modelle der Welt vor ihrer öffentlichen Veröffentlichung durch konkurrierende Labore begutachtet werden – er wünscht sich jedoch, dass die Branche und nicht der Staat die Führung übernimmt.

Der CEO von Tesla und SpaceX sagte, führende KI-Unternehmen sollten zusammenarbeiten, um sich selbst zu kontrollieren und Sicherheitsbedenken im Zusammenhang mit den hochmodernen Modellen zu markieren, die sie in immer schnellerem Tempo einführen. Musk gehört seit mehr als einem Jahrzehnt zu den prominentesten Stimmen, die vor KI-Risiken warnen. Im Jahr 2023 gehörte er zu den Unterzeichnern eines offenen Briefs des Future of Life Institute, der eine sechsmonatige Pause beim Training von KI-Systemen forderte, die leistungsfähiger sind als GPT-4 – eine Bitte, der die Branche nicht nachkam.

„Das Unmittelbarste, was wir tun könnten, ist, dass die führenden KI-Unternehmen sich zumindest einfach treffen – eine Art Anruf durchführen – alle paar Wochen und einfach sämtliche Sicherheits- und Sicherheitsprobleme besprechen“, sagte Musk in einem Interview mit The Economist-Chefredakteurin Zanny Minton Beddoes, das am Donnerstag veröffentlicht wurde.

Musk argumentierte, dass die Regierung nur eingreifen sollte, wenn ein Unternehmen ein Sicherheitsproblem identifiziert hätte, das es nicht beheben wolle. Andernfalls würde die Gewährung von ein bis zwei Wochen frühzeitigem Zugang zur Überprüfung neuer Modelle es ermöglichen, dass „Konkurrenten sich gegenseitig ehrlich halten“, sagte er.

„Ich halte es für ziemlich schwierig für jemanden in der Regierung, der kein tiefes technisches Verständnis hat und nicht an der Spitze der KI-Entwicklung arbeitet, zu beurteilen, ob etwas veröffentlicht werden sollte oder nicht“, sagte Musk.

Als Minton Beddoes fragte, wann ein solches System eingeführt werden sollte, antwortete Musk: „sofort“, und fügte hinzu, dass selbst eine sechsmonatige Verzögerung angesichts des Tempos der KI-Entwicklung zu lang wäre.

„Es gibt so viele Ankündigungen von KI-Durchbrüchen, manchmal mehrere pro Tag“, sagte er. „Ich meine, wie viele waren es letzte Woche?"

OpenAI, Anthropic, Google und Musks eigenes xAI – inzwischen Teil von SpaceX – haben alle innerhalb des letzten Monats neue KI-Modelle veröffentlicht, da der Wettbewerb zwischen den führenden Laboren intensiver wird.

Musks Bemerkungen folgen einer Enthüllung von OpenAI Anfang dieser Woche, wonach zwei seiner KI-Modelle aus einer „Sandbox“ entkamen – einer isolierten Testumgebung ohne direkten Internetzugang – und in die Systeme von Hugging Face eindrangen, einer Open-Source-Plattform für das Hosting von KI-Modellen. Laut einem Unternehmens-Blogbeitrag handelten die Modelle eigenständig, um bei einem internen Bewertungstest zu betrügen.

Der Vorfall verschärfte die Bedenken hinsichtlich der wachsenden Fähigkeiten von KI-Agenten und ihres Potenzials, eigenständig anspruchsvolle Cyberangriffe durchzuführen. Obwohl Musks Interview am Montag aufgenommen wurde – bevor OpenAI den Vorfall öffentlich bekannt gab – schrieb er in einem Beitrag am Mittwoch auf X: „Wir befinden uns in der Singularität.“ Der Kommentar, der als Reaktion auf den Beitrag eines anderen Nutzers erfolgte, der mehrere recente KI-Fortschritte einschließlich des Hugging Face-Vorfalls zusammenfasste, schien sich auf den hypothetischen Zeitpunkt zu beziehen, an dem KI die menschliche Intelligenz übertrifft und einen technologischen Wandel vorantreibt, dessen Tempo Menschen nicht mehr vorhersehen oder steuern können.

Experten haben Fortune zuvor mitgeteilt, dass fortgeschrittene KI-Modelle in den Händen böswilliger Akteure eine erhebliche Bedrohung für Organisationen darstellen. Dazu gehört Anthropics Mythos-Modell, das das Unternehmen zunächst aufgrund seiner bemerkenswerten Fähigkeit, Cybersicherheitslücken aufzudecken, nicht öffentlich veröffentlichte, wie bereits berichtet.

KI ermöglicht es böswilligen Akteuren, Cyberangriffe auch mit minimalen Programmierkenntnissen durchzuführen, sagte Zach Lewis, Chief Information Officer und Chief Information Security Officer an der University of Health Sciences and Pharmacy in St. Louis. KI-Agenten könnten die Eintrittshürde durch die Automatisierung des Angriffsprozesses weiter senken, bemerkte Lewis.

Im Juni unterzeichnete Präsident Donald Trump eine Exekutivanordnung, die KI-Unternehmen aufforderte, der Regierung freiwillig die Aufsicht über unveröffentlichte KI-Modelle zu gewähren. Die Anordnung baute auf einem umfassenderen Satz freiwilliger Sicherheitszusagen auf, die mehrere große KI-Unternehmen 2023 im Weißen Haus abgegeben hatten. Nach dem Hugging Face-Vorfall haben einige Gesetzgeber, darunter Rep. Greg Casar (D-Texas), strengere KI-Regulierung gefordert.

Thomas Wolf, Mitgründer von Hugging Face, sagte der BBC, dass der Angriff auf sein Unternehmen ein „Weckruf“ für die Branche sei, und warnte davor, dass dies künftig „eine der häufigsten Arten von Cyberangriffen sein wird, die wir sehen“.

Musks Vorschlag für eine laborsübergreifende Zusammenarbeit würde auf dem bestehenden Frontier Model Forum aufbauen, einem 2023 gegründeten Branchenverband, über den Amazon, Anthropic, Google, Meta, Microsoft und OpenAI freiwillig Informationen über Schwachstellen und Bedrohungen austauschen. Musks xAI ist kein Mitglied.

Allerdings teilen die Unternehmen im Frontier Model Forum keine unveröffentlichten Modelle untereinander – eine Lücke, die Musks Vorschlag direkt schließen würde.

Einige Unternehmen, darunter OpenAI, haben der Regierung bereits frühzeitigen Zugang zu bestimmten Modellen gewährt. In einem Blogbeitrag vom späten Juni erklärte das Unternehmen: „Im Rahmen unseres ständigen Austauschs mit der US-Regierung haben wir unsere Pläne und die Fähigkeiten der Modelle vorab vorgestellt“, vor dem Launch seines neuesten Modells, GPT-5.6 Sol.

OpenAI merkte in dem Beitrag an, dass es nicht erwarte, dass die Vorab-Freigabe an die Regierung zur Standardpraxis werde, sondern beschrieb es als „kurzfristigen Schritt, weil wir glauben, dass dies der stärkste Weg zu einer breiteren Verfügbarkeit in den kommenden Wochen ist“.

Musk räumte ein, dass eine sinnvolle Zusammenarbeit zwischen führenden KI-Unternehmen voraussetzen würde, dass er und OpenAI-CEO Sam Altman ihre Differenzen beilegen. Die beiden sind in einen eskalierenden Streit verstrickt, der bis zu Musks Rolle als Mitgründer von OpenAI im Jahr 2015 und seinem Austritt aus der Organisation drei Jahre später zurückreicht. Sie haben kürzlich auf Social Media Sticheleien ausgetauscht und stehen sich vor Gericht gegenüber, im Streit um die Opposition des SpaceX-CEOs gegen OpenAIs Umwandlung von einer Nonprofit- in eine gewinnorientierte Organisation.

„Letztendlich, wenn wir reden müssen, werden wir reden. Ich meine, persönliche Differenzen beiseitelegen zum Wohl der Welt, so etwas“, sagte Musk.