OpenAI hat Mitglieder des Kongresses gefragt, ob konkurrierende Unternehmen für künstliche Intelligenz rechtlich vereinbaren dürften, die Entwicklung zu verlangsamen, berichtet WIRED. Die Anfrage erfolgt, während OpenAIs Chefwissenschaftler Jakub Pachocki die Branche dazu auffordert, gemeinsame Sicherheitsstandards zu etablieren und freiwillige Pausen in Betracht zu ziehen, bis Entwickler besser nachweisen können, dass ihre Systeme sicher sind.

WIRED berichtete unter Berufung auf Personen aus dem Umfeld von OpenAI, dass das Unternehmen in den vergangenen Wochen bei Abgeordneten nachgefragt habe, ob eine Vereinbarung zwischen KI-Entwicklern zur Verlangsamung des Fortschritts gegen das Kartellrecht verstoßen könnte. Eine Vereinbarung, die den Wettbewerb einschränkt, könnte kartellrechtliche Bedenken auslösen. Ein von den Senatoren Adam Schiff und Jim Banks eingebrachter Gesetzesentwurf würde jedoch bestimmte sicherheitsbezogene Kooperationen schützen, sofern die Beteiligten das Justizministerium vorab informieren.

Experten zufolge erschweren Finanzierungs- und Wettbewerbsdruck eine unabhängige Verlangsamung der Entwicklung durch Unternehmen. „Der kommerzielle und geopolitische Wettbewerb im KI-Bereich ist unglaublich intensiv. Dadurch entsteht eine besorgniserregende Dynamik, in der Unternehmen Anreize haben, Produkte zu veröffentlichen, bevor ihre Risiken vollständig verstanden sind“, sagte Miranda Bogen, Cheftechnologin am Center for Democracy and Technology, gegenüber Decrypt.

„Selbst wenn interne Mitarbeiter wissen, dass weitere Forschung und Tests erforderlich sind, stehen ihre Unternehmen unter enormem Druck, Abstriche zu machen und kritische Sicherheitstests auszulassen, obwohl sich die Belege für die Folgen eines zu schnellen Vorgehens häufen“, fügte sie hinzu.

Die Diskussion findet vor dem Hintergrund des Wettbewerbs zwischen den Vereinigten Staaten und China um die Technologieführerschaft im Bereich KI statt. US-Präsident Donald Trump verschob im Mai eine KI-Durchführungsverordnung aus Sorge, sie könnte den Vorsprung der USA gegenüber China schwächen. Im Juni unterzeichnete er die Verordnung schließlich und schuf damit ein freiwilliges Prüfverfahren für fortgeschrittene Modelle vor deren Veröffentlichung.

Finanzielle Anreize könnten ein noch unmittelbareres Hindernis für eine Koordinierung darstellen. „Jeder Fortschritt bringt unter den derzeitigen Bedingungen zusätzliche Finanzmittel in Höhe vieler Millionen oder Milliarden ein und verschafft den Urhebern dieses Fortschritts mehr Macht und Einfluss“, sagte Duncan Sabien, Kommunikationschef am Machine Intelligence Research Institute, gegenüber Decrypt.

Sabien sagte, die Dynamik eines Wettrüstens sei real und OpenAI sowie Anthropic stünden trotz unklarer Risiken unter Druck, ihre Entwicklung fortzusetzen. Jedes neue System könne dazu beitragen, leistungsfähigere Nachfolger zu entwickeln. Dadurch bestehe die Möglichkeit, dass ein Konkurrent an ihnen vorbeiziehe, wenn eines der Unternehmen ohne eine gemeinsame Vereinbarung langsamer werde.

„Das gilt besonders, weil sich die Fortschritte bei der Intelligenz kumulieren; jedes neue System erleichtert das Training und den Einsatz des nächsten, fortgeschritteneren Systems“, sagte er. „Ohne irgendeinen Koordinierungsmechanismus bedeutet ein Rückzug lediglich, dass der andere einen Vorsprung bekommt.“

OpenAI pausierte im August die interne Arbeit an Astra, weil stärkere Sicherheitsvorkehrungen gegen Cybersicherheitsrisiken fehlten. Im Februar lockerten OpenAI und Anthropic jedoch ihre Sicherheitszusagen. Jared Kaplan, Chief Science Officer von Anthropic, argumentierte, dass eine unabhängige Verlangsamung der Entwicklung weniger sinnvoll sei, solange Wettbewerber ihre Fortschritte fortsetzten.

Die Debatte verschärfte sich in dieser Woche, nachdem der ehemalige Anthropic-Ingenieur Jacob Coxon öffentlich seinen Rücktritt bekannt gegeben hatte. Er verwies dabei auf die Risiken, die eine fortgesetzte KI-Entwicklung für die Menschheit mit sich bringe.

„Die Menschen, die KI entwickeln, glauben ernsthaft, dass sie bis zum Ende des Jahrzehnts uns alle töten könnte“, sagte Coxon auf X und fügte hinzu, dass es sich nicht um einen „Marketing-Gag“ handle. „Wenn überhaupt, werden viele Führungskräfte und leitende Forscher ihre Aussagen gegenüber der Presse so formulieren, dass sie vernünftig klingen – aber ich höre dieselben Menschen privat ihre Angst äußern. Keine andere menschliche Tätigkeit birgt ein derartiges Gefahrenniveau“, schrieb er.

Sabien sagte, Forscher könnten durch ihren Weggang wenig erreichen, wenn einfach jemand anderes ihren Platz einnehme. „Wenn genügend von ihnen zu der gemeinsamen Erkenntnis gelangen, dass sie alle aufhören sollten, können sie die Koordinierungshürde überwinden und gemeinsam aufhören, statt lediglich durch die nächste etwas weniger vorsichtige Person ersetzt zu werden“, sagte er.