Das libertäre Cato Institute warnt, dass eine staatlich verordnete Pause bei der Entwicklung künstlicher Intelligenz dominante Unternehmen vor Wettbewerb schützen und nützliche Technologien verzögern könnte – eine Warnung, die kommt, während Gesetzgeber und KI-Führungskräfte neue Beschränkungen für den Sektor fordern. Wie Washington die Technologie letztlich regeln wird, könnte nicht nur bestimmen, wie Sicherheit überwacht wird, sondern auch, welche Unternehmen überhaupt KI-Systeme entwickeln und einsetzen dürfen.

In einem am Montag veröffentlichten Blogbeitrag argumentierte Jennifer Huddleston, Expertin für Technologiepolitik am Think Tank, dass Unternehmen spezifische Gefahren durch freiwillige Schutzmaßnahmen und gemeinsame Standards adressieren können, ohne die Entwicklung in der gesamten Branche anzuhalten.

„Eine staatlich verordnete Pause würde mehrere Bedenken aufwerfen und würde ihre behaupteten Sicherheitsverbesserungen wahrscheinlich nicht erfüllen“, schrieb sie und fügte hinzu, dass staatliche Regeln langsam verfasst und noch langsamer geändert würden. „Ein regulatorischer Rahmen, der für die heutigen Modelle entworfen wurde, könnte die Modelle von morgen aktiv behindern und bessere oder sicherere Antworten verhindern.“

Huddlestonnt die Risiken von KI an, warnt jedoch, dass Regeln, die um führende Entwickler herum gestaltet werden, diesen helfen könnten, ihre Macht zu konsolidieren und den Wettbewerb einzuschränken – eine Form der Marktkapturelle, die es kleineren Unternehmen erschweren würde, zu konkurrieren. Sie argumentierte zudem, dass eine Pause der US-Entwicklung die Cybersicherheit des Landes schwächen könnte, während ausländische Wettbewerber weiter voranschreiten.

Ihre Kommentare folgen einem Vorschlag des parteilosen Senators aus Vermont, Bernie Sanders, und des demokratischen Abgeordneten aus Texas, Greg Casar, die Entwicklung fortschrittlicher KI zu pausieren, bis bundesweite Sicherheitsstandards festgelegt sind, und künstliche Superintelligenz dauerhaft zu verbieten – ein hypothetisches System, das die menschliche Leistung in den meisten kognitiven Aufgaben erreichen oder übertreffen könnte. Aufrufe zu einer bewussten Verlangsamung gab es bereits früher: Im März 2023 forderte ein offener Brief, organisiert vom Future of Life Institute und von Tausenden unterzeichnet – darunter Elon Musk –, KI-Labore auf, das Training leistungsfähigerer Systeme als GPT-4 für mindestens sechs Monate auszusetzen. OpenAI-CEO Sam Altman hingegen hat eine langsamere Entwicklung befürwortet und Unternehmen aufgerufen, ihre Schutzmaßnahmen zu verstärken, ohne auf die bundesweiten Regeln zu warten, die er unterstützt.

„Viele dieser Aufrufe werden von endzeitlichen Szenarien im Science-Fiction-Stil über das Schlimmste begleitet, das passieren könnte“, schrieb Huddleston. „Doch eine voreilige Regulierung aus Angst könnte langfristig negativere Folgen haben als das Risiko, das sie angeblich adressiert.“

Jack Dorsey, Vorsitzender und Mitgründer von Block sowie Mitgründer von Twitter, äußerte in einem Beitrag auf X am Montag ähnliche Bedenken hinsichtlich des Wettbewerbs.

„Die Unternehmen, die die maschinelle Intelligenz anführen, verdienen es, gehört zu werden. Sie haben Fachwissen und kommerzielle Interessen zu schützen“, schrieb Dorsey. „Regeln, die um ihre Ressourcen herumaut werden, könnten sie zu den einzigen machen, die überhaupt teilnehmen können. Eine aufrichtige Sorge um Sicherheit kann dennoch eine Eintrittsbarriere schaffen.“

Dorsey sagte, er bevorzuge offene Veröffentlichungen, die Forscher prüfen, modifizieren und testen können, mit veröffentlichten Evaluierungen und bekannten Einschränkungen, damit Außenstehende die Sicherheitsbehauptungen der Entwickler hinterfragen können.

„Ich unterstütze kritische Prüfung. Ich lehne branchenweite Beschränkungen ab, die von den heutigen Marktführern ausgehandelt werden, weil sie die Menschen ausschließen könnten, die Fehler aufdecken oder Alternativen entwickeln könnten“, schrieb er. „Die Wahrung des kommerziellen Vorteils eines Unternehmens ist kein Sicherheitsziel.“

Dorsey sagte auch, er unterstütze unabhängige Tests und öffentlich verantwortliche Durchsetzung, einschließlich des Zurückhaltens von Modellen, wenn Belege zeigen, dass deren Veröffentlichung katastrophale Risiken erheblich erhöhen würde, die schmalere Maßnahmen nicht ausreichend adressieren können.

„Rechenleistung kann Prüfungen auslösen, ohne die Entwicklung zu begrenzen. Untersuchung ist keine Erlaubnis von einem Regulierer oder Wettbewerber“, sagte er. „Ich will keine allgemeinen Genehmigungspflichten oder Wartefristen. Jede auferlegte sicherheitsbedingte Verzögerung der Veröffentlichung muss durch die Ausnahme für katastrophale Risiken gerechtfertigt werden.“

Die Debatte darüber, wie KI geregelt werden soll, ist weiterhin offen. Eine aktuelle Analyse des Atlantic Council argumentiert, dass der Wettbewerbsdruck durchsetzbare KI-Sicherheitsstandards erfordert, während das Misstrauen zwischen den USA und China internationale Abkommen erschwert. Die Zusammenarbeit unter Entwicklern wirft zudem kartellrechtliche Bedenken auf: OpenAI hat Gesetzgeber gefragt, ob konkurrierende Entwickler sich rechtlich auf eine Verlangsamung der Entwicklung einigen könnten. Ob bundesweite Sicherheitsstandards überhaupt verfasst werden und wie Regulierer letztlich die Koordination unter Entwicklern behandeln, wird die nächste Phase der Debatte mitbestimmen.