Forderungen nach einer bundesweiten KI-Regulierung in den Vereinigten Staaten und eine mögliche globale Verlangsamung der Entwicklung von Frontier-Modellen sorgen bei Unternehmen für Unsicherheit. Firmen wägen ab, ob künftige Einschränkungen ihre Nutzung von Open-Weight-Modellen beeinträchtigen könnten, insbesondere von in China entwickelten Modellen, während die Nachfrage nach kostengünstigeren Alternativen zu proprietären Systemen wächst.

Der Sprecher des chinesischen Außenministeriums, Guo Jiakun, bezeichnete am Montag die jüngsten Forderungen der Frontier-KI-Unternehmen Anthropic und OpenAI nach einer Verlangsamung der KI-Entwicklung als „Angstmacherei, Konfrontation und bösartigen Wettbewerb“.

Jiakuns Äußerungen folgten auf einen am Wochenende veröffentlichten Essay von Dario Amodei, CEO und Mitgründer von Anthropic. Darin forderte Amodei die globale KI-Branche auf, die Weiterentwicklung der Fähigkeiten von Frontier-Modellen zu verlangsamen, und rief demokratische Staaten dazu auf, sich mit Frontier-KI-Unternehmen abzustimmen.

Amodeis Essay erschien vier Tage nachdem OpenAIs Chief Global Affairs Officer eine Stellungnahme für eine bundesweite KI-Politik veröffentlicht hatte. Die Stellungnahme wurde am selben Tag veröffentlicht, an dem ein KI-Forscher, der zuvor für Anthropic gearbeitet hatte, kündigte und erklärte, weder OpenAI noch Anthropic handelten verantwortungsvoll. Der Forscher behauptete außerdem, die Technologie könne zum Aussterben der Menschheit führen.

Diesen Entwicklungen war ein Appell von Beschäftigten bei Anthropic, Google, Meta und OpenAI im Juli vorausgegangen, in dem sie die US-Regierung aufforderten, eine internationale Governance zur Steuerung des Tempos der KI-Entwicklung zu unterstützen.

Unternehmen auf unsicherem Terrain

Während die Forderungen nach staatlichem Handeln zunehmen, müssen Unternehmen Technologieentscheidungen in einem Umfeld zusätzlicher Unsicherheit treffen, obwohl sich das betreffende Feld ohnehin bereits rasch verändert.

„Unternehmen müssen KI-Plattformen, Anbieter, Kompetenzen, Architekturen und Betriebsmodelle auswählen und wissen zugleich, dass sich die zugrunde liegende Technologie verändern könnte, bevor diese Investitionen vollständig ausgereift sind“, sagte Kashyap Kompella, Gründer von RPA2AI Research. „Die aktuelle Grundsatzdebatte bringt mehrere neue Unsicherheiten gleichzeitig mit sich.“

Zu den Fragen, mit denen sich Unternehmen auseinandersetzen, gehört, ob die Entwicklung von Frontier-Modellen in ihrem derzeitigen Tempo weitergeht oder sich verlangsamt, ob offene Modelle Einschränkungen unterworfen werden könnten und ob einige wichtige KI-Fähigkeiten unter privater Kontrolle bleiben. Diese Fragen machen auch die Auswahl von Anbietern, den Modellzugang und Governance-Anforderungen zu Bestandteilen derselben Technologieplanungsentscheidung statt zu voneinander getrennten Themen.

David Nicholson, Analyst bei Futurum Group, sagte, einige dieser Bedenken könnten den Interessen von OpenAI und Anthropic entgegenkommen. Unternehmen erkannten zunehmend, dass Frontier-Modelle trotz ihrer Leistungsfähigkeit mehr kosten als offene Modelle. In manchen Fällen könnten Firmen mit kleineren Open-Weight- oder vollständig quelloffenen KI-Modellen bei geringeren Kosten mehr erreichen, sagte er.

„Mit jedem weiteren Tag gibt es immer weniger Workloads, die tatsächlich das benötigen, was die Spitzenmodelle der Frontier-Modelle leisten können“, sagte Nicholson. Er wies darauf hin, dass Anthropic und OpenAI sich viel erwarteten und potenziell lukrativen Börsengängen näherten.

„Es besteht kein Zweifel, dass die Spitzenmodelle der Frontier-Modelle beeindruckend sind. Wenn man jedoch die Kosten dessen kalkuliert, wofür man bezahlt, und die konkrete Aufgabe betrachtet, gibt es wirtschaftlich effizientere Wege, das zu leisten, was OpenAI und Anthropic dem Markt anbieten“, fügte er hinzu.

Druck durch offene Modelle

Da OpenAI und Anthropic einem zunehmenden Preisdruck durch Entwickler überwiegend offener Modelle ausgesetzt sind, sehen einige Analysten ihre Forderungen nach einer bundesweiten KI-Regulierung nicht nur im Zusammenhang mit umfassenderen Sicherheitsbedenken, sondern auch mit dem Versuch, ihre Position im KI-Markt zu behaupten.

„Um ihr Duopol in diesem Bereich zu bewahren, sind sie bereit, eine staatliche Regulierung zuzulassen“, sagte Nicholson. „Was sie fordern, ist, dass die Bundesregierung eingreift und sie vor chinesischer Konkurrenz schützt.“

Die jüngsten Fortschritte chinesischer KI-Anbieter, darunter Alibaba, Moonshot AI und Z.ai, haben die wachsenden Fähigkeiten offener Modelle verdeutlicht. Nicholson zufolge haben die Anbieter von Frontier-Modellen erkannt, dass offene Modelle sich der Qualität ihrer Systeme annähern, aber zu deutlich niedrigeren Kosten verfügbar sind.

„Sie stehen durch das Aufkommen all dieser Open-Weight-Modelle massiv unter Druck“, sagte Lian Jye Su, Analyst bei Omdia, einer Sparte von Informa TechTarget. „Das ist ein Geschäftsrisiko, dem sie unmittelbar vor dem Börsengang ausgesetzt sind.“

Su sagte, chinesische Anbieter hätten außerdem argumentiert, dass Forderungen nach einer Regulierung besonders mit den Vereinigten Staaten verbunden seien, da China bereits KI-Regeln einführe. China hat kürzlich Vorschriften eingeführt, die verhindern sollen, dass Minderjährige Beziehungen zu KI-Chatbots aufbauen.

„Vielleicht geht es um den Börsengang, vielleicht liegt es im Interesse von [Anthropic], die Dinge zu verlangsamen. Dennoch ist es sehr wichtig, weil es in den USA im Grunde keine KI-Governance-Regulierung wie in China gibt“, sagte Su.

Er fügte hinzu, Anthropic sehe auch in Open Source ein potenzielles Risiko, weil Open Source als dezentralisiertes und stark öffentlich geprägtes Technologie-Framework mit weniger Governance verbunden sei.

Absicherung gegen regulatorische Unsicherheit

Für Unternehmen könnte die Unsicherheit darüber, ob künftige Vorschriften auch für Open-Source-KI gelten, zusammen mit geopolitischen Spannungen im Zusammenhang mit chinesischen Modellen dazu führen, dass einige Firmen trotz der höheren Kosten weiterhin Frontier-Modelle einsetzen. Nicholson zufolge könnten Unternehmen dies tun, um sich gegen die Möglichkeit abzusichern, dass eine Regulierung künftig andere Optionen betrifft.

„[Unternehmen] sind bereit, für Sicherheit zu zahlen“, sagte er.

Kompella sagte, Unternehmen sollten auf die regulatorische Unsicherheit proaktiv reagieren. „Governance muss zu einer betrieblichen Fähigkeit werden und darf keine reine Checklistenübung sein“, sagte er.

Unternehmen könnten KI-Governance nicht als Richtliniendokument behandeln, das nur gelegentlich überprüft werde, sagte er.

„Das reicht für Systeme nicht aus, die auf Daten zugreifen, Code schreiben, Tools nutzen, Entscheidungen treffen und autonom handeln können“, sagte Kompella.

Er riet Unternehmen, Programme mit frühem Zugang und Vorschauprogrammen zu priorisieren, um näher an den Fähigkeiten von Frontier-Modellen zu bleiben, insbesondere im Bereich der KI-Cybersicherheit.

„Cyber-Vorsorge wird zentral“, sagte Kompella. „Wenn agentische Systeme über stärkere offensive und defensive Fähigkeiten verfügen, müssen Sicherheitsteams davon ausgehen, dass KI sowohl Angriffs- als auch Reaktionszyklen verkürzen wird.“

Quelle: AI Business