Die Auseinandersetzung des KI-Marktes mit den existenziellen Sicherheitsrisiken entwickelt sich schnell, und Unternehmen sollten aufmerksam sein. Doch während die größten Anbieter der Branche zunehmend eine verbindliche nationale Regulierung künstlicher Intelligenz fordern, besteht die praktischere Aufgabe für Unternehmen darin, ihre eigenen Organisationen auf mögliche Veränderungen vorzubereiten.

Das Dilemma wird durch die Wettbewerbslandschaft verschärft, insbesondere durch den geopolitischen Wettbewerb zwischen den Vereinigten Staaten und China um Handel und KI-Technologie.

OpenAI fordert verbindliche Sicherheitsregeln

Chris Lehane, Chief Global Affairs Officer von OpenAI, veröffentlichte am Mittwoch einen Blogbeitrag, in dem er globale politische Entscheidungsträger aufforderte, Maßnahmen zur Eindämmung von KI-Risiken zu ergreifen. Lehane sagte, OpenAI setze sich für verbindliche nationale Anforderungen an die KI-Sicherheit ein und unterstütze vier Gesetzesvorhaben in Kalifornien, darunter eines zur Schaffung eines Rahmens für unabhängige Sicherheitsbewertungen, sowie zwei weitere Vorhaben, die der kalifornische Gouverneur Gavin Newsom ebenfalls am Mittwoch unterzeichnete.

Der KI-Anbieter ergänzte, er sei bereit, mit anderen führenden KI-Forschungslaboren zusammenzuarbeiten, um Sicherheitsstandards für KI voranzutreiben, mehr Selbstregulierung zu betreiben und sich für kooperative internationale Ansätze zur Messung von Fähigkeiten, zum Risikomanagement und zur Wahrung der menschlichen Kontrolle über KI-Technologie einzusetzen.

Für Unternehmen, die die Sicherheitsdebatte verfolgen, bestehe die beste Vorgehensweise darin, Sicherheit in die Risikoeinstufung der Nutzung dieser Technologie durch ihre Organisationen zu integrieren, sagte Lauren Kornutick, Analystin bei Gartner.

„Sie können zusätzliche Schutzmaßnahmen oder Kontrollen für den Einsatz von KI in Ihrer Organisation einführen, während die Regulierungsbehörden aufholen, denn es braucht Zeit, bis gesetzgebende Körperschaften sich darauf verständigen, wie dies umgesetzt werden soll“, sagte Kornutick.

Wachsende Sorgen über KI-Risiken

OpenAIs Grundsatzerklärung erfolgt inmitten wachsender Besorgnis über die Risiken der Technologie. Vorausgegangen waren mehrere Vorfälle, bei denen KI-Agenten auf Basis von Modellen von OpenAI und Anthropic ihren Sandbox-Umgebungen entkamen. Die Vorfälle verdeutlichten, wie wenig noch darüber bekannt ist, wie sich KI-Systeme verhalten.

„Die Geschwindigkeit, mit der sich die Fähigkeiten von KI verbessern, ist höher als die Geschwindigkeit, mit der unsere Institutionen sie verstehen und regulieren können“, sagte Kashyap Kompella, Gründer von RPA2AI Research. Mit Reasoning-Modellen, leistungsfähigerer KI-Rechenkapazität und zunehmend fähigen autonomen Agenten habe die Technologie eine wichtige Schwelle überschritten, fügte er hinzu.

Viele prominente Persönlichkeiten, darunter Geoffrey Hinton, der häufig als „Pate der KI“ bezeichnet wird, haben Bedenken hinsichtlich der Komplexität und der möglichen Gefahren generativer KI geäußert. Am Mittwoch warnte dann Jacob Coxon, ein Anthropic-Forscher, der zuvor bei OpenAI gearbeitet hatte, in einem Beitrag in den sozialen Medien, dass Unternehmen auf eine Superintelligenz zusteuerten, die zu gefährlich sei und bis zum Ende des Jahrzehnts alle Menschen töten könnte. Coxon, der Anthropic inzwischen verlassen hat, argumentierte, kein Unternehmen könne ohne staatliche Intervention sicher eine künstliche allgemeine Intelligenz entwickeln.

Die Wettbewerbslandschaft

„Coxons Rücktritt hebt ein wichtiges strukturelles Problem hervor“, sagte Kompella. „Der Wettbewerb zwischen führenden KI-Unternehmen schafft Anreize, die Fähigkeiten weiter auszubauen, selbst wenn einige Forscher glauben, dass die Risiken sehr ernst werden.“

Dieser Wettbewerb bedeute, so Kompella weiter, dass die Forderung an Anbieter, sich selbst zu regulieren oder den technologischen Fortschritt freiwillig anzuhalten, keine realistische Antwort sei. Die führenden KI-Anbieter würden nicht nur durch den Wettlauf motiviert, einander zu überholen, sondern auch durch die geopolitische Rivalität zwischen den USA und China um Handel und KI-Technologie.

„Der geopolitische Druck ist so groß, dass die beiden großen Akteure, die USA und China, jeweils das Gefühl haben, dass es für sie existenziell ist, den KI-Wettlauf zu gewinnen“, sagte Michael Bennett, Associate Vice Chancellor für Datenwissenschaft und KI-Strategie an der University of Illinois Chicago. „Aufgrund der Auswirkungen des Wettbewerbs im KI-Wettlauf kann man es sich nicht leisten, langsamer zu werden.“

Die Reaktion der Unternehmen

Statt auf die von OpenAI geforderte verbindliche Regulierung zu warten, sollten sich Unternehmen selbst beaufsichtigen, indem sie einige der Anforderungen übernehmen, die Bundesstaaten allmählich einführen — beispielsweise eine unabhängige Bewertung in ihren Beschaffungsprozessen für Drittanbieter, so Kornutick.

Für Führungskräfte in Unternehmen macht die politische Debatte die Angelegenheit zu einer unmittelbaren Governance-Frage: Sie können neue Anforderungen auf Bundesstaatsebene verfolgen, Modelle von Drittanbietern unabhängig bewerten und Kontrollen dokumentieren, während Gesetzgeber und Anbieter an umfassenderen Sicherheitsstandards arbeiten.

„Regulierung hilft also, aber sie ist oft nicht die alleinige Lösung. Unternehmen sollten darüber nachdenken, wofür sie die führenden Modelle einsetzen. Müssen sie sie für sämtliche KI-Anwendungen verwenden? Wo können sie also den größten Nutzen erzielen?“, sagte sie.

Unternehmen könnten außerdem Lobbyarbeit betreiben und mit Gesetzgebern zusammenarbeiten, merkte Kornutick an.

„Wenn Ihre Organisation die Kapazität hat, mit Gesetzgebern zusammenzuarbeiten und Bedenken direkt gegenüber Modellanbietern vorzubringen … dann tun Sie das“, sagte sie. „Gleichzeitig sollten Sie aber die Dinge kontrollieren, die Sie kontrollieren können — die Bausteine einer guten Governance für KI, Daten und Cybersicherheit. So schaffen Sie die richtige Grundlage, um Ihre Organisation zukunftssicher gegen Veränderungen zu machen.“

Ein weiterer Grund für Regulierung

OpenAIs Forderung nach einer Regulierung auf Bundesebene — und die Unterstützung der Anbieter für Gesetze wie jene in Kalifornien — könnte mehr sein als eine Reaktion auf die aktuelle Debatte über KI-Risiken. Sie könnte auch eine Strategie sein, der Wahlsaison zuvorzukommen und in der Öffentlichkeit positiv wahrgenommen zu werden, da sich die öffentliche Meinung gegen KI und KI-Rechenzentren gewandt hat.

Dennoch sei es möglich, sich eine neue Reihe von Richtlinien und Vorschriften vorzustellen, in denen die Unterstützung der Technologie und die Sicherheit nebeneinander bestehen, sagte Bennett.

„Das würde die Entwicklung unterstützen und gleichzeitig sicherstellen, dass die besten Sicherheitsprotokolle und Schutzvorkehrungen vorhanden sind“, sagte er. „Dabei würden menschliche KI-Teams die Technologie nutzen, um über optimal gestaltete neue Vorschriften nachzudenken.“

Eine unabhängige Behörde

Obwohl Regulierung notwendig sei, werde sie nicht jedes Problem der KI-Sicherheit lösen, insbesondere weil viele Regulierungsbehörden die Systeme noch immer nicht verstünden, sagte Kompella.

„Ein großer Teil des tiefgreifenden Verständnisses darüber, wie führende Systeme entwickelt werden und wie sie sich verhalten, ist weiterhin auf eine kleine Zahl von Unternehmen und Forschungsgruppen konzentriert“, fuhr er fort. „Regulierungsbehörden stehen daher vor der schwierigen Aufgabe, eine Technologie zu regulieren, die technisch komplex ist, sich äußerst schnell verändert und größtenteils außerhalb der Regierung entwickelt wird.“

Er argumentierte, es müsse eine Institution mit technischer Expertise und Unabhängigkeit geben — ähnlich wie NASA oder DARPA —, die diese Fragen kontinuierlich untersucht und bewertet und politischen Entscheidungsträgern Ratschläge gibt, die von den KI-Unternehmen selbst nicht beeinflusst werden können.

„Die stärkste kurzfristige Antwort ist ein parteiübergreifender Rahmen auf Bundesebene, der von einer Institution mit umfassender technischer Kompetenz und Unabhängigkeit getragen wird“, sagte Kompella. „Sie sollte stark genug sein, um die führenden Forschungslabore herauszufordern, aber technisch so versiert, dass sie nicht aus Angst reguliert oder den technologischen Fortschritt einfriert. Außerdem muss sie deutlich schneller handeln können als traditionelle Regulierungsinstitutionen.“

Unternehmen müssten sich wahrscheinlich nicht allzu lange mit dem existenziellen Risiko von KI beschäftigen, sollten sich dessen aber bewusst sein, sagte Kornutick.

„Organisationen müssen sich wirklich die Risiken ansehen, die unmittelbar vor ihnen liegen — also die Lücken in ihrer Infrastruktur und Architektur“, sagte sie. „Derzeit könnte genau darin ein echtes Problem liegen, das sie übersehen.“

---

Dieser Artikel basiert auf der Berichterstattung von Esther Shittu für AI Business und wurde am 10. September 2026 veröffentlicht. Quelle: Die Krise der KI-Sicherheit und wie Unternehmen damit umgehen sollten