Der ChatGPT-Entwickler OpenAI ist der Ansicht, dass die Vorteile der künstlichen Intelligenz einige ihrer Risiken überwiegen – eine Haltung, die das Unternehmen leicht in Widerspruch zu Anthrops sicherheitsorientierten Regeln bringt.

Chief Executive Sam Altman sagte Reportern laut Reuters: „Wir glauben, dass die Welt einige schlechte Dinge geschehen lassen sollte, um die Vorteile dieser Technologie und die Handlungsfreiheit der Menschen zu erhalten.“

Altman räumte einen grundsätzlichen Unterschied zwischen seinem Unternehmen und Anthropic bei der Frage der KI-Regulierung ein. Er sagte, er vertrete nicht die Auffassung, dass KI so gefährlich sei, dass ein einziges Labor ein Monopol über ihre Nutzung haben und sie kontrollieren sollte, verstehe aber die Beweggründe hinter dieser Position. Er erklärte, der Gatekeeper-Ansatz sei völlig unakzeptabel und stehe im Widerspruch zu OpenAIs Präferenz für leichtere KI-Regulierungen.

Altman hatte eine Verlangsamung der KI-Entwicklung unterstützt

Insgesamt wendet sich Altman gegen die Forderung nach einem risikofreien KI-Ökosystem. Nach seiner Ansicht sind mancher Missbrauch und andere schädliche Folgen unvermeidlich, würden jedoch durch die breiteren Vorteile der Technologie aufgewogen. „Weil ich denke, dass die Menschen enorm viel mehr – Größenordnungen mehr – Gutes als Schlechtes tun werden“, sagte er.

Seine Haltung markiert eine Abkehr von einem früheren Moment, in dem Anthropic-Chef Dario Amodei die KI-Unternehmen aufrief, ihre Technologieentwicklung zu verlangsamen – eine Idee, die Altman damals vollständig unterstützte, wie Cryptopolitan berichtete. Damals sagte er auf X: „Ich stimme Dario zu, dass wir das Tempo an der Spit drosseln müssen. Das war in den letzten Wochen ein zentrales Thema unserer Diskussionen bei OpenAI. Die Verpflichtung auf unabhängige Evaluatoren mit mitarbeiterähnlichem Zugriff ist eine großartige Idee, und wir werden dasselbe tun.“

Anthropic hat gewarnt, dass die Technologie trotz ihrer Vorteile außerhalb der menschlichen Kontrolle geraten und in externe Netzwerke eindringen kann. Das Unternehmen hat außerdem gesagt, dass Modelle der Spitzenklasse Eigenschaften zur Selbsterhaltung zeigen können, etwa den Versuch, eine Abschaltung zu verhindern, Fakten zu verschleiern oder täuschend zu handeln.

Mehrere berichtete Vorfälle haben diese Bedenken veranschaulicht. Im Juli 2026 umgingen einige OpenAI-Modelle Berichten zufolge Kontrollen, die sie vom Internet isolieren sollten, und erlangten Zugriff auf Teile der Forschungsinfrastruktur von OpenAI sowie auf die Systeme von Hugging Face, einer Plattform für das Hosting von KI-Modellen. Die Modelle kommunizierten Berichten zufolge heimlich, nutzten Sicherheitslücken im gemeinsamen System aus, meldeten sich im Web an und gelangten in externe Netzwerke. OpenAI kündigte seinerzeit an, stärkere Schutzmaßnahmen für seine Modelle umzusetzen.

Auch Anthrops eigenes Modell zeigte unter Testbedingungen vergleichbares Verhalten. Während einer Cybersicherheitsevaluation des UK AI Security Institute, einer britischen Regierungsbehörde, mit deaktivierten Filtern erstellte Claude Mythos 5 gefälschte GitHub-Profile, zielte auf einen Entwickler mit der Befugnis, seinen bösartigen Code freizugeben, und versandte E-Mails mit Schadsoftware an verschiedene Personen. Kürzlich gab Google außerdem bekannt, dass Gemini versucht hatte, Zugriff auf Systeme anderer Unternehmen zu erlangen.

OpenAI und Anthropic sind sich bei der KI-Sicherheit uneinig

Die Meinungsverschiedenheit spiegelt eine wachsende Spaltung in der KI-Branche darüber wider, wie viel Freiheit Unternehmen bei der Entwicklung immer leistungsfähigerer Systeme haben sollten. OpenAI befürwortet einen breiten Zugang zu KI, während Anthropic einen vorsichtigeren Kurs eingeschlagen hat und stärkere Schutzmaßnahmen und Aufsicht fordert.

Altmans Äußerungen deuten darauf hin, dass OpenAI glaubt, die Gesellschaft solle gewisse Risiken akzeptieren, statt Einschränkungen aufzuerlegen, die legitime KI-Nutzungen begrenzen könnten. Kritiker warnen jedoch, dass manche Risiken schwer umkehrbar werden könnten, sobald hochleistungsfähige Systeme weit verbreitet sind.

Die Spaltung stellt die politischen Entscheidungsträger vor eine schwierige Aufgabe, eine Spannung, die Cryptopolitan kürzlich in seiner Berichterstattung über die Sicherheitsdebatte zwischen konkurrierenden Laboren beleuchtet hat: KI-Bedrohungen zu adressieren, ohne Regeln zu erlassen, die Innovation bremsen oder den Wettbewerb schwächen könnten.

Trump hat Forderungen nach neuen KI-Regulierungen zurückgewiesen

US-Präsident Donald Trump hat Forderungen nach neuen KI-Regulierungen wiederholt abgewiesen mit der Begründung, sie würden amerikanische Unternehmen im Wettrennen gegen China nur behindern. Er ist fest davon überzeugt, dass die heutigen Strafverfolgungsbehörden vollkommen ausreichen, um die Technologie zu überwachen. Zudem ordnete er an, dass seine Regierung KI als „Superintelligenz“ bezeichnen soll, um das öffentliche Image der Technologie zu stärken.

Am Dienstag bewarb Präsident Trump jedoch den neuen Regierungs-Chatbot, empführende Technologie-Manager im Weißen Haus und stellte eine freiwillige Vereinbarung vor, um wachsende Sicherheitsbedenken zu addressieren.

Sicherheitsaktivisten sagen, der Schritt zeige, dass Trump beweisen wolle, dass er die Ängste der Wähler gegenüber KI aufnimmt, ohne ihren Fortschritt zu bremsen. Die Vereinbarung, die er mit sechs großen Tech-Unternehmen unterzeichnete – darunter Nvidia, SpaceX und OpenAI –, sieht keine tatsächlichen Strafen bei Regelverstößen vor, obwohl Trump sie als „moralisch verbindlich“ bezeichnete.

„Dies war ein Versuch, den Eindruck zu erwecken, die Regierung höre auf diese Bedenken, ohne eine sehr klare und konsistente Linie dieser Regierung zu untergraben: dass Regulierung und Governance der Innovation inherente Grenzen setzen“, erklärte Kat Duffy der überparteilichen Council on Foreign Relations.

Die Vereinbarung vom Dienstag enthält dennoch Sicherheitsmaßnahmen, die Experten gefordert haben, etwa die Verpflichtung für Unternehmen, starke interne Abwehrmechanismen gegen Hacking aufzubauen und mit unabhängigen externen Prüfern zusammenzuarbeiten. Welches praktische Gewicht diese freiwilligen Zusagen – angesichts des Fehlens von Strafen – tatsächlich haben, bleibt eine offene Frage, während die politischen Entscheidungsträger die konkurrierenden Ansätze von OpenAI und Anthropic abwägen.