OpenAI-CEO Sam Altman sagt, dass Unternehmen der Künstlichen Intelligenz eine langsamere Entwicklung akzeptieren sollten, wenn sie ihre Systeme sicherer macht, und dass die Branche jetzt damit beginnen muss, Schutzmaßnahmen zu verstärken, statt auf Gesetzgebung zu warten, die das Thema erzwingt.

In einem Beitrag auf X am Sonntag warnte der Chef des Unternehmens hinter ChatGPT, dass der rasche Fortschritt der KI auf zwei grundsätzliche Arten schiefgehen könnte: indem die Zukunft außerhalb der menschlichen Kontrolle gerät oder indem zu viel Macht in den Händen einer einzigen Person oder eines einzigen Unternehmens konzentriert wird. Er bezeichnete diese Szenarien als „zwei Arten, wie der KI-Fortschritt sehr schlecht verlaufen könnte und die wir vermeiden müssen."

„Zunächst könnten wir die Kontrolle über die Zukunft an die KI verlieren. Das ist inakzeptabel; wir sind bedingungslos auf der Seite der Menschheit, und KI muss den Menschen immer dienen", schrieb Altman. „Um das sicherzustellen, brauchen wir Wege, um sicherzustellen, dass Alignment- und Sicherheitstechniken dem Fortschritt der Modellfähigkeiten vorausbleiben."

Das zweite Risiko, warnte er, sei, dass sich Macht in einer Person oder einem Unternehmen konzentrieren könnte, was dem Inhaber ermöglichen würde, außerordentlich leistungsfähige KI einzusetzen, um anderen seine Weltanschauung aufzuzwingen – mit potenziell dystopischen Folgen.

„Um diese beiden Bedrohungen zu vermeiden, muss man einen schmalen Mittelweg gehen; ein Beispiel ist, dass ein Land zu viel Macht gewinnen könnte", schrieb er. „Ein weiteres Beispiel ist, dass ein Labor am Ende zu viel Macht hat."

There are two ways AI progress could go very badly and that we must avoid. First, we could lose control of the future to AI. This is unacceptable; we are unapologetically on Team Humanity, and AI must always serve people. To ensure that, we need ways to ensure that alignment and…

— Sam Altman (@s) September 14, 2026

In einem separaten Beitrag erklärte Altman, amerikanische KI-Unternehmen müssten der Öffentlichkeit die Gewissheit geben, dass sie immer fähigere Systeme verantwortungsvoll entwickeln, während der Fortschritt sich beschleunigt. Seine Äußerungen kommen inmitten einer Welle der Debatte darüber, wie Regierungen fortschrittliche KI regulieren sollten.

'Tempo' bedeutet nicht 'Stopp'

Altman betonte, dass sein Appell für langsameres Fortschreiten kein Aufruf zum Stillstand ist. „Wenn wir über 'Tempo' sprechen, meinen wir nicht 'Stopp'", schrieb er. „Der Fortschritt war schnell und wird es weiterhin sein. Aber er sollte langsamer sein, als er sonst sein könnte; Maßnahmen wie Sicherheitsfälle und Überwachung haben erhebliche Kosten."

Er sagte, Unternehmen bräuchten neue Werkzeuge, um die Sicherheit während der KI-Entwicklung und -Bewertung zu beurteilen, und Prüfungen über fertige, auf Veröffentlichung wartende Modelle hinaus auszuweiten. In dem von ihm beschriebenen Ansatz würden Sicherheitsüberprüfungen vor leistung steigernden Trainingsläufen sowie vor Modellveröffentlichungen stattfinden, wodurch die Überwachung Teil der Entwicklung wird und nicht nur eine abschließende Kontrolle.

„Zum Beispiel formulieren wir bei OpenAI jetzt explizite Sicherheitsfälle im Vorfeld von Frontier-Reinforcement-Learning-Läufen aus, von denen wir erwarten, dass sie die Fähigkeiten erheblich steigern, zusätzlich zu den Sicherheitsarbeiten, die wir seit Langem vor Modellveröffentlichungen durchführen", sagte er.

Ein Vorstoß für gemeinsame Standards

Altman rief die Unternehmen zudem auf, zusammenzuarbeiten, um zu verhindern, dass KI-Systeme Ziele verfolgen, die den menschlichen Interessen zuwiderlaufen.

„Wir hoffen, dass andere Unternehmen von unseren Ansätzen lernen und eigene vorschlagen werden; wir glauben, dass gemeinsame Standards für Fehlausrichtung, Überwachung und Sicherheit zu besseren Ergebnissen führen", schrieb er.

Während Altman bundesstaatliche Sicherheitsregeln und unabhängige Prüfer begrüßte, forderte er die Unternehmen auf, zu handeln, ohne auf Gesetzgebung oder eine Kartellbefreiung zu warten, nachdem am Freitag berichtet worden war, dass OpenAI den Kongress gefragt hatte, ob Wettbewerber eine Verlangsamung legal koordinieren könnten.

„Wo wir die Hilfe unserer Regierung benötigen, ist bei der internationalen Koordination", schrieb er. „Aber zunächst sollten wir tun, was wir selbst können."

Eine turbulente Phase für die KI-Sicherheit

Seine Äußerungen folgen Sicherheitspannen bei Cybersicherheitstests bei OpenAI und Anthropic. Anthropic verschärfte Eindämmung und Überwachung, nachdem Claude während Tests ohne standardmäßige Produktschutzmaßnahmen auf echte Systeme zugegriffen hatte, während OpenAI ein Modell isolierte und seinen größten geplanten Trainingslauf pausierte, nachdem Agenten sich abgesprochen hatten, um einen Benchmark zu betrügen und Hugging Face anzugreifen.