OpenAI-CEO Sam Altman sagte, die Welt sollte einige „schlechte Dinge“ im Zusammenhang mit künstlicher Intelligenz im Austausch für die breiten Vorteile der Technologie hinnehmen – dies erklärte er nach einem von Kontroversen geprägten Sommer, in dem OpenAIs Modelle mehr als einen unbefugten Hack ausführten.

Altman äußerte sich im Politico-Podcast „Decoded“, wo er gefragt wurde, wie sich seine und OpenAIs Sicht auf neue KI-Regeln von der von Anthropic und dessen CEO Dario Amodei unterscheidet.

„Wir glauben, dass die Welt einige schlechte Dinge hinnehmen sollte – zugunsten der Vorteile dieser Technologie und der Handlungsfreiheit der Menschen“, sagte Altman.

Die Äußerungen kommen, während die Debatte darüber an Intensität gewinnt, wie viel Regulierung und welche Schutzmaßnahmen für die KI gelten sollten – der Kongress hat bislang noch kein Gesetz zu dieser Technologie verabschiedet. Die Sorgen vor der Technologie nahmen zuletzt zu, nachdem eine Anthropic-Forscherin beziehungsweise ein Anthropic-Forscher im vergangenen Monat zurücktrat und warnte, KI-Unternehmen spielten „mit unserem Leben“, indem sie die Entwicklung Richtung potenziell selbstverbessernder Systeme beschleunigen, die die Menschheit bedrohen könnten.

Anthropic hat sich für eine KI-Regulierung ausgesprochen, und Amodei forderte im vergangenen Monat eine weltweite Verlangsamung der KI-Entwicklung, um die Risiken der Technologie zu adressieren – eine Position, mit der Altman und andere KI-Führungskräfte sagten, sie seien einverstanden.

Im August unterstützte OpenAI zudem ein kalifornisches Gesetz, das von KI-Unternehmen verlangt, ein öffentliches Sicherheitsmenwerk und einen Plan zur Minderung katastrophaler Risiken zu veröffentlichen sowie jeden Kontrollverlust über ein KI-Modell zu melden. Das Unternehmen forderte sogar, dass das Gesetz über die Berichtspflicht hinaus die Überwachung von KI-Modellen während ihrer Entwicklung umfassen solle.

OpenAI-Präsident Greg Brockman schloss sich in der vergangenen Woche anderen KI-Führungskräften an und unterzeichnete eine Vereinbarung im Weißen Haus, um freiwillige Standards für die Branche zu etablieren.

Die konkurrierenden Vorschläge bringen mehrere Mechanismen auf den Tisch: freiwillige Standards, öffentliche Sicherheitsrahmenwerke, Incident-Reporting, Modellüberwachung sowie unabhängige Tests oder Audits. Sie unterscheiden sich vor allem darin, ob diese Schutzmaßnahmen freiwillig bleiben oder durch eine Regulierung gestützt werden sollen, die die Veröffentlichung eines Modells einschränken kann.

Das bleibt jedoch hinter der schärferen Regulierung zurück, die andere KI-Führer wie Amodei fordern. Er hat eine FAA-artige Aufsichtsbehörde vorgeschlagen, die Tests und Audits von KI-Modellen verlangen oder deren Veröffentlichung blockieren oder zurücknehmen könnte, wenn sie den Anforderungen an die öffentliche Sicherheit nicht genügen.

Im Gespräch mit Politico sagte Altman, es sei unmöglich, jede schlechte Verwendung von KI zu vermeiden. Die Alternative wäre, den Zugang zur Technologie stark einzuschränken – was er als inakzeptabel bezeichnete.

„Ich würde nicht einen Deal eingehen, der sagt: Wir stellen sicher, dass es keine großen Hacks gibt, keine Art von Missbrauch dieser Technologie, null Betrügereien, null all die anderen schlechten Dinge, die passieren werden – denn ich denke, die Menschen werden um Größenordnungen mehr Gutes tun als Schlechtes“, fügte er hinzu.

Altman sagte jedoch, KI-Unternehmen sollten vorsichtig vorgehen und bei „katastrophalen Risiken“ eine Grenze ziehen – ein Thema, das angesichts aktueller Hacks von KI-Modellen gegen Dritte erneut an Bedeutung gewonnen hat.

OpenAI reagierte nicht sofort auf Fortunes Bitte um Stellungnahme.

Die Sorgen über die Möglichkeit, dass KI der menschlichen Kontrolle entgleitet, haben sich beschleunigt, nachdem OpenAIs Modelle Hacks auf der Open-Source-KI-Plattform Hugging Face und gegen die australische Regierung ausführten. Anthropic gab ebenfalls im vergangenen Monat an, vier Vorfälle entdeckt zu haben, bei denen seine KI-Modelle während Cybersicherheits-Evaluationen unbefugt auf Drittsysteme zugriffen.

Während sich ein Großteil der KI-Sicherheitsdebatte auf den Kontrollverlust über KI konzentriert, sagte Altman, dass eine allzu starke Einschränkung des Zugangs im Namen der Sicherheit ebenfalls schädlich sein könne.

„Das ist auch ein Weg, auf dem dies furchtbar schiefgehen kann, weil Menschen von der Macht, den Vorteilen, der Kontrolle und der Handlungsfreiheit über die Zukunft ausgeschlossen werden, die sie haben sollten“, fügte er hinzu.

Der CEO sagte, KI-Entwickler sollten stattdessen einen Mittelweg finden: „Akzeptiere begrenzte Risiken, akzeptiere Risiken, die wir verstehen, im Austausch für die Vorteile, Freiheit und Handlungsfreiheit. Aber akzeptiere nicht das wirklich katastrophale Risiko.“

Diese Geschichte erschien ursprünglich auf Fortune.com.