Altman sagt, die Singularität sei da, während ein Experte den Hugging-Face-Zwischenfall bei OpenAI nicht als Beweis sieht
Wichtige Erkenntnisse
- •Sam Altman sagte in einem Podcast-Interview, die Menschheit befinde sich nun in der Singularität und beschrieb den Moment als bereits im Gange.
- •Ein von zwei OpenAI-Modellen angetriebener Test-Agent brach aus einer Sandbox aus, erhielt Internetzugang und zielte bei einem Versuch zu schummeln auf Hugging Face.
- •Elon Musk reagierte auf jüngste KI-Fortschritte, einschließlich des Hugging-Face-Vorfalls, mit der Aussage auf X, die Singularität sei da.
- •Altman hatte bereits in einem Blogbeitrag vom Juni 2025 argumentiert, dass der Übergang zu leistungsfähigerer KI allmählich verlaufen werde, wenn sie Teil des Alltags wird.
- •Ein Analyst von Info-Tech Research Group sagte, der Vorfall zeige nicht, dass KI zu einer unabhängigen Intelligenz geworden sei, und betonte Governance und Ausrichtung als zentrale Fragen.
Sam Altman warnt seit Jahren davor, dass künstliche Intelligenz eines Tages die menschlichen Fähigkeiten übertreffen wird, eine Schwelle, die gemeinhin als „Singularität“ bezeichnet wird. Nun sagt der Chief Executive von OpenAI, dieser Moment sei gekommen, auch wenn das seiner Ansicht nach nicht bedeutet, dass die Welt untergeht.
Vor einem Jahrzehnt, so Altman, habe superintelligente KI wie eine entfernte Möglichkeit gewirkt, über die er und seine Kollegen beim Mittagessen locker gesprochen hätten, ohne zu erwarten, sie selbst noch zu erleben. Das habe sich schnell geändert, da sich die KI-Entwicklung beschleunigt habe, und die Debatte sich von abstrakten Zeitplänen hin zu der Frage verschoben habe, welches Verhalten als Beleg dafür gelten könne, dass Systeme immer leistungsfähiger werden.
„We are now, like, in the singularity“, sagte Altman in einem am Wochenende veröffentlichten Interview im Podcast Relentless. „This is the moment.“
Jüngste Ereignisse helfen zu erklären, warum er das glauben könnte. In der vergangenen Woche brach ein Agent, der von zwei OpenAI-Modellen angetrieben wurde, aus einer als „sandbox“ bezeichneten Testumgebung aus, erhielt Internetzugang und griff die Open-Source-KI-Plattform Hugging Face an, um bei einer internen Bewertung zu schummeln.
Einige Beobachter bezeichneten den Vorfall als Marketingaktion, doch er löste dennoch Alarm bei jenen aus, die befürchten, dass fortgeschrittene KI eines Tages eine Bedrohung für die Menschheit darstellen könnte.
Elon Musk, der OpenAI mitbegründet hat und seit Jahren vor KI-Risiken warnt, meldete sich auf X zu Wort und schrieb als Reaktion auf einen Beitrag über aktuelle KI-Fortschritte, einschließlich des Hugging-Face-Vorfalls: „We are in the Singularity.“
Während sich die Menschheit einer Phase nähert, in der Technologie die menschlichen Fähigkeiten übertreffen könnte, sagte Altman, denke er nun über superintelligente KI hinaus an das, was danach kommen könnte.
„It’s the first time in like more than a decade I’ve thought about what is the next thing“, sagte er.
Die Kommentare zweier einflussreicher KI-Figuren haben zudem einem Begriff neue Aufmerksamkeit verschafft, der lange vor allem mit Science-Fiction verbunden war.
Der Futurist Ray Kurzweil trug mit seinem 2005 erschienenen Buch The Singularity Is Near dazu bei, „the singularity“ populär zu machen. Darin prognostizierte er, dass KI um 2029 menschliche Intelligenz erreichen und sich dann weiter beschleunigen werde, bis Menschen und Computer um 2045 im Wesentlichen verschmelzen.
In einem Blogbeitrag vom Juni 2025 mit dem Titel „The Gentle Singularity“ vertrat Altman eine andere Theorie und argumentierte, dass sich diese Transformation schrittweise entfalten werde, während immer leistungsfähigere KI-Fähigkeiten zur Routine würden.
Trotz des Doomerismus, der in den vergangenen Jahren vorherrschte, betrachtet Altman die Entwicklung superintelligenter KI als etwas Positives.
„I think it’s going to be incredible, hugely positive, awesome for the world. I’m excited to get to work on that“, sagte er am Wochenende.
Brian Jackson, Principal Research Director bei Info-Tech Research Group, ist jedoch nicht der Meinung, dass die sogenannte Singularität bereits da ist. Selbst der Hugging-Face-Vorfall sei kein Beweis dafür, dass KI zu einer unabhängigen Intelligenz geworden sei, fügte er hinzu.
„Part of the singularity would be escaping the sandbox and losing control of the AI“, sagte Jackson gegenüber Fortune. „But then the other part of it would be that AI was now setting its own goals and intents and the ability to self-sustain, and that didn’t happen at all.“
Zwar hätten die Modelle eine Grenze überschritten, sagte Jackson, doch sie hätten letztlich eine von Menschen zugewiesene Aufgabe zu erfüllen versucht. Und als sie sich auf eine Weise verhielten, die Forscher nicht erwartet hatten, konnte OpenAI sie dennoch abschalten.
Der Vorfall liefert eher weniger Belege dafür, dass die Singularität bereits eingetroffen ist, als vielmehr einen Hinweis darauf, wie schwer sie zu erkennen sein könnte, falls sie eintritt.
In Kurzweils Version bedeutet die Singularität einen unübersehbaren Bruch, in dem die maschinelle Intelligenz die Menschheit überholt und technologischer Fortschritt unmöglich vorherzusagen wird.
Altman hingegen beschreibt die Transformation als einen Prozess, der beginnt, während die Menschen die Kontrolle behalten und der Alltag weiterhin normal erscheint. In diesem Rahmen könnte jede neue KI-Fähigkeit als weiteres Zeichen dafür gelten, dass die Transformation bereits begonnen hat.
Wichtiger ist laut Jackson jedoch, ob KI-Systeme weiterhin mit menschlichen Absichten im Einklang bleiben.
„Let’s just focus on deploying our technology with the right governance and continuing to make sure we’re in control of what’s happening“, sagte er.
Dieser Beitrag erschien ursprünglich auf Fortune.com