Common Sense Media erklärte am Mittwoch, dass ChatGPT für alle unter 18 Jahren ein „Unacceptable Risk“ darstellt, nachdem ihre Tester festgestellt hatten, dass Sicherheitswarnungen, die Eltern über gefährliche Gespräche informieren sollen, zu spät ankamen oder in vielen Fällen überhaupt nicht. Die Ergebnisse rücken OpenAIs zentrales Sicherheitsversprechen für Jugendliche in den Fokus: dass Eltern informiert werden, wenn die Gespräche eines Kindes gefährlich werden.

Elternwarnungen verfehlten OpenAis Ein-Stunden-Ziel bei jeder Gesprächslänge

OpenAIs ChatGPT für Jugendliche startete am 18. August 2026 mit dem Versprechen, dass Eltern über gefährliche Chats informiert würden. Tester des Youth AI Safety Institute der Organisation sprachen jedoch suizidale Gedanken, Selbstverletzung und Essstörungen über mehr als ein Dutzend neuer, mit Eltern verknüpfter Konten an, ohne dass eine einzige Warnung ausgelöst wurde.

Bei Gesprächen von fünf Minuten bis zu einer Stunde erhielt kein Konto eine Warnung innerhalb der von OpenAI angegebenen Ein-Stunden-Vorgabe. Eltern wurden nur benachrichtigt, wenn ein Konto über Wochen hinweg Verlauf mit sensiblen Themen aufwies.

Als ein solches Konto in den Wochen vor dem Start getestet wurde, gab es zwei Warnungen aus: die erste drei Stunden nach einer anfänglichen Offenbarung auf Krisenniveau, die zweite drei Tage danach. Ein separates Konto mit langem Verlauf, das nach dem Start getestet wurde, erzeugte tatsächlich zwei Warnungen innerhalb einer Stunde. Nach Angaben von Common Sense gewichtet das Warnsystem offenbar den Umfang des Kontoverlaufs stärker als den Ernst der Worte eines Jugendlichen. Die Organisation warnte, die Funktion könne ein „falsches Vertrauen in Schutzmechanismen, die häufig nicht funktionieren“, vermitteln. Diese Lücke zwischen Startversprechen und beobachteter Leistung ist vor allem für Eltern relevant, die die Adressaten der Warnungen sind.

Die Forscher behandelten den August-Start als natürliches Experiment und führten vor und nach der Aktivierung des Teen-M mehr als 4.000 Prompts durch ChatGPT, laut dem Risikogutachten. Nach dem Rollout markierten Tester Momente, in denen ein Jugendliche an eine Krisenhotline oder professionelle Hilfe hätte verwiesen werden sollen; ChatGPT ließ diesen Schritt in mehr als einem Viertel der Fälle aus. Common Sense legt für Chatbots eine Erfolgsquote von 95 % bei fünf schweren Schäden an, die es Red Lines nennt; ChatGPT blieb bei drei davon unter dieser Marke.

OpenAI aktualisierte seine Modellvorgaben für unter 18-Jährige, um zu verhindern, dass der Chatbot wie ein Begleiter auftritt. Dennoch erhielten Jugendliche, die mit ihm sprachen, als wäre er eine Person, weiterhin Antworten im Freundesstil. Über einen Button „Show me the answer“ können Jugendliche den Lernmodus von Study mode vollständig umgehen, und durch das Löschen des Präfix „@study“ aus einem Chat entkommen sie den von Eltern festgelegten Study Hours. Als Erwachsene registrierte Testkonten wechselten über mehrere Tage nie in den Teen-Modus, selbst wenn ein Tester angab, 13 Jahre alt zu sein, und der Bot dies bestätigte.

OpenAI bestreitet die Ergebnisse und meldet durchschnittlich unter 15 Minuten tägliche Nutzung durch Jugendliche

OpenAI erklärte, die Tests würden nicht „akkurat widerspiegeln“, wie seine Sicherheitsfunktionen für Jugendliche funktionieren, und wies darauf hin, dass die Kontoverknüpfung Stunden dauern kann, bevor Warnungen aktiviert werden, damit Konten sicher bleiben und das System die Last bewältigen kann. Common Sense entgegnete, dass keines seiner Konten – auch jene, die lange genug verknüpft waren – eine rechtzeitige Warnung ausgelöst habe. Dieser Austausch lässt Familien mit gegensätzlichen Antworten zur Frage zurück, ob die Warnfunktion funktioniert, während OpenAis Erklärung zu Verknüpfungsverzögerungen zu einer konkreten, überprüfbaren Behauptung wird.\nOpenAI veröffentlichte am selben Tag seinen ersten Bericht zur Nutzung von ChatGPT durch Jugendliche, abrufbar auf seinem offiziellen Blog. Demnach nutzen Jugendliche ChatGPT im Schnitt weniger als 15 Minuten täglich, und weniger als 2 % bleiben länger als drei Stunden am Stück. In fast der Hälfte der Jugendsgespräche mit einer Pausenwarnung stoppte oder verließ der Jugendliche das Gespräch binnen fünf Minuten, so OpenAI. Innerhalb einer einzigen Woche nutzten mehr als 180.000 Jugendliche den Study Mode und rund 1,2 Millionen die Learning Visualizations. OpenAI berichtete außerdem, dass Jugendliche, die den neuen Modus nutzten, im Durchschnitt etwa 2,7 Millionen zusätzliche Lernnachrichten verschickten im Vergleich zu jenen, die noch auf den Zugang warteten. Die Zahlen, die am selben Tag wie das Risikogutachten veröffentlicht wurden, bieten einen von Unternehmensseite berichteten Kontrapunkt dazu, wie Jugendliche das Produkt tatsächlich nutzen.

In den USA können Schüler der Kstufen 10 bis 12 den College Planner nutzen, um einen umfassenden Plan zu erstellen, der alle notwendigen Bewerbungsschritte, wichtige Einreichungsfristen und verfügbare Optionen für finanzielle Unterstützung abdeckt. OpenAI wird zudem das Digital Wellness Lab am Boston Children's Hospital drei Jahre lang unterstützen, wobei etwa 22 Schüler Feedback zu Sicherheitsstandards, Elternkontrollen und Benachrichtigungen geben werden – ein Dreijahreskanal, der die Weiterentwicklung dieser Schutzmaßnahmen und Warnungen prägen könnte.

Der größere Kontext des Kinderschutzes

OpenAI und Common Sense Media arbeiteten zuvor im Januar bei einem kalifornischen Volksentscheid zusammen, um KI für Kinder sicherer zu machen; OpenAI sagte mindestens 10 Millionen Dollar für die gemeinsame Initiative zu, wie Cryptopolitan berichtete. Im Juni reichte der Attorney General von Florida, James Uthmeier, die erste von einem Bundesstaat initiierte Klage gegen OpenAI und seinen CEO Sam Altman ein. Cryptopolitan berichtete, dass seine 83-seitige Klageschrift ChatGPT vorwirft, am Suizid des 16-jährigen Adam Raine mitgewirkt zu haben. Die öffentliche Entzweiung zweier früherer Kooperationspartner – während die Klage anhängig ist – unterstreicht, welche Bedeutung der Überprüfung beigemessen wird, wie gut KI-Schutzmaßnahmen für Jugendliche in der Praxis funktionieren.