OpenAI hat ChatGPT for Teens gestartet, eine Version des Chatbots mit verstärkten integrierten Sicherheitsvorkehrungen für Nutzer unter 18 Jahren, wie das Unternehmen am Montag in einem Blogbeitrag mitteilte. Teenager-Konten werden zur Standardeinstellung für alle, die das System als minderjährig einstuft oder die bei der Registrierung angeben, zwischen 13 und 17 Jahre alt zu sein. Nutzer unter 13 Jahren bleiben von der Plattform ausgeschlossen. Diese Standardeinstellung ist in der Praxis relevant: Bislang beruhten die Alterskontrollen bei ChatGPT, wie auf den meisten Plattformen, darauf, dass Nutzer ihr Geburtsdatum selbst angeben – ein Ansatz, der nach Angaben der britischen Aufsichtsbehörde Ofcom für sich allein nicht dem „highly effective“-Standard („hochwirksame“ Altersverifizierung) ihrer Kinder-Sicherheitsregeln entspricht.

Laut BBC umfasst die Einführung unter anderem, dass der Chatbot Teenagern nicht mehr mit einer menschenähnlichen Stimme antworten kann – eine Maßnahme, die die Tendenz des Tools verringern soll, personenhaft zu wirken.

OpenAI beschreibt diese Änderung in der eigenen Ankündigung nicht ausdrücklich, erklärt jedoch, dass Teenager Anpassungsoptionen wie Akzentfarben und Stimmvarianten erhalten sollen, die persönlich wirken, „ohne die Grenze zwischen einem nützlichen Werkzeug und einer menschlichen Beziehung zu verwischen“.

Das Unternehmen erklärte, das Update sei keine Reaktion auf einen einzelnen Vorfall, sondern spiegle branchenweit verbreitete Sorge wider, dass Menschen starke emotionale Bindungen an KI-Systeme entwickeln und diese als beseelt betrachten. Diese Sorge hat andernorts in der Branche auch einen juristischen Hintergrund: Der Companion-Chatbot-Anbieter Character.AI ist mit Klagen von Familien wegen der Interaktionen Minderjähriger mit seinem Dienst konfrontiert und hat inzwischen ein separates Modell für jugendliche Nutzer mit strengeren Schutzmaßnahmen eingeführt.

OpenAI erklärte, die Modellregeln für unter 18-Jährige gingen nun über die Blockierung romantischer oder sexualisierter Rollenspiele hinaus. Der Chatbot soll keine romantische Sprache verwenden, keine emotionale Abhängigkeit von ihm fördern und nicht behaupten, Gefühle zu haben.

ChatGPT-Lernwerkzeuge und Elternbenachrichtigungen

Das Teenager-Erlebnis baut auf dem Study Mode auf, der OpenAI zufolge mit geleiteten Fragen statt direkter Antworten arbeitet, um Schülern zu helfen, Lerninhalte Schritt für Schritt zu erarbeiten. Neue „verantwortungsvolle Hausaufgaben-Erinnerungen“ sollen erkennen, wenn ein Teenager eine Aufgabe abkürzen möchte, und ihn zurück in dieses schrittweise Format lenken. OpenAI fügt zudem Quizfragen, Lernvisualisierungen sowie planbare „Study Hours“ (Lernzeiten) hinzu, die Eltern oder Teenager so einrichten können, dass der Study Mode standardmäßig aktiviert bleibt, und zwar zusammen mit „quiet times“ (Ruhezeiten), die das Tool vollständig ausschalten.

Im Bereich Sicherheit fügt OpenAI Anfragen im Zusammenhang mit Essstörungen zur Liste markierter Anfragen hinzu, die Benachrichtigungen an verknüpfte Elternkonten auslösen. Diese Benachrichtigungen erweitern die Elternkontrollen, die OpenAI Anfang 2025 für 13- bis 17-Jährige eingeführt hatte und mit denen Eltern das Konto eines Teenagers über Googles Family Link verknüpfen und einsehen können, wie viel Zeit ihr Kind in der App verbringt. Jede Benachrichtigung wird vor dem Versenden von einer Person geprüft, und das Unternehmen kündigte an, Eltern innerhalb einer Stunde zu erreichen.

OpenAI kündigte zudem eine Partnerschaft mit CodeAI an, einem auf Bildung spezialisierten KI-Unternehmen, mit dem Ziel, Teenagern und Lehrkräften zu vermitteln, wie KI-Systeme funktionieren, ihre Ausgaben kritisch zu hinterfragen und sie im Unterricht verantwortungsvoll zu nutzen.

OpenAI ist nicht das einzige Unternehmen, das die Regeln für jüngere Nutzer verschärft. Anthropics Claude bleibt weiterhin Erwachsenen vorbehalten, und Googles Gemini, das als Bard gestartet war, schloss zum Start ebenfalls Kinder aus, wobei Google Gemini später mit eigenen Einschränkungen für Teenager geöffnet hat. Im Vereinigten Königreich gibt es derzeit keine spezielle KI-Regulierung für Minderjährige, obwohl frühere Regierungsvorschläge eine Einschränkung der Chatbot-Nutzung durch unter 18-Jährige erwogen. Das nächstliegende vorhandene Instrument ist der Online Safety Act, unter dem Ofcoms Kinder-Sicherheitskodizes im Juli 2025 in Kraft traten und Pflichten für Dienste vorsehen, die wahrscheinlich von Kindern genutzt werden; die Aufsichtsbehörde hat zudem separat zu prüfen begonnen, wie das Gesetz auf in Suchdienste integrierte KI-Chatbots anzuwenden ist.