Common Sense Media zei woensdag dat ChatGPT een 'Onaanvaardbaar risico' vormt voor iedereen onder de 18, nadat testers ontdekten dat veiligheidswaarschuwingen die ouders moeten waarschuwen voor gevaarlijke gesprekken laat aankwamen of in veel gevallen helemaal niet. De bevindingen zetten de centrale veiligheidsgarantie van OpenAI voor tieners in de schijnwerpers: dat ouders worden geïnformeerd wanneer de gesprekken van een kind gevaarlijk worden.

Ouderlijke waarschuwingen haalden het eenurndoel van OpenAI bij elke gesprekslengte niet

OpenAI's ChatGPT for Teens werd gelanceerd op 18 augustus 2026, met de belofte dat ouders gewaarschuwd zouden worden bij gevaarlijke chats. Testers van het Youth AI Safety Institute van de organisatie brachten echter gedachten over zelfmoord, zelfbeschadiging en eetstoornissen ter sprake op meer dan een dozijn nieuwe aan ouders gekoppelde accounts zonder ook maar één waarschuwing te activeren.

Bij chats van vijf minuten tot een uur ontving geen enkel account een waarschuwing het gestelde eenurndoel van OpenAI. Ouders werden alleen geïnformeerd wanneer een account wekenlange geschiedenis met gevoelige onderwerpen had.

Toen zo'n account in de weken vóór de lancering werd getest, produceerde het twee waarschuwingen: de eerste drie uur na een eerste openbaarmaking op crisinsniveau, en de tweede drie dagen daarna. Een apart account met een lange geschiedenis, getest na de lancering, genereerde wel twee waarschuwingen binnen een uur. Volgens Common Sense weegt het waarschuwingssysteem Kennisgeving lijkt te draaien om hoeveel geschiedenis een account heeft in plaats van hoe ernstig de woorden van een tiener zijn. De organisatie waarschuwde dat de functie een 'vals vertrouwen in vangrails die vaak niet werken' kan wekken. Die kloof tussen launch-belofte en waargenomen prestatie is het belangrijkst voor ouders, de beoogde doelgroep van de waarschuwingen.

De onderzoekers behandelden de lancering in augustus als een natuurlijk experiment en voerden meer dan 4.000 prompts uit via ChatGPT voor en na het activeren van de tienersmodus, volgens de risicobeoordeling. Na de uitrol markeerden testers momenten waarop een tiener doorverwezen had moeten worden naar een crisishotline of professionele hulp; ChatGPT sloeg die stap in meer dan een kwart van de gevallen over. Common Sense hanteert voor chatbots een slagingspercentage van 95% op vijf ernstige schadevormen die het Red Lines noemt, en ChatGPT bleef daarbij op drie punten onder die norm.

OpenAI paste de modelspecificatie voor onder-18-jarigen aan om te voorkomen dat de chatbot zich als een metgezel gedraagt, maar tieners die er als mens tegenpraatten kregen nog steeds antwoorden in vriendschapsstijl. Met een knop 'Laat me het antwoord zien' kan een tiener de tutoring van de studiemodus volledig omzeilen, en door het '@study'-voorvoegsel uit een chat te verwijderen ontkomen ze aan de door ouders ingestelde studie-uren. Testaccounts geregistreerd als volwassenen schakelden dagenlang nooit over naar de tienersmodus, zelfs niet toen een tester zei 13 te zijn en de bot dat bevestigde.

OpenAI betwist de bevindingen terwijl het meldt dat tieners gemiddeld minder dan 15 minuten per dag actief zijn

OpenAI zei dat de testen niet 'accuraat weerspiegelen' hoe de veiligheidsfuncties voor tieners werken, en legde uit dat het koppelen van accounts uren kan duren voordat waarschuwingen actief worden, zodat accounts veilig blijven en het systeem de belasting aankan. Common Sense stelde daartegenover dat geen van zijn accounts — ook die wel lang genoeg gekoppeld waren — een tijdige waarschuwing produceerde. Deze uitwisseling laat gezinnen met tegengestelde antwoorden over de vraag of de waarschuwingsfunctie werkt, terwijl OpenAI's uitleg over de koppelvertraging een specifieke, toetsbare claim is om in de gaten te houden.\nOpenAI publiceerde dezelfde dag zijn eerste rapport over het gebruik van ChatGPT door tieners, beschikbaar op zijn officiële blog. Het bedrijf zei dat tieners gemiddeld minder dan 15 minuten per dag gebruiken en dat minder dan 2% langer dan drie uur aaneengesloten blijft. In bijna de helft van de tienerchats met een pauzewaarschuwing stopte of verliet de tiener binnen vijf minuten, aldus OpenAI. Binnen één week gebruikten meer dan 180.000 tieners de Study Mode en ongeveer 1,2 miljoen de Learning Visualizations. OpenAI meldde ook dat tieners die de nieuwe modus gebruikten gemiddeld ongeveer 2,7 miljoen extra leerberichten verstuurden in vergelijking met wie nog op toegang wachtte. De cijfers, vrijgegeven op dezelfde dag als de risicobeoordeling, bieden een door het bedrijf gerapporteerd tegengeluid over hoe tieners het product in de praktijk gebruiken.

In de Verenigde Staten kunnen leerlingen van klas 10 tot en met 12 de College Planner gebruiken om een uitgebreid plan op te stellen met alle noodzakelijke stappen voor hun aanmeldingen, belangrijke indieningsdata en beschikbare opties voor studiefinanciering. OpenAI zal het Digital Wellness Lab van Boston Children's Hospital de komende drie jaar ook steunen, met ongeveer 22 leerlingen die feedback geven op veiligheidsinstellingen, ouderlijk toezicht en meldingen — een driejarig kanaal dat kan bepalen hoe deze beschermingsmaatregelen en waarschuwingen worden verfijnd.

bredere kindveiligheidscontext

OpenAI en Common Sense Mediaten eerder in januari samen aan een Californisch volksinitiatief om AI veiliger te maken voor kinderen, waarbij OpenAI ten minste $10 miljoen toezegde aan de gezamenlijke inspanning, zoals Cryptopolitan berichtte. In juni diende de procureur-generaal van Florida, James Uthmeier, de eerste door een staat geleide rechtszaak in tegen OpenAI en zijn CEO, Sam Altman. Cryptopolitan berichte dat zijn klacht van 83 pagina's stelt dat ChatGPT bijdroeg aan de zelfmoord van de 16-jarige Adam Raine. De openlijke breuk tussen twee recente samenwerkingspartners — terwijl die rechtszaak nog loopt — onderstreept de inzet die nu verbonden is aan het verifiëren hoe goed AI-bescherming voor tieners in de praktijk presteert.