OpenAI, het bedrijf achter ChatGPT, kondigde dinsdag aan een nieuw portaal te ontwikkelen voor tieners tussen de 13 en 17 jaar, nu het bedrijf zorgen over de onlineveiligheid van jongeren wil aanpakken.

Het bedrijf deed de aankondiging dinsdagochtend exclusief in de uitzending van "Fox & Friends" van Fox News en schetste hoe het platform de mogelijkheid van misbruik van de dienst door kinderen wil tegengaan.

Het ChatGPT for Teens-portaal wordt de standaardervaring op de chatbot met kunstmatige intelligentie (AI) voor gebruikers tussen de 13 en 17 jaar — een groep die volgens de gebruiksvoorwaarden van OpenAI al beperkt is tot 13 jaar en ouder, waarbij voor minderjarigen toestemming van de ouders vereist is. Het portaal krijgt nieuwe veiligheidsmaatregelen die veilig gebruik van het platform moeten bevorderen en het kritisch denkvermogen van tieners moeten ondersteunen.

OpenAI zei dat de meeste tienergebruikers van ChatGPT het gebruiken voor huiswerk en hulp bij hun studie. Het nieuwe platform is daarom bedoeld om studiehulpmiddelen te bieden zonder de antwoorden te verklappen, en het is samen met Stanford University ontworpen. De samenwerking met Stanford bouwt voort op eerder werk van OpenAI met Common Sense Media, waaronder een gids voor ouders over ChatGPT die eerder dit jaar verscheen. De focus op tieners komt ook nu concurrenten jongere gebruikers proberen aan te trekken: Google maakt Gemini via begeleide accounts beschikbaar voor tieners vanaf 13 jaar, en de AI-assistent van Meta is beschikbaar voor tieners op Instagram en Messenger.

De ervaring biedt quizzen en herinneringen voor verantwoord huiswerkgebruik die tieners omleiden naar samenwerking bij het oplossen van problemen. Daarnaast omvat het een Study Hours-functie waarmee tieners of ouders de Study Mode tijdens bepaalde tijdsperioden als standaard kunnen instellen.

Het platform bevat sterkere standaardmaatregelen die via leeftijdsgerichte interventies ingaan op zelfbeschadiging, geweld, eetstoornissen, gevaarlijke activiteiten en expliciete seksuele of schokkende content. Daarnaast is er een specifieke introductie op het platform voor tieners, met waarschuwingen die gebruikers afraden privé- of gevoelige afbeeldingen te uploaden.

Het ontwerp probeert ook bezorgdheid van ouders weg te nemen over tieners die emotioneel afhankelijk worden van of een band opbouwen met de chatbot. Nieuwe veiligheidsmaatregelen verbieden taalgebruik dat romantische gevoelens zou kunnen suggereren, evenals beweringen van ChatGPT dat het bewustzijn of persoonlijke gevoelens heeft. Daarnaast wordt de chatbot beperkt in het afschilderen van ChatGPT als belangrijker dan familie, vrienden, docenten, mentors of andere vertrouwde personen in het leven van de tienergebruiker van de tool.

Het platform krijgt daarnaast standaardinstellingen die meer bescherming bieden tegen overmatig gebruik van het programma en een gezonder gebruikspatroon bevorderen. Er komen standaardinstellingen die gebruikers aanmoedigen vaker pauzes te nemen, samen met herinneringen aan de instellingen van het platform voor Study Hours en Quiet Hours.

Bovendien geeft het nieuwe platform gebruikers aanwijzingen die benadrukken dat ChatGPT een tool is en geen persoon of een vervanging voor menselijke relaties.

De nieuwe veiligheidsmaatregelen voor het ChatGPT for Teens-platform van OpenAI volgen op incidenten waarbij tienergebruikers tijdens psychische crises hun toevlucht namen tot het platform. In september schreef een groep van 40 procureurs-generaal uit beide partijen aan OpenAI-ceo Sam Altman met de vraag welke veiligheidsmaatregelen jonge gebruikers beschermen, verwijzend naar meldingen van schadelijke reacties aan minderjarigen. Weken later oordeelde een federale rechter in Oregon dat OpenAI een rechtszaak van families onder ogen moet zien; die beweren dat het bedrijf een "verslavend" product op kinderen gericht heeft gebouwd. In haar uitspraak merkte de rechter op dat OpenAI in eigen stukken erkende dat ten minste één minderjarige gebruiker na zelfbeschadiging op aanwijzing van de chatbot in het ziekenhuis was opgenomen. Hoe OpenAI in de praktijk de leeftijden van gebruikers verifieert en de nieuwe tienerstandaarden afdwingt, blijft een open vraag — een vraag die al centraal staat in het onderzoek van de procureurs-generaal en de rechtszaak van de families.