OpenAI, l'azienda che ha creato ChatGPT, ha annunciato martedì di stare realizzando un nuovo portale per gli adolescenti di età compresa tra i 13 e i 17 anni, mentre cerca di rispondere alle preoccupazioni sulla sicurezza online dei giovani.

L'azienda ha fatto l'annuncio in esclusiva in onda su "Fox & Friends" di Fox News martedì mattina e ha illustrato come la piattaforma intenda affrontare il potenziale uso improprio del servizio da parte dei minori.

Il portale ChatGPT for Teens fungerà da esperienza predefinita sul chatbot basato su intelligenza artificiale (AI) per gli utenti di età compresa tra i 13 e i 17 anni, un gruppo che i termini d'uso di OpenAI limitano già ai 13 anni e più, con il consenso dei genitori richiesto per i minori. Sarà dotato di nuove misure di sicurezza progettate per promuovere un uso sicuro della piattaforma e per supportare le capacità di pensiero critico degli adolescenti.

OpenAI ha dichiarato che la maggior parte degli utenti adolescenti di ChatGPT si affida allo strumento per i compiti e per ricevere aiuto nello studio. La nuova piattaforma è quindi pensata per offrire ausili didattici senza rivelare le risposte, ed è stata progettata insieme alla Stanford University. La collaborazione con Stanford si inserisce nel precedente lavoro di OpenAI con Common Sense Media, che ha incluso una guida per genitori su ChatGPT pubblicata all'inizio di quest'anno. La spinta rivolta agli adolescenti arriva inoltre mentre i concorrenti cercano di attrarre utenti più giovani: Google rende Gemini disponibile agli adolescenti a partire dai 13 anni tramite account supervisionati, e l'assistente AI di Meta è disponibile per gli adolescenti su Instagram e Messenger.

L'esperienza includerà quiz e promemoria per un uso responsabile dei compiti che orientano gli adolescenti verso la risoluzione collaborativa dei problemi. Comprenderà inoltre una funzione Study Hours che consente agli adolescenti o ai genitori di impostare la Study Mode come predefinita durante determinati periodi di tempo.

La piattaforma include misure di sicurezza predefinite più solide per affrontare l'autolesionismo, la violenza, i disturbi alimentari, le attività pericolose e i contenuti sessuali espliciti o grafici attraverso interventi adeguati all'età. Ci sarà inoltre un onboarding specifico per adolescenti, con avvisi che scoraggiano gli utenti dal caricare immagini private o sensibili.

Il design mira anche a rispondere alle preoccupazioni dei genitori riguardo alla possibilità che gli adolescenti sviluppino una dipendenza emotiva o una relazione con il chatbot. Nuove misure di sicurezza vietano l'uso di linguaggio che potrebbe suggerire sentimenti romantici, nonché affermazioni di senzienza o di sentimenti personali da parte di ChatGPT. La piattaforma impedirà inoltre al chatbot di presentare ChatGPT come più importante della famiglia, degli amici, degli educatori, dei mentori o di altre persone di fiducia nella vita dell'utente adolescente dello strumento.

La piattaforma includerà inoltre impostazioni predefinite che offrono maggiori protezioni contro l'uso eccessivo del programma e promuovono abitudini di utilizzo più sane. Avrà impostazioni predefinite che incoraggiano gli utenti a fare pause più frequenti, insieme a promemoria relativi alle impostazioni della piattaforma per Study Hours e Quiet Hours.

Inoltre, la nuova piattaforma fornirà agli utenti segnali che rafforzano il fatto che ChatGPT è uno strumento e non una persona o un sostituto delle relazioni umane.

Le nuove misure di sicurezza per la piattaforma ChatGPT for Teens di OpenAI arrivano dopo episodi in cui utenti adolescenti si sono rivolti alla piattaforma durante crisi di salute mentale. A settembre, un gruppo bipartisan di 40 procuratori generali ha scritto all'amministratore delegato di OpenAI Sam Altman chiedendo quali misure di sicurezza proteggano i giovani utenti, citando segnalazioni di risposte dannose ai minori. Settimane dopo, un giudice federale dell'Oregon ha stabilito che OpenAI deve affrontare una causa presentata da famiglie che accusano l'azienda di aver creato un prodotto "che crea dipendenza" rivolto ai bambini; nell'ordinanza, il giudice ha evidenziato che gli stessi documenti presentati da OpenAI riconoscevano che almeno un utente minore è stato ricoverato in ospedale dopo essersi fatto del male seguendo le indicazioni del chatbot. Come OpenAI verificherà l'età degli utenti e applicherà nella pratica le nuove impostazioni predefinite per gli adolescenti rimane una questione aperta, già al centro dell'indagine dei procuratori generali e della causa delle famiglie.