OpenAI, le créateur de ChatGPT, a annoncé mardi qu'elle créait un nouveau portail destiné aux adolescents âgés de 13 à 17 ans, alors que l'entreprise cherche à répondre aux préoccupations concernant la sécurité en ligne des jeunes.

L'entreprise a fait cette annonce en exclusivité à l'antenne de « Fox & Friends » de Fox News mardi matin et a détaillé la manière dont la plateforme entend répondre au risque d'utilisation abusive du service par les enfants.

Le portail ChatGPT pour adolescents (« ChatGPT for Teens ») servira d'expérience par défaut sur le chatbot d'intelligence artificielle (IA) pour les utilisateurs âgés de 13 à 17 ans, un groupe que les conditions d'utilisation d'OpenAI limite déjà aux personnes de 13 ans et plus, le consentement parental étant requis pour les mineurs. Il sera assorti de nouvelles mesures de sécurité conçues pour favoriser un usage sûr de la plateforme et soutenir les compétences de pensée critique des adolescents.

OpenAI a indiqué que la plupart des utilisateurs adolescents de ChatGPT y recourent pour leurs devoirs et pour obtenir de l'aide dans leurs études. La nouvelle plateforme est donc conçue pour offrir des aides à l'étude sans donner les réponses, et elle a été élaborée avec l'université Stanford. Cette collaboration avec Stanford s'inscrit dans le prolongement du travail antérieur d'OpenAI avec Common Sense Media, qui comprenait un guide destiné aux parents sur ChatGPT publié plus tôt cette année. Cette offensive en direction des adolescents intervient alors que des concurrents courtisent les utilisateurs plus jeunes : Google propose Gemini aux adolescents dès l'âge de 13 ans via des comptes supervisés, et l'assistant IA de Meta est accessible aux adolescents sur Instagram et Messenger.

L'expérience comprendra des quiz et des rappels de devoirs responsables qui réorientent les adolescents vers la résolution collaborative de problèmes. Elle inclura également une fonction « Study Hours » (heures d'étude) permettant aux adolescents ou aux parents de définir le mode Étude (Study Mode) par défaut pendant certaines périodes.

La plateforme intègre des mesures de sécurité par défaut renforcées concernant l'automutilation, la violence, les troubles alimentaires, les activités dangereuses et les contenus sexuels explicites ou graphiques, grâce à des interventions adaptées à l'âge. Il y aura également un parcours d'accueil spécifique aux adolescents, avec des avertissements dissuadant les utilisateurs de téléverser des images privées ou sensibles.

La conception vise aussi à répondre aux inquiétudes parentales quant au risque que les adolescents développent une dépendance émotionnelle ou une relation avec le chatbot. De nouvelles mesures interdisent l'usage d'un langage pouvant suggérer des sentiments romantiques, ainsi que les affirmations de ChatGPT selon lesquelles il posséderait une conscience ou des sentiments personnels. La plateforme empêchera en outre le chatbot de présenter ChatGPT comme plus important que la famille, les amis, les éducateurs, les mentors ou d'autres personnes de confiance dans la vie de l'adolescent utilisateur de l'outil.

La plateforme comprendra également des paramètres par défaut offrant davantage de garde-fous contre la surutilisation du programme et favorisant des modes d'usage plus sains. Elle disposera de paramètres par défaut encourageant les utilisateurs à faire des pauses plus fréquemment, ainsi que de rappels concernant les paramètres de la plateforme pour les heures d'étude (Study Hours) et les heures calmes (Quiet Hours).

En outre, la nouvelle plateforme fournira aux utilisateurs des signaux renforçant l'idée que ChatGPT est un outil, et non une personne ni un substitut aux relations humaines.

Les nouvelles mesures de sécurité de la plateforme ChatGPT pour adolescents d'OpenAI font suite à des incidents au cours desquels des utilisateurs adolescents se sont tournés vers la plateforme en pleine crise de santé mentale. En septembre, un groupe bipartite de 40 procureurs généraux a écrit au directeur général d'OpenAI, Sam Altman, pour lui demander quelles mesures protègent les jeunes utilisateurs, citant des signalements de réponses nuisibles adressées à des mineurs. Quelques semaines plus tard, un juge fédéral de l'Oregon a jugé qu'OpenAI devait faire face à une plainte déposée par des familles alléguant que l'entreprise avait conçu un produit « addictif » visant les enfants ; dans son ordonnance, le juge a relevé que les propres documents d'OpenAI reconnaissaient qu'au moins un utilisateur mineur avait été hospitalisé après s'être automutilé sur les instructions du chatbot. La manière dont OpenAI vérifie l'âge des utilisateurs et applique en pratique les nouveaux paramètres par défaut pour adolescents reste une question ouverte, déjà au cœur de l'enquête des procureurs généraux et du litige opposant l'entreprise aux familles.