OpenAI a lancé ChatGPT for Teens, une version du chatbot dotée de protections de sécurité intégrées renforcées pour les utilisateurs de moins de 18 ans, a annoncé l'entreprise lundi dans un article de blog. Les comptes pour adolescents deviennent le choix par défaut pour toute personne que le système estime être mineure ou qui déclare avoir entre 13 et 17 ans lors de l'inscription. Les utilisateurs de moins de 13 ans restent exclus de la plateforme. Ce paramétrage par défaut a une portée concrète : jusqu'à présent, les contrôles d'âge sur ChatGPT, comme sur la plupart des plateformes, reposaient sur la déclaration par les utilisateurs eux-mêmes de leur date de naissance, une approche que le régulateur britannique Ofcom a jugée insuffisante à elle seule pour répondre au critère d'assurance d'âge « hautement efficace » prévu par ses règles de protection des enfants.

Selon la BBC, le déploiement comprend notamment la suppression de la capacité du chatbot à répondre aux adolescents avec une voix proche de celle d'un humain, une mesure destinée à réduire la tendance de l'outil à paraître doté d'une personnalité propre.

L'annonce d'OpenAI elle-même ne décrit pas précisément ce changement, mais indique que les adolescents recevront des options de personnalisation, telles que des couleurs d'accentuation et des variations de voix, conçues pour donner un sentiment d'expérience personnelle « sans estomper la frontière entre un outil utile et une relation humaine ».

L'entreprise a précisé que cette mise à jour ne répond pas à un incident particulier, mais reflète une préoccupation plus large du secteur concernant les personnes qui développent des attachements forts aux systèmes d'IA et les considèrent comme doués de sentiments. Cette préoccupation s'inscrit dans un contexte juridique ailleurs dans le secteur : l'éditeur de chatbots de compagnie Character.AI a été confronté à des poursuites judiciaires de familles concernant les interactions de mineurs avec son service et a depuis lancé un modèle distinct pour les utilisateurs adolescents, encadré par des garde-fous plus stricts.

OpenAI a indiqué que ses règles pour le modèle destiné aux moins de 18 ans vont désormais au-delà du blocage des jeux de rôle romantiques ou sexualisés. Le chatbot ne doit pas employer un langage romantique, encourager la dépendance émotionnelle à son égard ni prétendre avoir des sentiments.

Outils d'étude et alertes parentales de ChatGPT

L'expérience pour adolescents s'appuie sur le Mode Étude (Study Mode), qui, selon OpenAI, utilise des questions guidées plutôt que des réponses directes pour aider les élèves à travailler leur matière. Les nouveaux « rappels de devoirs responsables » sont conçus pour détecter lorsqu'un adolescent tente de contourner un exercice et le ramener à ce format étape par étape. OpenAI ajoute également des quiz, des visualisations pédagogiques et des « heures d'étude » planifiées que les parents ou les adolescents peuvent définir pour que le Mode Étude reste activé par défaut, ainsi que des « périodes de calme » qui désactivent entièrement l'outil.

Sur le plan de la sécurité, OpenAI ajoute les requêtes liées aux troubles alimentaires à la liste des demandes signalées qui déclenchent des alertes aux parents disposant de comptes liés. Ces alertes prolongent les contrôles parentaux déployés par OpenAI pour les 13-17 ans début 2025, qui permettent aux parents de lier le compte d'un adolescent via Google Family Link et de consulter le temps passé par leur enfant dans l'application. Chaque alerte est examinée par une personne avant d'être envoyée, et l'entreprise indique viser à informer les parents en moins d'une heure.

OpenAI a également annoncé un partenariat avec CodeAI, une entreprise d'IA spécialisée dans l'éducation, visant à aider les adolescents et les enseignants à comprendre le fonctionnement des systèmes d'IA, à interroger leurs résultats et à les utiliser de manière responsable en classe.

L'entreprise n'est pas la seule à durcir ses règles pour les utilisateurs plus jeunes. Claude, d'Anthropic, reste réservé aux adultes uniquement, et Gemini, de Google, lancé sous le nom de Bard, excluait également les enfants à son lancement, même si Google a ensuite ouvert Gemini aux adolescents avec ses propres restrictions. Il n'existe actuellement aucune réglementation dédiée à l'IA couvrant les mineurs au Royaume-Uni, bien que d'anciennes propositions gouvernementales aient envisagé de restreindre l'utilisation des chatbots aux moins de 18 ans. Le levier existant le plus proche est l'Online Safety Act, en vertu duquel les codes de protection des enfants d'Ofcom sont entrés en vigueur en juillet 2025, imposant des obligations aux services concernés susceptibles d'être consultés par des enfants ; le régulateur a par ailleurs commencé à examiner comment cette loi s'applique aux chatbots d'IA intégrés aux services de recherche.