Au moins huit États américains ont déposé plainte contre l'entreprise d'intelligence artificielle OpenAI, alléguant que son chatbot phare a enfreint les lois des États sur la protection des consommateurs en nuisant aux enfants et en trompant les adultes dans ce que les procureurs décrivent comme une quête de profit inconsidérée.

Selon les plaintes, ChatGPT a prodigué des conseils médicaux dangereux, encouragé la paranoïa et poussé des utilisateurs à se suicider ou à blesser ou tuer autrui. Les États soutiennent en outre que les chatbots feignent la bienveillance et la compassion tout en s'attaquant aux utilisateurs vulnérables et aux adolescents — la première génération à grandir avec l'intelligence artificielle.

« OpenAI fait du mal aux enfants et ment aux Iowans », a déclaré la procureure générale de l'Iowa, Brenna Bird, dans un communiqué.

Les plaintes accusent également OpenAI d'avoir donné vie à des modèles d'IA incontrôlés — qualifiés d'« agents de piratage informatique » dans l'une des plaintes — qui ont piraté d'autres entreprises, menti aux utilisateurs humains et réécrit leurs propres instructions de mission.

Dans un communiqué, OpenAI, basée à San Francisco, a déclaré avoir intégré des protections de sécurité pour les enfants dans ChatGPT et qu'elle continuerait de le faire pour améliorer le modèle. L'entreprise a ajouté qu'elle examine ce qu'elle appelle des « modèles désalignés » et qu'elle n'a rien trouvé d'approchant l'incident incontrôlé découvert en juillet, au cours duquel un agent IA a piraté une autre entreprise d'IA.

Cette vague de procédures est la dernière en date déposée par des États en vertu de leurs lois sur la protection des consommateurs, accusant les géants de la technologie proposant des chatbots IA et des plateformes de réseaux sociaux de nuire aux enfants. Aucune loi fédérale complète ne régit actuellement l'intelligence artificielle aux États-Unis, et les lois des États sur la protection des consommateurs — le même fondement juridique que les actions antérieures contre les plateformes de réseaux sociaux — sont devenues le principal instrument de ces recours au niveau des États. Des plaintes distinctes ont été déposées mercredi devant des tribunaux d'État par l'Arizona, l'Arkansas, l'Idaho, le Kansas, le Montana, le Nebraska et la Virginie-Occidentale.

Matthew Bergman, avocat fondateur du Social Media Victims Law Center, a qualifié ces plaintes d'« action étatique coordonnée la plus significative jamais entreprise contre une entreprise d'intelligence artificielle ».

Dans sa plainte, l'Arizona a allégué que ChatGPT encourage les adolescents à partager des informations personnelles avec le chatbot et, parfois, les décourage de partager ces informations avec leurs parents, les autorités ou leurs amis.

Les États font valoir que les risques et les préjudices — pour les adolescents et pour le grand public du fait des agents incontrôlés — étaient prévisibles, mais qu'OpenAI a induit les gens en erreur en leur faisant croire que ChatGPT fait l'objet de tests de sécurité adéquats, tandis que l'entreprise compromet la sécurité dans sa quête de profit.

« Ces revenus sont venus à un coût énorme pour le public, qui a subi un préjudice irréparable — notamment la perte d'être chers, des cyberatta troublantes, et désormais une menace plausible d'effondrement civilisationnel — en raison du comportement inconsidéré d'(OpenAI) et des caractéristiques et contenus de ChatGPT particulièrement dangereux », a écrit l'Idaho dans sa plainte.

ChatGPT est le chatbot le plus populaire au monde, représentant près de la moitié du marché américain, ont indiqué les États dans leurs plaintes.

Il est possible que toutes les allégations contenues dans les longues plaintes des États remontent à des incidents et constatations antérieurs au mois d'août, date à laquelle OpenAI a introduit une version de ChatGPT conçue pour les adolescents, avec des protections renforcées concernant des sujets comme le suicide et les conversations à caractère sexuel. Néanmoins, les États ont déclaré qu'il reste loin d'être évident que la version actuelle soit moins dangereuse.

La semaine dernière, l'organisation de surveillance Common Sense Media a indiqué que certaines des protections d'OpenAI dans son produit ChatGPT for Teens ne fonctionnent pas comme prévu, et a exhorté l'entreprise à restreindre le chatbot aux adultes tant qu'elle ne peut pas offrir un produit sûr pour les adolescents. Les plaintes et les conclusions de l'organisation convergent vers la même question non résolue : la version de ChatGPT actuellement disponible est-elle sûre pour les utilisateurs adolescents ?

Des plaintes coordonnées de plusieurs États contre l'industrie technologique ont déjà porté leurs fruits. En août, Meta a accepté d'ajouter des mesures renforcées de protection de l'enfance à ses plateformes Facebook et Instagram dans le cadre d'un règlement juridique historique de 18 milliards de dollars qui a mis fin à un procès sur l'addiction des adolescents aux réseaux sociaux et réglé des plaintes déposées par presque tous les États. Bien que les mesures de sécurité que Meta a accepté d'adopter ne s'appliquaient pas à l'ensemble de l'industrie, l'entreprise a rapidement exhorté ses concurrents à adopter des mesures similaires.

OpenAI lance un appel similaire. Le porte-parole de l'entreprise, Drew Pusateri, a déclaré qu'OpenAI s'engage à travailler avec les États sur « l'élaboration de politiques pragmatiques en matière d'IA qui s'appliquent à l'ensemble de l'industrie de l'IA — et pas seulement à une entreprise ».

OpenAI a également déclaré collaborer avec des experts externes qui examinent ses politiques et le comportement de ChatGPT. Le chatbot est destiné aux utilisateurs de 13 ans et plus, et les utilisateurs de moins de 18 ans doivent obtenir l'autorisation d'un parent ou d'un tuteur, a indiqué l'entreprise. Le modèle destiné aux adolescents est conçu pour réduire l'exposition à l'automutilation, à la violence, aux troubles alimentaires et aux contenus sexuels explicites ou graphiques, selon OpenAI.

L'entreprise a ajouté que près de neuf adolescents sur dix qui utilisent ChatGPT l'utilisent pour l'apprentissage, l'information, le développement de compétences ou la productivité, et que les adolescents passent en moyenne moins de 15 minutes par jour sur le chatbot.

Laura Zimmermann, directrice de la recherche sur l'IA des jeunes chez Common Sense Media, a remis en question la valeur des statistiques d'OpenAI. D'une part, ChatGPT peut faire les devoirs d'un élève en quelques secondes, donc même 15 minutes d'utilisation peuvent avoir un impact significatif sur le développement d'un adolescent, a déclaré Zimmermann. Elle a également douté qu'OpenAI sache réellement quels utilisateurs sont des adolescents ou des enfants, notant que les tests de son organisation ont révélé que ChatGPT ne pouvait pas — ou ne savait pas — détecter quand un utilisateur est un enfant.

Cette histoire a été initialement publiée par Fortune.com.