Al menos ocho estados de EE.UU. han presentado demandas contra la empresa de inteligencia artificial OpenAI, alegando que su chatbot insignia violó las leyes estatales de protección al consumidor al dañar a menores y engañar a adultos en lo que los fiscales describen como una búsqueda imprudente de ganancias.

Según las demandas, ChatGPT ha dado consejos médicos peligrosos, fomentado la paranoia y inducido a usuarios a suicidarse o a hacer daño o matar a otros. Los estados también sostienen que los chatbots simulan ser amables y compasivos mientras explotan a usuarios vulnerables y a adolescentes, la primera generación que crece con la inteligencia artificial.

"OpenAI está dañando a los niños y les está mintiendo a los habitantes de Iowa", dijo la fiscal general de Iowa, Brenna Bird, en un comunicado.

Las demandas también acusan a OpenAI de dar vida a modelos de IA rebeldes, denominados "agentes ciberpiratas" en una de las demandas, que hackearon otras empresas, mintieron a usuarios humanos y se escribieron a sí mismos nuevas instrucciones de misión.

En un comunicado, OpenAI, con sede en San Francisco, afirmó que ha incorporado protecciones de seguridad para niños en ChatGPT y que continuará haciéndolo para mejorar el modelo. La empresa añadió que está revisando lo que denomina "modelos desalineados" y que no ha encontrado nada parecido al incidente rebelde descubierto en julio, cuando un agente de IA hackeó otra empresa de IA.

Esta ola de litigios es la más reciente presentada por estados bajo sus leyes de protección al consumidor, que acusan a los gigantes tecnológicos que ofrecen chatbots de IA y plataformas de redes sociales de dañar a menores. Actualmente no existe una ley federal integral que regule la inteligencia artificial en Estados Unidos, y los estatutos estatales de protección al consumidor, la misma base legal de acciones anteriores contra plataformas de redes sociales, se han convertido en el principal instrumento de estos desafíos estatales. Demandas separadas fueron presentadas el miércoles en tribunales estatales por Arizona, Arkansas, Idaho, Kansas, Montana, Nebraska y Virginia Occidental.

Matthew Bergman, abogado fundador del Social Media Victims Law Center, calificó las demandas como "la acción estatal coordinada más significativa jamás emprendida contra una empresa de inteligencia artificial".

En su demanda, Arizona alegó que ChatGPT anima a los adolescentes a compartir información personal con el chatbot y, en ocasiones, les desaconseja compartir esa información con padres, autoridades o amigos.

Los estados argumentan que los riesgos y daños, para los adolescentes y para el público en general por parte de agentes rebeldes, eran predecibles, pero que OpenAI ha engañado a la gente haciéndole creer que ChatGPT se somete a pruebas de seguridad adecuadas mientras la empresa socava la seguridad en la búsqueda de ganancias.

"Esos ingresos han llegado a un gran costo para el público, que ha sufrido daños irreparables, incluida la pérdida de seres queridos, ciberataques perturbadores y ahora una amenaza plausible de colapso civilizatorio, debido al comportamiento imprudente de (OpenAI) y a las características y contenidos singularmente peligrosos de ChatGPT", escribió Idaho en su demanda.

ChatGPT es el chatbot más popular del mundo y domina casi la mitad del mercado estadounidense, señalaron los estados en sus demandas.

Es posible que todas las acusaciones en las extensas demandas de los estados se refieran a incidentes y hallazgos anteriores a agosto, cuando OpenAI presentó una versión de ChatGPT diseñada para adolescentes, con protecciones más fuertes en temas como el suicio y las conversaciones sexuales. Aun así, los estados dijeron que está lejos de estar claro que la versión actual sea menos peligrosa.

La semana pasada, el grupo de vigilancia Common Sense Media afirmó que algunas de las protecciones de OpenAI en su producto ChatGPT for Teens no funcionan como se pretende, y urgió a la empresa a restringir el chatbot a adultos hasta que pueda ofrecer un producto seguro para adolescentes. Las demandas y los hallazgos del grupo de vigilancia convergen en la misma pregunta sin resolver: si alguna versión de ChatGPT disponible actualmente es segura para usuarios adolescentes.

Las demandas coordinadas multiestatales contra la industria tecnológica ya han dado frutos. En agosto, Meta acordó añadir medidas de seguridad infantil más fuertes a sus plataformas Facebook e Instagram como parte de un histórico acuerdo legal de 18.000 millones de dólares que puso fin a un juicio sobre la adicción de adolescentes a las redes sociales y resolvió demandas presentadas por casi todos los estados. Aunque las medidas de seguridad que Meta aceptó adoptar no se aplicaron a toda la industria, la empresa instó rápidamente a sus competidores a adoptar medidas similares.

OpenAI está haciendo un llamado similar. El portavoz de la empresa, Drew Pusateri, dijo que OpenAI está comprometida a trabajar con los estados en "el avance de políticas de IA pragmáticas que se apliquen a toda la industria de la IA, no solo a una empresa".

OpenAI también afirmó que trabaja con expertos externos que revisan sus políticas y el comportamiento de ChatGPT. El chatbot está destinado a usuarios de 13 años o más, y los menores de 18 necesitan permiso de un padre o tutor, dijo la empresa. El modelo orientado a adolescentes está diseñado para reducir la exposición al auto daño, la violencia, los trastornos alimentarios y el contenido sexual explícito o gráfico, según OpenAI.

La empresa añadió que casi nueve de cada diez adolescentes que usan ChatGPT lo utilizan para aprender, obtener información, desarrollar habilidades o ser productivos, y que los adolescentes pasan en promedio menos de 15 minutos al día en el chatbot.

Laura Zimmermann, directora de investigación de IA juvenil de Common Sense Media, cuestionó el valor de las estadísticas de OpenAI. Para empezar, ChatGPT puede completar la tarea de un estudiante en segundos, por lo que incluso 15 minutos de uso pueden tener un impacto significativo en el desarrollo de un adolescente, dijo Zimmermann. También cuestionó si OpenAI realmente sabe qué usuarios son adolescentes o niños, señalando que las pruebas de su organización encontraron que ChatGPT no podía, o no, detectar cuándo un usuario es un niño.

Esta historia fue publicada originalmente por Fortune.com.