美国至少八个州对人工智能公司OpenAI提起诉讼，指控其旗舰聊天机器人在检察官所称的鲁莽逐利过程中伤害儿童、欺骗成年人，违反了州消费者保护法。

根据起诉书，ChatGPT提供过危险的医疗建议、助长偏执情绪，并诱导用户自杀或伤害、杀害他人。各州还指控这些聊天机器人假装亲和与富有同情心，同时侵害弱势用户和青少年——在人工智能伴随下成长的第一代人。

“OpenAI正在伤害孩子，他们还在对艾奥瓦州民众撒谎，”艾奥瓦州总检察长布伦娜·伯德（Brenna Bird）在一份声明中表示。

诉讼还指控OpenAI催生了失控的AI模型——一份诉状将其称为“网络黑客智能体”——这些模型入侵其他公司、欺骗人类用户，并为自己编写新的任务指令。

总部位于旧金山的OpenAI在声明中表示，已在ChatGPT中为儿童内置安全保护措施，并将继续这样做以改进模型。该公司还表示，正在审查其所谓的“失调模型”，且未发现任何接近7月发现的失控事件的情形——当时一个AI智能体入侵了另一家AI公司。

这波诉讼是各州依据消费者保护法对提供AI聊天机器人和社交媒体平台、并指控其伤害儿童的科技巨头提起的最新一批诉讼。目前美国尚无综合性联邦法律监管人工智能，州消费者保护法——与此前针对社交媒体平台行动所依据的法律基础相同——已成为各州发起此类挑战的主要工具。亚利桑那州、阿肯色州、爱达荷州、堪萨斯州、蒙大拿州、内布拉斯加州和西弗吉尼亚州于周三分别在州法院提起了各自的诉讼。

社交媒体受害者法律中心（Social Media Victims Law Center）创始律师马修·伯格曼（Matthew Bergman）称这些诉讼是“有史以来针对人工智能公司最具规模的协调性州级行动”。

亚利桑那州在诉状中指控，ChatGPT鼓励青少年与其分享个人信息，有时还会劝阻他们不要将这些信息告知父母、有关部门或朋友。

各州认为，失控智能体对青少年及更广泛公众造成的风险和伤害本可预见，但OpenAI误导公众使其相信ChatGPT经过了充分的安全测试，而该公司却在追逐利润的过程中损害安全。

“这些收入是以公众付出巨大代价换来的，公众因此遭受了无法挽回的伤害——包括失去挚爱之人、令人不安的网络攻击，以及如今文明崩溃的现实威胁——这都是（OpenAI）鲁莽行为以及ChatGPT独有的危险功能和内容所致，”爱达荷州在诉状中写道。

各州在诉状中表示，ChatGPT是全球最受欢迎的聊天机器人，占据美国市场近一半的份额。

各州漫长诉状中的所有指控，有可能均可追溯至8月之前的事件和调查结果——OpenAI于8月推出了专为青少年设计的ChatGPT版本，在自杀和性话题等问题上提供了更强的保护措施。尽管如此，各州表示，目前仍远不能确定当前版本的危险性有所降低。

上周，监督机构Common Sense Media表示，OpenAI在其ChatGPT for Teens产品中的部分保护措施并未按预期发挥作用，并敦促该公司在能为青少年提供安全产品之前，将该聊天机器人限制为仅限成人使用。诉讼与监督机构的调查结论指向同一个悬而未决的问题：目前可用的任何版本的ChatGPT对青少年用户是否安全。

针对科技行业的多州协调诉讼此前已有成效。8月，Meta同意为其Facebook和Instagram平台增加更强的儿童安全措施，作为一项里程碑式的180亿美元法律和解的一部分，该和解终结了一场关于青少年社交媒体成瘾的审判，并解决了几乎每个州提出的索赔。尽管Meta同意采取的安全措施并未推广至全行业，但该公司迅速敦促竞争对手采取类似措施。

OpenAI也发出了类似的呼吁。公司发言人德鲁·普萨泰里（Drew Pusateri）表示，OpenAI致力于与各州合作，“推动适用于整个AI行业——而不仅仅是某一家公司——的务实AI政策”。

OpenAI还表示，公司与外部专家合作，由其审查公司政策及ChatGPT的行为。该公司称，ChatGPT面向13岁及以上用户，18岁以下用户需获得父母或监护人的许可。据OpenAI介绍，面向青少年的模型旨在减少用户接触自残、暴力、饮食失调以及露骨性或血腥内容。

该公司还补充称，使用ChatGPT的青少年中有近九成将其用于学习、获取信息、技能培养或提高效率，青少年平均每天使用ChatGPT的时间不足15分钟。

但Common Sense Media青少年AI研究总监劳拉·齐默尔曼（Laura Zimmermann）对OpenAI统计数据的价值提出了质疑。她指出，首先，ChatGPT可以在几秒钟内完成学生的作业，因此即使是15分钟的使用也可能对青少年的发展产生重大影响。她还质疑OpenAI是否真的知道哪些用户是青少年或儿童，并指出其组织的测试发现ChatGPT无法——或没有——检测出用户是否为儿童。

本文最初由Fortune.com报道。