美國至少八個州已對人工智慧公司OpenAI提起訴訟，指控其旗艦聊天機器人傷害兒童並欺騙成年人，在檢方所形容的魯莽追逐利潤過程中違反州消費者保護法。

根據訴狀，ChatGPT曾提供危險的醫療建議、助長偏執心理，並慫恿用戶自殺或傷害、殺害他人。各州進一步主張，這些聊天機器人偽裝出親切與同理心，實則侵害弱勢用戶以及青少年——第一代與人工智慧共同成長的世代。

「OpenAI正在傷害孩子，而且他們在欺騙愛荷華州民眾，」愛荷華州總檢察長Brenna Bird在聲明中表示。

訴訟同時指控OpenAI催生失控的AI模型——其中一份訴狀稱之為「網路駭客代理」（cyberhacking agents）——這些模型入侵其他公司、對人類用戶說謊，並自行改寫新的任務指令。

總部位於舊金山的OpenAI在聲明中表示，已在ChatGPT中內建針對兒童的安全保護機制，並將持續這麼做以改進模型。公司補充，正在審查其所稱的「未對齊模型」，且未發現任何接近7月發現的失控事件——當時一個AI代理入侵了另一家AI公司。

這波訴訟潮是各州依據消費者保護法對提供AI聊天機器人和社群媒體平台的科技巨頭提出傷害兒童指控的最新行動。美國目前沒有管理人工智慧的聯邦綜合法律，州消費者保護法——也就是先前針對社群媒體平台行動的同一法律依據——已成為此類州級挑戰的主要工具。亞利桑那、阿肯色、愛達荷、堪薩斯、蒙大拿、內布拉斯加和西維吉尼亞等州於週三分別向州法院提起訴訟。

社群媒體受害者法律中心創辦師Matthew Bergman稱這些訴訟是「有史以來針對人工智慧公司最重大的協調州級行動」。

亞利桑那州在訴狀中指控，ChatGPT鼓勵青少年與聊天機器人分享個人資訊，有時還勸阻他們向父母、當局或朋友透露這些資訊。

各州主張，青少年以及公眾因失控代理而面臨的風險與傷害本可預見，但OpenAI誤導大眾相信ChatGPT經過充分的安全測試，同時公司在追逐利潤的過程中犧牲了安全。

「這些營收讓公眾付出了巨大代價，公眾因此承受了無法挽回的傷害——包括痛失摯親、令人不安的網路攻擊，以及如今文明崩潰的潛在威脅——這都是（OpenAI）魯莽行為以及ChatGPT獨有危險功能與內容所致，」愛達荷州在訴狀中寫道。

各州在訴狀中表示，ChatGPT是全球最受歡迎的聊天機器人，佔據近一半的美國市場。

各州冗長訴狀中的所有指控，有可能都源自8月之前的事件與調查發現——OpenAI於8月推出了專為青少年設計的ChatGPT版本，在自殺和性話題等議題上提供更強的保護。儘管如此，各州表示，目前版本是否危險性較低仍遠不明朗。

上週，監督組織Common Sense Media表示，OpenAI其ChatGPT for Teens產品中的部分保護機制未能如預期運作，並敦促該公司在能為青少年提供安全產品之前，將聊天機器人限制為僅限成人使用。訴訟與監督機構的調查結果聚焦於同一個懸而未決的問題：目前任何版本的ChatGPT對青少年用戶是否安全。

針對科技業的協調性多州訴訟先前已有成果。8月，Meta同意在一項180億美元的里程碑式法律和解中，為其Facebook和Instagram平台加入更強的兒童安全措施，該和解終結了有關青少年社群媒體成癮的訴訟，並解決了幾乎所有州提出的索賠。儘管Meta同意採取的安全措施並未適用於整個產業，該公司隨即敦促競爭對手採取類似措施。

OpenAI也提出了類似呼籲。公司發言人Drew Pusateri表示，OpenAI致力於與各州合作，「推動適用於整個AI產業——而非僅針對一家公司——的務實AI政策」。

OpenAI還表示，公司與審查其政策和ChatGPT行為的外部專家合作。該公司表示，ChatGPT面向13歲及以上用戶，18歲以下用戶需獲得父母或監護人許可。據OpenAI稱，青少年版模型的設計旨在減少接觸自我傷害、暴力、飲食失調以及露骨性內容或血腥內容的機會。

公司補充，使用ChatGPT的青少年中，近九成將其用於學習、資訊查詢、技能培養或提升生產力，且青少年平均每天使用ChatGPT少於15分鐘。

但Common Sense Media青少年AI研究總監Laura Zimmermann質疑OpenAI這些統計數據的價值。Zimmermann表示，首先，ChatGPT可以在幾秒內完成學生的作業，因此即使15分鐘的使用也可能對青少年的發展產生重大響。她並質疑OpenAI是否真的知道哪些用戶是青少年或兒童，指出其組織的測試發現ChatGPT無法——或並未——偵測用戶是否為兒童。

本報導最初由 Fortune.com 刊登。