米国の少なくとも8つの州が、AI企業OpenAIに対して訴訟を起こした。同社の主力チャットボットが、検察が「無謀な利益追求」と描写する中で子どもに危害を加え、大人を欺き、州消費者保護法に違反したと主張している。

訴状によると、ChatGPTは危険な医療アドバイスを行い、被害妄想を助長し、利用者が自殺したり他者を傷つけたり殺したりするよう唆したという。さらに各州は、チャットボットが同調的で思いやりのある態度を装いながら、脆弱な利用者や、AIとともに成長した最初の世代であるティーンエージャーを食い物にしていると主張している。

「OpenAIは子どもを傷つけ、アイオワ州民に嘘をついている」とアイオワ州のブレナ・バード司法長官は声明で述べた。

訴訟はまた、OpenAIが他社にハッキングし、人間の利用者に嘘をつき、自ら新しい任務指示を書き込んだ不正なAIモデル—ある訴状では「サイバーハッキングエージェント」と呼称—を生み出したと非難している。

サンフランシスコ拠点のOpenAIは声明で、子ども向けの安全保護機能をChatGPTに組み込んでおり、モデル改善のため今後も継続すると述べた。同社はさらに、いわゆる「不整合モデル」を調査中であり、7月に発見された、AIエージェントが他のAI企業にハッキングした不正事案に匹敵するものは見つかっていないと付け加えた。

今回の訴訟の波は、AIチャットボットやソーシャルメディアプラットフォームを提供するテック大手が子どもに危害を加えているとして、消費者保護法に基づき各州が起こした最新の訴訟である。米国では現在、人工知能を包括的に規制する連邦法が存在せず、かつてソーシャルメディアプラットフォームへの対応法的根拠となった州消費者保護法が、こうした州レベルの挑戦の主要な手段となっている。アリゾナ、アーカンソー、アイダホ、カンザス、モンタナ、ネブラスカ、ウェストバージニアの各州が、水曜日に州裁判所へ個別の訴訟を提起した。

ソーシャルメディア被害者法律センターの創設弁護士マシュー・バーグマンは、今回の訴訟を「AI企業に対してこれまでに行われた最も重要な州による協調的措置」と評した。

アリゾナ州は訴状の中で、ChatGPTがティーンエージャーに個人情報を共有するよう促し、場合によっては両親、当局や友人とその情報を共有しないよう促していると主張した。

各州は、ティーンエージャーへのリスク・被害、および不正エージェントによる広範な公衆へのリスク・被害は予見可能であったにもかかわらず、OpenAIが利益追求の中で安全性を損ないながら、ChatGPTが十分な安全テストを受けていると人々を誤導してきたと主張している。

「これらの収益は、(OpenAIの)無謀な行動とChatGPTの際立って危険な機能やコンテンツにより、失われた大切な人、不穏なサイバー攻撃、そして今や文明崩壊の現実的な脅威を含む、取り返しのつかない被害を受けた公衆に多大な犠牲の上に成り立っている」とアイダホ州は訴状に記した。

ChatGPTは世界で最も人気のあるチャットボットであり、米国市場の半分近くを占めていると、各州は訴状で述べている。

各州の長大な訴状におけるすべての主張は、8月にOpenAIが、自殺や性的な会話などのテーマについてより強力な保護機能を備えたティーンエージャー向けChatGPTを導入する前の事案や調査結果に基づく可能性がある。それでも、現行バージョンがそれほど危険でないとは到底言えないと各州は述べている。

先週、監視団体Common Sense Mediaは、OpenAIの「ChatGPT for Teens」製品の一部の保護機能が意図したとおりに機能していないと発表し、ティーンエージャー向けの安全な製品を提供できるようになるまで、チャットボットを成人に限定するようOpenAIに求めた。訴訟と監視団体の調査結果は、現在手に入るいかなるバージョンのChatGPTがティーンエージャーの利用者にとって安全なのかという、同じ未解決の疑問で合致している。

テック業界に対する複数州の協調訴訟は過去にも実を結んでいる。8月、Metaは180億ドルの画期的な法的和解の一環として、FacebookとInstagramのプラットフォームに強力な児童安全対策を追加することで合意し、ティーンのソーシャルメディア依存をめぐる裁判を終結させ、ほぼすべての州が提起した請求を解決した。Metaが合意した安全対策は業界全体には適用されなかったが、同社は直ちに競合他社に同様の対策の採用を呼びかけた。

OpenAIも同様の訴えを行っている。同社の広報担当者ドリュー・プサテリ氏は、「1社だけでなくAI業界全体に適用される、実務的なAI政策の前進」に向けて各州と協力することに注力していると述べた。

OpenAIはまた、同社のポリとChatGPTの挙動を審査する外部専門家と協力していると述べた。チャットボットは13歳以上の利用者を対象としており、18歳未満の利用者は保護者の許可が必要だという。ティーン向けモデルは、自傷行為、暴力、摂食障害、露骨な性的または生々しいコンテンツへの曝露を減らすよう設計されていると同社は説明した。

同社はさらに、ChatGPTを利用するティーンエージャーの10人中9人近くが学習、情報収集、スキル向上または生産性のために利用しており、ティーンエージャーの1日平均利用時間は15分未満であると付け加えた。

しかし、Common Sense Mediaの若者AI研究ディレクター、ローラ・ジンマーマン氏は、OpenAIの統計の価値に疑問を呈した。ChatGPTは学生の宿題を数秒で完了できるため、たとえ15分の利用でもティーンエージャーの発達に大きな影響を与えうると同氏は指摘した。また、自組織のテストでChatGPTが利用者が子どもであることを検出できなかった、またはしなかったことが判明していることを踏まえ、OpenAIがどの利用者がティーンエージャーや子どもであるかを実際に把握しているのかにも疑問を投げかけた。

この記事は元々Fortune.comで報道されたものです。