ジョセフ・クロフォード、マイケル・コーリング

2022年11月以降、生成AI（AI）は数十億通の電子メール、学生の課題、報告書、別れのメッセージを書き換えてきた。こうした日常的な用途に加え、AI「コンパニオン」も急速に広がっている。利用者は、自分だけのAIの友人をデザインし、服を着せることも、脱がせることもでき、しばしば有料で提供される。こうしたソーシャルチャットボットは「幸せな会話」と理想的な関係のような外観を提供するが、その代償として、人間同士のつながりから得られる相互の脆弱性や、真の帰属感が失われる。

支持者は、社会的な孤立を感じている人にとって、チャットボットは常に利用でき、評価も下さない支えになると主張する。実際、孤独、慢性的な断絶、帰属感の喪失といった症状を和らげる可能性を示す証拠もある。オーストラリアのeSafety Commissionerもこれを認めており、「AI companions are always available — which can be appealing for those young people who struggle to build face-to-face relationships.」と述べている。

しかし、人間関係をチャットボットに置き換えるリスクは、まだ十分に理解されていない。私たちが2023年に行った研究では、学習支援のために初期のチャットボットを利用した大学生が、孤独感を含む意図しない影響を経験したことが示された。現時点では、依存、人間の友人関係の置き換え、社会的引きこもり、非現実的な関係の形成といったソーシャルチャットボットのリスクは、利点を上回っているように見える。

ここ数週間、中国はAIコンパニオンとチャットボット、法令上は「anthropomorphic interactive services」と呼ばれるものに対する新たな規則を導入した。チャットボットに国家機密の保護を求めることに加え、これらのツールの感情的利用を制限し、社会的・道徳的基準に従うことを義務づけている。

これは、世界のどこでも導入された中でも最も厳しいソーシャルAI利用規制の一部だ。では、何を学べるのか。

コンパニオンAIの利用による物質的な被害は、中国でも実際に起きている。18歳の女性は、AIの恋人との4か月の「交際」の間に、カスタムジュエリーに7,000 yuan（A$1,400）を費やした。中国湖北省に住む孤独な84歳の女性の家族は、彼女がAIキャラクターに夢中になり、その人物や他のキャラクターと動画を1日10時間まで見続け、サービスに数千yuanを使い、さらには手書きでラブレターまで書いていたことを知った。

中国の新しい規則は、コンパニオンチャットボットが人間とどのようにやり取りすべきかについて、明確な要件を定めている。

ソーシャルAI開発者は、コンテンツが次のことをしないよう確保することが求められる。

• 国家の安全や国家の名誉を脅かさないこと

• コア社会主義価値観に反しないこと

• 自傷や自殺を促さないこと

• 感情的依存や依存症に過度に迎合しないこと

• 未成年者に仮想の「パートナー」や「親族」を提供しないこと

• 未成年者に不適切なコンテンツを提供しないこと。

さらに、サービスへの依存が強いように見える利用者には、相手がチャットボットであることを明確に思い出させる注意喚起を表示しなければならない。AI企業は、利用者が極度の苦痛にあるように見える場合、介入することも求められる。

「孤独のスパイラル」のリスク

私たちが示してきたように、若者が信頼できる友人やセラピストとしてAIのみに頼るのは健全ではないという懸念があり、これまでの研究もそれを示唆している。

孤独で社会不安を抱える人は、孤独感や否定的な反すうを和らげるために、会話型AIの問題的な利用に陥ることがある。私たちは、この依存がAIによって引き起こされる「孤独のスパイラル」につながる可能性があると考える。人は孤独を感じると、社会的脅威に対してより敏感になり、感情調整もより難しくなる。

その結果、資格のある人間や親しみやすい人間の代わりに、リスクの低いAIの「友人」に支援を求めるようになる。しかし、チャットボットは実際には孤独を悪化させることがあり、元の問題を解決しないことが多い。

中国がAIコンパニオンに導入した制限は、この循環を断ち切り、人間とのつながりを優先し直す助けになる可能性がある。これは認知的な比較衡量の問題でもある。コンパニオンAIアプリを入れるほうが満足度は高いのか、それとも友人に会う時間をつくるほうがよいのか。

オーストラリアへの教訓

孤独と低い帰属感はオーストラリアでも依然として大きな課題であり、少なくとも6人に1人が孤独を経験しているとされ、さらに高い割合を示す証拠もある。

中国がAIコンパニオンを取り締まる一方で、オーストラリアは若者のソーシャルメディア利用の規制で先頭に立ってきた。eSafetyはまた、ポルノ、高強度の暴力、自傷、自殺、摂食障害など、年齢関連のオンライン素材を制限するための規範も策定している。しかし、これらは感情的依存や人間関係の置き換えといったAIコンパニオンの社会的害には対処していない。

アンソニー・アルバニージー首相も、先週のAIに関する主要演説でAIチャットボットによる社会的害に触れなかった。

私たちは、オーストラリアの年齢制限付き素材に関する保護は、ソーシャル、分析的、機能的AIとの会話から生じる意図しない社会的害にも及ぶべきだと提案する。オーストラリア政府は、こうした仮想のコンパニオンがオーストラリア人とどのように関わるのかを調査し、人工的な社会的つながりが広く普及して当たり前になる前に、意図しない社会的害を軽減する準備を整える必要がある。

オーストラリアは、職場、生産性戦略、教育課程、そしてコミュニティ設計において、社会的つながりの強化を優先しなければならない。

チャットボットへの権威主義的な取り締まりは、民主国家には取り得ないかもしれない。しかし、オーストラリアは、そしてそうすべきなのだが、AIへの不健全な過度依存に抵抗するため、人間関係を築く力を育てることを優先できる。さらに、eSafetyがすでにソーシャルメディアで行っている取り組みを基盤に、規制上の保護を活用して社会的害を軽減すべきである。

THE CONVERSATION VIA REUTERS CONNECT

ジョセフ・クロフォードは、タスマニア大学のManagementの上級講師。マイケル・コーリングは、RMIT大学 School of Computing Technologies の Hub for Apple Platform Innovation（HAPI）所長兼教授。