By Joseph Crawford and Michael Cowling

自 2022 年 11 月以來，生成式人工智慧（AI）已經改寫了數十億封電子郵件、學生作業、報告，以及分手簡訊。除了這些日常用途之外，AI「伴侶」也迅速增加。使用者可以設計並為自己的 AI 朋友穿上衣服——或不穿衣服——而且通常需要付費。這些社交聊天機器人提供「愉快的對話」與看似完美的關係，但代價是失去與其他人建立關係時所帶來的相互脆弱與真實歸屬感。

支持者認為，對於經歷社交疏離的人來說，聊天機器人是隨時可用、能提供支持且不會評判對方的伴侶。也有一些證據顯示，聊天機器人可緩解孤獨、長期疏離與歸屬感受挫的症狀。澳洲 eSafety Commissioner 也承認這一點，表示：「AI companions are always available — which can be appealing for those young people who struggle to build face-to-face relationships.」

但以聊天機器人取代人際關係的風險，才剛開始被理解。我們在 2023 年進行的一項研究發現，大學生使用早期聊天機器人尋求學業支援時，出現了包括孤獨感在內的意外後果。目前，社交聊天機器人的風險——包括依賴、排擠人類友誼、社交退縮，以及建立不切實際的關係——似乎大於其好處。

最近幾週，中國針對 AI 伴侶與聊天機器人，或立法中所稱的「anthropomorphic interactive services」，制定了新規則。除了要求聊天機器人必須保護國家機密之外，這些工具的情感用途也受到限制，並且必須符合社會與道德標準。

這些是全球目前對社交 AI 使用最嚴格的一些管制。那麼，我們能學到什麼？

伴侶型 AI 的使用確實會造成實質傷害，包括在中國也是如此。一名 18 歲少女在與她的 AI 男友「交往」的四個月期間，花了 7,000 元人民幣（A$1,400）購買客製化珠寶。

中國湖北省一名 84 歲獨居老人的家人發現，她愛上了一個 AI 角色，每天花最多 10 小時和他以及其他角色一起看影片，為這項服務花費數千元人民幣，甚至還親手寫情書給他。

中國的新規則明確規定了伴侶型聊天機器人應如何與人互動。

這些措施要求社交 AI 開發者確保內容不得：

• 威脅國家安全或國家榮譽

• 違反社會主義核心價值觀

• 助長自殘或自殺

• 過度迎合情感依賴或成癮

• 向未成年人提供虛擬「伴侶」或「親屬」

• 向未成年人提供不適當內容。

此外，若使用者看起來過度依賴這項服務，必須明顯提醒他們正在與聊天機器人交談；若使用者似乎處於極度痛苦之中，AI 公司也必須介入。

THE RISK OF A ‘LONELINESS SPIRAL’ 正如我們所示，已有疑慮——而且截至目前的研究也有此暗示——年輕人完全依賴 AI 作為可信任的朋友或治療師，並不健康。

感到孤獨且經歷社交焦慮的人，可能會以不當方式使用對話式 AI，試圖緩解孤獨與負面反芻。我們提出，這種依賴可能導致 AI 引發的「loneliness spiral」。當個體感到孤獨時，會對社會威脅更敏感，也更難進行情緒調節。

因此，他們可能轉而向低風險的 AI「朋友」尋求支持，而不是尋求合格或友善的人類幫助。然而，這往往無法解決孤獨的根本問題，因為聊天機器人實際上可能讓情況惡化。

中國對 AI 伴侶採取的限制，或許有助於打破這一循環，並重新優先考慮人際連結。這變成了一個認知取捨的問題：安裝一個伴侶型 AI 應用程式，會比抽出時間與朋友見面更令人滿足嗎？

LESSONS FOR AUSTRALIA 孤獨與低度歸屬感仍是澳洲的重要挑戰，至少每六人就有一人經歷孤獨，有些證據顯示比例更高。

雖然中國已對 AI 伴侶加強管制，但澳洲一直帶頭規範年輕人使用社交媒體。eSafety 也已制定規範，限制網路上的年齡相關內容，例如色情、高衝擊暴力、自殘、自殺與飲食失調。但這些規範並未處理 AI 伴侶的社會傷害，例如情感依賴或取代人際連結。

總理 Anthony Albanese 在上週關於 AI 的重要演說中，也沒有提到 AI 聊天機器人的社會傷害。

我們主張，澳洲對年齡限制內容的保護，應擴大至社交、分析與功能性 AI 對話所帶來的非預期社會傷害。澳洲政府需要探討這些虛擬伴侶如何與澳洲人互動；而且在這些合成的社交連結變得普遍並被正常化之前，我們必須預先準備，減輕其非預期的社會傷害。

澳洲必須把培養社會連結列為優先事項——包括在職場、生產力策略、教育課程，以及社區設計之中。

對聊天機器人的威權式打擊，對民主國家而言或許不可行。但我們可以——也應該——優先培養人際連結能力，以抵抗對 AI 的不健康過度依賴。

澳洲也應運用監管保護來減輕社會傷害，延伸 eSafety 目前在社交媒體上已經進行的工作。

THE CONVERSATION VIA REUTERS CONNECT

Joseph Crawford is a senior lecturer, Management, at the University of Tasmania. Michael Cowling is a professor and director, Hub for Apple Platform Innovation (HAPI), School of Computing Technologies, at RMIT University.