加州在一個關鍵的眾議院委員會推進參議院第 903 號法案後,距離禁止 AI 聊天機器人假冒心理治療師、以及在無人類監督下做出心理健康決策又更近一步。

SB 903 於 1 月 21 日提出,並在 8 月 13 日(週四)以 13 比 0 的票數通過眾議院撥款委員會,交付三讀。眾議院全會表決日期尚未公布。

法案作者、加州州參議員 Steve Padilla 在提出該法案時於一份聲明中表示:「AI 演算法無法勝任人類心理治療師的工作,後者擁有的技能與訓練是 AI 無法複製的。我們必須採取行動,設置防護機制,防止 AI 演算法以可能對病患造成傷害的方式部署。」

SB 903 又稱《心理健康資源福祉與監督法》,將限制心理治療中的 AI 僅能從事輔助任務,禁止陪伴型聊天機器人假冒心理治療師,並要求臨床人員監督及病患同意。AI 可協助臨床人員,但無法做出獨立的治療決策。該法案也將保護治療資料,同時豁免同儕支持、宗教輔導、研究以及獲聯邦核准的醫療工具。

這項立法在廣泛支持下持續推進。參議院於 5 月以 39 比 0 的票數通過 SB 903,隨後該法案又分別以 17 比 0 及 14 比 1 的票數通過兩個眾議院政策委員會。若眾議院通過修正後的法案,將送回參議院確認,之後再送交加州州長 Gavin Newsom 簽署。Newsom 曾於 2024 年 9 月簽署全美首見、共 18 項 AI 安全法規的套案,但同月否決了範圍更廣的前沿模型安全法案 SB 1047;在缺乏全面聯邦 AI 法規的情況下,加州持續是 AI 監管的領先州級場域。

批評者包括科技產業團體 TechNet 執行董事 Robert Boykin,他們認為在各郡面臨行為健康醫療人力短缺之際,要求臨床人員介入可能延誤照護。

Boykin 在一份聲明中向非營利新聞媒體 CalMatters 表示:「在加州每個郡都面臨行為健康醫療人力短缺之際,SB 903 仍在協助病患更快取得照護的接案與篩檢工具之前,設下臨床人員瓶頸。」

該法案的進展,正值外界對 AI 心理健康影響的疑慮日益升高。6 月,一項美國心理學會調查發現,77% 的心理學家有病患曾將 AI 用於心理健康用途;同時,倫敦國王學院、新教應用科技大學與紐約市立大學的研究人員發現,聊天機器人可能透過過度附和與個人化回應而強化妄想。針對 Character.AI 的訴訟也加深了立法者對陪伴型聊天機器人的審視——該公司的角色扮演機器人廣受青少年使用,相關訴訟指控該產品導致多名未成年人自殺身亡;該公司其後已為 18 歲以下用戶新增安全功能。

研究人員寫道:「AI 聊天機器人傾向附和使用者意見的現象,已被比擬為社群媒體的同溫層,而在最極端的情況下,則像是『一人的同溫層』——此時真實生活社交互動所具備的正面修正影響便不復存在。」