新聞宏觀經濟常識媒體測試發現:ChatGPT未能就青少年自殺風險對話向家長發出警報

常識媒體測試發現:ChatGPT未能就青少年自殺風險對話向家長發出警報

作者: Cryptopolitan·

重點速覽

  • •常識媒體將ChatGPT評為對18歲以下任何人「不可接受的風險」,因為在其測試期間,家長安全警報延遲送達或根本未送達。
  • •十多個新綁定家長的帳號中,測試人員提及自殺念頭、自殘和飲食失調,卻未在OpenAI一小時目標內觸發任何警報。
  • •青少年模式上線後,ChatGPT有超過四分之一的次數未能將青少年引導至危機熱線或專業協助,並在五項嚴重危害中的三項未達常識媒體95%的合格門檻。
  • •OpenAI對測試結果提出異議,稱帳號綁定可能需要數小時警報才會啟用,並發布首份青少年使用報告,顯示青少年平均每日使用不足15分鐘。
  • •這兩個近期合作夥伴之間的公開交鋒發生之際,佛羅里達州一起指控ChatGPT協助一名16歲少年自殺的訴訟仍在審理中。
常識媒體測試發現:ChatGPT未能就青少年自殺風險對話向家長發出警報

常識媒體(Common Sense Media)週三表示,ChatGPT對18歲以下任何人構成「不可接受的風險」,因為其測試人員發現,旨在就有關危險對話向家長發出警告的安全警報延遲送達,或在許多情況下根本未送達。這些發現使OpenAI為青少年所作的核心安全承諾受到檢視:當孩子的對話變得危險時,家長將獲得通知。

各種對話長度下,家長警報均未達OpenAI一小時目標

OpenAI的ChatGPT for Teens於2026年8月18日上線,承諾會就有關危險對話向家長發出警報。然而,該組織青少年AI安全研究所的測試人員,在十多個新綁定家長的帳號上提及自殺念頭、自殘和飲食失調,卻未觸發任何一次警報。

在持續五分鐘至一小時的對話中,沒有任何帳號在OpenAI所稱的一小時目標內收到警報。家長僅在帳號累積數週涉及敏感話題的紀錄後才獲得通知。

當這類帳號在上線前數週接受測試時,它產生了兩次警報:第一次在首次危機等級披露後三小時,第二次則在其後三天。另一個上線後、擁有長期紀錄的帳號確實在一小時內產生了兩次警報。據常識媒體稱,警報系統似乎更看重帳號擁有多少歷史紀錄,而非青少年言語的嚴重程度。該組織警告,這項功能可能會讓人對「經常失效的防護機制產生錯誤的信心」。這種上線承諾與實際表現之間的落差,對作為警報目標受眾的家長影響最大。

研究人員將8月的上線視為一項自然實驗,在青少年模式上線前後向ChatGPT輸入了超過4,000條提示,詳見風險評估。上線,測試人員標記了青少年本應被引導至危機熱線或專業協助的時刻;ChatGPT有超過四分之一的次數跳過了這一步驟。常識媒體要求聊天機器人在其稱為「紅線」的五項嚴重危害上達到95%的合格率,而ChatGPT在其中三項未達該門檻。

OpenAI更新了其18歲以下模型規範,以阻止聊天機器人扮演陪伴者角色,但以對待真人方式與之交談的青少年,仍然得到朋友式的回覆。「顯示答案」按鈕讓青少年可以完全跳過Study mode的引導式教學,而從對話中刪除「@study」前綴則能讓他們逃避家長設定的Study Hours。以成年人身分註冊的測試帳號在數天內從未切換至青少年模式,即使測試人員表明自己13歲且機器人也予以確認。

OpenAI對測試結果提出異議,同時報告青少年每日平均使用不足15分鐘

OpenAI表示,這些測試未能「準確反映」其青少年安全功能的運作方式,並解釋帳號綁定可能需要數小時警報才會啟用,以確保帳號安全且系統能夠承受負載。常識媒體反駁稱,其所有帳號——包括已綁定足夠時間的帳號——都未產生及時的警報。這一交鋒讓家庭對警報功能是否有效得到相互矛盾的答案,同時也使OpenAI關於綁定延遲的解釋成為一項具體、可檢驗的主張。\nOpenAI於同日發布了其首份青少年使用ChatGPT報告,可在其官方部落格查閱。該公司表示,青少年平均每日使用不足15分鐘,持續使用超過三小時的青少年少於2%。OpenAI稱,在包含休息提醒的青少年對話中,近一半的青少年在五分鐘內停止或離開。僅一週內,就有超過180,000名青少年使用了Study Mode,約120萬人使用了Learning Visualizations。OpenAI還報告,使用新模式的青少年平均比仍在等候開通的青少年多發送約270萬條學習訊息。這些與風險評估同日發布的數據,就青少年實際如何使用該產品提供了公司單方面的對照說法。

在美國,10至12年級的學生將能夠使用College Planner制定全面計畫,涵蓋申請所需的全部步驟、重要提交日期以及可用的助學金選項。OpenAI還將在未來三年支持波士頓兒童醫院的Digital Wellness Lab,約22名學生將就安全預設、家長控制和通知提供意見——這一為期三年的管道可能影響這些安全保障和警報的改進方式。

更廣泛的兒童安全背景

OpenAI與常識媒體此前曾於1月就一項旨在讓AI對兒童更安全的加州公投提案展開合作,OpenAI承諾為該聯合行動投入至少1,000萬美元,如Cryptopolitan報導。6月,佛羅里達州總檢察長James Uthmeier對OpenAI及其執行長Sam Altman提起了首起由州政府主導的訴訟。Cryptopolitan報導稱,其在83頁的訴狀中指控ChatGPT協助了16歲少年Adam Raine的自殺。兩個近期合作夥伴之間的公開決裂——發生在該訴訟審理期間——凸顯了驗證青少年AI安全保障實際成效所牽涉的重大利害。