聯合國人權事務高級專員沃克·蒂爾克（Volker Türk）9月7日在日內瓦人權理事會發言時警告，人工智慧正發展至可能對人類構成生存威脅的程度。

蒂爾克敦促各國政府迅速建立防護機制，並約束競相研發自主系統技術的AI實驗室，認為不斷增加的違規事件與安全事故顯示該領域有失控風險。

這位聯合國官員最核心的憂慮在於，AI技術的發展速度已超越治理體系所能追蹤。這項警告發布之際，全球監管格局依然碎片化：歐盟透過《AI法案》走得最遠，該法於2024年生效並分階段對高風險系統課予義務；美國則主要依賴部門別規則與自願性承諾，具約束力的國際協調仍然有限。蒂爾克指出，不受約束的發展已使威脅超越錯誤訊息與失業，進入生存層級，包括安全、問責，以及對高度自主系統缺乏實質監督。

呼籲國際緊急行動

蒂爾克將其國際協調行動的訴求，建立在AI能力仍可受到約束的「關閉中的時間窗口」之上。他也批評該領域的發展速度與方向，不成比例地掌握在一小群科技主管與企業手中。

作為解方，蒂爾克提議由主要AI企業所在國，以及控制關鍵供應鏈的國家——包括美國與中國，多數前沿AI研發與先進晶片製造的所在地——劃定「紅線」，界定願意讓該技術發展到何種程度。

這位高級專員延續聯合國於7月在同一座瑞士城市舉行的首屆AI治理全球對話中所處理的議題（聯合國聲明）。

在該對話起始的ITU「AI for Good」高峰會上，蒂爾克表示：「我們並不把藥品、汽車或飛機的安全標準視為進步的障礙。這些標準正是人們信任這些技術的原因，」根據聯合國影片。他補充說，人類監督「不能只是橡皮圖章」。

該高峰會上提出的證據，包括聯合國授權的全球AI科學小組成員Sonia Livingstone的研究發現。在一項涵蓋11個全球南方國家的研究中，每間教室至少有一名兒童表示曾成為性露骨AI深度偽造的對象。

聯合國婦女署負責人Sima Bahous則突顯問題的性別層面。她指出，頂尖AI研究人員中約88%為男性，並表示該機構調查的女性社運人士與記者中，至少四分之一曾遭受AI協助的線上虐待。

AI實驗室與議員的回應

聯合國並非今夏唯一發出警訊者。美國參議員伯尼·桑德斯（Bernie Sanders）呼籲立即暫停先進AI研發並永久禁止超級智慧；英國跨黨派議員則在他們所稱的一連串失控AI事件後，推動立法強制設置AI「緊急關閉開關」（kill switches）。

這些疑慮之前，OpenAI宣稱其與GPT-6 Astra模型相關的技術已達到通用人工智慧，而Anthropic則承認其自家模型與人類價值觀「並未完全對齊」。

部分壓力也來自業界內部。在一篇由Axios報導的六月文章中，Anthropic執行長Dario Amodei主張，政府應擁有阻止或撤銷危險AI部署的法律權力，且前沿模型應接受強制檢測，類似汽車、飛機或新藥的檢測。

蒂爾克在向理事會提交的報告中，將論點延伸至戰場，支持禁止無需人類介入即可殺人的武器——這是聯合國會員國多年來爭論不休、卻始終未能就自主武器達成具法律約束力條約的議題。