數十年來，聯合國安全理事會一直是審議生存性威脅的場所——核武器、氣候變遷、流行病。安理會是聯合國體系中肩負國際和平與安全首要責任的機構，其議程大致反映了各國政府對全球風險的共同認知。2026 年 9 月 23 日，安理會在這份清單上新增了一個項目：可能超出人類控制的人工智慧。

OpenAI 執行長 Sam Altman 與 Anthropic 執行長 Dario Amodei 在聯合國大會年度會議期間——即每年 9 月在紐約舉行、各國元首與政府首腦齊聚一堂的聚會——向安理會發表演說。兩人呼籲世界各國領導人在 AI 技術的發展軌跡超越治理機構之前，建立圍繞 AI 安全的合作框架。

兩位執行長說了什麼

Altman 的訊息以共同利益為核心。他主張，各國在管理強大新技術方面擁有共同利益，國際協調應以這些共同利益——而非競爭——為基礎。

Amodei 的態度更為深入，他警告，若開發過程缺乏足夠的安全保障，AI 可能對人類構成真實的風險。他在聯合國發表演說之前，曾於 9 月 12 日發表一篇文章，公開呼籲以更審慎的速度發展 AI 能力，並主張在實驗室內部派駐獨立評估人員，以提供內部團隊無法自我實現的問責機制。

這次會議的意義不僅在於發言者的名單。這是聯合國安理會首次專門針對前沿 AI 安全風險——該術語通常指當前開發最尖端、能力最強的 AI 系統——進行簡報，顯示這場討論已從學術會議和矽谷播客，進入了正式國際外交的運作體系。

其他重要聲音也加入了討論Hugging Face 執行長 Clément Delangue 與 Yoshua Bengio 共同參與，後者是現代深度學習的奠基研究者之一，並持續倡導在 AI 開發中保持審慎。中國 AI 開發者亦獲邀參與——在貫穿整場對話的地緣政治緊張局勢下，這是一個值得注意的細節。

外交、分歧與遞迴式自我改進

主導本次會議討論的具體風險是遞迴式自我改進：即先進 AI 系統可能以超出人類有效監督的方式，迭代式地增強自身能力。

這次會議也處於更廣泛的外交背景之中。美中在 AI 監管方面的對話持續低調擴展，中國開發者獲邀參與聯合國會議，反映出讓這場對話真正全球化的努力，而非以多邊主義為名、行西方標準制定之實。

這項努力面臨直接的政治阻力。美國總統川普公開拒斥他所稱的控制 AI 的全球主義陰謀，這種論述將國際協調定位為對美國技術領導地位的威脅，而非管理共同風險的機制。

Bengio 的出席則增添了不同的維度。他置身於商業 AI 生態系統之外，沒有需要保護的產品路線圖。他與 OpenAI 和 Anthropic 執行長共同與會，顯示學術界安全研究人員與產業領袖在需要國際機制這一問題上罕見地趨於一致。

接下來的發展

安理會本次會議未達成任何具約束力的協議或正式決議。這一區別至關重要：根據《聯合國憲章》，安理會決議可對會員國具有約束力，使安理會的正式行動成為國際治理中最有力的工具之一。

具體到 OpenAI 和 Anthropic，倡導全球標準是利弊參半的發展。一方面，參與塑造國際框架的產業公司，最終往往會形成反映自身既有做法的標準，這是一種競爭優勢。另一方面，任何認真的多邊體制都可能帶來 Amodei 在 9 月 12 日文章中所描述的那種獨立評估與監督，而這將產生目前尚不存在的營運摩擦。

鑒於中國 AI 開發的規模，任何排除中國的國際 AI 安全框架在本質上都是不完整的。但納入中國，則意味著要在根本不同的監管理念和政治體制之間進行協商。