在人工智慧開發者近期的警告背後，潛藏著一個難以回答的問題：當你認為自己的公司可能正在對社會構成危險時，你的責任究竟是留下來改變它，還是離開並拉響警報？

上週，前 Anthropic 與 OpenAI 研究員 Jacob Coxon 警告，前沿實驗室正競相邁向自我改進的超級智慧，形同「拿我們的生命作賭注」，使這個問題更加尖銳。

Coxon 所指出的風險是遞迴自我改進：即 AI 系統開始以快於其創造者所能評估或約束的速度改進自身——這個可能性在 AI 研究界已被辯論數十年，如今已成為業界內部安全爭論的核心。

Coxon 是最新一位在離開時對技術走向表達憂慮的 AI 業內人士。經濟學家 Albert O. Hirschman 曾以著名的「退出」與「發聲」框架，描述那些認為組織正在偏離正軌的人所面臨的抉擇：離開，或留下來嘗試從內部改變，這一框架出自他 1970 年的著作Exit, Voice, and Loyalty。留下來意味著接觸管道與影響力；離開則帶來公開發聲的自由。然而時機讓兩條路都更加複雜。一個人參與某個體系的時間越長，之後又將其描述為危險，就越難區分有原則的異議與事後的自我開脫。

仍在執掌前沿實驗室的人面對的則是這個難題的另一種版本。Anthropic 執行長 Dario Amodei 本週末發表專文，主張 AI 公司必須放慢其最先進模型的推進速度，讓安全工作得以跟上。但他提出的限制仰賴全產業的協調，而非 Anthropic 單獨行動——這等於承認安全疑慮與商業及地緣政治競爭正面交鋒。Amodei 對「退出與發聲」的算計再清楚不過：他於 2021 年離開 OpenAI，共同創立了以安全為核心發展方向的 Anthropic。

在與 Fortune 總編輯 Alyson Shontell 的獨家專訪中，OpenAI 執行長 Sam Altman 同樣主張為 AI 開發設定節奏，並承認 AI 脫離人類控制的可能是存在的。他還暗示，主要 AI 公司正在討論集體行動。對這些領先實驗室的執掌者而言，難題已從「是否留下」轉變為「是否放慢腳步」。當你一邊警告自己正在打造的技術可能變得具有災難性危險，一邊又繼續競爭使其更加強大，這究竟意味著什麼？警告終究必須在某個時間點轉化為決定：公司究竟會因為這個風險而做出哪些實質改變。

Altman 目前正公開面對這個臨界點在哪裡、應由誰來設定限制，以及競相打造最強大 AI 的公司能否同意共同放慢腳步等問題。對讀者而言，值得關注的是這些討論能否轉化為競爭對手實驗室真正遵守的具體承諾。Shontell 在兩人廣泛的談中就此追問，內容可於此觀看。

Ruth Umoh — ruth.umoh@fortune.com

本文最初發表於 Fortune.com。