OpenAI 本週告知員工，公司將考慮放慢人工智慧最先進領域的工作進度。執行長 Sam Altman 也向包括 Anthropic 在內的競爭實驗室提出這項建議；Anthropic 此前另行承認 AI 風險正在升高，並報告稱，與國家機構有關聯的研究人員曾試圖利用其 Claude 模型進行生物武器研究。

OpenAI 表示，出於安全疑慮，公司已暫停部分內部訓練運行，並放慢部分模型開發工作。接連披露的相關資訊加劇了外界對 AI 產業是否發展過快的辯論，尤其是在兩家公司持續釋放可能公開發行訊號之際。

Altman 為何希望放慢 AI 開發？

在一次全員會議上，Altman 告訴 OpenAI 員工，公司與其他願意參與的實驗室可以放慢前沿模型的發布速度。根據 Bloomberg 引述的消息人士，他承認這項安排將是自願性的，並非所有公司都會同意參與。這種自願方式與 OpenAI 後來呼籲制定以能力為基礎的強制性規範形成對比，也使競爭實驗室之間的協調，以及政府要求的範圍，成為辯論的核心議題。

外界對自願暫停持懷疑態度並非沒有先例。2023 年 3 月，Elon Musk、Steve Wozniak 及逾 1,000 名其他人士簽署公開信，呼籲暫停先進 AI 工作 6 個月。當時的媒體報導稱，參與的實驗室最終並未落實它們共同提出的暫停措施。這封公開信可透過 Axios 查閱。

OpenAI 首席科學家 Jakub Pachocki 也在 9 月 6 日的貼文中提出類似呼籲，要求 AI 公司協調「在需要時放慢未來的開發速度」。Pachocki 表示，他希望自願放緩能「在共同的安全標準建立之前成為常態」。

Altman 7 月表示，他已向白宮官員說明放慢 AI 開發速度的必要性。他與 Anthropic 執行長 Dario Amodei 此前也曾共同簽署一份僅有一句話的聲明，宣稱 AI 構成社會尺度的滅絕風險。該聲明刊載於 AIstatement.com。

AI 模型能否支援生物武器研究？

AI 模型的發展已達到可能支援生物武器研究的程度。本週稍早，OpenAI 表示其模型已解開 Navier-Stokes 數學問題，但這項說法是在存在爭議的條件下提出的。

Anthropic 在 9 月 10 日發布的一份 154 頁威脅情報報告中，為這場辯論增添了新內容。報告描述了 5 起研究人員試圖利用 Claude 的能力支援生物武器工作的案例。Anthropic 表示，這些嘗試來自「不受支援的地區」，並涉及繞過所在地限制及掩蓋相關活動目的。該公司表示已移除相關帳戶，但沒有公布涉及的國家或機構。報告中關於生物濫用的章節可在 Anthropic 官網 查閱。

AI 研究人員的疑慮升高

相關報告發布之際，主要 AI 實驗室內部及曾與其有關的人士接連公開發出警告。9 月 8 日，研究人員 Jacob Coxon 辭職，並指控 OpenAI 與 Anthropic「拿我們的生命下注」。他表示，一些同事認為這項技術可能「在本十年結束前殺死我們所有人」，並警告人類可能在 2030 年滅絕。他的貼文獲得逾 1.5 億次瀏覽。

9 月 10 日，Anthropic 與 Google DeepMind 的前員工表達了類似疑慮，並要求提高透明度。7 月下旬發起的一份請願，旨在建立放慢 AI 開發的機制，已獲主要 AI 公司逾 1,000 名員工簽名。

OpenAI 目前正敦促國會採納強制性、以能力為基礎的安全規範，涵蓋測試、獨立評估、網路安全與事故通報。全球事務長 Chris Lehane 寫道：「AI 加速 AI 開發的前景，需要的不只是自願性承諾。」這些提案將重點放在先進系統應如何接受測試與監控，而不只是公司是否同意暫停開發。

加州率先採取行動。州長 Gavin Newsom 於週三簽署 SB 813 與 AB 1405；配套法案 AB 1864 則旨在防範 AI 促成的生物威脅。

在華盛頓，參議員 Bernie Sanders 提出法案，要求暫停先進 AI 開發並禁止人工超級智慧。他接受 BBC 訪問時表示，無視科學家警告的人會是「白痴」。

美國總統 Donald Trump 反對這種做法，週四表示，他擔心「如果我們不能贏得 AI，我們將陷入非常不利的處境」。

最初由 Cryptopolitan 發布。