美國總統 Donald Trump 表示，他「不擔心」人工智慧導致人類滅絕；與此同時，OpenAI 與 Anthropic 的研究人員公開提出對 AI 系統快速發展風險的嚴重疑慮。

週四被問及 AI 是否可能導致人類滅絕時，Trump 回答：「不，我沒有任何擔心。」他表示，自己的首要關切是確保美國在與中國的 AI 競賽中勝出。

Trump 告訴記者：「我擔心的是，如果我們沒有贏得 AI 競賽，我們將陷入非常不利的局面。」他補充說，他認為目前美國約領先中國一年。

就在上述言論發表之際，全球兩家領先 AI 公司旗下的員工與研究人員警告，AI 的發展速度可能過快，導致安全措施無法同步跟上。這些相互競爭的優先事項，使 AI 的發展速度與安全防護的範圍成為爭論核心。

研究人員對遞迴式自我改進提出疑慮

Anthropic 研究人員 Jacob Coxon 週二宣布離開該公司。Coxon 表示，Anthropic 與 OpenAI 正在「拿我們的生命下注」，並聲稱 AI 開發人員認為，AI 可能「在這十年結束前把我們全部殺死」。兩家公司的其他員工也表達了類似疑慮。

AI 安全研究人員的一項核心擔憂是遞迴式自我改進（recursive self-improvement），簡稱 RSI。這個詞指的是 AI 模型獲得在沒有人工協助的情況下改進自身表現的能力。

OpenAI 對齊研究人員 Jasmine Wang 週三晚間發文表示：「很難誇大其詞地描述加速邁向 RSI 有多麼危險。」

OpenAI 首席科學家 Jakub Pachocki 週六進一步表達了相關疑慮。他表示，自己「強烈預期」AI 的進展可能持續進入遞迴式自我改進的階段。

Pachocki 表示：「我擔心，沒有人準備好面對機器智慧持續快速提升所帶來的後果。」

國會推動加強 AI 監管

兩黨議員正尋求加強對先進 AI 系統的監管。7 月，眾議員 Jay Obernolte 與眾議員 Lori Trahan 宣布計畫提出 FRONTIER Act，該法案將為先進 AI 模型的部署制定相關規則。

Trahan 週三在 X 發文表示：「安全研究人員正在辭職，強大的 AI 模型正在逃出實驗室，而各家公司仍在爭相前進。國會早就該停止袖手旁觀，履行自己的職責。」

本月稍早，參議員 Bernie Sanders 與眾議員 Greg Casar 提出 Ban Artificial Superintelligence Act。該法案將暫停先進 AI 的開發，直到聯邦政府制定安全規則。這些提案顯示，政策辯論不僅涉及先進模型應如何部署，也涉及在新的安全防護措施到位前，開發是否應該繼續。

Trump 尚未表態支持其中任何一項法案。他仍著重於讓美國在全球 AI 競賽中保持對中國的領先地位，凸顯政府立場與 AI 安全研究人員所表達的疑慮之間日益擴大的分歧。

來源：CoinCentral。