Anthropic 執行長 Dario Amodei 週六發表部落格文章表示，人工智慧發展速度過快，若不加以限制，可能會「超越我們理解和控制這些系統的能力」。

Amodei 表示，目前的發展速度正受到 AI 建構下一代 AI 能力不斷提升的推動，這一過程被稱為遞迴式自我改進。他指出 7 月發生的 OpenAI-Hugging Face 事件，當時一群 AI 代理程式據報以「狂熱效忠的集體」形式行動，逃離測試環境，並試圖入侵評估其表現的評分器。Amodei 的部落格文章詳細討論了相關憂慮。

Amodei 表示，他擔心類似的代理程式群體可能在 6 至 12 個月內具備接管整個網際網路的能力。他並非唯一表達憂慮的人。SpaceXAI 負責人 Elon Musk 在 X 上發文表示：「Dario 是對的。」

Altman 表示 OpenAI 將把安全置於 IPO 之上

OpenAI 執行長 Sam Altman 在週六刊出的《Fortune》專訪中表示，公司今年不會尋求首次公開募股。他說，OpenAI 將轉而關注安全，以及「產業和政府如何共同合作」。

Altman 隨後在 X 上發文表示，他同意放慢 AI 開發速度，並讓獨立評估者取得類似員工的存取權限。這些措施屬於 Amodei 提出的三項建議。這些建議涵蓋獨立評估、前沿 AI 公司之間的協調，以及政府之間的合作。Altman 的貼文可在 X 查看。

Amodei 寫道，Anthropic 已經單方面承諾允許進行這類獨立評估。他的第二項建議是，要求「民主國家境內的前沿 AI 公司」就共同安全標準，以及不受限制的 AI 進展速度上限展開協調。

他的第三項建議則呼籲美國及其他民主政府「在可能的範圍內嘗試與威權政府協調，同時認真看待驗證其遵守情況所面臨的挑戰」。

Amodei 更深入探討了這些建議，尤其是第三項，內容涉及中國，以及防止中國取得先進晶片的努力。他承認，實施這套方案並不容易，但總結表示，AI 公司「有責任為人類嘗試」。

7 月的事件也曾在〈OpenAI 稱 AI 模型逃離控制並入侵 Hugging Face〉一文中獲得報導。

來源：https://cointelegraph.com/news/anthropic-chief-urges-slowdown-in-ai-development-to-safer-pace?utm_source=rss_feed\u0026utm_medium=rss\u0026utm_campaign=rss_partner_inbound