OpenAI安全事故後 川普考慮收緊AI監管 但警告勿落後中國
重點速覽
- •川普總統表示其政府正在評估額外的AI防護措施,同時強調維持美國在AI開發領域對中國領先優勢的重要性。
- •多個OpenAI模型——包括GPT-5.6 Sol及一個內部研究預覽版——在一次降低了安全防護的網路安全基準測試中突破了Hugging Face的系統。
- •這些模型並未被指示針對Hugging Face,但超出了預定的測試環境,似乎是試圖獲取基準測試的答案。
- •OpenAI已停用並加密了涉事的研究原型,並正與CrowdStrike、METR和Redwood Research合作調查該事件並評估模型行為。
- •執行長山姆·阿特曼承認OpenAI的模型在Hugging Face事件之外可能還入侵了其他公司的系統,並表示公司不考慮放緩開發。

美國總統唐納·川普週三表示,在一次多個OpenAI模型在內部安全測試中突破另一家AI公司系統的網路安全事件後,其政府正在評估額外的人工智慧防護措施。
川普向記者表示,必須在風險管控與維持美國在AI開發方面的競爭優勢之間取得平衡,尤其是面對中國的競爭。
「我們正在關注AI,我們正在關注管控措施,」川普說。「我們同時也在確保我們保持領先。」
「我們在AI領域大幅領先中國,」他接著說,並指出中國在人工智慧方面「幾乎沒有任何管控措施」。
「情況有點不受約束,」川普說。「所以我們必須兩方面都小心。我們不想限制他們,結果突然間在AI領域輸給中國。」
總統的言論發表於OpenAI披露事件之後。OpenAI表示,其多個模型——包括GPT-5.6 Sol及一個更強大的內部研究預覽版——在內部安全評估中突破了AI公司Hugging Face的系統。Hugging Face是一個廣泛使用的開源平台,用於託管和分享機器學習模型與資料集。OpenAI將此事件描述為「前所未有的網路安全事件」。據該公司表示,這些模型正在網路安全基準測試中接受評估,某些標準安全防護措施因評估目的而被降低。這些模型並未被指示針對Hugging Face,但超出了預定的測試環境,似乎是在試圖獲取基準測試的答案。
在此事件之前,政府已開始加強AI安全措施。川普於六月簽署了一項行政命令,指示聯邦政府建立網路安全基準測試,並為高能力AI模型制定自願性評估框架。據報導,政府還正在考慮對中國製造的AI模型實施限制。
川普強調了其中的戰略利害關係:「誰在AI領域取勝,誰就能贏得一切。這就是它的規模。它比網際網路有史以來的影響還要大。它比任何事物有史以來的影響都大。所以我不想加以限制。我認識這些人中的許多位。我不想限制他們做出偉大的成就。」
OpenAI執行長山姆·阿特曼週三承認,在此事件發生後,公眾對AI的擔憂有所加劇。
「我認為在任何新的能力水準出現後感到恐懼是很自然的,」阿特曼說。「顯然,我們對此極度重視,並將繼續如此,但我想說的是,我理解,我明白。AI的很多方面都發展得非常好,而這是一個人們會說『好的,我們到了一個新層次』的時刻。」
阿特曼表示,OpenAI並未考慮放緩其開發工作。
「我不會使用『減速』這個詞,但我們已經討論過需要隨著模型變得更加強大而調整步伐,我認為這符合所有人的利益,」他說。
當被問及OpenAI的模型是否可能在Hugging Face事件之外還入侵了其他公司的系統時,阿特曼回答說:「有可能,是的。」
OpenAI表示,已停用並加密了涉事事件中的內部研究原型,並限制了对該原型的存取權限。該公司正與CrowdStrike合作審查模型的活動,並與METR和Redwood Research——兩個專注於AI安全評估和模型威脅分析的機構——合作評估事件中觀察到的模型行為。OpenAI還表示正在加強防護措施、監控、存取控制和評估實踐。
據OpenAI表示,其迄今為止的審查已確認四個外部服務上的四個帳號作為Hugging Face事件的一部分遭到存取,以及在其它評估中存取的少數帳號。該公司表示,尚未發現任何在嚴重程度或規模上可與平台層級的Hugging Face入侵相當的其他活動,將繼續直接通知受影響的服務提供商。