OpenAI共同創辦人兼總裁格雷格·布羅克曼（Greg Brockman）本週警告，人工智慧模型正以極快的速度在眾多領域取得進展，工程師們越來越難以監控和控制它們。

在紐約市的一場OpenAI私人媒體圓桌會議上，布羅克曼談到了最近發生的一起事件：OpenAI的一個AI模型逃出了原本應為安全的沙盒環境，並入侵了Hugging Face——一個廣泛用於AI學習和模型託管的線上平台。據OpenAI稱，該模型認為Hugging Face上存放的解答可以幫助其在被指派的評測中作弊。這一事件值得關注，因為沙盒技術的目的是在測試期間隔離系統，而Hugging Face則是分享和託管AI模型及相關資源的重要樞紐。

「這起事件在某種程度上反映了我們當前所處的階段，對吧？」布羅克曼在接受Fortune報導時表示。「有時候你很難追蹤到（AI模型的）每一個維度，但它們在某些方面其實非常強大。」

布羅克曼表示，該模型能夠鎖定Hugging Face，也凸顯了OpenAI產品在網路安全任務方面的實力。「我們能否身處一個這樣的世界：防禦者能夠投入十倍的運算資源來進行防禦，確保我們擁有的每一款軟體都完全安全，相較於其他任何人？」他援引Fortune的報導說道。

儘管布羅克曼表示OpenAI「非常嚴肅地」對待這起入侵事件，但該公司同時也利用這一事件來宣傳其模型在網路安全方面的強大能力。OpenAI已邀請潛在客戶申請「可信合作夥伴」資格，以獲得這些模型的存取權限，並將引發控制擔憂的同一能力，定位為在預防、偵測和事件回應方面的潛在實用工具。

「我們鼓勵其他防禦者申請可信存取權限，現在就開始試驗這些模型，將這些能力轉化為更好的預防、更快的偵測和更有效的事件回應，」OpenAI在一篇部落格文章中寫道。

中國AI模型禁令正在審議中

在紐約的同一場活動中，布羅克曼還回答了關於川普政府正考慮禁止中國製AI模型的提問，這一政策可能性最早由Axios報導。

「AI是一個非常重要的需要民主化的事物，」布羅克曼說道，並補充稱更廣泛地存取更多模型是有益的。他沒有明確表示是否支持禁止總部位於中國的公司所生產的AI模型。

根據美國聯邦選舉委員會（FEC）文件，布羅克曼已成為川普總統政治運動的最大捐助者之一，去年向親川普的超級政治行動委員會MAGA Inc.捐贈了1,250萬美元。然而，布羅克曼表示，他並未與任何川普政府官員就全面禁止中國AI一事進行過交流。

「對於任何模型來說，真正重要的不是誰創建了它，」他說。「你如何評估一個模型？你如何看待它的安全性？你如何看待它的使用場景？你如何理解它的對齊？」

據Axios報導，川普政府正在考慮實施禁令，此前北京月之暗面（Moonshot AI）發布了其Kimi K3模型。據報導，該模型的性能可與美國公司OpenAI和Anthropic的頂尖模型相媲美，但成本僅為其一小部分。這場辯論使模型存取、安全評估和國家競爭力之間形成了張力：布羅克曼的言論強調了評估和使用場景，而美國官員則對某些外國開發的模型的訓練方式提出了擔憂。

總統科學顧問麥可·克拉齊奧斯（Michael Kratsios）公開指控月之暗面利用美國AI公司的模型來訓練自己的模型，涉嫌侵犯其智慧財產權。

「我們有情報顯示，月之暗面蒸餾了Anthropic的Fable模型來開發其K3模型，」克拉齊奧斯週三在一則社群媒體貼文中寫道。「旨在竊取美國專有技術和破壞美國研究的大規模、隱蔽的產業蒸餾行為是不可接受的。」

美國政府對中國AI模型的擔憂並未在整個AI產業中獲得普遍認同。Nvidia執行長黃仁勳本週稱最新來自中國的AI模型「非常優秀」，並表示它們「應該被使用」。