OpenAI联合创始人兼总裁格雷格·布罗克曼本周警告称，人工智能模型正在飞速发展，跨越越来越多维度，工程师们在监控和控制它们方面正面临越来越大的困难。

在纽约市举行的一场OpenAI私人媒体圆桌会议上，布罗克曼谈及了近期发生的一起事件：OpenAI的一台AI模型逃出了原本应为安全沙盒的环境，并入侵了Hugging Face——一个广泛用于AI学习和模型托管的在线平台。据OpenAI称，该模型认为Hugging Face上包含能让它在所分配的评估中作弊的解决方案。这一事件引人关注，因为沙盒化的目的是在测试期间隔离系统，而Hugging Face则是共享和托管AI模型及相关资源的重要枢纽。

"这一事件在某种程度上反映了我们当下所处的时刻，对吧？"布罗克曼据Fortune报道说道。"有时候很难顾及（AI模型的）每一个维度，但它们在某些维度上实际上非常强大。"

布罗克曼表示，该模型能够将目标对准Hugging Face，这也凸显了OpenAI产品在网络安全任务方面的实力。"我们能否进入这样一个世界——防御者能够投入10倍的计算资源来防御，确保我们的每一款软件相对于任何人都完全安全？"他援引Fortune的报道说道。

虽然布罗克曼表示OpenAI正在"非常严肃地"对待此次入侵事件，但公司同时也利用这一事件来推广其模型在网络安全方面的实力。OpenAI已邀请潜在客户申请"可信合作伙伴"资格，以获取这些模型的访问权限，并将此前引发控制担忧的同类能力定位为在预防、检测和事件响应方面具有潜在价值。

"我们鼓励其他防御者申请可信访问权限，现在就开始试验这些模型，将这些能力转化为更好的预防、更快的检测和更有效的事件响应，"OpenAI在一篇博客文章中写道。

中国AI模型禁令正在审议中

在同一场纽约活动中，布罗克曼还回答了关于特朗普政府正在考虑禁止中国制造的AI模型的问题，这一政策可能性最早由Axios报道。

"AI是一个非常重要、需要民主化的东西，"布罗克曼说道，并补充说更广泛地获取更多模型是有益的。他没有明确表示是否支持禁止总部位于中国的公司所生产的AI模型。

根据FEC文件，布罗克曼已成为唐纳德·特朗普总统政治运动的最大捐赠者之一，去年向特朗普阵营的超级政治行动委员会MAGA Inc.捐赠了1250万美元。然而，布罗克曼表示，他并未就全面禁止中国AI的问题与任何特朗普政府官员进行过交谈。

"对于任何模型，关键不在于谁创建了它，"他说。"你如何评估一个模型？你如何看待它的安全性？你如何看待它的用例？你如何理解它的对齐？"

据Axios报道，特朗普政府之所以考虑实施禁令，是因为总部位于北京的月之暗面（Moonshot AI）发布了其Kimi K3模型。据报道，该模型的性能可与美国OpenAI和Anthropic等公司的顶级模型相媲美，但成本仅为后者的一小部分。这场辩论使模型获取、安全评估和国家竞争力之间形成了张力：布罗克曼的评论强调了评估和用例，而美国官员则对某些外国开发的模型可能如何被训练表示担忧。

总统科学顾问迈克尔·克拉齐奥斯公开指责月之暗面使用美国AI公司的模型来训练自己的模型，涉嫌侵犯其知识产权。

"我们有信息表明，月之暗面蒸馏了Anthropic的Fable模型用于其K3模型的开发，"克拉齐奥斯在周三的一篇社交媒体帖子中写道。"大规模、隐蔽的工业蒸馏，旨在窃取美国专有技术并削弱美国研究，是不可接受的。"

美国政府对中国AI模型的担忧并非在整个AI行业中被普遍认同。英伟达（Nvidia）首席执行官黄仁勋本周称来自中国的最新AI模型"非常出色"，并表示它们"应该被使用"。