新闻宏观经济白宫与AI公司会面讨论网络安全框架,参议院民主党人警告中国AI安全风险

白宫与AI公司会面讨论网络安全框架,参议院民主党人警告中国AI安全风险

作者: Fortune Crypto·

要点速览

  • •白宫完成了测试前沿AI模型网络安全风险的自愿框架,但尚未披露其内容、审阅者或实施时间表。
  • •由参议员Kirsten Gillibrand领导的参议院民主党人警告称,政府不可预测的AI治理——包括对成品模型的突然出口管制命令——有可能驱使美国企业转向中国AI替代方案。
  • •商务部6月12日的指令迫使Anthropic在全球范围内下线其Fable 5和Mythos 5模型,标志着从限制AI芯片出口转向直接控制成品AI模型。
  • •乔治敦大学研究员Sam Bresnick指出,较低的成本和开放权重微调能力是推动中国AI采用的主要因素,超越了监管不可预测性本身。
  • •DoorDash等公司已经在美国提供商和中国开放权重模型之间分配工作负载——敏感任务交给前者,常规分析交给后者。
白宫与AI公司会面讨论网络安全框架,参议院民主党人警告中国AI安全风险

白宫周二与各大AI公司召开闭门会议,讨论已完成的测试前沿AI模型网络安全风险的自愿框架。该框架源于6月2日的行政命令,允许政府在强大新AI模型公开发布前最长30天内审查其国家安全风险,这一命令基于包括OpenAI、Google和Anthropic在内的公司2023年在拜登政府时期向白宫做出的早期自愿安全承诺。

然而,细节仍然有限。周一,政府宣布已完成框架的最终定稿,但未披露文件内容、审阅者身份以及企业何时开始执行。据Politico报道,据报道出席周二会议的Google、OpenAI和Anthropic已在7月下旬审阅了草案并提交了修改意见。一位白宫官员告诉该出版物,政府正在与"更多"行业合作伙伴接触,而不仅仅是这三家实验室。美国的自愿监管方式与欧盟《人工智能法案》形成鲜明对比,后者于2024年8月生效,对高风险和通用AI系统开发者施加了约束性义务。

参议院民主党人就"不可预测的"AI治理向政府施压

在会议举行之际,参议院民主党人正在批评特朗普政府在AI治理方面缺乏明确性,认为这正驱使美国企业转向更廉价的中国AI替代方案。

"特朗普政府对AI问题缺乏重点、临时性的应对方式,正在危及美国的经济安全和竞争力,"参议员Kirsten Gillibrand在会议前发出的一封信中表示。"美国人民和领先的AI公司需要明确的规则,而不是白宫不断变化的指令。当前政府政策是一场灾难,未能解决安全风险,同时威胁着美国的创新,并将世界推向中国的替代方案。"

这封信由民主党参议员Chris Coons、Mark Kelly、Adam Schiff和Mark Warner共同签署,要求政府就议员们所称的对前沿AI监管的"不可预测方式"提供详细说明。

参议员们援引了商务部6月12日的出口管制指令,该指令迫使Anthropic在全球范围内下线其Fable 5和Mythos 5模型,以及另一项要求OpenAI将其较新的GPT-5.6系统限制向经过审核的合作伙伴推出的请求。这些指令标志着商务部从先前专注于限制向中国出口先进AI芯片,转向直接控制对成品AI模型的访问。

"如果没有管理美国模型的一致政策,"参议员们写道,"消费者和企业将被激励转向外国供应商的模型,包括那些总部位于中华人民共和国的供应商。"

成本和开放性推动中国AI的采用

乔治敦大学安全与新兴技术中心研究员Sam Bresnick认为,参议员们的担忧虽然合理,但并未完全揭示中国AI替代方案吸引美国用户的根本原因。

"我认为使用这些中国模型的意愿,更多是Anthropic、OpenAI、Google对其最强大模型收取溢价的结果,"Bresnick说。

"成本和可微调性是中国AI采用的驱动力。你可以下载权重,让你的工程师根据想要的任何特定应用来微调模型。对很多公司来说,这比为不需要的封闭专有模型支付高价要容易得多。"

关于开放权重的辩论超越了美中关系的范畴。Meta已将其Llama系列作为开放权重模型发布,认为更广泛的获取途径能够实现独立的安全审查并加速创新——这一立场引起了那些对OpenAI、Anthropic和Google专有替代方案的定价和限制感到不满的开发者的共鸣。

虽然Bresnick认为成本是企业转向外国AI的主要原因,但他同意政府的不可预测性加剧了这一问题。

"特朗普对AI监管的混乱方式对国内行业产生了寒蝉效应,"他说。"这正好配合了中国的一贯叙事——他们是负责任的一方,在提供公共产品:廉价、开放权重的AI模型,可以帮助各国发展,帮助全世界的企业更好地开展业务。"

前沿模型可以增强美国的网络防御和军事准备能力,但突然、不透明的访问限制有可能削弱对美国系统的信任,为中华人民共和国制造"可乘之机",参议员们写道。如果领先的美国模型可以在几乎没有通知的情况下被限制或下线,Gillibrand警告说,全球客户"将围绕这种不确定性做出规划"——延迟部署、避免将美国模型集成到关键工作流程中,并通过采用中国或其他外国系统来对冲风险。

企业策略已在调整

外国AI的成本优势,加上对国内模型可靠性的认知,已经在企业分配工作负载的方式中得到体现。DoorDash领导层表示,计划将最敏感的专有任务保留在美国提供商处,同时将常规的、非关键的分析工作转移至中国的开放权重模型,因为后者成本大幅降低。Bresnick预计更多大型公司将采取这种模式,并对资金紧张的初创公司悄悄向外国模型输入敏感数据、缺乏足够审查表示特别担忧。

中国AI公司一直在推广可下载并在本地运行的开放权重系统——这几乎是对参议员信中所警告的"黑箱式美国政府流程"的主动回应,这种流程使美国模型看起来容易遭受突然关闭。

中国的不可预测性同样是一把双刃剑

北京有使用经济胁迫手段的历史,例如切断稀土出口或限制市场准入,将其作为外交政策工具。Bresnick指出,有早期迹象表明中国官员正在讨论是否限制外国用户使用其最先进的模型。

"中国同样不可预测,"他说。"已经有传言说要禁止外国用户访问其最先进的模型。如果你是DoorDash或Airbnb,并且已经围绕中国AI构建了部分软件技术栈,期望这些模型持续改进,你某天醒来可能会发现中国已经决定不再向你提供更新。到那时,你就被困在你所依赖的生态系统中,而它不再以你预期的方式演进。"

这种态势使美国企业面临双重风险:国内突然、不透明的限制,以及来自国外可能的经济胁迫。

议员要求透明度

Gillibrand的信件要求政府明确其判定模型构成国家安全风险的标准、出口管制命令背后的法律授权、哪些机构做出此类决定,以及企业拥有何种追索权。信中还询问官员计划如何避免切断对美国客户、盟友用户、关键基础设施运营商以及不构成真正风险的外国员工的访问。

"这里需要做的部分工作是齐心协力,弄清楚美国如何在这些开放权重模型上竞争,"Bresnick说。"三大AI公司的专有或封闭模型方式无法满足更广泛科技生态系统的需求。如果美国希望在世界各国的技术栈中占有一席之地,就必须想清楚如何在开放性和成本方面与中国模型更具竞争力。"