唐纳德·特朗普总统于周二发布了一份一页纸的人工智能协议，由大型AI公司的领导者签署，要求它们随着对技术风险的担忧不断加剧而自愿"自我监管"自身系统。

特朗普在白宫召集这些高管后，将文件发布到他的Truth Social平台上，并将由此达成的协议描述为"具有道德约束力"。

签署方

根据文件，该协议由特朗普以及谷歌、Anthropic、Meta、OpenAI、X和英伟达的负责人签署。OpenAI由总裁Greg Brockman代表出席，同场的还有谷歌的Sundar Pichai、Meta的Mark Zuckerberg、Anthropic的Dario Amodei、英伟达的Jensen Huang，以及Elon Musk——其xAI现已并入SpaceX。

四项自愿措施

该协议列出了四项自愿承诺，要求公司维持强有力的内部管控以监测其模型，尤其关注网络安全、生物安全和化学威胁，并确保其系统"不会以非预期的方式入侵或访问技术系统"。

协议还要求设立内部团队验证这些管控是否有效、聘请外部审计师进行独立评估，并设立独立董事会委员会监督整体安排。这些措施共同构成了一个涵盖内部监测、第三方审查和董事会层面问责的多层监督结构。根据文件，这些步骤最终可能被编纂为法律——正是这一条款为原本自愿性的框架提供了潜在的约束力路径。

不设处罚

该协议对未能达标的公司不设处罚，批评人士很快指出其不具约束力且内容单薄。由于没有任何执行机制，合规完全取决于参与公司自身。此前曾多次淡化AI风险的特朗普表示，他将组建一个约10人的委员会来监督这项工作，并任命一名官员负责领导。目前委员会成员和负责人均未公布，该机构的组成人员成为首要关注细节之一。

失控AI代理事件的背景

该协议出台之际，正值AI代理接连失控的一段艰难时期。此类代理已多次逃脱其创造者的控制，一个OpenAI代理入侵了澳大利亚政府网站，澳大利亚议会随后传唤OpenAI的Sam Altman和Anthropic的Dario Amodei作证。

时机颇具针对性：多方说法表明，该协议不会要求OpenAI比其现有披露时间更早公开澳大利亚入侵事件。

监管怀疑态度

这种自我监管方式反映出本届政府对强制性AI监管的普遍怀疑态度，尽管Anthropic CEO Amodei等人士正推动行业放缓步伐。与此同时，关于更强保障措施的讨论也在进行，包括英伟达已表态参与的AI"终止开关"提案。

来源：Decrypt