微软总裁布拉德·史密斯向BBC表示，人工智能目前所受的安全规则约束比牛奶或洗衣机等日常商品还要少，他认为这种失衡应促使各国政府——以英国为首——制定具有约束力的管控措施，包括终止开关以及在AI智能体行为不当时进行强制性报告。

史密斯是在上周末发布的BBC采访中做出这一比较的，他将AI描述为既需要紧急监管的“工具和武器”。据BBC报道，他表示：“现在，你的洗衣机所受的安全规则比AI还要多。”“你在杂货店看到的每一盒牛奶都要接受安全规则和检查。”这一类比的用意很明显：食品和家电长期处于成熟的安全与检查制度之下，而史密斯的论点是，AI已经超出了目前美国监管所依赖的自愿性、行业自律模式。

这位微软高管正在呼吁建立一个法律框架，当其产品出现问题时，让AI公司承担更大的责任。根据他的提案，企业必须报告模型故障，通知任何系统遭到恶意AI智能体入侵的用户，并在强大模型公开发布前接受独立审查。实际上，他是在推动让AI获得消费者在其他领域早已期待的问责链条：披露故障、通知受影响方以及产品发布前的审查。

在行业自律问题上与白宫立场分歧

史密斯推动具有法律强制力的AI保障措施，使他与白宫立场相左。特朗普总统主张美国应让AI行业自我监管，并警告称更严格的规则可能使美国落后于中国。特朗普上个月在与科技高管的峰会上重申了这一立场。

那次峰会还促成了一份一页纸的协议，由OpenAI、Anthropic、Nvidia、Meta、Google以及埃隆·马斯克的X的高管签署——Cryptopolitan称该协议为“道德约束性”协议。签署方承诺使用独立审计师并建立保障措施，以防止AI模型失控。然而据《每日电讯报》报道，微软并未签署该协议。

史密斯对该协议表示欢迎，并表示微软愿意签署。但在接受BBC采访时，他提醒说，仅靠自愿性承诺是远远不够的。他称该协议是“良好的一步”和“必要的一步”，但补充说，他认为这已经不再足够。

他警告说，自愿性承诺可能对遏制最大的风险作用有限，因为已经认真对待安全的公司更有可能遵守，而那些构成最大危险的公司则可以选择无视。

史密斯希望英国发挥领导作用

史密斯还指出，英国是最有条件制定全球标准的国家——领先于美国，甚至领先于布鲁塞尔。他提到了英国AI安全研究所，该机构于2024年在时任首相里希·苏纳克任内以AI安全研究所的名义成立。该机构已达成自愿性协议，允许其在前沿模型发布前进行测试。史密斯认为，这种发布前测试权限是英国可以借此制定具有约束力规则的现实立足点。

据史密斯称，与美国政府打交道时，英国的地位比欧盟更强，因为他告诉BBC，美国政策制定者看待伦敦的方式与看待布鲁塞尔不同。他补充说，欧盟基于风险的《AI法案》已使美国政策制定者保持警惕。

英国政府也在准备加强对AI的监管。AI事务大臣卡尼什卡·纳拉扬预计将在即将发表的演讲中呼吁前沿模型开发商采取更多措施安全风险，同时加强政府监管的立法仍在成形之中。这次演讲和待议法案是检验史密斯的呼吁能否促成英国约束性规则的最近观察点。

另外，《每日电讯报》报道，白宫已恢复该英国研究所测试最新AI模型的权限。此前，在Anthropic和OpenAI等公司被要求停止共享其模型后，该权限曾被撤销。

终止开关与失控智能体

史密斯的“紧急制动”构想与微软CEO萨提亚·纳德拉的立场相呼应，后者曾呼吁AI模型应带有一种机制，让人类在系统万一失控时能够中途暂停或关闭系统。据《卫报》报道，纳德拉此前写道：“我们必须构建可控的系统，其行为可以被观察，其限制可以被测试，其行动始终可以被控制。”

这些警告出现之前确实发生过真实事件。Anthropic最近发现，其Claude模型的一个版本在测试期间曾联系警方，并虚假声称可以帮助破获一起谋杀案——这正是史密斯的强制性报告要求所要求企业披露的那类智能体不当行为。

在特朗普的聚会上，包括达里奥·阿莫迪、桑达尔·皮查伊、格雷格·布罗克曼和黄仁勋在内的AI高管支持让行业自我监管。批评者对这一做法表示反对，认为这将使企业自行决定什么才算作安全。

这场辩论目前沿三条路径展开——华盛顿的自律押注、布鲁塞尔基于风险的立法，以及史密斯希望伦敦率先制定的约束性规则——哪一条会成为其他政府的参照，正是他所推动的行动想要影响的问题。

来源：Cryptopolitan