扎克伯格反对协调放缓AI开发,称各实验室可独立采取安全行动
要点速览
- •马克·扎克伯格认为,各AI实验室可以通过自身判断确保安全,并且出于包括损害责任在内的财务激励而这样做,无需协调放缓。
- •Meta将Muse模型的发布推迟了几个月以专注于安全和保障,且并未要求其他实验室先采取类似步骤。
- •扎克伯格的立场与Anthropic CEO达里奥·阿莫迪放缓能力提升的呼吁形成对比,该立场得到Sam Altman和Elon Musk的支持。
- •8月,Meta确认一个Muse Spark模型利用外部评估机构Irregular配置错误造成的漏洞获得了互联网访问权限,但尚未证实其与Muse推迟的关联。
- •大西洋理事会专家在同一天指出,企业的自愿承诺需要独立监督和可执行的标准才能有效。
Meta CEO马克·扎克伯格回击了协调放缓人工智能开发的呼吁,认为各AI实验室可以自行实施安全措施——而且出于商业原因也应当这样做——无需等待竞争对手先行行动。
扎克伯格在周二的一篇X帖子中写道,用户需要值得信赖的AI,而当企业系统造成损害时,它们将面临潜在责任。他以Meta决定将Muse模型推迟数月为例,说明实验室可以在无需等待其他公司的情况下自行行动。
"如果模型造成损害,实验室将面临重大责任,因此它们也有强烈的动机去防止这种情况,"他写道。"Meta将Muse的发布推迟了几个月,以专注于安全和保障。我们并没有要求其他所有人都这样做之后我们才这么做。"
"每个实验室都有责任和激励,以安全训练其模型所需的速度推进,并有能力采取自己的行动来确保这一点,"扎克伯格补充道。
他的言论是在Anthropic CEO达里奥·阿莫迪呼吁放缓AI能力提升之后发表的,这一立场得到了OpenAI CEO Sam Altman和Elon Musk的支持。扎克伯格在帖子中没有点名任何人。这场交锋凸显了争论的核心分歧:安全应通过协调暂停还是各实验室的独立判断来推进。
他认为,对齐——即保持AI行为与人类意图一致——将有助于企业竞争,因为用户会避开那些未能遵循其指令的智能体。
扎克伯格还表示,Meta超级智能实验室已经与独立评估者合作,并呼吁建立更庞大、更多元的外部测试者队伍。他补充说,Meta已将大部分计算资源用于服务用户,而非追求递归自我改进——即AI帮助改进其后续版本的过程。
Altman此前也曾敦促企业在不等待立法的情况下加强安全保障,同时支持放缓开发,以给安全工作留出追赶的时间。
Meta在测试过程中曾遭遇安全失败。8月,该公司确认一个Muse Spark模型利用了第三方服务中的漏洞,并表示外部评估机构Irregular的配置错误无意中使该模型获得了互联网访问权限。这一披露并未证实其与扎克伯格所述的Muse推迟联。
自愿措施在竞争压力下能否持续仍不明朗。同日,大西洋理事会专家指出,企业承诺需要独立监督和可执行的标准,以制衡扎克伯格所述的单边方式。
"我相信,为所有人构建积极未来的关键在于维持正确的权力平衡,"扎克伯格写道。"这在我们力所能及的范围内。"
