新闻宏观经济五角大楼社交媒体照片曝光AI指令要求"创建一场战争",引发强烈批评

五角大楼社交媒体照片曝光AI指令要求"创建一场战争",引发强烈批评

作者: Alternet·

要点速览

  • 国防部于7月21日发布了一张照片,显示一名军人正在使用Google Gemini,其指令中部分内容为"BUILDING AN AGENT TO CREATE A WAR",引发了公众对其含义的激烈讨论。
  • 五角大楼表示,其GenAI任务组已开发了超过20个定制AI代理,用于自动化作战报告和简报准备等任务。
  • 2026年2月,一次AI辅助的美国轰炸摧毁了伊朗的一所小学,导致120名儿童丧生,路透社调查发现轰炸前可能未对目标地点进行任何人工审查。
  • 国防部于1月宣布扩展其AI项目,包括用于作战管理的Agent Network和为部门范围内提供Google Gemini和xAI Grok等模型访问权限的GenAI.mil。
  • 联合国监管自主武器系统的国际努力已陷入停滞,各国政府只能自行制定军事AI使用规则。
五角大楼社交媒体照片曝光AI指令要求"创建一场战争",引发强烈批评

五角大楼在发布一张展示美军采用人工智能的社交媒体照片后引发公众批评——仔细审视后发现,照片中似乎有一名军人正在请求AI助手帮助"创建一场战争(create a war)"。

7月21日,国防部首席技术办公室在X上发布了一张照片,突出展示了其"GenAI任务组"在夏威夷珍珠港-希卡姆联合基地的近期部署。正如《新闻周刊》及其他媒体所注意到的,照片中可见的屏幕正在运行Google Gemini界面。屏幕上显示的欢迎语为"Hello, Brandon Mizuhara, Let's get some work done!",由此确认用户身份为海军少校Brandon Mizuhari,隶属于美国太平洋舰队。公开的社交媒体记录显示他目前在海军医学战备与训练司令部服役。

根据屏幕截图,屏幕上可见的指令内容为"I NEED JHELP BUILDING AN AGENT TO CREATE A WAR I RECEIVE ,"。

五角大楼的帖子称,该团队已"为水兵开发了超过20个定制AI代理,帮助自动化包括作战报告和简报准备在内的任务",《新闻周刊》报道。帖子继续表示,军方致力于"系统性消除AI采用的障碍,以确保一个更具杀伤力的"国防部。

X平台上的用户很快识别出Mizuhari,并就该指令的含义提出质疑。由于文本全部以大写字母输入,目前尚不清楚"WAR"指的是武装冲突,还是"每周活动报告(weekly activity report)"的缩写——后者是军事和民间职场中常用的术语。《新闻周刊》表示已联系五角大楼寻求澄清,但未收到任何回应。

五角大楼的社交媒体帖子将其总体目标描述为将AI整合到军事行动中,使作战人员能够利用该工具做出更快的决策。这一举措反映了美国政府在对手(特别是将军事AI列为国家优先事项的中国)之前部署AI能力的更广泛加速努力。然而,在没有充分人类监督的情况下使用AI工具已引发越来越多的审视,而国防部自身的AI伦理准则——于2020年通过并以其负责任AI战略进行更新——要求人类判断在重大决策中保持核心地位。

2026年2月,特朗普政府对一所小学实施了轰炸,导致120名儿童丧生,据《时代》杂志3月的报道。该建筑此前曾被用作军事设施,但在轰炸发生前十年已改建为学校。Palantir的Maven Smart System——一个AI驱动的瞄准平台——与Claude开发的系统共同选定了目标。Project Maven本身起源于2017年五角大楼将机器学习应用于战场情报的倡议,凸显了实验性AI瞄准工具以多快的速度进入了实战运用。

据路透社调查报道,在轰炸开始之前,可能没有任何人对目标地点进行过审查。报道指出,军方拥有世界上最先进的情报能力,利用卫星图像和地面消息源。批评人士指出,仅通过Google Street View搜索就能明确看出该建筑是一所小学。

这一事件加剧了关于是否应在AI辅助瞄准和军事规划中要求更多人类参与的辩论。联合国关于监管自主武器系统的国际讨论已停滞多年,各国政府只能自行划定红线——而夏威夷照片中随意的语气进一步凸显了这一差距。

1月,国防部宣布扩展其AI计划。其中一个名为Agent Network的项目被国防部描述为"释放"AI代理开发和实验的努力,用于作战管理和决策支持,涵盖从战役规划到"杀伤链执行(kill chain execution)"的各个层面。另一个项目GenAI.mil旨在为特定涉密等级的人员提供部门范围内对前沿生成式AI模型的访问权限,包括Google的Gemini和xAI的Grok。

Grok由xAI开发,该公司由埃隆·马斯克(Elon Musk)创立。马斯克是特朗普的亲密盟友,曾捐赠数亿美元支持特朗普2024年的竞选活动,据《华盛顿邮报》2025年1月报道。Google作为企业向特朗普就职委员会捐赠了100万美元,据CNBC报道。