OpenAI首位人权与负责任部署负责人Sarah Yager表示，军方采用人工智能所引发的问题时刻萦绕在她心头——而这项技术在目标锁定和自主武器方面的潜在应用是最令她担忧的。

“每个人都非常担忧，这是有道理的，”Yager周二在纽约市举行的ScaleUp:AI大会上表示。“让我夜不能寐的是：‘军方在目标锁定方面会用AI做什么？自主武器又该怎么办？这一切将走向何方？’”

Yager于6月出任这一新设立的职位，为这家公司带来了约30年的人权工作经验。OpenAI与战争部（DoW）——即更名后的国防部——的合作伙伴关系，使其处于美国军方推进AI应用的核心位置。她的职责重点正是军事应用领域。

世界各地的军队在开发无人机和机器人等新式武器和自主系统的同时，正迅速将AI融入其行动之中。Yager如今身处全球最强大的AI公司之一，直面这一转变带来的种种难题。

“我一直希望能进入那些人权未必是主流理念的地方，去说服人们，”她说。“请原谅我的OpenAI同事们，我现在身处‘野兽腹中’，但这对我来说其实是一个非常舒适的位置，因为我热爱的就是去说服、讨论、辩论，并希望真正推动改变。”

一份争议合同后的意外任命

OpenAI在2月底与战争部签署合同、在其机密环境中部署先进AI系统后不久，便向Yager发出了邀请。这项备受瞩目的协议达成之前，战争部与Anthropic曾公开闹翻。Anthropic曾寻求对其技术的军事使用设置防护机制——具体包括禁止大规模公共监控和完全自主武器——但战争部拒绝接受。随后，战争部将Anthropic列为供应链风险，OpenAI则趁势接下合同，并声称已成功说服战争部同意类似的监控和自主武器防护机制。OpenAI在公司博客文章中描述了这一协议。

对Yager而言，加入OpenAI并非“立即答应的事”。正如台上主持人所言，她担心自己可能只是被聘来作一场“品牌形象工程”——一个能让公司看起来负责任、但对技术却毫无实际影响力的门面人物。她进行了尽职调查，与员工交谈，尤其是“那些对自己正在创造的东西以及由谁掌舵深感忧虑的年轻一代”。这最终说服她接受这一职位，看看自己能否真正带来改变。

真实的风险与真实的影响力

入职以来，Yager在影响技术发展方向方面取得了一定成效，同时也对技术的走向保持担忧。上个月，CNN报道美军因一份不准确的AI生成情报报告而险些将一艘中国军舰锁定为目标——这一惊险事件恰好印证了她所说的最令她担忧的目标锁定问题。

Yager与研究人员和工程师直接合作改进模型，包括确保模型对基础性国际协议给出恰当回应，例如1949年在二战后《日内瓦公约》中确立的战争法。她邀请国际专家“真正坐在键盘前，为真正高风险的对抗情境输入提示词”，然后让工程师根据回应结果调整模型。

“以前从未有人这样做过，所以这让我非常有成就感，”Yager说。

在她看来，AI公司在定义人性与道德等问题上是在“重复造轮子”。“社会早已解决了其中许多问题，这就是人权。这应该成为基线，”她在谈到《日内瓦公约》协议时说。“我不希望一家AI公司来告诉我什么是好的。如果我们任由这个行业来决定什么是好的，那就会陷入无所约束的混乱。”

‘回归人权中的“人”’

Yager还对硅谷围绕AI系统——尤其是新型智能体技术——是否应享有权利的持续争论表达了不安。OpenAI在面试过程中曾向她提出过这个问题。她当时回答“不”，并重申自己关注的是人权，但此后她对这一问题进行了更多思考。如今，她对关于“智能体如何融入法律结构、劳动结构和税收结构”的“极其重要”的讨论持更开放的态度，但指出这些问题并不属于权利范畴。

“这完全无法与人权相提并论，我真的希望我们能回归人权中的‘人’，”她说。现场观众——大多是身着西装的商界人士——开始鼓掌。“为这番话致以热烈的掌声，”台上主持人说。

谁在构建AI至关重要

Yager的另一项担忧是构建AI的群体在人口构成上相对封闭。上周，特朗普总统在华盛顿召集数十位科技行业领袖讨论AI安全。自愿安全协议的所有签署者均为男性，而从午餐活动的合影来看，在场的所有与会者也都是男性，唯一的例外是AMD CEO Lisa Su。

“男性固然很出色，但决定AI未来的将是一张非常男性化的面孔，”Yager说。“其中一个问题在于，AI正在从根本上改变全世界人与人之间的权力平衡。而在那里，你看不到受影响的社区。”

Yager指出，政府本身也在迅速采用AI。她正在帮助政府问责办公室和监察长办公室等监督机构构建工具，以监测政府的AI使用情况——她说这种问责机制“对民主而言非常重要”。由此，她的工作不仅限于塑造OpenAI自身的模型，还延伸到帮助联邦监督机构审计政府自身的AI应用。

本文最初发表于 Fortune.com。