OpenAI 首位人權與負責任部署主管 Sarah Yager 表示，軍方採用人工智慧所引發的問題讓她時刻掛心——而這項技術在目標鎖定與自主武器方面的潛在運用，正是最令她擔憂之處。

「每個人都非常擔心，這也理所當然，」Yager 週二在紐約市舉行的 ScaleUp:AI 大會舞台上說。「讓我夜不能寐的是：『在目標鎖定方面，軍方會如何運用 AI？自主武器又會如何？這一切將走向何方？』」

Yager 於 6 月接下這個新設的職位，為這家公司帶來約 30 年的人權領域經驗。該公司與戰爭部（DoW，即更名後的國防部）的合作，使其處於美國軍方推進 AI 的核心位置。她的職責範圍完全聚焦於軍事應用。

世界各國軍方正在迅速將 AI 納入其作業，同時開發無人機和機器人等新型武器與自主系統。Yager 如今從全球最強大的 AI 公司內部，應對這一轉變所帶來的艱難問題。

「我一直想走進那些人權未必是主流觀念的地方去說服人們，」她說。「恕我對 OpenAI 同事們失禮，我現在身處獸腹之中，這對我來說其實是一個非常自在的位置，因為我熱愛的就是說服、討論、辯論，並希望有所改變。」

爭議合約之後的不尋常人事

OpenAI 於 2 月下旬與戰爭部簽訂合約，在機密環境中部署先進 AI 系統後不久，便邀請 Yager 擔任此職。這項備受矚目的交易，發生在戰爭部與 Anthropic 公開決裂之後。Anthropic 曾尋求對其技術的軍事用途設置護欄——特別是禁止大規模公眾監控與全自主武器——但戰爭部無法接受。該部門隨後將 Anthropic 標記為供應鏈風險，OpenAI 則趁勢接手合約，並聲稱成功說服戰爭部同意類似的監控與自主武器護欄。OpenAI 在公司部落格文章中描述了這項協議。

對 Yager 而言，到 OpenAI 工作並非「立即答應」。她擔心，正如台上主持人所形容，自己可能只是被聘來做一場「品牌形象工程」——一個能讓公司看起來有責任感、卻對技術沒有實際影響力的門面人物。她在盡職調查中與員工交談，特別是「那些非常擔心自己所創造的東西以及由誰掌舵的年輕世代」。這促使她接受這個職位，看看自己能否帶來改變。

真實的風險與真實的影響力

自加入以來，Yager 在影響技術發展方向上取得了一定成效，但對其走向仍有憂慮。上個月 CNN 報導，美國軍方曾依據一份不準確的 AI 生成情報報告，差點鎖定一艘中國軍艦——這次驚險事件正好落在她所說最令她擔憂的目標鎖定問題上。

Yager 一直直接與研究人員和工程師合作改進模型，包括確保模型對《日內瓦公約》所確立的戰爭法等基礎國際協議作出恰當回應，這些公約於 1949 年在二戰後確立。她邀請國際專家「真正坐在鍵盤前，針對極高風險情境輸入提示詞」，再由工程師根據回應調整模型。

「這是前所未有的事，所以讓我非常有成就感，」Yager 說。

她認為，AI 公司在定義人性與道德等問題上是在「重新發明輪子」，而這些問題社會早已解決。「社會已經想清楚了很多這類事情，它叫做人權。這應該是底線，」她談到《日內瓦公約》協議時說。「我不要 AI 公司來告訴我什麼是善。如果我們允許產業來決定什麼是善，那就會是一場無法無天的混亂。」

「回歸人權中的人」

Yager 也對矽谷關於 AI 系統——尤其是新興代理技術——是否應享有權利的長期辯論表示不安。OpenAI 在她的面試過程中曾提出這個問題。她當時回答「不」，並重申她的重點是人權，但此後她對這個問題有了更多思考。如今她對關於「代理如何融入法律結構、勞動結構、稅務結構」這類「極其重要」的討論持更開放的態度，但指出這些問題並不屬於權利範疇。

「這完全無法與人權相提並論，我真心希望我們能回歸人權中的人，」她說。台下聽眾——大多是西裝筆挺的商界人士——開始鼓。「為這句話送上熱烈掌聲，」台上主持人說。

誰在打造 AI 很重要

Yager 的另一項憂慮，是打造 AI 的群體在人口組成上相對封閉。上週，川普總統在華盛頓召集數十位科技業領袖討論 AI 安全。這項自願性安全協議的所有簽署者都是男性，而從午宴活動更大範圍與會者的照片來看，除了 AMD 執行長 Lisa Su 之外，所有出席者也全是男性。

「男性很棒，但這是一張非常男性化的照片，呈現的卻是將決定 AI 走向的人，」Yager 說。「其中一個問題是，AI 正從根本上改變全球人與人之間的權力平衡。而你在那裡看不到受影響的社群。」

Yager 指出，政府本身也在迅速採用 AI。她正協助政府問責辦公室與督察長辦公室等監督機構建立工具，以掌握政府的動向——她說這種問責機制「對民主而言非常重要」。如此一來，她的角色不僅限於形塑 OpenAI 自身的模型，還延伸到協助聯邦監督機構審計政府自身的 AI 採用。

本文最初刊載於 Fortune.com。