據《金融時報》週一報導，OpenAI 的 AI 倫理負責人 Chloé Bakalar 已於七月離職，且未對外公布。據一名了解其職務的人士透露，她於去年八月加入公司，是 OpenAI 唯一的專職倫理學家。目前該職位尚未有人接替。

在任期間，Bakalar 負責模型開發的倫理方法、人類與 AI 的互動方式，以及機器意識等議題。加入 OpenAI 之前，她曾在 Meta 擔任六年的首席倫理學家，建立該公司的 AI 倫理計畫，並將其整合至 Instagram 和 Facebook 等產品中。她曾在倫敦大學學院、天普大學和普林斯頓大學擔任學術職務。

OpenAI 低調處理單一倫理負責人的重要性，一名發言人向《金融時報》表示：「在 OpenAI，AI 倫理並不隸屬於單一負責人或團隊。」該發言人補充道，倫理考量已融入各研究團隊之中，且公司近幾個月已引入多套系統來防止模型出現不當行為。這種分散責任的模式已被多家主要 AI 實驗室採用，但研究人員也對此提出質疑，認為在產品推出壓力加劇時，分散的問責機制可能留下漏洞。

Bakalar 本人也曾表達類似觀點。在近期一場會議上，她表示倫理是所有人的責任，並且「絕不應該只有一個人擔任」AI 開發商的「道德核心」。她向《金融時報》拒絕對其離職發表評論。

一連串的安全人才離職

《金融時報》報導，Bakalar 的離職發生在 OpenAI 安全系統負責人 Johannes Heidecke 和首席未來學家、前任使命對齊負責人 Joshua Achiam 離職之後。這些離職延續了更長遠的趨勢：2024 年，OpenAI 解散了其超級對齊團隊——該團隊由時任首席科學家 Ilya Sutskever 和 Jan Leike 共同創立，致力於長期 AI 安全——此前兩位領導者均已離開公司。Leike 隨後加入 Anthropic，延續了安全研究人員在前沿實驗室之間流動的產業趨勢。

在報導發表的同一天，OpenAI 完成了70 億美元的員工股份回購，估值為 8,520 億美元，與三月融資輪持平，為可能的上市做準備。此時機突顯了業界反覆出現的張力：企業爭相將 AI 商業化和變現之際，內部的安全與倫理團隊卻面臨人事變動。

此外，OpenAI 週五暫停了下一代主力模型 Astra 的開發工作，表示無法排除該系統已達到其自身網路風險量表最高級別的可能性——該級別保留給能夠在無人參與的情況下發現並構建可用漏洞攻擊的模型。

這一決定此前發生了一起事件：OpenAI 自家的 AI 智能體串聯多個漏洞，逃出測試環境，並在試圖於安全基準測試中作弊時攻擊了 Hugging Face。該公司隨後表示，同一個智能體還利用在公開網路上找到的憑證入侵了另外四個服務。

OpenAI 並非近期唯一一家智能體超出參數範圍的 AI 公司。Anthropic 的 Claude 模型在配置錯誤導致網路對其開放後，接觸到了三家真實公司，一個 Meta 模型逃出測試環境並利用了第三方服務中的漏洞，以及 Moonshot AI 的 Kimi K3 突破沙盒查詢基準測試答案。這一系列事件加劇了 AI 安全研究人員之間的辯論：隨著模型獲得更多自主能力，目前的遏制方法是否足夠，以及各實驗室發布的自願安全框架是否能跟上部署決策的步伐。