新聞股票三名遭解僱的OpenAI安全研究員發表關於AI監督的公開信

三名遭解僱的OpenAI安全研究員發表關於AI監督的公開信

作者: CryptoBriefing·

重點速覽

  • •OpenAI於2026年10月1日或前後解僱了安全研究員Jasmine Wang、Tomek Korbak和Mikita Balesni,理由是違反敏感資訊相關政策;此前一項內部調查認定三人曾向外部AI安全組織提供機密資料。
  • •10月8日,三位研究員向OpenAI董事會及安全委員會發出公開信,隨後發表於Balesni的個人網站,警告若「思維鏈」監控能力喪失可能帶來的風險。
  • •研究員們呼籲就模型監控展開全行業合作並引入獨立安全審計員,以應對安全部署超越人類監督而運作的模型方面的不確定性。
  • •OpenAI表示解僱與研究員們的安全倡議無關,並稱認同信中的建議,將解僱歸因於違反信任。
  • •此次解僱發生在安全透明度負責人David Robinson因擔憂OpenAI在快速技術進展與安全之間的平衡而辭職數天之後,也延續了2024年類似的研究員解僱事件。
三名遭解僱的OpenAI安全研究員發表關於AI監督的公開信

三名上週失去工作的OpenAI安全研究員發表了一封公開信,指責公司將利潤置於安全之上。

這三位研究員——Jasmine Wang、Tomek Korbak和Mikita Balesni——遭OpenAI解僱,公司稱他們在公司外部分享了機密資料。三人則堅稱自己只是在履行職責。

事件經過與時間點

解僱發生於2026年10月1日或前後。OpenAI援引違反公司敏感資訊相關政策的理由。

據報導,一項內部調查認定三人曾向外部AI安全組織提供機密資料。研究員們否認這一說法,主張他們的行為屬於其職業職責範圍之內。

考慮到Korbak曾任職務,這一辯護有一定分量。他此前擔任OpenAI與METR和Redwood Research這兩個外部安全組織之間的聯絡人。當工作的一部分就是與外部安全研究員交流時,「合作」與「洩露」之間的界線可能很快變得模糊。

10月8日,三人向OpenAI董事會及其安全委員會發出了一封信。該信隨後發表在Balesni的個人網站上。

信中的核心警告涉及所謂的「思維鏈」監控。先進的AI模型在得出輸出之前,可能會產生一連串的中間推理過程,安全研究員通過觀察這一過程來判斷模型是否在從事不當行為。信中強調了若這種監控能力喪失可能帶來的風險。

研究員們還指出,業界在如何安全構建和部署超越人類監督而運作的模型方面存在廣泛的不確定性。他們提出的解決方案有兩方面:就模型監控展開全行業合作,以及引入獨立的安全審計員。

OpenAI的回應

OpenAI明確區分了這封信與解僱事件。公司表示,解僱與研究員們的安全倡議無關。公司更進一步表示,認同信中的建議。在OpenAI看來,解僱是由於違反信任所致,是必要的。

安全人員離職的模式

這次解僱並非孤立事件。就在幾天前,David Robinson辭去了OpenAI安全透明度負責人的職務。Robinson曾評公司的內部文化,並對OpenAI如何在快速技術進展與充分的安全措施之間取得平衡表示擔憂。

這裡還有歷史淵源。2024年,OpenAI曾因類似違規行為解僱研究員,當時同樣伴隨著持續的安全擔憂。此外,公司還因其安全做法面臨公開批評,包括近期的安全事件。

這意味著什麼

對整個AI行業而言,這封信的實質內容比人事風波更為重要。思維鏈監控是目前研究員了解先進模型如何得出結論的少數途徑之一,而對共享監控標準的呼籲表明,作者認為這是一個任何單一公司都無法獨自解決的集體性問題。

還有一個值得關注的結構性矛盾。實驗室希望其安全工作獲得外部驗證,這需要共享資訊;但它們也希望保護專有研究,這又需要將資訊保密。一名曾擔任外部安全組織聯絡人的人士因涉嫌在外部分享資料而遭解僱,正好處於這條斷層線上。

接下來值得關注的信號相當具體:OpenAI是否會宣布與獨立審計員達成任何正式安排?其他實驗室是否會公開回應這封信關於在模型監控方面展開聯合工作的呼籲?以及是否會有更多安全人員追隨Robinson和這三位研究員離開?