新闻股票三名被解雇的 OpenAI 安全研究员发表关于 AI 监督的公开信

三名被解雇的 OpenAI 安全研究员发表关于 AI 监督的公开信

作者: CryptoBriefing·

要点速览

  • •OpenAI 于 2026 年 10 月 1 日或前后解雇了安全研究员 Jasmine Wang、Tomek Korbak 和 Mikita Balesni,理由是在内部调查认定三人向外部 AI 安全组织机密材料后,违反了关于敏感信息的政策。
  • •10 月 8 日,三名研究员向 OpenAI 董事会及安全委员会发出一封公开信,随后在 Balesni 的个人网站上发布,警告若失去“思维链”监控能力可能带来的风险。
  • •研究员们呼吁全行业就模型监控开展合作,并引入独立安全审计机构,以应对安全部署超出人类监督范围模型的普遍不确定性。
  • •OpenAI 表示解雇与研究员们的安全倡导无关,并称认同信中的建议,将解雇归因于信任被违背。
  • •此次解雇发生在安全透明度负责人 David Robinson 因担忧 OpenAI 在快速技术进步与安全之间的平衡而辞职数日之后,也延续了 2024 年类似研究员解雇的先例。
三名被解雇的 OpenAI 安全研究员发表关于 AI 监督的公开信

三名上周失去工作的 OpenAI 安全研究员发表公开信,指责公司以利润为先、忽视安全。

这三名研究员——Jasmine Wang、Tomek Korbak 和 Mikita Balesni——已被 OpenAI 解雇,公司称他们向公司外部共享了机密材料。三人则坚称自己只是在履行职责。

事件经过与时间线

解雇发生在 2026 年 10 月 1 日或前后。OpenAI 援引的理由是违反了公司关于敏感信息的政策。

据报道,一项内部调查认定,三人曾向一个外部 AI 安全组织传递机密材料。研究员们驳斥了这一说法,辩称其行为属于其职业职责范围之内。

鉴于 Korbak 此前的职务,这一辩解有一定分量。他曾担任 OpenAI 与两个外部安全组织 METR 和 Redwood Research 之间的联络人。当工作职责的一部分就是与外部安全研究员交流时,“协作”与“泄露”之间的界限可能很快变得模糊。

10 月 8 日,三人向 OpenAI 董事会及其安全委员会发出一封信。此后,该信已在 Balesni 的个人网站上发布。

这封信的核心警示涉及所谓的“思维链”(chain of thought)监控。先进 AI 模型在得出输出之前,会产生一系列中间推理过程,安全研究员通过观察这一过程来判断模型是否在做一些不应做的事。信中强调了如果这种监控能力丧失可能带来的风险。

研究员们还指出,整个行业对于如何安全地构建和部署超出人类监督范围的模型存在普遍的不确定性。他们提出的解决方案有两个方面:全行业就模型监控开展合作,以及引入独立的安全审计机构。

OpenAI 的回应

OpenAI 明确将这封信与解雇事件划清界限。公司表示,解雇与研究员们的安全倡导无关。公司进一步表示,它认同信中的建议。在 OpenAI 看来,解雇是因信任被违背而采取的必要措施。

安全岗位离职潮的迹象

这次解雇并非孤立事件。就在几天前,David Robinson 辞去了 OpenAI 安全透明度负责人的职务。Robinson 曾批评公司内部文化,并对 OpenAI 如何在快速技术进步与充分的安全措施之间取得平衡表示担忧。

此外还有前例可循。2024 年,OpenAI 曾因类似违规行为解雇研究员,当时同样处于持续的安全担忧之中。该公司还面临外界对其安全实践的公开批评,包括近期的安全事件。

这意味着什么

对于整个 AI 行业而言,这封信的实质内容比人事风波更重要。思维链监控是目前研究员窥探先进模型如何得出结论的少数窗口之一。对共享监控标准的呼吁表明,作者认为这是一个任何单一公司都无法独自解决的集体性问题。

还有一个值得关注的结构性矛盾。实验室希望其安全工作获得外部验证,这需要共享信息;同时它们也希望保护专有研究,这又要求信息保密。一名前外部安全组织联络人因涉嫌对外共享材料而被解雇,恰恰落在了这一断层线上。

接下来值得关注的信号相当具体:OpenAI 是否会宣布与独立审计机构达成正式安排?其他实验室是否会公开回应信中关于在模型监控方面开展联合工作的呼吁?以及是否会有更多安全人员追随 Robinson 和这三名研究员的脚步离开?