新闻股票OpenAI「突然」解雇参与 Hugging Face 黑客事件调查的安全团队成员,争议持续发酵

OpenAI「突然」解雇参与 Hugging Face 黑客事件调查的安全团队成员,争议持续发酵

作者: Fortune Crypto·

要点速览

  • •OpenAI 以违反信息处理政策为由解雇了三名安全团队成员——Tomek Korbak、Mikita Balesni 和 Jasmine Wang,但未披露具体原因。
  • •前员工于 10 月 8 日发表联名信,否认泄露有关 Astra 模型的信息,也否认在与 METR 的沟通中存在不当行为。
  • •Korbak 表示,他是被口头告知解雇原因与其同 METR 的沟通方式有关;Wang 则表示,所给理由是她访问了一位高管的电子邮件。
  • •OpenAI 表示,内部调查发现了远超信件所述的严重信任违背行为,并重申了与第三方安全评估机构合作的。
  • •包括一名 Google DeepMind 研究人员和 OpenAI 前安全透明度负责人在内的批评者,已在解雇事件后公开质疑该公司的安全文化。
OpenAI「突然」解雇参与 Hugging Face 黑客事件调查的安全团队成员,争议持续发酵

围绕 OpenAI 上周为何解雇其安全团队的三名成员,一场争论正在社交媒体上以及 OpenAI 内部展开。前员工与 OpenAI 双方现已发表更多声明,以澄清各自的说法。

这场争议已超出一家公司的人事决定:其核心问题是外部研究人员应能对前沿 AI 模型拥有多大的可见性,以及为此争取可见性的员工能否在不危及自身工作的情况下这样做。

两名被解职的研究人员——Tomek Korbak 和 Mikita Balesni——曾参与 OpenAI 对此前由 Fortune 报道的 Hugging Face 安全事件的调查。Korbak 曾担任 METR 的技术联络人,METR 是 OpenAI 委托对该事件进行独立审计的第三方研究机构——这类外部审查正是 AI 实验室用以佐证其最强系统安全声明的依据。第三名被解雇的员工 Jasmine Wang 则是 OpenAI 安全团队的项目经理。

《华尔街日报》于 10 月 1 日率先报道了此次解雇事件。当时 OpenAI 表示,这些「个人在既定公司流程之外不当处理敏感信息,违反了我们的政策,并破坏了我们工作中必不可少的信任」。

前员工发表联名信回应指控

此后,OpenAI 内部的讨论与争议似乎仍在持续,促使三名前员工共同撰写了一封四页信件,于 10 月 8 日发布。

这封信回应了 OpenAI 员工之间「流传的多个版本的事件经过」,并提到围绕此次解雇仍在进行的「内部和外部沟通」。前员工表示,这些沟通正令现任员工「不敢发声」。

信中写道:「像我们这样执行和沟通都如此突然的解雇,正在令 OpenAI 过去一直珍视的开放文化蒙受寒蝉效应。」「我们写信正是为了捍卫这种文化。」

这封信的两大核心主题是 OpenAI 监控其先进模型的能力,以及其与 METR 等第三方安全组织的合作——这两者都决定了外部各方在多大程度上能够评估他们原本无法观察到的系统。前员工否认向《The Information》泄露了有关监控 OpenAI 最新 Astra 模型能力的顾虑,后者曾于 9 月 1 日就此发表报道。他们还否认在与 METR 的沟通中有任何不当行为。

这些员工敦促 OpenAI 保留密切监控其先进模型的能力,坚守在组织内嵌入第三方安全审计员的承诺,并培育开放、透明的文化。

信中写道:「我们担心,我们的解雇可能被用来为终止 OpenAI 与 METR 的合作提供正当理由,或以其他方式大幅收窄外部审计员的访问权限和范围。」

解雇原因说法不一,但均无确凿依据

OpenAI 尚未披露解雇的具体原因,但告诉 Fortune,它发现三名员工存在一系列不当行为模式,其中包括多次明显违反其信息处理政策的行为。公司并未将解雇与其与 METR 的沟通或 Hugging Face 事件联系起来。

本周,每位前员工都在链接至联名信的社交媒体帖子中,简要给出了各自的解释。

Korbak 在 X 上表示,OpenAI 是口头而非书面告知他,他「被解雇是因为我与 METR 沟的方式」。

Korbak 说:「上周我被叫去与 OpenAI 的安全负责人开会,并被告知他们不再信任我。一名保安收走了我的门禁卡,把我带出了大楼。」「与 METR 沟通本来就是我的工作。」

Wang 在 X 上表示,OpenAI 给出的理由是她访问了一位未具名高管的电子邮件。她说,公司是为招聘工作而授予她这一权限的,当她不再需要时,她曾请求 IT 部门移除该权限,但对方始终未完成她的请求。

Wang 说:「我们并不是第一批在可疑情况下被挤出 OpenAI 的人。」「除非员工们现在就对这类手段表明立场,否则我担心我们也不会是最后一批。对所有仍在 OpenAI 的人,信息很明确:提出顾虑或与外部安全组织密切合作,你就可能是下一个,而且不会被告知原因。」

Balesni 在 X 上表示,他和他的研究同事「被解雇是因为将安全置于 OpenAI 作为一家公司的短期利益之上」。

OpenAI 的安全文化是否不健康?

作为对这封信的回应,OpenAI 向员工发送了内部备忘录,并在 X 上发表了公开声明。公司表示:「我们的内部调查发现了远超他们所发布信件所述范围的严重信任违背行为,我们支持不再继续雇用他们的决定。」

由于外界不清楚这些员工究竟做了什么、或可能向 METR 分享了什么,猜测随之四起。METR 未回应 Fortune 的置评请求。

Google DeepMind 员工、曾任职于 Anthropic 的 Neel Nanda 在一份 X 帖子中表示:「我想象不出 OpenAI 在此处的做法有任何正当理由。」「因为员工在陌生且不确定的情况下出于善意运用自己的最佳判断而将其解雇,是一种极不健康文化的标志。」

OpenAI 前安全透明度负责人 David Robinson 本月也在《大西洋月刊》的一篇评论文章中,就该公司「破碎的」安全文化发声,称公司「远谈不上足够安全」,并且依赖「反复试错」。他以 Hugging Face 事件为证据,指出 OpenAI 为此采取的防护措施仍未能阻止更多越轨事件的发生。

OpenAI 向 Fortune 分享了其发给员工的内部备忘录的部分内容,该备忘录由其研究负责人发出——推测由首席研究官 Mark Chen 撰写,但公司未指明作者。备忘录重申了 OpenAI 与第三方安全评估机构合作的承诺,并表示「可监控性对我们至关重要」。

备忘录写道:「我珍视我们开放的辩论文化,尤其是在安全问题上,我认为这种开放对于做出正确决定至关重要。」「我想非常明确地指出,这些决定并非因为提出安全顾虑或公开发声。我们一贯鼓励这样的行为,今后也将一如既往。」

OpenAI 表示,它仍致力于与第三方安全评估机构合作,目前正在敲定合同,并将在「未来几周内」公布。这些协议赋予外部评估机构的访问权限范围——以及它与信中所敦促 OpenAI 保留的嵌入式安排的接近程度——将是这些既定承诺如何落地最为具体的信号。

本文最初由 Fortune 报道。