先週職を失ったOpenAIの安全性研究者3名が、同社が安全性より利益を優先していると非難する公開書簡を発表しました。

研究者であるJasmine Wang、Tomek Korbak、Mikita Balesniの3名は、社外に機密資料を共有したとしてOpenAIから解雇されました。3名は、自身の職務を遂行していただけだと主張しています。

何が起きたのか、いつ

解雇は2026年10月1日またはその前後に行われました。OpenAIは、機密情報に関する社内ポリシー違反を挙げています。

内部調査の結果、3名が社外のAI安全性組織に機密資料を渡していたと結論づけられたと伝えられています。研究者らはこの見方を退け、自身の行為は職務上の責任の範囲内だったと主張しました。

Korbak氏の既往の役割を考えると、この主張には一定の説得力があります。同氏は以前、2つの外部安全性組織であるMETRとRedwood Researchに対するOpenAIの窓口を務めていました。職務の一部が外部の安全性研究者との協議である場合、「協力」と「漏洩」の境界は曖昧になりがちです。

10月8日、3名はOpenAIの取締役会および安全性委員会に書簡を送りました。その後、書簡はBalesni氏の個人サイトで公開されています。

書簡の中心的な警告は、「Chain of Thought」モニタリングと呼ばれる仕組みに関するものです。高度なAIモデルは、出力に至るまでの中間推論の軌跡を生成することがあり、安全性研究者はその軌跡を監視し、モデルが不適切な動作をしていないかを確認しています。書簡は、このモニタリング能力が失われた場合の潜在的なリスクを指摘していますn
研究者らはまた、人間の監視を超えて動作するモデルを安全に構築・展開する方法をめぐり、業界全体に不確実性が広がっていることも指摘しました。彼らの提案は二つあり、モデルモニタリングに関する業界全体の協力と、独立した安全性監査人の導入の呼びかけです。

OpenAIの対応

OpenAIは、書簡と解雇を明確に切り離しています。同社は、解雇が研究者らの安全性に関する提唱活動とは無関係であると述べました。さらに一歩進んで、書簡の提言に同意していると表明しました。OpenAIの見解では、解雇は信頼の裏切りによるものであり、やむを得なかったとしています。

安全性人材の流出というパターン

今回の解雇は孤立した出来事ではありません。わずか数日前には、OpenAIの安全性透明性責任者を務めていたDavid Robinson氏が辞任していました。Robinson氏は同社の内部文化に批判的であり、OpenAIが急速な技術進歩と十分な安全性対策のバランスをどう取っているかについて懸念を示していました。

ここには過去の経緯もあります。2024年にも、OpenAIは継続的な安全性への懸念の中で、同様の違反を理由に研究者を解雇しています。さらに同社は、最近のセキュリティインシデントを含め、安全性対策について公に批判されてきました。

これが意味するもの

AI業界全体にとっては、人員をめぐる騒動よりも書簡の内容こそが重要です。Chain of Thoughtモニタリングは、高度なモデルがどのように結論に至るのかを研究者が把握できる数少ない窓口の一つです。共有されたモニタリング基準への呼びかけは、筆者らがこの問題を、単一の企業では解決できない集団的課題と捉えていることを示唆しています。

注視すべき構造的な緊張関係もあります。研究機関は安全性への取り組みについて外部からの検証を望んでおり、そのためには情報共有が必要です。同時に、独自研究を保護するためには情報を管理下に置く必要があります。外部安全性組織との窓口を務めていた人物が、資料を外部に共有したとして解雇されたことは、まさにこの断層線上の出来事です。

今後注目すべきシグナルは比較的明確です。OpenAIが独立した監査人との正式な取り決めを発表するのか。他の研究機関が、モデルモニタリングに関する共同作業の呼びかけに公に応じるのか。そして、Robinson氏と研究者3名に続き、さらに安全性担当の人材が去っていくのかどうか。