先週、OpenAIが安全性チームの3名を解雇した理由をめぐり、ソーシャルメディアでも、同社の内部でも、議論が交わされています。元従業員とOpenAIの双方が、自らの主張を明確にする追加の声明を発表しました。

この論争は、ひとつの企業の人員決定にとどまらない問題を含んでいます。その核心には、外部の研究者が最先端AIモデルに対してどの程度のアクセスを認められるべきか、また、そのアクセスを求める従業員が職を脅かされることなく発言できるのかという疑問があります。

解雇された研究者のうち2名—Tomek KorbakとMikita Balesni—は、Fortuneが以前報じたHugging Faceのセキュリティインシデントに関するOpenAIの調査に従事していました。Korbakは、OpenAIがインシデントの独立監査を依頼した第三者研究機関METRの技術面での窓口を務めていました。この種の外部レビューは、AI研究所が最も高性能なシステムに関する安全性の主張を裏付けるために活用してきたものです。3人目の解雇者であるJasmine Wangは、OpenAIの安全性チームのプログラムマネージャーでした。

ウォール・ストリート・ジャーナルが10月1日に最初に解雇を報じました。当時OpenAIは、当該の「個人らが既存の社内手続き外で機密情報を不適切に取り扱い、当社の方針に違反し、業務に不可欠な信頼を損なった」と述べました。

元従業員が申し立てに応答する書簡を公開

それ以降も、OpenAIの内部では議論と論争が続いているとみられ、これを受けて元従業員3名は10月8日に公開された4ページの書簡を共同執筆しました。

書簡は、OpenAIの職員の間で「流しているさまざまな出来事の説明」に応答するものであり、解雇に関する「内外のコミュニケーション」が続いていることに言及しています。元従業員らは、これが現職の従業員を「発言しにくく」していると述べています。

「私たちのような解雇が、これほど唐突に実行され伝えられたことで、OpenAIがこれまで大切にしてきたオープンな文化が萎縮させられています。私たちが擁護するために書いているのは、まさにその文化です」と書簡は述べています。

書簡の2大テーマは、OpenAIが高度なモデルを監視できる能力と、METRなどの第三者安全性組織との関わりです。いずれも、外部の関係者が他の手段では観察できないシステムをどの程度評価できるかを左右するものです。元従業員らは、OpenAIの最新のAstraモデルの監視能力に関する懸念をThe Informationに漏洩したことを否定しています。同社はこの件について9月1日に記事を発表しました。また、METRとのやり取りにおける不正行為も否定しています。

元従業員らは、OpenAIに対し、高度なモデルを詳細に監視する能力を維持すること、第三者安全性監査人を組織内に組み込むというコミットメントを遵守すること、そしてオープンで透明な文化を育むことを求めています。

「私たちの解雇が、OpenAIとMETRの協力関係を終了させる口実や、外部監査人に大幅に制限されたアクセスと範囲を与える口実として使われることを懸念しています」と書簡は述べています。

解雇理由をめぐる食い違う説明、確たるものはなし

OpenAIは解雇の具体的な理由を明らかにしていませんが、Fortuneに対し、3名の従業員に不正行為のパターンが見られ、情報の取り扱いに関する方針に明確に違反する行為が複数あったと説明しました。同社は、解雇とMETRとのやり取りやHugging Faceインシデントとの関連は示していません。

今週、各元従業員は、共同書簡にリンクするソーシャルメディアへの投稿で、それぞれ短い個別の説明を行いました。

KorbakはXで、OpenAIから書面ではなく口頭で「METRとのコミュニケーションの方法を理由に解雇された」と告げられたと述べました。

「先週、OpenAIの安全性責任者との会議に呼ばれ、もう信頼していないと告げられました。警備員が私のバッジを取り上げ、建物の外まで連れ出しました。METRと話すことは私の仕事でした」とKorbakは述べています。

WangはXで、OpenAIが挙げた理由は、名前の明かされていない幹部のメールにアクセスしたことだったと述べました。彼女によれば、同社はリクルーティング業務のためにこのアクセス権を付与し、不要になったにIT部門に削除を依頼したが、依頼は完了されなかったといいます。

「私たちが、不審な状況でOpenAIから追い出された最初の例ではありません。従業員が今こうした動きに立ち上がらなければ、私たちが最後ではないことを懸念しています。今もOpenAIに在籍するすべての人へのメッセージは明確です。懸念を提起したり、外部の安全性組織と緊密に連携したりすれば、理由を告げられることなく、あなたが次かもしれません」とWangは述べています。

BalesniはXで、自身と同僚の研究者らは「OpenAIという企業の短期的な利益よりも安全性を優先したために解雇された」と述べました。

OpenAIの安全性文化は不健全か

この書簡への対応として、OpenAIは従業員に内部メモを送り、Xで公開声明を発表しました。「社内調査の結果、彼らが公開した書簡に記載されている内容を超える重大な信頼の裏切りが判明しており、雇用を継続しないという決定を支持します」と同社は述べました。

しかし、従業員らが実際に何をしたのか、あるいはMETRと何を共有した可能性があるのかが明確でないことが、事態に関する憶測を呼んでいます。METRはFortuneの取材に応じていません。

「OpenAIの今回の行動が正当化される状況は考えられません」と、以前Anthropicに在籍していたGoogle DeepMind社員のNeel NandaがXへの投稿で述べています。「未知で不確実な状況において善意で最善の判断を用いようとした人々を解雇することは、極めて不健全な文化の表れです」

OpenAIの元安全性透明性責任者であるDavid Robinsonも今月、The Atlanticの寄稿で、同社の「壊れた」安全性文化について言及し、OpenAIは「安全性の水準が程遠く」、「試行錯誤」に依存していると書いています。彼はHugging Faceインシデントをその証拠として挙げ、対応として講じた安全策でもさらなる不正インシデントを防げなかったと指摘しています。

OpenAIは、研究責任者らが送った従業員向け内部メモの一部をFortuneに共有しました。執筆者は明示されていませんが、最高研究責任者のMark Chenが書いたとみられます。メモは、第三者安全性評価機関との協力へのコミットメントを再確認し、「監視可能性は私たちにとって最も重要な事項です」と述べました。

「私は、特に安全性に関わる議論のオープンな文化を大切にしており、この開放性が正しい意思決定に不可欠だと考えています。これらの決定が安全性への懸念の提起や発言とは無関係であることを明確にしておきます。私たちはそれを常に奨励してきましたし、これからもそうします」とメモは述べていますn
OpenAIは、第三者安全性評価機関との協力に引き続き取り組んでおり、「今後数週間のうちに」発表予定の契約を現在 最終調整していると述べました。これらの契約が外部評価機関に与えるアクセスの範囲、およびそれが書簡がOpenAIに維持を求める組み込み型の取り決めとどの程度一致するかが、声明されたコミットメントの具体化を示す最も確かな指標となるでしょう。

この記事はもともとFortuneが報じたものです。