OpenAIが人工知能分野で最も注目される企業の一つとなる前、その創業期には非常に異例なビジネス提案がいくつも存在したと報じられています。同社創業期に関する新たな記事によると、経営陣は中国やロシアを含む政府への将来のAIツール販売を検討し、さらにカニエ・ウェスト氏に未公開モデルへの先行アクセスを与える計画もありました。上層スタッフはこれに強い警戒を示したとされ、当時提起された異論は、今日のAI業界全体にも響き続けています。

テクノロジージャーナリストのケビン・ルーズ氏がThe Atlanticで報じたこの記事が重要なのは、現代テック業界で最も重大な分裂の一つを説明する手がかりとなるためです。これらの提案に最も強く反対した人々の一部は、後に退社してAnthropicを設立しました。同社は現在、OpenAIの最も直接的な競合の一つです。また、AIが巨大ビジネスとなる中で一層激化している議論、すなわち誰がこれほど強力な技術に資金を提供し形作るのか、誰がそれを利用できるのか、という議論のただ中での報道でもあります。

「countries plan」とカニエ・ウェストへの提案

中心的なエピソードは2017年にさかのぼります。OpenAIの共同創業者で現在は同社社長のグレッグ・ブロックマン氏とイリヤ・サツケヴァー氏が、「countries plan」として知られる社内提案を推進したとされます。その狙いは国家を巻き込むことで汎用人工知能（AGI）開発のレースの資金を調達することでした。この提案のもとでOpenAIは、将来のAGI権利をオークションにかけたり、政府から資金を受け入れたりする可能性がありました。名前が挙がった国には米国、中国、ロシアが含まれていました。最先端AIの学習コストが単独で負担できる組織はほとんどない水準に達した今、誰がフロンティアAIに資金を提供するかは活発な政策課題となっています。

当時OpenAIのシニアリサーチャーだったダリオ・アモーディ氏は、強く反対したとされます。2017年9月、彼は懸念を示し、この計画を「道徳的に正当化できない」と呼びました。記事によると、その理由は二つあり、この計画が対立する大国間の軍拡競争を激化させ、人権侵害を助長しかねないと主張したのです。これらの懸念はその後、先端AIチップに対する政府規制からAIの安全性や軍事利用をめぐる国際的議論まで、主流の政策議論に移っています。

2つ目のエピソードは2020年です。OpenAIの最高経営責任者（CEO）、サム・アルトマン氏が、後に同社商用製品の基盤となる言語モデルGPT-3のバージョンへの先行アクセスをカニエ・ウェスト氏に提供したと報じられています。同じ年、OpenAIは有料APIを通じてGPT-3を外部開発者に提供し始めており、これは商用転換の初期の一步でした。同社のポリシー責任者は、ウェスト氏の予測不可能な行動を理由にこの取り決めを止めたとされます。

OpenAIはこの報道の一部に反論しています。同社はcountries planの描写に異議を唱え、国際協力モデルのみを検討しており、中国やロシアにAGIを売却する意図はなかったと述べています。

内部対立が競合企業の誕生につながるまで

アモーディ氏はOpenAIにおいて周辺的な存在ではありませんでした。同社を研究目的の好奇心から本格的な商用プレーヤーへと転換させたGPT-2とGPT-3の開発で重要な役割を果たしました。

記事によると、countries planとカニエ・ウェスト関連のエピソードは、より広範な摩擦の一端でした。ガバナンスをめぐる意見の相違、商用化への推進、経営陣への信頼に関する問題が、OpenAIのハイブリッド型商用モデルへの移行の中で積み重なったとされます。広く利益のための安全なAI構築に注力する非営利団体として2015年に設立された同組織は、大規模な資金調達と製品販売を可能にする構造へと移行していきました。

アモーディ氏と複数の同僚は最終的に退社し、2021年に安全性を最優先する研究所としてAnthropicを設立しました。アモーディ氏はCEOを務めています。

AI競争にとっての意味

OpenAIとAnthropicの競争は、価値観をめぐる意見の相違から始まったとされます。なわち、誰が強力なAIに資金を提供すべきか、誰がアクセスすべきか、そしてその両者にどのような安全装置が必要か、という問題です。両研究所は現在、法人顧客、政府契約、優秀な研究人材をめぐって競合しています。両社の原点の物語は今もそれぞれの自己呈示を形作っており、Anthropicが安全性第一のアイデンティティを大きく打ち出している背景は、この記事が説明する出来事にあります。

このエピソードがどう受け止められるかは、OpenAIの否定が中心となります。同社の説明が正しければ、countries planは実現しなかった国際協力に関する初期のブレインストーミングと映ります。批判者側の説明が支持されれば、絶大な影響力を持つ企業の首脳部の判断をめぐり、より厳しい疑問が浮上します。元社員による追加の公式証言や、より詳しい会社側の反論が、どちらの説明が定着するかを左右するでしょう。

一方、カニエ・ウェスト関連のエピソードは、強力な技術を扱う企業内で非公式なアクセス決定が行われ得たこと、そして「ノー」と言う個人スタッフの存在にどれほど多くが左右されていたかを物語っています。