OpenAIは、競合する人工知能企業が開発を減速させることで合法的に合意できるか、議会議員に質問した。これはWIREDが報じたものだ。この働きかけは、OpenAIの最高科学責任者Jakub Pachocki氏が、業界に共通の安全基準を確立し、開発企業が自社システムの安全性をより明確に示せるまで、自主的な開発停止を検討するよう求めている中で行われた。

WIREDはOpenAIに近い人物の話として、同社がここ数週間、AI開発企業間で進歩を遅らせる合意を結ぶことが反トラスト法に違反する可能性があるか、議員に質問したと報じた。競争を制限する取り決めは反トラスト法上の懸念を招く可能性がある。一方、Adam Schiff上院議員とJim Banks上院議員が提出した法案は、参加者が司法省に事前通知を行うことを条件に、特定の安全保障関連の協力を保護する内容となっている。

専門家は、資金調達と競争上の圧力によって、企業が単独で開発を減速させることは難しいと指摘する。「AI分野における商業面と地政学面の競争は極めて激しく、リスクが十分に理解される前に製品を公開するよう企業が促される、憂慮すべき構図につながっている」と、Center for Democracy and Technologyの主任技術者Miranda Bogen氏はDecryptに語った。

「社内の担当者が、さらなる研究とテストが必要だと認識している場合でも、企業は手を抜き、重要な安全性テストを省くよう強い圧力を受けている。開発を急ぎすぎた結果についての証拠が積み重なっているにもかかわらずだ」と同氏は付け加えた。

この議論は、米国と中国がAI分野の主導権を競う中で進んでいる。米国のDonald Trump大統領は、AIに関する大統領令が米国の対中優位を弱める可能性への懸念から、5月にその発令を延期した。その後、6月に大統領令に署名し、高度なモデルを公開する前に自主的な審査を行う仕組みを設けた。

資金面のインセンティブは、協調に対するさらに直接的な障害となる可能性がある。「現在の状況では、あらゆる進歩が数百万ドル、あるいは数十億ドル規模の追加資金をもたらし、その進歩を生み出した者をより大きな権力と影響力の立場に置く」と、Machine Intelligence Research Instituteの広報責任者Duncan Sabien氏はDecryptに語った。

Sabien氏は、軍拡競争の構図は現実のものであり、OpenAIとAnthropicは不確実なリスクを抱えながらも開発を続けるよう圧力を受けていると述べた。新たなシステムはそれぞれ、より高性能な後継システムの開発に役立つ可能性があるため、共通の合意なしにどちらかの企業が開発を減速させれば、競合企業が先行する可能性が生じる。

「これは特に、知能の向上が積み重なっていくためだ。新しいシステムが登場するたびに、次の、より高度なシステムの訓練と展開が容易になる」と同氏は述べた。「何らかの調整メカニズムがなければ、一歩引くことは、単に相手に先行を許すことを意味する」

OpenAIは8月、サイバーセキュリティ上の懸念に対処する、より強固な安全対策が不足していたため、社内で進めていたAstraの作業を停止した。しかし2月には、OpenAIとAnthropicの双方が安全性に関する取り組みを緩和した。Anthropicの最高科学責任者Jared Kaplan氏は、競合他社が開発を続ける中で、自社だけが開発を減速させる意味は薄いと主張した。

開発減速をめぐる議論は今週、元AnthropicのエンジニアJacob Coxon氏が、AI開発の継続が人類にもたらすリスクへの懸念を理由に、公開の場で辞任を発表したことで激化した。

「AIを構築している人々は、それが今世紀の終わりまでに私たち全員を殺す可能性があると本気で考えている」と、Coxon氏はXで述べ、それは「マーケティング上の仕掛け」ではないと付け加えた。「むしろ、多くの経営幹部や上級研究者は、報道向けにはもっともらしく聞こえるように表現を和らげるだろう。しかし、私は同じ人々が私的な場で恐怖を語るのを聞いている。これほどの危険をもたらす人間の活動は他にない」と同氏は書いた。

Sabien氏は、誰かが単に後任となるのであれば、研究者が辞めてもほとんど何も達成できない可能性があると述べた。「十分な数の研究者が、全員が止まるべきだという共通認識を持つに至れば、調整の壁を突破し、次に来る、わずかに慎重さに欠ける人物に取って代わられるのではなく、共に止まることができる」と同氏は述べた。