リバタリアン系シンクタンク、ケイトー研究所は、政府が義務付けるAI開発の一時停止は支配的な企業を競争から守り、有益な技術の実現を遅らせる可能性があると警告している。これは、議員やAI企業幹部が業界への新たな規制を求める中での慎重な見解であり、ワシントンが最終的にこの技術をどのように統治するかは、安全性の監督のあり方だけでなく、そもそもどの企業がAIシステムを構築・展開できるかをも左右しかねない。

同研究所のテクノロジー政策研究者ジェニファー・ハドルストン氏は月曜に公開したブログ投稿で、業界全体の開発停止を伴わなくても、企業は自主的な安全策と共通の標準を通じて個別の危険に対処できると主張した。

「政府主導の一時停止は多くの懸念を引き起こし、主張される安全性の向上を実現できない可能性が高い」と同氏は書き、政府の規制は策定が遅く、変更はさらに遅いと付け加えた。「今日のモデル向けに作られた規制の枠組みは、明日のモデルを積極的に阻害し、より優れた、より安全な対応を妨げる可能性がある」

ハドルン氏はAIのリスクを認めつつ、大手開発者に合わせて設計された規制は、彼らが権力を集中させ競争を制限する市場の掌握を助け、中小企業の競争をより困難にする可能性があると警告した。また、米国の開発を停止すれば、外国の競争相手が進展を続ける中で、米国のサイバーセキュリティ防御が弱体化しうるとも主張した。

同氏の論評は、バーニー・サンダース上院議員(バーモント州選出の無所属)とグレッグ・カサル下院議員(テキサス州選出の民主党)が、連邦の安全基準が整備されるまで先進AI開発を一時停止し、人工超知能(ほとんどの認知タスクで人間の能力に匹敵またはそれを超える仮想的なシステム)を恒久的に禁止するという提案を行ったことに続くものだ。意図的な減速の呼びかけは過去にもあった。2023年3月には、Future of Life Instituteが主導し、イーロン・マスク氏を含む数千人が署名した公開書簡が、GPT-4より強力なシステムの学習を少なくとも6か月間停止するようAI研究所に呼びかけた。一方、OpenAIのサム・アルトマンCEOは、より緩やかな開発を支持し、自身が支持する連邦規則を待たずに企業へ安全策の強化を促している。

「こうした呼びかけの多くには、起こりうる最悪の事態を描いたSF的な終末論的シナリオが伴っている」とハドルストン氏は書いた。「しかし、恐怖に駆られて急いで規制すれば、その主眼とされるリスクよりも長期的な悪影響をもたらしかねない」

Blockの会長兼共同創業者であり、Twitterの共同創業者でもあるジャック・ドーシー氏も、月曜のXへの投稿で競争に関する同様の懸念を表明した。

「機械知能を牽引する企業には発言される権利がある。彼らには専門知識と守るべき商業的利益がある」とドーシー氏は書いた。「彼らの資源を基準に作られた規制は、彼らだけが参入できる状況を生みかねない。安全性への真剣な懸念であっても、参入障壁を生むことはある」

ドーシー氏は、研究者が検証・改変・テストできるオープンな公開を支持、評価結果と既知の限界を公表することで、外部の者が開発者の安全性に関する主張に異議を唱えられるべきだとしている。

「私は精査を支持する。現在上位にいる企業らが交渉する業界全体の制限には反対だ。それは、失敗を暴いたり、代替物を構築したりする可能性のある人々を排除しかねないからだ」と同氏は書いた。「企業の商業的優位を守ることは、安全性の目的ではない」

さらにドーシー氏は、独立したテストと説明責任を伴う公的な執行を支持し、モデルの公開がより限定的な対策では十分に対処できない壊滅的リスクを実質的に高めるという証拠がある場合には、モデルを非公開とすることも含めると述べた。

「計算資源は開発に上限を設けることなく精査の引き金になりうる。審査は規制当局や競合他社からの許可ではない」と同氏は述べた。「一般的な承認要件や待機期間は望まない。公開に対する安全性を理由とする遅延は、いかなる場合も壊滅的リスクの例外によって正当化されなければならない」

AIの統治方法をめぐる議論は依然として決着していない。最近の大西洋評議会(Atlantic Council)の分析は、競争圧力の観点から執行力のあるAI安全基準が必要だと主張する一方、米中間の不信が国際合意を複雑にしているとしている。開発者間の協力は独禁法上の懸念も引き起こしており、OpenAIは競合開発者が開発減速に法的に合意できるかどうかを議員に問い合わせている。連邦の安全基準がそもそも策定されるか否か、そして規制当局が最終的に開発者間の調整をどう扱うかが、この議論の次の段階を形作ることになるだろう。