AI市場における存亡に関わる安全性リスクをめぐる総括は急速に進展しており、企業は注意を払う必要があります。しかし、業界最大手のベンダーが人工知能に対する国家レベルの義務的規制を求める声を強める中で、企業にとってより実務的な課題は、自社組織を将来の変化に備えさせることです。

このジレンマは、特に貿易とAI技術をめぐる米国と中国の地政学的な競争という、競争環境によって複雑化しています。

OpenAI、義務的な安全規則を要請

OpenAIの最高グローバル・アフェアーズ責任者であるChris Lehane氏は水曜日、AIリスクを抑制するために世界の政策立案者が行動するよう促すブログ記事を執筆しました。Lehane氏によると、OpenAIは国家レベルで義務的なAI安全要件を導入するよう働きかけており、カリフォルニア州の4法案を支持しています。その中には独立した安全性評価の枠組みを設ける法案が含まれており、さらに別の2法案には、カリフォルニア州のGavin Newsom知事が同じく水曜日に署名しました。

同社はまた、他のフロンティア研究所と協力してAI安全基準を前進させ、さらなる自主規制に取り組み、AI技術の能力を測定し、リスクを管理し、人間による制御を維持するための国際的な協調アプローチを提唱する意向を示しました。

安全性をめぐる議論を注視する企業にとって、最善の対応は、組織がどのように技術を利用するかというリスク分類に安全性を組み込むことだと、GartnerのアナリストであるLauren Kornutick氏は述べました。

「規制当局が追いつくまでの間に、組織内でのAI利用に追加の保護策や管理策を組み込むことができます。法案を実行する方法について立法機関が足並みをそろえるには時間がかかるからです」とKornutick氏は述べました。

AIリスクへの懸念が拡大

OpenAIの政策声明は、同技術のリスクに対する懸念が高まる中で発表されました。OpenAIとAnthropicのモデルを基盤とするAIエージェントがサンドボックス環境から逸脱した、別々の事案が相次いだためです。これらの出来事は、AIシステムがどのように振る舞うのかについて、いまだに分かっていないことがいかに多いかを浮き彫りにしました。

「AIの能力が向上する速度は、私たちの制度がそれを理解し、統治できる速度を上回っています」と、RPA2AI Researchの創業者であるKashyap Kompella氏は述べました。同氏は、推論モデル、高性能化されたAIコンピューティング、そして能力を高め続ける自律型エージェントによって、技術は重要な境界を越えたと付け加えました。

生成AIの複雑性と潜在的な危険性については、AIのゴッドファーザーとも呼ばれるGeoffrey Hinton氏を含む、多くの著名人が懸念を示しています。さらに水曜日には、以前OpenAIで働いていたAnthropicの研究者Jacob Coxon氏がソーシャルメディアへの投稿で、企業は危険すぎる超知能に向けて急速に進んでおり、今世紀末までに全人類を死に至らせる可能性があると警告しました。その後Anthropicを退社したCoxon氏は、政府の介入なしに人工汎用知能を安全に構築できる企業はないと主張しました。

競争環境

「Coxon氏の辞任は、重要な構造的問題を浮き彫りにしています」とKompella氏は述べました。「主要AI企業間の競争は、一部の研究者がリスクが非常に深刻になっていると考えている場合でも、能力の向上を続けるインセンティブを生み出します」

同氏は、この競争があるため、ベンダーに自主規制や技術進歩の自主的な停止を求めることは現実的な解決策ではないと付け加えました。主要AIベンダーは、互いを上回ろうとする競争だけでなく、貿易とAI技術をめぐる米国と中国の地政学的な対立からも動機づけられています。

「地政学的な圧力により、2つの大国である米国と中国は、それぞれAI競争に勝つことが自国の存亡に関わると感じています」と、University of Illinois ChicagoでデータサイエンスおよびAI戦略を担当する副学長補佐のMichael Bennett氏は述べました。「AI競争がもたらす影響を理由に、減速する余裕はありません」

企業の対応

OpenAIが提唱する義務的な規制を待つのではなく、企業は、第三者調達プロセスにおける独立評価など、各州が導入し始めている要件の一部を採用して、自らを律するべきだとKornutick氏は述べました。

企業のリーダーにとって、これは政策をめぐる議論を即時のガバナンス課題にすることを意味します。議員やベンダーがより広範な安全基準を検討している間に、企業は各州で生まれる要件を追跡し、第三者モデルを独立して評価し、管理策を文書化できます。

「規制は役立ちますが、それだけですべてが解決するとは限りません。企業は、フロンティアモデルを何に使うのかを考えるべきです。AIの利用すべてにフロンティアモデルを使う必要があるのでしょうか。どこで最大の価値を得られるのでしょうか」と同氏は述べました。

Kornutick氏は、企業はロビー活動を行い、議員と協力することもできると指摘しました。

「組織に、議員と協力してモデル提供者に直接懸念を伝えるロビー活動の能力があるなら、そうすべきです」と同氏は述べました。「しかし同時に、自分たちが管理できるもの、つまり優れたAI、データ、サイバーセキュリティのガバナンス慣行の土台となる要素は、自ら管理できるようにしたいはずです。そうすれば、変化に備えて組織を将来にわたって強靭にするための適切な基盤を持てます」

規制を求めるもう一つの理由

OpenAIの連邦規制要請と、カリフォルニア州の法案などを支持するベンダーの動きは、AIリスクをめぐる現在の議論への対応にとどまらない可能性があります。AIやAIデータセンターに対する世論が悪化する中、選挙シーズンを先取りし、世論の支持を維持するための戦略である可能性もあります。

それでもBennett氏は、技術への支援と安全性が共存できる新たな政策・規制の組み合わせは想定可能だと述べました。

「最善の安全プロトコルと保護策を整備すると同時に、開発も支援することができます」と同氏は述べました。「人間とAIのチームが技術を使い、最適に設計された新たな規制について考えるということです」

独立機関

規制は必要ですが、多くの規制当局が依然としてシステムを理解していないことから、AIの安全性に関するすべての問題を解決することはできないとKompella氏は述べました。

「フロンティアシステムがどのように構築され、どのように振る舞うのかについての深い理解の多くは、少数の企業や研究グループに集中しています」と同氏は続けました。「そのため規制当局は、技術的に複雑で、急速に変化し、主に政府外で開発されている技術を規制するという難しい課題に直面しています」

同氏は、NASAやDARPAのように、技術的な深い知見と独立性を持ち、これらの問題を継続的に調査・評価し、AI企業自身が影響を及ぼせない形で政策立案者に助言できる機関が必要だと主張しました。

「短期的に最も有力な答えは、深い技術力と独立性を備えた機関が支える、超党派の連邦枠組みです」とKompella氏は述べました。「フロンティア研究所に異議を唱えられる強さを持つ一方で、恐怖によって規制したり、技術の進歩を凍結したりしないだけの技術的な洗練性も必要です。また、従来の規制機関よりも大幅に速く動けなければなりません」

一方で企業は、AIの存亡に関わるリスクについて多くの時間を費やして心配する必要はおそらくありませんが、その存在は認識しておくべきだとKornutick氏は述べました。

「組織は、自分たちの目の前にあるリスク、つまりインフラとアーキテクチャにどのようなギャップがあるのかを確認する必要があります」と同氏は述べました。「今のところ、それが見落としている現実的な問題になっている可能性があります」

---

この記事は、2026年9月10日に公開された、AI BusinessのEsther Shittu氏による報道を基にしています。出典：AI安全性の危機と企業が取るべき対応