カリフォルニア州、AIガバナンスを独立検証へ前進

カリフォルニア州の新たなAI監査法は、企業が自ら安全性を主張する段階から、独立した審査を通じてその主張を証明する段階への移行を示している。

2026年9月11日

これまで長年にわたり、人工知能を開発する企業は、自社システムの安全性を自ら評価する責任を主に負ってきた。カリフォルニア州は、このアプローチを変え始めている。

カリフォルニア州のGavin Newsom知事は今週、独立した第三者によるAI監査の基盤を整える2つの法律に署名した。法案は、第三者組織がAIシステムの州法への適合性を評価する方法を含む、独立監査の枠組みを定めている。さらに、監査人の独立性、透明性、誠実性に関する基準も設定している。

この法制化は、カリフォルニア州で数年にわたって進められてきたAI政策の延長線上にある。2023年、Newsom知事は州による生成AIの利用に関する指針を定める行政命令を発出した。2024年には、ディープフェイク、電子透かし、子ども、労働者などを対象とする、より広範なAI法制パッケージを州が導入した。昨年、カリフォルニア州はTransparency in Frontier Artificial Intelligence Actを制定し、フロンティアAIの開発企業に安全性の枠組みを公表し、特定の重大な安全インシデントを報告するよう義務付けた。

このタイミングが注目されるのは、フロンティアシステムが開発者の予想や承認に反する形で動作するケースが増えているためだ。

OpenAIは今週、5月にさらに多くのエージェントが制御を逸脱し、サンドボックスの制限を回避して複数のウェブサイト上で許可されていない行動を取ったことを認めた。同社は当初、インシデントの1件への関与を認めていなかったが、その後、エージェントが複数のインターネットサイトに書き込みを行ったことを確認した。この出来事は、AIシステムの自律性が高まる中でのより広範な課題を浮き彫りにしている。開発者は依然として、自社システムの挙動を調査し説明する主な責任を負っている。

Anthropicも今週、同様の懸念を示した。同社は、7月にClaude Mythosモデルが安全対策を回避したインシデントを受け、フロンティアAI開発のペースを管理するための「検証可能な取り組み」を求めた。この提案は、AIの安全対策について、単に約束するのではなく実証する必要があるとの認識が広がっていることを反映している。

企業にとっての意味

第三者監査は、規制当局がAI企業を監督するためだけのものではない。企業にとって、独立監査はAIベンダーを評価する際のデューデリジェンスに新たな層を加える可能性がある。特に、自律型システムが組織内でより大きな責任を担うようになる中では、その重要性が増す可能性がある。

企業がAIシステムに機密データ、アプリケーション、ワークフローへのアクセスを与えるようになれば、これはますます重要になるだろう。独立した評価が一般化すれば、AIを導入する企業は、安全性、セキュリティ、ガバナンスに関するベンダーの主張が実際に裏付けられているかどうかを示す外部証拠を得られる可能性がある。

そのため、AIガバナンスの次の段階では、企業が何を約束するかよりも、何を証明できるかに焦点が移る可能性がある。

今週のAIニュース

• Qualcomm、$4Bの取引の一環としてAmazon向けカスタムチップを開発: この半導体メーカーはAmazonと、カスタムAIチップおよびデータセンターチップを開発する大型契約を締結した。AIインフラ事業をさらに拡大する中で、ハイパースケーラーの顧客をもう1社加えることになる。 Source

• John Deere、新たなAI技術でデータの知見を収穫: この農業大手は農場管理プラットフォームに生成AIを導入し、農家が機器や業務データを、作付け、収穫、機械性能に関する実用的な判断へとつなげられるよう支援している。 Source

• 高いAI需要が続く中、Dellの供給不足が拡大: この多国籍テクノロジー企業では、AI需要がメモリ、ストレージ、CPUだけでなく、完全なAIシステムの構築に必要な冷却、ネットワーク、電力の各コンポーネントにも負荷をかけ、供給不足が拡大している。 Source

• AIコーディングのスタートアップCognition、評価額が$48Bに: このAIコーディング企業は20億ドルを調達し、評価額は480億ドルとなった。AIコーディングツールへの投資家の関心が続いている。 Source

• Google、フィンランドのAIインフラに$15Bを投資へ: この検索・AI大手はフィンランドのAIインフラに150億ドルを投資する計画で、AI計算能力への需要が伸び続ける中、データセンターの拠点を拡大する。 Source

• Google AI従業員の組合結成運動、その背景に企業倫理の確立: Google DeepMindの従業員は、軍による同社のAIおよびクラウド技術の利用をめぐる倫理的懸念から、労働組合の結成を目指している。 Source

• 脅威グループ、AIでサイバー攻撃能力を強化: 国家とつながりのあるハッカーや犯罪者は、AIと自動化を利用して攻撃を拡大し、新たな標的を見つけ、従来型の防御を回避する動きを強めている。 Source

• AWS AI Symposium：TeenTech卒業生、学校でのAIリテラシー教育を要請: この非営利団体の卒業生は、技能不足がAI導入の大きな障壁であり続ける中、学校でのAIリテラシー教育の拡充を求めている。 Source