ロンドン発 — マイクロソフトのブラッド・スミス社長は、新たな開発を審査できる独立系評価機関を含む人工知能（AI）の緊急の世界的規制を呼びかけ、現状のAIは牛乳よりも少ない安全要件しか課されていないと警告した。

月曜日に公開されたBBCのインタビューで、スミス氏は一連の世界規模の安全ルールが必要であると述べ、悪意あるAIエージェントによってシステムが侵害された場合に「被害者」へ通知すること、そして「緊急ブレーキ」を利用可能にすることを要件に含めるべきだと語った。

さらに、企業が「インシデント報告」を作成することを法的に義務付けるべきだとも述べた。

「他の製品についてはそのやり方を我々は知っている」とスミス氏は述べ、「その知見を基に、AIにどう適用するかを考えるべきだ」と付け加えた。

「今この瞬間でも、あなたの洗濯機はAIよりも多くの安全規制の対象となっている。食料品店で目にする牛乳パックの一つひとつが、安全規制と検査の対象だ。」

AnthropicやOpenAIなどのテック企業は、AIエージェントによる不正や望ましくない挙動の開示を始めている。これは急速に進化する技術をめぐる世界的な議論の一部であり、研究者らによる人類への最終的な存亡の脅威についての警告も含まれている。マイクロソフト自身もOpenAIの最重要の支援者の一角であり、数十億ドル規模の投資と技術パートナーシップを通じ、同スタートアップのモデルを自社製品に組み込んでいる。

AI開発の減速を求める企業もあるが、それについては、自社の優位を維持するルール作り、政府による大規模な反発の先回り、あるいは単なる異常な支出の抑制など、経営陣の別の思惑があるのではないかという議論を巻き起こしている。

スミス氏はAI規制の主導に最も適した国は英国であると述べ、2023年のブレッチリー・パークAI安全サミットで元首相リシ・スナク政権下で設立されたAIセキュリティ研究所を挙げた。同氏はさらに、ワシントンの当局者はブリュッセルとは大きく異なる形でロンドンを評価していると述べた。ブリュッセルはAI規則（AI Act）に基づきリスク水準に応じてAIを規制しており、同法は世界初の包括的なAI法制で、その義務は段階的に導入されている。

英国の研究所は、主要AIモデルとの自主的合意に基づきデプロイ前のアクセスを受け、その能力とリスクを評価することを可能にしている。英国はこれまで、専用のAI法制ではなく、既存の規制当局が非法的原則を適用する形でAIを監督してきた。

AI担当相のカニシュカ・ナラヤン氏はロイターに対し、現行の仕組みが不十分であることが判明すれば、英国は高度なモデルの規制を検討すると述べている。

— ロイター