金融安定理事会のトップは、G20規制当局に対し、新しい人工知能モデルが世界の金融システムにとって増大する脅威になっていると警告した。

イングランド銀行総裁も務めるアンドリュー・ベイリー氏は月曜日、G20各国の中央銀行総裁と財務相に書簡を送付した。この警告は、OpenAI、Anthropic、Metaを含む企業の新たなAIモデルが、インターネット経由で他組織へのハッキングに悪用された一連の最近の事案を受けたものだ。

ベイリー氏は、フロンティアAIモデルがより高い自律性、強力な問題解決能力、より高度な攻撃能力を示すにつれて、リスクはより複雑になっていると述べた。

規制当局はサイバーセキュリティの脆弱性を懸念

主な懸念の一つは、高度なAIモデルが金融機関のサイバー防御における、これまで知られていなかった弱点を見つけ出す可能性があることだ。さらに規制当局は、一度修正が導入されても、AIシステムが迅速に適応し、それを回避する方法を見つけることを恐れている。

欧州中央銀行（ECB）はすでにこの問題への対応を進めている。ECBはユーロ圏の銀行に対し、新しいAIモデルに伴うリスクへの対応策をまとめた正式な行動計画を10月31日までに提出するよう求めた。

G20の財務当局者は月曜日、ノースカロライナ州アシュビルで会合を開いた。金融安定理事会（FSB）はG20加盟国すべての金融規制当局を調整する機関であり、ベイリー氏の警告は、各国の規則がさらに乖離する前に対応を整合させるための、より広範な取り組みの一部となっている。

リスクは国境で止まらない

ベイリー氏は書簡の中で、ある国の金融システムに対するAI主導のサイバー攻撃は、容易に国境を越えて広がり得ると述べた。共有される技術プロバイダーや金融インフラが世界中の機関を結びつけているため、ある場所での侵害が他地域に波及する可能性がある。

また、各国の法的枠組みやサイバー能力の違い自体が、世界のシステムにおける弱点になり得るとも警告した。

ベイリー氏は、規制当局に対し、新しいAIモデルの安全なリリースを最優先課題とするよう求め、多くの国ではまだ適切な規則が整っていないと指摘した。

「多くの法域では、高度なフロンティアAIモデルの開発、リリース、展開を管理するためのプロトコルが整っておらず、金融セクターをはじめとする分野のリスクを高めている」と同氏は記した。

銀行などの金融機関にも、同じ技術を共有する複数企業で同時に障害が発生するような最悪のシナリオに備えるよう求められた。ベイリー氏は、深刻な攻撃の後にはコンピューターシステムをゼロから再構築できなければならないと述べ、これを「bare metal」からの復旧と表現した。これは、全面的なシステム障害の後でも重要なデータと業務を回復できる能力を意味する。

この警告は、民間部門でAI開発が加速し続け、主要テクノロジー企業が新モデルを急速にリリースしている中で出された。規制当局は今、その開発速度に追いつける枠組みの整備を急いでいる。