米国の国立銀行を監督する規制当局、米通貨監督庁（OCC）は、銀行業務における人工知能（AI）向けの初の監督フレームワークを発行し、審査官に対して、AIシステムがどれほど強力かよりも、誤った動作をした場合に何が起きるかに注目するよう指示した。

全22ページのフレームワークはOCCブレティン2026-54として発行され、プレスリリースとともに公表された。運用レジリエンスに関するセクションでは、顧客、フィンテック企業、その他の事業者が運用する外部エージェントが、銀行がそれらのシステムを管理していない場合であっても、銀行にリスクをもたらしうると警告している。規制当局はこのフレームワークの発行を特定のインシデントに結び付けてはいないが、顧客口座内で無許可のAIエージェントが動作していることへの業界の懸念が高まる中での発行となった。

高度さよりも結果を重視

この文書の核心は、AIシステムの技術的な高度さと、それが引き起こしうる被害とを区別する点にある。規制当局によれば、金融取引の開始を許可された単純なエージェントは、内部文書の作成に限定されたより高度なモデルよりも大きなリスクをもたらしうるという。この区別は、エージェント型ソフトウェアが従来のツールと異なる点を反映している。エージェントはテキストを生成するだけでなく、接続されたシステム上でアクションを実行するため、障害時に生じうる被害は、保持する権限に応じて拡大する。

このフレームワークの下で、審査官は障害の結果、アクションが可逆かどうか、人間がシステムに対してどの程度の制御を保持しているかを考慮できる。当局は4段階の例示的なリスク階層を示しており、完全自律型の決済エージェントやリアルタイムの信用判断システムは最も高い区分に、基本的な社内生産性ツールは最も低い区分に位置付けられる。

リスクの高いシステムには、自律性に対するより厳しい制限、独立したテスト、重大なアクションの実行前の人間による承認が求められる可能性がある。

フレームワークは、有害な判断を下しながら動作を継続するAIシステムにも言及している。提案されている安全対策には、サーキットブレーカー、レート制限、権限の制限、緊急シャットダウン制御が含まれる。

焦点となるサードパーティーAIエージェント

このガイダンスは、審査官が身元確認、委任された権限、取引限度額、監視、アクセスの一時停止または取り消しの機能などの措置を考慮することを提案している。その狙いは、銀行がすでに直面しているジレンマ、すなわち、自律型ソフトウェアに口座への無制限のアクセスを与えることなく、顧客にAIアシスタントを使って資産管理をさせる方法を示すことにある。

このフレームワークの発行は、大手銀行が顧客口座内で不正なサードパーティーAIエージェントの動作を発見していたとの報道から2週間足らずで行われた。10月22日のAxiosの報道によれば、モルガン・スタンレーやJPモルガン、バンク・オブ・アメリカ、シティは外部エージェントのアクセスを制限していた。銀行の幹部はこの状況を「恐怖ing的」と表現し、自律型エージェントが誰かの資金にアクセスした後、それを誰が制御するのかという疑問を投げかけた。

これらの考慮事項は、Axiosの先行報道で描かれた外部エージェント、すなわち銀行が正当な顧客承認済みソフトウェアと、意図された権限を超えて動作するシステムとを区別するのに苦慮した事例に特に関係する。

ガイダンスであり、新しい銀行規則ではない

OCCは、このフレームワークが非拘束的であり、銀行に対する新たな規制要件や執行可能な基準を設けるものではないと強調した。むしろ、既存のオペレーショナルリスク、コンプライアンス、サイバーセキュリティのリスク区分の中でAIを評価する方法を審査官に提供するものであり、銀行が独立したAIリスク区分を設ける義務もない。フレームワークは、自律型決済、サードパーティーアクセス、人間による監督を網羅する安全対策の例を示している。ただし、非拘束であることは無意味ではない。OCCの審査官は日常的な監督においてこの種の文書に基づいて銀行を評価するため、正式な規則がなくても、提示された安全対策には実務上の重みが伴いうる。

フレームワークは、決済、不正検知、カスタマーサービス、その他の銀行業務で使用されるAIを対象とし、銀行のチャネルを通じて接続する外部AIエージェントにもリスクの考慮を及ぼしている。

特筆すべきは、この文書が「Super Intelligence（スーパーインテリジェンス）」という必須用語を使用している点である。これはドナルド・トランプ政権が「人工 intelligence」の代わりに使用することを求めている用語であり、9月のホワイトハウスの大統領行動に沿ったものである。ただしその適用範囲には、人間の能力を超える知性を持つ仮想的なシステムだけでなく、従来型のAIや「自律型エージェント」も含まれる。

OCCは、技術の進展に合わせてこのガイダンスを更新する意向を示した。現時点で、その例示的なリスク尺度は、テストでの性能がどれほど優れていても、自律型決済エージェントを最も高いリスク区分に位置付けている。審査官がこれらの階層を実務でどのように適用するか、特に銀行が顧客口座で発見しているサードパーティーエージェントにどう適用するかは、ガイダンスが進化する中で注目すべきポイントである。

この記事はもともとDecryptが報じたものです。