AIフロンティアラボのリーダーたちによるスローダウンの呼びかけにもかかわらず、AIおよびデータプライバシー・セキュリティベンダーのOneTrustの最新レポートによると、ほとんどの企業は人工知能の利用を一時停止するのではなく、より強固なガバナンスを優先している。

レポートによると、過去1年間に多くの企業がAI関連の問題を経験したものの、ほとんどはAI導入を減速・停止していない。こうしたインシデントには、知的財産の漏洩や、AIエージェントによるデータの使用・送信・削除が含まれる。

質疑応答の中で、OneTrustのチーフ・イノベーション・オフィサー、ブレイク・ブラノン氏は、企業がAIを前進させ続ける理由と、AIモデルの急速な進歩よりもガバナンスに注力する方法について語った。

取締役会圧力が前進の勢いを牽引

レポートは、AIインシデントにもかかわらず、企業は依然としてAIおよびAIエージェントの利用を奨励していると指摘した。この技術の導入を後押しする原動力について問われたブラノン氏は、組織の上部からの圧力を指摘した。

「どの会社でもトップダウンで、取締役会が最初に問うのは『AIで何をしているのか。働き方や、構築する製品・サービスをどう変革しているのか。フロンティアモデルや既存のスタートアップに破壊されるのか。我々の参入障壁は何か』ということです」と彼は言う。

「この圧力により、誰もが少々攻撃的になり、加速し、AIの活用方法を模索しています。」

ブラノン氏によれば、組織がこれらのツールの評価と導入を始めると、ガバナンスとセキュリティの懸念がすぐに表面化する。世界中のすべての企業で、今後2年以内に、人間よりも多くのエージェントが動くようになるという現実に、誰もが目を向けている。

彼は、企業が長年かけて構築してきた統制のためのプログラムやプロセスは、会社が行うすべてのことを人間が実行していた時代――人が作業をするか、人が決定論的なソフトウェアシステムを構築して実行させていた時代――に設計されたと論じる。それらの活動は人間のペースで進んでいたため、統制可能だったのだ。

「今日では、シチズン開発者、シチズンビルダーが存在します。誰もがエージェントを構築できる」とブラノン氏は言う。それが組織における従来のガバナンスとセキュリティのあり方を根本から崩している、と彼は説明する。データを保護するために組織がかつて数週間かけて行っていたことを、今は数秒で実現する方法を見つけなければならないからだ。

概念実証からスケールへ

この変化がどのように組織のガバナンス投資につながるのかと問われたブラノン氏は、信頼こそが自律性の前提条件だと言う。

「どれほど優れたAIっても、信頼できなければ解き放つことはできません」「自律的に動かすことはできないので、この問題を解決しなければなりません」

投資が喫緊の課題になりつつあるのは、企業が概念実証の段階を超えてスケールに向かっているからだと彼は付け加える。スケール化に伴い、AIをどのように信頼し、何が起きているかを把握し、コントロールするかというシンプルな問いが生じる。それこそ、組織がこの問題に多くの時間を割いている理由だ。

この課題を捉える一つの枠組みとして、ブラノン氏は、AIシステムが組織自身やその従業員と同じように振る舞わなければならないと述べた。企業が許容できるアクションとみなすものは、コンプライアンス、セキュリティ慣行、ブランドの約束といった要素に根ざしており、エージェントはそれらの基準を模倣しなければならない。これが問題の一部だと彼は言う。

もう一つの部分は、悪い事態の発生を防ぐことだ。「車の緊急ブレーキをかけた状態にしておく必要があります。このエージェントが破壊的なアクションを取ろうとしているのを見て、それを止めたいわけです」とブラノン氏は言う。これは微妙な問題だ。AIシステムは人のアイデンティティや権限のようなものを引き継がないためであり、「そのような場面では人間を介在させたい」のだという。

動きの速いAIを統制するための2つの原則

テクノロジーベンダーがモデルを急速に更新する中で組織がAIを速く活用すればするほど、という状況について、ブラノン氏はこれらのシステムに信頼を結びつけるために必要なアーキテクチャを形づくる2つの原則を示した。

第一は、モデルそのものは信頼できないという認識だ。「ほぼ毎週末、かが『ぜひ我々を規制してほしい、自社のシステムを信頼できない、これは非常に危険だ』と書いたブログや記事を投稿するのを目にします」と彼は言う。

つまり、モデルが統制の枠を破ることを前提とし、モデルが自らを操作して自分の行っていることは何でも許容できると自分自身を納得させかねないと考える必要がある。したがって、統制のアーキテクチャは、統制対象そのものから独立した別個のハーネスでなければならない。

「これは社会が何千年も機能してきた方式です」「政府の権力は意図的に分離されています。企業の部門も、統制主体と統制対象の間に明確で偏りのない区別を生むよう、意図的に分離されています」。AIについては、モデルとプロバイダーが、AIシステムとエージェントが何をしているかを評価する独立した統制エージェント、すなわち統制ハーネスを必要とする、と彼は言う。

第二の新たな原則は、絶えず変化するモデルとハーネスに追いつく複雑さに対処するものだ。ブラノン氏によれば、あらゆる組織は、マーケティングがあるものを使いたがり、カスタマーサポートは別のものを必要とし、エンジニアリングはさらに別のものを必要とするため、断片化された多様なモデルプロバイダー、モデル、ハーネスのセットを運用することになる。この断片化は、それぞれ挙動の異なる多数のシステムをコントロールし統制する上で途方もない複雑さを生む。

アーキテクチャは、よりシンプルな問いへと移行しつつある、と彼は言う。モデルが何をしているか、なぜそのように考えたのかを、誰が気にするのか。企業にとって重要なのは、AIシステムが実際にアクションを取るとき――企業システムからデータを読み取ろうとするとき、メール送ろうとするとき、レコードを削除しようとするとき――である。実際には、これによりガバナンスの焦点は、モデルそのものではなく、AIシステムが企業のデータと業務に影響を与えうる接点に置かれることになる。

「それこそ、統制したい瞬間です。重要なものと接続する固定点を中心に統制コントロールを設計し、その固定点に適切なガードレールとポリシーを配置できるのです」とブラノン氏は言う。

編集注:このQ&Aは、スタイルと簡潔さのために編集されています。

このQ&Aは、2021年からAI技術と業界動向を取材し、「Targeting AI」ポッドキャストの共同ホストを務めるAI Businessのニュースライター、エスター・シットゥ氏によるものです。

本記事は、2026年9月21日にAI Businessが公開した記事に基づいています:Accelerating AI adoption and governance amid an AI slowdown。