マイクロソフトのCEOであるサティア・ナデラは、人工知能を導入する企業に新たな指針を示しました。それは、AIモデルをセキュリティチームが内部脅威として扱うのと同じように扱うべきだというものです。

その中心的な提言はシンプルです。単一のAIモデルが、自身が実行するアクションと、そのアクションを検証するために用いられる証拠の両方を管理すべきではありません。ナデラは、1つのシステムが作業を実行し、かつ自らの評価も行えるのであれば、実際には何も検証されていないことになると主張しました。

AIに対する内部脅威のフレームワーク

内部脅威という考え方は企業セキュリティに由来します。企業はすでに、正当なアクセス権を持ちながらそれを悪用する可能性のある従業員への対策を講じています。これは職務分離など、機密性の高いタスクとアクセスを分割し、単一の人物やシステムがプロセス全体をend to endで管理できないようにする管理策によって長年管理されてきたリスク区分です。ナデラの主張は、自律型AIエージェントも同じ区分に属するというものです。

企業のシステムに接続されたAIエージェントは、信頼された従業員と同様に、機密性の高い企業データへアクセスできます。しかし従業員と異なり、その推論は不透明である可能性があり、監視をより困難にするレベルの自律性で動作することもあります。

2026年10月10日の発言で、ナデラは超知能システムがもたらす課題について論じ、知性と権限を分離しておく必要性を訴えました。平たく言えば、モデルは意思決定を推奨できるほど賢くあっても、チェックなしに実行することを信頼される必要はないということです。

さらに、実践的な管理策も示しています。これには独立した検証プロセス、モデルの思考チェーン(モデルが回答に至るまでの段階的な推論プロセス)の透明性、外部監査メカニズムが含まれます。目標は、AI自身による保証に依存しない説明責任です。

一時的な発言ではなく一貫したパターン

2026年9月17日のテクノロジー・ビジネス番組「All-In Podcast」への出演時、ナデラは企業向けAIエージェントが財務データを誤って表現する可能性を指摘し、これを新たな種類の内部リスクと位置づけました。

2026年7月には「逆情報パラドックス」と呼ぶ概念を紹介しました。これは、AIを活用する企業がこれらのシステムとのやり取りを通じて、自社の専有知識を意図せず漏洩してしまう可能性がある考え方です。

2026年9月14日前後、マイクロソフトは自社のMAIモデルファミリー向けに行動規範草案を導入しました。この文書は人間による監視とAIガバナンスへの人的関与の維持を重視し、欺瞞的なAI行動を否定するものです。また、2026年9月中旬のメモでナデラは、安全性の対策を正しく整えるために必要な時間をかけるよう助言し、これを怠れば同社の「操業許可」を失いかねないと警告したと伝えられています。

マイクロソフトを超える意味

マイクロソフトは、AI能力の主要サプライヤーであると同時に、企業の主権、すなわち顧客が自社のデータとシステムを引き続き管理するという原則を尊重する企業としての地位を確立しようとしています。強力なエージェントの販売は、その安全な導入を可能にするガードレールも同時に販売する場合に容易になります。

AIエージェントに財務システム、顧客データ、内部業務へのアクセスを許可する企業は、これらのエージェントの監視方法を見直す必要があるかもしれません。具体的には、実行するシステムと検証するシステムを分離し、推論のログを取得し、外部監査人を関与させることが考えられます。

今後注目すべき要点は、これらの原則が講演や草案段階の文書から、強制力のある実践へと移行するかどうかです。MAI行動規範はいまだ草案の段階にあります。マイクロソフトがこれをどのように最終化するか、そして顧客がナデラの示すアクションと検証の分離を採用するかどうかが、業界が自らの警告をどれほど真剣に受け止めているかを示すことになります。

出典: CryptoBriefing