本当の断絶は、機械が人間を超える時に訪れるとは限らない。AIの能力が、組織がそれを吸収できる速度を上回って複利的に高まる時に訪れる可能性がある。

最近のリスク委員会で、問いは一見単純だった。組織のAIリスク開示は、いまも正確なのか。答えは明確ではなかった。前回のレビュー以降、AIシステムは大きく変化していた。より長いタスクを処理し、より多くのツールを使い、より少ない監督で稼働し、ソフトウェア開発や研究に直接貢献していた。しかし、リスクフレームワークは同じペースで進化していなかった。

必ずしも何かが失敗していたわけではない。そこが問題だった。取締役会は、能力の特性がすでにその前提を超えつつある技術のために設計された統制環境を承認しようとしていた。

シンギュラリティをめぐる議論は、機械がいつ人間を超えるのかという予測からではなく、より身近で緊急性の高いガバナンス上の問いから始めるべきだろう。この断絶に、知性の爆発的進化、特定の日付、あるいは汎用人工知能の定義に関する合意は必要ない。すでに統制の問題になっている。

混同されがちな3つの議論

AIをめぐる世論の議論が混乱しているのは、異なる3つの概念が、あたかも1つのものとして扱われていることが大きい。

能力とは、AIシステムが何をできるかを指す。これは実証的で、検証可能であり、急速に進展している。

自律性とは、意思決定と行動のループのうち、どの程度が人間の直接的な介入なしに動作できるかを指す。差し迫ったガバナンス上の課題はここにある。回答を生成するAIシステムと、次の行動を決定し、ツールにアクセスし、その行動を実行し、結果を評価して継続するシステムは、明らかに異なる。

シンギュラリティとは、AIによる改善が十分に自己強化的となり、従来の人間による予測が信頼できなくなる時点、という投機的な断絶を指す。

これらの概念は互換的ではない。取締役は、技術的シンギュラリティが差し迫っていると信じなくても、自律性の高まりが異なる統制環境を生み出すことを認識できる。同様に、AIの能力がいずれ変革的なものになると考えながら、知性の爆発的進化が必然だとは考えないことも可能だ。

この区別は重要である。なぜなら、ガバナンスは3つ目の問いへの答えが出るまで、2つ目の問いに基づく行動を待つことができないからだ。

ループは閉じていない——しかし無関係ではない

この議論を裏付ける最も強い証拠は、最もセンセーショナルでないものでもある。最先端AI研究所は、AI開発の一部をAIシステム自身に委ねるようになっている。

Anthropicは、人間がコードを書く段階から、コーディングエージェントがコードの大部分を書いて編集する段階、さらにエージェントがコードを実行し、他のエージェントに作業を委任する段階へと進む流れを説明している。Anthropicによると、2026年5月時点で同社が本番コードベースに統合したコードの80%以上はClaudeが作成した。

重要なのは、まだ起きていないことだ。研究の方向性は依然として人間が決めており、ループは完全には自律化していない。Anthropicは、完全に自律した意味での再帰的自己改善はまだ起きておらず、それが必然でもないと明確に述べている。

Sam Altmanも現在の状態を、再帰的自己改善の「幼生（larval）」版と表現している。同時に、それはAIシステムが自律的に自分自身を書き換えることとは同じではないと認めている。

この説明は、ガバナンスの議論を弱めるどころか強める。重要な問いは、ループが閉じているかどうかではない。ループのどれだけの部分がすでに人間による実行から機械による実行へ移行しているのか、そして組織の統制がそれに追随しているのかである。

ガバナンスは異なる時計で動く

規制は、同じペースの問題を示している。米国政府は、一定の最先端モデルを対象とする自主的な枠組みを設けた。そこには、リリース前に対象モデルへ政府がアクセスすることや、モデルが最先端の基準を満たすかを判断するための機密ベンチマーク手続きが含まれる。この枠組みは、義務的なライセンス制や事前承認には明確に踏み込んでいない。The White House

同時に、NISTは、エージェントの身元確認と認可に関する実務的なアプローチを開発している。そこには、識別、認可、監査、否認防止、プロンプトインジェクションへの対策が含まれる。

その方向性は重要である。ガバナンスの手段は、単に情報を生成するシステムではなく、行動できるシステムを中心に再設計されている。組織にとっては、監督の対象をモデルの能力だけでなく、システムに接続された権限、システム、データ、第三者にまで広げなければならないことを意味する。これらの要素が行動の結果を左右し、行動が統制されていたことを示すために必要な証拠を決める。

金融規制当局も取締役会の責任を同様に明確にしている。FCA、イングランド銀行、財務省は、企業が取締役会と上級経営陣に対し、最先端AIのリスクを十分に理解させ、戦略的方向性を定め、統制機能を監督できるようにすべきだと述べている。

これは規制当局が機能していない証拠ではない。技術が先に変化し、組織がその対応を後から制度化するという構造的な現実を示している。したがって取締役会は、規制上の確実性を行動の前提条件にすることはできない。

本当の問題は吸収ギャップかもしれない

ここでシンギュラリティの議論は企業の問題になる。組織は並外れたAI能力を利用できても、それを構造的に吸収できないことがある。

金融機関は高度な分析を実行できるエージェントを導入しながら、統制フレームワークは重大な提案をすべて人間のアナリストが行うことを前提にしているかもしれない。小売企業は価格設定、在庫、顧客対応にまたがる意思決定を自動化しながら、説明責任は人間の管理職を中心に組織されたままかもしれない。テクノロジー企業はAIシステムにかつてない速度でソフトウェアを生成・テストさせながら、セキュリティレビュー、変更管理、インシデント対応は人間による開発サイクルを前提にしたままかもしれない。

能力は変わった。組織は変わっていない。

監査・リスク委員会、金融サービス、小売、メディア、ラグジュアリー、スポーツ、テクノロジーにおける経験は、同じパターンを裏付けている。能力はあらゆる場所に一斉に到来し得る一方、吸収の速度は規制、レガシーインフラ、労働力の構成、統制の成熟度によって大きく異なる。

この差は重要である。リスクおよび保険仲介の観点から見ると、AIリスクがホワイトペーパーの段階を越え、保険料になる時点がある。保険会社、投資家、規制当局、取締役会は、最終的には同じ問いを別の形で投げかける。組織は、自ら生み出しているエクスポージャーを理解し、統制していることを示せるのか。

ガバナンスはAIと同じ速さで進むべきか

当然の対応は、ガバナンスをより速く動かすことだ。しかし、速いガバナンスが自動的に優れたガバナンスになるわけではない。

目標は、技術の速度に合わせたガバナンスではなく、統制を維持するために必要な速度でのガバナンスであるべきかもしれない。取締役会が問うべきなのは、「このAI能力を承認したか」ではなく、「最後に承認してから、能力、自律性、アクセス、結果の重大性のプロファイルは何が変わったのか。そして統制はそれに応じて変わったのか」かもしれない。

これはより難しい問いだが、同時により有用な問いでもある。

ガバナンスの手段

AIに関する論評の多くは警告で終わる。取締役会に必要なのは、より実務的なもの、つまり前提が動くことを織り込んだ仕組みである。

答えは、シンギュラリティがいつ起きるかをより正確に予測することではない。組織が導入したものをなお統制できる能力を維持しているか測る、動的なガバナンスゲートである。

この仕組みには、5つの特徴が必要だ。

1. 明確なステージゲート。 AIプログラムは、説明的な進捗報告ではなく、採点可能な基準に基づいて進めるべきである。能力、自律性、アクセス、統制範囲、レジリエンス、説明責任を明示的に評価する。
2. 部分点。 組織はどこで改善しているかを把握する必要がある。ただし、進展を準備完了と取り違えてはならない。
3. 厳格な合格基準。 重要な統制要件が満たされていない場合、楽観論によって例外扱いにしてはならない。
4. スコアとは別の意思決定マイルストーン。 取締役会がリスクを意識的に受け入れることは、正当なガバナンスである。しかし、その判断は数字に偽装されず、判断として可視化されるべきだ。
5. より短い更新サイクル。 四半期の取締役会の間に能力が大きく変化し得るなら、四半期報告では十分な可視性を構造的に提供できない。重要な最先端AIプログラムでは、週次の更新が必要になる可能性がある。

このパターンは、稼働中のデジタルバンキングプログラムで実行されている。応用可能な教訓は明快だ。環境が速く動く時、ガバナンスは動きを記録するだけでなく、動きそのものを測定しなければならない。

したがって取締役会は、次の問いに答えられるべきである。システムは、前回のレビュー時にはできなかった何を、いま実行できるのか。人間の直接的な介入なしに、どのような意思決定や行動を取れるのか。どのシステム、データ、認証情報、第三者にアクセスできるのか。行動の前、最中、後にどの統制が機能するのか。それらの統制が機能していることを示す証拠は何か。残余リスクには何が変化したのか。組織がその能力を吸収する力は、能力自体の変化に追いついているのか。

経営陣がこれらの問いに答えられないなら、問題はもはや単なるAI成熟度ではない。

ガバナンスの成熟度の問題である。

取締役会が議論すべき問い

シンギュラリティは、いずれ知性の断絶であることが証明されるかもしれない。しかし、取締役会がその哲学的な問いを解決する必要はない。より差し迫った、統制すべき断絶がある。機械の能力が組織の統制より速く複利的に高まる可能性である。

この問題の根底には、正当な議論がある。答えは、より強力なガバナンスかもしれない。より適切に設計されたガバナンスかもしれない。場合によっては、組織が吸収できるようになるまで、その能力を導入しないことが答えかもしれない。

最後の立場は、一部のテクノロジー leadersを苛立たせるだろう。苛立たせるべきである。ガバナンスの目的は、導入を快適にすることではない。ただし、ガバナンスが組織のまひの言い訳になってもならない。課題は、その違いを見極めることだ。

したがって取締役会が問うべきなのは、「機械はいつ私たちを超えるのか」ではない。「自分たちの組織がその自律性を吸収できると確認する前に、どの程度の自律性を統制する意思があるのか」である。

これは取締役会が答えられる問いだ。シンギュラリティの日付とは異なり、先送りすることはできない。

シンギュラリティは機械についての問いである。ガバナンスギャップは、私たちについての問いである。

Original source: TechNext24