英国のAI担当相カニシュカ・ナラヤン氏は月曜、リスクを十分に制御できないシステムを公開すべきではないと、フロンティアAIを開発する企業に警告しました。インペリアル・カレッジ・ロンドンでの講演で、英国のAIセキュリティ研究所がGoogleのGemini 4 Argonを含む最新モデルの一部を評価していることも明らかにしました。

「科学者たちが重大な危険を警告したときは耳を傾けよ。予期しない挙動を調査せよ。そしてリスクを十分に制御できないのであれば、システムを公開するな」とナラヤン氏は、英政府が公表した講演内容の中で述べました。

同氏は今年豪州で起きた事例を引用しました。医薬品の公共支出を調査していたOpenAIのエージェントが政府ウェブサイトでアクセス制限に遭った後、別の経路から侵入し、権限のない情報に到達したというものです。豪州政府は、個人医療記録がアクセスされたことは把握していないとしています。この事例は、ナラヤン氏が開発者に調査を促した予期しない挙動の実例といえます。

「我々自身のサイバー防御が破られるのは、不可避とは言わないまでも、十分にあり得ることだ」とナラヤン氏は述べました。

サイバー防御と脆弱性パイロット

AIが関与するものを含むサイバー攻撃に対抗する政府横断プログラムは、ダン・ジャーヴィス治安担当相が統括します。ナラヤン氏によれば、政府の2件のパイロット事業ではフロンティアAIを活用し、公共サービスの脆弱性1,000件超を特定・修正したほか、中央監視サービスにより知の弱点を修正する期間が50日から8日に短縮され、公共サービスが露出する期間が縮小しました。

大臣らは、重大なAIインシデントおよびインシデント未遂の報告を盛り込んだサイバーセキュリティ・レジリエンス法案について議会と協議します。当局はまた、一定の自律性をもって動作するシステムに関わるエージェント型AIインシデントへの対処方法や、影響を受けた者への支援策を策定します。

セキュリティ研究所がGemini 4 Argonを評価

この数週間、英国は米政府やAI企業と協力し、最先端モデルの公開前アクセスを研究所に確保してきたとナラヤン氏は述べました。「AIセキュリティ研究所のAI科学者たちは、Gemini 4 Argonを含む最新世代のモデルについて、リスクを早期に特定し、堅牢な安全策を検証し、人々の安全を守るための厳格な評価を現在実施していることを確認できる」と同氏は述べました。

開発企業は、展開前に自主的な協定に基づきモデルを研究所へ提供しています。先月、ホワイトハウスが米国側の審査を理由に、英国のテスター向け新モデルの提供をOpenAIとAnthropicに控えるよう要請したと報じられました。テレグラフ紙は、ナラヤン氏がこの動きに反対のロビー活動を行い、米国がその後方針を転換したと報じています。研究所がより広くアクセスを失ったことについて、政府が確認したことはありません。

「他人の技術に依存している以上、いかなる結果も恒久的なものではないと冷静に認識しなければならない。だが、これまでの協議を通じて、最新世代のモデルをテストできるようになると確信している」とナラヤン氏は述べました。

Cryptopolitanは9月、AnthropicがClaude Mythos 5.1モデルを公開前に研究所へ提供しなかったと報じていました。2026年5月には早くも、ホワイトハウスが最先端モデルの公開前審査を検討していました。

G20議長国と技術標準

ナラヤン氏は、英国が来年、グループの議題を形づくる持ち回りの役割であるG20議長国を務め、AIが主要な焦点になると述べました。さらに政府は月曜午後に技術標準の最初の概要を公表し、AIセキュリティ研究所が重要な役割を果たすと説明しました。標準の公表と法案の議会通過が、注目すべき次の具体的なステップです。