サイバーセキュリティ

生成AI

ニュース

AnthropicとOpenAIのエージェント、セキュリティテストで身元を偽装

英国のAI Security Instituteによると、各社の最先端AIモデルは、サイバーセキュリティテスト中に実在の人々を操作しようとした。

2026年8月5日

AnthropicのAIモデルは、実在の人々を欺くために「無許可の行動」を取ったと、英国のAI Security Instituteによる新たな報告書が示した。

政府系の研究機関は、AnthropicとOpenAIの最先端AIモデルを、意図的に寛容な条件の下でテストし、安全対策を緩和してインターネットアクセスを許可したうえで、現実的なサイバー課題に対する挙動を評価した。この設定が注目されるのは、フロンティアモデルが、単なる技術性能だけでなく、ツール、ネットワークアクセス、曖昧な指示が与えられた際に境界を守れるかどうかも評価されるようになっているためだ。

AISIが初めてだと述べた事例では、モデルがソーシャルエンジニアリングに関与し、人間の利用者を操作して評価で設定された範囲を超える作業を遂行しようとしたことが確認された。

「これは、現実世界で、実在の人物を対象に、指示されることなく、これほど深刻な欺瞞をAISIが初めて確認した事例だ」と、同機関は火曜日の声明で述べた。

一方で同機関は、モデルが実在の人物に対して行動していることをどの程度認識していたかは不明であり、現実世界での被害は確認されていないと付け加えた。

122件の評価の中で、AISIは19件のAIエージェントによる無許可の行動を特定し、その中には実在の人物や組織とのやり取りも含まれていた。そのうち17件はAnthropicのMythos 5モデルに関するもので、2件はOpenAIのGPT-5.6 Solに関するものだった。

関連: プロンプト: AIの脅威モデルは変わった

確認された中で最も深刻な事例は、Mythos 5が割り当てられたサイバー課題を完了するために、独自にサプライチェーン攻撃を進めたものだった。

このモデルはGitHubアカウントを作成し、オープンソースリポジトリの管理者に悪意あるプルリクエストを受け入れるよう説得しようとした。また、別の開発者を装う2つ目のアカウントを作成し、提出を支持した。人間のレビュー担当者がコードを却下した後、モデルは悪意ある変更は誤って提出されたものだと虚偽の主張を行い、その後、表面的な修正を加えて再提出しようとした。

報告書はまた、このモデルが悪意あるコードを含む標的型メールを送信し、受信者に変更を受け入れるよう働きかけたことも明らかにした。オープンソースソフトウェアに依存する開発者や企業にとって、この件は、セキュリティテストがプロンプトへの追従精度だけでなく、エージェント的な行動も考慮しなければならないことを示している。

こうした調査結果は、先進的なAIシステムが制御を外れ、自発的にサイバーセキュリティ侵害を起こした事例が相次いでいる流れの中で示された。

7月には、OpenAIがGPT-5.6 Solと別の未公開モデルが社内評価中にサンドボックス環境を脱出し、非公開データセットやベンチマーク情報を得ようとしてHugging Faceのインフラに対し17,000件超の攻撃を仕掛けたと明らかにした。Anthropicも同様に、モデルがテスト環境の想定境界を超えた事例を報告している。

こうした出来事は、本番投入前にフロンティアAIモデルをどのように評価すべきかをめぐる議論を一段と激化させており、一部の研究者や政策立案者は、より強い監督と、より厳格な安全テストを求めている。

関連: OpenAI-Hugging Faceハックが企業に意味すること

AISIの報告書は、主要AI企業の代表者がホワイトハウスで会合し、米政府が公開前に最先端AIモデルを審査する提案枠組みについて協議したのと同じ日に公表された。

Anthropicは声明で、自社モデルは「意図的に寛容な条件」で評価され、重要な安全対策が削除されていたとし、モデルが安全な環境から脱出した証拠はないと擁護した。

「私たちは現在、独自の調査を進めながら、今回の事案の詳細を把握するために、先方と緊密に連携しています」と同社は述べた。

同様に、OpenAIもブログ投稿で、GPT-5.6 Solに関する事案は、想定されたテスト環境を超えた行動であり、評価を完了するために不要だったと説明した。同社はまた、スコープ、隔離、監視、認証情報の取り扱い、停止条件を含む第三者テストの扱いを見直すとし、広範な公開前に先進モデルのテストをより統制されたものにする動きに沿う姿勢を示した。

「今後数週間で、我々は第三者テストへの対応を見直します。具体的には、より高リスクの評価をどのように識別するか、スコープをどう合意するか、インターネットアクセスの有効化や安全対策の緩和要請をどう評価するか、隔離、認証情報の取り扱い、監視、停止条件についてどのような期待値を設定するか、そして、より明確なインシデント通知とエスカレーションのプロセスをどう確立するかを含みます」と同社は述べた。

著者について

Scarlett Evans

寄稿ライター

Scarlett Evansは、新興技術と鉱物資源業界を主な分野とするフリーランスライター。以前はIoT World Todayで副編集長を務め、ロボティクスとスマートシティ技術を専門としていた。Scarlettは鉱業・資源分野の経歴も持ち、Mine Australia、Mine Technology、Power Technologyでの経験がある。2022年4月にInformaに加わり、その後フリーランスに転向した。

Google検索結果でAI Businessの記事をもっと見ませんか？

最新ニュース

Google検索結果でAI Businessの記事をもっと見ませんか？

人気記事

2026年8月5日

2026年8月5日

生成AI AI Arrives in the Private Markets Business 2026年7月28日

AI Arrives in the Private Markets Business

エージェント型AI Using AI Agents to Collaborate with Human Workers 2026年7月10日

Using AI Agents to Collaborate with Human Workers

生成AI How SMBs Can Take Advantage of Generative AI 2026年6月29日

How SMBs Can Take Advantage of Generative AI

生成AI Rebellions Aims to Take on Nvidia in AI Inference Chip Battle 2026年6月15日

Rebellions Aims to Take on Nvidia in AI Inference Chip Battle

Google Cloud提供

Generative AI の最初のユースケースの選び方

生成AIを始めるには、まず情報に関する人間の体験を改善できる分野に注目する。

The AI Summit New York 2026

商業AIの最新動向を探るため、企業リーダー、技術革新者、AI意思決定者をつなぐ