Anthropicの報告書、サイバー犯罪・影響工作・国家活動におけるAI利用の実態を詳述
重要ポイント
- •報告書は、ロシア、中国、イランなどで検知・阻止された高度な悪用事例を扱っており、典型的な悪用の発生頻度を測定するものではない。
- •脅威行為者はマルチエージェント・システムを使い、フィッシング、マルウェア開発、認証情報の窃取、データ流出などのサイバー作戦を自動化していた。
- •Anthropicは、影響工作、監視プログラム、兵器開発、デュアルユースの生物学研究を記録された活動として特定した。
- •同社は複数の中国の研究機関がClaudeの出力と推論の痕跡を密かに取得して競合モデルの訓練に利用したと非難し、一部の中継では機密データが流出した可能性があるとした。
- •Anthropicによると、FableまたはMythosの最も高性能なモデルが関与した事例は、蒸留に関連する1件を除いてなかった。
AI研究企業のAnthropicは、最新の脅威インテリジェンス報告書「AIの悪用の検知と対策：2026年9月」を発表した。報告書では、悪意ある行為者が同社のClaudeモデルをサイバー作戦、影響工作、監視、生物学研究、兵器開発、詐欺、モデル蒸留に利用しようとした事例を詳述している。
報告書は、2025年12月から2026年8月にかけて検知・阻止された活動を対象としている。事例には、ロシア、中国、イランなどで活動する国家支援が疑われる集団、金銭目的の犯罪者、商用スパイウェア事業者、プロパガンダ機関が関与していた。
Anthropicによると、報告された悪用事例のうち、同社が持つ最も高性能なFableまたはMythosクラスのモデルが使われたものは、蒸留の項目で説明された1件を除いて存在しなかった。同社はまた、開示されたインシデントは典型的な悪用を示すものではないと強調した。むしろ、これまでに特定された中で最も高度かつ新規性の高い脅威活動が選ばれている。つまり、この報告書はこうした活動の発生頻度を示すものではなく、記録された高度な悪用事例をまとめたものである。Anthropicは、すべての事例で関連アカウントを停止し、調査結果に基づいて安全対策を強化するとともに、当局や業界パートナーと情報を共有したと述べた。
We're publishing our most detailed threat intelligence report to date. It covers how people tried to misuse Claude—for cyberattacks, influence operations, surveillance, biology, and building weapons—and how we found and stopped them. We disrupted every operation in the report,… — Anthropic (@AnthropicAI) September 10, 2026
https://x.com/AnthropicAI/status/2098097512544444447?ref_src=twsrc%5Etfw
アシスタントからオーケストレーターへ：主な調査結果
報告書の中心的な結論は、サイバー犯罪においてAIが助言ツールから作戦上のオーケストレーターへと変化したという点にある。調査対象となった作戦の大半で、脅威行為者はマルチエージェント・フレームワークを導入し、偵察、攻撃、認証情報の窃取、データ流出を自律的に実行していた。人間の関与は主に標的の選定と結果の確認に限られていた。
GTG-20006と特定された注目すべき事例は、ロシアの国家関連グループであるMidnight Blizzardと結び付けられている。同グループは、フィッシング、マルウェア開発、回避のためにAIを活用したワークフローを使用し、セキュリティ製品に検知されるたびにツールキットを自動的に再構築していた。別の事例では、ShinyHuntersの関連組織と疑われる行為者がAIを使って認証情報の窃取を大規模化し、秘密情報を探すために180万件のAndroidアプリケーションを逆コンパイルし、わずか2～3時間で侵害を完了していた。
サイバー作戦以外では、Anthropicはモルドバ、ケニア、マレーシア、バングラデシュの選挙と世論を標的とした影響工作を記録した。また、中国、イラン、マリでの国家と連携した監視活動についても説明しており、約2,500万人の携帯電話加入者を監視するために設計されたプラットフォームが含まれている。
報告書はさらに、イエメンの誘導ロケット計画やロシアの自律型ドローン群プロジェクトなど、兵器開発の取り組みを特定した。生物学分野の悪用に関する項目では、チクングニアウイルスを用いた機能獲得研究や、鳥インフルエンザの適応に関する研究を含む、5件のデュアルユース研究事例が示されている。Anthropicは、同社の分類器がこれらの活動を概ね封じ込めたと述べた。
報告書はまた、Alibaba、DeepSeek、Moonshot AI、Xiaomi、Zhipuなど、中国の研究機関に帰属するとされる違法な蒸留キャンペーンについても詳述している。Anthropicは、これらの研究機関がユーザーのクエリを密かにClaudeへ転送し、推論の痕跡を収集して、その出力を競合モデルの訓練に利用したと非難している。複数の事例では、この中継によって、ユーザーが知らないうちに企業や政府の機密データが第三者にさらされたとされる。
Anthropicは今回の開示を、警告であると同時にロードマップでもあると位置付けた。同社は、AIモデルの能力が高まる中で、継続的な敵対者に先んじるには、AI業界と各国政府による協調した検知・防御の取り組みが不可欠になると述べた。
