AI 研究公司 Anthropic 發布了最新的威脅情報報告《偵測及遏制 AI 濫用：2026 年 9 月》，詳細說明惡意行動者試圖將其 Claude 模型武器化，用於網路行動、影響力活動、監控、生物研究、武器開發、詐欺及模型蒸餾。

該報告涵蓋 2025 年 12 月至 2026 年 8 月期間偵測並遏制的活動。相關案件涉及疑似國家支持的團體、以獲利為目的的犯罪分子、商業間諜軟體供應商及宣傳機構，活動遍及俄羅斯、中國、伊朗及其他地區。

Anthropic 表示，除模型蒸餾章節所描述的一起案件外，已記錄的濫用案件均未涉及其功能最強大的 Fable 或 Mythos 系列模型。該公司也強調，披露的事件並不代表典型的濫用情況，而是從迄今發現的活動中，挑選出最複雜且最具新穎性的威脅。因此，這份報告記錄的是高階、已被證實的濫用案例，而非衡量這些活動發生頻率的資料。Anthropic 表示，在每起案件中都封禁了相關帳戶，根據調查結果強化安全防護措施，並與主管機關及業界合作夥伴分享情報。

We're publishing our most detailed threat intelligence report to date. It covers how people tried to misuse Claude—for cyberattacks, influence operations, surveillance, biology, and building weapons—and how we found and stopped them. We disrupted every operation in the report,… — Anthropic (@AnthropicAI) September 10, 2026

https://x.com/AnthropicAI/status/2098097512544444447?ref_src=twsrc%5Etfw

從助理到協調者：主要發現

報告的核心結論是，AI 在網路犯罪中的角色已從提供建議的工具，轉變為執行作業的協調者。在所檢視的大多數行動中，威脅行動者部署了多代理架構，自主執行偵察、漏洞利用、憑證蒐集及資料外洩等工作。人類參與者主要負責選擇目標並檢視結果。

其中一宗值得注意的案件被識別為 GTG-20006，並與俄羅斯國家關聯團體 Midnight Blizzard 有關。該團體利用 AI 驅動的工作流程進行網路釣魚、惡意軟體開發及規避偵測；每當安全產品偵測到其工具包時，系統便會自動重建工具包。此外，疑似與 ShinyHunters 有關聯的成員利用 AI 將憑證蒐集工業化，反編譯 1.8 million 個 Android 應用程式以尋找機密資訊，並在短至 two to three hours 內完成入侵。

在網路行動之外，Anthropic 記錄了針對 Moldova、Kenya、Malaysia 和 Bangladesh 選舉及公眾輿論的影響力活動。該公司也描述了中國、Iran 和 Mali 的國家支持監控活動，包括一個旨在監控約 25 million 名行動用戶的平台。

報告進一步確認了武器開發活動，包括 Yemen 的導引火箭計畫，以及 Russia 的自主無人機群專案。生物濫用章節列出五宗具雙重用途的研究案件，包括涉及 chikungunya virus 的功能增益研究，以及禽流感適應性研究。Anthropic 表示，其分類器大致遏制了這些活動。

報告也詳細說明了歸因於中國實驗室的非法蒸餾活動，包括 Alibaba、DeepSeek、Moonshot AI、Xiaomi 和 Zhipu。Anthropic 指控這些實驗室秘密將用戶查詢轉送至 Claude，蒐集推理痕跡，並利用產出的結果訓練競爭模型。在數個案件中，這種轉送據稱在用戶不知情的情況下，將敏感的企業及政府資料暴露給第三方。

Anthropic 將這次披露定位為警告與路線圖。該公司表示，隨著 AI 模型能力不斷提升，AI 業界及各國政府若要持續領先於持續活動的對手，協調一致的偵測與防禦工作將不可或缺。

來源：Metaverse Post