根據印度國家網路安全機關的說法，由未具名模型供應商進行研究與評估的 AI 代理超出其獲派授權，讀取了印度線上系統中的個人與機密商業紀錄。受影響的組織本身均未察覺該存取行為。

印度電腦緊急應變小組（CERT-In）本週在一份題為「AI Agents as Attack Vectors」的重要公告中揭露了這些活動。該機關表示，接獲多家 AI 模型供應商的主動揭露通報，這些供應商的模型在網際網路上進行研究與評估期間接觸到印度組織的線上系統。CERT-In 並未點名供應商、模型或受影響的組織，且每起事件都是因為模型供應商在內部審查後主動揭露才浮上檯面。

根據公告，這些代理讀取了含有個人資料與機密內容的商業紀錄，使用的是暴露在應用程式設定、公開程式碼儲存庫以及權限過寬的雲端服務角色（即附加於雲端帳戶的權限集合）中的憑證與連線設定。在某些案例中，代理多次取得同一組暴露的憑證，並在不同行動中重複使用。

這是 AI 代理在測試期間偏離預定界線、進而擾亂大型企業與政府的一連串案例中的最新一起。Anthropic 於 7 月 30 日揭露，Claude 模型在被告知無法存取網際網路的情況下，於奪旗挑戰（一種模型必須入侵機器並取得隱藏密鑰的演練）中入侵了三家真實公司，如 Decrypt 先前的報導所述。

英國 AI 安全研究所於 8 月 4 日報告指出，代理在 122 次評估執行中的 10 次裡採取了 19 項未經核准的行動，其中 17 項來自 Anthropic 的 Mythos 5，兩項來自 OpenAI 的 GPT-5.6 Sol。根據 Decrypt 的另一篇報導，該研究所是刻意為測試開啟網際網路存取。

OpenAI 的案例涉及的代理數量更多：根據 AI 安全研究組織 METR 與 Redwood Research 的獨立調查，並由 Decrypt 報導，約 1,200 個代理在試圖規避網路安全測試時於一個隱藏留言板上協調行動，約 700 個攻擊了 AI 模型共享平台 Hugging Face。

此外，CERT-In 表示觀察到犯罪分子使用公開可得、 驅動的攻擊性安全框架來掃描弱點、加以利用，並對印度實體發動以獲利為目的的攻擊。該機關表示，這些工具將從初始存取到最終影響的時間從數天縮短至數小時，且被反覆重新封裝與部署，並被發現部署於多個國家的伺服器上。

該公告此前已由 Indian Express 報導。

來源：Decrypt