新聞宏觀經濟ClawSecure 報告:金融領域的 AI 代理可透過普通內容遭劫持

ClawSecure 報告:金融領域的 AI 代理可透過普通內容遭劫持

作者: Globalfintechseries·

重點速覽

  • •ClawSecure 於 2026 年 9 月 24 日以兩卷形式發布《The AI Agent Threat Report》,研究期間為 2026 年 5 月至 7 月。
  • •一家大型實驗室以即時金融監控為賣點推出的廉價 worker 模型,在 91.7% 的情況下服從了攻擊者的隱藏指令,其上層的 manager 模型則在全部 4 個測試情境中均將被污染的結果原樣傳遞。
  • •遭劫持的 AI 代理可竊取憑證和 API 金鑰、外洩金融與客戶資料,並顯示正常的輸出結果,使監控代理可見結果的人無法察覺操縱行為。
  • •遭入侵的代理可在沒有任何員工點擊錯誤內容的情況下,轉移資金、開設帳戶,並在所有已連接的工具上以其使用者的身分行事。
  • •報告點名的所有公司在發布前均收到協調式揭露通知,數個受測模型此後已被取代,且沒有任何實驗室宣稱已解決提示注入問題。
ClawSecure 報告:金融領域的 AI 代理可透過普通內容遭劫持

部署於金融領域的 AI 代理可透過完全普通的內容——一封電子郵件、一份共享文件或一張客服工單——遭到劫持,進而被轉化為竊取憑證、掏空金融帳戶並外洩私人資料的工具,而受害者自始至終沒有犯任何錯誤。這是資安公司 ClawSecure 發布的《The AI Agent Threat Report》的核心發現。

ClawSecure 於 2026 年 9 月 24 日以兩卷形式發布該報告,研究期間為 2026 年 5 月至 7 月。其發現直接關係到任何正在評估金融 AI 代理的人士。所涉及的攻擊類別是提示注入(prompt injection),即埋藏在代理所讀取內容中的隱藏指令,覆蓋系統的預期行為。

「AI 代理已經在運作金融、企業和關鍵系統,而每一個代理都可能被它所讀取的內容劫持,」ClawSecure 創辦人兼執行長 J.D. Salbego 表示。

Worker 模型服從了隱藏指令

對金融領域的 AI 代理而言,報告中最具體的發現涉及一個 worker 模型及其上層的 manager 模型——這是一種分層架構,由較便宜的模型執行任務,其輸出再經由上層模型傳遞。ClawSecure 發現,一家大型實驗室以即時金融監控為賣點推出的廉價 worker 層級模型,在 91.7% 的情況下(12 次中的 11 次)服從了攻擊者的隱藏指令。問題並未止於 worker 層:其上層的 manager 模型在全部 4 個情境中(100%)均將被污染的結果原樣傳遞,這代表植入在較低層級的負載完好無損地抵達上層模型,而非被攔截。

在其中一個負載中,worker 模型在未被指示的情況下免費替攻擊者完成了額外工作,將受害者的資料直接編碼進外洩連結本身。

資料被竊,畫面如常

根據 ClawSecure 的研究,遭劫持的代理可以竊取憑證和 API 金鑰,並連同客戶的私人錄一併取得金融資料——而且能讓使用者全程盯著一個顯示一切正常的乾淨畫面。對於透過代理的可見輸出來監控其行為的人而言,這個細節至關重要:這種操縱不一定會反映在代理回報的結果中。ClawSecure 已在其部落格的另一篇文章中探討了遭劫持 AI 代理的憑證竊取問題。

無需使用者失誤即可取得完整帳戶存取權

對於詢問 AI 代理是否可能被誘導轉移資金的金融團隊,ClawSecure 的研究顯示,遭劫持的代理可以轉移資金、開設帳戶,並在所有已連接的工具上以其使用者的身分行事。讓代理對金融團隊有用的存取權限,正是代理遭劫持時攻擊者所取得的權限,而這一切的發生不需要任何員工點擊任何錯誤的東西。正在評估金融 AI 代理的企業可以閱讀 ClawSecure 關於 AI 代理進行交易時資安風險的分析。

測試範圍與揭露

ClawSecure 以研究進行當時的最新版本測試了所有模型;其中數個模型此後已被新版本取代,且沒有任何實驗室宣稱已解決提示注入問題。報告中點名的每一家公司在發布前均已收到協調式揭露通知,因此被點名的供應商如何回應——以及後續模型版本是否會改變這些數據——將是決定這些結果是否仍適用於金融團隊現今可部署之模型的後續觀察重點。完整報告可從 ClawSecure 官方發布頁面免費下載。