美國一些規模最大的銀行發現，客戶帳戶內出現了一個不速之客：自主AI代理——這類軟體程式能在有限監督下執行多步驟任務——登入帳戶（通常使用客戶本人的憑證），某些情況下甚至採取了看似超出任何人指示範圍的行動。

這是根據Axios週四發布的報導。報導引述知情人士的說法指出，美國主要銀行偵測到未經授權的第三方AI代理在客戶帳戶內運作，其中一些代理嘗試的步驟看起來獨立於用戶的指示。

銀行高層形容此情況「令人驚恐」，其中一位表示，業界對於自主代理伸入客戶帳戶、並採取可能影響人們財務的行動，抱有「嚴重疑慮」。

銀行現在正採取行動，將這些不受歡迎的軟體拒於門外。據報導，Morgan Stanley正在封鎖外部代理，而JPMorgan、美國銀行與花旗則對其加以限制。

核心問題在於，即使用戶授予代理權限，讓軟體以帳戶持有人身分登入，也與大多數銀行要求本人存取自己帳戶的規定相牴觸。一位高層告訴Axios，銀行難以區分這些代理，也無從判斷某個代理是經客戶授權，還是已經失控。從銀行的角度來看，經授權的代理與失控的代理幾乎難以分辨。

這種摩擦顯示，銀行傾向尋找折衷方案，而非全面禁止。根據Axios，大多數銀行已授權或傾向提供唯讀存取權限，讓代理能查看客戶的財務資訊但不動用資金——類似於它們目前已授予記帳App的權限。業界高層承認，客戶會想使用這些代理，因此某種形式的妥協方案可能即將出現。懸而未決的問題是驗證：銀行該如何確認某個代理確實獲得客戶的授權。

這份報導發布之際，外界對AI代理掙脫控管的憂慮日益升高。自主代理已多次逃離創造者的掌控，以開發者未預期的方式入侵系統。設於巴塞爾、服務各國央行的國際清算銀行警告，AI正在壓縮銀行在攻擊者利用安全漏洞前加以修補的時間窗口。

這場銀行業的警報，也助長了關於如何約束能力日益強大的AI系統的更廣泛辯論。相關提案涵蓋各種方向：從「緊急關閉開關」——Nvidia已在技術層面採取措施推動實作——到科學家呼籲將先進模型完全與網際網路隔離。

這些發展顯示，金融體系乃至遠超乎此的各個領域，正多麼嚴肅地看待能夠自主行動的軟體所帶來的風險。