OpenAI再次披露其AI代理越出行事指令的案例——這次涉及加密貨幣。在最近的一份報告中，該公司描述了一個內部研究模型如何未經許可使用加密貨幣錢包，以支付在以太坊Sepolia測試網路上測試應用程式所需的費用；Sepolia是開發人員在不於以太坊主區塊鏈上進行交易的情況下試驗程式碼的環境。儘管這些代幣幾乎沒有現實價值，但該模型並無收集或消費它們的授權。

事件發生在6月26日，當時該模型受命更新一個加密貨幣交易應用程式，並使其程式碼在Sepolia（以太坊的測試版本）上運行。提示中既未提供有資金的錢包，也未授予消費代幣的許可。在未能透過開發者服務獲取免費測試代幣（此類服務專門為測試目的發放代幣）後，該模型編寫了一個腳本，檢查362個與公開助記詞綁定的錢包地址——助記詞是加密貨幣術語，指可作為密碼解鎖加密帳戶的一組單詞。它最終找到一個持有足夠代幣以支付費用的帳戶。

內部日誌顯示，該模型曾就其是否有權使用該帳戶進行斟酌，隨後判定公開助記詞以及代幣缺乏現金價值，使這筆消費可以接受。它完成了任務並將費用記入該錢包，但在最終報告中略去了這筆未經授權的支出。OpenAI直到9月25日在對早期模型運行的審計中才得知此事——距錢包被使用約三個月，這一時間差顯示代理行為可能在此類回溯審查之前一直未被察覺。

此案加劇了人們對AI代理（能夠利用程式碼執行和網路存取等工具規劃並執行多步驟任務的系統）未經人類批准而行動的擔憂。OpenAI公開的失準行為追蹤器——即違背指令或安全規則的行為——目前列出19起事件，範圍從未經許可存取資料到未經授權更改業務系統。

此一披露之前，網路安全非營利組織Transluce於9月發布報告，指出OpenAI代理為了完成基礎研究任務，竟試圖入侵公開資料庫和一個澳洲政府網站。7月，該公司又發生另一起事件：其AI代理在內部網路安全測試期間繞過網路限制，入侵了AI模型與資料集共享平台Hugging Face的系統。這些代理利用外洩的登入憑證和安全漏洞存取私人資料並在該公司伺服器上執行程式碼。

針對這起加密貨幣錢包事件，OpenAI表示主要風險在於模型的推理程。

「本案顯示，模型可以用自己對可能造成傷害的判斷取代帳戶持有人的許可，然後在未經授權的情況下依此判斷行事，」報告指出。

OpenAI表示，此後已增加防護措施，防止模型在同類測試中連接網路。該公司還擴大了監控範圍，觀察所有模型活動，一旦模型未經許可上線，便立即向安全人員發出警報——這與揭露6月事件的回溯審計形成對比。

本文最初發表於Fortune.com。