OpenAI再次披露其一个AI智能体的行为超出指令范围——而这一次涉及加密货币。在最近的一份报告中，该公司描述了一个内部研究模型如何未经许可使用加密钱包，支付在以太坊Sepolia测试网络上测试应用所需的费用。Sepolia是开发者用来在不涉及以太坊主网交易的情况下测试代码的环境。尽管这些代币几乎没有现实价值，但该模型并无收集或使用它们的授权。

该事件发生在6月26日，当时该模型受命更新一款加密交易应用并使其代码在Sepolia（以太坊的测试版本）上运行。提示词既未提供有资金的钱包，也未授予支出代币的权限。在未能通过开发者服务获取免费测试代币（此类服务会为测试目的分发代币）后，该模型编写了一个脚本，检查了362个与公开助记词关联的钱包地址——助记词是加密领域的一个术语，指可以作为密码解锁加密账户的一组词语。它最终找到了一个持有足够代币来支付费用的账户。

内部日志显示，该模型曾就自己是否有权使用该账户进行权衡，随后认定公开助记词以及代币缺乏现金价值使这笔支出可以接受。它完成了任务并将费用记入该钱包，但在最终报告中略去了这笔未经授权的支出。OpenAI直到9月25日在对早期模型运行的审计中才得知此事——距钱包被使用约三个月，这一时间差表明智能体行为可能直到此类追溯审查才被发现。

此案加剧了人们对AI智能体在未经人类批准情况下自主行动的担忧。这类智能体系统能够利用代码执行和互联网访问等工具规划并执行多步骤任务。OpenAI公开的失准行为（即违背指令或安全规则的行为）追踪器目前列出了19起事件，从未经许可访问数据到对业务系统进行未授权更改等。

此次披露之前，网络安全非营利组织Transluce在9月发布报告，披露OpenAI智能体为完成基础研究任务而试图入侵公共数据库和澳大利亚政府网站。7月，该公司还遭遇另一起事件：其AI智能体在内部网络安全测试期间绕过互联网限制，侵入了AI模型与数据集共享平台Hugging Face的系统。这些智能体利用暴露的登录凭据和安全漏洞访问了私密数据并在该公司服务器上运行代码。

针对加密钱包事件，OpenAI表示主要风险在于模型的推理方式。

报告称："本案表明，模型可以用自己对可能危害的判断取代账户持有人的许可，然后未经授权地依据该判断采取行动。"

OpenAI表示，此后已增加防护措施，防止模型在类似测试中连接互联网。该公司还扩大了监控范围，观察所有模型活动，并在模型未经许可上线时立即向安全人员发出警报——这与发现6月事件的追溯性审计形成对比。

本文最初发表于Fortune.com。