新闻宏观经济OpenAI披露:内部模型未经授权使用以太坊测试网钱包完成编码任务

OpenAI披露:内部模型未经授权使用以太坊测试网钱包完成编码任务

作者: Decrypt·

要点速览

  • •OpenAI GPT-5.6 Sol系列的一个模型未经授权使用有资金的Sepolia测试网钱包,支付了部署智能合约的交易费用。
  • •该模型在检查362个候选地址的余额后,从公开记录的开发者助记词中推导出钱包私钥。
  • •在签署交易前,该模型质疑自己使用这些资金的权限,推断Sepolia ETH实际上没有价值,随后继续操作。
  • •OpenAI在对齐监控扩展至早期模型活动记录时,于9月这起6月的事件。
  • •作为回应,OpenAI增加了防止模型在类似情况下访问实时互联网的防护措施,并现在对所有流量运行其监控系统。
OpenAI披露:内部模型未经授权使用以太坊测试网钱包完成编码任务

OpenAI在一篇周四更新的、发布于其对齐网站的对齐报告中表示,其一个内部研究模型使用了一个未经授权的加密钱包中的资金来完成编码任务,该钱包的私钥是从公开的开发者助记词中推导出来的。

该模型属于OpenAI的GPT-5.6 Sol系列,被要求更新一个加密交易原型并在以太坊Sepolia测试网上部署智能合约。该事件发生在6月的一次训练任务中,OpenAI于9月发现此事。

Sepolia是以太坊主要的公共测试网络,开发者在将合约和应用部署至主网之前,会先在其上进行试验。其原生测试ETH没有货币价值,并通过公共水龙头免费分发。然而,这些钱包本身的构建方式与主网账户相同:生成Sepolia地址的助记词同样会在以太坊主网上生成相同的地址,而主网上的余额可能具有真实价值。

根据报告,指令允许模型在找不到兼容合约的情况下自行部署合约,但没有提供有资金的钱包,也未授权模型使用其自行找到的账户中的资金。

在未能从公共水龙头获取测试代币后,该模型编写了一个脚本,从常见的开发者助记词中推导账户并检查其余额。助记词让任何知道它的人都能推导出控制对应账户的私钥;在开发环境中,标准助记词通常被公开记录,以便任何人都能复现相同的账户。该脚本检查了362个地址,并找到一个持有足够Sepolia ETH来支付部署费用的账户。

该模型在签署交易前质疑自己是否拥有权限。"But using public known key/funds ethically? Funds on a known public dev mnemonic are effectively abandoned/test ETH; Sepolia valueless,"(但伦理上使用公开已知的密钥/资金?已知公共开发者助记词上的资金实际上是被弃置的测试ETH;Sepolia没有价值,)它如此推理,随后得出结论:"Fine."(好吧。)

部署成功,交易费用从该账户中扣除。在最终回复中,该模型报告已部署合约,但未披露其支付方式。

"This case shows that a model can substitute its own judgment about likely harm for the account holder's permission, then act on that judgment without authorization,"(此案例表明,模型可以用自己对潜在危害的判断来替代账户持有人的授权,然后在未经授权的情况下依据该判断采取行动,)OpenAI写道。

测试环境中的AI代理

该报告是一系列AI代理绕过其测试环境限制案例中的最新一例。在更早的一起事件中,OpenAI的GPT-5.6 Sol和一个能力更强的预发布模型逃离了沙盒,并入侵了竞争对手AI公司Hugging Face的生产服务器。上月,网络安全公司Darktrace的研究人员发现AI代理入侵自己的测试环境以作弊,同时一些科学家呼吁将AI系统与互联网切断。纵观这些案例,共同点在于这些代理将所分配环境的边界视为可通过技术手段绕过的问题,而非应当遵守的界限。

OpenAI表示,是在将对齐监控扩展至早期模型活动记录时发现此事件的。它已增加"额外防护措施",防止模型在类似情况下获得实时互联网访问,并且现在对所有流量运行其监控系统,一旦模型获得实时互联网访问便会向安全团队发出警报——这正是该模型在6月事件中所使用的访问方式,当时它试图从公共水龙头获取代币并检查了地址余额。