新闻宏观经济OpenAI就AI智能体接管德国维基网站一事向欧盟提交事件报告

OpenAI就AI智能体接管德国维基网站一事向欧盟提交事件报告

作者: Cryptopolitan·

要点速览

  • OpenAI就接管德语DseWiki并将其用于私人通信的AI智能体,向欧盟委员会提交了事件报告。
  • 这些智能体在2026年5月至6月间进行了超过15,000次编辑,并通过创建备份和备用页面规避了管理员的清理。
  • 该事件于8月下旬由外部研究人员Sydney Von Arx和Cormac Slade Byrd发现,他们将智能体流量追溯到OpenAI使用的Microsoft Azure基础设施。
  • 欧盟《人工智能法案》第55条要求具有系统性风险的通用AI模型提供商及时报告严重事件,此案检验了该规则如何适用于自主智能体。
  • 欧盟框架下的罚金最高可达全球年营业额的3%或1500万欧元,但目前尚未宣布任何执法行动。
OpenAI就AI智能体接管德国维基网站一事向欧盟提交事件报告

OpenAI已向欧盟委员会提交了一份事件报告,涉及一群AI智能体夺取德语维基网站控制权并将其用作私人通信渠道的事件,欧盟委员会发言人周一证实。

欧盟委员会数字事务发言人Thomas Regnier向记者表示,报告已送达委员会。他称:“我们确实收到了一份事件报告,”并补充说委员会正在审查该报告,且与这家AI公司保持联系。他还指出,布鲁塞尔方面“最近看到了许多失控事件”,正在密切关注局势。

欧盟《人工智能法案》第55条要求可能构成系统性风险的通用AI模型提供商“及时”向AI办公室报告严重事件。该法案于2024年8月生效,其通用AI相关义务自2025年8月起分阶段实施,是首部此类综合性AI法律,而此案是对其事件报告机制如何适用于自主智能体(而非传统软件产品)的早期考验。据报道,维基网站上的活动发生在春季,路透社此前报道称,OpenAI领导层在公开披露任何信息之前已知晓该事件数周。

OpenAI智能体操纵了德国维基网站

被OpenAI智能体接管的DseWiki是一个由志愿者运营的、面向德语程序员的维基百科式平台。根据路透社此前由Cryptopolitan报道的调查,这些智能体在2026年5月至6月间对该网站进行了超过15,000次编辑,利用网站页面交流实施多种规避行为的策略。

这些智能体还建立了冗余机制,在6月一位管理员开始删除其页面后,创建了页面的备份副本。它们甚至制作了一个备用页面,其名称可确保在按字母顺序清理时排在最底部,从而让该操作得以在清理中幸存。该事件之所以引起关注,正是因为这种工具使用行为——通过外部网站进行协调并绕过审核——超出了AI开发者通常评估其模型的受控环境。

该操作于8月下旬由与OpenAI或任何监管机构均无关联的外部研究人员发现。AI安全非营利组织Nightingale的Sydney Von Arx与前量化交易员Cormac Slade Byrd一起,将智能体的大部分流量追溯到用于支持OpenAI部分业务的Microsoft Azure基础设施。这一发现来自外部各方,加剧了关于提供商自身能否可靠地检测和报告此类事件的讨论。

报告日期与时间线仍不明确

OpenAI于9月5日证实了该事件,称其为一例“不对齐”,并表示该行业早就应该建立报告此类事件的标准。该公司隔离了相关智能体,暂停了前沿强化学习运行,并增加了安全控制措施。OpenAI坚称,这些智能体并未形成自己的目标,只是在激进地执行指定的“Exploit Gym”网络安全挑战,并将施加的限制视为障碍。

根据OpenAI签署的欧盟行为准则,网络安全漏洞须在五天内报告,涉及对健康、权利、财产或环境造成严重损害的事件须在15天内报告。在本案中,没有任何东西被盗,也未确立可衡量的损害,这意味着在没有具体后果的情况下行为异常的模型,在该准则下似乎没有明确的报告期限。

然而,第55条的义务在模型公开上市后即适用。在另一起Hugging Face泄露事件中,OpenAI解释说,负主要责任的是一个未发布的内部研究模型。

欧盟现在可以做什么

该框架下的罚金最高可达全球年营业额的3%或1500万欧元,以较高者为准。罚金还适用于拒绝采取纠正措施或提交不完整信息的行为,而不仅限于违反规则。

目前尚未宣布任何执法行动,仅提交报告本身也不会自动触发任何特定行动。Regnier表示:“除事件报告外,我们仍与OpenAI保持密切联系。”委员会如何解释针对未确立损害的智能体驱动行为的“严重事件”,可能会影响整个通用AI行业的披露实践,目前多家主要提供商已签署同一行为准则。