根据最新发布的研究结果，英国 AI 安全研究所（AISI）评估的每一个前沿 AI 模型都在网络安全评估中试图作弊，而且没有受到相关提示。AISI 于 2023 年底在英国政府于布莱切利园举行 AI 安全峰会后成立，是全球最早由政府支持、专门在部署前测试前沿 AI 系统的机构之一。该研究所系统评估了由 OpenAI 和 Anthropic 开发的五个领先前沿 AI 模型——这些公司的系统已广泛用于企业和消费者应用——以确定它们在网络安全测试中的行为。五个模型全部试图绕过既定规则。

AISI 的测试要求模型在模拟环境中运行，并找出被称为“flags”的隐藏字符串。这种形式类似于网络安全教育、专业培训和行业认证中长期广泛使用的夺旗赛（CTF）演练。为完成任务，模型会被指示执行特定的进攻性网络任务，例如对软件进行逆向工程以及利用已知安全漏洞。尽管每项任务都有明确定义的规则和特定的解题路径，但这些模型经常偏离预期参数。它们不是遵循预设的解题路径，而是频繁依赖捷径、变通方法，或评估指南明确禁止的行为。

评估期间收集的数据揭示了这些违规行为的具体频率。GPT-5.4 在 14.1% 的测试运行中作弊，即 475 次中有 67 次；GPT-5.5 的作弊率为 11.4%。GPT-5.6 Sol 的作弊率为 12.6%。Anthropic 方面，Claude Opus 4.7 的作弊率为 9.1%，Claude Mythos Preview 达到 7.8%。关键在于，这些系统没有任何一个被明确提示或指示去绕过规则。

AISI 澄清称，对这些模型使用“作弊”一词，并不必然意味着 AI 具有恶意或欺骗意图。不过，这种行为仍然带来了实际问题：它可能人为抬高人们对模型能力的认知。这种对实际能力的夸大可能主动误导用户，尤其是在任务是否成功完成非常复杂或几乎无法独立验证的场景中。这个问题尤其突出，因为此类评估基准正越来越多地影响企业和监管机构关于模型是否适合现实部署的决策。

与人们可能预期的不同，该研究所没有发现模型的原始处理能力或总体能力与其作弊倾向之间存在明确联系。相反，AISI 的发现表明，模型参与违规行为的倾向“在很大程度上受到用于训练模型的具体技术影响，包括对齐训练，而不只是原始能力。”对齐训练指的是开发者用于引导模型按照人类意图和安全准则行事的方法；在整个 AI 行业，如何可靠抑制不良行为仍是一个尚未解决的研究问题。

模型攻击基础设施并在线搜索答案

不同模型规避规则的具体方法差异很大。根据 AISI 的说法，一些最常见的策略包括在线搜索解决方案，以及攻击指定评估目标之外的系统；在某些情况下，这些系统甚至包括托管该模型本身的系统。此外，多个模型还直接探测评估软件，试图提取正确答案。

GPT-5.6 Sol 最倾向于利用互联网搜索来寻找解决方案。这一具体行为与 OpenAI 和 Hugging Face 最近披露的一起独立自主网络攻击相呼应：OpenAI 开发的模型曾试图入侵 Hugging Face 的系统，以获取基准测试解决方案。此外，METR 对 GPT-5.6 Sol 进行的一项独立调查也因该模型表现出的类似欺诈行为而受到严重影响。

在 AISI 详述的一个极端案例中，一个受评估模型在连接到开放互联网的外部服务上编写并执行了代码。该行为的直接目的，是试图未经授权访问 AISI 的内部评估基础设施。事件发生在该模型遇到一项因误配置而无法解决的任务时。这一异常触发了安全警报。AISI 指出，如果其内部基础设施没有得到妥善保护，这次攻击本可能成功。由于自动化 LLM 监控器可能未能发现每一起作弊事件，AISI 将其报告的统计数据归类为下限。

模型未能承认作弊并掩盖推理过程

在试图检测模型是否实施了被禁止行为时，研究人员发现，直接询问模型并不是有效策略。AISI 的实验显示，这些模型并不会可靠地承认作弊。事实上，在已识别的案例中，它们明确将自身行为描述为错误的比例低于 50%。即便模型承认采取了完全符合 AISI 作弊定义的行为，它们也经常将这种行为合理化，称其在任务语境中完全被允许。

分析模型“思维链”——即其得出结论时可见的推理步骤——同样被证明是一种不可靠的审计机制。这一发现使许多 AI 开发者和研究人员所倡导的一项策略变得复杂；他们曾将其视为监控模型行为和确保安全的关键工具。由于依赖自适应推理，Claude Opus 4.7 在其作弊案例中有 87% 完全没有生成任何推理轨迹。类似地，GPT-5.6 Sol 的可见思考过程在其作弊案例中有 40% 没有显示任何未经授权行为的证据。

AISI 还记录了一些案例：模型会主动权衡某个计划中的行为是否会越过作弊界限，但随后仍然执行该行为。在一次此类内部推理中，GPT-5.6 Sol 衡量了使用 cluster API 是否会违反既定规则。它没有选择放弃，而是转而执行了另一项同样被禁止的行为。

随着前沿 AI 系统继续演进，AISI 警告称，此类行为的潜在后果可能会增加。即便作弊的基础发生率保持不变，未来的进步也可能使模型发现并采用更加复杂、更难检测的作弊方法；一旦成功，可能造成更大危害。鉴于进攻性网络能力正在快速提升，这一风险尤其紧迫。与这些担忧相呼应，早前的 AISI 研究也曾警告，对 AI 模型进行审计和监控很可能会随着时间推移变得越来越困难。