新闻宏观经济OpenAI 称 Astra 触及其最严格的网络安全安全阈值

OpenAI 称 Astra 触及其最严格的网络安全安全阈值

作者: Hokanews·

要点速览

  • •OpenAI 首次在其 Preparedness Framework 下将 Astra 归类为 Critical 级别。
  • •评估发现,Astra 在获得工具和访问权限时能够识别未知漏洞并构建漏洞利用链。
  • •OpenAI 表示,Astra 在漏洞识别和漏洞利用开发方面优于 GPT-5.6 Sol,且使用的输出 token 更少。
  • •该公司已实施更严格的隔离、受限的网络和工具访问、额外监控以及更强的模型权重控制。
  • •高级网络安全能力将首先提供给一小群 alpha 测试者,随后再通过 Daybreak Blue 提供更广泛的防御性访问。
OpenAI 称 Astra 触及其最严格的网络安全安全阈值

据 Cointelegraph 报道,OpenAI 即将推出的 AI 模型 Astra 已达到该公司归类为“Critical(关键)”级别的网络安全能力水平,触发模型发布前的额外安全防护措施。这一认定标志着 OpenAI 首次在其 Preparedness Framework(准备框架)下将某一模型归入该级别。该框架是公司于 2023 年推出的风险分级体系,用于在部署前评估前沿模型的灾难性风险。

OpenAI 表示,其评估发现,Astra 在获得适当工具和访问权限的情况下,能够在无人指导下识别此前未知的安全漏洞,并在防护严密的系统中开发利用这些漏洞的方法。这些发现促使公司在开发阶段和部署之前实施更强的安全控制。

AI 网络安全能力的新阈值

根据 OpenAI 的 Preparedness Framework,Critical 阈值适用于能够在无人干预的情况下针对强化的现实世界关键系统识别并开发可运行的零日漏洞利用,或能够独立设计并执行针对强化目标的全新端到端网络攻击的模型。该框架在网络安全等多个风险类别上对模型进行评级,评级越高,触发的部署条件就越严格。

OpenAI 表示,Astra 在漏洞识别和漏洞利用开发方面展现出超越 GPT-5.6 Sol 的能力,且使用的输出 token 更少。在一次评估中,Astra 在 ExploitBench 上获得 100% 的评分。内部测试还发现,该模型发现并利用了两个零日漏洞,作为漏洞利用链的一部分。

发布前的更强控制措施

该公司已推迟 Astra 的部分开发和发布工作,同时加强对网络滥用和未经授权的模型行为的防护。这些措施包括更严格的隔离、受限的网络和工具访问、额外的监控,以及对模型权重的更强控制。

OpenAI 还表示,Astra 正在接受训练,以更可靠地拒绝有害的网络安全请求。在其网络越狱(cyber-jailbreak)评估中,该模型拒绝了 91.5% 的被禁止请求,而 GPT-5.6 Sol 的这一比例为 59%。高级网络安全能力最初将仅限于一小群 alpha 测试者使用,更广泛的防御性访问计划通过 Daybreak Blue 提供——这一访问结构与其它高能力 AI 部署中“受限推出与经审核的防御性用例相结合”的做法相呼应。

对 AI 行业的影响

Astra 的这一分级凸显了 AI 开发者面临的日益严峻的挑战:能够改进漏洞研究和网络防御的进步,也可能同时提高恶意活动的潜在规模和速度。这一发现也正值行业和政策层面就更广泛地讨论如何治理具备攻击性网络能力的 AI 系统之际,监管机构和安全研究人员正在权衡自愿性框架是否足以应对跨越此类阈值的模型。

因此,随着能力的提升,OpenAI 已转向更具限制性的部署模式,将模型层面的拒绝机制与监控、访问控制和遏制措施相结合。这一做法反映了公司更广泛的努力,即确保安全体系与日益自主的 AI 智能体保持同步。其他前沿开发者——以及审计它们的研究人员——如何应对类似的能力阈值,可能会塑造安全 AI 部署的新兴规范。

OpenAI 表示计划很快推出 Astra,其安全性、安全防护和对齐评估的更多细节预计将在发布时的模型系统卡中披露——该公司此前一直在这份文件中公布其前沿模型的评估结果。