新闻股票Nvidia与行业领军企业成立Open Secure AI Alliance以推进AI安全

Nvidia与行业领军企业成立Open Secure AI Alliance以推进AI安全

作者: CoinEdition·

要点速览

  • Open Secure AI Alliance由Linux Foundation托管,并建立在Akrites和OpenSSF社区工作的基础之上。
  • 该组织包括来自云计算、网络安全、企业软件、开源开发和AI研究领域的参与方。
  • Hugging Face安全事件显示,一些托管式前沿模型在防御性网络调查期间可能受到安全防护机制的限制。
  • 成员贡献包括Nvidia的开放模型和NOOA框架、HPE的SPIFFE/SPIRE身份工作、Hugging Face的Safetensors,以及Microsoft的MDASH扫描器。
  • 该联盟敦促政策制定者将开放AI模型、框架和安全工具视为防御性资产。
Nvidia与行业领军企业成立Open Secure AI Alliance以推进AI安全

Nvidia Corp.与一个由行业领军企业组成的联盟推出了Open Secure AI Alliance,这是一项专注于开发开放技术的倡议,旨在保护人工智能系统和软件免受网络威胁。

该联盟旨在支持由社区驱动的安全工具,用于漏洞修复、安全模型格式,以及AI代理的零信任身份框架。其成立是在近期AI安全事件之后,包括2026年7月Hugging Face的一起安全问题,该事件凸显了部分托管式前沿AI模型在网络事件响应期间的限制。

Open Secure AI Alliance在Linux Foundation旗下启动

2026年7月27日,Nvidia与一大批参与组织宣布成立Open Secure AI Alliance。该倡议由Linux Foundation托管,并建立在Linux Foundation现有Akrites倡议以及Open Source Security Foundation(OpenSSF)主导的社区工作基础之上。

此次合作汇集了云计算、网络安全、企业软件、开源开发和AI研究等领域的组织。参与方包括Nvidia、Adobe、Cadence、Cisco、Cloudera、Cloudflare、Cognition、CrowdStrike、Dell Technologies、DoorDash、Elastic、HPE、Hugging Face、IBM、LangChain、Microsoft、NAVER、Salesforce、SAP、SK Telecom、ServiceNow、Siemens、Snowflake、SpaceXAI和TrendAI等。

该联盟旨在开发开放工具和共享基础设施,帮助防御方在AI技术更深入嵌入软件、企业运营和关键基础设施之际保护AI系统。这项工作反映出围绕代理式AI系统日益增长的安全担忧;这类系统可以连接工具、数据存储和企业工作流,使身份控制、权限、日志记录和漏洞管理成为AI安全栈的一部分,而不再只是独立的软件问题。

Hugging Face事件被作为安全需求的例证

2026年7月的Hugging Face安全事件被列为可能需要灵活的AI赋能网络防御工具的例子。在取证调查期间,数个托管式前沿AI模型拒绝分析攻击痕迹,因为其网络安全防护机制无法区分防御者和攻击者。

Hugging Face随后在自有基础设施上运行了开放权重模型GLM 5.2。根据消息来源的说法,该模型被用于分析超过17,000项操作并支持事件响应。

该事件凸显了AI安全团队面临的一个更广泛问题:防御能力是否应继续集中在少数封闭系统中,还是组织也应依赖可由防御方检查、调整和部署的开放模型、框架和工具。

开源软件已经通过让技术可被专家社区获取和观察,支撑了云计算、金融服务、制造业、电信、政府系统和互联网服务的主要部分。随着AI在关键基础设施中变得更加核心,该联盟认为,安全团队需要能够访问自托管和开放的AI能力,尤其是在商业模型在防御性调查期间受到安全防护限制时。

联盟成员概述技术贡献

Open Secure AI Alliance表示,AI安全取决于完整的代理栈,包括身份、权限、框架、防护机制、日志和评估系统。Nvidia正在贡献开放模型、模型权重、数据,以及Nvidia Labs Object Oriented Agent(NOOA)代理框架研究框架。

HPE将通过SPIFFE/SPIRE帮助推进零信任AI身份,而Hugging Face将通过Safetensors支持安全模型权重。IBM和Red Hat的Lightwell将使用数字签名补丁,致力于将安全性扩展到整个开源供应链。

Microsoft正在开发用于AI代理漏洞扫描的MDASH,SpaceXAI已将Grok Build开源,以促进透明的AI开发。

该联盟还表示,AI政策制定者和监管机构应在AI和网络安全政策中将开放模型、框架和安全工具视为防御性资产。它警告称,对开放前沿AI系统的限制可能削弱防御能力,并增加对封闭提供商的依赖。

Open Secure AI Alliance呼吁建立共享AI防御基础设施,包括数据集、评估框架、攻击模拟器和红队工具,以支持更具韧性和安全性的AI系统。对于评估该倡议的安全团队而言,实际检验标准将是这些贡献能否成为可互操作的工具,并被不同模型提供商、云环境和企业AI部署所采用。