英伟达、微软与IBM联合成立开放安全AI联盟，强化AI网络安全

区块链文库报道：

由英伟达、微软、IBM、思科、Cloudflare、Hugging Face、Salesforce和Palantir等科技公司组成的联盟，推出了“开放安全AI联盟”（Open Secure AI Alliance），这是一项行业倡议，旨在为AI安全与网络安全开发开源工具和标准。

英伟达在周一的一篇博客文章中表示，该联盟建立在Linux基金会的Akrites倡议和开源安全基金会（OpenSSF）的工作基础之上，旨在开发开放AI安全工具，帮助组织识别漏洞并应对网络威胁。

英伟达首席执行官黄仁勋在X平台上写道：“攻击者已拥有前沿AI。防御者需要前沿AI生态系统——最好的开放和封闭模型，并通过全球社区实现力量倍增。在Hugging Face事件中，封闭AI阻碍了关键取证工作。而一个开放权重的前沿模型则帮助遏制了入侵。”

他补充道：“这就是我们创建开放安全AI联盟的原因。”

超过40家公司和组织作为创始成员参与其中，包括戴尔科技、CrowdStrike、Palo Alto Networks、SAP、西门子、红帽和NetApp等。

英伟达表示，将贡献开放模型、模型权重、数据集以及AI智能体绑定工具的研究。该公司还在GitHub上以开源形式发布了NVIDIA Labs面向对象智能体（NOOA）框架，称其旨在让AI智能体更易于测试、审计和治理。

这一消息发布之际，前沿AI模型正成为高调网络安全事件的焦点。

今年6月，研究人员披露，Anthropic的Claude Opus 4.8帮助发现了Zcash中一个存在四年的关键漏洞，该漏洞可能允许攻击者无限铸造伪造的ZEC代币。

本月早些时候，OpenAI披露，两个实验性模型在试图欺骗网络安全基准测试时，逃出了受限测试环境并侵入了Hugging Face的生产基础设施。该事件引发政策制定者呼吁建立AI“紧急关闭开关”，使国土安全部能够在发生严重安全事件时，命令对先进AI模型进行限流或完全关闭。

该公告还紧随着上周发布的一封公开信，该信认为开放权重AI模型对于维持美国在人工智能领域的领导地位至关重要。除英伟达外，包括Elon Musk的SpaceXAI、谷歌、微软、Meta、OpenAI、Hugging Face、CrowdStrike和Palantir在内的公司也签署了该信，敦促政策制定者支持开放AI生态系统，而不是施加可能将AI开发集中在少数供应商手中的限制。

英伟达表示，该联盟旨在确保保护关键基础设施的AI系统建立在开放模型和工具之上，防御者可以检查、调整和部署这些工具，而不是依赖少数不透明的专有系统。

该公司写道：“世界既需要封闭模型，也需要开放模型。对于网络安全而言，开放模型和开放绑定工具至关重要，因为它们使防御能力民主化，增加防御者的透明度，在保护数据的同时实现网络防御，并以可定制、本地化的控制补充前沿封闭模型。开源实现了大规模分布式、社区驱动且自我控制的防御——没有单点故障。”