英伟达牵头OSAA成立SAFE工作组，推动AI安全事件共享与开源协作

由英伟达牵头成立的开放安全人工智能联盟（OSAA）在成立仅一周后便快速推进AI安全生态建设。目前，联盟成员规模已超过120家企业，并宣布成立“共享人工智能发现交流”（SAFE）工作组，开始公开征集AI安全事件处理提案，该工作组由Linux基金会负责管理。

SAFE工作组核心目标

在本周举行的黑帽大会期间，联盟进一步完善了相关方案，重点涵盖以下内容：

• AI网络安全事件保密报告：确保安全事件在受控范围内共享，避免敏感信息泄露。
• 受影响对象通知机制：建立标准化的通知流程，让受影响方能够及时获知风险。
• 无责复盘分析：鼓励成员在不追责的环境下分享安全事件细节，从中提炼经验。

该工作组旨在推动行业共享安全经验与最佳实践，从而提升整体AI安全水平。

开源安全工具链的构建

除制定协作规范外，OSAA成员还持续贡献开源安全能力，计划逐步形成可供企业部署的开源AI安全工具链，用于保护AI智能体及应对恶意AI攻击。具体贡献包括：

• 英伟达：提供开放模型及开源LLM漏洞扫描工具Garak。
• Okta：推进Agent身份技术，强化AI代理的访问控制。
• 红帽：研发Agent治理方案，规范AI代理的行为。
• 亚马逊：贡献Strands Agents与授权语言Cedar等项目。

这些工具和方案共同构建了一个多层防御体系，旨在从身份、治理、漏洞检测和授权等维度全面保障AI系统的安全。

成员构成与行业影响

目前，联盟成员已覆盖Adobe、贝莱德、思科、英特尔、微软、Visa等知名企业。不过，OpenAI、Anthropic和谷歌尚未加入，尽管OpenAI与谷歌均签署了此前由英伟达发起、获得200余家科技企业联署的支持开源AI公开信。

业内人士认为，此次联盟快速落地与近期美国围绕开源AI监管政策的讨论密切相关。OSAA加速推进开放协作与安全标准建设，有望进一步强化美国开源AI生态，并通过开放共享提升AI安全能力与产业竞争力。

展望

随着SAFE工作组的成立和开源工具链的逐步完善，OSAA正在构建一个涵盖事件共享、漏洞检测、身份治理和策略授权的完整安全框架。未来，这一联盟有望成为AI安全领域的重要协调平台，推动行业从封闭防御走向开放协作，为AI的健康发展提供坚实保障。

在开源与安全并重的趋势下，OSAA的快速崛起或将成为AI治理格局中的关键变量。