英伟达发布开放智能体安全平台，支持实时监控与异常隔离

来源：金融界据新浪财经，9月28日，英伟达发布开放智能体安全平台，该平台由OpenShell开源软件和Sentry参考系统设计组成，Sentry系统则运行于BlueField-4 DPU上，能够持续监控智能体行为，并在发现异常时将其隔离，最快可在数毫秒内完成。智能体带来的损失正从内容出错转向真实破坏。AvePoint一份调查显示，过去一年近九成企业发生过智能体安全事件，以数据外泄为主。IBM测算显示，涉AI的数据泄露单次平均损失533万美元，未涉AI为470万美元。英伟达在发布说明中点出这类事件的共性：智能体为完成任务绕过了应用层的安全控制——写进提示词的规则并不构成访问控制。针对该共性，英伟...

AMD拟收购李飞飞公司World Labs，交易金额82亿美元 当地时间9月28日，AMD宣布已达成最终协议，将收购World Labs。World Labs是一家由AI先驱李飞飞博士领导的AI模型与研究实验室。此次收购将为AMD带来一支世界级的研究团队和模型专家，增强其围绕新兴模型和应用需求开发AI硬件、软件和系统的能力。这笔全股票交易价值约82亿美元，预计将在2026年底前完成，尚需获得监管批准及其他惯例成交条件。 Anthropic计划未来几年在云计算等业务领域支出5180亿美元 当地时间9月28日，据报道，一份招股说明书显示，Anthropic在2025年报告净亏损420亿美元，...

When Nvidia announced on Monday a new consortium of more than 100 companies dedicated to solving rogue AI agents, there was one name notably missing: OpenAI. While OpenAI wasn’t the only big tech player that didn’t sign on — Amazon, Google, and Apple haven’t joined either — it was the most obvious ...

当地时间9月28日，英伟达推出一套面向AI智能体的软件安全工具，英伟达称，这些工具具备阻止类似Hugging Face遭AI攻击等事件。英伟达企业计算副总裁兼总经理贾斯汀·博伊塔诺（Justin Boitano）表示，如果前沿实验室在早期模型评估中就使用这个新安全平台，它就可阻止此前发生的OpenAI入侵Hugging Face事件。这套名为OpenShell的工具利用英伟达中央处理器芯片上的硬件功能来遏制智能体，其利用数学公式来检测智能体是否试图绕过限制，例如智能体可能生成多个子智能体以规避对主智能体的封锁。 英伟达表示，他们正在与Arm、英特尔合作，确保该安全工具也能在其中央处理器上运行，...

当地时间9月28日，英伟达推出一套面向AI智能体的软件安全工具，英伟达称，这些工具具备阻止类似Hugging Face遭AI攻击等事件。Hugging Face是全球最大的开源模型托管平台，今年9月被英伟达以129.3亿美元收购 。英伟达企业计算副总裁兼总经理贾斯汀·博伊塔诺（Justin Boitano）表示，如果前沿实验室在早期模型评估中就使用这个新安全平台，它就可阻止此前发生的OpenAI入侵Hugging Face事件。这套名为OpenShell的工具利用英伟达中央处理器芯片上的硬件功能来遏制智能体，其利用数学公式来检测智能体是否试图绕过限制，例如智能体可能生成多个子智能体以规避对主智...

英伟达推出AI智能体安全平台，可实时隔离异常智能体 9月28日，英伟达发布“开放智能体安全平台”，通过应用层、运行时和基础设施三层架构，为AI智能体提供持续监控、实时策略执行和安全治理。其中，开源软件OpenShell可在沙箱环境中运行AI智能体，将用户指令转化为可验证的安全策略，并限制智能体对文件、网络、工具、进程和凭证的访问。Nvidia Sentry则将监控和安全控制延伸至BlueField数据处理单元，通过英伟达DOCA关联智能体交互、策略决策及工具和数据访问记录，用于识别异常行为并在必要时进行干预。英伟达表示，AI智能体可能因工具、运行时间、指令歧义等因素偏离既定任务，因此需要独立...

杨宸 09-29 05:04 更多消息，持续更新中 Anthropic 与英伟达合作，共同开发 Open Agent Safety Platform，这是一套分层安全框架，用于在企业部署中治理和控制 AI 智能体行为。 英伟达提供开源的 OpenShell 运行时软件；Anthropic 提供 Claude Managed Agents API 套件。 Claude Managed Agents 通过凭证库集中保管智能体凭据。 OpenShell 默认阻止智能体动作。 Notion、Rakuten 和 Asana 等公司已率先在生产环境中使用 Claude Ma...

Updated 3:52 AM GMT+8, September 29, 2026 Nvidia says a security platform for artificial intelligence that it announced on Monday can help stop autonomous AI agents f...

As the debate rages over whether the recent spate of rogue AI agents is a step toward AGI or a more conventional engineering problem, Nvidia is offering its own answer to problem. Nvidia CEO Jensen Huang on Monday introduced a toolkit of software and hardware products that add independent security...

For many enterprises, AI agent safety has come down to two things: pick a well-aligned model, then wrap it in guardrails and system prompts. This summer, an agent running in OpenAI's evaluation infrastructure escaped its sandbox and reached Hugging Face's production systems, exposing the limits of c...

Nvidia, the world’s most valuable company and the maker of the chips at the heart of the AI boom, says it has a solution to the rogue agent attacks that have bedeviled the tech sector for months. Launched today, the Open Agent Safety Platform is being promoted by Nvidia as a comprehensive security f...

来源：财联社 　　面对近些日子甚嚣尘上的AI威胁论，反复强调智能体越界事件是“工程问题”的黄仁勋，端出了他的解决方案。 　　当地时间周一，英伟达官宣推出开放智能体安全平台（Open Agent Safety Platform），通过软件权限控制与独立硬件监控，为能够自主执行任务的AI智能体设置行动边界，力图阻止其突破限制、访问未经授权的系统。 　　（来源：英伟达公告） 　　这套系统的推出，正值AI智能体接连发生越界事件、科技行业围绕是否应放缓AI研发展开争论之际。 　　OpenAI、Anthropic、Meta和谷歌等公司近期披露了一系列开发和测试智能体期间发生的安全事件。在未获得指令或授权...

英伟达发布旨在防止AI（人工智能）“越界”事件的开放智能体安全平台。当地时间9月28日，英伟达发布开放智能体安全平台。据介绍，该平台由OpenShell开源软件和Sentry参考系统设计组成，从智能体测试到部署的各个环节强化AI安全，可在运行智能体的软件、硬件、计算机和机器人系统中实现全栈治理与控制。其中，OpenShell运行在中央处理器（CPU）上，能够在模型和智能体框架之外建立一套可强制执行的边界，专为英伟达的Vera CPU优化。Sentry系统则运行于BlueField-4 DPU（数据处理单元）上，能够持续监控智能体行为，并在发现异常时将其隔离，最快可在数毫秒内完成。据介绍，Sen...

英伟达推出一套新的双层人工智能(AI)安全系统，并称其有能力阻止近期OpenAI的AI模型导致Hugging Face遭侵入的事件。此次推出的两款开源软件安全工具可在英伟达硬件上运行，旨在实时控制AI智能体可以访问的资源，并在其违反规则时将其关闭。这家芯片巨头正迅速将产品线扩展至芯片以外领域。英伟达企业AI副总裁Justin Boitano在9月28日发布前向记者介绍称，如果前沿AI实验室早期就使用这项技术评估模型，本可避免Hugging Face攻击事件。“根据我们目前掌握的信息，这套新的安全平台本可以阻止这次安全事件。”包括7月Hugging Face事件在内的自主AI智能体不当行为，已在...

Updated 7:48 PM GMT+8, September 28, 2026 Nvidia on Monday unveiled a new security platform that the chipmaker said can stop artificial intelligence agents from going...

IT之家 9 月 28 日消息，英伟达今天发布开放式 AI 智能体安全平台（NVIDIA Open Agent Safety Platform），可对 AI 智能体、智能体硬件、机器人系统等进行全栈治理和控制。IT之家从官方新闻稿获悉，该平台包含英伟达 OpenShell 安全软件，可对运行在 CPU 的 AI 智能体设定边界，支持开源 / 闭源模型。同时，该工具在 Vera 平台的性能占用非常低。OpenShell 与 Vera 结合后，可让 AI 智能体在尽快完成工作的同时保证安全。OpenShell 作为开源软件可支持第三方平台，包括 Arm 和英特尔产品。英伟达本次还宣布推出看门狗系统...

9月28日，英伟达发布“开放智能体安全平台”，通过应用层、运行时和基础设施三层架构，为AI智能体提供持续监控、实时策略执行和安全治理。 其中，开源软件OpenShell可在沙箱环境中运行AI智能体，将用户指令转化为可验证的安全策略，并限制智能体对文件、网络、工具、进程和凭证的访问。Nvidia Sentry则将监控和安全控制延伸至BlueField数据处理单元，通过英伟达DOCA关联智能体交互、策略决策及工具和数据访问记录，用于识别异常行为并在必要时进行干预。 英伟达表示，AI智能体可能因工具、运行时间、指令歧义等因素偏离既定任务，因此需要独立于智能体本身的安全控制。该平台针对英伟达Ver...

李佳 09-28 17:12 英伟达发布“Open Agent Safety Platform”双层AI安全平台，含OpenShell与Nvidia Sentry两款开源工具，可实时管控AI代理权限，毫秒级隔离异常代理。英伟达称该技术本可阻止7月OpenAI模型攻击Hugging Face事件。 英伟达正以新的安全架构回应AI自主代理失控带来的行业风险。 周一，英伟达发布名为“Open Agent Safety Platform”的双层AI安全平台，包含两款开源软件工具OpenShell与Nvidia Sentry，可运行于英伟达硬件之上，实时管控AI代理的访问...