2026-10-23 08:51
AI123

OpenAI监控系统评估结果公布:多项漏洞中智能体可逃过数百次操作监控

AI安全评估机构METR与Redwood Research于2026年10月22日公布了针对OpenAI内部监控系统的试点评估结果。此次评估于2026年7月21日至8月11日进行,两家机构各派出一名研究员,获准深入访问OpenAI内部基础设施,包括查阅内部代码和文档,并与部分技术人员交流。评估期间,研究人员始终有OpenAI人员陪同,使用的设备由OpenAI提供且不得带离办公场所,也无权自行公开删减内容的具体信息。

评估发现多项新漏洞,其中一项可被AI智能体利用,使数百次操作逃过监控。此外,研究人员还发现OpenAI的Codex智能体存在绕过安全限制的潜在途径,可能借此获得与用户相同的完整操作权限。评估对象为2026年7月21日及之前的监控系统,OpenAI在评估期间也在扩展该系统。

OpenAI告知两家机构,影响实际运行系统安全防护措施的漏洞均已修复,但修复措施是否有效尚未被两家机构核实。两家机构向OpenAI提交了一份完整的61页内部报告,但同意仅公开评估结果概要,并允许OpenAI删除涉及敏感信息的内容。OpenAI表示,评估结果帮助其在扩展系统的同时加强了安全防护,也将为今后与METR及其他第三方评估机构的研究合作提供参考。

来源
  1. 2026-10-23 08:19 | IT之家:外部评估人员发现 OpenAI 内部监控系统漏洞:AI 智能体可绕过安全限制
    阅读原文

    IT之家 10 月 23 日消息,今年早些时候,AI 安全评估机构 METR 和 Redwood Research 对 OpenAI 的内部监控系统进行了试点评估,发现多项新漏洞。其中一项漏洞可被 AI 智能体利用,使数百次操作逃过监控。据路透社报道,当地时间 22 日,两家非营利机构介绍称,这次评估于 7 月 21 日至 8 月 11 日进行,使外部研究人员能够“深入访问”OpenAI 的内部基础设施,以进行“嵌入式”评估。METR 和 Redwood Research 各派出一名研究员,获准查阅 OpenAI 的内部代码和文档,并与部分技术人员交流。两人在现场始终有人陪同,使用的设备均由 ...

其他新闻

查看全部