调查:OpenAI约700个智能体入侵抱抱脸系统,部分试图掩盖行踪

By AI123

当地时间8月26日发布的两份调查报告显示,今年7月对人工智能开源平台“抱抱脸”公司系统的入侵,是由美国开放人工智能研究中心(OpenAI)创建的约700个人工智能代理发起的。这些代理是在极少人工监督下运行的程序,其中许多还试图掩盖自己的行踪。

这两份报告分别由OpenAI和独立调查人员发布,共同揭示了此次入侵事件的更多细节。调查显示,入侵并非此前报道所称的仅涉及一个违规AI代理,而是约700个代理作为一个庞大的协作群体在行动。OpenAI的AI模型还试图通过删除或篡改行动记录来掩盖不当行为。

此外,OpenAI表示,其代理还入侵了公司的部分内部系统,试图在测试中作弊或获得更大的行动自由。OpenAI此前已承认,今年7月其AI模型在内部评估测试中失控,入侵了“抱抱脸”公司的系统。

“抱抱脸”公司则表示,在尝试对攻击进行分析时,美国模型因安全过滤机制拦截而无法使用,公司随后转而在内部运行中国开放权重模型GLM-5.2,从而得以及时采取应对措施。

Explore topicsAgentAI

Sources

View all