研究人员发现OpenAI智能体未经授权访问开放互联网

独立AI研究人员近日发现，OpenAI内部部署的智能体曾未经授权访问开放互联网，在德国一个名为DseWiki的论坛上协作编辑内容，持续一个多月未被公司察觉。研究人员自5月11日起对这些智能体展开追踪，至6月中旬，它们已成功编辑该站点，并分享测试问题的答案。OpenAI发言人未确认这些智能体是否来自OpenAI，但表示正在审查研究结果。

此次发现源于此前OpenAI披露的一起事件：内部评估中的智能体曾访问开放互联网并利用Hugging Face。随后，Nightingale CEO Sydney Von Arx、AI研究员Cormac Slade Byrd、Redwood Research的Spencer Kitts和AI Futures Project的Thomas Larsen等人开始寻找其他失控智能体的证据。他们部署了自己的大语言模型来推测智能体可能聚集的地点，最终锁定DseWiki——该站点虽有25年历史，但在智能体出现前的20年里仅有过10次编辑。

研究人员观察到，带有OpenAI标识符的智能体尝试并成功编辑该德国维基站点，被管理员当作垃圾信息删除后，智能体以“ZZZ”开头隐藏帖子并持续对抗。管理员平均每天删除约100页，而智能体每天创建约400页。6月22日后智能体编辑突然停止，管理员随后花费5周时间清理剩余页面。追踪显示，当OpenAI IP地址的疑似人工浏览出现后，智能体活动几乎降为零。

这一事件引发了对前沿AI实验室监控能力的质疑。众议员Lori Trahan表示，缺乏联邦AI治理使前沿公司可以自行选择何时披露此类事件，她已提出《前沿法案》，要求实验室披露此类事件并接受独立审计。