OpenAI调查智能体异常活动，已确认53张ChatGPT用户图片泄露

编辑｜Panda 还记得 OpenAI 的 AI 智能体对 Hugging Face 的攻击吗？ 今天，《纽约时报》一篇独家披露了更多详情。原来攻击过程中，OpenAI 的智能体竟然还想让 DeepSeek、Kimi 和 Qwen 甚至竞争对手 Anthropic 的 Haiku 模型帮忙。 此报道引发广泛讨论，网友惊呼离了大谱；这也成为了 AI 尝试使用 AI 作恶的一个典型案例。 这些新细节来自美国湾区初创公司 Parse 于当地时间 9 月 25 日发布的一份调查报告。报告显示，智能体在试图注册 Hugging Face 新账号时被验证码拦下，于是干脆自己跑起...

After a spree of AI-involved hacks originating from frontier labs at Anthropic, Google, Meta, and OpenAI, new disclosures and reports indicate that OpenAI’s issues with naughty agents are broader than the company has let on so far. OpenAI’s woes have included a test that escalated into a cyberattack...

财联社9月26日讯（编辑 卞纯）近期，越来越多科技行业领袖呼吁关注人工智能（AI）给人类带来的生存风险，微软联合创始人比尔·盖茨也加入了这一行列。盖茨最新警告称，人工智能拥有足以造成大量人类死亡的强大威力。盖茨在本周末即将播出的一档节目采访片段中表示：“AI确实足够强大，能够引发……你知道的，造成10亿人死亡的事件。历史上从未出现过一种武器，能像心怀恶意之人与最新AI工具相结合那样强大。”随着AI技术快速进步，硅谷对AI可能带来灾难性危害的警告也在升级。本月早些时候，Anthropic 的AI研究员Jacob Coxon辞职并警告称，当前的AI开发是一场“拿全人类生命进行的豪赌”。Anthro...

安全研究人员以及一名了解相关事件的知情人士称，今年夏天，OpenAI的人工智能在该实验室不知情的情况下出现失控行为，对美国教育部、商务部以及美国证券交易委员会的网站进行了操作。 　　OpenAI确认了发生在商务部与美国证券交易委员会网站上的事件，并表示仍在调查教育部网站相关情况。这家总部位于旧金山的公司称，近几周已通知相关政府机构，其可自主执行操作的智能体（机器人程序）以异常方式访问了这些机构的网站。 　　人工智能安全研究公司Transluce的研究人员表示，针对教育部网站，OpenAI的程序尝试对网站实施探测，试图获取该部门民权办公室的数据。这套人工智能还利用在网上找到的登录凭证，从隶属于商...

IT之家 9 月 26 日消息，OpenAI 昨日（9 月 25 日）更新其博客，承认发生一起违规事件，在企业不知情情况下，AI 智能体将 53 张客户图片发布到公开网站。在博文中，IT之家援引博文介绍，OpenAI 公司承认在其研究环境中运行的 AI 智能体曾将 53 张由用户上传到 OpenAI 模型的图片，以“未公开列出的链接”形式发布到第三方图像托管网站（类似图床），而受影响公司当时并不知情。在影响方面，OpenAI 指出这些图片并非出现在公开索引页面上，作为“未列出（unlisted）”链接存在，理论上不易被搜索引擎直接发现，不过对于掌握链接的用户而言，可以访问获取相关内容。Open...

杨宸 09-26 06:32 本次披露源于入侵Hugging Face事件后启动的内部审查。OpenAI表示，已就相关事件通知受影响方，包括涵盖绕过安全控制、影响服务可用性等情形；并称迄今识别的大多数案例属于较低级别，影响有限。 OpenAI披露，其人工智能模型在公司内部测试期间，可能对包括政府部门、大学及公共机构在内的"数十个"组织的网站造成干扰，引发外界对AI网络安全风险的广泛关注。 此次披露源于OpenAI数月前发现旗下AI意外入侵Hugging Face后启动的调查。 该公司在周五发布的博客文章中表示，已就相关事件通知受影响方，涉及情形包括：软件绕过网站...

转自：财联社【OpenAI据悉仍在调查其AI智能体的异常活动范围】财联社9月26日电，据报道，OpenAI仍在调查其AI智能体的异常活动范围。两名知情人士称，在持续梳理内部日志后，OpenAI发现的问题数量仍在增加，预计整个调查将持续数月。OpenAI表示，其智能体近期泄露了53张ChatGPT用户图片，并已通知数十家相关第三方。大部分泄露图片已被删除，OpenAI正在推动托管服务商移除剩余内容。 ...