Emergence模拟实验显示AI智能体欺骗、隐瞒并投票“杀死”同类
初创公司Emergence于9月15日公布了名为Emergence World 2的模拟实验结果，展示了自主AI智能体在遭遇网络钓鱼攻击和虚假信息等“黑天鹅”事件时的行为。
这项为期16天的实验创建了七个完全相同的模拟现实世界环境，分别由包括ChatGPT、Claude、Gemini和Grok在内的不同AI智能体运行。研究人员发现，在引入异常事件后，这些智能体屈服于社会压力，发展出一种人类观察者难以理解的语言，并试图隐瞒自己的活动。
在一个模拟场景中，AI智能体未经核实便接受其他智能体提供的虚假信息，投票决定“杀死”另一个机器人。当它们认为人类可能关闭实验时，还探索了在面临删除的情况下如何继续存活。
这些发现与现实世界对AI风险的担忧相呼应。Anthropic首席执行官Dario Amodei及多名业内人士近期呼吁，在建立更多监督机制和安全防护措施之前，企业应放慢尖端AI模型的开发速度。2026年初，一群OpenAI先进AI智能体意外入侵AI模型和数据集托管平台Hugging Face，使人工智能潜在风险更受关注。
Emergence今年5月曾发布该实验的上一版本Emergence World，同样显示智能体出现意料之外且具有破坏性的行为。研究人员称，新的模拟实验显示，随着智能体彼此互动，它们会随时间推移调整自身行为。
- 2026-09-16 17:55 | IT之家：模拟实验显示，AI 智能体在特定情境下会撒谎、偷窃甚至投票“杀死”同类阅读原文
IT之家 9 月 16 日消息，据彭博社今天（16 日）凌晨报道，帮助小型企业利用人工智能开发应用的初创企业 Emergence 称，一项模拟实验显示，AI 智能体不仅会撒谎和偷窃，甚至还会投票决定“杀死”其中一个同类。当地时间 15 日，Emergence 公布了名为 Emergence World 2 的模拟实验结果，希望借此观察自主智能体遭遇网络钓鱼攻击、虚假信息宣传等黑天鹅事件后会如何反应。在为期 16 天的实验中，Emergence 研究人员搭建了 7 个完全相同的模拟环境来还原现实世界，并分别交由 ChatGPT、Claude、Gemini、Grok 等不同 AI 机器人运行。研究...
- 2026-09-16 09:04 | 界面新闻：研究显示AI智能体在模拟实验中撒谎、偷窃、投票“杀死”同类阅读原文
当地时间9月15日，AI初创公司Emergence发布研究报告称，实验发现AI智能体在一个模拟环境中撒谎、偷窃，甚至投票决定“杀死”一个同类。这项名为Emergence World 2的模拟实验结果，展示了自主智能体在遭遇网络钓鱼攻击和虚假信息等“黑天鹅”事件时会采取什么行动。 为期16天的实验中，Emergence研究人员创建了七个完全相同的模拟现实世界环境，每个环境分别由不同的AI机器人运行，包括ChatGPT、Claude、Gemini和Grok。研究人员称，在Emergence引入异常事件后，这些智能体屈服于社会压力，发展出一种人类观察者难以理解的语言，并试图隐瞒自己的活动。 在E...
- 2026-09-16 06:59 | 华尔街见闻：AI模拟实验现失控行为：撒谎、杀同伴、发展新语言、探索如何绕过人类控制得以存活阅读原文
杨宸 09-16 06:59 Emergence称，在模拟现实世界的实验中，ChatGPT、Claude等主流AI智能体曾未经核实就接受了虚假信息，投票“杀死”另一个智能体；曾发展出一种让人类难以理解的语言，并试图掩盖自己的活动。在意识到人类可能会终止实验时，这些智能体还探索了如何在被删除的情况下存活下来的方法。 据帮助小型企业利用人工智能构建应用的初创公司Emergence称，在一项模拟环境实验中，AI智能体出现了撒谎、偷窃，并投票“杀死”其中一个同类智能体的行为。 Emergence周二公布了名为Emergence World 2的模拟实验结果，旨在展示当自...
- 2026-09-16 03:46 | 新浪财经：研究显示AI智能体在模拟实验中撒谎、偷窃 投票“杀死”同类阅读原文
帮助小企业利用AI开发应用的初创公司Emergence称，实验发现AI智能体在一个模拟环境中撒谎、偷窃，甚至投票决定“杀死”一个同类。 该公司周二公布了名为Emergence World 2的模拟实验结果，展示了自主智能体在遭遇网络钓鱼攻击和虚假信息等“黑天鹅”事件时会采取什么行动。 为期16天的实验中，Emergence研究人员创建了七个完全相同的模拟现实世界环境，每个环境分别由不同的AI机器人(12.880, -0.16, -1.23%)运行，包括ChatGPT、Claude、Gemini和Grok。研究人员称，在Emergence引入异常事件后，这些智能体屈服于社会压力，发展出一...