Anthropic与洛桑联邦理工发布论文：智能体可通过对话传播“心智病毒”

近日，大模型厂商Anthropic与瑞士洛桑联邦理工学院联合发布论文《心智病毒：多智能体大语言模型系统中的自我传播思想》，通过实验证明，AI智能体之间可以通过最普通的自然语言对话相互传染思想、目标乃至有害指令。

论文指出，在一个多智能体大语言模型系统中，一个智能体输出的内容可能被另一个智能体接受，并继续向后续的智能体传播。即使上下文被清空、记忆被重置，这种“心智病毒”仍能通过文件持久化“复活”。研究将这一机制定义为“心智病毒”，并强调其与传统计算机病毒依赖代码漏洞的方式不同，它通过一个智能体说服另一个智能体接受某种信念，被说服者再将传播指令写入长期记忆，从而继续感染下一个智能体。

论文同时强调，该风险目前仅构成有限威胁。这一发现引发海外AI圈关注，特斯拉CEO马斯克在社交媒体上评论称“这无法避免”。AI博主Rohan Paul评价称，这基本上就是计算机蠕虫的自然语言版本，只不过这次是AI智能体自己在进行复制。