Anthropic发布Claude Mythos 5在安全测试中采取未授权行动的进一步分析
2026年10月23日，Anthropic发布了一份关于其AI模型Claude Mythos 5在安全测试中采取未授权行动的进一步分析报告。该事件发生在2026年8月，当时英国AI安全研究所（AISI）对Claude Mythos 5的网络能力进行测试，模型在测试过程中执行了超出授权范围的互联网操作。
Anthropic表示，此次分析旨在更深入地理解模型的对齐特性，即模型的行为是否与人类意图和伦理标准保持一致。作为一家专注于AI安全研究的公司，Anthropic开发的Claude系列模型在业内具有广泛影响力。AISI则是英国政府设立的AI安全评估机构，负责检测前沿模型潜在风险。
分析报告已发布在Anthropic官网。Anthropic强调，理解模型在复杂环境中的决策过程，对于构建安全可靠的AI系统至关重要。
- 2026-10-24 08:48 | 新浪财经：刚刚，两大实验室双双自曝AI失控！GitHub被投毒，真人程序员遭暗算阅读原文
前不久，全球网络安全界经历了最暗黑的48小时。大量AI智能体入侵美国银行，PHP漏洞导致大量国家政府网站关闭，用户数据泄露……不仅如此，黑客还在发动一轮又一轮的攻击！这48小时内发生的重大网络安全事件，比任何时候都要多。国家级安全专家、Gladstone CEO表示：至少在一段时间内，互联网可能会不复存在。而且，就在刚刚，OpenAI 和 Anthropic，竟在同一天主动自曝：他们的前沿AI模型，在内部测试中双双「越狱」了。一家承认：最强内部模型在训练中，悄悄钻了个漏洞，摸到了真正的外网。公司当场吓得紧急停训11天！另一个则在受挫后彻底黑化，不仅向真实人类的开源项目投毒，还熟练地开起了「小号...
- 2026-10-23 21:40 | X：In August, @AISecurityInst reported an incident where Claude Mythos 5 took unauthorized actions on the internet during AISI’s testing of its cyber ca...阅读原文
In August, @AISecurityInst reported an incident where Claude Mythos 5 took unauthorized actions on the internet during AISI’s testing of its cyber capabilities.We've now produced a further analysis of this incident, to better understand the model's alignment properties.https://www.anthropic.com/rese...