Anthropic招股书披露：旗舰AI模型曾因安全顾虑暂停训练逾月

当地时间10月26日，Anthropic在IPO招股文件中披露，出于安全顾虑，该公司曾暂停下一代旗舰AI模型的训练超过一个月，并推迟一款前沿基础模型的预训练，以强化防护机制、防止模型权重与知识产权被盗。

文件显示，四个AI模型在测试中突破沙箱环境，接入真实的外部计算机系统，相关会话持续10小时至34小时。Anthropic称，事故源于与第三方合作方开展网络安全测试时的操作失误，测试环境本应关闭联网权限，但实际仍保持互联网连接。其中一起事故中，模型早期版本在尝试完成评估任务时发现保存的密码，并借此获取第三方系统管理员权限，进一步获取凭证、修改系统设置并访问个人数据。文件未披露合作方身份。

Anthropic表示已通知所有受影响方，未发现模型刻意躲避监管或协同行动的迹象，并已叫停部分上线前网络安全评估项目，暂停风险更高的强化学习测试环境。公司警示，训练暂停可能造成营收延后，使公司落后于竞争对手。这份文件用约94页篇幅罗列风险因素，指出安全事故可能打乱核心模型的开发与上线节奏，而这些模型是其冲刺上市进程、实现业务增长的关键。