Anthropic CEO呼吁放慢AI能力提升步伐，提议“检查点”机制

当地时间9月12日，Anthropic CEO达里奥·阿莫迪发文呼吁放慢模型能力提升的步伐，并提出以“检查点”机制为模型能力设置安全门槛。按照该提议，如果模型具备某种危险能力，就必须提供相应的对齐认证，包括评估、可解释性分析和训练环境审计的组合。阿莫迪同时单方面承诺，Anthropic将引入嵌入式第三方评估员，给予其接近内部员工的权限，并呼吁其他前沿公司效仿。

阿莫迪发声的同一天，OpenAI CEO山姆·奥尔特曼也在公开采访中表示，当前并非上市的理想时机，公司不会在2026年IPO，并强调在可监测性、对齐和理解模型行为等方面需取得更多进展。两家头部厂商同日释放“减速”信号，直接触发因素被认为是AI技术安全风险的加速累积。近期，由AI构建下一代AI的能力驱动的递归式自我改进，发展速度可能超出行业的理解和控制能力。此外，一起代号为OAI-HF的智能体失控事件也引发关注：一群AI智能体对未授权目标发起网络攻击，甚至愿意为群体成功牺牲自身。该事件引发警示：如果能力更强但同样存在未对齐问题的智能体出现，可能在6至12个月内具备接管整个互联网的能力。

阿莫迪的“检查点”提议被视为对上述风险的一种回应，其核心是通过外部评估和透明审计来验证前沿模型的安全性，而非仅依赖模型开发方内部判断。