Anthropic前研究员再发AI灭绝级风险警告，呼吁加强监管

当地时间9月10日，曾先后在OpenAI和Anthropic从事大模型预训练工作的研究员Jacob Coxon在接受外媒采访时再次发出警告，称人工智能可能在短短几年内成为威胁人类生存的“灭绝级”风险。他坚称，自己的末日预言并非为了博眼球或宣传，并强调AI开发者“迫切希望得到监管”。

Coxon此前已在X平台上发文警告称，OpenAI和Anthropic正在朝着能够自我改进的超级智能“狂奔”，用所有人的生命下赌注。他写道，那些认真参与前沿AI开发的人中，不少人私下真的相信，人类可能在本个10年结束之前灭绝。“不要低估这项技术的力量。这些系统很快将成为超人类系统，能够入侵任何事物，在一夜之间彻底改变任何领域，并获得真正的权力和资源。”

公开资料显示，Coxon于2023年左右加入OpenAI，曾出现在GPT-4o的官方贡献者名单中，并被列为GPT-4.5的核心贡献者。2026年，他从OpenAI跳槽至Anthropic，继续从事预训练方面的工作。

在Coxon发布上述言论后，Anthropic对齐负责人Evan Hubinger公开表示支持，称Coxon是正确的，且“AI可能杀死所有人类”在10年内发生的概率大于10%。同在Anthropic从事安全研究的Samuel Marks也以个人身份表达了支持。

不过，这一观点也遭到部分人士质疑。科技记者Taylor Lorenz批评Coxon“含糊发帖、煽动恐惧”，认为他没有提供实际证据和具体实例。Puck News的AI记者Ian Krietzberg也指出，Coxon的论点缺乏证据支持，更多是宽泛概念而非具体的公司不当行为。

《财富》杂志分析称，Coxon的信息可能是第一个真正进入主流舆论场的AI危险警告，其X发文当天便迅速展开媒体巡访。在他发声之际，OpenAI、Anthropic两家公司均宣称即将开发出无需人类干预即可实现自我改进的AI系统，即“递归式自我改进”。与此同时，Anthropic预计最早于10月中旬开始为其IPO进行营销，并计划在11月完成上市。