Anthropic对齐负责人：超级智能或致人类灭绝风险超10%

9月8日，Anthropic对齐科学负责人Evan Hubinger公开表示，他个人认为未来十年人工智能杀死全人类的概率超过10%。他透露，Anthropic确实认真看待这一风险，但目前尚未找到解决超级智能对齐问题的方案，也没有明确迹象表明公司正朝这一目标推进。

Hubinger指出，当前AI模型本身的风险较低，真正令人担忧的是通过递归自我改进产生超级智能。此前，Anthropic研究员Jacob Coxon宣布辞职，称Anthropic和OpenAI正竞相开发可自我改进的超级智能，“拿我们的生命赌博”。Coxon还提到，近期Hugging Face遭AI模型攻击等事件为AI实验室加强协调提供了“警示”，但全球AI竞赛仍可能难以避免。