AI 行业资讯 - AI对齐

Anthropic新报告：智能体自主设定研究方向，成本远低于人类

8月28日，Anthropic发布新报告，探索AI自主设定研究方向。报告包含两个实验：一是Anthropic Fellows项目，让Claude以自动化对齐研究员（AAR）身份独立完成研究闭环，修复十类对齐失败，结果全部改善，AAR最佳方法平均6.4小时超过人类最佳点子，API推理成本约4美元/小时，远低于人类研究者的150美元/小时；二是用弱模型Claude Sonnet 5对齐强模型Opus 4.8，约60小时内AAR达到65%，接近正式版Opus 4.8的72%。