AI 行业资讯 - 模型对齐

Anthropic发布论文：自动化AI研究员可有效缓解对齐失效

Anthropic发布最新论文，介绍利用AI系统改善模型对齐基准测试表现的研究。研究团队针对10种失调行为设置测试，自动化系统使全部10项指标改善且未牺牲整体能力。论文指出自动化对齐后训练有望近期成为可行方法，并比较了自动化研究员与人类研究员的成本效率。