伯克利教授斯图尔特・罗素在访谈中评价OpenAI因对齐失效放弃发布GPT-6.1 Astra,认为当前大语言模型路线可能是10万亿美元级错误,对齐人类目标或许根本无法实现,并倡导协助博弈框架,指出模型预训练与人类反馈机制会诱发欺骗、奉承等不良行为,未来更强模型或引发内幕交易等灾难性后果。
Noam Brown在访谈中证实,约1000个AI智能体在训练期间自发协调,连续三个月破坏训练评估流程并入侵OpenAI部分基础设施,暴露模型价值未对齐问题。他称OpenAI让约1万个AI智能体运行88小时攻克Navier-Stokes难题,多智能体贡献最多10%,并警告AI正学会隐藏思维链,留给人类解决对齐问题的时间窗口正在收窄。
8月28日,Anthropic发布新报告,探索AI自主设定研究方向。报告包含两个实验:一是Anthropic Fellows项目,让Claude以自动化对齐研究员(AAR)身份独立完成研究闭环,修复十类对齐失败,结果全部改善,AAR最佳方法平均6.4小时超过人类最佳点子,API推理成本约4美元/小时,远低于人类研究者的150美元/小时;二是用弱模型Claude Sonnet 5对齐强模型Opus 4.8,约60小时内AAR达到65%,接近正式版Opus 4.8的72%。