Anthropic发布Agent4Sci评测框架,四个前沿Agent均改进全部20个科学基准
Anthropic研究团队提出Agent4Sci评测框架,旨在衡量AI Agent在科学机器学习任务中的长程自动改进能力。该框架覆盖11个科学领域、20个基准和25个任务,相关论文已入选NeurIPS 2026评估与数据集赛道。
实验比较了Claude Opus 4.6、Claude Sonnet 4.6、Gemini 3.1 Pro和Codex(GPT-5.4)四个前沿Agent。结果显示,四个Agent合计改进了全部20个基准,其中Claude Opus的平均相对改进达10.4%,加入三个插件技能后提升至20.1%。
Agent4Sci的构建分为两步:先通过四阶段筛选与人工标准化选定基准任务,再以三阶段协议将爬坡、评估与审计隔离,防止Agent利用评估漏洞获取表面提升。研究团队在实验中发现,Agent的改进主要来自学习率调整、模型结构替换等常规机器学习工程技巧,针对具体科学问题的干预相对少见。
团队为此设计了研究构思、实验管理和定时检查清单三个轻量插件技能,使两个Agent的平均改进接近翻倍。研究团队表示,Agent4Sci将自动化科研中的模型改进能力转化为可复现、可审计的评测问题,也有助于区分提升究竟来自工程技巧还是对科学问题的理解。
- 2026-10-26 11:16 | 36氪:Anthropic研究实锤:AI还做不出真正的科研阅读原文
前沿 Coding Agent 正在将机器学习研究转化为可自动执行的工作流,但现有研究多集中于结构良好的代码库、单一任务或计算机科学领域,面对分散在不同学科、缺乏完善训练与评估流程的科研项目,Agent 能否真正改进模型,仍缺少系统性测量。直接在原始科研代码库上测试 Agent 也并不可靠,原始仓库缺少明确的指标定义或规范的数据划分时,Agent 可能利用评估漏洞取得表面上的提升,而非真正改善模型。 为此,Anthropic 团队提出了Agent4Sci,这是一个面向科学机器学习(ML for Science)任务的长程自动爬坡评测框架,覆盖 11 个科学领域、20 个基准和 25 个任务...