斯坦福与英伟达发布CLM-8B,以对比匹配替代逐token生成加速AI智能体决策
斯坦福大学与英伟达的研究人员联合发布了对比语言模型(CLM)方法及相应的CLM-8B模型。该模型不再采用逐token生成的方式来做出决策,而是分别编码当前状态与可用动作的表征,并通过匹配二者来选择最佳动作。由于动作表征可以被缓存和复用,这一设计在处理重复性决策场景时具备明显的效率优势。
在零样本测试中,CLM-8B在电脑操作、游戏和工具调用等任务上表现出了较高的执行速度,最高可比TypeSafe公司的Jev模型快9倍。在BFCL v4工具调用基准上,CLM-8B得分95.2%,而Jev为99.2%;在WikiRacing任务中,CLM-8B完成了26/30,Jev则完成了30/30。
CLM-8B基于冻结的Qwen3-8B骨干网络,分别设置状态和动作投影头。在实际部署中,若应用需要在固定的动作集合中反复选择,CLM可以预先编码并缓存动作表征,从而减少每次请求时的计算量。该模型支持多项有限决策模式,包括选项选择、是/否概率输出、有序尺度评分以及任意候选排序,可应用于工具路由、工单分拣、检索候选筛选等场景。
研究团队使用InfoNCE对比训练方法,先后经过大规模问答对预训练、合成困难负样本训练以及智能体轨迹后训练三个阶段。该模型权重以Apache 2.0许可证开源,并同步发布了代码、TypeSafe兼容API与微调工具。
- 2026-09-26 04:13 | venturebeat.com:Stanford and Nvidia's open CLM-8B caches reusable agent actions and runs up to 9x faster than Jev in tests阅读原文
AI agents often use LLMs to choose between a fixed set of tools or rank candidate outputs. In each case, the model processes a prompt and generates tokens even though the application only needs a bounded decision.Researchers from Stanford and Nvidia have released Contrastive Language Models (CLM), a...