2026-10-13 22:21
最后更新于2026-10-16 15:34
AI123

Scaledown 发布 CDMs 系列 AI 模型,跳过逐 token 生成循环

Scaledown 团队于2026年10月13日发布全新的约束解码模型(Constrained Decoding Models,简称 CDMs)系列,包含 Classify、Extract、Summarize 三款模型。与传统自回归语言模型逐 token 生成内容不同,CDMs 为每个任务专门设计,读取输入后直接跳过逐 token 生成循环,以提升速度和降低成本。

三款模型各自专注单一任务。Classify 支持自定义标签,返回校准概率和理由,可用于路由、打标和意图检测;Extract 支持用自然语言描述需要提取的字段,返回包含置信度与来源引用的 JSON 结果;Summarize 可将长文本、图片和 PDF 转化为 1000 token 以内的摘要,适用于上下文压缩和转录摘要等场景。

性能方面,CDMs 支持 100 万 token 的多模态输入(文本与图像),在 DecisionBench 上取得 77.2% 的得分,团队称其比前沿 LLM API 快 200 倍、便宜 467 倍。定价上,输入价格为每百万 token 0.05 美元,输出免费。目前该系列模型已在 OpenRouter、Vercel、LiteLLM、LangChain 等平台上线。

来源
  1. 2026-10-13 20:49 | X:A family of constrained-decoding models from @scaledown_team is live on OpenRouter, each one purpose...
    阅读原文

    You already gave the LLM the answer. So why is it writing it out from scratch?Introducing a new AI model architecture: Constrained Decoding Models (CDMs)LLMs were built to write. Most production workloads just need an answer: fast, consistent, and affordable.CDMs are purpose-built for 1 task each. T...

其他新闻

查看全部