DeepSeek全面开源推理框架DeepInfer，兼容英伟达与昇腾平台
10月20日下午，DeepSeek宣布全面开源内部推理框架DeepInfer，进一步开放大模型推理基础设施，旨在帮助开发者和企业降低大规模AI服务的算力成本与能源消耗。
据DeepSeek介绍，DeepInfer集成高性能算子与优化推理引擎，支持分布式推理、推测解码、结构化输出等能力，并兼容英伟达与华为昇腾平台。基于该框架，DeepSeek已实现DeepSeek V4.1 Flash的高吞吐、低延迟大规模推理服务。
DeepSeek还同步开源生产级Token编解码组件deepseek-recipe，确保社区获得与官方部署一致的API体验。未来，DeepSeek新模型的推理代码及后续优化也将在DeepInfer持续更新。
DeepSeek表示，希望通过开放模型、算子库及推理框架，帮助开发者优化推理效率、降低部署成本，推动AI服务以更低成本触达更广泛的用户。
- 2026-10-20 17:19 | 界面新闻：DeepSeek：进一步将内部推理框架DeepInfer全面开源阅读原文
10月20日，DeepSeek表示，决定进一步将内部推理框架DeepInfer全面开源。基于DeepInfer，公司已实现DeepSeek V4.1 Flash高吞吐、低延迟的大规模推理服务。未来，DeepSeek新模型的推理代码及后续优化也将在此持续更新。
- 2026-10-20 17:05 | IT之家：DeepSeek 宣布将内部推理框架 DeepInfer 全面开源，目标实现大模型普惠阅读原文
IT之家 10 月 20 日消息，DeepSeek 今日官宣，在此前开源一系列大模型、TileLang 编译工具及推理算子库的基础上，决定进一步将内部推理框架 DeepInfer 全面开源。DeepSeek 官方表示，大模型的能力边界由模型本身划定，但如何以合理成本提供超大规模的模型服务，还取决于一个长期未被公众了解的中间层：推理框架。训练使模型学有所成，推理则让模型为人所用。面对如今海量的用户调用，推理框架负责统筹调度庞大的算力集群，其效率直接决定了 AI 服务的算力成本与电力消耗。DeepSeek 希望通过分享内部的部署经验，帮助开发者与企业组织优化大规模推理的吞吐与延迟，从而高效构建私有...
- 2026-10-20 17:00 | 华尔街见闻：不止开源模型！DeepSeek全面开放推理框架，剑指算力与能耗成本阅读原文
卜淑情 10-20 17:00 据DeepSeek介绍，DeepInfer集成高性能算子与优化推理引擎，支持分布式推理、推测解码、结构化输出等能力，并兼容英伟达与华为昇腾平台。基于该框架，DeepSeek已实现DeepSeek V4.1 Flash的高吞吐、低延迟大规模推理服务。 周二下午，DeepSeek宣布全面开源内部推理框架DeepInfer，进一步开放大模型推理基础设施，旨在帮助开发者和企业降低大规模AI服务的算力成本与能源消耗。 据DeepSeek介绍，DeepInfer集成高性能算子与优化推理引擎，支持分布式推理、推测解码、结构化输出等能力，并兼容...