YC Paper Club主讲人引用DeepSeek数据：推理算力消耗约为训练6倍

在2026年10月27日的YC Paper Club活动上，主讲人Francois引用DeepSeek公开数据指出，推理阶段的算力消耗约为训练的6倍；若权重有效生命周期为两年，这一比例将达12倍。他援引数据反推，DeepSeek的推理毛利率约为80%。

Francois从推理链路的技术细节展开，介绍了prefill、decode循环、KV cache缓存策略等环节。他表示，训练和prefill阶段的模型算力利用率（MFU）约为50%，而decode阶段MFU仅约5%，是推理的主要瓶颈。他还提到，某公司在96%输入缓存命中率下，prefill阶段每GPU吞吐量可达150万token/秒，而decode阶段仅约1.4万token/秒，两者差距悬殊。

Francois将推理优化路径归纳为模型层、内核与运行时层、脚手架层三类，涉及MOE架构、量化、蒸馏、flash attention、投机解码等技术。随后，他将话筒交给Together AI研究负责人Dan Fu、Ollama创始人Jeffrey Morgan、Luminal创始人Joe Fioti及SGLang核心开发者Liangsheng Yin四位嘉宾，围绕推理优化展开深入讨论。