中国信通院等联合发布大模型词元服务监测报告：国内模型TPS与均价较去年翻倍

中国信息通信研究院人工智能研究所等机构于2026年10月23日联合发布《大模型词元服务性能监测报告（2026年）》。报告基于2026年1月至8月的监测数据，围绕词元服务调用成功率、吞吐速度、首词时延、稳定性、价格、上下文窗口等维度展开分析，为用户选型提供参考。

报告显示，2026年8月国内各模型平均TPS（每秒输出词元数）达到78.23个/秒，较2025年均值38.25个/秒实现翻倍；国外典型模型同期TPS均值为112.82个/秒，整体仍优于国内。价格方面，经历过去两年价格战后，2026年国内外模型服务价格明显上涨，国内今年以来归一化均价为13.46元，较2025年下半年的6.8元涨幅接近一倍；国外典型模型平均归一价格约为117.8元。

上下文长度方面，被监测模型中上下文长度达到1M（百万词元）的占比为47.8%，200K及以上的合计达95.7%，较2025年底提高超过76个百分点。报告还提到，2026年6月国内词元日均消耗量约500万亿，是2025年12月的近4倍；8月国内平均TTFT（首词时延）为1.26秒，较2025年平均值0.78秒明显增加，报告认为这与模型参数量、上下文长度和调用量增加等因素有关。