中科曙光发布FN Neo全闪存储,为AI推理构建池化KV Cache底座
9月21日,中科曙光在2026年CCF全国信息存储技术学术会议上正式发布迭代升级的AI推理原生存储FN Neo。该产品依托池化共享架构,实现集群级KV Cache资源调度,旨在解决大模型与智能体场景下传统本地缓存资源割裂、难以跨会话跨节点复用的问题。
在传统推理部署方案中,KV Cache通常作为计算节点私有资源,不同会话间无法互通,导致缓存数据闲置、算力释放受限。FN Neo将原本绑定在计算节点内部的私有缓存转变为推理集群可共享调度的资源,使不同模型会话与计算节点能够灵活读取、复用KV Cache数据,从而打通大模型推理性能优化的关键环节。
实测数据显示,FN Neo单阵列带宽可达160GB/s,时延为亚毫秒级,相比传统本地NVMe方案,延迟、吞吐量和多请求并发数均有约2倍提升。该产品可实现模型首Token响应时间缩减73%,整体Token吞吐能力提升150%。可靠性方面,FN Neo具备99.999%高可靠运行保障,通过慢盘自动隔离、故障无损重构等机制支撑推理业务7×24小时运行。
生态适配层面,FN Neo提供SAN/NAS/KV三重协议一体化开放生态,可对接vLLM、LMCache、Mooncake等主流推理框架,企业无需大规模改造现有推理环境即可接入。中科曙光方面表示,通过存力资源池化,可减少多节点重复存储开销,提升GPU等计算硬件的整体利用率。
- 2026-09-22 12:41 | 新浪财经:中科曙光AI推理原生存储FN Neo:Token吞吐可提高150%阅读原文
【环球网科技报道 记者 李文瑶】智能体时代加速到来,AI推理业务规模快速扩张,推理占比持续走高。在大模型与Agent业务场景下,KV Cache已经成为推理环节的核心生产数据,传统节点本地缓存模式资源割裂,难以实现跨会话、跨节点复用,制约大模型推理整体效能。针对上述行业痛点,9月21日,中科曙光(84.950, 1.01, 1.20%)在2026年CCF全国信息存储技术学术会议上正式发布全新迭代升级的AI推理原生存储FN Neo,依托池化共享架构,实现集群级KV Cache资源调度,为AI推理规模化落地提供全新存力底座。行业内长期存在“集中式存储不适合AI推理”的固有认知,不少从业者认为推理业...