Marvell高管:推理模型带动KV缓存需求激增,光互连与内存扩展成算力扩张关键
在2026年Six Five Summit上,Marvell定制云解决方案业务执行副总裁Will Chu与数据中心网络业务集团执行副总裁Dave Lazovsky表示,随着推理模型兴起,KV缓存需求在过去九个月内膨胀约10倍,铜连接已逼近性能天花板,光学互连与内存扩展正成为下一阶段算力扩张的核心变量。
Dave Lazovsky指出,初代基础模型确立了对总内存容量的需求,而推理时计算进一步放大了内存压力,单机架HBM容量已无法支撑前沿模型,必须将互连规模从144个XPU扩展至约576个XPU的Pod,这要求从铜基互连切换至光学互连。Marvell目前同时推进NPO与CPO两条路径,已在以太网和UAL协议交换机上落地CPO方案。
Will Chu介绍,Marvell可提供从传统铜方案到NPO再到CPO的迁移路径,并覆盖计算、IO至交换机端口的全链路定制。在内存方面,Marvell投入高密度SRAM、定制HBM、3D堆叠及CXL扩展,并在FMS上发布光子织物内存设备,提供独立机架空间内32TB外挂内存池,整合DDR容量与HBM带宽特性。CXL产品已获得可观需求,部分客户用于旧内存接入新服务器及内存压缩实现2倍等效容量。
Dave Lazovsky还强调了模拟SerDes的能效优势,相比传统2.4T SerDes光学链路,基于模拟SerDes的规模扩展网络功耗可降低约4倍,全面部署后或使数据中心整体能耗降低25%以上。
- 2026-09-26 14:21 | 华尔街见闻:AI基础设施撞上“墙”!Marvell:铜连接、内存瓶颈成下一阶段算力扩张关键阅读原文
Marvell高管近日在Six Five Summit 2026上指出,随着推理模型驱动内存需求急剧膨胀、数据中心规模突破物理极限,铜连接已逼近性能天花板,光学互连与内存扩展技术正成为下一阶段算力扩张的核心变量。Marvell定制云解决方案业务执行副总裁Will Chu表示,市场长期聚焦于XPU本身,却忽视了围绕XPU的"附着层"——包括网络、内存、存储与安全。"每一颗XPU背后,存在三到四个甚至更多的配套定制机会,"他说,"AI基础设施正在全面走向定制化。"数据中心网络业务集团执行副总裁Dave Lazovsky则指出,推理时计算(inference time compute)的兴起使KV缓...