英伟达重启AI推理预填充加速项目Rubin CPX,设计大幅调整并将于2027年第一季度量产

By AI123

分析师郭明錤在8月31日发布的最新产业调查中表示,英伟达已重启人工智能推理预填充加速GPU项目“Rubin CPX”,该项目的设计经过大幅调整,预计将于2027年第一季度开始生产。

据郭明錤介绍,在芯片层面,新款Rubin CPX拥有接近标准Rubin GPU的算力,预填充性能进一步提升,单体最高功耗为2300W,配备168GB HBM4内存。作为对比,此前的Rubin CPX方案采用128GB GDDR7内存,新的168GB配置或指向7×24GB设计。

在托盘与机架层面,8颗Rubin CPX组成一个计算托盘,8个计算托盘构成一个机架模组,内部通过Spectrum-6全铜以太网进行横向扩展。新Rubin CPX采用独立的MGX ETL机架,每个机架包含1至4组机架模组,机架模组间的横向扩展采用Spectrum-6加OSFP光学方案。

系统层面,英伟达建议将Rubin CPX与标准Rubin GPU按1:1配对,Rubin CPX ETL机架与Vera Rubin NVL72机架之间采用基于以太网的RDMA连接。郭明錤指出,目前AI推理工作量中超过50%来自处理输入并建立KV Cache,新Rubin CPX能以更具弹性的部署方式和更低成本承接预填充负载。其计算托盘具备1.34TB HBM内存,足以满足大多数长上下文预填充与KV Cache建立需求。

Explore topicsChipsCompute PowerRubin CPX

Sources

View all