英伟达AI推理架构Groq 3 LPX全面量产，响应速度提升4倍

当地时间8月24日，英伟达宣布旗下Groq 3 LPX架构已全面量产。该架构通过大幅提升Token生成速率，扩展了Vera Rubin NVL72系统的推理性能。新云厂商Nebius成为首个采用该架构的AI云服务商，产品将于2026年晚些时候上线。

英伟达表示，智能体AI带来两个独特计算挑战：对海量上下文的高效处理，以及以极低延迟生成Token。Groq 3 LPX专为拓展Vera Rubin的交互性而设计，这决定了智能体完成工作中每一步的速度。在全球独立AI大模型评测机构Artificial Analysis的基准测试中，该架构在智能体编程及其他对延迟敏感的工作负载中展现出“世界级速度”，响应速度比表现最接近的替代平台快4倍。

英伟达CEO黄仁勋表示，Vera Rubin延续了针对智能体AI时代设计的“工作负载优化型AI工厂配置”，通过LPX实现超高速Token生成，改变智能的生产方式。这标志着英伟达史上最大规模收购的技术正式完成商业化落地。2025年12月，英伟达以200亿美元收购芯片初创公司Groq的核心班底。

2026年3月，英伟达宣布推出定制芯片Groq 3 LPU，预计于第三季度出货，并推出装载该芯片的数据中心机架LPX。2026年5月，黄仁勋在财报电话会上表示，该机架专为低延迟和高Token生成速度而设计，但吞吐量较低，用例并不广泛。此类低延迟芯片并不取代GPU，而是专注于模型服务中被称为“解码”阶段的环节。云服务厂商可针对高质量Token输出收取更高费用，为对延迟敏感且有严格SLA需求的用户提供溢价服务。

消息公布当日，英伟达股价下跌2.91%至208.48美元，总市值5.05万亿美元，连续第七个交易日下跌，创2022年以来最长连跌纪录。另据外媒报道，英伟达已告知最大客户，搭载其AI芯片的服务器价格将上涨超过15%，从2027年初出货的系统正式生效。