英伟达下代Groq LPU AI推理芯片或采用3D堆叠DRAM方案

据韩媒ZDNET Korea报道，英伟达下代Groq LPU AI推理加速器芯片有望采用基于TSV（硅通孔）工艺的3D堆叠DRAM方案，以替代当前的大容量SRAM缓存设计。

当前一代Groq LPU采用大容量SRAM缓存设计，可提供快速解码输出。但SRAM存在容量较小、制程升级密度收益有限的问题，在大型模型表现和芯片迭代上存在固有局限。报道称，英伟达正考虑通过3D堆叠DRAM方案解决上述瓶颈。

同样采用大SRAM技术路线的Cerebras此前也预告，其未来的CS-6芯片将采用3D垂直集成DRAM技术。