智谱确认GLM-5.3 Flash推理服务采用数万张国产芯片

By AI123

8月29日消息,智谱正式确认,其大模型GLM-5.3 Flash在推理服务中使用了数万张国产芯片。智谱创始人唐杰透露,团队针对国产芯片进行了系统优化,最终使端到端服务性能相比同硬件初始基线提升3倍,硬件效率和单token成本已接近主流NVIDIA GPU,而价格仅为前沿模型的1/100。

近期,GLM-5.3 Flash曾以代号“Ox-Alpha”在全球引发热议,并被确认是智谱旗下模型。智谱此次展示了充足的算力储备,在免费期间提供了高达每天100T Token的支持,虽然实际流量未达此规模,但可见其算力资源颇具底气。关于国产芯片的具体型号与规格,智谱并未公布。

这一进展显示,国产芯片可以在规模上经济高效地支撑前沿模型的推理。海外评论指出,美国近年来的对华AI芯片出口限制反而推动了中国芯片产业及软件生态发展,中国正在构建软硬件自给自足的体系,并可能出现AI芯片出口海外、开源软件栈获得社区支持等情况。英伟达创始人黄仁勋也曾反对全面封杀AI芯片出口,认为彻底切断供应会推动中国AI产业从大模型到芯片实现独立自主,形成与美国公司竞争的技术体系。

Explore topicsCompute PowerGLMModelsNVIDIAZhipu

Sources

View all