神州光大实现国产环境MoE后训练MFU超34%

9月11日，神州光大宣布，基于深圳河套学院AI训练平台项目团队公开论文的技术路径，依托自有工程体系独立完成复现与优化，在客户真实业务后训练场景中实现了国产算力环境下MFU（模型算力利用率）稳定达到34%以上。该结果与论文在Ascend SuperPOD上取得的34.22%MFU、较开源基线提升2.93倍的技术结论相互印证。

MoE模型通过专家路由将总参数推向万亿级，同时保持相对可控的单token计算量，但训练系统需要面对更复杂的通信编排、显存压力和长周期稳定性问题。神州光大围绕流水线气泡压缩、MoE通信与计算重叠、双缓冲Swap Optimizer等关键环节进行工程重构，使万亿参数级MoE模型在全参数后训练中减少通信等待、显存碎片和无效空转造成的算力损耗。

基于上述成果，神州光大正式启动高效大模型后训练技术规模化推广计划，围绕MoE模型、国产算力、真实业务场景三条主线，建设可复用的训练优化配方库与工具链，向金融、能源、制造、政企及运营优化等高价值场景推进。公司董事长高峰表示，34%以上MFU是起点不是终点，目标是让前沿方法变成客户业务中可感知的训练提速、成本下降和迭代确定性。