小米大模型MiMo-V2.6训练中途公开,累计成本超128万美元

By AI123

9月17日,小米MiMo大模型团队负责人罗福莉在X平台发文,公开了最新大模型MiMo-V2.6的强化学习(RL)训练过程,并分享了实时训练页面。这是外界首次看到该模型强化学习阶段的部分训练状态。

罗福莉表示,MiMo-V2.6正处于强化学习运行中途,团队正从三方面进行扩展:计算资源(每步约20亿token,1568个提示×16次rollout,完全异步)、环境和测试框架(多任务代理式RL,在一次运行中混合多个测试框架)以及评估计算(代理式组内信用分配,带有测试用例和基于量规的奖励)。她透露,未来几周将逐步开源细节。

从训练页面来看,MiMo-V2.6正在进行大规模Agent强化学习实验,页面展示模型训练进度、Token消耗、训练成本、样本数量及多个内部指标变化,包含MiMo-V2.6-Pro和MiMo-V2.6-Flash两个版本。两个版本当前累计训练成本已超过128万美元,其中Pro版本训练时长1天19小时,耗费89万美元;Flash版本训练时长1天14小时,耗费39.7万美元。

公开资料显示,罗福莉曾任阿里巴巴达摩院机器智能实验室研究员,后加入DeepSeek参与研发DeepSeek-V2等模型,2025年11月正式宣布加入小米。雷军此前也曾多次提及小米在AI领域的进展。

Explore topicsMiMoModelsXiaomi

Sources

View all