Kimi K2 0905

Kimi K2 0905 是 Kimi K2 0711 的九月更新版本。它是由 Moonshot AI 开发的大规模混合专家（MoE）语言模型，总参数量达 1 万亿，每次前向传播激活 320 亿参数。它支持最长 256k token 的长上下文推理，较之前的 128k 有所扩展。

此次更新提升了智能体编码能力，在多种框架上具有更高的准确率和更好的泛化性，并增强了前端编码能力，为 Web、3D 及相关任务提供更具美感和功能性的输出。Kimi K2 针对智能体能力进行了优化，包括高级工具使用、推理和代码生成。它在编码（LiveCodeBench、SWE-bench）、推理（ZebraLogic、GPQA）和工具使用（Tau2、AceBench）基准测试中表现出色。该模型采用包含 MuonClip 优化器的新型技术栈进行训练，以实现稳定的大规模 MoE 训练。