Kimi K2 0711

Kimi K2 Instruct 是由 Moonshot AI 开发的大规模混合专家（MoE）语言模型，总参数达1万亿，每次前向传播激活320亿参数。它针对智能体能力进行了优化，包括高级工具使用、推理和代码合成。Kimi K2 在广泛的基准测试中表现出色，尤其是在编码（LiveCodeBench、SWE-bench）、推理（ZebraLogic、GPQA）和工具使用（Tau2、AceBench）任务上。它支持长达128K token的长上下文推理，并采用新颖的训练栈设计，其中包括 MuonClip 优化器，以实现稳定的大规模 MoE 训练。