Llama 4 Maverick

Llama 4 Maverick 17B Instruct (128E) 是 Meta 推出的高容量多模态语言模型，基于混合专家（MoE）架构构建，拥有128个专家，每次前向传播激活170亿参数（总计4000亿参数）。它支持多语言文本和图像输入，并跨12种支持的语言生成多语言文本和代码输出。Maverick 针对视觉-语言任务进行了优化，经过指令微调，适用于类似助手的交互行为、图像推理和通用多模态交互。Maverick 采用早期融合实现原生多模态，并支持100万token的上下文窗口。它使用了精选的公开数据、授权数据和Meta平台数据混合进行训练，覆盖约22万亿token，知识截止日期为2024年8月。Maverick 于2025年4月5日根据 Llama 4 社区许可发布，适用于需要先进多模态理解和高模型吞吐量的研究及商业应用。