百度

ERNIE-4.5-VL-424B-A47B 是百度 ERNIE 4.5 系列中的多模态混合专家（MoE）模型，总参数量为 424B，每个 token 激活 47B 参数。该模型采用异构 MoE 架构和模态隔离路由，在文本和图像数据上联合训练，以实现高保真跨模态推理、图像理解以及长上下文生成（最高 131k token）。通过 SFT、DPO、UPO 和 RLVR 等技术进行微调，该模型支持“思考”和非思考两种推理模式。该模型专为英语和中文的视觉-语言任务设计，针对高效扩展进行了优化，并可在 4-bit/8-bit 量化下运行。