Llama Guard 4 12B

Llama Guard 4 是一个基于 Llama 4 Scout 衍生的多模态预训练模型，经过微调用于内容安全分类。与之前的版本类似，它可用于对 LLM 输入（提示分类）和 LLM 响应（响应分类）中的内容进行分类。它作为一个 LLM 运行——在其输出中生成文本，指示给定的提示或响应是安全还是不安全，如果不安全，还会列出违反的内容类别。

Llama Guard 4 经过对齐，以防范标准化的 MLCommons 危害分类体系，并设计为支持多模态 Llama 4 能力。具体来说，它结合了之前 Llama Guard 模型的特点，为英语和多种支持的语言提供内容审核，同时增强了处理混合文本和图像提示（包括多张图像）的能力。此外，Llama Guard 4 已集成到 Llama Moderations API 中，将强大的安全分类能力扩展到文本和图像。