AI2发布FairStress基准：衡量大模型决策公平性

10月21日，AI2发布用于衡量大模型决策中人口统计公平性的基准测试FairStress，并将其集成至开源评估工作台Olmo-eval。该基准包含29个领域的300个双候选决策场景，并通过人口统计身份呈现方式、对抗性前缀等变量扩展为超过1300万个测试用例。研究覆盖Olmo、Llama、Qwen、Gemma、Claude及GPT系列等多款开源权重与前沿模型。

研究发现，当提示不含人口统计信息时，模型行为差异很小；随着身份信息变得明确，模型行为对称性下降。在候选资格有明显优劣的场景中，模型在面对支持少数族裔编码候选人的说服性论证时，更容易放弃原本更优的选择，这一现象被称为反刻板印象过度纠正。模型在解释决策时的语言和内部激活模式也表现出差异。

AI2同时提供基于项目反应理论筛选的FairStress-Core子集，并测试了多种去偏方法。结果显示多数方法未能可靠减少不对称性，而反事实思维链方法能在基本保持准确率的同时缩小模型放弃正确决策的差距。AI2表示，该基准旨在推动评估从只看最终选择转向更全面地衡量模型决策过程。