CTGT发布开源工具Concordance，定位AI应用决策不一致根源

10月21日，CTGT宣布以Apache 2.0开源许可证发布新系统Concordance，为企业提供免费工具，用于调查AI应用在执行相同任务时为何会做出不同决策。该公司表示，发布内容包括测试协议、参考实现和实验数据，目前没有推出付费或托管版Concordance的计划。

CTGT是一家应用可解释性实验室，主要研究AI模型及外围软件在银行、保险等场景中的行为。Concordance的诞生源于该公司在自身合规应用中发现的问题：同一份银行手册被处理四次，却产生了四组不同的义务清单，其中一次甚至遗漏了将严重问题上报合规负责人的要求。而底层模型在面对完全相同的请求时回应始终一致，差异来自应用管线的变化。

实验中，CTGT使用Qwen3.8-27B模型配合SGLang的确定性推理模式，四次运行分别提取出32、31、33和33项义务，但四次输出内容均不相同。进一步检查发现，提示词中出现了上传专用的标识符、路由列表顺序变化以及主题注册表扩展等三类原因。CTGT将标识符替换为稳定标签、排序列表并在全新组织环境中隔离测试后，连续五次运行均得到相同的34项义务。

Concordance同时检查模型服务软件和使用模型的应用，捕获精确的模型请求与响应，比较各阶段的输出，并定位最早出现分歧的位置。CTGT创始人兼CEO Cyril Gorlla表示，即使模型本身是非确定性的，应用管线也可能导致不同答案；该工具可帮助企业在从AI助手转向负责批准、标记或记录决策的智能体时，找到差异产生的起点。他强调，Concordance定位为现有追踪系统的补充，免费且采用Apache 2.0许可。