Salesforce与英伟达合作推出首个推理模型Koa

9月15日，Salesforce在Dreamforce大会上发布其首个推理模型Koa。该模型基于英伟达开源权重Nemotron模型构建，由双方合作进行后训练，专注于销售、营销和客服等企业任务。

Koa被定位为Agentforce平台中闭源前沿模型的开放权重替代方案。在Agentforce中，企业客户可构建智能体处理客服问答、日程安排等重复性工作。Koa可通过AI网关自动路由，根据任务需求被调用，可降低AI支出，同时客户数据不会用于模型训练，并遵循Salesforce内置的数据安全要求。

在此之前，Agentforce中的智能体若需执行长流程或多步骤推理任务，提示词通常会被路由到Claude或ChatGPT等前沿模型。Salesforce AI执行副总裁Jayesh Govindarajan表示，此前推理能力一直依赖前沿模型供应商，直到现在。他还提到，训练企业级模型一直缺乏可用的预训练基础模型，Nemotron出现后，才有了具备清晰数据来源的美国开源预训练模型。

据Salesforce与英伟达介绍，后训练过程未使用任何真实客户数据，而是通过模拟客服环境和销售场景的合成数据完成，包括模拟客户服务人员以及致电客服中心的愤怒客户等。英伟达企业生成式AI软件副总裁Kari Ann Briski表示，Nemotron架构在推理token效率方面具有独特设计。