2026-10-10 10:51
AI123

Underdog AI发布Saluki 27B:2-bit量化Qwen3.8,聚焦智能体工具调用

人工智能实验室 Underdog AI 于2026年10月发布了 Saluki 27B 模型。该模型是 Qwen3.8-27B 的 2-bit 量化调优版本,仅保留文字输入输出能力,模型文件大小为 7.89 GB。

Underdog AI 介绍,Saluki 针对智能体应用设计,侧重于日常推理和工具使用,数学方面的表现相对逊色。在工具选择和多工具并行调用等任务中,Saluki 的表现甚至优于未量化的全尺寸 Qwen3.8-27B。

Saluki 采用标准的 llama.cpp 格式,可在 llama.cpp 及其衍生应用环境中直接加载运行,无需自定义编译。

来源
  1. 2026-10-10 10:25 | 新浪财经:Underdog AI 发布 Saluki 27B 模型:2-bit 量化 Qwen3.8-27B,7.89GB 大小
    阅读原文

    IT之家 10 月 10 日消息,人工智能实验室 Underdog AI 本月发布了 Saluki 27B 模型。该模型是 Qwen3.8-27B 的 2-bit 量化调优版本,仅保留文字 I/O 能力,文件大小则仅有 7.89 GB。Underdog 表示,Saluki 针对智能体应用设计,长于日常推理和工具使用,数学表现则相对逊色。其工具选择和多工具并行调用表现甚至优于全尺寸的 Qwen3.8-27B。Saluki 模型使用标准的 llama.cpp 格式,可在标准的 llama.cpp 以及基于它构建的应用程序中加载,无需任何自定义编译。参考

其他新闻

查看全部