阅读研究雷达投资体系
登录 / 注册
← 返回阅读
资讯专题 · Saluki 27B模型1 分钟阅读·2026-10-09

Underdog发布Saluki 27B:7.89GB量化模型自报工具调用超原版

Underdog发布基于Qwen3.8-27B的2-bit量化模型Saluki,体积仅7.89GB,厂商自测显示其工具调用能力优于54GB的原版模型。

重要性局部证据E2 未复现写法快讯

核验于 2026-10-09 17:28

Underdog(Conway Research)发布了Saluki 27B,这是一个基于Qwen3.8-27B的2-bit量化GGUF模型,文件大小仅为7.89GB。

该模型旨在为本地开发者提供能在标准llama.cpp上运行的代理工作流支持。根据官方模型卡数据,在“Underdog Bench”(源自BFCL v4的120个任务)中,Saluki得分88分,超过了54GB全精度原版的84分;在并行工具调用测试中,Saluki得分为42分,高于原版的35分。

然而,这种压缩带来了明显的性能权衡。官方数据显示,Saluki在竞赛数学(AIME 2025)上的表现从原版的96.7降至79.2,保留了约82%的能力。此外,部分基准对比使用的是不同测试框架下的公开分数,且所有结果均为厂商自测,尚未见独立复现。

来源

  • 原始出处huggingface.co↗
专题

Saluki 27B模型

Underdog发布基于Qwen3.8-27B的2-bit量化模型Saluki,体积仅7.89GB。该模型在工具调用任务上自报优于54GB的原版模型,但在数学推理和复杂编码任务中性能显著下降。

2 节点1 篇更新于 2026-10-09 18:18

事情怎么走到这一步

  1. 2026-10-08Underdog发布Saluki 27B,基于Qwen3.8-27B的2-bit GGUF格式,大小7.89GB,支持stock llama.cpp。
登录 / 注册
阅读研究雷达投资体系
  • 2026-10-09MarkTechPost等媒体报道称,Saluki在工具调用基准测试中得分88,超过全精度模型的84分,但数学推理得分大幅下降。
  • 还没定论的部分

    • Saluki的具体量化训练配方(IQ2-mix pass)尚未公开,社区能否独立复现其性能提升?
    • 在实际代理工作流中,因量化导致的格式错误(约20%的并行调用回复有小格式瑕疵)对系统稳定性的影响有多大?
    • 与PrismML Bonsai 2等其他小型化模型相比,Saluki在真实场景下的性价比和兼容性优势是否持续存在?
    读完整专题 →
    带入研究 →