Underdog发布Saluki 27B:7.89GB量化模型自报工具调用超原版
Underdog发布基于Qwen3.8-27B的2-bit量化模型Saluki,体积仅7.89GB,厂商自测显示其工具调用能力优于54GB的原版模型。
重要性局部证据E2 未复现写法快讯
Underdog(Conway Research)发布了Saluki 27B,这是一个基于Qwen3.8-27B的2-bit量化GGUF模型,文件大小仅为7.89GB。
该模型旨在为本地开发者提供能在标准llama.cpp上运行的代理工作流支持。根据官方模型卡数据,在“Underdog Bench”(源自BFCL v4的120个任务)中,Saluki得分88分,超过了54GB全精度原版的84分;在并行工具调用测试中,Saluki得分为42分,高于原版的35分。
然而,这种压缩带来了明显的性能权衡。官方数据显示,Saluki在竞赛数学(AIME 2025)上的表现从原版的96.7降至79.2,保留了约82%的能力。此外,部分基准对比使用的是不同测试框架下的公开分数,且所有结果均为厂商自测,尚未见独立复现。