Underdog发布 Saluki 27B，将 Qwen3.8-27B 压缩至 7.89GB

a16z 投资的本地 AI 助手 Underdog 发布 Saluki 27B。该模型基于阿里 Qwen3.8-27B 制作，采用约 2-bit 量化，体积从全精度版本的约 54GB 缩小至 7.89GB。

官方称，16GB 内存的笔记本就能运行，且支持通过 llama.cpp 等现有工具部署。模型权重已按 Apache 2.0 协议开放。

Saluki 使用了奥地利科学技术研究所 ISTA-DASLab 的量化成果。该实验室此前已将 Qwen3.8-27B 压缩至约 8.4GB，Underdog 在此基础上继续缩小体积，并把优化重点放在工具调用表现上。

按照官方披露的自测结果，在从 BFCL 选出的 120 道工具调用题中，Saluki 做对 88 道，ISTA 量化版做对 76 道，54GB 原版做对 84 道。在 50 个真实 GitHub 问题修复任务中，Saluki 解决 30 个，原版解决 33 个。

官方称，Saluki 在 9 项评测中平均保留了原版 96% 的成绩，不过不同任务之间差距较大。其中，数学竞赛和复杂推理成绩分别约为原版的 83% 和 85%。