MarkTechPost 发布 Saluki 27B 工具调用测试教程

教程介绍如何在 llama.cpp 中运行 7.9 GB 的 Underdog Saluki 27B，并与 ISTA-DASLab 的量化版本使用同一批 120 道工具调用任务比较。作者指出，Saluki 的权重也发生了变化，因此两者的差异不能只归因于量化；测试未覆盖完整尺寸模型，结果还受样本量和单次运行限制。