BottleCap AI 发 ThinkingCap-Qwen3.8-27B:12 项基准少用 37.2% 思考 token,准确率代价 0.86 个百分点
BottleCap AI 发布 ThinkingCap-Qwen3.8-27B,这是 Qwen3.8-27B 的效率微调版本,目标是压缩推理链长度。官方口径是在 12 项基准上平均少用 37.2% 的思考 token,宏平均准确率从 86.65% 变为 85.79%,即 0.86 个百分点的代价;长上下文任务 AA-LCR 反而提升 2.25 个百分点。模型在 vLLM 与 SGLang 上是直接替换件,无需改调用代码。
结构上它是 Qwen3.8-27B 的微调,config 中 architectures 为 Qwen3_5ForConditionalGeneration、pipeline_tag 为 image-text-to-text,HF 卡标注 base_model_relation=finetune,tags 写 token-efficient 与 efficient-thinking。权重以自动请求门控方式开放,许可为 PolyForm Small Business 1.0.0(非标准开源许可,企业需自行评估),仓库同时提供 GGUF、NVFP4、FP8 与 AWQ 等量化分支。
它针对的是一个很具体的工程取舍:推理模型的成本大头在思考 token,而 0.86 个百分点的平均准确率损失对不少分类、抽取与工具调用场景可以接受,因此这类微调的价值主要看单任务的准确率是否守得住,而不是宏平均。本轮没有找到厂商的独立新闻稿或技术报告,37.2%、86.65%→85.79%、AA-LCR +2.25pp 三个数字均来自单一二手来源,12 项基准的清单与样本未逐项核到;因此该条按中置信收录,正文未把它们写成已验证结论。
核验记录
厂商官网 bottlecap.ai 裸取仅 114 字节壳页、r.jina.ai 返回 403,无独立新闻稿与技术报告;日期取 HF 官方仓 bottlecapai/ThinkingCap-Qwen3.8-27B 的 createdAt=2026-09-23T15:56:49Z(同 org 下 GGUF/NVFP4/FP8/AWQ 五个仓 createdAt 相差 7 秒,互证),并以 MarkTechPost 9/24 18:58 UTC 稿交叉,故 date 取 9/23 而非媒体发稿日 9/24——此为仓库时间戳,非官方宣布日。architectures、base_model_relation、license、gated、量化分支均读自 HF API 与 LICENSE 文件原文;37.2%、86.65%→85.79%、AA-LCR +2.25pp 三项性能数字来自 MarkTechPost 单一来源,12 项基准清单未逐项核到,README 直取返回 401 未读。配图用 HF 官方社交缩略图(PNG 422,876 字节),裸请求与带站内 Referer 双测均 200、字节一致。
← 上一篇Together AI 开源 Tev1-4B:把 Qwen3.5-4B 微调成只吐一个选项字母的决策模型,4,880 万次主决策集自评 88.0%下一篇 →Tether AI 发布 191.43B-token 合成 STEM 数据集:让小模型学解释,不只学答案