AI 资讯聚合 · 大模型

GLiDE v1.2 蒸馏后登顶决策指数

海外大模型决策模型知识蒸馏Fastino Labs · 2026-10-22 · 约2分钟 · 来源:Fastino Labs 博客
GLiDE v1.2 蒸馏后登顶决策指数

Fastino Labs 10 月 22 日发布 GLiDE v1.2:一个 27B 决策模型,基座是开源的 27B 混合模型(48 层 Gated DeltaNet 线性注意力加 16 层全注意力,模型卡写明源自 Qwen3.8-27B)。给它一段状态(文本、JSON 或图像)与若干道带类型的题,它一次前向返回每个选项的校准概率,不生成任何 token。

核心做法是「先教它推理,再把推理蒸馏回权重」:v1 是推理模型,v1.2 把思考 token 去掉、把推理过程压进权重,同时改造训练数据并引入多教师蒸馏;Fastino 称这正是准确率上升、延迟下降同时发生的原因。榜单上它在 Decision Index 0.4.1 得 71.52,229 个模型中第一(第二 Jeffan-31b-1710 69.8,第三 Baseten 的 mammoth-1 68.4)。

可用性上,权重以 fastino-community 许可放在 Hugging Face(非 OSI 开源),另提供托管 API;模型卡给的延迟是 bf16、单请求下 RTX PRO 6000 中位 84 毫秒,但 p99 达 2.7 秒、均值 263 毫秒,长尾并不小。两点要留意:71.52 是厂商自己在社区榜上的成绩,Decision Index 由 Hugging Face 上的社区 Space 维护;而同一模型在指数换版时分数会变——mammoth-1 从 0.4 的 71.24 变成 0.4.1 的 68.4,跨版本比名次并不严格可比。

原文链接:Fastino Labs 博客

核验记录
定日取官方博客自身字段:单页内 <time datetime="2026-10-22T00:00:00.000Z"> 与可见 October 22, 2026 两处一致,正文首句即 Today we are releasing GLiDE v1.2;标题 How to Train a SOTA Frontier Decision Model / 作者 Sahibzada Allahyar。HF fastino/GLiDE createdAt 2026-10-19T10:25Z、lastModified 2026-10-24T05:03Z(建仓早于公告,只留痕不定日)。数字逐字取自模型卡与 README:71.52 / 229 models / Jeffan-31b-1710 69.8 / baselabs mammoth-1 68.4 / bf16 RTX PRO 6000 Blackwell 中位 84 ms、均值 263 ms、p90 803 ms、p99 2,709 ms(750 次混合长度请求,平均每请求 2.3 个问题)/ 图像默认限制在 1024x1024。许可为 fastino-community(license: other),正文明确写非 OSI 开源。配图取博客 og:image(framerusercontent PNG 586,195 字节),裸请求与带站内 Referer 双 200。榜单维护方按模型卡链接记为 Hugging Face 上的社区 Space(multimodalart/jev-decision-index),本轮未直读该 Space 页面本身。