AI 资讯聚合 · 开源生态

腾讯放 DSpine 草稿模型:并行起草、因果按深度串,Qwen3-8B 接受长度 7.83 压过 DFlash2

国内开源生态推测解码草稿模型腾讯 / 腾讯优图 · 2026-10-16 · 约2分钟 · 来源:腾讯 DSpine 官方项目页 / 模型卡
腾讯放 DSpine 草稿模型:并行起草、因果按深度串,Qwen3-8B 接受长度 7.83 压过 DFlash2

腾讯放出的 DSpine 是一个「并行起草、但因果按网络深度串联」的推测解码草稿模型。并行起草能在一次骨干前向里生成多个候选 token,代价是各位置独立挑选会产出彼此不一致的续写、把可接受的长度压短;已有做法多把条件化解码交给骨干之后的轻量模块,于是前驱信息往下游流动受限。DSpine 的做法是在骨干每一层做门控的相邻注入:把前一个位置的预测特征写进后一个位置,因果条件链沿深度展开、所有位置仍并行更新;再以目标模型输出嵌入构成的统一传递空间,把逐层注入与前驱条件化解码接到一起,并用融合算子与转移缓存在 SGLang 里并行执行。

实测在 Qwen3-8B 上(temperature 0,与 DFlash2、DSpark、Domino、DFlash 在同一份 Open-PerfectBlend 上同配置重训)七个基准的接受长度均值 7.83,高于 DFlash2 的 7.55、DSpark 的 7.44 与 DFlash 的 5.92;分项 GSM8K 10.55、MATH-500 10.30、HumanEval 8.27、MBPP 7.66、LiveCodeBench 7.25、MT-Bench 5.63、Arena-Hard 5.13,七项均为最长。temperature 1 下均值 6.98(DFlash2 6.53)。SGLang 服务测试中,它相对 DFlash 的平均吞吐高 23.3%。

权重与推理代码已经开放:Hugging Face 上的 tencent/Qwen3-8B-DSpine-b16 采用 Apache 2.0,推理按 SGLang 的 DSPINE 算法跑、草稿 token 数 16。项目页列出的后续计划是补训练代码与 Qwen3.8-27B 版本,两项都尚未发布。论文 arXiv 2609.36173 于 2026 年 9 月 28 日公开。

原文链接:腾讯 DSpine 官方项目页 / 模型卡

核验记录
定日:官方项目页 dspine-project.github.io(87,728 字节,直读 200)只给到月粒度——news 列表里「[Oct 2026] Qwen3-8B draft weights released」「[Oct 2026] Inference code released」「[2026-09] Paper released on arXiv」,<time> 标签内亦为「[Oct 2026]」,**没有日级官方日期**;按 R21 降级链取 HF 权重仓 tencent/Qwen3-8B-DSpine-b16 的 createdAt 2026-10-16(本站口径:仓库时间戳非官方公告日,仅用于定日)。第二个平台时间戳:GitHub 仓 Tencent/DSpine created_at 2026-10-15T13:04:13Z、pushed_at 2026-10-16T20:35:59Z(该仓无 release,/releases 返回空数组)。论文 arXiv 2609.36173 的 citation_date 为 2026-09-28(**超出 7 天窗**,故正文与 date 字段都按「权重与推理代码 10 月放出」这一事件写,不写成 9 月发布)。数字全部取自官方项目页与 HF 模型卡(README 3,858 字符全文读过):接受长度表是 DSpine/DFlash2/DSpark/Domino/DFlash 在同一份 Open-PerfectBlend 上同配置重训后的对照,7.83 / 7.55 / 7.44 / 7.05 / 5.92;项目页摘要另给一组口径不同的数字(对官方 DFlash 检查点,七基准均值 3.77→4.82、+27.8%),两组不可混用,正文只用前者与吞吐 23.3%。配图 dspine-project.github.io/assets/overview.jpg 裸请求与带站内 Referer 双向 200 / JPEG 489,565 字节。