AI 资讯聚合 · 开源生态

DiffuSpace 开源扩散语言模型 Clover:35B 只激活 3B

香港开源生态开源扩散模型DiffuSpace(香港大学 NLP 实验室) · 2026-10-28 · 约1分钟 · 来源:DiffuSpace 官方博客 / Hugging Face
DiffuSpace 开源扩散语言模型 Clover:35B 只激活 3B

DiffuSpace(香港大学 NLP 实验室)发布 Clover-35B-A3B-Preview,一个用扩散而非自回归方式生成文本的开源语言模型。它基于 Qwen3.6-35B-A3B 的 MoE 骨干改造,35B 总参、每 token 约 3B 激活,Apache 2.0 许可,权重与代码均已公开。生成方式是块扩散:每次并行解码一个块、再把已确定的块作为前缀继续,官方称单卡 BF16 可达 680 tokens/s。

官方博客与模型卡给出的规格:128K 上下文、40 层、256 个路由专家、top-8 路由加一个共享专家;支持 SGLang 与 llama.cpp 推理,HF transformers 可直接加载(BF16 约 69 GB 显存)。官方还预告了基于 Clover 的决策模型与智能体环境,目前标为开发中。

需要留痕的两点:所有基准分数(SWE-bench Verified 73.6、Terminal-Bench 2.1 51.7、GPQA Diamond 83.8)与速度数字均为 DiffuSpace 自测,尚无独立复现;HF 仓的 createdAt 是 2026-10-24,而 GitHub 仓与公开公告在 10-27/10-28,本条按公开发布日 10-28 计日,并把建仓日与公告日都写在 verify 里。

原文链接:DiffuSpace 官方博客 / Hugging Face

核验记录
官方博客 https://diffuspace.ai/blog/clover-35b/ 无可见日期字段;GitHub 仓 DiffuSpace/Clover-35B-A3B-Preview created_at 2026-10-27T11:30:09Z、pushed_at 2026-10-28T10:34:42Z;HF 仓 createdAt 2026-10-24T03:46:30Z;第三方媒体 Neural Brew 报道发布时刻 2026-10-28 04:42 Paris。按公开发布日取 10-28。配图 HF 社交缩略图裸请求与带站内 Referer 双 200 / PNG。基准与速度为厂商自测,未独立复现。