AI 资讯聚合 · 开源生态

vLLM 语义路由放出 Decision 2.0 全家族:0.6B 到 27B 六个开放权重,给路由做不生成文本的决策层

海外开源生态决策模型开放权重vLLM Semantic Router · 2026-09-29 · 约2分钟 · 来源:Hugging Face(vllm-sr 组织)
vLLM 语义路由放出 Decision 2.0 全家族:0.6B 到 27B 六个开放权重,给路由做不生成文本的决策层

vLLM 生态里的语义路由项目(vLLM Semantic Router)在 9 月 28–29 日集中上架 Decision 2.0 家族,共六个开放权重模型:Kai-0.6B、Eos-0.8B、Sol-2B、Nox-4B、Lux-9B、Vega-27B(另有上一代 Route-0.6B 与 Eos-0.8B)。它们的共同点是「不生成文本」:给一段文本或 JSON 加若干问题,一次前向就同时给出多个选择、是非与评分答案,并对每个选项返回概率。

这一支存在的理由在路由场景里最直白——用一个大模型来判断「这条请求该走哪个模型」本身就是浪费。家族里最大的 Vega-27B(实际 29.37B 参数、32,768 token 上下文、Apache-2.0)模型卡写的是:同尺寸四个模型里 JevArena 得分第一(74.0,与 AutoJev-27B 的 72.1 统计上持平),比自己家族的 Lux-9B 在 Jev 决策指数上高 11.2,单张 GPU 上单问题请求中位延迟 71.4 毫秒;最小的 Kai-0.6B 则把门槛压到 6 亿参数这一档。

口径提醒:本条按 HF 仓库公开时间收录(六个仓集中在 9-28 至 9-29 两天),未检索到项目方的独立发布博文,因此「发布日」取的是权重公开日而非官方公告日;JevArena 等分数均为模型卡自述、非第三方复现;家族内多个尺寸的对照关系(同尺寸第一、指数 +11.2)也来自厂商自己的口径。

原文链接:Hugging Face(vllm-sr 组织)

核验记录
日期取自 HF 组织 lister:https://huggingface.co/api/models?author=vllm-sr&sort=createdAt&direction=-1 给出六个 2.0 仓的 createdAt——Decision-2.0-Sol-2B 2026-09-28T19:41:43Z、Decision-2.0-Eos-0.8B 2026-09-28T13:51:12Z、Decision-2.0-Kai-0.6B 2026-09-28T14:06:25Z、Decision-2.0-Lux-9B 2026-09-29T07:31:33Z、Decision-2.0-Vega-27B 2026-09-29T05:38:12Z、Decision-2.0-Nox-4B 2026-09-29T00:32:23Z(另有上一代 Decision-1.0-Route-0.6B 09-28T15:26Z、Decision-1.0-Eos-0.8B 09-22T08:33Z)。家族里最大的 Vega-27B 模型卡 README 逐字读过(29.37B 参数 / 32,768 上下文 / Apache-2.0 / JevArena 74.0 对 AutoJev-27B 72.1 / Jev 决策指数 +11.2 对 Lux-9B / 71.4 ms 中位),基座写作 Qwen/Qwen3.8-27B 的 adapter。未直读:项目方是否另有发布公告(本轮未检索到)、其余五个模型的模型卡细节、JevArena 榜单原始页。配图 HF social-thumbnail,裸请求与带 Referer 双 200。