vLLM 语义路由发 Decision 3.0:27B 决策模型直接读图与视频,公开榜超上代 8.5 分
10 月 10 日,vLLM Semantic Router 项目放出 Decision 3.0 家族,其中的 d3 是这一代的 27B 多模态基座决策模型:给它一段文本或 JSON、可选若干图像与视频,再给出一组带类型的提问,它在一次调用里返回所有答案的概率,不生成文本。两类新能力是这一代的实质变化——一是读图,一次请求可带多张;二是读视频,MP4/WebM/MOV/MKV 按每秒 2 帧读入,把「视频里发生了什么」这类问题也变成决策题。同批放出的还有 d3-nano/mini/lite/flash/edge 五个小尺寸权重。
数字:模型卡称在官方 0.3 套件上 Jev 决策指数公开榜 65.45(0.3.1 口径总分 64.7、同技能 62.8、新领域 56.6),比上代 Decision 2.0 的 27B(55.9 / 公开 57.0)高 8.5 分,且五个领域全部领先;公开的 140,178 条请求全部作答、无一条不支持。视觉上 Jev vision board 0.3.1 得 71.6(公开 74.2、私有 68.9),高于 Perplexity Decider v1.1 的 70.6;逐项分包括 CV-Bench 76.2、BLINK 59.9、RealWorldQA 73.4、CharXiv 91.7、KIE 97.7;视频 Perception Test 77.4。速度:单张 AMD Instinct MI325X、串行请求下,纯文本中位 55 毫秒、带一张图 273 毫秒、带 10 秒视频 553 毫秒。
代价同样写在卡里:多模态决策仍是弱项——Moderation(Hateful Memes)43.9、R-Bench-M 33.0、MMMU-Pro 视觉项 47.0,明显低于文本侧分数;视频项标注为内部评测,部分视觉基准为近似重建。权重以 Apache-2.0 放出,底座是 Qwen3.8-27B,26.09B 参数含 0.46B 视觉编码器,官方要求 transformers 5.17.0。