d3-turbo 一次读入:255 个问题从 33 秒压到 2 秒
vLLM Semantic Router 团队放出 d3-turbo,Decision 3.0 家族里的升级版:26.09B 多模态决策模型(含 0.46B 视觉编码器),Apache-2.0。决策模型不生成文本——给一份输入和一组提问,它返回每个答案的概率,用来做路由、判定、打分这类「只要结论」的活。
这代改的是读法:输入只读一次,就把挂在上面的所有问题一起答完;上代 d3-flash 是每个问题重读一遍输入。同一张图问 1 个问题,d3-turbo 302 毫秒、d3-flash 154 毫秒;问到 255 个问题,turbo 是 2.12 秒,d3-flash 涨到 32.94 秒——差 15.5 倍。单题上下文可开到 131,072 token(默认 32,768),跑在单张 AMD Instinct MI325X 上。
官方数字:Jev 决策指数文本 70.2(比 d3 的 66.3 高 4.0)、视觉 72.9;给框准确率 0.90(IoU 0.5)、置信度 AUROC 0.96;视频目标跟踪成功率 AUC 0.79/0.80、在场 F1 0.97。团队明确标注 70.2 是自估而非官方榜单结果,公开套件实测为 71.7。
核验记录
HF 仓 vllm-sr/d3-turbo createdAt 2026-10-19;模型卡无发布日期字段(只引用 2026-10-16 的 Jev 决策指数快照);同站 decision.vllm-sr.ai 的样例标注记录于 2026-10-20;70.2 为团队自估。