AutoTrust 开源 JEV-27B:冻住主干只训 1.09 亿参数决策块,生成能力逐字节不变

新加坡 AutoTrust AI 发布 JEV-27B,Apache-2.0 开放权重。做法是把阿里的 Qwen3.8-27B 主干整个冻住,只在上面训练一个 1.089 亿参数的决策块(LoRA r=16 加 24 槽 fp32 决策头,约占全模型 0.4%)和一个路由:请求走决策块时一次前向返回带校准概率的答案(是非判断、多选、0–5 评分),走另一侧就是原封不动的生成与推理。决策块训练约 9.2 个 B200 小时,推理一张 B200 即可,vLLM 直接支持。
关键数字落在「不干扰」上。模型卡给出:与决策块一同发布的生成侧成绩为 HumanEval 78.0%,且把决策块关掉后 164 条补全与基座模型逐字节相同——等于证明加装 System 1 决策不必牺牲 System 2 的生成质量。校准指标也一批给出:noul AUROC 0.996、Brier 0.0013、ECE 0.0009(温度缩放后 15 桶),多选 top-1 与教师分布一致率 90.3%(在 top-2 差距 ≥0.1 的样本上 95.8%)。
两点必须写在前面。其一,这不是 TypeSafe 的 Jev:AutoTrust 声明与 TypeSafe 无关联、不共享权重或代码,它只是拿公开的蒸馏语料(SargeDev/jev-distill-corpus-v3,其中 25,376/29,955 条目标分布来自 TypeSafe Jev 1.13)训出一个独立学生。其二,官方「六项基准平均高 0.22 个百分点」这一条,开放基线的数值取自第三方 NeoHorse-Jev-4B 评测、并未重跑,评测也是自家跑的。可复核的是工程形态:冻结主干、外挂小决策块、关掉即回退到原模型。
核验记录
PRNewswire 稿直读(datePublished 2026-09-28T12:43:00-04:00,正文含决策块 108.9M 参数、约 9.2 B200-hours、六基准对比与 Apache-2.0 声明);Hugging Face 博客同稿直读(datePublished 2026-09-27T07:17:17Z,写明与 TypeSafe 无关联、开放基线取自 NeoHorse-Jev-4B 未重跑、LoRA r=16 与 24 槽决策头的构成);模型卡 huggingface.co/autotrust/JEV-27B 的 README.md 直读 52,412 字符(许可 apache-2.0、base_model Qwen/Qwen3.8-27B、KL 0.0186 / AUROC 0.996 / Brier 0.0013 / ECE 0.0009 / choice 0.903 等指标)。HF API search=autotrust 显示 JEV-27B createdAt=2026-09-25T12:58:37Z、JEV-9B=2026-09-23T12:08:52Z,即权重早于公告放出;本条 date 取官方公告日 9/28。配图取 HF 博客 og:image,裸请求与带站内 Referer 均 200 / 185,890 字节 JPEG 1851×1079。