AI 资讯聚合 · 开源生态

Jeff v1.2:0.8B System 1 放在 27B 前面,准确率 86.6%→95.3%、快 38 倍

海外开源生态开源权重决策模型Jeff 项目(firelex) · 2026-10-01 · 约2分钟 · 来源:Jeff 官方站点与 GitHub
Jeff v1.2:0.8B System 1 放在 27B 前面,准确率 86.6%→95.3%、快 38 倍

社区项目 Jeff 10 月 1 日发布 v1.2。它是一只 0.8B 的开源 System 1 模型,用途是在你已有的 27B 前面先答一次:按你定义好的选项返回每个选项的校准概率,几十毫秒一次,跑在自己的机器上;一个底座配多个可热换的 LoRA 适配器,请求里按名字选适配器。v1.2 的更新是「更干净的底座 + 九个常用适配器 + 客户端」,官方称长期支持版 v1.3 约 36 小时后发布,正式适配器随后在 v1.3 上重训。

官方给出的收益是在 Apple M4 Max 上、同一批测试行、八个适配器的均值:单独用 Qwen3.8-27B 时准确率 86.6%、每次决策 8.1 秒、错答率 13.4%、内存 28.6GB;改成「Jeff 先答、只在它没把握时才交给 27B」之后,准确率 95.3%、每次 0.25 秒(快 38 倍)、错答率 4.7%,九个适配器全部加载只多占 1.96GB。

v1.2 还补了三件工程上的事:在 vLLM 服务上加了 HTTP 接口(POST /v1/decide,文本与图像都收);单个选择题最多 256 个选项且不需重训,CLINC150 的 150 个意图零样本 89.5%,每个选项再加一行「什么时候用它」的说明后 93.8%;提示最长 256K token——把关键句随机埋在最多 250K token 的文本里,测试的每个长度都是 20/20 全对。

原文链接:Jeff 官方站点与 GitHub

核验记录
定日依据两个官方时间戳互证:GitHub release v1.2 的 published_at = 2026-10-01T12:03:51Z,README 正文写明「Community preview: Jeff v1.2 and nine adapters (1 October 2026)」;权重侧 HF 组织 mstrasser 下九个适配器仓的 createdAt 集中在 2026-10-01T12:12–12:14Z(同批未满 3 分钟),另 reference app 与 jeffhub.ai 站点只写「Community preview」无可见日期。事实取自 GitHub release v1.2 正文与仓库 README 正文:86.6%→95.3%、8.1 秒→0.25 秒(38×)、错答 13.4%→4.7%、内存 28.6GB→+1.96GB(M4 Max、八个适配器均值);POST /v1/decide、256 选项、CLINC150 89.5%/93.8%、256K 提示 20/20。⚠ 这是社区个人项目(firelex),全部数字为作者自测,无第三方复现;README 明确 v1.3 尚未发布,适配器需随底座重训。配图 jeffhub.ai PNG:裸请求与带站内 Referer 各一次均 200 / 205,649 字节,file 校验为真实 PNG(1200×630)。