FINAL-Bench 发零 Token 置信度:不问模型答案对不对,直接读隐藏状态
9 月 20 日,FINAL-Bench 在 Hugging Face 博客发布 Zero-Token Confidence(ZTC):不要求模型再生成一段置信度答案,而是从现有模型最后一次前向的隐藏状态读取信号,校准成答案正确概率。官方页给出的直观对照是,同一个模型被直接问「有多确定」时得到 0.5000,接近抛硬币;读取内部状态后为 0.8801。
实现被压到一个 45 KB 探针文件:保存权重向量、标准化参数与校准常数,不需训练数据、额外依赖或远程服务。FINAL-Bench 用 2,018 道题统一评测多个验证器:Darwin-397B 的 ZTC AUC 0.7394,独立 ZTC-Judge-27B 为 0.7255,均用 0 个生成 token;只读答案长度与格式的表面基线也有 0.7036。它改变了「让模型自报信心」这一常见做法的成本结构:置信度判断从第二次推理变成现有前向的廉价读出。边界:榜单和提升数字来自 FINAL-Bench 自建基准,2,018 题的构成与真实任务迁移仍需第三方复核。
原文链接:Hugging Face 官方博客
核验记录
HF 官方博客直读 161KB,页内明确 Published September 20, 2026;ZTC-Judge-27B HF API createdAt 2026-09-19T07:49:03Z。博客与模型仓为同一发布团队,2,018 题、0.7394/0.7255/0.7036 与 45KB 探针数字均逐项取自官方页。配图 HF 社交缩略图裸请求与带 Referer 双测均 200,PNG 1200×648。
← 上一篇清华联合无问芯穹开源 RPent:把大模型当机器人「决策大脑」,LIBERO-Pro 92.63%、真机端到端快 7 倍下一篇 →阿里放出 Qwen-Image-2.1-PE:把提示词改写拆成两个 9B 组件,输出英文详述提示加推荐宽高比