诺基亚开源 AnyJev：不微调任何开源 LLM，也能拿到可校准的决策

诺基亚应用研究团队 9 月 21 日开源 AnyJev（Apache-2.0），PyPI 首个版本同日 21:06 UTC 上传。它针对的是 LLM 回答「类型化问题」时的两个老毛病：把选项换个顺序，从原始 logits 读出来的答案就变了；而且它给出的置信度不可信。

官方 README 给出的数字是：顺序翻转率从 0.230 降到 0.073，这一步不需要任何标注；校准误差从 0.240 降到 0.095、在 5% 风险下可自动决策的比例从 7.7% 升到 52.0%，这一步需要 100 到 500 条标注。做法是只读一次 prefill 的下一 token 分布，不生成、不解析、不微调；更高一档则是每个问题一个闭式解的头，用几百条标注在秒级解出。

它改变了什么：本库近期这条「决策模型」线一直在两头发力——要么训一个专门的非自回归小模型（Laya、CUA-S1），要么在模型外面加一层（Nimble）。AnyJev 走的是第三条：不动权重、不加生成步骤，只把已有 LLM 的输出头当成一个可校准的决策读出器。作者分别来自诺基亚 Sunnyvale 与腾讯混元。

原文链接：Nokia 官方 GitHub