微软与 HF 把数据库校验变成奖励:Qwen3.8-27B 成功率 51.7%→60.8%

10 月 22 日微软与 Hugging Face 联合发文:把 ThinkingBox 的评测方式改造成训练奖励。ThinkingBox 有 507 道任务,智能体在真实后端上干完活,判定只看数据库最终状态对不对;作者发现这个判定本身就能直接返回 1 或 0,于是在基准之外另造同格式训练池,用可执行结果当奖励做 GRPO 后训练。
结果:Qwen3.8-27B 平均成功率从 51.70% 升到 60.78%,二十次采样全部做对的题从 38 道增到 107 道,只用了 50 步 GRPO。能提这么多的原因在于奖励来自真实副作用,而不是模型自评或人工偏好——ThinkingBox 建立的初衷正是抓「说做完了、库里其实没改」这类失败,把这个判定反过来当奖励,模型就没有可钻的空子。
边界:训练池是按基准格式另外构造的,评测集与训练集同源的风险官方没有量化;这套信号还依赖「任务结果可被程序判定」,对没有可执行验收标准的任务(写作、设计、开放式研究),官方没给迁移数据。换句话说,它证明的是「可验证的活」可以被自动改进,不是通用能力一起涨。
核验记录
HF 博客页 JSON-LD datePublished 2026-10-22T22:24:34.816Z,页内可见 October 22, 2026;507 题 / 51.70% / 60.78% / 38→107 / 50 步均取自正文;库内 10-03 已收 ThinkingBox 基准本体,本条是其后的后训练结果,属不同事件;配图 HF CDN 裸请求与带 Referer 均 200(PNG 1920×1080)。