Cloudflare 开源决策模型 Clef：一次前向出概率，中位延迟 209 毫秒

Cloudflare 10 月 1 日发布两个自训决策模型 Clef 与 Clef-flash，前者 27B、后者 9.4B，托管在自家 Workers AI 上，同时以 Apache 2.0 许可证把权重复刻到 Hugging Face。做法是冻结底座（Clef 用 Qwen3.8-27B、闪版用 Qwen3.5-9B），只联合优化一个路由头与 rank-256 的低秩适配器：推理时只跑一次 prefill，然后并行给 schema 里每个合法取值打分，不逐 token 生成文本；训练用标签平滑交叉熵配 Brier 损失校准概率，另提出一套「校准决策强化学习」（RLCD）做第二轮调优。

它和 Typesafe AI 的 Jev 有两处结构差别：带视觉编码器，可以直接按图分类；上下文 64K，是 Jev 的两倍，且完全兼容 Jev 的 API 格式。官方给的对比表里，BFCL case exact 为 98.47（闪版 98.76）、Jev 95.75；CLINC150+OOS macro-F1 为 97.43，闪版只有 66.77、Jev 89.27；API-Bank 准确率 91.93 与 93.11，Jev 88.19。延迟差异更大：中位 209.3 毫秒、闪版 38.8 毫秒，Jev 524.1 毫秒，而主打速度的 Laya 只有 5.8 毫秒但多项质量分垫底。在 Cloudflare 自家威胁情报场景里，分类一个域名（含抓取与渲染）用 2.2 秒，换最快的通用模型 gpt-oss-120b 要 4.7 秒，且只给出两个分类。

需要打的折扣写在明面上：称 Clef 目前在 Jev Decision Index 上领先、以及全部对比数字，都是 Cloudflare 自测，评测页也跑在自家 Workers 上；交叉项只有 TechCrunch 对同一天发布的 AWS Strands Decider 2B 的报道，没有第三方复测。同步发布的还有一套 RL 微调产品：先由驻场工程师带做，之后开放自助微调并在 Cloudflare 上重部署。

原文链接：Cloudflare 官方博客