AWS Strands 把决策模型铺成四档:换到 Gemma 4 底座,231 题最高 89.6%

10 月 15 日,AWS 的 Strands Labs 在 10 月初开源 Decider 2B 之后,把这条线扩成四档:E2B、E4B、12B、26B-A4B,分别建在 google/gemma-4-E2B-it、-E4B-it、-12B-it、-26B-A4B-it 上(26B-A4B 推理时约激活 4B)。四档共用同一套问题格式——给状态后问三类问题:noul 返回答案为真的概率,choice 在选项中选一个并给出置信度与各选项概率,score 返回期望值、置信度与每个有序标签的概率。
官方给出的对比是自家 JevBench v1 的 231 道公开题(4096 token 窗口):E2B 180/231(77.9%)、E4B 187/231(81.0%)、12B 200/231(86.6%)、26B-A4B 207/231(89.6%),Brier 从 0.313 降到 0.162,单块 H100 80GB 上每题中位延迟分别为 102 / 139 / 136 / 245 毫秒。训练上沿用首版的指针头加 LoRA 结构(每个尺寸各自的适配器与读出头,底座权重单独下载),数据为 Hobson v21 配方的 123,339 行加 12,263 行代码任务,每个模型跑三个随机种子并对 LoRA 更新取平均。
这条最实用的信息是「模型该多大」被摆到了一张表上:官方自己的建议是先试 E2B,不达标再往 E4B、12B 试,最后才上 26B-A4B——因为 12B 在 JevBench 上只落后 26B-A4B 约 3 个点,而中位延迟少一半多。同时官方也把边界写清楚了:这些模型在需要多步推理的长文档上会失手,校准温度是在短的留出分类任务上拟合的,置信度阈值必须自己在真实流量上重测。