英伟达开源 Nemotron 3.5 Bolt：4GB 装下多轮工具调用，输出 token 最多少八成
10 月 23 日，英伟达发布 Nemotron 3.5 Bolt E4B 4GB：一个在谷歌 Gemma 4 E4B 之上再后训练而来的开源小模型，目标是把多轮工具调用压进约 4GB 的推理预算。官方口径是，在语音与角色类对话智能体的关键基准上，平均质量比自家上一代 Nemotron 3 Nano 4B 高约 40%，同任务输出 token 比同级模型最多少 80%。
官方对比表里，它在角色与对话一致性上拉开最多：RoleBench 67.0，对比 Gemma 4 E4B 的 49.9 与 Qwen 3.5 4B 的 53.7；RoleMRC 80.6 对 74.6；LongMemEval 跨会话记忆 72.1 对 66.8；When2Call-MT 判断「何时该调用工具或追问」63.4，而 Qwen 3.5 4B 只有 37.8。但它并非全面领先：Tau2-Bench 多轮客服任务 55.1，明显低于 Qwen 3.5 4B 的 75.1；BFCL-v3 工具与参数 68.5，也略低于后者的 70.9。
落点在设备端。官方实测：RTX 5070 12GB 上 Q4_K_M 量化占 3.5GB 显存、首 token 548 毫秒、每秒 133 token；Jetson Orin Nano 8GB 上占 4.2GB、首 token 5.8 秒、每秒 15.5 token。模型支持 64K 上下文与 35 种语言，权重以 OpenMDW-1.1 许可放出，含 BF16 与 GGUF 版本。意义在于：本地常驻的语音与角色智能体终于能在 4GB 级显存上谈多轮工具调用，而不是退化成单轮问答。
原文链接：NVIDIA Nemotron 官方页面
核验记录
定日：官方项目页 research.nvidia.com/labs/nemotron/NVIDIA-Nemotron-3.5-Bolt-E4B-4GB/ 直读 137,085 字节，页内可见 `Published: October 23, 2026`（两处）与 `og:article:published_time 2026-10-23T00:00:00-07:00` 同日；该页无 JSON-LD datePublished。第二证：HF 官方仓 nvidia/NVIDIA-Nemotron-3.5-Bolt-E4B-4GB 与 BF16 仓的 initial commit 均为 2026-10-23T15:12Z（权重真正上架的动作），而两仓 createdAt 是 2026-10-05（占位建仓，按 R21 不作定日）；OpenRouter 未见该模型条目。未读：技术报告 PDF（本机无 PDF 解析库），全部数字取自官方项目页正文与五张基准表 + 两张部署表。配图取官方模型卡 hero 图 bolt-smart-and-fast.png（HF nvidia 官方仓，2774x1372 PNG 444,073 字节），裸请求与带站内 Referer 均 200。