英伟达开源 Nemotron 3.5 检索三件套：图文检索省 14% token
英伟达 10 月 21 日在 Hugging Face 官方博客放出 Nemotron Retriever 家族的新一批开放商用模型：Nemotron 3.5 Embed 8B 与 1B（BF16）、1B 的 NVFP4 量化版、Nemotron 3.5 Rerank 8B，以及 631M 的 Nemotron 3.5 Parse。分工是三步：Embed 负责从文本与文档图像里检索证据——表格、图表、信息图、数据表、示意图都算在内，不再只搜文字；Rerank 对查询与图文候选做联合打分，挑出真正进上下文的证据；Parse 负责文档解析。
文章里最有说服力的实验不是单点榜单，而是把 agent 的检索配置换掉、其余全部固定：模型、工具、任务集、语料与执行策略不变，只改检索实现，量任务成功率和每题 agent 推理 token。在 ViDoRe v3、BRIGHT 与 BrowseComp-Plus 上，加一层 Nemotron 3.5 Rerank 让每题 token 成本降约 14%（配 Embed 8B）和 13%（配 Embed 1B），同时检索准确率上升；以 Embed 8B 为检索器时，Rerank 的 nDCG@10 比 Qwen3-VL-Reranker-8B 高约 0.9 分，token 成本相当。1B 的 NVFP4 版把文本编码器与图像编码器一起量化，面向大规模索引与高吞吐检索。
工程侧给了两个可直接用的数字：NIM 在 RTX PRO 6000 Blackwell 上跑到每秒 6,031 次查询，约为竞品的 2.9 倍；嵌入微调配方支持自定义文档集，在图表与信息图实验里 1B 与 8B 分别拿到 18% 与 3% 的相对 nDCG@10 提升。对做 agent 的人来说，这一批的意义是位置：检索不准会让 agent 反复搜索、反复读文档，浪费的是推理 token；把重排做对，省下的钱在生成模型那一侧。