小米发 Xiaomi-Lens-0:4B 多模态用 mask token 直接从共享骨干解出分割掩码

小米 Xiaoai Plus 与 SeerRay 团队 10 月 16 日在 arXiv 发布 Xiaomi-Lens-0 技术报告,并开放模型权重:这是一个 4B 多模态模型,基座是 Qwen3.5-4B。它的做法是把「掩码」当成模型自己的输出 token——视觉编码器的 patch 特征与语言模型里 mask token 的状态(论文称 visual latents)一起送进一个轻量解码器,掩码监督因此能直接回到共享骨干,不需要额外再挂一个分割编码器。
每个 <|mask|> token 会被解码成一张掩码,模型于是能在推理途中指向自己正在描述的区域,也能在最终答案里给出掩码,支持指代理解与分割、多实例定位、推理分割、具身指代、细粒度感知。官方自报的成绩是:8 个 RefCOCO / RefCOCO+ / RefCOCOg 划分的指代理解平均比基座高 5.6 分,分割 cIoU 在对比模型中最高;项目页列出的数字为分割均值 cIoU 81.4、RefCOCO val 上 Prec@0.5 94.6、ReasonSeg test gIoU 68.0,CountQA 50.6 对基座的 43.8。
同批开放的还有代码与新基准 LensBench(4,800 条指令级样本、1,200 个配对单元,覆盖四个域),权重、配置、tokenizer 与聊天模板都在 Hugging Face 上,许可 Apache-2.0。需要说清的是:上述分数全部来自团队自测与官方页,本站没有复现;权重仓的建仓时间(10 月 19 日)比技术报告晚三天,两者都进了核验记录。
核验记录
日期:arXiv 2610.23279 的 citation_date 与 citation_online_date 均为 2026/10/16(cs.CV,署名 Xiaoai Plus SeerRay Team);HF 权重仓 SeerRay-Lab/Xiaomi-Lens-0 createdAt 2026-10-19T03:09:27Z、lastModified 同日,GitHub 仓提交「announce model weights and LensBench release」时间戳 2026-10-19T04:11Z —— 报告 10-16、权重 10-19,本条取官方技术报告日,权重日一并留痕。数字全部为团队自报(arXiv 摘要 + 项目页),本站未复现。配图取项目页 architecture.png,裸请求与带站内 Referer 均 200、PNG 2000×744。
← 上一篇Anthropic 起草 AI 安全法案:50 人死亡风险可否决发布下一篇 →vLLM 重写 Kimi K3 解码路径:16 张 GB300 上 batch1 到 842 tok/s,GPU 内核由智能体辅助写