Perplexity 发 pplx-embed-v2:嵌入不只检回答案块,连支撑上下文一起检回

Perplexity 研究团队与 turbopuffer 9 月 30 日在官方博客发布 pplx-embed-v2-context-9b-preview:面向检索增强(RAG)的上下文嵌入模型。做法是把一篇文档当作分块序列、一次性联合编码,每个块得到的是「带着全文语境」的向量,而每块仍然只输出一个向量、不额外增加推理成本。权重以预览版形式公开在 Hugging Face,MIT 许可;官方写明这只是预览,后续版本的权重、向量与接口都可能不向后兼容,因此预览版产出的向量不要与未来版本混用。
它绕开的是「单一金标块」(gold passage)监督的局限:只把答案所在块当正例,会把同一文档里提供支撑信息的块当成负样本;而换个切块粒度就得重新标注一遍。新模型改从 Perplexity 自己的上下文压缩模型蒸馏——教师模型联合读查询与文档、给每个 token 打相关性分数,学生模型再把 token 级分数聚合成块级分数,于是同一批教师预测能对应任意切块方式。规格上:2048 维输出、支持 MRL 降到 1024 维、原生给出未归一化的 int8 向量(比较用余弦,或先归一化再点积),且查询与文档必须分别用 encode_queries 与 encode,用错会静默拉低检索质量。
评测口径是这条消息最需要留意的地方。官方称模型在新基准 context-bench 上达到 SOTA,该基准由 turbopuffer 私有持有,含 2,099 条查询、38,894 篇长文档、覆盖 21 个领域,考的是三件事:近重复文档之间的消歧、含义依赖远距离上下文的块检索、以及验证答案所需的支撑证据召回。官方强调模型独立于该基准开发、以盲测方式提交,并在公开的 ConTEB 上同样称 SOTA。私有基准能降低训练污染,但也意味着外部无法独立复现——博文与模型卡都没有给出具体分数表。
原文链接:Perplexity 官方博客