AI 资讯聚合 · 大模型

Perplexity 发 pplx-embed-v2:嵌入不只检回答案块,连支撑上下文一起检回

海外大模型上下文嵌入检索增强Perplexity · 2026-09-30 · 约2分钟 · 来源:Perplexity 官方博客
Perplexity 发 pplx-embed-v2:嵌入不只检回答案块,连支撑上下文一起检回

Perplexity 研究团队与 turbopuffer 9 月 30 日在官方博客发布 pplx-embed-v2-context-9b-preview:面向检索增强(RAG)的上下文嵌入模型。做法是把一篇文档当作分块序列、一次性联合编码,每个块得到的是「带着全文语境」的向量,而每块仍然只输出一个向量、不额外增加推理成本。权重以预览版形式公开在 Hugging Face,MIT 许可;官方写明这只是预览,后续版本的权重、向量与接口都可能不向后兼容,因此预览版产出的向量不要与未来版本混用。

它绕开的是「单一金标块」(gold passage)监督的局限:只把答案所在块当正例,会把同一文档里提供支撑信息的块当成负样本;而换个切块粒度就得重新标注一遍。新模型改从 Perplexity 自己的上下文压缩模型蒸馏——教师模型联合读查询与文档、给每个 token 打相关性分数,学生模型再把 token 级分数聚合成块级分数,于是同一批教师预测能对应任意切块方式。规格上:2048 维输出、支持 MRL 降到 1024 维、原生给出未归一化的 int8 向量(比较用余弦,或先归一化再点积),且查询与文档必须分别用 encode_queries 与 encode,用错会静默拉低检索质量。

评测口径是这条消息最需要留意的地方。官方称模型在新基准 context-bench 上达到 SOTA,该基准由 turbopuffer 私有持有,含 2,099 条查询、38,894 篇长文档、覆盖 21 个领域,考的是三件事:近重复文档之间的消歧、含义依赖远距离上下文的块检索、以及验证答案所需的支撑证据召回。官方强调模型独立于该基准开发、以盲测方式提交,并在公开的 ConTEB 上同样称 SOTA。私有基准能降低训练污染,但也意味着外部无法独立复现——博文与模型卡都没有给出具体分数表。

原文链接:Perplexity 官方博客

核验记录
官方博文 perplexity.ai/hub/blog/contextual-embedding-beyond-the-gold-passage 直读 403、r.jina.ai 403、archive.today(.ph/.md/.is)的 newest 三条全 404,最终走 Wayback 的 id_ 形式读到全文(web.archive.org/web/2026id_/<原URL>,227,133 字节),页面载荷里 publishedAt 为 2026-09-30,是全页唯一日期字段;正文作者署名 Perplexity Research & turbopuffer,方法、规格与基准描述逐句取自该页载荷。HF 侧独立交叉:仓库 perplexity-ai/pplx-embed-v2-context-9b-preview createdAt 2026-09-25T17:22Z、9/28 提交「Add preview embedding weights and model card」、9/30 更新 README 与 modeling 代码,模型卡(3,636 字节)可读且写明预览性质。⚠ 摘要里没有分数表这一点已按「翻完多大范围」核过:博文全文与模型卡两处都无具体数值,故正文只写「官方称 SOTA」不写数字;context-bench 私有,无第三方复现。⚠ 本条前两轮曾按「拿不到一手日期」留痕,本轮拿到博文 publishedAt 后补收。配图 cdn.sanity.io JPEG(1200×630)裸请求与带站内 Referer 各一次均 200。