Google 提出「睡眠」框架，让 LLM 离线巩固记忆
Google Research 提出「睡眠」框架，给 LLM 一个清醒—睡眠的周期。清醒期正常交互、把新信息放进短期记忆；睡眠期停止接收输入，做两件事。第一件是记忆巩固：按需解锁预分配的 MoE 记忆块，用低秩专家承载新知识，再用广义知识蒸馏加强化学习模仿（按语义与编辑距离给奖励），把高频层里的短期记忆搬进长期参数，搬完清空高频临时参数（突触修剪）。
第二件是「做梦」：让 MoE 路由随机激活非标准专家，自我生成训练样本，用基于梯度的数据筛选留下最可能提升能力的样本，再做监督微调并评测是否真的变强。整个过程不改模型架构与代码。
官方给出的结果：BABILong 长上下文在 10M token 尺度上接近无损，称优于 GPT-4 与 Titans；事实注入在 SQuAD 为 48.9%、持续预训练为 46.2%，高于 SFT 与 SEAL；数学推理在 AIME 24 / AIME 25 / HMMT 25 上分别为 79.2%、69.0%、46.1%，高于 SFT、GRPO 与同策略自蒸馏；连续翻译在满语、Kalamang 等未见语言上多阶段评测几乎不掉分。边界同样明确：这是研究博客，未见权重或代码，也没有第三方复现。
原文链接：Google Research 官方博客
核验记录
页内可见 October 27, 2026（列表页与正文各一处），该页无 JSON-LD datePublished，定日取官方可见日期。作者为 Ali Behrouz、Farnoosh Hashemi、Adel Javanmard、Vahab Mirrokni。按 R25 做预印本反查：arXiv 检索 "sleep framework" + continual 仅返回 2023 与 2026-06 两篇无关论文，未见对应预印本（http 源首次返回 0 字节，https 重试 200 后取到结果）。所有分数为厂商自测，BABILong 与 GPT-4 / Titans 的对比未直读原始榜单。配图为官方 og JPEG，双通路 200。