剑桥团队提出 Infinite-Parameter LLM：把运行时数据写进权重，而不是塞进上下文
9 月 16 日上线的 arXiv 论文《Infinite-Parameter LLMs: Generating and Adapting Weights from Live Data》（Jinli Hu、Ross M. Clarke、Yichuan Zhang、José Miguel Hernández-Lobato）针对一个被普遍接受的做法提问：模型部署后遇到的新信息——用户给的事实、给的纠正——只能靠检索或指令塞进上下文，每次请求重读一遍、请求结束即丢弃，为什么不写进权重。
他们的方案借用 MoE 的形状但换了生产端：一个紧凑超网络把运行时数据转成共享基网络的低秩调制，前馈权重由实时数据生成，而不是从固定参数库里激活一部分；与以往「读一次上下文就冻结」的权重生成器不同，作者对生成器的隐码维持一个贝叶斯信念并在线更新，会话推进时有效权重随之重新推导。按论文表述，存储占用保持固定，而模型能编译出的权重「实际是无限的」；取舍是计算上的摊销换上下文窗口的释放，并带来跨轮次持久性。论文同时给出一套专门对照上下文学习与检索的评测协议——也就是说，目前它提出的是架构与验证方法，还没有权重或效果数字。
原文链接：arXiv 论文页
核验记录
arXiv 摘要页 citation_date 与 citation_online_date 直读均为 2026/09/16，标题与作者字段一并核对（Hu, Jinli / Clarke, Ross M. / Zhang, Yichuan / Hernández-Lobato, José Miguel）。该文目前只到摘要与评测协议层，未见开源代码、权重或实验数字，正文实验部分未逐节核读。