AI 资讯聚合 · 开源生态

Sakana 发 PC-ALM:层局部更新训练 1000 层网络,不用反向传播

国外开源生态学习算法预测编码Sakana AI · 2026-09-14 · 约1分钟 · 来源:Sakana AI 官方页面

Sakana AI 研究者发布 PC-ALM(Augmented Lagrangian Predictive Coding):给预测编码(PC)的每层约束挂上拉格朗日乘子,让监督信号不再从输出层逐层衰减——残差 MLP 训到 1000 层仍能保持层局部动态,MNIST 上与反向传播差约 2 个百分点。

它改的是「深度网络训练必须全局锁定」这一默认前提:反向传播要求前向、反向、更新三步全局串行,而大脑没有这类全网相位锁定机制;PC-ALM 用增广拉格朗日把带约束优化局部化,λ=0 时精确退化为 PC。论文 arXiv 2605.31022,MIT 协议 JAX 参考实现可在 CPU 上复现宽度-深度网格;目前只在小图像基准验证过,是训练方法不是模型。

原文链接:Sakana AI 官方页面

核验记录
官方项目页 pub.sakana.ai/pc-alm 直读(Published September 2026,页无具体日);arXiv 2605.31022 直读 citation_date 2026/05/29 为论文首版提交日,官方页的 9 月为项目/发布时间口径,两处已在 verify 分开记录;GitHub SakanaAI/pc-alm 最后 push 9/8 与 marktechpost 9/14 报道交叉