以下为上游提供的源文稿，可能存在识别错误。
乔木转写是基于源文稿的中文提炼，不是逐字翻译。请核对原文中的人名、数字与观点。
选一篇，慢慢读
从左侧挑一篇，正文会在这里排成书页。
上文 《让炼丹更科学一些（九）：经典自适应梯度算法》 中，我们为形如$\boldsymbol{\theta} {t+1} = \boldsymbol{\theta} t - \eta t \boldsymbol{H} t^{-1}\boldsymbol{g} t$的一般更新规则建立了收敛框架，并以它为出发点重新理解了AdaGrad等经典自适应梯度算法。不过，当时的完整结论依赖于两个前提：一是学习率$\eta t$取常数，二是预条件矩阵$\boldsymbol{H} t$关于$t$单调不减（半正定意义下）。 前者限制了学习率策略的自由度，后者则把RMSProp、Adam这类滑动平均型算法排除在了理论之外。本文尝试逐一拆掉这两个“脚手架
阅读原文 · 苏剑林
向阳乔木 · deepseek-v4-1-flash-261017
上一篇给一般更新规则搭了个收敛框架，但那个框架有两根脚手架撑着：学习率必须取常数，预条件矩阵必须随 t 单调不减。这两条一拆，RMSProp、Adam 这类滑动平均算法就被挡在理论门外了。这篇要做的，就是把这两根脚手架逐一拆掉，看框架还能不能站住。 先回顾核心结论。对更新规则 \begin{equation}\boldsymbol{\theta} {t+1}...