# Summary 动量 / Adam / [[AdamW]] 等会记录过去的方向,加一点“惯性”让下坡更平稳; # Cues # Notes