地基 · 数学与工程数学地基计算约 15 分钟
微积分与梯度：梯度下降手算一遍
模型「学习」到底在算什么
学完这节你能：
- 理解导数=变化率、梯度=多维导数
- 掌握梯度下降的更新公式
- 手算一步参数更新
「训练」这个词拆开看就是：算损失对每个参数的梯度，再朝让损失变小的方向挪一小步。反复挪，损失就下降。
梯度下降：
=学习率（步长），=损失对参数的梯度（指向损失上升最快的方向，取负号即下降）
=学习率（步长），=损失对参数的梯度（指向损失上升最快的方向，取负号即下降）
▪ 手算一步
设 L(w) = (w − 3)²，当前 w = 0，学习率 η = 0.1
梯度 ∂L/∂w = 2(w−3) = 2(0−3) = −6
更新 w ← 0 − 0.1·(−6) = 0.6
再算一次：梯度 2(0.6−3)=−4.8 → w ← 0.6 + 0.48 = 1.08 …逐步逼近最优 w=3
💡 链式法则是反向传播的核心：复合函数的梯度=各层导数连乘。深度网络就是靠它把损失的梯度一层层传回每个参数。
自测L=(w−3)²，w=0，η=0.1，一步梯度下降后 w=？
// 带走一句话
训练=梯度下降：θ ← θ − η·∂L/∂θ，朝损失下降方向挪小步；链式法则让梯度层层回传。
独立练习
做到这些，才算完成本节
- 替换例题中的数值，从头独立算一遍。
- 用数量级、边界值或反向计算检查结果是否合理。
学习记录
记录本节阅读进度
建议先独立回答自测。读完记录不等于已经掌握。