感性理解梯度下降 GD、随机梯度下降 SGD 和 SVRG

ML Theory 太魔怔了！！！！！

从微积分课上我们学到

• 对一个 \(\mathscr C^2\) 函数，其二阶泰勒展开的皮亚诺余项形式

  \[f(\bm w') = f(\bm w) + \langle \nabla f(\bm w), \bm w' - \bm w\rangle + o(\|\bm w' - \bm w\|) \]

  这说明只要 \(\bm w'\) 和 \(\bm w\) 挨得足够接近，我们就可以用 \(f(\bm w) + \langle \nabla f(\bm w), \bm w' - \bm w \rangle\) 来逼近 \(f(\bm w')\)。

现在我们想定量描述这个逼近过程，来说明梯度下降 (gredient descent, GD) 的收敛性及其速率。因此考虑其拉格朗日余项

我们来定量描述 \(g\) 的性质。

由于梯度下降要执行多轮，因此会有不同的 \(\bm w, \bm w'\)，所以性质需要适用于所有位置。

定义 平滑性假设 (Smoothness assumption) \(\exists L, \text{ s.t. } \forall \bm w, \bm w', |g(\bm \xi)| \leq L\)。换句话说，

这个假设是非常自然的，其略强于 \(\mathscr C^2\)。在有界闭集上两者等价。

平滑性是说一个函数在每个点被一个二次函数 bound 住，在梯度的视角下，这等价于其 Lipschitz 连续，在 Hessian 矩阵的视角下，这等价于矩阵的 norm 被 bound 住。

命题 梯度 Lipschitz 连续等价于 \(\|\nabla^2 f(x)\| \leq L\)，其中 \(|\nabla^2 f(x)|\) 表示 Hessian 矩阵的 Euclidean norm，即 \(\max_{\|x\| = 1} \|Hx\| = |\lambda|_{\max}\)。

证明

• \(\Leftarrow\)：

  \[\begin{aligned} \|\nabla f(\bm w') - \nabla f(\bm w)\| &= \left\|\int^1_0 \nabla^2 f(\bm w + \tau(\bm w' - \bm w))(\bm w' - \bm w) \mathrm d \tau\right\| \\ &= \left\|(\bm w' - \bm w)\int^1_0 \nabla^2 f(\bm w + \tau(\bm w' - \bm w)) \mathrm d \tau\right\| \\ &\leq \|\bm w' - \bm w\| \cdot \left\|\int^1_0 \nabla^2 f(\bm w + \tau(\bm w' - \bm w))\mathrm d \tau\right\| \\ &\leq \|\bm w' - \bm w\| \cdot \int^1_0 \|\nabla^2 f(\bm w + \tau(\bm w' - \bm w))\|\mathrm d \tau \\ &\leq L\|\bm w' - \bm w\| \end{aligned}\]

• \(\Rightarrow\)：

  \[\|\nabla^2 f(\bm w)\| = \max_{\|\bm x\| = 1} \|H\bm x\| \leq \lim_{\alpha \to 0^+}\frac{\|\nabla f(\bm w + \alpha \bm v) - \nabla f(\bm w)\|}{\alpha} \leq L \]

  其中 \(\|\bm v\| = 1\)。

命题 平滑等价于梯度 Lipschitz 连续，且系数有对应关系

证明

• \(\Leftarrow\)：

  \[\begin{aligned} f(\bm w') &= f(\bm w) + \int^1_0 \langle \nabla f(\bm w + \tau(\bm w' - \bm w)), \bm w' - \bm w \rangle \mathrm d \tau \\ &= f(\bm w) + \langle \nabla f(\bm w), \bm w' - \bm w \rangle + \int^1_0 \langle \nabla f(\bm w + \tau(\bm w' - \bm w)) - \nabla f(\bm w), \bm w' - \bm w \rangle \mathrm d \tau \\ &\leq f(\bm w) + \langle \nabla f(\bm w), \bm w' - \bm w \rangle + \int^1_0 \|\nabla f(\bm w + \tau(\bm w' - \bm w)) - \nabla f(\bm w)\| \cdot \|\bm w' - \bm w \| \mathrm d \tau && \text{Cauchy-Schwarz} \\ &\leq f(\bm w) + \langle \nabla f(\bm w), \bm w' - \bm w \rangle + \int^1_0 L\tau\|\bm w' - \bm w\| \cdot \|\bm w' - \bm w \| \mathrm d \tau \\ &= f(\bm w) + \langle \nabla f(\bm w), \bm w' - \bm w \rangle + \frac L2\|\bm w' - \bm w\|^2 \\ \end{aligned}\]

• \(\Rightarrow\)：考虑 \(f\) 的 Lagrange 余项的 Taylor 展开

  \[f(\bm w') = f(\bm w) + \langle f(\bm w), \bm w' - \bm w \rangle + \frac 12 \langle\nabla^2 f(\bm \xi)(\bm w' - \bm w), \bm w' - \bm w \rangle \]
  \[|f(\bm w')- f(\bm w) - \langle \nabla f(\bm w), \bm w' - \bm w\rangle| = \frac 12 |\langle \nabla^2 f(\bm \xi)(\bm w' - \bm w), \bm w' - \bm w \rangle|\leq \frac L2\|\bm w' - \bm w\|^2 \]

  令 \(\bm w' = \bm w + t \bm v, \|\bm v\| = 1\)，有

  \[|\langle \nabla^2 f(\bm w + t \bm v) \bm v, \bm v\rangle| \leq L \]

  令 \(t \to 0^+\)，由于 \(f\) 是 \(\mathscr C^2\) 函数，可得

  \[|\langle \nabla^2 f(\bm w) \bm v, \bm v\rangle| \leq L \]

  注意到 \(\nabla^2 f(\bm w)\) 是一个 self-adjoint 的矩阵，因此

  \[\max_{\bm v} \|\nabla^2 f(\bm w)\bm v\|_2 = \max_{\bm v} \langle \nabla^2 f(\bm w) \bm v, \bm v\rangle = |\lambda|_{\max} \]

  根据上一条命题，该命题得证。

回到梯度下降中。对平滑的 \(f\)，有

这给出了一个从 \(\bm w\) 出发，走到某个 \(\bm w'\) 的 \(f\) 的上下界，就像这样（灵魂画手 yy）

下界并不重要，我们关心的是上界。在 \(\bm w, \bm w'\) 足够接近时，\(f\) 总是下降的，定量地，假设在梯度下降中采取学习速率 \(\eta\)，\(\bm w' = \bm w - \eta \nabla f(\bm w)\)，

因此当 \(\eta < \frac 2L\) 时，式子总是 \(< 0\) 的，这保证我们每次梯度下降都会有进步。

但是这个假设还是不够。首先它可能会落入局部最优，其次虽然每次都有进步，但是全局的收敛速度没有保证。考虑 \(f(x) = \mathrm{sigmoid}(x)\)，从 \(x\) 很大的开始向中间靠拢，速度是负指数级的。这要求我们给函数更多的整体性质。

定义 一个函数 \(f\) 是凸的，如果 \(f(t\bm x_1 + (1 - t)\bm x_2) \leq tf(\bm x_1) + (1 - t)f(\bm x_2),\ t \in [0, 1]\)。

其有若干个等价定义，这是微积分课上讲过的。

命题 若 \(f\) 是 \(\mathscr C^2\) 函数，则凸等价于 \(\nabla^2 f(\bm w)\) 半正定。

也就是说，凸性和平滑性一个保证的是 \(|\lambda|_{\max}\) 的界，一个保证的是 \(\lambda_{\min}\) 的符号。

凸性能够保证收敛速度。

命题 \(\bm w^* = \operatorname{argmin}_{\bm w} f(\bm w)\)，采用学习速率 \(\eta \leq \frac 1L\) 进行 \(t\) 轮梯度下降时，有

证明 考虑裂项法

由于 \(f(\bm w_i)\) 不升，

令总训练轮数

即可得到 \(f(\bm w_t) \leq f(\bm w^*) + \epsilon\)。

接下来考虑一个很常用的技巧，随机梯度下降 (stochastic gradient descent, SGD)。如果我们每次都仅选取小批量数据计算梯度，那么便要考虑收敛性的问题。

其中

如果采取随机选取 \(S\) 的策略，我们可以不再考虑 \(\bm G_t\) 的由来，而是仅把其当作一个随机变量对待。

命题 \(f\) 是一个凸的 \(L\)-平滑函数，\(\bm w^* = \operatorname{argmin}_{\bm w} f(\bm w)\)，采用学习速率 \(\eta \leq \frac 1L\) 且使得 \(\mathrm{Var}(\bm G_t) \leq \sigma^2\) 进行 \(t\) 轮梯度下降时，有

其中 \(\overline {\bm w_i} = \frac 1t \sum_{i=1}^t \bm w_i\)。

证明 考虑转化为和 GD 类似的形式。一次项用期望的线性性，二次项用方差 \(\mathrm{Var}(\bm G_t) = \mathbb E\|\bm G_t\|^2 - (\mathbb E \bm G_t)^2 = \mathbb E\|\bm G_t\|^2 - \|\nabla f(\bm w_i)\|^2\)。由此不断转化 \(\bm G_i\) 和 \(\nabla f(\bm w_i)\)，分离固定部分和随机部分。

令

即可得到 \(\mathbb Ef(\overline{\bm w_t}) \leq f(\bm w^*) + \epsilon\)。

也就是说，误差项是不随 \(t\) 改变的，因此只能通过缩小学习速率降低误差。这导致 GD 有 \(\frac 1T\) 的收敛速率时 SGD 只有 \(\frac 1{\sqrt T}\) 的收敛速率。

有许多种方法可以加速 SGD 的收敛速度。有一类算法是通过让方差呈递减趋势下降，最终以与 GD 同阶的速度收敛（凸与 \(L\)-平滑以 \(\frac 1T\) 速度收敛；强凸与 \(L\)-平滑以线性速度收敛）。这里介绍其中一种，SVRG (stochastic variance reduced gradient)。

SVRG 的想法在于，有一个随机变量 \(X\)，我们要通过蒙特卡洛法估计 \(\mathbb EX\)，而有一个易于计算 \(\mathbb EY\) 的随机变量 \(Y\)，且 \(X, Y\) 强相关，那么可以通过

来估计 \(\mathbb EX\)。其中

当 \(\alpha = 1\) 时，\(\mathbb E\theta_\alpha = \mathbb EX, \mathrm{Var}(\theta_\alpha) = \mathrm{Var}(X - Y)\)。这样便不依赖于 \(\mathrm{Var}(X)\) 而只依赖于 \(X, Y\) 的相关性。

我们可以这样设计一个算法：\(X\) 在当前的 \(\bm w_j\)，\(Y\) 在 \(\bm w_{\lfloor \frac jm \rfloor m}\)，我们将 \(m\) 设计得足够大使得可以计算出每个 \(\bm w_{im}\) 的完整梯度，即每个 \(\mathbb EY\)。

直观地讲，我们用 \(X_0\) 中随机梯度与梯度的差来估计 \(X_t\) 中随机梯度与梯度的差，如图，红色和橙色为两者的随机梯度，黑色为已知的，绿色为要估计的，取黑+橙-红。这样误差就不在于橙色与绿色的角度，而在于 \(X_0\) 和 \(X_t\) 的相近程度。

完整算法描述如下：

最后一步随机选取是为了可以用 \(\mathbb E\) 说事。如果选取 \(\widetilde {\bm w}_m\)，没人证得出来。。

这里给出 \(\mu\)-强凸的收敛性分析。

令 \(\bm v_t = \nabla l_i(\bm w_{t-1}) - \nabla l_i(\widetilde {\bm w}) + \widetilde {\bm u}\)。需要注意的是，下面的 \(\|\cdot \|^2_2\) 说明其在一般的范数下不一定成立，而上面几个证明并不要求这一点。

令

由于 \(l_i(\bm w)\) 是凸的，\(g(\bm w)\) 也是凸的，而 \(\nabla g_i(\bm w^*) = 0\)，因此 \(g_i(\bm w^*) = \min_{\bm w} g_i(\bm w)\)。

这个过程就是平滑性取二次函数顶点。移项得

这个式子有点像 Lipschitz 的形式，区别在于左侧是范数的平方。

对所有 \(l_i\) 求和得

其中 \(4L \eta^2 (f(\widetilde{\bm w}) - f(\bm w^*))\) 是误差部分，其会随着 \(\widetilde{\bm w} \to \bm w^*\) 减小。

我们拿到了想要的项，\(\mathbb E(f(\widetilde {\bm w}_s) - f(\bm w^*))\) 和 \(f(\widetilde{\bm w}) - f(\bm w^*)\) 的线性组合，等式左边可以直接缩放为 \(0\)，因此只需要消掉 \(\mathbb E \|\bm w_0 - \bm w^*\|_2^2\) 便大功告成。

因此，\(\eta < \frac 1L\)，\(m\) 足够大时，系数会 \(< 1\)，因此线性收敛。

本栏目推荐文章
• 神经网络优化篇：理解mini-batch梯度下降法（Understanding mini-batch gradient descent）
• 机器学习-梯度下降法
• 解决 clamp 函数会阻断梯度传播
• 神经网络优化篇：详解Mini-batch 梯度下降（Mini-batch gradient descent）
• 神经网络优化篇：梯度检验应用的注意事项（Gradient Checking Implementation Notes）
• [NLP复习笔记] 基于负采样的 Skip-gram 及 SGD 训练公式推导
• 神经网络优化篇：详解梯度检验（Gradient checking）
• 强化学习算法中的梯度和更新公式在代码的哪里体现？
• 神经网络优化篇：详解梯度的数值逼近（Numerical approximation of gradients）
• 神经网络优化篇：详解梯度消失/梯度爆炸（Vanishing / Exploding gradients）

梯度 感性 SVRG SGD梯度 感性svrg sgd 梯度sgd 方差 梯度 机器svrg svrg sgd 感性 optim sgd 敏感性 几何 感性 记忆 查准率 查全率 特异性 敏感性