http://ihoge.cn/2018/GradientDescent.html
http://ihoge.cn/2018/newton1.html

引言

李航老师在《统计学习方法》中将机器学习的三要素总结为：模型、策略和算法。其大致含义如下：

模型：其实就是机器学习训练的过程中所要学习的条件概率分布或者决策函数。

策略：就是使用一种什么样的评价，度量模型训练过程中的学习好坏的方法，同时根据这个方法去实施的调整模型的参数，以期望训练的模型将来对未知的数据具有最好的预测准确度。

算法：算法是指模型的具体计算方法。它基于训练数据集，根据学习策略，从假设空间中选择最优模型，最后考虑用什么样的计算方法去求解这个最优模型。

很多时候机器学习工程师又戏称调参工程师, 由此可见参数调优时作为机器学习工程师必须掌握的一项核心技能。

这篇文章的目的旨在对常用的参数调优算法进行一次梳理便于随时翻阅。

梯度下降法（梯度下降、随机梯度下降、批量梯度下降）
牛顿法（牛顿法、拟牛顿法）
共轭梯度法（Conjugate Gradient）

1. 梯度下降法（Gradient Descent）

1.1 一般解释

$f(x)$ 在 $x_0$ 的梯度：就是 $f(x)$ 变化最快的方向。梯度下降法是一个最优化算法，通常也称为最速下降法。

假设 $f(x)$ 是一座山，站在半山腰，往x方向走1米，高度上升0.4米，也就是说x方向上的偏导是 0.4；往y方向走1米，高度上升0.3米，也就是说y方向上的偏导是 0.3；这样梯度方向就是 (0.4 , 0.3)，也就是往这个方向走1米，所上升的高度最高。梯度不仅仅是 $f(x)$ 在某一点变化最快的方向，而且是上升最快的方向；如果想下山，下降最快的方向就是逆着梯度的方向，这就是梯度下降法，又叫最速下降法。

1.2 梯度下降算法用途

最速下降法是求解无约束优化问题最简单和最古老的方法之一，虽然现在已经不具有实用性，但是许多有效算法都是以它为基础进行改进和修正而得到的。最速下降法是用负梯度方向为搜索方向的，最速下降法越接近目标值，步长越小，前进越慢。

在梯度下降算法中，都是围绕以下这个式子展开：

其中在上面的式子中 $h_θ(x)$ 代表，输入为x的时候的其当时θ参数下的输出值，与y相减则是一个相对误差，之后再平方乘以1/2，并且其中:

这里我列举了一个简单的例子，当然实际的x可以有n多个维度。我们知道曲面上方向导数的最大值的方向就代表了梯度的方向，因此我们在做梯度下降的时候，应该是沿着梯度的反方向进行权重的更新，可以有效的找到全局的最优解。这个θ的更新过程可以描述为:

这里就是根据每一个 x 的分量以及当时的偏差值进行 θ 的更新，其中 α 为步长，这个参数如果设置的太大，那么很容易就在最优值附加徘徊；相反，如果设置的太小，则会导致收敛速度过慢。

关于步长和学习速率的关系,这里提一下其实这两个是一个概念，叫法不一样，最优化问题中叫步长，但一般在神经网络中也叫学习速率。

1.3 梯度下降、随机梯度下降、批量梯度下降

梯度下降：梯度下降就是上面的推导，要留意，在梯度下降中，对于θ的更新，所有的样本都有贡献，也就是参与调整θ.其计算得到的是一个标准梯度。因而理论上来说一次更新的幅度是比较大的。如果样本不多的情况下，当然是这样收敛的速度会更快啦~
随机梯度下降：可以看到多了随机两个字，随机也就是说用样本中的一个例子来近似所有的样本，来调整θ，因而随机梯度下降是会带来一定的问题，因为计算得到的并不是准确的一个梯度，容易陷入到局部最优解中。随机梯度下降每次迭代只使用一个样本，迭代一次计算量为n2，当样本个数m很大的时候，随机梯度下降迭代一次的速度要远高于批量梯度下降方法。
批量梯度下降：其实批量的梯度下降就是一种折中的方法，他用了一些小样本来近似全部的，其本质就是随机指定一个例子替代样本不太准，而且批量的话还是非常可以反映样本的一个分布情况的。批量梯度下降最小化所有训练样本的损失函数，使得最终求解的是全局的最优解，即求解的参数是使得风险函数最小，但是对于大规模样本问题效率低下。
概括：

随机梯度下降是通过每个样本来迭代更新一次，如果样本量很大的情况（例如几十万），那么可能只用其中几万条或者几千条的样本，就已经将theta迭代到最优解了，对比批量梯度下降，迭代一次需要用到十几万训练样本，一次迭代不可能最优，如果迭代10次的话就需要遍历训练样本10次。但是，SGD伴随的一个问题是噪音较BGD要多，使得SGD并不是每次迭代都向着整体最优化方向。

随机梯度下降每次迭代只使用一个样本，迭代一次计算量为n2，当样本个数m很大的时候，随机梯度下降迭代一次的速度要远高于批量梯度下降方法。两者的关系可以这样理解：随机梯度下降方法以损失很小的一部分精确度和增加一定数量的迭代次数为代价，换取了总体的优化效率的提升。增加的迭代次数远远小于样本的数量。
对批量梯度下降法和随机梯度下降法的总结：

批量梯度下降—最小化所有训练样本的损失函数，使得最终求解的是全局的最优解，即求解的参数是使得风险函数最小，但是对于大规模样本问题效率低下。

随机梯度下降—最小化每条样本的损失函数，虽然不是每次迭代得到的损失函数都向着全局最优方向，但是大的整体的方向是向全局最优解的，最终的结果往往是在全局最优解附近，适用于大规模训练样本情况。

import random
#This is a sample to simulate a function y = theta1*x1 + theta2*x2
input_x = [[1,4], [2,5], [5,1], [4,2]]  
y = [19,26,19,20]  
theta = [1,1]
loss = 10
step_size = 0.001
eps =0.0001
max_iters = 10000
error =0
iter_count = 0
while( loss > eps and iter_count < max_iters):loss = 0#这里更新权重的时候所有的样本点都用上了for i in range (3):pred_y = theta[0]*input_x[i][0]+theta[1]*input_x[i][1]theta[0] = theta[0] - step_size * (pred_y - y[i]) * input_x[i][0]theta[1] = theta[1] - step_size * (pred_y - y[i]) * input_x[i][1]for i in range (3):pred_y = theta[0]*input_x[i][0]+theta[1]*input_x[i][1]error = 0.5*(pred_y - y[i])**2loss = loss + erroriter_count += 1print 'iters_count', iter_countprint 'theta: ',theta 
print 'final loss: ', loss
print 'iters: ', iter_count

output: iters_count 219 iters_count 220 iters_count 221 iters_count 222 iters_count 223 iters_count 224 iters_count 225 theta: [3.0027765778748003, 3.997918297015663] final loss: 9.68238055213e-05 iters: 225 [Finished in 0.2s] ### 随机梯度下降代码:

# 每次选取一个值,随机一个点更新 θ
import random
#This is a sample to simulate a function y = theta1*x1 + theta2*x2
input_x = [[1,4], [2,5], [5,1], [4,2]]  
y = [19,26,19,20]  
theta = [1,1]
loss = 10
step_size = 0.001
eps =0.0001
max_iters = 10000
error =0
iter_count = 0
while( loss > eps and iter_count < max_iters):loss = 0#每一次选取随机的一个点进行权重的更新i = random.randint(0,3)pred_y = theta[0]*input_x[i][0]+theta[1]*input_x[i][1]theta[0] = theta[0] - step_size * (pred_y - y[i]) * input_x[i][0]theta[1] = theta[1] - step_size * (pred_y - y[i]) * input_x[i][1]for i in range (3):pred_y = theta[0]*input_x[i][0]+theta[1]*input_x[i][1]error = 0.5*(pred_y - y[i])**2loss = loss + erroriter_count += 1print 'iters_count', iter_countprint 'theta: ',theta 
print 'final loss: ', loss
print 'iters: ', iter_count

iters_count 1226 iters_count 1227 iters_count 1228 iters_count 1229 iters_count 1230 iters_count 1231 iters_count 1232 theta: [3.002441488688225, 3.9975844154600226] final loss: 9.989420302e-05 iters: 1232 [Finished in 0.3s] ### 批量随机梯度下降代码：

# 这里用2个样本点
import random
#This is a sample to simulate a function y = theta1*x1 + theta2*x2
input_x = [[1,4], [2,5], [5,1], [4,2]]  
y = [19,26,19,20]  
theta = [1,1]
loss = 10
step_size = 0.001
eps =0.0001
max_iters = 10000
error =0
iter_count = 0
while( loss > eps and iter_count < max_iters):loss = 0i = random.randint(0,3) #注意这里，我这里批量每次选取的是2个样本点做更新，另一个点是随机点+1的相邻点j = (i+1)%4pred_y = theta[0]*input_x[i][0]+theta[1]*input_x[i][1]theta[0] = theta[0] - step_size * (pred_y - y[i]) * input_x[i][0]theta[1] = theta[1] - step_size * (pred_y - y[i]) * input_x[i][1]pred_y = theta[0]*input_x[j][0]+theta[1]*input_x[j][1]theta[0] = theta[0] - step_size * (pred_y - y[j]) * input_x[j][0]theta[1] = theta[1] - step_size * (pred_y - y[j]) * input_x[j][1]for i in range (3):pred_y = theta[0]*input_x[i][0]+theta[1]*input_x[i][1]error = 0.5*(pred_y - y[i])**2loss = loss + erroriter_count += 1print 'iters_count', iter_countprint 'theta: ',theta 
print 'final loss: ', loss
print 'iters: ', iter_count

..... iters_count 543 iters_count 544 iters_count 545 iters_count 546 iters_count 547 iters_count 548 iters_count 549 theta: [3.0023012574840764, 3.997553282857357] final loss: 9.81717138358e-05 iters: 549 -->

2. 牛顿法（Newton’s method)

2.1 牛顿法原理

具体步骤：

首先，选择一个接近函数 $f (x)$ 零点的 $x_0$ ，计算相应的 $f (x_0)$ 和切线斜率 $f'(x_0)$ （这里 $f'(x_0)$ 表示函数 $f(x_0)$ 的导数）。然后我们计算穿过点 $(x_0, f(x_0))$ 并且斜率为 $f'(x_0)$ 的直线和 x 轴的交点的x坐标，也就是求如下方程的解：

$x\; \cdot \; f'\left( x_{0} \right)+f\left( x_{0} \right)-x_{0\; }\cdot \; f'\left( x_{0} \right)=0$

或：

$f\left( x_{0} \right)+\left( x-x_{0} \right)f''\left( x_{0} \right)=0$

我们将新求得的点的 x 坐标命名为x1，通常x1会比x0更接近方程f (x) = 0的解。因此我们现在可以利用x1开始下一轮迭代。迭代公式可化简为如下所示：

$x_{n+1}=x_{n}\; -\; \frac{f\; \left( x_{n} \right)}{f\; '\; \left( x_{n} \right)}\;$

已经证明，如果f ’ 是连续的，并且待求的零点x是孤立的，那么在零点x周围存在一个区域，只要初始值x0位于这个邻近区域内，那么牛顿法必定收敛。并且，如果f’(x)不为0, 那么牛顿法将具有平方收敛的性能. 粗略的说，这意味着每迭代一次，牛顿法结果的有效数字将增加一倍。下图为一个牛顿法执行过程的例子。

由于牛顿法是基于当前位置的切线来确定下一次的位置，所以牛顿法又被很形象地称为是”切线法”。牛顿法的搜索路径（二维情况）如下图所示：

牛顿法搜索动态示例图：
1022856-20170916202719078-1588446775
　

从本质上去看，牛顿法是二阶收敛，梯度下降是一阶收敛，所以牛顿法更快。比如你想找一条最短的路径走到一个盆地的最底部，梯度下降法每次只从你当前所处位置选一个坡度最大的方向走一步，牛顿法在选择方向时，不仅会考虑坡度是否够大，还会考虑你走了一步之后，坡度是否会变得更大。所以，可以说牛顿法比梯度下降法看得更远一点，能更快地走到最底部。（牛顿法目光更加长远，所以少走弯路；相对而言，梯度下降法只考虑了局部的最优，没有全局思想。

也可以这么理解：梯度下降主要是从一阶目标函数的一阶导推导而来的，形象点说，就是每次朝着当前梯度最大的方向收敛；二牛顿法是二阶收敛，每次考虑收敛方向的时候，还会考虑下一次的收敛的方向是否是最大（也就是梯度的梯度）。

从几何上说，牛顿法就是用一个二次曲面去拟合你当前所处位置的局部曲面，而梯度下降法是用一个平面去拟合当前的局部曲面，通常情况下，二次曲面的拟合会比平面更好，所以牛顿法选择的下降路径会更符合真实的最优下降路径。如下图是一个最小化一个目标方程的例子，红色曲线是利用牛顿法迭代求解，绿色曲线是利用梯度下降法求解。

总结一下，就是牛顿法对目标函数的一阶导再求导，即可算出收敛的方向。

梯度法和牛顿法对比：

梯度法：又称最速下降法，是早期的解析法，收敛速度较慢。 
牛顿法：收敛速度快，但不稳定，计算也较困难。

牛顿法的优缺点总结：

优点：二阶收敛，收敛速度快；缺点：牛顿法是一种迭代算法，每一步都需要求解目标函数的Hessian矩阵的逆矩阵，计算比较复杂。

在上面讨论的是2维情况，高维情况的牛顿迭代公式是：

x n + 1 = x n - [H f (x n) - 1] \nabla f (x n) ， n \geq 0

$x_{n+1}=x_n-[Hf(x_n)^{-1}]\nabla f(x_n)，n≥0$
其中H时hessian矩阵，定义为：

高维情况也可以用牛顿迭代求解，但是Hessian矩阵引入的复杂性，使得牛顿迭代求解的难度增加，解决这个问题的办法是 拟牛顿法（Quasi-Newton methond）：

2.2 拟牛顿法（Quasi-Newton Methods）

拟牛顿法是求解非线性优化问题最有效的方法之一，于20世纪50年代由美国Argonne国家实验室的物理学家W.C.Davidon所提出来。Davidon设计的这种算法在当时看来是非线性优化领域最具创造性的发明之一。不久R. Fletcher和M. J. D. Powell证实了这种新的算法远比其他方法快速和可靠，使得非线性优化这门学科在一夜之间突飞猛进。

拟牛顿法的本质思想是改善牛顿法每次需要求解复杂的Hessian矩阵的逆矩阵的缺陷，它使用正定矩阵来近似Hessian矩阵的逆，从而简化了运算的复杂度。拟牛顿法和最速下降法一样只要求每一步迭代时知道目标函数的梯度。通过测量梯度的变化，构造一个目标函数的模型使之足以产生超线性收敛性。这类方法大大优于最速下降法，尤其对于困难的问题。另外，因为拟牛顿法不需要二阶导数的信息，所以有时比牛顿法更为有效。如今，优化软件中包含了大量的拟牛顿算法用来解决无约束，约束，和大规模的优化问题。

具体步骤：

拟牛顿法的基本思想如下。首先构造目标函数在当前迭代 $x_k$ 的二次模型：

这里 $B_k$ 是一个对称正定矩阵，于是我们取这个二次模型的最优解作为搜索方向，并且得到新的迭代点：
$x_{k+1}=x_k+\alpha _kp_k$
其中我们要求步长 $\alpha_k$ 满足Wolfe条件。这样的迭代与牛顿法类似，区别就在于用近似的Hesse矩阵 $B_k$ 代替真实的Hesse矩阵。所以拟牛顿法最关键的地方就是每一步迭代中矩阵 $B_k$ 的更新。现在假设得到一个新的迭代 $x_{k+1}$ ，并得到一个新的二次模型：

我们尽可能地利用上一步的信息来选取 $B_k$ 。具体地，我们要求 :

$\nabla f(x_{k+1})-\nabla f(x_k)=\alpha _kB_{k+1}p_k$

从而得到：

$B_{k+1}(x_{k+1}-x_k)=\nabla f(x_{k+1})-\nabla f(x_k)$

这个公式被称为割线方程。常用的拟牛顿法有DFP算法和BFGS算法。

3. 共轭梯度法（Conjugate Gradient）

共轭梯度法是介于最速下降法与牛顿法之间的一个方法，它仅需利用一阶导数信息，但克服了最速下降法收敛慢的缺点，又避免了牛顿法需要存储和计算Hesse矩阵并求逆的缺点，共轭梯度法不仅是解决大型线性方程组最有用的方法之一，也是解大型非线性最优化最有效的算法之一。在各种优化算法中，共轭梯度法是非常重要的一种。其优点是所需存储量小，具有步收敛性，稳定性高，而且不需要任何外来参数。

具体的实现步骤请参加wiki百科共轭梯度法。

下图为共轭梯度法和梯度下降法搜索最优解的路径对比示意图：(绿色为梯度下降法，红色代表共轭梯度法)