Batch Gradient Descent
在梯度下降中，对于θ的更新，所有的样本都有贡献，也就是参与调整θ。其计算得到 的是一个标准梯度。因而理论上来说一次更新的幅度是比较大的。如果样本不多的情况下， 当然是这样收敛的速度会更快啦。全量梯度下降每次学习都使用整个训练集，因此其优点在 于每次更新都会朝着正确的方向进行，最后能够保证收敛于极值点(凸函数收敛于全局极值 点，非凸函数可能会收敛于局部极值点)，但是其缺点在于每次学习时间过长，并且如果训 练集很大以至于需要消耗大量的内存，并且全量梯度下降不能进行在线模型参数更新。
代码实现：
Stochastic Gradient Descent
梯度下降算法每次从训练集中随机选择一个样本来进行学习。批量梯度下降算法每次都 会使用全部训练样本，因此这些计算是冗余的，因为每次都使用完全相同的样本集。而随机 梯度下降算法每次只随机选择一个样本来更新模型参数，因此每次的学习是非常快速的，并 且可以进行在线更新。随机梯度下降最大的缺点在于每次更新可能并不会按照正确的方向进 行，因此可以带来优化波动(扰动)。
不过从另一个方面来看，随机梯度下降所带来的波动有个好处就是，对于类似盆地区域 （即很多局部极小值点）那么这个波动的特点可能会使得优化的方向从当前的局部极小值点 跳到另一个更好的局部极小值点，这样便可能对于非凸函数，最终收敛于一个较好的局部极 值点，甚至全局极值点。由于波动，因此会使得迭代次数（学习次数）增多，即收敛速度变 慢。不过最终其会和全量梯度下降算法一样，具有相同的收敛性，即凸函数收敛于全局极值 点，非凸损失函数收敛于局部极值点。
代码实现：
Mini-Batch Gradient Descent
Mini-batch 梯度下降综合了 batch 梯度下降与 stochastic 梯度下降，在每次更新速 度与更新次数中间取得一个平衡，其每次更新从训练集中随机选择 batch_size，batch_size < m 个样本进行学习。相对于随机梯度下降算法，小批量梯度下降算法降低了收敛波动性， 即降低了参数更新的方差，使得更新更加稳定。相对于全量梯度下降，其提高了每次学习的速度。并且其不用担心内存瓶颈从而可以利用矩阵运算进行高效计算。一般而言每次更新随 机选择[50,256]个样本进行学习，但是也要根据具体问题而选择，实践中可以进行多次试验， 选择一个更新速度与更次次数都较适合的样本数。
代码实现：
在讲三种梯度下降区别之前，我们先来总结一下梯度下降法的步骤：
1. 瞎蒙，Random 随机θ，随机一组数值 W0…Wn
2. 求梯度，为什么是梯度？因为梯度代表曲线某点上的切线的斜率，沿着切线往下下降就 相当于沿着坡度最陡峭的方向下降
3. if g0, theta 往小调
4. 判断是否收敛 convergence，如果收敛跳出迭代，如果没有达到收敛，回第 2 步继续 四步骤对应计算方式：
a. np.random.rand()或者 np.random.randn()
b. i w j gradient = (h (x) - y)× x
c. Wi t+1 =Wi t -h ×gradient i
d. 判断收敛这里使用 g=0 其实并不合理，因为当损失函数是非凸函数的话 g=0 有可能是 极大值对吗！所以其实我们判断 loss 的下降收益更合理，当随着迭代 loss 减小的幅度 即收益不再变化就可以认为停止在最低点，收敛！
区别：其实三种梯度下降的区别仅在于第 2 步求梯度所用到的 X 数据集的样本数量不同！ 它们每次学习(更新模型参数)使用的样本个数，每次更新使用不同的样本会导致每次学习的 准确性和学习时间不同
以上就是利用python实现3种梯度下降算法的详细内容，更多关于python梯度下降算法的资料请关注脚本之家其它相关文章！
到此这篇使用梯度下降方法实现线性回归算法（梯度下降的线性回归用python）的文章就介绍到这了,更多相关内容请继续浏览下面的相关推荐文章，希望大家都能在编程的领域有一番成就！版权声明：
本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。
如若内容造成侵权、违法违规、事实不符，请将相关资料发送至xkadmin@xkablog.com进行投诉反馈，一经查实，立即处理！
转载请注明出处，原文链接：https://www.xkablog.com/pythonbc/40759.html