您现在的位置是：首页 >精选问答 > 2023-10-05 20:48:14 来源：
sgd 随机梯度下降（随机梯度下降）
导读 大家好，我是小夏，我来为大家解答以上问题。sgd 随机梯度下降，随机梯度下降很多人还不知道，现在让我们一起来看看吧！1、原始的随机梯度...
大家好，我是小夏，我来为大家解答以上问题。sgd 随机梯度下降，随机梯度下降很多人还不知道，现在让我们一起来看看吧！
1、原始的随机梯度下降（SGD）适合于低精度的任务，而梯度下降算法适合用于高精度的任务。
2、如果接受一个比较低的精度（应用问题中往往不要求高精度），那么由于SGD每次只利用一个或部分样本的梯度做更新，所以前期迭代较快，导致前期一段时间内比梯度下降算法下降得多。
3、但是由于原始的SGD算法在目标函数强凸的情况下依旧无法做到线性收敛，所以当执行的时候足够长的时候SGD的精度会被梯度下降算法赶超，因为梯度下降算法可以在目标函数强凸的时候有线性收敛速度。
本文到此讲解完毕了，希望对大家有帮助。
