共轭梯度法的搜索方向（共轭梯度法）

大家好，我是小夏，我来为大家解答以上问题。共轭梯度法的搜索方向，共轭梯度法很多人还不知道，现在让我们一起来看看吧！

1、原发布者:蔡珍

2、共轭方向法和共轭梯度法问题1:如何建立有效的算法？从二次模型到一般模型.问题2:什么样的算法有效呢？二次终止性.简介共轭方向法和共轭梯度法共轭梯度法是介于最速下降法与牛顿法之间的一个方法，它仅需利用一阶导数信息，但克服了最速下降法收敛慢的缺点，又避免了牛顿法需要存储和计算Hesse矩阵并求逆的缺点，共轭梯度法不仅是解决大型线性方程组最有用的方法之一，也是解大型非线性最优化最有效的算法之一.(1)最初是由计算数学家Hestenes和几何学家Stiefel于1952年为求正定系数矩阵线性方程组而独立提出的.他们合作的著名文章Methodofconjugategradientsforsolvinglinearsystems被认为是共轭梯度法的奠基性文章。(2)1964年，Fletcher和Reeves将此方法推广到非线性最优化，得到了求解一般函数极小值的共轭梯度法.(3)共轭梯度法的收敛性分析的早期工作主要由Fletcher、Powell、Beale等学者给出.(4)Nocedal、Gilbert、Nazareth、Al-Baali、Storey、Dai、Yuan和Han等学者在收敛性方面得到了不少新成果.共轭方向法和共轭梯度法特点(1)建立在二次模型上，具有二次终止性．(2)一种有效的算法，克服了最速下降法的锯齿现象，又避免了牛顿法的计算量大和局部收敛性的缺点．(3)算法简单，易于编程，无需计算二阶导数，存储空间小等优点，是求解中等规模优化问题的主要方法．共轭方向法定义--共轭方向注：若GI,则是正交的，因此,共轭

本文到此讲解完毕了，希望对大家有帮助。