机器学习数学基础--牛顿法

来源:互联网 发布:linux qt usb 编辑:程序博客网 时间:2024/05/30 23:03

关于牛顿法http://blog.csdn.net/google19890102/article/details/41087931这里讲的很好,下面只是自己对牛顿法的一个学习记录。

牛顿法

概述:牛顿法是一种优化算法,利用迭代点处的一阶导数(梯度)和二阶导数(Hessen矩阵)对目标函数进行二次函数近似,然后把二次模型的极小点作为新的迭代点,并不断重复这一过程,直至求得满足精度的近似极小值。牛顿法的速度相当快,而且能高度逼近最优值。牛顿法分为基本的牛顿法和全局牛顿法

应用:牛顿法至少有两个应用方向
1、求复杂函数的根,通常为高阶函数且没有求根公式;2、最优化

原创粉丝点击