优化之牛顿法
来源:互联网 发布:开淘宝店卖面膜好卖吗 编辑:程序博客网 时间:2024/05/17 20:15
牛顿法分为两个应用,一个是求解方程,另一个是最优化问题。
1、求解方程
求解方程中,利用了函数的泰勒一阶展开。选择一个初始点x0,
在x0处展开:f(x) = f(x0)+(x-x0)f'(x0)。令f(x)=0得到x的解:x=x0-f(x0)/f'(x0),但是此时的x并真的是方程的解,因为实际的f(x)和泰勒展开式是有差别的。有一点可以确信,x比x0要更加逼近于解。所以自然想到了迭代。令x1=x=x0-f(x0)/f'(x0)。
2、最优化
在求解方程的时候,是考虑令f(x)=0来迭代。优化问题中,我们可以考虑令f'(x)=0,选择一个初始点x0
在x0点展开二次泰勒式:
当 Δx 无线趋近于0,此时上式等价与:
求解:
得出迭代公式:
0 0
- 优化之牛顿法
- 最优化之牛顿法
- 优化方法之 牛顿法和拟牛顿法
- 最优化理论之牛顿法
- 优化算法:牛顿法
- 凸优化-牛顿法
- 优化算法--牛顿法
- 最优化 牛顿法
- 非线性优化之牛顿(梯度)下降法、高斯牛顿法、LM下降法
- 优化算法——拟牛顿法之DFP算法
- 优化算法——拟牛顿法之BFGS算法
- 优化算法——拟牛顿法之DFP
- 优化算法——拟牛顿法之DFP算法
- 优化算法——拟牛顿法之BFGS算法
- 牛顿法-最优化方法
- 牛顿法及牛顿法求解优化问题
- 优化学习率 - 2 - 牛顿法、拟牛顿法
- 优化算法——牛顿法和拟牛顿法
- ZOJ 3913 Bob wants to pour water(二分)
- 这是一个开始
- 第四周项目4-建设双链表算法库
- Httppost上传
- 第2周项目3体验复杂度
- 优化之牛顿法
- 第四周项目3单链表应用(2)
- 第4周SHH数据结构—【项目5-多项式求和】
- ButterKnife--View注入框架
- 第六周项目3-括号的匹配
- 151012测试的总结
- tableview 把某个视图移到前者上面
- 第七周项目2 - 建立链队算法库
- superoj921 编译优化