2016.12.30非线性优化计算方法1

运筹学是运用数学方法来刻画、分析以及求解决策问题的科学。

运筹学有众多分支：如：线性规划、非线性优化、整数规划、图论、多目标优化、动态规划、、、、、等等。

《运筹与管理科学丛书》

非线性优化计算方法是计算数学与运筹学的交叉学科。

许多其他科学领域的问题也可以归结为非线性优化问题，如信息科学中的模式识别问题。

研究高效的求解非线性优化的计算方法具有重要的理论意义和实际价值。

袁亚湘。

除了少数极特殊情况，非线性优化问题的计算方法都是迭代法。

多维优化问题：线搜索方法、信赖域方法。

约束优化：滤子法。

2.一维优化方法

3.梯度法和共轭梯度法：多维无约束优化方法

4.拟牛顿法

5.直接方法

6.二次规划：二次规划是最简单的带约束非线性规划的问题。凸函数优化。

7.罚函数法

8.线性约束规划

9.非线性约束优化。：Lagrange-Newton法，逐步二次规划法（sequential quadratic programming methods, SQP）、内点法、