拉格朗日乘子法和KKT条件
来源:互联网 发布:割集矩阵 编辑:程序博客网 时间:2024/05/29 10:03
文章来源:http://www.cnblogs.com/zhangchaoyang/articles/2726873.html
拉格朗日乘子法(Lagrange Multiplier)和KKT(Karush-Kuhn-Tucker)条件是求解约束优化问题的重要方法,在有等式约束时使用拉格朗日乘子法,在有不等约束时使用KKT条件。前提是:只有当目标函数为凸函数时,使用这两种方法才保证求得的是最优解。
对于无约束最优化问题,有很多经典的求解方法,参见无约束最优化方法。
拉格朗日乘子法
转换为
系数λi称为拉格朗日乘子。
下面看一下wikipedia上是如何解释拉格朗日乘子法的合理性的。
现有一个二维的优化问题:
我们可以画图来辅助思考。
绿线标出的是约束g(x,y) = c的点的轨迹。蓝线是f的等高线。箭头表示斜率,和等高线的法线平行。
从图上可以直观地看到在最优解处,f和g的斜率平行。
λ ≠ 0
一旦求出λ的值,将其套入下式,易求在无约束极值和极值所对应的点。
=
新方程在达到极值时与相等,因为达到极值时总等于零。
KKT条件
对于带约束优化问题
KKT条件指出,在最优解处X*应该满足:
阅读全文
0 0
- 拉格朗日乘子法和KKT条件
- 拉格朗日乘子法和KKT条件
- 拉格朗日乘子法和KKT条件
- 拉格朗日乘子法和KKT条件
- 拉格朗日乘子法和KKT条件
- 拉格朗日乘子法和KKT条件
- 拉格朗日乘子法和KKT条件
- 拉格朗日乘子法和KKT条件
- 拉格朗日乘子法和KKT条件
- 拉格朗日乘子法和KKT条件
- 拉格朗日乘子法和KKT条件
- 拉格朗日乘子法和KKT条件
- 拉格朗日乘子法和KKT条件
- 拉格朗日乘子法和KKT条件
- KKT条件和拉格朗日乘子法
- 拉格朗日乘子法和KKT条件
- 拉格朗日乘子法和KKT条件
- 拉格朗日乘子法和KKT条件
- Android开发探索---读后笔记(第一章)
- Nginx配置文件详细说明
- JAVA基础知识之多态
- js获取当前时间 格式yyyy-MM-dd HH:MM:SS
- Linux shell 日期,时间相关的命令
- 拉格朗日乘子法和KKT条件
- Spark中Task,Partition,RDD、节点数、Executor数、core数目的关系和Application,Driver,Job,Task,Stage理解
- shell中各种括号的作用()、(())、[]、[[]]、{}
- 常用的JVM参数
- PHP学习笔记——使用数组的内部指针控制函数遍历数组
- PyTorch的错误
- POJ2987_Firing_最大权闭合图
- 算法导论 活动选择问题(贪婪-最早结束)
- 新闻中心