alternating minmize算法
来源:互联网 发布:北京软件股份有限公司 编辑:程序博客网 时间:2024/06/08 00:47
alternating minmize算法,中文称作交替最小法。
算法思想:
假定有目标函数f(U,V),每次仅把其中的一个变量视作可变量进行优化,其他的变量视作常量,对所有的变量交替进行此优化操作。
假定初始有(U,V)=(U0,V0)
U1 = argmin_U{f(U,V0)}
得到(U1, V0)--->f(U1,V0)
V1 = argmin_V{f(U1,V)}
得到(U1,V1)--->f(U1,V1)
则必有f(U0,V0)>=f(U1,V0)>=f(U1,V1)
通过不停的迭代可以实现最小化目标函数。
算法分析
当目标函数是凸函数或者是光滑的函数时,altmin算法必然能得到全局最优解。
值得注意的是,当目标函数非凸时,经验表明altmin算法也能达到非常好的效果。altmin算法原理简单,经验效果好,不失为实践时用来解决非凸问题的一个方法。
另外有趣的是,实际上altmin算法与常用的em算法有联系,可以说em算法是am算法的一个特例!
参考文件
0 0
- alternating minmize算法
- Alternating Sums
- Alternating Current
- Alternating Current
- Alternating Current
- 凸优化:ADMM(Alternating Direction Method of Multipliers)交替方向乘子算法
- 凸优化:ADMM(Alternating Direction Method of Multipliers)交替方向乘子算法
- 凸优化:ADMM(Alternating Direction Method of Multipliers)交替方向乘子算法系列之六: L1-Norm Problems
- 凸优化:ADMM(Alternating Direction Method of Multipliers)交替方向乘子算法系列之四: General Patterns
- 凸优化:ADMM(Alternating Direction Method of Multipliers)交替方向乘子算法系列之五: Constrained Convex Optimization
- 凸优化:ADMM(Alternating Direction Method of Multipliers)交替方向乘子算法系列之七: Consensus and Sharing
- 凸优化:ADMM(Alternating Direction Method of Multipliers)交替方向乘子算法系列之八: Distributed Model Fitting
- 凸优化:ADMM(Alternating Direction Method of Multipliers)交替方向乘子算法系列之九: Nonconvex Problems
- 凸优化:ADMM(Alternating Direction Method of Multipliers)交替方向乘子算法系列之十: Implementation
- 凸优化:ADMM(Alternating Direction Method of Multipliers)交替方向乘子算法系列之十一:Numerical Examples
- 凸优化:ADMM(Alternating Direction Method of Multipliers)交替方向乘子算法系列之二:Precursors
- 凸优化:ADMM(Alternating Direction Method of Multipliers)交替方向乘子算法系列之三:ADMM
- fjnu 1281 Alternating Sums
- ssh整合时hibernate.cfg.xml的问题
- JAVA——继承
- 算法_10 : 图算法_2: 图的连通性
- PAT (Advanced Level) Practise 1023 Have Fun with Numbers (20)
- 【Debug】GetVersionEx被声明为已否决
- alternating minmize算法
- 异常安全,RAII与C++11
- HBuilder检测不到海马玩模拟器的解决办法。
- URL安全的Base64编码,解码
- 夜谈程序员的职业生涯规划
- 人生第一次
- 2016-3-4
- linux shell 编程笔记 - shell的输入与输出 -3- 标准输入-标准输出-标准错误
- Android Studio中如何创建自己的库?