关于正则化话的理解

来源:互联网 发布:ubuntu etc目录在哪 编辑:程序博客网 时间:2024/05/20 05:30

正则化与归一化含义解析:http://sobuhu.com/ml/2012/12/29/normalization-regularization.html


正则化:http://www.cnblogs.com/richqian/p/4514528.html


L0、L1、与L2范数:http://blog.csdn.net/zouxy09/article/details/24971995



备注:


正则化就是对最小化经验误差函数上加约束,这样的约束可以解释为先验知识(正则化参数等价于对参数引入先验分布)。
约束有引导作用,在优化误差函数的时候倾向于选择满足约束的梯度减少的方向,使最终的解倾向于符合先验知识(如一般的l-norm先验,表示原问题更可能是比较简单的,这样的优化倾向于产生参数值量级小的解,一般对应于稀疏参数的平滑解)。

0 0
原创粉丝点击