正则化问题
来源:互联网 发布:数据库原理 编辑:程序博客网 时间:2024/05/18 22:09
我遇到正则化问题,目前的主要目的是知道正则化的使用目的,有何作用?
下面是我摘自百度百科的资料:
1. 正则化就是对最小化经验误差函数上加约束,这样的约束可以解释为先验知识(正则化参数等价于对参数引入先验分布)。约束有引导作用,在优化误差函数的时候倾向于选择满足约束的梯度减少的方向,使最终的解倾向于符合先验知识(如一般的l-norm先验,表示原问题更可能是比较简单的,这样的优化倾向于产生参数值量级小的解,一般对应于稀疏参数的平滑解)。
2. 同时,正则化解决了逆问题的不适定性,产生的解是存在,唯一同时也依赖于数据的,噪声对不适定的影响就弱,解就不会过拟合,而且如果先验(正则化)合适,则解就倾向于是符合真解(更不会过拟合了),即使训练集中彼此间不相关的样本数很少。
参考网站:https://baike.baidu.com/item/%E6%AD%A3%E5%88%99%E5%8C%96/5739561?fr=aladdin
阅读全文
0 0
- 正则化问题
- 正则化问题
- 正则化与反问题
- 正则化与反问题
- 正则化与反问题
- 正则问题
- ISTA算法求解L1正则化问题
- 深度学习中的常见正则化问题
- 【TensorFlow】正则化(过拟合问题)
- 深层神经网络的正则化问题
- 正则表达式的问题
- 正则表达式问题征集
- 一个正则切割问题
- js 正则test问题
- 关于正则表达式问题
- 正则表达式匹配问题
- 正则^$匹配范围问题
- 正则规范空格问题
- .NET问题
- 【Spring实战】Spring容器初始化完成后执行初始化数据方法
- 习题5.8
- re.match匹配多行数据失败
- RecyclerView+MVP+OKhttp
- 正则化问题
- Git回滚到历史节点(SourceTree篇)
- 2017.11.9机房小测-Exgcd+特判/树形DP/模拟
- JAVA | 2
- windows安装mysql5.7
- 十八街区
- C# 解析JSON字符串
- UVa 201 (implement)
- C# 操作超时解决办法