正则化项

来源:互联网 发布:知乎 小程序 ui 框架 编辑:程序博客网 时间:2024/06/01 10:10

正则化是结构风险最小化策略的实现,是在经验风险上加一个正则化项或罚项。正则化项一般是模型复杂度的单调递增函数,模型越复杂,正则化值就越大。比如,正则化项可以是模型参数向量的范数。

正则化的目的:避免出现过拟合(over-fitting)

regularize规则化:向你的模型加入某些规则,加入先验,缩小解空间,减小求出错误解的可能性。你要把你的知识数学化告诉这个模型,对代价函数来说,就是加入对模型“长相”的惩罚

原创粉丝点击