Coursera Machine Learning 学习笔记(十)
来源:互联网 发布:安装php基础环境搭建 编辑:程序博客网 时间:2024/06/07 16:57
- Learning rate
在梯度下降算法中,算法收敛所需要的迭代次数根据模型的不同而不同。由于我们不能提前预知,因此我们可以绘制出迭代次数和代价函数的对应关系图来观测算法在何时是趋于收敛。
当然,也有一些可以自动检测是否收敛的方法,例如我们将代价函数的变化值与某个预先设定的阈值(如0.001)进行比较,从而判断是否收敛。但是通常情况下,观测上面的图表更加直观。
梯度下降算法每次的迭代会受到学习率的影响,如果学习率过小,则达到收敛所需的迭代次数会非常高;如果学习率过大,每次迭代可能不会减小代价函数,可能会越过局部最小值导致无法收敛。
因此,通常情况下我们尝试的学习率可以是:...,0.001,0.003,0.01,0.03,0.1,0.3,1,...
0 0
- Coursera Machine Learning 学习笔记(十)
- Coursera Machine Learning 学习笔记(一)
- Coursera Machine Learning 学习笔记(二)
- Coursera Machine Learning 学习笔记(三)
- Coursera Machine Learning 学习笔记(四)
- Coursera Machine Learning 学习笔记(五)
- Coursera Machine Learning 学习笔记(六)
- Coursera Machine Learning 学习笔记(七)
- Coursera Machine Learning 学习笔记(八)
- Coursera Machine Learning 学习笔记(九)
- Coursera Machine Learning 学习笔记(十一)
- Coursera Machine Learning 学习笔记(十二)
- Coursera Machine Learning 学习笔记(十三)
- Coursera Machine Learning 学习笔记(十四)
- Coursera课程《Machine Learning》学习笔记(week1)
- coursera Machine Learning Week 1学习笔记
- coursera Machine Learning Week2 学习笔记
- coursera Machine Learning Week3-1 学习笔记
- 归并排序 java语言
- Windows下使用pthread
- Linux/windows android adt自带eclipse无法设置ndk路径 jdk sdk ndk等环境配置
- Maven 构建 Struts2 实现 基本 CURD Controller
- Insertion Sort List
- Coursera Machine Learning 学习笔记(十)
- 第二周 项目四-图书馆的书
- JAVA基础(1):封装
- 互联网我来了 -- 1. Node.js 来打个招呼
- oc_study18--内存管理
- python中的基本数据类型
- 解决plsql连接oracle问题 环境变量设置
- ThinkPHP内置字符截取函数msubstr()
- 看好你的门-XSS攻击(2)-利用反射型XSS漏洞 进行针对性攻击