Coursera Machine Learning Week1 学习笔记
来源:互联网 发布:notebook软件 编辑:程序博客网 时间:2024/05/29 17:23
注:本文已迁移到http://blog.csdn.net/JinbaoSite/article/details/66530136
Coursera Machine Learning Week1
一、Introduction
1.1 机器学习(Machine Learning)
第一个机器学习的定义来自于Arthur Samuel,他定义机器学习为
在进行特定编程的情况下,给予计算机学习能力的领域。
近年代的机器学习定义由Tom Mitchell提出,Tom定义的机器学习是
一个程序被认为能从经验E中学习,解决任务T,达到性能度量值P,当且仅当,有了经验E后,经过P评判,程序在处理T时的性能有所提升。
1.2 监督学习(Supervised Learning)
1、在监督学习中,我们给出数据组,并且已经知道正确的输出是什么样,明确输入和输出之间的关系 。
2、监督学习问题可以归类为回归(regression) 和分类(classification) 问题。
在回归问题上,我们试着推测出一个连续的输出结果。
在分类问题上,我们试着推测出一个离散的输出结果。
3、例子:
(1)回归问题:给定关于在房子占地大小去预测卖出这套房子的价格。
(2)回归问题:根据给定的男/女性图片,预测他们的年龄。
(3)分类问题:对于有肿瘤的患者,预测肿瘤是恶性的还是良性的。
1.3 无监督学习(Unsupervised Learning)
1、非监督学习就是数据集没有任何的标签或者是有相同标签的情况下,判断出数据集有不同的聚集簇。
2、在非监督学习中,可以解决事先不知道结果会怎么样的问题。我们不必知道数据是否有效就可以通过基于数据中的变量之间的关系对数据进行聚类来导出结构。
3、对于非监督学习,没有基于预测结果的反馈。
4、例子:
(1)聚类(Clustering):收集100万个不同的基因,并找到一种方法来自动将这些基因分组到不同的变量,如寿命,位置,角色等不同类型或相关的组。
(2)非聚类(Non-clustering):在鸡尾酒会上从声音网中识别单个声音和音乐
二、单变量线性回归(Linear Regression with One Variable)
2.1 模型表示(Model Representation)
1、对于回归问题,我们做如下标记:
2、为了正式描述监督学习问题,我们的目标是给一个训练集,通过学习函数
3、监督学习算法的工作方式
4、对于单变量线性回归问题,由于只含有一个特征/输入变量,因此单变量线性回归问题的
2.2 代价函数(Cost Function)
1、为了测量假设函数的准确性,我们引入代价函数,代价函数就是输入变量
2、代价函数:
3、代价函数的轮廓图
4、代价函数的等高线图
代价函数的等高线图中轴线是
三、梯度下降(Gradient Descent)
3.1 梯度下降算法
1、梯度下降是一个用来求函数最小值的算法,我们使用梯度下降算法来求出代价函数的最小值。
2、梯度下降算法描述:
(1)首先对(
(2)改变(
3、梯度下降算法演示:
这是一个表示参数
梯度下降法的第一步是给
然后我们将
当然,可能梯度下降的最终点并非是全局最小点,可能是一个局部最小点,可能是下面的情况:
这张图就是描述的一个局部最小点,这是我们重新选择了一个初始点得到的。
4、批量梯度下降算法公式
repeat until convergence:
其中
在梯度下降算法时,当我们更新
3.2 单变量线性回归算法(Gradient Descent For Linear Regression)
1、单变量线性模型
2、梯度下降算法
3、单变量线性回归算法
4、单变量线性回归算法图解
- Coursera Machine Learning Week1 学习笔记
- 【Coursera Machine Learning】 Week1 学习笔记
- Coursera课程《Machine Learning》学习笔记(week1)
- COURSERA Machine Learning WEEK1&&WEEK2
- Machine Learning机器学习笔记-week1
- coursera Machine Learning Week 1学习笔记
- coursera Machine Learning Week2 学习笔记
- coursera Machine Learning Week3-1 学习笔记
- coursera Machine Learning Week3-2 学习笔记
- Coursera Machine Learning 学习笔记(一)
- Coursera Machine Learning 学习笔记(二)
- Coursera Machine Learning 学习笔记(三)
- Coursera Machine Learning 学习笔记(四)
- Coursera Machine Learning 学习笔记(五)
- Coursera Machine Learning 学习笔记(六)
- Coursera Machine Learning 学习笔记(七)
- Coursera Machine Learning 学习笔记(八)
- Coursera Machine Learning 学习笔记(九)
- poj 1459 Power Network(网络流_最大流)
- 链表相交以及链表含环的相关问题
- jQuery源码中的驼峰命名jQuery.camelCase
- Struts2.x常用技巧
- 记录一次PHP项目报502的问题
- Coursera Machine Learning Week1 学习笔记
- 完成一个简单的时间片轮转多道程序内核
- Glide-使用动态图作为正在加载占位图
- faster-rcnn 中训练自己的数据出现的错误
- LSTM公式推导csdn
- 2017 CCPC Final B Wash
- 需求分析中对系统的要求
- BPTT(BackPropagation Through Time)
- Android三种实现定时器的方法