机器学习笔记week1(Andrew NG)
来源:互联网 发布:淘宝如何设置宝贝规格 编辑:程序博客网 时间:2024/05/17 22:43
机器学习笔记week1(Andrew NG)
martin
- 机器学习笔记week1Andrew NG
- Linear Regression with one Variable单变量线性回归
- Model and Cost Function模型和损失函数
- Gradient Desent梯度下降
- 小节测试
- Linear Regression with one Variable单变量线性回归
Linear Regression with one Variable(单变量线性回归)
Model and Cost Function(模型和损失函数)
给出一个房价预测的例子,x轴是房子的大小,y轴是房子的价格,图中标注了一些房子作为数据集,而这些点被称为标注数据(labeled data),利用这样的数据来预测的方法称为:监督学习。监督学习分为两类:分类与回归,此时,作为预测房价的这个例子是监督学习中的回归例子。
选择题1
整个预测的过程可以归结为如下图:
通过训练数据,将数据输入到算法里面,我们能得到一个关于这个模型的一个假设
线性模型其意思是模型是呈现线性变化的,为什么对于该房价的例子我们要采用单变量的,其原因是该模型的未知参数仅有一个
对于假设函数其包含两个参数,
所以,给出如下定义:
第一个公式是最小化预测值与真实值差的平方的值,也叫作均方误差值,是衡量误差的一种方式。第二个公式是我们的假设函数。有时我们更喜欢写成如下形式:
其中的
左边的图在坐标系中分别画了三个的点
选择题2
刚刚上面的例子图片采用的二维的图像,因为图片中只包含了两个参数,
在这个三维图片中,图中的图片上的点距离“水平地面”的高度就是它的代价值
从上到下,左边依次是不同的假设函数直线,右边依次是不同的轮廓图,这三个假设直线一个比一个更接近数据集,所以对应的轮廓图中的代价函数的点会更接近中心区域。所以运用此种图片可以更加直观的来判别假设函数的好坏。
Gradient Desent(梯度下降)
就像图片中画出的那样,梯度下降就是以最合适的方向来进行递减。假如自己站在一个山峰的某以高度,现在想以最快的速度去山底,所以就会问自己以我现在所在的位置我的四周360度的方向上哪一个方向上可以令我下降最快,然后不断进行迭代和执行,这样终会在某一时刻会到达山底。
但是又如上图所示,不可避免的当我所站的位置不一样,会下降到不同的山底,而这样的山底其实只是在我当前的视野中的山底并不是真正的山底,所以,此种方法会受限于
下面让我们来公式化梯度下降算法:
其中
选择题3
那么公式化完了梯度下降的公式,让我们再来看看这个公式所包含的意义和原理:
上图中有两个小坐标图,先来看第一个小坐标图,注意到在图的右边有个红点,此时在它当前的位置上的导数是个
而第二个小坐标图,注意到在图的左边有个红点,此时在它当前的位置上的导数是个
对于参数
选择题4
解析
- 可以看出当前所在的点已经陷入局部最优了,所以此时的
θ 不会改变并且会停止迭代。
还有一点是需要注意的,
小节测试
小节测试题1
小节测试题2
小节测试题3
小节测试题4
解析
- 选项三,
α 选择过小是有坏处的,会导致函数收敛速度过慢。 - 选项四,存在局部最优点的函数在进行梯度下降时会因为初始点的选择(
θ0 ,θ1 )的不同导致最终收敛结束后的结果不同。
小节测试题5
解析
- 选项三,
J(θ0,θ1)=0 并不能说明迭代至了局部最优点了,只能说明假设函数与数据集完全拟合了。
- 机器学习笔记week1(Andrew NG)
- Coursera上的Andrew Ng《机器学习》学习笔记Week1
- Andrew NG 机器学习 笔记-week1-单变量线性回归
- Andrew Ng机器学习笔记week1 线性回归
- Andrew Ng笔记-week1
- Andrew Ng机器学习课程笔记–week1(机器学习简介&线性回归模型)
- andrew ng机器学习笔记
- Andrew Ng 《机器学习》课程笔记
- Andrew Ng 机器学习笔记(一)
- Andrew Ng 机器学习笔记(二)
- Andrew Ng 机器学习笔记(三)
- Andrew Ng 机器学习笔记(四)
- Andrew Ng 机器学习笔记(五)
- Andrew Ng 机器学习笔记(六)
- Andrew Ng 机器学习笔记(七)
- Andrew Ng 机器学习笔记(八)
- Andrew Ng机器学习笔记1
- Coursera机器学习(Andrew Ng)笔记1
- RESTful API设计系列四:URLs
- 输入输出
- 快速创建一个servlet并且在web.xml配置和使用它
- Ubuntu上安装Arduino IDE
- dubbo源码浅析(五)-远程服务调用流程
- 机器学习笔记week1(Andrew NG)
- java的几种对象(po,dto,dao等)
- 线程的调度
- Spring MVC +Spring + Mybatis 构建分库分表总结 SSM搭建以及分库分表的实现
- 蓝桥杯入门系列:Fibonacci数列
- Application Context 和 Activity Context
- TestNg使用及TestNg用例管理
- 0309JS
- C++中多个类继承时构造函数与析构函数的调用顺序