机器学习第二章复习（1）

来源：互联网发布：jq 数组push键值对编辑：程序博客网时间：2024/06/04 18:05

本文用于复习《Machine Learning》第二章部分内容

multivariate linear regression
在之前的章节中以楼房价格预期为例，预测房屋的面积和房屋价格的线性回归关系，这里加深这个案例的理解，房价可能还会受到房间数目，房屋楼层等等因素的影响，这些影响就是所谓的多特征。假定房屋面积、房间数目、房屋楼层为三个特征，与房价构成多特征线性回归关系。

所以多特征线性回归预测公式则变为：

h θ (x) = θ 0 x 0 + θ 1 x 1 + θ 2 x 2 + θ 3 x 3 + . . . + θ n x n

 相应的代价方程则变为：

J (θ) = 1 2 m \sum i = 1 m (h θ (x (i)) - y (i)) 2

 梯度下降方程变为重复执行如下方程， 特别注意j=0，...，n，且更新要同时进行：

θ j : = θ j - α \partial \partial θ j J (θ)

feature scalling
假定房屋面积包含特殊情况得到统计从1-1000平米的房屋都是存在的，那么这里特征缩放的意思就是希望，所有的房屋面积能尽可能在−1≤x≤1之间
所以对房屋面积进行处理，令所有房屋面积都除以1000。
mean normalization
这里姑且将它称作均值归一化处理，假设μ1为房屋面积平均值，s1为房屋面积最大值减最小值（也是所谓的range），均值归一化处理如下：
$x 1 = x 1 - μ 1 s 1$
polynomial regression
除了多特征以外，其实每个特征本身还可以根据幂次的不同，进行趋势走向的影响。
例如，假设只有房屋面积这一个因素，然后有两个特征分别是面积和面积的平方，得到如下式子：
$h θ (x) = θ 0 + θ 1 x 1 + θ 2 x 21$
得到了一元二次方程，那么可以构想此式得到的趋势图像极有可能是先上升到顶点再下降的，那么可能并不太符合房价预期。
但是如下式子可能就会符合一点，趋势图像极有可能是由快变慢上升
$h θ (x) = θ 0 + θ 1 x 1 + θ 2 x 1 ‾ ‾ \sqrt$

0 0