机器学习 笔记一

线性建模：最小二乘法

首先，通过一个实例来考虑 机器学习 最直接的学习问题—— 线性建模 ： 在属性和响应之间 学习线性关系。

1、定义模型

在机器学习中，从一个合适的数据集中学习模型参数是一个普遍的问题。

2、模型假设

为了便于选择特定的模型来使用，我们需要做一些假设， 这个阶段的初始假设是 x 与t的关系是线型的。

t=f(x) =x

t=f(x) =ax

t=f(x) =ax+c

3、定义什么是好模型：

1、平方损失函数

2、其它的损失函数适合回归：绝对损失

历史上，平方损失的最小化是函数估计的最小二乘误差法 的基础