线性回归

优点：结果易于理解，计算上不复杂
缺点：对非线性的数据拟和不好
适用数据类型：数据型和标称型数据

1.定义

回归最简单的定义是，给出一个点集D，用一个函数去拟合这个点集，并且使得点集拟合函数间的误差最小。如果这个函数曲线是一条直线，就被称为线性回归。

2.目的

回归的目的就是建立一个回归方程用来预测目标值，回归的求解就是求这个方程的回归系数，预测方法就是用回归系数乘以输入值再全部相加就得到了预测值，即

3.普通最小二乘法

特点：

给定输入矩阵X,如果的逆存在并可以求得，就可以直接采用该方法求解。

公式：

矩阵X为（m,n+1)矩阵，m为样本数，n表示一个样本的特征数，Y为（m,1)列向量。

推导：