监督学习应用-梯度下降

来源:互联网 发布:ubuntu软件更新器 编辑:程序博客网 时间:2024/06/05 09:05

监督学习的应用:梯度下降

监督学习:就是人们常说的分类,通过该已有的训练样本(已知数据及相应的输出)去训练得到一个最优模型(这个模型属于某个函数集合,最优则表示在某个评价准则下的最优),再利用这个模型将所有的输入映射成相应的输出,对输出进行简单的判断,从而实现分类的目的,是系统具有对未知数据进行分类的目的。

监督学习典型的例子:KNN、SVM。

以一个房屋价格估计为例,讲解监督学习的应用:梯度下降

首先引入一些变量,这些变量在后续的推理证明过程中会经常使用到:

m:便是训练样本的数量;

x:便是输入变量(在具体的问题中表示的意义不一样,在本例中表示房屋的面积等房屋的特征(feature));

Y:表示输出变量(在本例中就代表房屋的价格(target));

(x,y):表示一个训练样本;

     第i个训练样本用()来表示;

    基本模型:

            

   假设h(x)=  

h(x)为输出函数,即房屋价格;θ为函数参数;x是房屋的大小

当然,衡量一个房屋的价值和房屋多方面的因素有关,除了大小外,还有其他的特征作为房屋价值评估标准,所以实际的函数应该是:

     


使用MATLAB语言实现简单的线性回归模型:



 

                          


 

1 0