【机器学习1】线性回归，贝叶斯

1. 房屋销售的例子：

 这是一个最基础的一元方程的回归问题，其方程的基本形式为y=ax+b，matlab中有现成的regress函数可以调用，操作如下：

 x1=[123 150 87 102]';

y=[250 320 160 220]'；

x=[zeros(4,1) x1]; // 因为这里涉及一个常数c的问题，固定做法直接把常数对应的那一列设置为1；

b=regress[y, x];

从而即可得到线性回归的结果：y=2.4029x-40.04。

这种思路就是判别的思路，代表了一种解决问题的方式：先根据training set训练数据，得到结果，然后采用测试数据进行测试，根据已有的结论预测测试数据的结果。

2.贝叶斯规则

首先先参考一个例子，这个例子相信都会明白，因为概率论经常会有类似的问题：

某地区的人口中患有某病的概率是0.008，我们对一些人进行了测试，该测试针对有病的患者有0.98的可能返回正确判断；针对无病的人有0.97的可能性返回正确判断，现在已知A经测试判断为有病，那么是否应该断定A真的患有该病？ 

设 h: 该人患病；x:经测试后判断患病；y:经测试后判断为无病；

则 p(h)=0.008    p(x|h)=0.98  p(y|¬h)=0.97 那么待求的便是p(h|x)=p(x|h)*p(h) / p(x) = p(x|h)*p(h) / p(x|h)*p(h)+p(x|¬h)*p(¬h)=0.008*0.98 / *** = 0.21；

可以看出这个人极有可能是没病。