用python实现5种不同回归方法

假设有，输入为，参数theta为

其中，是特征矩阵，假设这个矩阵式一个k阶的多项式转换。

其中

那么定义如下变量:

y(输出):

特征变换矩阵:

x(输入):

5种回归方法公式如下：

具体实现，已传到 https://github.com/sawyer7246/LinearRegressionCompare

里面包含了，不同方法的实现，以及比较测试的实现。

第一次用Python写代码，里面很多值得修改和优化的地方，但苦于事情太多，草草了事没有做过多优化，毕竟重点是在与方法的实现和掌握。

关于Python的使用感受，作为一个Java程序员，心中在不断发出惊叹，“卧槽，还能这么玩”，“我去，这么6，可以少写好多代码”。 Anyway, 因为OO中毒很深，所以下意识得写了一个RegressionModel的父类，没啥太大用处，或许将来继承时候可以用得到。

另外，里面还有一个是回归在识别图像中人数的应用，挺有意思的。

enjoy!

欢迎斧正~