机器学习(5)-支持向量机_Support Vector Machines

来源:互联网 发布:淘宝联盟怎么赚钱的 编辑:程序博客网 时间:2024/06/05 11:37

1、回顾逻辑回归

(1)假设函数

hθ(x)=11+eθTxhθ(x)=g(θTx)g(z)=11+ez

  • 如果y=1,想要θTx>>0,则hθ(x)1
  • 如果y=1,想要θTx<<0,则hθ(x)0

(2)代价函数

J(θ)=1mi=1m[y(i)(loghθ(x(i))))+(1y(i))(log(1hθ(x(i))))]+λ2mj=1nθ2j

2、支持向量机的代价函数

J(θ)=Ci=1m[y(i)cost1(θTx(i))+(1y(i))cost0(θTx(i))]+12j=1nθ2j

与逻辑回归的对比

  • 用C代替λ,等价关系为:C=1/λ
  • 去掉了常数1/m
  • 使用cost函数代替log,cost是log的线性拟合形式函数

3、支持向量机的假设函数

hθ(x)=10if θTx0 otherwise

原创粉丝点击