分类
来源:互联网 发布:mac 备份系统 编辑:程序博客网 时间:2024/04/27 17:41
从概率的角度讲,以分类为例,机器学习的目的是从训练数据中学习并估计后验概率
对于生成模型来说,当假设了数据变量服从某种概率分布时,概率分布模型的学习过程变成了参数估计过程。
广义线性模型
一般线性回归
logistic回归
对
朴素贝叶斯分类
朴素贝叶斯分类的主要思想是:对于待分类数据
后验概率
其中,
最大熵分类
最大熵分类的原理是对于待分类数据
上述可以根据拉格朗日对偶性转化为极大极小问题。
最大熵模型与Logistics模型
两者均属于对数线性模型,一般使用极大似然估计学习模型中的参数。两者也均可形式化为无约束最优化问题,从而使用梯度下降、牛顿法等求解。
最大熵模型是多分类的Logistics模型。详见这里
最大熵分类与朴素贝叶斯分类
都是求给定输入
参考
最大熵模型
1.http://www.cs.cmu.edu/afs/cs/user/aberger/www/html/tutorial/tutorial.html
最大熵模型与Logistics 模型的关系
1. https://www.quora.com/What-is-the-relationship-between-Log-Linear-model-MaxEnt-model-and-Logistic-Regression#
2. Mount J. The equivalence of logistic regression and maximum entropy models[J]. URL: http://www. win-vector. com/dfiles/LogisticRegressionMaxEnt. pdf, 2011.
3. http://www.win-vector.com/blog/2011/09/the-equivalence-of-logistic-regression-and-maximum-entropy-models/
- 分类
- 分类
- 分类
- 分类
- 分类
- 分类
- 分类
- 分类
- 分类
- 分类
- 分类
- 分类
- 分类
- 分类
- 分类
- 分类
- 分类
- 分类
- 【洛谷 P1373 小a和uim之大逃离】dp
- 变态跳台阶
- 级联下拉菜单的实现
- Codeforces Round #363 (Div. 2) C. Vacations (DP)
- 总结广告或垃圾ip
- 分类
- cas服务器登录页面添加验证码
- DJi GuidanceSDK调研报告
- xss
- Access denied for user 'root'@'localhost' (using password: NO)
- 【Ceph学习之一】Centos7上部署Ceph存储集群以及CephFS的安装
- WEB安全系列之如何挖掘任意文件读取漏洞
- Matlab和simulink仿真轮式机器人防撞
- 旋转数组的最小数字