《统计学习方法》笔记——朴素贝叶斯算法
来源:互联网 发布:手机网络电视直播大全 编辑:程序博客网 时间:2024/06/05 23:48
朴素贝叶斯算法概述
朴素贝叶斯(naive Bayes)法是基于贝叶斯定理与特征条件独立假设的分类方法。对于给定的训练数据集,首先基于特征条件独立假设学习输入/输出的联合概率分布;然后基于此模型,对于给定的输入x,利用贝叶斯定理求出后验概率最大的输出y。
算法流程
1.朴素贝叶斯法是典型的生成学习方法,生成方法由训练数据学习联合概率分布P(X,Y),然后求得后验概率分布P(Y|X)。即,利用训练数据学习P(X|Y)和P(Y)的估计,得到联合概率分布:
概率估计方法可以是极大似然估计或贝叶斯估计。
2.朴素贝叶斯的基本假设是条件独立,
这是一个较强的假设。由于这一假设,模型包含的条件概率的数量大为减少,朴素贝叶斯的学习与预测大为简化。因而朴素贝叶斯算法高效且易于实现,其缺点是分类的性能不一定很高。
3.朴素贝叶斯法利用贝叶斯定理与学到的联合概率模型进行分类预测。
将输入x分到后验概率最大的类y。
后验概率最大等价于0-1损失函数时的期望风险最小化。
优缺点及适用范围
优点:在数据较小的情况下仍然有效,可以处理多类别问题。
缺点:对于输入数据的准备方式较为敏感。
适用数据类型:标称型数据。
阅读全文
0 0
- 《统计学习方法》笔记——朴素贝叶斯算法
- 统计学习方法第四章笔记——朴素贝叶斯
- 统计学习方法笔记-朴素贝叶斯
- 统计学习方法——朴素贝叶斯
- 《统计学习方法》笔记(五)--朴素贝叶斯
- 《统计学习方法》笔记(4):朴素贝叶斯
- 《统计学习方法》学习笔记(四)——朴素贝叶斯法
- 统计学习方法--朴素贝叶斯
- 统计学习方法——第四章朴素贝叶斯
- 统计学习方法:朴素贝叶斯方法
- 《统计学习方法》+朴素贝叶斯算法+C++代码(简单)实现
- 统计学习方法笔记(四)朴素贝叶斯方法
- 《统计学习方法》第四章朴素贝叶斯学习笔记
- 统计学习方法笔记, 第四章,朴素贝叶斯python实现
- 统计学习方法笔记,第四章朴素贝叶斯法
- 《统计学习方法》笔记——算法性能度量
- 《统计学习方法》笔记——决策树之ID3算法
- 统计学习方法--朴素贝叶斯 python实现
- JSF表达式语言
- C#新建数组
- jQuery EasyUI API
- redis和Memcached区别
- Linux基础笔记
- 《统计学习方法》笔记——朴素贝叶斯算法
- JavaScript的执行原理
- OpenCV学习笔记 利用MFC的Picture控件显示图像+播放视频和捕获摄像头画面
- 使用binary search 计算开放 完全平方
- 验证登陆
- 索引的应用场景以及如何使用
- npm常用命令详解
- 解决ubuntu中vi不能正常使用方向键与退格键的问题
- Spring-boot actuator