机器学习经典算法-贝叶斯学习之朴素贝叶斯分类器
来源:互联网 发布:网络公开课免费的吗 编辑:程序博客网 时间:2024/05/16 09:57
简介
贝叶斯推理提供了一种概率手段。它基于如下的假定,即待考查的量遵循某概率分布,且可根据这些概率及已观察到的数据进行推理。(机器学习 Tom M. Mitchell)
朴素贝叶斯分类器在某些领域内性能可以与神经网络和决策树学习相当。
贝叶斯定理
贝叶斯公式:
朴素贝叶斯
朴素贝叶斯分类的目的是要在给定实例的属性值
其中
朴素贝叶斯分类器假定每个属性值之间相互条件独立,所以
朴素贝叶斯分类器:
其中
本文数据集(出自机器学习Tom M.Mitchell)如下:
使用上表的数据分类以下实例:
为了表达简便,省略了属性名称。根据数据集,可以很容易地得到:
同理可得其他。
最后计算得
假如数据集中PlayTennis=no时,观察到的Wind=Strong的数据量为0,就会出现不管其他属性多适合PlayTennis=no,也只能得到0的概率。为了解决这个问题,可以为属性的每个属性值确定一个先验估计,比如p=1/k(k为不同属性值的数量),那么该属性值的概率就可以设为
其中m为正的常量,表示该估计对数据集的影响。
当属性值为连续的实数时,假定该数据符合某种概率分布,比如正态分布,则可以使用相应的概率密度函数估计相应的概率值。
小结
由于朴素贝叶斯主要是对理论的理解,计算过程中需要计算很多中间变量,导致代码混乱,因此就不贴出来了,有需要的读者可以到这里查看。
- 机器学习-分类算法之朴素贝叶斯
- 机器学习之朴素贝叶斯分类算法
- 机器学习经典算法-贝叶斯学习之朴素贝叶斯分类器
- 机器学习之分类算法之朴素贝叶斯分类
- 机器学习之朴素贝叶斯分类器
- 机器学习----朴素贝叶斯分类算法
- 机器学习算法-朴素贝叶斯分类
- 机器学习(四):分类算法之朴素贝叶斯
- 王小草【机器学习】笔记--分类算法之朴素贝叶斯
- 机器学习笔记之朴素贝叶斯分类算法
- Python机器学习库SKLearn分类算法之朴素贝叶斯
- 机器学习经典算法3-朴素贝叶斯
- python机器学习之朴素贝叶斯分类
- 机器学习之朴素贝叶斯分类
- 机器学习之朴素贝叶斯分类
- 0基础讲解机器学习算法-朴素贝叶斯分类器
- 机器学习九大算法---朴素贝叶斯分类器
- 机器学习--朴素贝叶斯分类
- centos dns覆盖的问题
- JS学习第三天
- dubbo管控台安装
- iOS监听键盘弹出,获取键盘的高度
- 十大编程算法助程序员走上高手之路
- 机器学习经典算法-贝叶斯学习之朴素贝叶斯分类器
- 【后缀自动机】SPOJLCS SPOJNSUBSTR SPOJLCS2 HDU4416
- 第一个h5页面
- 如何理解结构体
- [eclpise+tomcat+maven spring]初体验
- 图的理解:存储结构与邻接矩阵的Java实现
- [Coursera]数据结构基础_Week4_字符串_Q2
- 解压android系统映像文件system.img
- Coco2dx 使用sqlite数据库存储以及加密数据总结