复习机器学习算法：贝叶斯分类器

   

    

朴素贝叶斯算法是寻找一个极大后验假设（MAP），即候选假设的最大后验概率。

 

如下：

在朴素贝叶斯分类器中，假设样本特征之间是独立的，则有：

计算每个假设的后验概率，选出最大的概率，对应的类别就是样本的分类结果。

 

优缺点：

对小规模的数据表现很好，适合多分类任务，适合增量式训练。当时，需要样本的特征之间独立性较高，不能有太多的相关性。对输入数据的表达形式很敏感。

 

还有，当样本中某个特征在该类别中出现次数为0，即P(ai |vj)=0, 导致上式的分子全部为0. 这个时候需要使用m-估计和贝叶斯结合，如下：