朴素贝叶斯算法学习 （一）

基础知识梳理，若有理解不透彻、错误的地方希望大家留言指正谢谢。

第一、对先验概率、后验概率理解

通俗易懂的解释：

先验概率：对还没有发生的事件，求发生的可能性大小称为先验概率        （全概率公式中的应用：P(A)=P(A|B1)*P(B1) + P(A|B2)*P(B2) + ... + P(A|Bn)*P(Bn)，Bi为完备事件）

后验概率：对已经发生的事件，求由某种因素引起的该事件发生的概率大小，称为后验概率       （贝叶斯公式中的应用：P(A|B)=P(B|A)*P(A)/P(B)，是通过先验概率P(B|A)、P(A)、P(B)求后验概率P(A|B)；即事件B是发生在事件A之后的，P(A|B)是已知B事件发生了，求该次事件是由A因素引起的大小，所以说贝叶斯用到了后验概率）

下面引用一个很多博客都用过的一个例子：

有三个门，其中一个门后面是一个重要礼品如一辆轿车，另两个门后面是空的。主持人让你任选一个，如果选中的门后面是轿车，你就可以得到它。当然如果是空的，你就什么都得不到。主持人是知道哪一道门后面有轿车的。你在选了一个门之后，主持人打开另二个门中的一个，打开后里面是空的。
这个时候主持人给你一个机会，你可以改变你的选择，也可以坚持原来的选择。

　　
请问，你是否应该改变刚才的选择？！”

解答：设三个门分别为A、B、C，选手打开了B门（发现B门后没有车），主持人打开A门（主持人知道哪个门后面有车），问选手应该换还是不换？

这道题需要求解的是：选手抽中车这个事件已经发生，在该事件发生的前提下，求由换门和没有换门引起该事件的概率，最后选手应该选择概率大的那个。设车在B门后，主持人打开A门的概率为K，打开B门的概率为1-K

(换门)第二次选择：选手选择换门，抽中车的概率

如果要抽中车，车必在C门后面。（因为选手第一次选择的是B门，主持人打开了A门，选手换门后，必选择的的是C门，所以车必需在C门后面）

P（C门后有|A门打开）=P(A门打开，C门后有)/P（A门打开）

                                    ={P（A门打开|C门后有）*P（C门后有）}/{P（A门打开|C门后有）*P（C门后有）+P（A门打开|B门后有）*P（B门后有）+P（A门打开|A门后有）*P（A门后有）}

                                    =(1  *  1/3)  /  (1  *  1/3  +  K  *  1/3  +  0  *  1/3)

                                    =1  /  （1+K）

（不换门）第二次选择：选手选择不换门，抽中车的概率

如果要抽中车，车必在B门后面。（因为选手第一次选择的是B门，选手从此就不再换门，所以车必需在B门后面）

P（B门后有|A门打开）=P(A门打开，B门后有)/P（A门打开）

                                    ={P（A门打开|B门后有）*P（B门后有）}/{P（A门打开|C门后有）*P（C门后有）+P（A门打开|B门后有）*P（B门后有）+P（A门打开|A门后有）*P（A门后有）}

                                    =(K  *  1/3)  /  (1  *  1/3  +  K  *  1/3  +  0  *  1/3)

                                    =K  /  （1+K）

P（换门）= 1  /  （1+K）

P（不换门） =  K  /  （1+K）

因为K小于1，所以P（换门）> P(不换门)