第一章 概率论的基本概念

概率论与数理统计的学习内容来源于中国大学MOOC，以及参考书籍《概率论与数理统计》第四版，浙江大学。
随机现象
　在一定条件下，有可能出现多种结果；而且在事情发生前不能知道结果。
随机试验
　概念：对随机现象的观察、记录、实验。
　特征：1 在相同条件下可重复进行；2 事先知道所有可能的结果；3试验前不知道哪个结果会发生。

样本空间
　概念：所有可能结果的集合。一般用S表示。S={e}。
　每一个可能的结果称为样本点。
　例子：S={正面、反面} S={0,1,2,…} S={x:x>=0} S={(正，反)，(正,正),)(反，反)，（反，正）}

随机事件
样本空间的子集称为随机事件，简称事件。
事件Ａ发生，一定是Ａ中的一个样本点发生。
事件表示方法
　语言：事件Ａ＝至少有５个人在候车
　集合：A={5,6,7,…}
分类
　必然事件：一定会发生的事件。例如Ｓ。
　基本事件：只有一个样本点的事件。事件C=只有3人候车；或者C={3}
　不可能事件：每次试验都不会发生的事件。D={x:x>=3 且x<3}

事件关系
　１包含 A⊂B
　2 相等 A=B
　3 互斥 A∩B=ϕ
　4 对立事件/逆事件A¯¯¯

事件运算
　1 A∩B
　2 A∪B
　3 A−B={x|x∈A且x∉B}
　4 A¯¯¯
　运算定律
　　１交换律
　　２结合律
　　３分配律
　　４对偶律／摩根定律
　　
　　
　韦恩图

频率
fn(A)=nan A在n次试验中发生的次数。
性质
　1 0<=fn(A)<=1
　2 fn(S)=1
　3 互不相容事件的概率=每个事件概率的和

概率
　随着n增加fn(A)趋于稳定值p，p称为事件A的概率。
　公理化定义：P(A)满足 非负；P(S)=1；k个互斥事件的P=∑ki=1P(Ai)，则称P(A)是事件A的概率。
　性质
　　１P(ϕ)=0
　　2 P(A)=1-P(A¯¯¯)
　　3 互斥：概率和
　　4 如果A⊂B，则P(B-A)=P(B)-P(A)。一般的事件A，B，P(B-A)=P(B)-P(AB)
　　5加法公式 P(A∪B) = P(A)+P(B)-P(AB) 推广公式 P(A∪B∪C)=P(A)+P(B)+P(C)-P(AB)-P(AC)-P(BC)+P(ABC)

等可能概型（古典概型）
　概念：如果试验样本的空间只包含有限个元素，并且试验中每个基本事件发生的可能性相同。则这种试验可以称为等可能概型。
　P(A)=A包含的样本点S包含的样本点
　例子：1 袋子里面有白球、黄球，不放回的取，第k次取到白球的概率。2 生日相同的概率。
　p(Ak)=CkaCn−kbCnN 有N个球，a个黄球，b个白球，不放回的取出n个球，求恰有k个黄球的概率。

条件概率
　P(B|A)在A发生的条件下，B发生的概率。P(B|A)=P(AB)P(A)
　
　
　与 P(AB)同时发生的概率区别。
　条件概率满足概率的所有性质。

乘法公式
　P(AB)=P(A)P(B|A)
　P(ABC)=P(A)P(B|A)P(C|AB)
　P(A1A2A3...An)=P(A1)P(A2|A1)P(A3|A1A2)...P(An|A1A2....An−1)

全概率公式

P(A)=∑ni=1P(Bi)P(A|Bi)
关键是构造合适的划分：不重不漏。

贝叶斯公式
　乘法公式 与 全概率公式推导出
　P(Bi|A)=P(ABi)P(A)==P(Bi)P(A|Bi)∑nj=1P(Bj)P(A|Bj)
　
独立事件
　概念：A、B两随机事件，如果P(AB)=P(A)P(B)，则称A、B相互独立。
　扩展：A、B相互独立=>A、B¯¯¯相互独立 A¯¯¯、B相互独立 A¯¯¯,B¯¯¯相互独立。
　N个事件独立：如果A1，A2,A3…Ann个随机事件，如果有P(A1A2A3...An)=∏nj=1P(Aj)，则称A1，A2,A3…An相互独立。 两两独立，不是相互独立。

事件关系
　１包含 A⊂B
　2 相等 A=B
　3 互斥/不相容 A∩B=ϕ
　4 对立事件/逆事件A¯¯¯
　5 独立 P(AB)=P(A)P(B)
　是否相容和是否独立是描述事件关系的两个维度，一个从是否会同时发生的角度描述，不会同时发生的事件叫不相容。另一个是从事件后效性方面理解，如果一个事件的发生对另外一个事件造成了影响，也就是说这个事件的发生产生了后效性，则两个事件不是独立事件；如果没有后效性，则认为是独立事件。

小概率事件
　如果事件A发生的概率p非常小（例如0.0001），A 被称为小概率事件。人们实践总结小概率事件在一次试验中不会发生。当试验次数n很大的时候，小概率事件不能被忽视。
　例如当p=0.0001，试验进行了n次，计算事件A至少会发生一次的概率。n=30000时, P(C) =1-(1-0.0001)^30000 =0.9502。