菜鸟学概率统计——高斯分布

参考：

http://baike.baidu.com/view/45379.htm?fromtitle=高斯分布&fromid=10145793&type=syn

正态分布（Normal distribution）又名高斯分布（Gaussian distribution），是一个在数学、物理及工程等领域都非常重要的概率分布，在统计学的许多方面有着重大的影响力。若随机变量X服从一个数学期望为μ、方差为σ^2的高斯分布，记为N(μ，σ^2)。其概率密度函数为正态分布的期望值μ决定了其位置，其标准差σ决定了分布的幅度。因其曲线呈钟形，因此人们又经常称之为钟形曲线。我们通常所说的标准正态分布是μ = 0,σ = 1的正态分布

•  定义

 正态分布最早由A.棣莫弗在求二项分布的渐近公式中得到。C.F.高斯在研究测量误差时从另一个角度导出了它。P.S.拉普拉斯和高斯研究了它的性质。

正态分布是最重要的一种概率分布。正态分布概念是由德国的数学家和天文学家Moivre于1733年首次提出的，但由于德国数学家Gauss率先将其应用于天文学家研究，故正态分布又叫高斯分布，高斯这项工作对后世的影响极大，他使正态分布同时有了“高斯分布”的名称，后世之所以多将最小二乘法的发明权归之于他，也是出于这一工作。高斯是一个伟大的数学家，重要的贡献不胜枚举。但现今德国10马克的印有高斯头像的钞票，其上还印有正态分布的密度曲线。这传达了一种想法：在高斯的一切科学贡献中，其对人类文明影响最大者，就是这一项。在高斯刚作出这个发现之初，也许人们还只能从其理论的简化上来评价其优越性，其全部影响还不能充分看出来。这要到20世纪正态小样本理论充分发展起来以后。拉普拉斯很快得知高斯的工作，并马上将其与他发现的中心极限定理联系起来，为此，他在即将发表的一篇文章（发表于1810年）上加上了一点补充，指出如若误差可看成许多量的叠加，根据他的中心极限定理，误差理应有高斯分布。这是历史上第一次提到所谓“元误差学说”——误差是由大量的、由种种原因产生的元误差叠加而成。后来到1837年，海根（G.Hagen）在一篇论文中正式提出了这个学说。

其实，他提出的形式有相当大的局限性：海根把误差设想成个数很多的、独立同分布的“元误差” 之和，每只取两值，其概率都是1/2，由此出发，按狄莫佛的中心极限定理，立即就得出误差（近似地）服从正态分布。拉普拉斯所指出的这一点有重大的意义，在于他给误差的正态理论一个更自然合理、更令人信服的解释。因为，高斯的说法有一点循环论证的气味：由于算术平均是优良的，推出误差必须服从正态分布；反过来，由后一结论又推出算术平均及最小二乘估计的优良性，故必须认定这二者之一（算术平均的优良性，误差的正态性） 为出发点。但算术平均到底并没有自行成立的理由，以它作为理论中一个预设的出发点，终觉有其不足之处。拉普拉斯的理论把这断裂的一环连接起来，使之成为一个和谐的整体，实有着极重大的意义。

• 特性

 服从正态分布的变量的频数分布由μ、σ完全决定。

集中性：正态曲线的高峰位于正中央，即均数所在的位置。对称性：正态曲线以均数为中心，左右对称，曲线两端永远不与横轴相交。

均匀变动性：正态曲线由均数所在处开始，分别向左右两侧逐渐均匀下降。

正态分布有两个参数，即均数μ和标准差σ，可记作N（μ，σ2）：均数μ决定正态曲线的中心位置；标准差σ决定正态曲线的陡峭或扁平程度。σ越小，曲线越陡峭；σ越大，曲线越扁平。

u变换：为了便于描述和应用，常将正态变量作数据转换。μ是正态分布的位置参数，描述正态分布的集中趋势位置。正态分布以X=μ为对称轴，左右完全对称。正态分布的均数、中位数、众数相同，均等于μ。

σ描述正态分布资料数据分布的离散程度，σ越大，数据分布越分散，σ越小，数据分布越集中。也称为是正态分布的形状参数，σ越大，曲线越扁平，反之，σ越小，曲线越瘦高。

面积分布

1．实际工作中，正态曲线下横轴上一定区间的面积反映该区间的例数占总例数的百分比，或变量值落在该区间的概率（概率分布）。不同 范围内正态曲线下的面积可用公式计算。

⒉几个重要的面积比例轴与正态曲线之间的面积恒等于1。正态曲线下，横轴区间（μ-σ，μ+σ）内的面积为68.268949%，横轴区间（μ-1.96σ，μ+1.96σ）内的面积为95.449974%，横轴区间（μ-2.58σ，μ+2.58σ）内的面积为99.730020%。

1.当x<；μ时，曲线上升；当x>；μ时，曲线下降。当曲线向左右两边无限延伸时，以x轴为渐近线。2.正态曲线关于直线x=μ对称。3.σ越大，正态曲线越扁平；σ越小，正态曲线越尖陡。4.在正态曲线下方和x轴上方范围内区域面积为1。3σ原则：P（μ-σ<X≤μ+σ）=68.3%P（μ-2σ<X≤μ+2σ）=95.4%P（μ-3σ<X≤μ+3σ）=99.7%，称为“68-95-99.7法则”或“经验法则”

“小概率事件”和假设检验的基本思想 “小概率事件”通常指发生的概率小于5%的事件，认为在一次试验中该事件是几乎不可能发生的。这种认识便是进行推断的出发点。关于这一点我们要有以下两个方面的认识：一是这里的“几乎不可能发生”是针对“一次试验”来说的，因为试验次数多了，该事件当然是很可能发生的；二是当我们运用“小概率事件几乎不可能发生的原理”进行推断时，我们也有5%的犯错误的可能。

为了应用方便，常对正态分布变量X作变量变换。

该变换使原来的正态分布转化为标准正态分布(standard normal distribution），亦称u分布。u被称为标准正态变量或标准正态离差（standard normal deviate）。实际工作中，常需要了解正态曲线下横轴上某一区间的面积占总面积的百分数，以便估计该区间的例数占总例数的百分数（频数分布）或观察值落在该区间的概率。正态曲线下一定区间的面积可以通过附表1求得。对于正态或近似正态分布的资料，已知均数和标准差，就可对其频数分布作出概约估计。