漫步数理统计十二——随机变量的期望

本篇讲解期望运算，之后内容都会涉及到这种运算。

定义1：(期望)令X表示一个随机变量，如果X 是连续的随机变量，pdf为f(x)且

∫∞−∞|x|f(x)dx<∞

那么X的期望为

E(X)=∫∞−∞xf(x)dx

如果X是离散随机变量，pmf为p(x)且

∑x|x|p(x)<∞

那么X的期望为

E(X)=∑xxp(x)

有时候期望E(X)称为X的数学期望，X的期望值或者X 的均值。当用均值时，我们经常将E(X)表示成μ；即μ=E(X)。

例1：考虑一个常数的随机变量，即随机变量它的质量均为常数k，也就是pmfp(k)=1的离散随机变量。因为|k|是有限的，所以根据定义我们有

E(k)=kp(k)=k

注1：期望或期望值这些属于来源于机会游戏，说明如下：有四个相同大小的球，分别标号为1,1,1,2并放到一个盒子中。选手蒙上眼睛并从盒子中抽球，如果抽到数字1，那么选手赢得1元，如果抽到2，那么赢得2元。我们可以假设该选手有3/4的概率赢得1元，1/4的概率赢得2元，他总共可以赢得1(3/4)+2(1/4)=(5/4)元，即1.25元，因此X的期望也就是该选手在游戏中获得的钱数。

例2：离散随机变量X的pmf如下表所示：

如果x不等于前四个正整数，那么p(x)=0，这就表明我们没有必要用一个公式来描述pmf。基于上面的表格我们有

E(X)=(1)(410)+(2)(110)+(3)(310)+(4)(210)=2310=2.3

例3：令X的pdf为

f(x)={4x300<x<1elsewhere

那么

E(X)=∫10x(4x3)dx=∫104x4dx=[4x55]10=45

现在考虑随机变量X的函数，称为Y=g(X)。因为Y是一个随机变量，所以通过求出Y的分布即可得到它的期望，然而如下面定理说述，我们可以用X的分布确定Y的期望。

定理1：令X表示一个随机变量，存在某个函数g使得Y=g(X)

1. 假设X是连续的，pdf为fX(x)。如果∫∞−∞|g(x)|fX(x)dx<∞，那么Y的期望存在且为
   
   E(Y)=∫∞−∞g(x)fX(x)dx
2. 假设X是离散的，pmf为pX(x)。假设X的支撑用SX表示，如果Σx∈SX|g(x)|pX(x)<∞，那么Y的期望存在且为
   
   E(Y)=∑x∈SXg(x)pX(x)

证明：我们给出离散情况的证明，假设绝对收敛，

∑x∈SX|g(x)|pX(x)<∞

意味着下面的结论为真：

1. 级数Σx∈SXg(x)pX(x)收敛
2. 上式或1中级数的重排跟原级数一样，收敛到相同的值。
   我们需要的重排是Y的支撑SY，结果2说明
   
   ∑x∈SX|g(x)|pX(x)=∑y∈SY∑{x∈SX:g(x)=y}|g(x)|pX(x)=∑y∈SY|y|∑{x∈SX:g(x)=y}pX(x)=∑y∈SY|y|pY(y)

左边是有限的；因此右边也是有限的，所以E(Y)存在。根据2，我们可以得出与上面一样的另一组等式，因此

∑x∈SXg(x)pX(x)=∑y∈SYypY(y)=E(Y)

即所要求的结论。

定理1说明了期望运算E是一个线性运算。

定理2：令g1(X),g2(X)是随机变量X的函数，假设g1(X),g2(X)的期望存在，那么对任意常数k1,k2，k1g1(X)+k2g2(X)的期望存在且为

E[k1g1(X)+k2g2(X)]=k1E[g1(X)]+k2E[g2(X)]

证明：对于连续情况，存在性来自于假设，三角不等式与积分的线性；即

∫∞−∞|k1g1(x)+k2g2(x)|fX(x)dx≤|k1|∫∞−∞|g1(x)|fX(x)dx+|k2|∫∞−∞|g2(x)|fX(x)dx<∞

离散情况与此类似，用到的是和的线性性质。

下面的例子说明这些定理。

例4：令X的pdf为

f(x)={2(1−x)00<x<1elsewhere

那么

E(X)=∫∞−∞xf(x)dx=∫10(x)2(1−x)dx=13E(X2)=∫∞−∞x2f(x)dx=∫10(x2)2(1−x)dx=16

当然

E(6X+3X2)=6(13)+3(16)=52

例5：令X的pmf为

p(x)={x60x=1,2,3elsewhere

那么

E(X3)=∑xx3p(x)=∑x=13x3x6=16+166+816=986

例6：随机变量X的pdf为

f(x)={1500<x<5elsewhere

X的期望值为E(X)=5/2，5−x的期望值为E(5−x)=5/2，但是他们乘积的期望值等于

E[X(5−X)]=∫50x(5−x)(15)dx=256≠(52)2

即一般情况下，乘积的期望值不等于各自期望值的乘积。

例7：一个盒子中有五个个完全一样的球，三个标记为1，两个标记为4，一位选手蒙上眼睛，不放回地随机抽两个球，该选手获得的钱数就是两个球上面数字的总和。令X 表示标记为1的球的个数，那么在我们的假设下，X满足超几何pmf

p(x)=⎧⎩⎨⎪⎪(3x)(22−x)(52)0x=0,1,2elsewhere

如果X=x，那么选手收到u(x)=x+4(2−x)=8−3x元，因此它的数学期望等于

E[8−3X]=∑x=02(8−3x)p(x)=4410

或者4.40元。