协方差矩阵的详细说明
来源:互联网 发布:数据分类汇总步骤 编辑:程序博客网 时间:2024/04/30 09:12
文章来源:http://blog.csdn.net/faceRec/article/details/1697362
协方差矩阵的详细说明
黄叶权 整理于2007-7-18
在做人脸识别的时候经常与协方差矩阵打交道,但一直也只是知道其形式,而对其意义却比较模糊,现在我根据单变量的协方差给出协方差矩阵的详细推导以及在不同应用背景下的不同形式。
变量说明:
设为一组随机变量,这些随机变量构成随机向量,每个随机变量有m个样本,则有样本矩阵
(1)
其中 对应着每个随机向量X的样本向量,对应着第i个随机单变量的所有样本值构成的向量。
单随机变量间的协方差:
随机变量之间的协方差可以表示为
(2)
根据已知的样本值可以得到协方差的估计值如下:
(3)
可以进一步地简化为:
(4)
协方差矩阵:
(5)
其中,从而得到了协方差矩阵表达式。(5)不清楚怎么由上面一步推出的?
如果所有样本的均值为一个零向量,则式(5)可以表达成:
(6)
补充说明:
1、协方差矩阵中的每一个元素是表示的随机向量X的不同分量之间的协方差,而不是不同样本之间的协方差,如元素Cij就是反映的随机变量Xi, Xj的协方差。
2、协方差是反映的变量之间的二阶统计特性,如果随机向量的不同分量之间的相关性很小,则所得的协方差矩阵几乎是一个对角矩阵。对于一些特殊的应用场合,为了使随机向量的长度较小,可以采用主成分分析的方法,使变换之后的变量的协方差矩阵完全是一个对角矩阵,之后就可以舍弃一些能量较小的分量了(对角线上的元素反映的是方差,也就是交流能量)。特别是在模式识别领域,当模式向量的维数过高时会影响识别系统的泛化性能,经常需要做这样的处理。
3、必须注意的是,这里所得到的式(5)和式(6)给出的只是随机向量协方差矩阵真实值的一个估计(即由所测的样本的值来表示的,随着样本取值的不同会发生变化),故而所得的协方差矩阵是依赖于采样样本的,并且样本的数目越多,样本在总体中的覆盖面越广,则所得的协方差矩阵越可靠。
4、如同协方差和相关系数的关系一样,我们有时为了能够更直观地知道随机向量的不同分量之间的相关性究竟有多大,还会引入相关系数矩阵。- 协方差矩阵的详细说明
- 协方差矩阵的详细说明
- 协方差矩阵的详细说明
- 协方差矩阵的详细说明
- 协方差矩阵的详细说明
- 协方差矩阵的详细说明 .
- 协方差矩阵的详细说明
- 协方差矩阵的详细说明
- 协方差矩阵的详细说明
- 协方差矩阵的详细说明
- 协方差矩阵、相关矩阵的详细说明
- 协方差矩阵、相关矩阵的详细说明
- 协方差矩阵、相关矩阵的详细说明
- 协方差矩阵的详细说明 -------转
- 协方差矩阵的计算方法
- 协方差矩阵的计算方法
- 协方差矩阵的计算
- 协方差矩阵的意义
- java 字符串 拼接 剪切 倒序 (摘)
- DWR高级主题之DWR与spring集成(使用SpringMVC时dwr:controller标签说明)
- SharePoint Server 2007的帮助和使用方法
- POJ-1273(dinic-最大流,递归实现)
- 调用Android短信软件进行短信群发
- 协方差矩阵的详细说明
- vmware修改MAC地址的方法
- 很久没有来博客记录东西了
- csdn之旅---第一课
- apache 重定向 IIS 访问
- vs2010 mfc 菜单字体
- Java学习笔记之FreeTTS(语音)
- 培训之路四——项目管理
- win7 vs2008 release mt.exe停止工作