机器学习之数学基础——期望、方差、协方差、相关系数、矩、协方差矩阵
来源:互联网 发布:seo的优势 编辑:程序博客网 时间:2024/05/17 05:15
- 期望
- 定义
- 性质
- 方差
- 定义
- 切比雪夫不等式
- 协方差
- 定义
- 性质
- 协方差的上界
- 方差和协方差的关系
- 相关系数
- 矩
- 协方差矩阵
- 期望
期望
定义
- 离散型
- 连续型
性质
方差
定义
切比雪夫不等式
定理 设随机变量
成立。
切比雪夫(Chebbyshev)不等式也可以写成如下的形式:
切比雪夫不等式给出了在随机变量的分布未知,而只知道
协方差
对于二维随机变量(X, Y),除了需要了解X与Y的数学期望和方差意外,还需要掌握描述X与Y之间相互关系的数字特征。
定义
如果两个随机变量X和Y是相互独立的,则
亦
量
于是
协方差表达的是两个随机变量总体误差的期望。
性质
如果两个变量的变化趋势一致,也就是说如果其中一个大于自身的期望值时另外一个也大于自身的期望值,那么两个变量之间的协方差就是正值;如果两个变量的变化趋势相反,即其中一个变量大于自身的期望值时另外一个却小于自身的期望值,那么两个变量之间的协方差就是负值。
如果X与Y是统计独立的,那么二者之间的协方差就是0,因为两个独立的随机变量满足
E[XY]=E[X]E[Y] 。但是,反过来并不成立。即如果X与Y的协方差为0,二者并不一定是统计独立的。协方差为0的两个随机变量称为是不相关的。独立一定不相关,不相关不一定独立。
协方差的上界
若
当且仅当
方差和协方差的关系
相关系数
称为随机变量X与Y的相关系数,也成Pearson相关系数。
矩
定义 设
存在,称它为
若
存在,称它为
若
存在,称它为
若
存在,称它为
协方差矩阵
二维随机变量
将它们写成矩阵的形式
这个矩阵称为随机变量
设
都存在,则称矩阵
为
协方差矩阵是一个对称矩阵。
- 机器学习之数学基础——期望、方差、协方差、相关系数、矩、协方差矩阵
- 机器学习的数学基础(一)—— 期望、方差、协方差与相关系数
- 机器学习数学|期望方差协方差矩阵
- 概率统计:数学期望、方差、协方差、相关系数
- 期望,方差,协方差,标准差,协方差矩阵
- 统计-均值,期望,方差,协方差,协方差矩阵
- 方差,协方差,协方差矩阵
- 统计学概念基础---数学期望,方差,标准差,协方差
- 统计学概念基础---数学期望,方差,标准差,协方差
- 深度学习笔记:主成分分析(PCA)(1)——标准化、协方差、相关系数和协方差矩阵
- 期望、方差、协方差和矩
- [梳理]协方差、方差、相关系数
- 期望 方差 协方差 协方差矩阵 (Expectation Variance Covariance)
- 期望、方差、协方差及相关系数的基本运算
- 期望、方差、协方差及相关系数的基本运算
- 期望、方差、协方差及相关系数的原理理解和计算
- 期望、方差、协方差及相关系数的基本运算
- 协方差矩阵, 相关系数矩阵
- 科大讯飞 2017在线笔试编程题
- java抽象类
- ubuntu16.04 ROS-kinetic环境搭建
- XML类的使用
- Java多线程编程-(2)-可重入锁以及Synchronized的其他基本特性
- 机器学习之数学基础——期望、方差、协方差、相关系数、矩、协方差矩阵
- C/C++重点知识点
- 编译gcc-4.6.3
- CentOs7安装RabbitMQ
- 第八场多校联盟 Problem D: 数列问题 【矩阵快速幂】
- Arcengine开发调用GP工具(IGeoProcessor接口或Geoprocessor类)
- 浅入JVM虚拟机(一)
- STL迭代器失效情况总结
- 关于值传递指针传递和引用传递