相关性检验

来源：互联网发布：弱智吧知乎编辑：程序博客网时间：2024/04/29 10:38

本文给出两种相关系数，系数越大说明越相关。你可能会参考另一篇博客独立性检验。

皮尔森相关系数

皮尔森相关系数（Pearson correlation coefficient）也叫皮尔森积差相关系数（Pearson product-moment correlation coefficient），是用来反应两个变量相似程度的统计量。或者说可以用来计算两个向量的相似度（在基于向量空间模型的文本分类、用户喜好推荐系统中都有应用）。

皮尔森相关系数计算公式如下：

$\rho_{X,Y}=\frac{cov(X,Y)}{\sigma_x\sigma_y}=\frac{E((X-\mu_x)(Y-\mu_y))}{\sigma_x\sigma_y}$

分子是协方差，分子是两个变量标准差的乘积。显然要求X和Y的标准差都不能为0。

因为 $\mu_X=E(X),\sigma^2_X=E(X-\mu_X)^2=E(X^2)-E^2(X)$ ,所以皮尔森相关系数计算公式还可以写成：

$\rho_{X,Y}=\frac{E(XY)-E(X)E(Y)}{\sqrt{E(X^2)-E^2(X)}\sqrt{E(Y^2)-E^2(Y)}}$

当两个变量的线性关系增强时，相关系数趋于1或-1。正相关时趋于1，负相关时趋于-1。当两个变量独立时相关系统为0，但反之不成立。比如对于 $y=x^2$ ，X服从[-1,1]上的均匀分布，此时E(XY)为0，E(X)也为0，所以 $\rho_{X,Y}=0$ ，但x和y明显不独立。所以“不相关”和“独立”是两回事。当Y 和X服从联合正态分布时，其相互独立和不相关是等价的。

对于居中的数据来说（何谓居中？也就是每个数据减去样本均值，居中后它们的平均值就为0），E(X)=E(Y)=0，此时有： $\rho_{X,Y}=\frac{E(XY)}{E(X^2)E(Y^2)}=\frac{X\cdot{Y}}{||X||\cdot||Y||}$

即相关系数可以看作是两个随机变量中得到的样本集向量之间夹角的cosine函数。

进一步当X和Y向量归一化后，||X||=||Y||=1，相关系数即为两个向量的乘积。

Spearman秩相关系数

首先说明秩相关系数还有其他类型，比如kendal秩相关系数。

使用Pearson线性相关系数有2个局限：

必须假设数据是成对地从正态分布中取得的。
数据至少在逻辑范围内是等距的。

对于更一般的情况有其他的一些解决方案，Spearman秩相关系数就是其中一种。Spearman秩相关系数是一种无参数（与分布无关）检验方法，用于度量变量之间联系的强弱。在没有重复数据的情况下，如果一个变量是另外一个变量的严格单调函数，则Spearman秩相关系数就是+1或-1，称变量完全Spearman秩相关。注意这和Pearson完全相关的区别，只有当两变量存在线性关系时，Pearson相关系数才为+1或-1。

对原始数据x_i,y_i按从大到小排序，记x'_i,y'_i为原始x_i,y_i在排序后列表中的位置，x'_i,y'_i称为x_i,y_i的秩次，秩次差d_i=x'_i-y'_i。Spearman秩相关系数为：

$\rho_s=1-\frac{6\sum{d_i^2}}{n(n^2-1)}$

位置原始X排序后秩次原始Y排序后秩次秩次差11254651786125464517846103133242455144513246620532123624162264513-3

对于上表数据，算出Spearman秩相关系数为：1-6*(1+1+1+9)/(6*35)=0.6571

查阅秩相关系数检验的临界值表

n显著水平0.010.0550.9160.8290.94370.7140.893

n=6时，0.6571<0.829，所以在0.01的显著水平下认为X和Y是不相关的。

如何原始数据中有重复值，则在求秩次时要以它们的平均值为准，比如：

原始X秩次调整后的秩次0.8551.24(4+3)/2=3.51.23(4+3)/2=3.52.3221811

Spearman秩相关系数应该是从秩和检验延伸过来的，因为它们很像。