关于 工程中常用的矩阵理论 的那点小事

一、正交变换

  正交变换是保持图形形状和大小不变的几何变换，包含旋转，平移，轴对称及上述变换的复合。

二、期望、方差、协方差

  在二维随机变量（X,Y）中，

  1、期望EX 和EY分别反映了X,Y各自的总体平均值。

  2、方差DX和DY反映了总体相对于平均值的稳定程度。

  3、协方差则表示了X与Y之间的相互关系。方差是协方差的一个特殊情况，当两个变量是相同的情况的协方差就是方差。

  给出协方差的数学公式：COV(X，Y)=E[(X-E(X))(Y-E(Y))]

 具体的：（1）如果两个变量的变化趋势一致，也就是说如果其中一个大于自身的期望值，另外一个也大于自身的期望值，那么两个变量之间的协方差就是正值。

        （2）如果两个变量的变化趋势相反，即其中一个大于自身的期望值，另外一个却小于自身的期望值，那么两个变量之间的协方差就是负值。

        （3）协方差==0，表示X与Y之间不存在线性关系。协方差==0的两个变量之间是不相关的。

                  讨论XY独不独立，就是讨论XY之间是否存在任何一种关系，线性关系是独不独立范畴之内的一个因素。如果X与Y是独立的，则协方差是0（他们之间没任何关系，显然就没有线性关系了）；反过来，如果协方差==0，则X与Y不一定独立，因为协方差只表示X与Y的线性关系，协方差==0，表示X与Y之间不存在线性关系。

三、特征值、特征向量

  1、特征值：

  设A为n阶矩阵，若存在常数λ及非零的n维向量x，使得

  Ax=λx，

  则称λ是矩阵A的特征值，x是A属于特征值λ的特征向量。

  解释：

  特征向量x经过A变换后，变换的结果仅仅是将向量在尺度上改变为原来的 λ 倍，

 2、特征向量

 特征向量经过A变换后，得到的新向量与原来的旧向量仍然维持在一条直线上（大小有可能会改变），这样的向量叫做变换A的特征向量

 如图，在蒙娜丽莎的图像中有3个向量 红、橙、黄。

 经过左右翻转后，红色向量长度和方向（确切的说反转前后新旧向量都维持在一条直线上）都没变，他的特征值是1.

 黄色向量，他的大小没变，方向刚好倒转，所以他的特征值是1

 橙色向量变换后，新旧向量不能维持在一条直线上，所以不是反转变换的特征向量

四、基向量

  1、空间内任意的向量都可以由这组向量表示，则这组向量就是基向量。（基向量间是线性无关的）

五、协方差矩阵

  1、协方差矩阵是一个矩阵，元素 Aij 表示向量Xi 与向量Xj之间的协方差。

  2、协方差矩阵的巨大作用：（1）通过观察协方差分对角线元素的值可以知道向量之间的相关性 （2）由协方差矩阵的特征向量构成的矩阵A，是一个特别有用的变换矩阵，该矩阵可以去掉向量之间的相关性

六、标准差

  1、标准差是方差的算术平方值，标准差可以用来描述数据集的离散程度（各个数据偏离平均数距离的平均值）