Linear Algebra - Lesson 21. 特征值和特征向量

Schedule

• Eigenvalues & Eigenvectors
• detA−λI=0
• Trace=λ1+λ2+⋯+λn

Eigenvalues & Eigenvector

Ax=λx x是特征向量,λ是特征值,可以是实数,也可以是复数.
变换前后方向一致的向量. 多数向量而言Ax并不平行于x.

如果λ=0,则x是零空间中的向量;
如果A是奇异矩阵,则λ=0是一个特征值.(换句话说, 0是不可逆矩阵的一个特征值.)

What are x’s and λ’s for projection matrix ?
Any x in the plane : Px=x
Any x⊥plane : Px=0

也就是说,对于平面内的向量, 其投影矩阵对应的特征值为1, 因为其投影后的向量就是向量自己; 对于垂直于平面的向量, 其投影后的结果Px为0, 所以投影矩阵对应的特征值为0.

假设存在向量b,其投影是Pb,b并不是特征向量因为Pb和b并不在同一方向上.

Example:

A=[0110]1x=[x1x2]

则A可以看做是将x进行变换位置的这样一个矩阵,其效果是将x1和x2的位置进行变换.

那么对于这样的矩阵,什么样的特征向量可以在进行变换后保持不变? 答案是 [11]

代入得出Ax=[0110][11]=λ[11]→λ=1
同样, -1也是A的特征值呢, 对应的特征向量则是[−11], 从而可以得出Ax=−1∗[1−1]

迹 : 特征值的和等于对角线元素和.
The sum of the eigenvalues equals the sum down the diagonal.

该怎样求解Ax=λx?
重写形式成为(A−λI)x=0,则变换后行成的新矩阵(A−λI)必须是奇异的,否则唯一的x必须是零向量和零矩阵.
对于奇异矩阵来说,行列式为零. det(A−λI)=0

Example:
假设存在矩阵A=[3113],
则det(A−λI)=∣∣∣3−λ113−λ∣∣∣=(3−λ)2−1=λ2−6λ+8,其中6表示迹,8表示行列式.
解出λ1=2,λ2=4, 回代解出特征向量.
A−4I=[−111−1] 该矩阵为奇异矩阵,对应的特征向量为x1=[11]
同理, A−2I=[1111],对应的特征向量为x2=[−11]

结合之前提到的矩阵和对应的特征值,特征向量
A1=[0110]1λ1=11x1=[11]1λ2=11x2=[−11]

A2=[3113]1λ1=41x1=[11]1λ2=21x2=[−11]

A2=A1+3I, 从而特征值均加3,特征向量不变.

如果Ax=λx,则(A+3I)x=λx+3x=(λ+3)x

Not So Great
假设Ax=λ1x Bx=λ2x
则并不能说明(A+B)x=(λ1+λ2)x
这是因为Ax=λ1x Bx=λ2x 两式中特征向量并不一定相同(通常都是不相等的).
如果B是单位矩阵的倍数则没有问题.

看旋转矩阵的例子!
旋转矩阵Q(rotation matrix)是正交矩阵中很重要的部分.
将每个向量旋转90°.
Example :
Q=[01−10]
特征值之积等于行列式.
特征值之和等于对角线元素之和.
trace=0+0=λ1+λ2
det=1=λ1∗λ2
det(Q−λI)=∣∣∣−λ1−1−λ∣∣∣=λ2+1=0解出λ1=iλ2=−i,其相互共轭(complex conjugates of each other).
即使矩阵全为实数,特征值也有可能是复数.

共轭复数???

如果矩阵是对称的(symmetrix),就不会有复数特征值.
像上述的矩阵,是反对称的,其对角线对角元素,符号正好相反,这种矩阵特征值为纯虚数,这是一种极端情况,是介于对称和反对称之间的矩阵.

A=[3013]
特征值是3.
det(A−λI)=∣∣∣3−λ013−λ∣∣∣=(3−λ)(3−λ)→λ1=λ2=3
对应的特征向量也同为x1=x2=[10]