机器学习笔记_数学基础_5-矩阵理论_续1_QR分解

矩阵的QR分解

• 实非奇异矩阵(满秩矩阵)A能够分解为正交矩阵Q和实非奇异上三角矩阵R的乘积
  证明：令A的n个列向量a1,⋯,an, 因为A非奇异，=>列向量线性无关
  则列向量的施密特正交化可得，n个标准的正交列向量 q1,⋯,qN

证明：
令 A的列向量为ai => 对ai正交化得

⎧⎩⎨⎪⎪⎪⎪⎪⎪⎪⎪⎪⎪b1b2⋮bn=a1=a2−k21b1=an−kn,n−1bn−1−⋯−kn1b1

其中kij=(ai,bj)(bj,bJ)

=>=>

⎧⎩⎨⎪⎪⎪⎪⎪⎪⎪⎪⎪⎪a1a2⋮an=b1=k21b1+b2=kn1b1+kn2b2+⋯+kn,n−1bn−1+bn

=> (a1,⋯,an)=(b1,⋯,bn)C

其中 C=⎡⎣⎢⎢⎢⎢⎢1k211⋯⋯⋱kn1kn2⋮1⎤⎦⎥⎥⎥⎥⎥

对(b1,b2,⋯,bn)单位化=> Qi=1|bi|bi

=> (a1,a2,⋯,an)=(b1,⋯,cn)C=(q1,⋯,qn)⎡⎣⎢⎢⎢⎢⎢|b1||b2|⋱|bn|⎤⎦⎥⎥⎥⎥⎥C

=> Q=(q1,⋯,qn)

=> R=diag(|b1|,⋯,|bn|)C

---

C=⎡⎣⎢⎢⎢⎢⎢1k211⋯⋯⋱kn1kn2⋮1⎤⎦⎥⎥⎥⎥⎥

---

例题： 求矩阵 A=⎡⎣⎢121212121⎤⎦⎥的QR分解

解：

令 a1=(1,2,1)T,a2=(2,1,2)T,a3=(2,2,1)T => 正交化可得

b1=a1=(1,2,1)T;b2=a2−b1=(1,−1,1)T;b3=a3−13−76=(12,0,−12)T

=> 构造矩阵Q=> Q=⎡⎣⎢⎢⎢⎢16√13√12√26√−13√016√13√−12√⎤⎦⎥⎥⎥⎥

=> R=Q=⎡⎣⎢⎢6√3√12√⎤⎦⎥⎥⎡⎣⎢⎢11176131⎤⎦⎥⎥