机器学习笔记_数学基础_4-线性代数

• 行列式

---

• 矩阵的乘法
  优化算法： 分治+动态规划

---

• 矩阵的秩

---

• 秩与线性方程组: AX=b
  
  1. 无解： R(A)<R(A,b)
  2. 唯一解： R(A)=R(A,b)=n
  3. 无穷多解 R(A)=R(A,b)<n
• Ax=0 有非零解的重要条件
  R(A)<n

---

• 向量组

---

• 特征值和特征向量

  Ax=λx

---

特殊矩阵

• 正交阵: n阶矩阵A满足 ATA=I
  
  1. A是正交矩阵的充要条件：A的列向量都是单位向量，且两两正交
  2. A是正交矩阵,x为向量， 则Ax是正交变换（正交标号不改变向量的长度）

---

• 实对称阵(A 是n∗n的方阵)
  1 常见的实对称矩阵： 协方差矩阵；二次型矩阵； 无向图额领接矩阵
  2 实对称矩阵的不同特征值的特征向量正交 (μTiμj=0)

---

• 合同矩阵： A是n阶对称矩阵 ，必有正交矩阵P，满足

  P−1AP=PTAP=Λ;对角矩阵(A的特征值是对角线元素)
  A和Λ是合同矩阵

---

• 二次型
  
  1. 一个二次型对于一个对称矩阵

---

• 正定矩阵 （n阶方阵A，若任意n阶向量X，都有 XTAX>0 => A是正定矩阵）
  
  1. A的特征值大于0
  2. A的顺序主子式大于0