8.4 线性相关、基、维数和子空间

　　如果逆矩阵A−1存在，那么式Ax=b肯定对于每一个向量b恰好存在一个解。但是，对于方程组而言，对于向量b的某些值，有可能不存在解，或者存在无限多个解。存在多于一个解但是少于无限多个解的情况是不可能发生的；因为如果x和y都是某方程组的解，则

z=ax+(1−a)y

（其中a取任意实数）也是该方程组的解。

8.4.1 线性相关与线性无关

　　为了分析方程有多少个解，我们可以将A的列向量看作是从原点（origin）（元素都是零的向量）出发的不同方向，确定有多少种方法可以到达向量b。在这个观点下，向量x中的每个元素表示我们应该沿着这些方向走多远，即xi表示我们需要沿着第i个向量的方向走多远：

Ax=∑ixiA:,i.

　　一般而言，这种操作被称为线性组合（linear combination）。形式上，一组向量的线性组合，是指每个向量乘以对应标量系数之后的和，即：

∑iciv(i).

　　确定Ax=b是否有解相当于确定向量b是否在A列向量的生成子空间中。这个特殊的生成子空间被称为A的列空间（column space）或者A的值域（range）。
　　为了使方程Ax=b对于任意向量b∈Rm都存在解，我们要求A的列空间构成整个Rm。如果Rm中的某个点不在A的列空间中，那么该点对应的b会使得该方程没有解。矩阵A的列空间是整个Rm的要求，意味着A至少有m列，即n≥m。否则，A列空间的维数会小于m。例如，假设A是一个3×2的矩阵。目标b是3维的，但是x只有2维。所以无论如何修改x的值，也只能描绘出R3空间中的二维平面。当且仅当向量b在该二维平面中时，该方程有解。
　　不等式n≥m仅是方程对每一点都有解的必要条件。这不是一个充分条件，因为有些列向量可能是冗余的。假设有一个R2×2中的矩阵，它的两个列向量是相同的。那么它的列空间和它的一个列向量作为矩阵的列空间是一样的。换言之，虽然该矩阵有2列，但是它的列空间仍然只是一条线，不能涵盖整个R2空间。
　　正式地说，这种冗余被称为线性相关（linear dependence）。如果一组向量中的任意一个向量都不能表示成其他向量的线性组合，那么这组向量被称为线性无关（linearly independent）。如果某个向量是一组向量中某些向量的线性组合，那么我们将这个向量加入到这组向量后不会增加这组向量的生成子空间。这意味着，如果一个矩阵的列空间涵盖整个Rm，那么该矩阵必须包含至少一组m个线性无关的向量。这是式Ax=b对于每一个向量b的取值都有解的充分必要条件。值得注意的是，这个条件是说该向量恰好有m个线性无关的列向量，而不是至少m个。不存在一个m维向量的集合具有多于m个彼此线性不相关的列向量，但是一个有多于m个列向量的矩阵却有可能拥有不止一个大小为m的线性无关向量集。
　　让我们举几个关于线性无关和线性相关的例子。首先是线性无关的例子。

例1
因为⎡⎣⎢000⎤⎦⎥=c1⎡⎣⎢100⎤⎦⎥+c2⎡⎣⎢010⎤⎦⎥+c3⎡⎣⎢001⎤⎦⎥的解，只有以下解

⎧⎩⎨⎪⎪c1=0c2=0c3=0

所以向量⎡⎣⎢100⎤⎦⎥、向量⎡⎣⎢010⎤⎦⎥、向量⎡⎣⎢001⎤⎦⎥线性无关。
例2
因为⎡⎣⎢000⎤⎦⎥=c1⎡⎣⎢100⎤⎦⎥+c2⎡⎣⎢010⎤⎦⎥的解，只有以下解

{c1=0c2=0

所以向量⎡⎣⎢100⎤⎦⎥、向量⎡⎣⎢010⎤⎦⎥线性无关。

关于线性相关的例子　

例3
因为⎡⎣⎢000⎤⎦⎥=c1⎡⎣⎢100⎤⎦⎥+c2⎡⎣⎢010⎤⎦⎥+c3⎡⎣⎢310⎤⎦⎥的解，不仅有以下解

⎧⎩⎨⎪⎪c1=0c2=0c3=0

，还有

⎧⎩⎨⎪⎪c1=3c2=1c3=−1

等解。
所以向量⎡⎣⎢100⎤⎦⎥、向量⎡⎣⎢310⎤⎦⎥线性相关。
例2
因为⎡⎣⎢000⎤⎦⎥=c1⎡⎣⎢100⎤⎦⎥+c2⎡⎣⎢010⎤⎦⎥+c3⎡⎣⎢001⎤⎦⎥+c4⎡⎣⎢a1a2a3⎤⎦⎥的解，不仅有以下解

⎧⎩⎨⎪⎪⎪⎪⎪⎪c1=0c2=0c3=0c4=0

，还有

⎧⎩⎨⎪⎪⎪⎪⎪⎪c1=a1c2=a2c3=a3c4=−1

等解，所以向量⎡⎣⎢100⎤⎦⎥、向量⎡⎣⎢010⎤⎦⎥、向量⎡⎣⎢001⎤⎦⎥、向量⎡⎣⎢a1a2a3⎤⎦⎥线性相关。
　　同样，因为⎡⎣⎢⎢⎢⎢00⋮0⎤⎦⎥⎥⎥⎥=c1⎡⎣⎢⎢⎢⎢10⋮0⎤⎦⎥⎥⎥⎥+c2⎡⎣⎢⎢⎢⎢01⋮0⎤⎦⎥⎥⎥⎥+⋯+cm⎡⎣⎢⎢⎢⎢00⋮1⎤⎦⎥⎥⎥⎥+cm+1⎡⎣⎢⎢⎢⎢a1a2⋮am⎤⎦⎥⎥⎥⎥的解，不仅有以下解

⎧⎩⎨⎪⎪⎪⎪⎪⎪⎪⎪⎪⎪⎪⎪⎪⎪c1c2cmcm+1==⋮==0000

，还有

⎧⎩⎨⎪⎪⎪⎪⎪⎪⎪⎪⎪⎪⎪⎪⎪⎪c1c2cmcm+1==⋮==a1a2am−1

等解，所以向量⎡⎣⎢⎢⎢⎢10⋮0⎤⎦⎥⎥⎥⎥、向量⎡⎣⎢⎢⎢⎢01⋮0⎤⎦⎥⎥⎥⎥、向量⎡⎣⎢⎢⎢⎢00⋮1⎤⎦⎥⎥⎥⎥、向量⎡⎣⎢⎢⎢⎢a1a2⋮am⎤⎦⎥⎥⎥⎥线性相关。

8.4.2 基

　　对于Rm的任意元素向量⎡⎣⎢⎢⎢⎢⎢y1y2⋮ym⎤⎦⎥⎥⎥⎥⎥，当⎡⎣⎢⎢⎢⎢⎢y1y2⋮ym⎤⎦⎥⎥⎥⎥⎥=c1⎡⎣⎢⎢⎢⎢a11a21⋮am1⎤⎦⎥⎥⎥⎥+c2⎡⎣⎢⎢⎢⎢a12a22⋮am2⎤⎦⎥⎥⎥⎥+⋯+cn⎡⎣⎢⎢⎢⎢a1na2n⋮amn⎤⎦⎥⎥⎥⎥只有一组解时，我们把集合

⎧⎩⎨⎪⎪⎪⎪⎪⎪⎪⎪⎡⎣⎢⎢⎢⎢a11a21⋮am1⎤⎦⎥⎥⎥⎥,⎡⎣⎢⎢⎢⎢a12a22⋮am2⎤⎦⎥⎥⎥⎥,⋯,⎡⎣⎢⎢⎢⎢a1na2n⋮amn⎤⎦⎥⎥⎥⎥⎫⎭⎬⎪⎪⎪⎪⎪⎪⎪⎪

称作基。
基是为了表示Rm的任意元素所必需的最少向量构成的集合。因此，线性无关是限定零向量的概念，基是以Rm的所有向量为对象的概念。

8.4.3 子空间

　　假设c为任意实数。若Rm的子集W满足这两个条件：
1. W的任意元素的c倍也是W的元素。
2. W的任意元素的和也是W的元素。
　　即满足这两个条件时，
1. 如果⎡⎣⎢⎢⎢⎢a1ia2i⋮ami⎤⎦⎥⎥⎥⎥∈W，那么c⎡⎣⎢⎢⎢⎢a1ia2i⋮ami⎤⎦⎥⎥⎥⎥∈W。
2. 如果⎡⎣⎢⎢⎢⎢a1ia2i⋮ami⎤⎦⎥⎥⎥⎥∈W并且⎡⎣⎢⎢⎢⎢⎢a1ja2j⋮amj⎤⎦⎥⎥⎥⎥⎥∈W，那么⎡⎣⎢⎢⎢⎢a1ia2i⋮ami⎤⎦⎥⎥⎥⎥+⎡⎣⎢⎢⎢⎢⎢a1ja2j⋮amj⎤⎦⎥⎥⎥⎥⎥∈W。
　　我们就把W叫做Rm的线性子空间，简称子空间。一组向量的线性子空间是原始向量线性组合后所能抵达的点的集合。

　　要想使矩阵可逆，我们还需要保证式Ax=b对于每一个b值至多有一个解。为此，我们需要确保该矩阵至多有m个列向量。否则，该方程会有不止一个解。
　　综上所述，这意味着该矩阵必须是一个方阵（square），即m=n，并且所有列向量都是线性无关的。一个列向量线性相关的方阵被称为奇异的（singular）。
　　如果矩阵A不是一个方阵或者是一个奇异的方阵，该方程仍然可能有解。但是我们不能使用矩阵逆去求解。
　　目前位置，我们已经讨论了逆矩阵左乘。我们也可以定义逆矩阵右乘：

AA−1=I.

对于方阵而言，它的左逆和右逆是相等的。