Chapter 1. Introduction to Vectors

1.1 vectors and linear combinations

把向量写成列的形式：

v=[v1v2]

w=[w1w2]

Definition: the sum of c⋅v and d⋅w is a linear combination of v and w

1.2 lengths and dot products

• 向量点积（内积）的定义：
  Definition:the dot product or inner product of v=(v1,v2) and w=(w1,w2) is the number v⋅w:
  

  v⋅w=v1⋅w1+v2⋅w2

• 向量的长度（模）的定义：
  Definition : the length of a vector is the square root of v⋅v:
  length = ∥v∥=v⋅v−−−−√

• 单位向量的定义：
  Definition: a unit vector u is a vector whose length equals one. Then u⋅u=1
  unit vector: u=v/∥v∥ is a unit vector in the same direction as v

1.3 matrices

Example:

u=⎡⎣⎢1−10⎤⎦⎥v=⎡⎣⎢01−1⎤⎦⎥w=⎡⎣⎢001⎤⎦⎥

现在对它们做一个线性组合：cu+dv+ew

c⎡⎣⎢1−10⎤⎦⎥+d⎡⎣⎢01−1⎤⎦⎥+e⎡⎣⎢001⎤⎦⎥

现在用一个矩阵A来重新表示这个线性组合，三个向量分别组成这个矩阵的列向量：

⎡⎣⎢1−1001−1001⎤⎦⎥⎡⎣⎢cde⎤⎦⎥

所以可以用矩阵乘上向量来表示线性组合：

Ax=⎡⎣⎢uvw⎤⎦⎥⎡⎣⎢cde⎤⎦⎥=cu+dv+ew

当然还有不同的方式来理解一个矩阵乘上一个向量Ax:
Ax=⎡⎣⎢1−1001−1001⎤⎦⎥⎡⎣⎢x1x2x3⎤⎦⎥=⎡⎣⎢(1,0,0)⋅(x1,x2,x3)(−1,1,0)⋅(x1,x2,x3)(0,−1,1)⋅(x1,x2,x3)⎤⎦⎥

linear equations 线性方程组

在上面线性组合的例子中，比如Ax=b，我们都是假设 A,x 是已知的，b 是不知道的（当然可以把b求出来）。
现在我们假设A,b是已知的，x 是未知的，怎么去求解x。

the inverse matrix 可逆矩阵

首先来讲一个例子：

Ax=⎡⎣⎢1−1001−1001⎤⎦⎥⎡⎣⎢x1x2x3⎤⎦⎥=⎡⎣⎢x1x2−x1x3−x2⎤⎦⎥=⎡⎣⎢b1b2b3⎤⎦⎥

从这个式子可以发现：
b contains differences of the input vector x，the top difference is x1−x0=x1−0，所以，我们不妨把这个矩阵A 称作“difference matrix”。
通过简单的回代，我们可以得到：

⎡⎣⎢x1x2x3⎤⎦⎥=⎡⎣⎢b1b1+b2b1+b2+b3⎤⎦⎥=⎡⎣⎢111011001⎤⎦⎥⎡⎣⎢b1b2b3⎤⎦⎥

同样的，另S=⎡⎣⎢111011001⎤⎦⎥，我们把S称作”sum matrix”。

在这个例子中，S 就是A 的逆矩阵，可以用记号A−1 来表示。

independence and dependence 独立和相关

• 从方程的角度：
  如果u, v, w 独立，则对于Ax=0 只有零解，0u+0v+0w=0;
  如果u, v, w 相关，则对于Ax=0 除了零解还有非零解;
  特别的，当矩阵A 有n 个 n 维的向量，那么：
  n 个向量独立：Ax=0只有一个解，A是可逆矩阵。
  n 个向量相关：Ax=0有多个解，A是奇异矩阵。