范数

3.3  范　数

　　3.3.1 向量范数

　　在一维空间中，实轴上任意两点距离用两点差的绝对值表示。绝对值是一种度量形式的定义。

　　范数是对函数、向量和矩阵定义的一种度量形式。任何对象的范数值都是一个非负实数。使用范数可以测量两个函数、向量或矩阵之间的距离。向量范数是度量向量长度的一种定义形式。范数有多种定义形式，只要满足下面的三个条件即可定义为一个范数。同一向量，采用不同的范数定义，可得到不同的范数值。

　　定义3.1 对任一向量，按照一个规则确定一个实数与它对应，记该实数记为，若满足下面三个性质：

　　（1），有，当且仅当时，（非负性）（3.37）　　（2），，有（齐次性）　　（3），，有（三角不等式）

　　那么称该实数为向量的范数。

　　几个常用向量范数

　　向量的范数定义为

　　

　　其中，经常使用的是三种向量范数。

　　

　　或写成

　　

　　例3.5 计算向量的三种范数。

　　

　　

　　

　　向量范数的等价性

　　有限维线性空间中任意向量范数的定义都是等价的。若是上两种不同的范数定义，则必存在,使均有

　　

　　或

　　（证明略）

　　向量的极限

　　有了向量范数的定义 ，也就有了度量向量距离的标准，即可定义向量的极限和收敛概念了。

　　设为上向量序列，若存在向量使，则称向量列是收敛的（是某种向量范数），称为该向量序列的极限。

　　由向量范数的等价知，向量序列是否收敛与选取哪种范数无关。

　　向量序列，收敛的充分必要条件为其序列的每个分量收敛，即存在。

　　若，则就是向量序列的极限。

　　例3.6 求向量序列极限向量。

　　解：算出每个向量分量的极限后得

　　

　　在计算方法中，计算的向量序列都是数据序列，当小于给定精度时，取为极限向量。

　　3.3.2 矩阵范数

　　矩阵范数定义

　　定义3.2 如果矩阵的某个非负实函数，记作，满足条件：

　　（1）当且仅当时，（非负性）

　　（2）（齐次性）

　　（3）对于任意两个阶数相同的矩阵 有（三角不等式性）

　　（4）矩阵为同阶矩阵（相容性）

　　则称为矩阵范数。

　　矩阵的算子范数

　　常用的矩阵范数是矩阵的算子范数，可用向量范数定义：

　　设，记方阵的范数为，那么

　　　　  或          　 （3.38）

　　称为矩阵的算子范数或从属范数。这样定义的矩阵范数满足矩阵范数的所有性质外，还满足相容性：

　　为阶矩阵，恒有   　　　　（3.39）

　　根据定义，对任一种从属范数有，即单位矩阵的范数是1。

　　常用矩阵范数

　　向量有三种常用范数，相对应的矩阵范数的三种形式为：

　　　　       （的行范数）         （3.40）

　　　　      （的列范数）            (3.41)

　　　（是的最大特征值）（的2范数）　(3.42)

　　证明：既然矩阵的算子范数是上满足向量范数的上确界，那么，找到这个上确界也就找到了矩阵的范数。

　　(1)任取，则

　　

　　即

　　另一方面设极大值在 列达到，即取，除第个分量为1外，其余分量均为 0,于是有

　　，

　　由于，故

　　

　　因此有

　　

　　（2）任取，，则

　　即

　　

　　另一方面设极大值在行达到，取

　　这里

　　

　　于是

　　

　　故

　　(3)为对称非负矩阵，具有非负特征值，并具有个相互正交的单位特征向量。

　　设的特征值为，相应的特征向量为，其中为相互正交的单位向量。设，并且，即，则

　　

　　即对任意均有，  故  

　　   

　　取，则有

　　故            

　　于是         

　　如果A是对称矩阵，那么，设的特征值是, 则有

 

　　还有一种与向量范数相容的矩阵范数，称为欧几里得（Euclid）范数或舒尔（Schur）范数，用表示，其定义为

　　　　　　　　                     (3.43)

　　因为欧几里得范数易于计算，在实用中是一种十分有用的范数。但它不能从属于任何一种范数，因为。

　　与向量范数的等价性质类似，矩阵范数之间也是等价的。

　　例3.7 ,分别有。

　　解: 

　　

　　的特征值

　　

矩阵范数等价性

　　定理 对上的任两种范数及，存在常数≧ ，使

≧ t≧

　　矩阵特征值与范数关系

　　若是矩阵的特征值（即存在非零向量使得：），对任一算子范数有

　　

　　又（相容性）

　　

　　即矩阵特征值的模不大于矩阵的任一范数。

　　谱半径

　　若有特征值记则称为的谱半径。有了谱半径的定义，矩阵的2范数可记为：。

　　谱半径与矩阵范数关系

　　由矩阵谱半径定义，可得到矩阵范数的另一重要性质，。