【数学基础】范数：L0、L1、L2

参考：

http://blog.csdn.net/zouxy09/article/details/24971995机器学习中的范数规则化之（一）L0、L1与L2范数

http://blog.csdn.net/ice110956/article/details/18304485范数

【一、向量范数】

p值能分别取0，1，2，∞，这四种范数形式。并附例子说明

例子为：X = [1 2 3 0 -1 0 4 1 5]

• 零范数

指的是：X中非零元素的个数。

例子中：

||X||0  = 7

• 一范数

指的是：X中所有元素绝对值的和

例子中：

||X||1  = |1|+|2|+|3|+|-1|+|4|+|1|+|5| = 17

• 二范数（也称欧式范数）

指的是：X中所有元素的平方和再开方

例子是：

||X||2  = sqrt（|1|^2+|2|^2+|3|^2+|-1|^2+|4|^2+|1|^2+|5|^2） = 7.55

• 最大范数

指的是：∞为正无穷大，X中所有元素绝对值的最大值

例子是：

||X||∞  = max（|1|，|2|，|3|，|-1|，|4|，|1|，|5| ）= 5

【二、矩阵范数】

借助了向量范数的概念

例子为：

• 零范数

• 一范数

• 二范数

矩阵的二范数也称为弗洛贝尼乌斯(Frobeniusnorm)或希尔伯特·施密特范数（F范数）

• 无穷范数

【三、机器学习中的范数】

理解后再补充。。。