函数空间

         在看到非线性支持向量机部分时，讲到将输入空间X（欧式空间Rn的子集或离散集合）映射到特征空间H（希尔伯特空间），后面的核技巧先不谈；一直在说的希尔伯特空间到底是什么？与之前信号系统里面接触到的希尔伯特变换有什么关系么？一直在说的空间到底是个什么，与我们熟悉的“三维空间”是不是一回事？

        带着这些困惑（原谅我毕竟不是数学专业...之前也都是大概就糊弄过去了），先百度了一发，百度百科是这样讲得

     “在数学中，希尔伯特空间是欧几里德空间的一个推广，其不再局限于有限维的情形。与欧几里德空间相仿，希尔伯特空间也是一个内积空间，其上有距离和角的概念（及由此引申而来的正交性与垂直性的概念）。此外，希尔伯特空间还是一个完备的空间，其上所有的柯西序列等价于收敛序列，从而微积分中的大部分概念都可以无障碍地推广到希尔伯特空间中。希尔伯特空间为基于任意正交系上的多项式表示的傅立叶级数和傅立叶变换提供了一种有效的表述方式，而这也是泛函分析的核心概念之一。希尔伯特空间是公式化数学和量子力学的关键性概念之一。”

    完全不懂什么意思，幸而在知乎上看到了一些回答，并且看了下推荐的公开课 ，里面那个老师从距离开始讲起，什么是距离？ 距离有很多种的定义，欧氏距离、曼哈顿距离、皮尔逊距离等都是距离的一个实例，“不是具体指明它是什么，而是它具有什么属性”，然而如何定义一个距离呢？“不能定义到一个实数或者一个向量上，而是定义到一个集合”

定义：设X是一个非空集合，任给一对这一集合的元素x,y,都给定一个实数d(x,y)与它们对应，并满足：

     则d(x,y)是这两个元素（视频中是点，但个人觉得从抽象角度说，两个元素可能更贴切）之间的距离。

正如视频里说的，“当一个对象是抽象的，我们就要去抓住他最重要的属性”，感觉抽象思维也是透过现象看本质啊，还是欠缺这种数学思维啊。

    在定义好距离之后，就讲到线性结构，这个线性结构满足向量的加法和数乘（仔细想想线性的定义好像就是加法跟数乘），并且满足八个运算律，由此确定了线性空间。

   然后在线性空间之上定义了范数（之前各种0范数、1范数、迹范数也是搞的晕头转向）这个概念，而范数定义为：

设||x||是Rn的范数，则满足：

相比于距离，范数多了一个||ax||=a||x||特性，可以看作是对距离加了个约束，更加具体化了；这就跟距离一样，为什么会有那么多范数了...

到这里，赋予范数和距离的集合分别称为：赋范空间和度量空间。若再加上线性结构，则称为线性赋范空间和线性度量空间。然而赋范空间确实一个重要的概念：向量之间的夹角。因此，引入内积这个概念：

从而构成内积空间，也就是通常说的欧几里得空间，也就是我们最习惯的空间。而希尔伯特空间将欧式空间的有限维扩展到无线维，并且具有完备性，也就是上面所说的“其上所有的柯西序列等价于收敛序列”，结合视频，我的理解就是你取任何极限所得到的值都应该在这个空间内。而完备的赋范空间称为巴拿赫空间，这个与希尔伯特空间同理

总结：

    结合视频整个过程，就是对给定元素的集合，通过制定不同的规则，得到更具体化的集合，而这些集合，就被称为某某某空间。其中最重要的就两点，元素与规则。而貌似希尔伯特空间元素可以为函数，这也正好印证了泛函是函数的函数这句话。非数学专业人士小白理解=。=

额..至于希尔伯特变换，貌似跟这是两回事，印象中希尔伯特变换是为了获取解析信号中的正频信号（原谅学的都还给老师了）。