机器学习核函数理解

核函数要满足的条件称为Mercer’s condition。

核函数的作用就是隐含着一个从低维空间到高维空间的映射，而这个映射可以把低维空间中线性不可分的两类点变成线性可分的。

在机器学习中常用的核函数，一般有这么几类，也就是LibSVM中自带的这几类：
1) 线性：K(v_1,v_2) = (v_1,v_2)
2) 多项式：K(v_1,v_2)=(\gamma(v_1,v_2)+c)^n
3) Radial basis function：K(v_1,v_2)=\exp(-\gamma||v_1-v_2||^2)

核函数只是用来计算映射到高维空间之后的内积的一种简便方法。

一般英文文献对Kernel有两种提法，一是Kernel Function，二是Kernel Trick。从Trick一词中就可以看出，这只是一种运算技巧而已，不涉及什么高深莫测的东西。