(Neighbourhood Components Analysis) NCA 近邻成分分析的学习

这篇文章比较早了，2005年在NIPS上发表的，提到度量学习（Metric Learning）就不得不提这篇文章，很有含金量，看看作者就知道了——Geoffrey Hinton, Ruslan Salakhutdinov(Orz)。鄙人也是刚开始学，若有错误，还请大牛斧正。

度量学习就是学到一个合适的距离度量，即将样本在合适的空间中尽量区分开。目标和PCA有点类似。但不同的是这个是自适应的，其监督信息是错误率或者说正确率。

本文是为KNN分类算法提出一个新奇的（2005）方法来学习马氏距离。

通过随机梯度下降法最大化留一法（LOO）正确率，感觉和神经网络有很大联系。

论文传送门：Neighbourhood Component Analysis [Goldberger et al., 2005]