[14.05.09] CVPR 2014 讨论班总结

很久没有记讨论班的内容了，一方面是因为手懒；另一方面，一些内容觉得不值得记或者真的没听懂。这就凸显了这次讨论班的意义，倒不是因为这次的东西有多么让我“震撼”，起码经过这段时间的maching learning东西的积累，这次讨论班有人让我能听懂并能深入思考的东西了 （虽然我认识的问题还很粗浅：））。

sparse coding的确是个大坑，挖进去的研究者文章都很可观(ICCV、CVPR，甚至PAMI....)

书归正传 题目

 

传统的sparse coding问题关心的是：

其中codebook A是d by K维的。此优化问题的关于A的矢量量化复杂度是O(K)，本文考虑将上述问题分为两个子问题，使得每一个子问题的算法复杂度为O(sqrt(K)).即分为如下问题

可以证明上述问题的解

对于上述解的形式，我是存在疑惑的。虽然作者后边也有证明，但是我们讨论班对这个问题还是困惑。这就是作者断言此解是最上面问题的全局最优化解，作者采用的是反证法来证明的，可是我们总觉得这个解能成为全局最优解的性质还是存疑的，至少有争论。

从架构上来看，这个算法就是把原始的sparse coding问题分解为两个算法复杂度简单很多的子问题，在求解子问题的基础上，获得作者所宣称的原文题的全局最优解。是岁sparse coding问题的计算量上的优化，思路很简单。