研究思路

1. 整体做研究的思路

首先一个是整体的学习思路，大体来说分为两种。
1. 问题驱动改结构。
2. 结构迁移。

问题驱动改结构。就是从实际的问题出发，对原有的方法进行研究和探索，再想办法在原方法的基础上进行调整，又或者是创造一种新的方式，来达到不差于原方法的效果。
与传统方法相比，新的方法往往有自己特有的优势。另一方面，新的方法往往能够提供给我们灵感，让我们有另外一种弄角度来思考问题。

比如当时神经网络翻译刚刚推出来的时候，也并没有获得比传统基于统计翻译的模型好多少的效果。但却给了研究人员以灵感，为后续改进的神经网络翻译系统打下基础。

其次，结构迁移。结构迁移顾名思义，就是将处理其他问题的方法借鉴过来，来借鉴到当前问题上来。比如说，处理文字序列的方法，可以借鉴到处理图像上面去。

例如参考Word2Vec和Doc2Vec的思想，来思考能否Image2Vec。
又或者是能否结合传统的机器学习方法，注入到最近流行的深度学习方法中去。

这种思路在实际应用中也非常常见。当我们学习当前应用的方法的时候，需要对该方法进行思考，是否可以将这种方法转移到其他应用中去。

2. 如何去解决问题

在做研究的过程中，我们往往产生有很多“伟大”的Ideas。
特别是对于深度学习的研究者来说，我们会针对这个问题去建立模型然后训练个把星期。
然而最后得出来的结果往往不理想，这是因为这个问题往往非常“大”。问题一“大”，很多东西就会想不明白，很多细节都容易被自己忽略。所以常常会导致训练了很久的实验跑完之后，得到的结果非常奇怪且难以解释。
所以，我们在试图解决一个比较大的问题的时候，我们最好是从“小”且可控可解释的问题入手（比如仅仅使用一个小且完整的数据集来进行训练），来验证一下结果是否与假设和推断相符合。如果结果不理想，那么重新进行分析和调整，直至达到较好的结果之后，才将问题推广到完整的大问题上面去。这样子，可以节约时间并且方便自己找出问题所在。