Deep Learning相关以及读PhD的一点想法

先Mark两个链接，里面包含各种神经网络的学习材料。感谢原作者提供的学习材料，也感谢博主hjimce，我在他的博文里看到了如此好的学习资料。

Neural Network Papers

Machine Learning & Deep Learning Tutorials

从今天开始打算重新梳理一下NN的知识，尤其是DNN。下一步的计划是DRN(Deep Reinforcement Learning)，不过这是以后的事情了。

从13年开始接触DNN，由于Master的方向是神经网络，在PhD的时候也没想那么多，就继续这条路了。当时并没有接触过DNN，而且DNN也没有这么的火。

原以为PhD和Master一样， 导师教你这教你那的，你只要学习就好。其实完全不一样，PhD是你的PhD，不是你导师的。他只会给你一个方向，剩下的路要你自己走。他的任务是在你走错路的时候一巴掌把你扇回到正确的道路上。当然不同的导师培养学生的方式也不一样，我也见过每周给学生布置任务的导师，当时很羡慕他们可以每周开一次会，后来慢慢觉得这样也不是很好。不晓得，每个人的见解不同吧。

PhD第一年挺痛苦的，由于没有接触过DNN，所以要从基础看。前前后后看了很多的paper，网上搜索资料看，最后给导师交了一篇他很满意的报告。

回想起来，时间过得很快，一转眼就快结束了。该找工作了，不过在这之前要把自己武装好才行。所以才想重新梳理一下DNN的相关知识。顺便说一下，我的研究方向是DNN for Source Separation. 但是基本的方法都是用DNN。

先到这里，今天先看看基本知识（MIT的线性代数讲义，一定要把矩阵搞明白才行），以后再来更新。