卷积神经网络

卷积神经网络是一种为了处理网格状数据而设计的神经网络。比如，图像或者时域数据。以图像为例，图像的特征具有局部性，也就是越相邻的像素点相关性越强。同时我们需要学习到的函数具有平移不变性。这些是对待学习模型的先验约束。如果这个约束是合理的，就可以大幅度提高性能。

神经网络

经典神经网络的结构如图

每一个节点的值取决于上一层的所有节点，是上一层所有节点输入的线性组合加偏置项再通过非线性单元输出。

si=f(∑j=1nwjixj+bi)

卷积神经网络

卷积神经网络可以理解成在经典神经网络上增加强先验：假设隐藏层的相邻单元具有相同的权重，但是这些权重在空间位置上发生了平移。同时，只有感受域的权重不为零，其余位置的权重都为零。

参考资料：

• UFLDL
• Neural Network for Recognition of Handwritten Digits神经网络手写数字体教程及代码实现
• Deep learning：三十八(Stacked CNN简单介绍)