理解反向传播算法

反向传播算法是用来求偏导数的利器，在训练神经网络中使用广泛。

反向传播有效的避免了大量重复偏导数的计算，通过计算后一层的delta（误差）来计算前一层的delta，类似于前向计算。

反向传播本质是链式求导

下面给出几个学习链接：
https://zhuanlan.zhihu.com/p/24801814

https://iamtrask.github.io/2015/07/12/basic-python-network/

http://galaxy.agh.edu.pl/~vlsi/AI/backp_t_en/backprop.html

http://colah.github.io/posts/2015-08-Backprop/

https://www.coursera.org/learn/machine-learning/resources/EcbzQ