《神经网络设计》读书笔记——反向传播算法

多层网络（Multilayer Network）

反向传播算法（Backpropagation Algorithm）

性能指标（Performance Index）

• F(x)=E[eTe]=E[(t−a)T(t−a)]

逼近性能指标（Performance Index）

• F(x)=eT(k)e(k)=(t(k)−a(k))T(t(k)−a(k))

敏感性（Sensitivity）

前向传播（Forward Propagation）

• a0=p
• am+1=fm+1(Wm+1am+bm+1),m=0,1,...,M−1
• a=aM

反向传播（Backward Propagation）

更新权重（近似最速下降法）

• Wm(k+1)=Wm(k)−αsm(am−1)T
• bm(k+1)=bm(k)−αsm