纠错学习原则



实际输出与期望输出之差：

e(n)=d(n)-y_i(n)               (1)

为此可设定代价函数或损失函数如下E(n)：

E(n)=1/2*e(n)^2             (2)

反复调节式(2)使其达到最小或系统达到稳定状态（即连接权值稳定不变）以上过程称为纠错学习规则。

调节式(2)的值是利用梯度下降算法实现

损失函数还可以有交叉熵损失函数。