感知器的简单理解

感知器基本概念：

• 不断调整权值和阈值的过程称为训练
• 训练过程中，把输入空间映射到输出空间的能力，称为学习
• 调整权值和阈值的算法称为学习规则

感知器学习规则称为δ规则，t–目标输出，a–实际输出

e=t−a

训练网络的目的就是要使误差e->0.
学习规则：

W(k+1)=W(k)+epT

b(k+1)=b(k)+e

e——误差限量
W——权值向量
b——阈值向量
p——输入向量，训练集包含大量输入向量
k——第k步学习过程
为了防止输入向量取值范围过大，导致学习时间过长，权值调整可以采用归一化的算法：

W(k+1)=W(k)+epT||p||

||p||=∑n1p2i−−−−−√
学习过程反复进行，只要网络输入模式是线性可分的，则可通过有限步，是e减小到0，即完成训练过程。

---

训练：

• 输入向量有几个元素，每层的神经元数量就有几个，权值向量的元素也就有几个
• 初始化权值向量和阈值向量均为0
• 迭代过程若输出不等于目标输出，则按照以上公式调整权值阈值
• 进行第n次迭代，每次从第一个样本向量开始，以前一次的权值和阈值进行计算，直到所有样本的e=0

分类完成的边界由以下边界方程决定：

n=Wp+b