人工神经网络初涉

一.简介

神经网络学习方法对于逼近实数值、离散值或向量值的目标函数提供了一种健壮性很强的方法。如学习解释复杂的现实世界中传感器数据，人工神经网络是目前已知最有效的学习方法，如手写识别，语音识别，人脸识别，图像识别等等。

二.原理

人工神经网络在一定程度上学习自生物神经网络，通过互相连接的神经元网络处理输入，在每一个神经元上数据处理，最终在最终点输出。

三.分类

1.前向网络——前一级的输出到下一级，没有信息反馈，此种网络可以用有向无环图表示，信息处理能力来自于简单非线性函数的多次复合。网络结构简单，易于实现。

2.反馈网络——后一级的处理会影响到前一级的处理，网络可以表示成无环完备图，Hopfield网络、波耳兹曼机均属于这种类型。

四.神经元训练法则

1.随机选取，重复选择，正确输出

针对可线性划分的样例，使用此法则不断修改  以使神经元能输出期望的值，其中代表学习速率，一般为一个小值，如0.1,整体调节平衡学习速度。

2.梯度下降和delta法则

对于单个神经元来说，它只能处理线性决策面，所以对于有众多复杂离散的目标决策时，就需要使用多个神经元构成神经网络甚至还需要构成多层神经网络进行处理。

待续......