人工神经元

神经元是构成神经网络的最基本单位，构造一个人工神经网络系统的首要任务就是构造人工神经网络模型。
1、人工神经元的基本构成
我们希望人工神经元可以模拟生物神经元的一阶特性—输入信号的加权和。对于每一个人工神经元来说，可以接受一组来自系统中其他神经元的输入信号，每个输入对应一个权，所有输入的加权，所有输入的加权和决定该神经元的激活状态（Activation）。
设n个输入分别用x₁、x₂、... x_n表示，它们对应的连接权值依次为w₁，w₂，...，w_n，所有的输入及对应的连接权值分别构成输入向量X和连接权向量W：
                      X = (x₁,x₂,...,x_n)
                      W = (w₁,w₂,...,w_n)^T
用net表示该神经元所获得的输入信号的累积效果，称为该神经元的网络输入：

2、激活函数

神经元在获得网络输入后，它应该给出适当的输出。按照生物神经元的特性，每个神经元有一个阀值，当该神经元所获得的输入信号的积累效果超过阀值时，它就处于激发态；否则，应该处于抑制态。人工神经元提供一个更一般的变换函数，用来执行对该神经元所获得的网络输入的变换，这就是激活函数。典型的激活函数有线性函数、非线性斜面函数、阶跃函数、s型函数等。