神经网络隐藏层节点个数

来源:互联网 发布:张逗张花小卖部 淘宝 编辑:程序博客网 时间:2024/06/14 05:35

根据经验公式,逐步试验法确定隐层节点数.,逐步试验得到隐层节点数就是先设置一个初始值,然后在这个值的基础上逐渐增加,比较每次网络的预测性能,选择性能最好的对应的节点数作为隐含层神经元节点数。


确定隐层节点数时必须满足下列条件:
1隐层节点数必须小于N-1(其中N为训练样本数),否则,网络模型的系统误差与训练样本的特性无关而趋于零,即建立的网络模型没有泛化能力,也没有任何实用价值。同理可推得:输入层的节点数(变量数)必须小于N-1
(2)
 训练样本数必须多于网络模型的连接权数,一般为2~10,否则,样本必须分成几部分并采用轮流训练的方法才可能得到可靠的神经网络模型

BP算法中,权值和阈值是每训练一次,调整一次。



 

若隐层节点数太少,网络可能根本不能训练或网络性能很差;若隐层节点数太多,虽然可使网络的系统误差减小,但一方面使网络训练时间延长,另一方面,训练容易陷入局部极小点而得不到最优点,也是训练时出现“过拟合”的内在原因。因此,合理隐层节点数应在综合考虑网络结构复杂程度和误差大小的情况下用节点删除法和扩张法确定。


阅读全文
0 0