神经网络学习之参数的设置原则
来源:互联网 发布:steam汽车模拟软件 编辑:程序博客网 时间:2024/05/21 06:19
网络参数确定原则:
①、网络节点 网络输入层神经元节点数就是系统的特征因子(自变量)个数,输出层神经元节点数就是系统目标个数。隐层节点选按经验选取,一般设为输入层节点数的75%。如果输入层有7个节点,输出层1个节点,那么隐含层可暂设为5个节点,即构成一个7-5-1 BP神经网络模型。在系统训练时,实际还要对不同的隐层节点数4、5、6个分别进行比较,最后确定出最合理的网络结构。
②、初始权值的确定 初始权值是不应完全相等的一组值。已经证明,即便确定 存在一组互不相等的使系统误差更小的权值,如果所设Wji的的初始值彼此相等,它们将在学习过程中始终保持相等。故而,在程序中,我们设计了一个随机发生器程序,产生一组一0.5~+0.5的随机数,作为网络的初始权值。
③、最小训练速率 在经典的BP算法中,训练速率是由经验确定,训练速率越大,权重变化越大,收敛越快;但训练速率过大,会引起系统的振荡,因此,训练速率在不导致振荡前提下,越大越好。因此,在DPS中,训练速率会自动调整,并尽可能取大一些的值,但用户可规定一个最小训练速率。该值一般取0.9。
④、动态参数 动态系数的选择也是经验性的,一般取0.6 ~0.8。
⑤、允许误差 一般取0.001~0.00001,当2次迭代结果的误差小于该值时,系统结束迭代计算,给出结果。
⑥、迭代次数 一般取1000次。由于神经网络计算并不能保证在各种参数配置下迭代结果收敛,当迭代结果不收敛时,允许最大的迭代次数。
⑦、Sigmoid参数 该参数调整神经元激励函数形式,一般取0.9~1.0之间。
⑧、数据转换。在DPS系统中,允许对输入层各个节点的数据进行转换,提供转换的方法有取对数、平方根转换和数据标准化转换。
转载:神经网络学习之参数的设置原则
- 神经网络学习之参数的设置原则
- 神经网络各个网络参数设定原则
- 神经网络学习 之 BP神经网络
- 机器学习之实现简单的神经网络
- 有关BP神经网络参数的一些学习经验
- 神经网络的层参数维度(14)---《深度学习》
- 卷积神经网络的参数维度(15)---《深度学习》
- Junit学习笔记之-- 参数化设置
- 机器学习之神经网络
- 机器学习之神经网络
- 机器学习之神经网络
- 机器学习之神经网络
- 机器学习之神经网络
- 机器学习之神经网络
- 机器学习之神经网络
- 机器学习之神经网络
- 密码设置的原则
- matlab建立BP神经网络中train函数的参数及学习算法参数
- Top 16 Java Utility Classes
- centos 安装 mongodb
- gdb调试工具使用
- 浅谈eclipse调用tomcat服务的原理
- java调接口实现发送手机短信验证码功能,手机验证码,接口调用
- 神经网络学习之参数的设置原则
- 26进制转10进制,找两个有序集合的交集这两个算法均来自网上,自己整理出来仅供学习,研究之用。有兴趣的可以看看
- 程序员人生之路杂谈
- Java面向对象设计模式(九)——外观模式(Facade)
- Failed to read auto-increment value from storage engine错误的处理方法
- https://wenku.baidu.com/view/2a54b90e52ea551810a6874e.html
- react-native NetInfo
- 二进制位串排列
- python 常见错误