BP神经网络的基本理解
来源:互联网 发布:企业网络拓扑图配置 编辑:程序博客网 时间:2024/05/20 00:38
本文转载于百度知道: https://zhidao.baidu.com/question/311620724.html
误差反向传播(Error Back Propagation, BP)算法
1、BP算法的基本思想是,学习过程由信号的正向传播与误差的反向传播两个过程组成。
1)正向传播:输入样本->输入层->各隐层(处理)->输出层
注1:若输出层实际输出与期望输出(教师信号)不符,则转入2)(误差反向传播过程)
2)误差反向传播:输出误差(某种形式)->隐层(逐层)->输入层
其主要目的是通过将输出误差反传,将误差分摊给各层所有单元,从而获得各层单元的误差信号,进而修正各单元的权值(其过程,是一个权值调整的过程)。
注2:权值调整的过程,也就是网络的学习训练过程(学习也就是这么的由来,权值调整)。
2、BP算法实现步骤(软件):
1)初始化
2)输入训练样本对,计算各层输出
3)计算网络输出误差
4)计算各层误差信号
5)调整各层权值
6)检查网络总误差是否达到精度要求
满足,则训练结束;不满足,则返回步骤2)
3、多层感知器(基于BP算法)的主要能力:
1)非线性映射:足够多样本->学习训练
能学习和存储大量输入-输出模式映射关系。只要能提供足够多的样本模式对供BP网络进行学习训练,它便能完成由n维输入空间到m维输出空间的非线性映射。
2)泛化:输入新样本(训练时未有)->完成正确的输入、输出映射
3)容错:个别样本误差不能左右对权矩阵的调整
4、标准BP算法的缺陷:
1)易形成局部极小(属贪婪算法,局部最优)而得不到全局最优;
2)训练次数多使得学习效率低下,收敛速度慢(需做大量运算);
3)隐节点的选取缺乏理论支持;
4)训练时学习新样本有遗忘旧样本趋势。
注3:改进算法—增加动量项、自适应调整学习速率(这个似乎不错)及引入陡度因子
- BP神经网络的基本理解
- BP神经网络的理解
- 简单的理解BP神经网络
- bp神经网络的简单理解和使用
- 对bp神经网络的初步理解
- matlab BP 神经网络 归一化的理解
- BP神经网络基本介绍
- BP神经网络-- 基本模型
- BP神经网络简单理解
- BP神经网络设计常用的基本方法和实用技术
- BP神经网络设计常用的基本方法和实用技术
- BP神经网络的优缺点
- BP神经网络的基本原理
- BP神经网络的实现
- BP神经网络的学习
- BP神经网络的分类
- BP神经网络的应用
- BP神经网络的结构
- Redis服务器端命令
- zabbix使用zabbix_get命令获取key值提示connection reset by peer
- 定时器技术选型の不同业务背景(一)
- 【JZOJ 4933】【NOIP2017提高组模拟12.24】C
- 拦截器Interceptor
- BP神经网络的基本理解
- redis简介
- Hexo+GitHub创建个人博客
- Composer笔记(一):在windows下安装PHP Composer
- nachos操作系统初步认识
- [转载]Java中父类与子类的加载顺序详解
- 利用百度云盘建立svn或者git服务器的办法
- php记要(保证else与if的关闭花括号处于同一php标签内)
- CentOS6.5文件系统目录结构介绍