什么是数据归一化,数据为什么要做归一化处理

来源:互联网 发布:宣传部网络舆情 编辑:程序博客网 时间:2024/06/16 05:39

归一化算法:
y=(x-min)/(max-min)
y=2*(x-min)/(max-min)-1
目的是让大的输入,大的信号映射到小范围里面

解析:
(1)假设一个神经元有两个输入分别是x1和x2,权重分别是w1和w2,那么该神经元的信号加权求和为x1w1+x2w2。再假设x1属于[0~1],x2属于[100~1000],那么x2远远大于x1,那么x1w1就可以忽略不计,整个加权求和就只由x2w2来决定,小的信号就被淹没了!

这里写图片描述

(2)激励函数的原因
由于激励函数取值一般都是[0~1]或者是[-1~1],函数曲线两头趋于直线,无论输入信号数据多么的大,最后取值基本不变,所以输入值太大并没有意义,而且还会让训练速度变得更慢
这里写图片描述

原创粉丝点击