神经网络激励函数的作用
来源:互联网 发布:docker源码分析 编辑:程序博客网 时间:2024/05/17 22:51
这是一个单层的感知机, 也是我们最常用的神经网络组成单元啦. 用它可以划出一条线, 把平面分割开
那么很容易地我们就会想用多个感知机来进行组合, 获得更强的分类能力, 这是没问题的啦~~ ~~纳尼, 说好的非线性分类呢
如图所示,
那么我们动笔算一算, 就可以发现, 这样一个神经网络组合起来,输出的时候无论如何都还是一个线性方程哎~!!!!??? 这幅图就跟前面的图一样, 描述了当我们直接使用step activation function的时候所能获得的分类器, 其实只能还是线性的, 最多不过是复杂的线性组合罢了
再盗用一幅经常在课堂上用的图...然而我已经不知道出处是哪了, 好像好多老师都是直接用的, 那我就不客气了嘿嘿嘿~当然你可以说我们可以用无限条直线去逼近一条曲线啊......额,当然可以, 不过比起用non-linear的activation function来说就太傻了嘛.... ~~我们只能说, 有了这样的非线性激活函数以后, 神经网络的表达能力更加强大了~~(比起纯线性组合, 那是必须得啊!)
祭出主菜. 题主问的激励函数作用是什么, 就在这里了!!
我们在每一层叠加完了以后, 加一个激活函数, 如图中的y=\sigma(a). 这样输出的就是一个不折不扣的非线性函数!
于是就很容易拓展到多层的情况啦, 更刚刚一样的结构, 加上non-linear activation function之后, 输出就变成了一个复杂的, 复杂的, 超级复杂的函数....额别问我他会长成什么样, 没人知道的
继续厚颜无耻地放一张跟之前那副图并列的图, 加上非线性激活函数之后, 我们就有可能学习到这样的平滑分类平面. 这个比刚刚那个看起来牛逼多了有木有!
这样表达应该能够比较清楚地回答题主的问题了吧? 这就是为什么我们要有非线性的激活函数!
作者:颜沁睿
链接:https://www.zhihu.com/question/22334626/answer/103835591
来源:知乎
著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。
- 神经网络激励函数的作用
- 会敲代码的猩猩:神经网络激励函数的作用是什么?
- 人工神经网络中的activation function的作用以及ReLu,tanh,sigmoid激励函数的区别
- 神经网络激励函数的作用是什么?有没有形象的解释?
- 神经网络激励函数的形象解释
- [深度学习]人工神经网络中激励函数作用详解
- 神经网络激励函数综合
- 神经网络常用激励函数
- 引入非线性激励函数的作用
- 激励函数简介 Tensorflow最简单的三层神经网络及matplotlib可视化 附激励函数常见类型
- 神经网络之激励函数(Activation Function)
- 神经网络中激活函数的作用
- 神经网络激活函数的作用是什么?
- 通俗理解神经网络之激励函数(Activation Function)
- 卷积神经网络细节(激励函数,池化,预处理等)
- 通俗理解神经网络之激励函数(Activation Function)
- 深度学习的激励函数
- ANN_MLP::SIGMOID_SYM 的激励函数
- 2.Spring第一个实例
- 百度地图 android SDK
- LWC 62:745. Prefix and Suffix Search
- Linux 源码分析之task_struck进程管理结构体
- Fedora 15 配置Samba 服务器
- 神经网络激励函数的作用
- 计算一个时间的各个位
- 缩放图像
- 缩放图像
- LeetCode 题解: 714. Best Time to Buy and Sell Stock with Transaction Fee
- Recyclerview3多态的使用
- Webstorm 2016.3.2 注册码
- 文章标题
- 我与Java的5天对话----java基础