UFLDL 笔记 01 神经网络
来源:互联网 发布:诗词翻译赏析软件 编辑:程序博客网 时间:2024/06/06 15:02
UFLDL=Unsupervised Feature Learning and Deep Learning
01 神经网络
神经网络由神经元构成,首先看神经元的结构:
1.1 神经元
单个神经元简单来说就是输入数值(刺激),代入一个激活函数,如果达到阈值便输出一个对应的值。
其输出为
其中激活函数一般可以选为sigmoid函数或者双曲正切tanh函数,当选用sigmoid函数时,单个神经元实际上可以看做一个逻辑回归
导数公式}
sigmoid的导数:
tanh导数:
1.2神经网络
多个神经元首位相接就是神经网络,如下图
这里的+1是截距,叫作偏置节点,在说某一层的节点数量时,偏置节点不计数在内。
以上网络的数学形式为
其实这可以写成矩阵的形式,利用线代的知识快速求解
可以看出一共有
这里还有简单的标记形式
记
那么
那么最后输出的
以上的神经网络的输出为单个输出,如果输出层为多个节点,那就就可以是多输出了。
这样 一层一层先前计算的就是向前神经网路
0 0
- UFLDL 笔记 01 神经网络
- UFLDL 教程学习笔记(一)神经网络
- UFLDL 教程学习笔记(一)神经网络
- UFLDL 教程学习笔记(一)神经网络
- 【UFLDL】多层神经网络
- 神经网络 Stanford UFLDL
- ufldl学习笔记与编程作业:Multi-Layer Neural Network(多层神经网络+识别手写体编程)
- ufldl学习笔记与编程作业:Convolutional Neural Network(卷积神经网络)
- UFLDL 学习笔记1
- 【学习笔记】 UFLDL-1
- UFLDL Tutorial 笔记
- [机器学习] UFLDL笔记
- UFLDL Tutorial 学习笔记
- [机器学习] UFLDL笔记
- [机器学习] UFLDL笔记
- [机器学习] UFLDL笔记
- [机器学习] UFLDL笔记
- [机器学习] UFLDL笔记
- 关于包络概念的理解
- vector使用方法
- Android_ListView
- Android WiFi调式工具WiFi ADB的使用
- python 按照cpu的使用率对top中的进程排序(排序表格)
- UFLDL 笔记 01 神经网络
- Linux 软件包管理工具 Snapcraft
- Android的SDK更新问题
- iOS中UIWebView的使用详解
- sizeof 是一个关键字
- Android中的对话框
- Hadoop家族环境搭建各种版本选择
- HBase单机安装
- 45.leetcode题目:144. Binary Tree Preorder Traversal