深度学习笔记(一)---神经网络
来源:互联网 发布:三轴数控编程铣斜面 编辑:程序博客网 时间:2024/05/14 09:35
神经网络
一、概述
以监督学习为例,假设我们有训练样本集 ,那么神经网络算法能够提供一种复杂且非线性的假设模型 ,它具有参数 W,b,可以以此参数来拟合我们的数据。
为了描述神经网络,我们先从最简单的神经网络讲起,这个神经网络仅由一个“神经元”构成,以下即是这个“神经元”的图示:
这个“神经元”是一个以及截距+1为输入值的运算单元,其输出为,其中函数被称为“激活函数”。
在本教程中,我们选用sigmoid函数作为激活函数
可以看出,这个单一“神经元”的输入-输出映射关系其实就是一个逻辑回归(logistic regression)。
Sigmoid函数图像为:
注意,与其它地方(包括OpenClassroom公开课以及斯坦福大学CS229课程)不同的是,这里我们不再令。取而代之,我们用单独的参数b来表示截距。
二、神经网络模型
所谓神经网络就是将许多个单一“神经元”联结在一起,这样,一个“神经元”的输出就可以是另一个“神经元”的输入。例如,下图就是一个简单的神经网络:
我们使用圆圈来表示神经网络的输入,标上“+1”的圆圈被称为偏置节点,也就是截距项。神经网络最左边的一层叫做输入层,最右的一层叫做输出层(本例中,输出层只有一个节点)。中间所有节点组成的一层叫做隐藏层,因为我们不能在训练样本集中观测到它们的值。同时可以看到,以上神经网络的例子中有3个输入单元(偏置单元不计在内),3个隐藏单元及一个输出单元。
我们用 来表示网络的层数,本例中 =3 ,我们将第l层记为 ,于是L1是输入层,输出层是 。
本例神经网络有参数 ,其中 (下面的式子中用到)是第 l 层第 j 单元与第 l+1 层第 i 单元之间的联接参数(其实就是连接线上的权重,注意标号顺序), 是第 l+1 层第 i 单元的偏置项。因此在本例中,, 。注意,没有其他单元连向偏置单元(即偏置单元没有输入),因为它们总是输出+1。同时,我们用 表示第 l 层的节点数(偏置单元不计在内)。
我们用 表示第 l 层第 i 单元的激活值(输出值)。当l=1 时, ,也就是第 i 个输入值(输入值的第i 个特征)。对于给定参数集合W,b ,我们的神经网络就可以按照函数来计算输出结果。本例神经网络的计算步骤如下:
我们用 表示第 l 层第 i 单元输入加权和(包括偏置单元),比如, ,则 。
这样我们就可以得到一种更简洁的表示法。这里我们将激活函数 扩展为用向量(分量的形式)来表示,即 ,那么,上面的等式可以更简洁地表示为:
我们将上面的计算步骤叫作前向传播。回想一下,之前我们用 表示输入层的激活值,那么给定第 l 层的激活值 后,第 l+1 层的激活值 就可以按照下面步骤计算得到:
将参数矩阵化,使用矩阵-向量运算方式,我们就可以利用线性代数的优势对神经网络进行快速求解。
目前为止,我们讨论了一种神经网络,我们也可以构建另一种结构的神经网络(这里结构指的是神经元之间的联接模式),也就是包含多个隐藏层的神经网络。最常见的一个例子是 层的神经网络,第 1 层是输入层,第 层是输出层,中间的每个层 l 与层 l+1 紧密相联。这种模式下,要计算神经网络的输出结果,我们可以按照之前描述的等式,按部就班,进行前向传播,逐一计算第 层的所有激活值,然后是第 层的激活值,以此类推,直到第 层。这是一个前馈神经网络的例子,因为这种联接图没有闭环或回路。
神经网络也可以有多个输出单元。比如,下面的神经网络有两层隐藏层: 及 ,输出层 有两个输出单元。
要求解这样的神经网络,需要样本集 ,其中 。如果你想预测的输出是多个的,那这种神经网络很适用。(比如,在医疗诊断应用中,患者的体征指标就可以作为向量的输入值,而不同的输出值 可以表示不同的疾病存在与否。)
- 深度学习笔记(一)---神经网络
- 神经网络与深度学习 笔记 (一)
- 神经网络和深度学习笔记(一)
- 深度学习与神经网络学习笔记(一)
- 神经网络与深度学习_吴恩达 学习笔记(一)
- 神经网络与深度学习笔记(一)梯度下降算法
- 吴恩达《神经网络与深度学习》课程笔记归纳(一)
- 吴恩达深度学习笔记(一)week3 浅层神经网络
- 吴恩达深度学习笔记(一)week4 深层神经网络
- DeepLearning.ai学习笔记(一)神经网络和深度学习--Week3浅层神经网络
- DeepLearning.ai学习笔记(一)神经网络和深度学习--Week4深层神经网络
- 深度学习概述-神经网络与深度学习学习笔记(一)
- 吴恩达神经网络和深度学习课程自学笔记(一)之深度学习概论
- 深度学习笔记(一):基于numpy的深度神经网络程序总览
- 深度学习基础(一)神经网络
- 神经网络和深度学习简史(一)
- 神经网络和深度学习(一)
- 神经网络与深度学习(一)
- 鸿洋大神封装的okhttputils拿走不谢!
- Intellij Idea的编译和调试快捷键
- iOS中使用本地通知为你的APP添加提示用户功能
- 前端开发的一些小问题
- android切换activity会闪屏的解决方法
- 深度学习笔记(一)---神经网络
- 后缀数组-入门学习
- C++培训:C++基础到高级知识总结
- iOS开发杂记
- 算法与数据结构实验题 2.2 逆序数
- [Lintcode]Find Peak Element 寻找峰值
- zookeeper应用——集中配置管理系统的实现(只是设计,没有具体实现代码)
- Kylin
- zookeeper 在Windows下启动报错 JAVA_HOME is incorrectly set