tensorflow的一些代码分析(一) tensorflow基本流程和基本概念
来源:互联网 发布:知乎融资 编辑:程序博客网 时间:2024/05/20 05:54
1.tensorflow的运行流程
tensorflow的运行流程主要有2步,分别是构造模型和训练。
在构造模型阶段,我们需要构建一个图(Graph)来描述我们的模型。所谓图,也可以理解为流程图,就是将数据的输入->中间处理->输出的过程表示出来,就像下面这样。
注意此时是不会发生实际运算的。而在模型构建完毕以后,会进入训练步骤。此时才会有实际的数据输入,梯度计算等操作。那么,如何构建抽象的模型呢?这里就要提到tensorflow中的几个概念:Tensor,Variable,placeholder,而在训练阶段,则需要介绍Session。下面先解释一些上面的几个概念
1.1概念描述
1.1.1 Tensor
Tensor的意思是张量,不过按我的理解,其实就是指矩阵。也可以理解为tensorflow中矩阵的表示形式。Tensor的生成方式有很多种,最简单的就如
- 1
- 2
- 1
- 2
不过要注意,因为在训练开始前,所有的数据都是抽象的概念,也就是说,此时a只是表示这应该是个1*5的零矩阵,而没有实际赋值,也没有分配空间,所以如果此时print,就会出现如下情况:
- 1
- 2
- 1
- 2
只有在训练过程开始后,才能获得a的实际值
- 1
- 2
- 3
- 1
- 2
- 3
这边设计到Session概念,后面会提到
1.1.2 Variable
故名思议,是变量的意思。一般用来表示图中的各计算参数,包括矩阵,向量等。例如,我要表示上图中的模型,那表达式就是
(relu是一种激活函数,具体可见这里)这里
- 1
- 1
注意,此时W一样是一个抽象的概念,而且与Tensor不同,Variable必须初始化以后才有具体的值。
- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 1
- 2
- 3
- 4
- 5
- 6
- 7
1.1.3 placeholder
又叫占位符,同样是一个抽象的概念。用于表示输入输出数据的格式。告诉系统:这里有一个值/向量/矩阵,现在我没法给你具体数值,不过我正式运行的时候会补上的!例如上式中的x和y。因为没有具体数值,所以只要指定尺寸即可
- 1
- 2
- 1
- 2
上面有两种形式,第一种x,表示输入是一个[1,5]的横向量。
而第二种形式,表示输入是一个[?,5]的矩阵。那么什么情况下会这么用呢?就是需要输入一批[1,5]的数据的时候。比如我有一批共10个数据,那我可以表示成[10,5]的矩阵。如果是一批5个,那就是[5,5]的矩阵。tensorflow会自动进行批处理
1.1.4 Session
session,也就是会话。我的理解是,session是抽象模型的实现者。为什么之前的代码多处要用到session?因为模型是抽象的嘛,只有实现了模型以后,才能够得到具体的值。同样,具体的参数训练,预测,甚至变量的实际值查询,都要用到session,看后面就知道了
1.2 模型构建
这里我们使用官方tutorial中的mnist数据集的分类代码,公式可以写作
那么该模型的代码描述为
- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9
- 10
- 11
- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9
- 10
- 11
可以看到这样以来,模型中的所有元素(图结构,损失函数,下降方法和训练目标)都已经包括在train里面。我们可以把train叫做训练模型。那么我们还需要测试模型
- 1
- 2
- 1
- 2
上述两行代码,tf.argmax表示找到最大值的位置(也就是预测的分类和实际的分类),然后看看他们是否一致,是就返回true,不是就返回false,这样得到一个boolean数组。tf.cast将boolean数组转成int数组,最后求平均值,得到分类的准确率(怎么样,是不是很巧妙)
1.3 实际训练
有了训练模型和测试模型以后,我们就可以开始进行实际的训练了
- 1
- 2
- 3
- 4
- 5
- 6
- 1
- 2
- 3
- 4
- 5
- 6
可以看到,在模型搭建完以后,我们只要为模型提供输入和输出,模型就能够自己进行训练和测试了。中间的求导,求梯度,反向传播等等繁杂的事情,tensorflow都会帮你自动完成。
2. 实际代码
实际操作中,还包括了获取数据的代码
- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9
- 10
- 11
- 12
- 13
- 14
- 15
- 16
- 17
- 18
- 19
- 20
- 21
- 22
- 23
- 24
- 25
- 26
- 27
- 28
- 29
- 30
- 31
- 32
- 33
- 34
- 35
- 36
- 37
- 38
- 39
- 40
- 41
- 42
- 43
- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9
- 10
- 11
- 12
- 13
- 14
- 15
- 16
- 17
- 18
- 19
- 20
- 21
- 22
- 23
- 24
- 25
- 26
- 27
- 28
- 29
- 30
- 31
- 32
- 33
- 34
- 35
- 36
- 37
- 38
- 39
- 40
- 41
- 42
- 43
得到的分类准确率在91%左右
- tensorflow的一些代码分析(一) tensorflow基本流程和基本概念
- tensorflow的一些代码分析(六) tensorflow实现word2vec
- TensorFlow的一些基本概念
- tensorflow的一些代码分析(五) tensorflow模型保存和可视化
- [TensorFlow学习笔记1]TensorFLow的基本概念和基本使用
- TensorFlow一些常用的基本概念和函数
- tensorflow笔记(一):流程,概念和简单代码注释
- tensorflow的一些代码分析(二) tensorflow多层CNN代码分析
- tensorflow的一些代码分析(三) tensorflow多层LSTM代码分析
- TensorFlow 笔记(一):流程,概念和简单的代码注释
- tensorflow的一些代码分析(四) tensorflow常用函数介绍
- Tensorflow一些常用基本概念与函数(一)
- Tensorflow系列之(一):Tensorflow的基本操作
- Tensorflow的一些基本用法
- Tensorflow的一些基本用法
- tensorflow的一些基本函数
- tensorflow的基本用法(一)
- 【Tensorflow】Tensorflow一些常用基本概念与函数(2)
- 设计模式之享元模式
- 红黑树 基本操作
- 判断101到200之间的素数
- [leetcode]: 100. Same Tree
- Error:Execution failed for task ':app:processDebugManifest'
- tensorflow的一些代码分析(一) tensorflow基本流程和基本概念
- seq2seq Model相关接口介绍
- 同源策略及解决办法
- word2016如何插入目录以及页码
- Python编程-数据库-利用PyMysql访问windows下的MySql数据库
- 黑盒测试简介以及方法简介
- spring boot 整合shiro(一)
- 微信开发定时获取token,保证线程安全,高可用
- KMP算法详解及C++实现