Tensorflow的梯度异步更新
来源:互联网 发布:centos6 离线安装mysql 编辑:程序博客网 时间:2024/06/05 19:13
背景:先说一下应用吧,一般我们进行网络训练时,都有一个batchsize设置,也就是一个batch一个batch的更新梯度,能有这个batch的前提是这个batch中所有的图片的大小一致,这样才能组成一个placeholder。那么若一个网络对图片的输入没有要求,任意尺寸的都可以,但是我们又想一个batch一个batch的更新梯度怎么办呢?操作如下:
先计算梯度:
# 模型部分Optimizer = tf.train.GradientDescentOptimizer(1)gradient = Optimizer.compute_gradients(loss) # 每次计算所有变量的梯度grads_holder = [(tf.placeholder(tf.float32, shape=g.get_shape()), v) for (g, v) in gradient]# 将每次计算的梯度保存optm = Optimizer.apply_gradients(grads_holder) # 进行梯度更新# 初始化部分sess = tf.Session()init = tf.global_variables_initializer()sess.run(init)# 实际训练部分grads = [] # 定义一个空的列表用于存储每次计算的梯度for i in range(batchsize): # batchsize设置在这里 x_i = ... # 输入 y_real = ... # 标签 grad_i = sess.run(gradient, feed_dict={inputs: x_i, outputs: y_real}) #梯度计算 grads.append(grad_i) # 梯度存储# 定义一个空的字典用于存储,batchsize中所有梯度的和grads_sum = {} # 将网络中每个需要更新梯度的变量都遍历一遍 for i in range(len(grads_holder)): k = grads_holder[i][0] # 得到该变量名 # 将该变量名下的所有梯度求和,这里也可以求平均,求平均只需要除以batchsize grads_sum[k] = sum([g[i][0] for g in grads]) # 完成梯度更新sess.run(optm,feed_dict=grads_sum)
ok,以上就可以完成每次输入一张任意大小图片,再一个batchsize之后再跟新梯度。
阅读全文
2 0
- Tensorflow的梯度异步更新
- tensorflow中optimizer如何实现神经网络的权重,偏移等系数的更新和梯度计算
- tensorflow自定义op:梯度
- 停止更新的tensorflow系列
- TensorFlow的权值更新
- Tensorflow | 函数名字的更新
- 延迟补偿的异步随机梯度下降(ASGD with DC)
- tensorflow如何自由处理梯度
- TensorFlow梯度求解tf.gradients
- 梯度更新参数
- 梯度更新方法:Momentum
- 基于梯度的权重更新优化迭代算法
- 异步更新
- React的异步更新的setState
- 保持异步数据库服务器的实时更新
- android异步更新UI界面的方法
- 异步更新UI的3种方法
- Handler后台异步更新UI的总结
- 项目启动会应该注意的几点
- 9.17总结_NOIP模拟赛
- The Suspects 并查集
- iOS中HTTPS证书验证浅析
- Node-red学习第7篇--用mqtt节点发送传感器数据到邮箱
- Tensorflow的梯度异步更新
- Hadoop和大数据:60款顶级开源工具
- java中5个取整方法
- CGAL 4.10.1 官方文档 软件包概述 ——凸包算法类
- 清除浮动
- iOS开发常用代码总结(二)
- 关于meta标签的作用大集合
- 转载--http://www.cnblogs.com/wq1282/archive/2012/07/02/2573578.html
- java基础——类的初始化