tf.train.exponential_decay的用法
来源:互联网 发布:java session的用法 编辑:程序博客网 时间:2024/06/06 10:02
tf.train.exponential_decay(learning_rate, global_, decay_steps, decay_rate, staircase=True/False)
import tensorflow as tf; import numpy as np; import matplotlib.pyplot as plt; learning_rate = 0.1 decay_rate = 0.96 global_steps = 1000 decay_steps = 100 global_ = tf.Variable(tf.constant(0)) c = tf.train.exponential_decay(learning_rate, global_, decay_steps, decay_rate, staircase=True) d = tf.train.exponential_decay(learning_rate, global_, decay_steps, decay_rate, staircase=False) T_C = [] F_D = [] with tf.Session() as sess: for i in range(global_steps): T_c = sess.run(c,feed_dict={global_: i}) T_C.append(T_c) F_d = sess.run(d,feed_dict={global_: i}) F_D.append(F_d) plt.figure(1) plt.plot(range(global_steps), F_D, 'r-') plt.plot(range(global_steps), T_C, 'b-') plt.show()
分析:
初始的学习速率是0.1,总的迭代次数是1000次,如果staircase=True,那就表明每decay_steps次计算学习速率变化,更新原始学习速率,如果是False,那就是每一步都更新学习速率。红色表示False,绿色表示True。
计算方式:decayed_lr = lr * decay_rate ^ (global_step/decay_steps)
阅读全文
0 0
- tf.train.exponential_decay的用法
- tf.train.exponential_decay的用法
- tf.train.exponential_decay 用法
- TensorFlow中tf.train.exponential_decay的用法
- 举例说明函数tf.train.exponential_decay用法
- tf.train.exponential_decay()
- tf.train.ExponentialMovingAverage的用法
- tf.train.batch和tf.train.shuffle_batch的用法
- tf.train.batch和tf.train.shuffle_batch的用法
- Tensorflow中tf.train.exponential_decay函数(指数衰减法)
- Tensorflow中tf.train.exponential_decay函数(指数衰减法)
- tebsorflow学习——tf.train.ExponentialMovingAverage与tf.train.exponential_decay
- tf.train.ExponentialMovingAverage用法
- TensorFlow-方法train.exponential_decay()
- tf.train.batch和tf.train.shuffle_batch的理解
- tf.train
- tf.train.Saver函数的用法之保存全部变量和模型
- tf.train.Saver函数的用法之保存全部变量和模型
- DEP/ASLR 原理及攻击
- 一图了解网络分层模型即各层对应哪些协议
- 2017.6.6测试 题一 火柴
- reverse函数:反转容器内容
- HDU 6106 Classes【水题】
- tf.train.exponential_decay的用法
- 为什么安装 jdk 时会有两个 jre ?
- 数据库连接池的理解
- OGNL概述
- java编程思想笔记-并发之线程协作(二)
- JAVA for和foreach 遍历的效率
- 为什么精英都是清单控(笔记)——社交清单
- 求高精度幂(南阳OJ155题)
- 1.A+B问题