从RNN的输出结果到loss的计算
来源:互联网 发布:手机网络无法登陆钉钉 编辑:程序博客网 时间:2024/05/24 04:29
首先在得到embeddingout的结构后,声明一个RNN单元,大小为10
cell = tf.nn.rnn_cell.BasticRNNCell(num_utis = 10)
计算output和state
output,state = tf.nn.dynamic_rnn(cell,embedding_output,dtype = tf.float32)
然后可以添加droupout
output = tf.nn.droupout(output,0.01)
如果你的需要lstm最后一个节点的结果,也就是最后一个time跑完的结果,那么
你需要转置,然后每一个的最后输出拼成矩阵,然后拿出来
output = tf.transpose(output,[1,0,2])
last = tf.gather(output,int(output.get_shape()[0]-1)
为了完成预测,需要在此之上连接一个全连接层,来将rnn_size的数据输出为你的类别大小
weight = tf.Variable(tf.truncated_normal(tf.truncated_normal(rnn_size,2),stddev=0.1))
bias = tf.Variable(tf.constant(0.1,shape=[2]))
logits_out = tf.nn.Softmax(tf.matmul(last,weight)+bias)
此时输出的维度和你的目标维度相同,就可以计算loss了
losses = tf.nn.sparse_softmax_cross_entropy_with_logits(logits_out,y_output)
loss = reduce_mean(losses)
接下来就是创建优化器,最后就是迭代了。
- 从RNN的输出结果到loss的计算
- 怎么样把VB中计算的结果输出到WORD中
- 在MFC中也能把函数中的计算结果随时输出到文档的窗口
- 从NN到RNN再到LSTM(2): 循环神经网络RNN简介及计算
- matlab结果输出到文本的方法
- 从RNN到LSTM
- 神经网络中自定义LOSS的BP计算
- 把程序的输出结果输出到log文件
- RNN中输出端的sample采样
- access查询到的结果输出到excel
- 输入一串字符,要求数字从小到大,字母从a到z排序,输出字母和数字的排序结果。
- 从最初rnn 到lstm 演变, lstm各个控制门的实现过程
- 从RNN到LSTM剖析
- 从NN到RNN再到LSTM(3): 长短时记忆LSTM简介及计算
- 输出从1到1000的数
- 输出从1到1000的数
- 输出从1到1000的数
- 输出从m到n的值、
- 集合_小记
- I
- Picasso实现原理
- JavaScripy关于对继承原型链,借用构造函数和组合继承的理解
- 堆应用(最小的K个数)
- 从RNN的输出结果到loss的计算
- java 窗口程序
- 171109-宏定义指令和命名空间的学习以及一个函数程序练习【连续第十七天】
- 【学习笔记2】吴恩达_卷积神经网络_第一周卷积神经网络(2)
- Scrapy开启
- 习题5 5.8
- [NOIP2017模拟]路径统计
- JSP
- L