TensorFlow 辨异 —— tf.add(a, b) 与 a+b(tf.assign 与 =)、tf.nn.bias_add 与 tf.add
来源:互联网 发布:人工智能在线观看完整 编辑:程序博客网 时间:2024/06/08 13:22
1. tf.add(a, b) 与 a+b
在神经网络前向传播的过程中,经常可见如下两种形式的代码:
- tf.add(tf.matmul(x, w), b)
- tf.matmul(x, w) + b
简而言之,就是 tf.add(a, b)
与 a + b
二者的区别,类似的也有,tf.assign
与 =
(赋值运算符)的差异。
在计算精度上,二者并没有差别。运算符重载的形式a+b
,会在内部转换为,a.__add__(b)
,而a.__add__(b)
会再一次地映射为tf.add
,在 math_ops.py
中相关的映射如下:
_OverrideBinaryOperatorHelper(gen_math_ops.add, "add")
In tensorflow what is the difference between tf.add and operator (+)?
2. tf.nn.bias_add 与 tf.add
tf.nn.bias_add 是 tf.add 的一个特例,也即 tf.add 支持的操作比 tf.nn.bias_add 更多。二者均支持 broadcasting(广播机制),也即两个操作数最后一个维度保持一致。
除了支持最后一个维度保持一致的两个操作数相加外,tf.add 还支持第二个操作数是一维的情况。
Tensorflow Python API 翻译(nn)
0 0
- TensorFlow 辨异 —— tf.add(a, b) 与 a+b(tf.assign 与 =)、tf.nn.bias_add 与 tf.add
- TensorFlow 辨异 —— tf.placeholder 与 tf.Variable
- TensorFlow 辨异 —— tf.placeholder 与 tf.Variable
- TensorFlow 辨异 —— tf.placeholder 与 tf.Variable
- TensorFlow 辨异 —— tf.placeholder 与 tf.Variable
- tf.nn.bias_add
- tf.greater(a,b)
- tensorflow学习——tf.floor与tf.train.batch
- TensorFlow 插曲-- tf.placeholder 与 tf.Variable
- tf.add()
- TensorFlow学习笔记之tf.nn.softmax()与tf.nn.softmax_cross_entropy_with_logits的用法
- tensorflow学习笔记(三十):tf.gradients 与 tf.stop_gradient()
- tf.truncated_normal与tf.random_normal
- tf.InteractiveSession()与tf.Session()
- tf.reduce_mean与tf.reduce_min
- tf.shape()与tf.get_shape()
- TensorFlow 学习(二)—— tf.Session() 与 tf.Session().run()
- tf.contrib.rnn.static_rnn与tf.nn.dynamic_rnn区别
- Ubuntu系统尝鲜记
- 成为Java顶尖程序员 ,看这9本书就够了
- 线程使用教程 五 线程池
- MyBatis 框架测试ResultMapsm
- 最短距离 dijkstra floyd 算法
- TensorFlow 辨异 —— tf.add(a, b) 与 a+b(tf.assign 与 =)、tf.nn.bias_add 与 tf.add
- STL中的set
- 前端框架下载网址
- 链表划分
- LVS-NAT模式集群的搭建和测试
- Java中集合
- LR接口测试
- 设置时钟
- Android自定义view,PasswordView,交易密码输入框