Tensorflow中前向传播算法

来源:互联网 发布:伪娘 出柜 知乎 编辑:程序博客网 时间:2024/05/16 14:58

神经网络的前向传播算法主要构成部分:

      1.神经网络的输入;

      2.神经网络的连接结构;

      3.每个神经元中的参数。










                 为剪切图,为表示前向传播过程

由输入层的取值推导隐藏层取值,再由隐藏层取值推导输出层取值。
通过矩阵乘法计算前向传播算法:
输入层为1*2的矩阵x=[x1,x2]  ,而输入层和隐藏层的连接权值W为一个2*3的矩阵:w=[w1,w2,w3,w4,w5,w6];

则通过矩阵乘法得到隐藏层中三个节点所组成的向量取值:a=[x1*w1+x2*w4,x1*w2+x2*w5,x1*w3+x2*w6]

再通过前向传播算法得出输出层:隐藏层和输出层间连接的权值用3*1矩阵s=[s1,

                                                                                                                                        s2,

                                                                                                                                         s3]表示(为便于区分);

则由a*s得到输出层:[y]=[(x1*w1+x2*w4)*s1+(x1*w2+x2*w5)*s2+(x1*w3+x2*w6)*s3]

用tensorflow程序实现则用到tf.matmul()函数,表示为:

a=tf.matmul(x,w)

y=tf.matmul(a,s)

其中,tf.matmul()函数实现了矩阵乘法的功能。


原创粉丝点击