基于tensorflow的简单BP神经网络的结构搭建

之前的一篇博客专门介绍了神经网络的搭建，是在Python环境下基于numpy搭建的，之前的numpy版两层神经网络，不能支持增加神经网络的层数。最近看了一个介绍tensorflow的视频，介绍了关于tensorflow的构建神经网络的方法，特此记录。

tensorflow的构建封装的更加完善，可以任意加入中间层，只要注意好维度即可，不过numpy版的神经网络代码经过适当地改动也可以做到这一点，这里最重要的思想就是层的模型的分离。

[python] view plain copy

 print?

1. import tensorflow as tf   
2. import numpy as np   
3.   
4. def addLayer(inputData,inSize,outSize,activity_function = None):  
5.     Weights = tf.Variable(tf.random_normal([inSize,outSize]))   
6.     basis = tf.Variable(tf.zeros([1,outSize])+0.1)    
7.     weights_plus_b = tf.matmul(inputData,Weights)+basis  
8.     if activity_function is None:  
9.         ans = weights_plus_b  
10.     else:  
11.         ans = activity_function(weights_plus_b)  
12.     return ans  
13.   
14.   
15. x_data = np.linspace(-1,1,300)[:,np.newaxis] # 转为列向量  
16. noise = np.random.normal(0,0.05,x_data.shape)  
17. y_data = np.square(x_data)+0.5+noise  
18.   
19.   
20. xs = tf.placeholder(tf.float32,[None,1]) # 样本数未知，特征数为1，占位符最后要以字典形式在运行中填入  
21. ys = tf.placeholder(tf.float32,[None,1])  
22.   
23. l1 = addLayer(xs,1,10,activity_function=tf.nn.relu) # relu是激励函数的一种  
24. l2 = addLayer(l1,10,1,activity_function=None)  
25. loss = tf.reduce_mean(tf.reduce_sum(tf.square((ys-l2)),reduction_indices = [1]))#需要向相加索引号，redeuc执行跨纬度操作  
26.   
27. train =  tf.train.GradientDescentOptimizer(0.1).minimize(loss) # 选择梯度下降法  
28.   
29. init = tf.initialize_all_variables()  
30. sess = tf.Session()  
31. sess.run(init)  
32.   
33. for i in range(10000):  
34.     sess.run(train,feed_dict={xs:x_data,ys:y_data})  
35.     if i%50 == 0:  
36.         print sess.run(loss,feed_dict={xs:x_data,ys:y_data})