三层神经网络简单实现(Python版)

来源:互联网 发布:mysql数据库结构设计 编辑:程序博客网 时间:2024/05/01 09:57
#!/usr/bin/python#--coding=utf-8--import numpy as npdef nonlin(x,deriv = False):        if(deriv == True):            return x*(1-x)        return 1/(1+np.exp(-x))X = np.array([[0,0,1],              [0,1,1],              [1,0,1],              [1,1,1]])y = np.array([[0],[1],[1],[0]])np.random.seed(1)syn0 = 2*np.random.random((3,4)) - 1  #第一层权值syn1 = 2*np.random.random((4,1)) - 1  #第二层权值for j in xrange(60000):    L0 = X                        #输入层    L1 = nonlin(np.dot(L0,syn0))  #隐含层    L2 = nonlin(np.dot(L1,syn1))  #输出层    L2_error = y - L2    if(j%10000) == 0:        print "Erroe: " + str(np.mean(np.abs(L2_error)))    L2_delta = L2_error*nonlin(L2,deriv=True) #基于置信度衡量的输出误差,即当斜率很平缓时,结果是很让人相信的    L1_error = L2_delta.dot(syn1.T) #L2_delta的权值是由syn1的权值决定的,因此可以计算隐含层误差    L1_delta = L1_error*nonlin(L1,deriv=True)    syn1 += L1.T.dot(L2_delta)    syn0 += L0.T.dot(L1_delta)

输出:

Error: 0.496410031903Error: 0.00858452565325Error: 0.00578945986251Error: 0.00462917677677Error: 0.00395876528027Error: 0.0035101225678

0 0