Matlab传统神经网络函数:Newff的使用方法记录

newff，已经过时，新函数feedforwardnet似乎可以分割training set和testing set，实验中不想要这个功能，所以暂时还是使用习惯的newff，等有时间再熟悉新函数。

newff因为更新过一次使用方法，所以有些的网上的资料中的方法十分过时,对学习造成影响。总结一下，在Matlab 2014a中目前的newff方法。

一. 在MATLAB中运用神经网络时主要分为三步：设计、训练、测试：

• 设计包括：

设计每层神经元数目（输入层，隐含层，输出层）

设定转移函数σ：（每一层的神经元基本上都会用同一个转移函数）

设定训练方法：traingdx（梯度下降）、trainlm（Levenburg-Marquardt，一种结合了梯度下降法和牛顿法的方法）

其他可选部分：误差函数（默认MSE），训练过程作图，等等。

1. 简单的例子

<span style="font-family:Microsoft YaHei;font-size:14px;">P = [0 1 2 3 4 5 6 7 8 9 10];%Training Patterns (domain values)T = [0 1 2 3 4 3 2 1 2 3 4];%Training Targets (range values)net = newff([0 10],[5 1],{’tansig’ ’purelin’});%Plot the original data points and the untrained outputY = sim(net,P);figure(1)plot(P,T,P,Y,’o’)title(’Data and Untrained Network Output’)%Train the network and plot the resultsnet.trainParam.goal=0.01; %0 is the default- too small!net.trainParam.epochs = 50; %For our sample, don’t train toolongnet = train(net,P,T);X = linspace(0,10); %New Domain PointsY = sim(net,X); %Network Outputfigure(2)plot(P,T,’ko’,X,Y)%An alternative way to test training: postregfigure(3)Tout=sim(net,P); %Get network output for the training domain[m,b,r]=postreg(T,Tout); %Performs a linear regression<span style="font-family: 'Microsoft YaHei';font-size:14px; background-color: rgb(255, 255, 255);"> </span></span>

注意：

a.输入值最小值为0，最大值为10，这是通过newff第一个变量设定的。如果具有m个输入特征，此变量，需要变成m行。

上面说了，newff第一个变量，用来设定输入特征的范围。有些人使用minmax来输入也可以，如下：

b. newff第二个变量，用来设定隐含层和输出层神经元的数目。第三个变量，设定转移函数：tansig（反正切），与默认的函数（sigmoidal）效果一样好。我们通常在输出层选择一个线性函数，所以我们选择（purelin）。

c. 默认训练方法为（Levenburg-Marquardt）,为梯度下降和牛顿法的结合。

2. 中等的例子

此部分我们保留一部分验证集来对训练情况进行验证。

%创建训练集p=[-1:0.05:1];t=sin(2*pi*p)+0.1*randn(size(p));%创建验证集v.P=[-0.975:0.05:0.975];v.T=[sin(2*pi*v.P)+0.1*randn(size(v.P))];%创建神经网络，用验证集帮助停止训练，ＦｅｅｄＦｏｒｗａｒｄｎｅｔ已经自带分隔训练集和验证集。net=newff(minmax(p),[20,1]);net.trainParam.show=25;net.trainParam.epochs=300;[net,tr]=train(net,p,t,[],[],v);%画出数据和网络的输出X=linspace(-1,1);Y=sim(net,X);plot(p,t,’k*’,v.P,v.T,’ko’,X,Y,’r-’);legend(’TrainingData’,’Testing Data’,’Network’)

3. 复杂的例子：字符识别

为了运行次代码，开始要把下一页的函数：ＰｌｏｔＬｅｔｔｅｒ．ｍ写出保存，这个函数用于可视化出来我们的字符。

[alphabet,targets]= prprob;  %在ＭａｔｌＡｂ中建立训练集plotletters(alphabet);       %用ＰｌｏｔＬｅｔｔｅｒ函数画出来训练集中的字符

我们设计了隐藏层包括10个节点，而在输出层26个节点的神经网络，在隐藏层和输出层使用logsig转移函数。

算法训练：

net =newff(minmax(alphabet),[10 26],{’logsig’ ’logsig’},’traingdx’);％　设置这些值，可以得到提供更好的训练结果（权重和偏置的初始化应该设置较小）net.LW{2,1}= net.LW{2,1}*0.01;net.b{2} =net.b{2}*0.01;net.performFcn= ’sse’; % Sum-Squared Error performance functionnet.trainParam.goal= 0.1; % Sum-squared error goal.net.trainParam.show= 20; % Frequency of progress displays (in epochs).net.trainParam.epochs= 5000; % Maximum number of epochs to train.net.trainParam.mc= 0.95; % Momentum constant.% 训练开始...请等待...P =alphabet;noisyP=alphabet+randn(size(alphabet))*0.4;T =targets;[net,tr] =train(net,P,T);[net,tr] =train(net,noisyP,T);%在噪声数据上测试noisyP =alphabet+randn(size(alphabet)) * 0.2;plotletters(noisyP);A2 =sim(net,noisyP);for j=1:26%Number of noisy lettersA3 =compet(A2(:,j));answer(j)= find(compet(A3) == 1);endNetLetters=alphabet(:,answer);plotletters(NetLetters);

以下是plotletters．ｍ函数，用来可视化字符

function   plotletters(alphabet)fprintf(’plotlettersis plotting the first 25 letters\n’);[m,n]=size(alphabet);if m~=35error(’plotlettersneeds columns 35 numbers long’);endfigureMM=colormap(gray);MM=MM(end:-1:1,:);colormap(MM);nn=min([n,25]);for j=1:nnsubplot(5,5,j)imagesc(reshape(alphabet(:,j),5,7)’);axis equalaxis offend