Matlab神经网络函数newff()新旧用法差异
作者:互联网
摘要
在Matlab R2010a版中,如果要创建一个具有两个隐含层、且神经元数分别为5、3的前向BP网络,使用旧的语法可以这样写:
net1 = newff(minmax(P), [5 3 1]);
注意minmax()函数的使用,还有对输出层神经元数(1)的指定。
当然也可以采用新的语法,更简洁(请留意差异):
net2 = newff(P, T, [5 3]);
不用求minmax,也不用人工指定输出层神元数了(newff会根据参数T自行推导)。
不过,为了得到与书本示例接近的结果,接下来需要清除net2.divideFcn等属性再训练,否则结果相去甚远,且远不止一个数量级。
net2.divideFcn = ‘’;
net2.inputs{1}.processFcns = {}; % 1是输入层所在网络层编号
net2.outputs{3}.processFcns = {}; % 3 是输出层所在网络层编号
正文
最近在看朱凯的《精通Matlab神经网络》,到第10章例10-3时,发现newff()的新旧用法得到的结果相去甚远。
书中例10-3采用了旧式写法,代码如下:
% 例10-3,旧式写法
clear all
P = [-1 -1 2 2; 0 5 0 5];
T = [-1 -1 2 2];
%% 旧式语法
net1 = newff(minmax§,[5 1],{‘tansig’, ‘purelin’}, ‘traingd’); % 隐含层有5个神经元
net1.trainParam.goal = 1e-5;
net1.trainParam.epochs = 300;
net1.trainParam.lr = 0.05;
net1.trainParam.showWindow = 1;
net1= train(net1,P,T);
Y1 = sim(net1,P);
disp(['旧式语法 mse: ’ num2str(mse(T-Y1))]);
训练窗口最终如下:
程序输出如下:
Warning: NEWFF used in an obsolete way.
In nntobsu at 18
In newff at 86
See help for NEWFF to update calls to the new argument list.
旧式语法 mse: 9.8073e-006
很明显,达到了设定的1e-5的目标。
不过我们也收到了警告,建议我们采用新的参数列表。于是查帮助,改成新的写法,代码如下:
% 例10-3,新式写法
clear all
P = [-1 -1 2 2; 0 5 0 5];
T = [-1 -1 2 2];
%% 新式语法
net2 = newff(P,T,5,{‘tansig’, ‘purelin’}, ‘traingd’); % 隐含层有5个神经元
net2.trainParam.goal = 1e-5;
net2.trainParam.epochs = 300;
net2.trainParam.lr = 0.05;
net2.trainParam.showWindow = 1;
net2 = train(net2,P,T);
Y2 = sim(net2,P);
disp(['新式语法 mse: ’ num2str(mse(T-Y2))]);
训练窗口:
程序输出:
新式语法 mse: 10.7499
可见,远远没有达到1e-5的目标。
这是为什么呢?QQ群咨询无果,无奈之下自行研究源码。
newff.m分成三大块:主程序、新版实现子函数 new_5p1()、旧版实现子函数 new_5p0()。通过仔细比较新旧这两个子函数,发现新版设置了 net.divideFcn 属性,其值为’dividerand’。该函数把样本数据三分为训练集、验证集和测试集,默认比例是6:2:2。于是在我的程序中清除该属性再训练:
% 例10-3,新写法,改进
clear all
P = [-1 -1 2 2; 0 5 0 5];
T = [-1 -1 2 2];
%% 新式语法
net2 = newff(P,T,5,{‘tansig’, ‘purelin’}, ‘traingd’); % 隐含层有5个神经元
net2.trainParam.goal = 1e-5;
net2.trainParam.epochs = 300;
net2.trainParam.lr = 0.05;
net2.trainParam.showWindow = 1;
net2.divideFcn = ‘’; % 为和书本一致,对于样本极少的情况,不要再三分了
net2 = train(net2,P,T);
Y2 = sim(net2,P);
disp(['新式语法,改进 mse: ’ num2str(mse(T-Y2))]);
训练窗口:
程序输出:
新式语法,改进 mse: 9.8129e-006
也达到了预期目标。
其实,新旧两次的训练窗口和Performance窗口也可以发现端倪的,此处不再细说,请各位看官自行对比。
当然,至于新版为什么要引入divideFcn必有其道理,我是初学者,有所揣测暂不表,先跟着书走。
标签:trainParam,语法,神经网络,Matlab,mse,newff,net2,net1 来源: https://blog.csdn.net/ifegjh/article/details/100804876