本文来自《老饼讲解-BP神经网络》https://www.bbbdata.com/
要如何使用代码实现一个BP神经网络呢?
下面跟随笔者,一步一步详细来实现,再对代码进行详细解说。
通过本文可以详细掌握怎么使用matlab来实现一个BP神经网络。
一、一步一步实现一个BP神经网络
1.1.数据介绍
现有数据如下
x1, x2 为输入,y 为对应的输出,现需要训练一个网络,用 x1, x2 预测 y
1.2.BP神经网络结构设置
BP的通用结构如下
在通用结构中,包含了输入层、隐层和输出层,
隐层和输出层的神经元都有自己的阈值和激活函数
它属于前馈型神经网络,即神经元是层层连接、逐层向前传递,
在本例子中,我们这里采用的结构如下
1:节点个数设置: 输入层、隐层、输出层的节点个数分别为[2 ,3,1]。
2:传递函数设置:隐层( tansig函数)。输出层(purelin函数)。
3:训练方式:trainlm。
完整示例见: 一个简单的BP神经网络例子
1.3.BP神经网络matlab代码实现
通过代码,使用数据对上面的BP神经网络模型进行训练,
下面是matlab2018a的代码实现
x1 = [-3,-2.7,-2.4,-2.1,-1.8,-1.5,-1.2,-0.9,-0.6,-0.3,0,0.3,0.6,0.9,1.2,1.5,1.8]; % x1:x1 = -3:0.3:2;
x2 = [-2,-1.8,-1.6,-1.4,-1.2,-1,-0.8,-0.6,-0.4,-0.2,0,0.2,0.4,0.6,0.8,1,1.2]; % x2:x2 = -2:0.2:1.2;
y = [0.6589,0.2206,-0.1635,-0.4712,-0.6858,-0.7975,-0.8040,...-0.7113,-0.5326,-0.2875 ,0,0.3035,0.5966,0.8553,1.0600,1.1975,1.2618]; % y: y = sin(x1)+0.2*x2.*x2;inputData = [x1;x2]; % 将x1,x2作为输入数据
outputData = y; % 将y作为输出数据
setdemorandstream(88888); % 指定随机种子,这样每次训练出来的网络都一样。%使用用输入输出数据(inputData、outputData)建立网络,
%隐节点个数设为3.其中隐层、输出层的传递函数分别为tansig和purelin,使用trainlm方法训练。net = newff(inputData,outputData,3,{'tansig','purelin'},'trainlm');%设置一些常用参数
net.trainparam.goal = 0.0001; % 训练目标:均方误差低于0.0001
net.trainparam.show = 400; % 每训练400次展示一次结果
net.trainparam.epochs = 15000; % 最大训练次数:15000.
[net,tr] = train(net,inputData,outputData); % 调用matlab神经网络工具箱自带的train函数训练网络simout = sim(net,inputData); % 调用matlab神经网络工具箱自带的sim函数得到网络的预测值
figure; % 新建画图窗口窗口
t=1:length(simout);
plot(t,y,t,simout,'r') % 画图,对比原来的y和网络预测的y
一些读者在网上或书上借鉴的matlab实现BP神经网络的代码,往往这些代码非常长,主要是因为其中包括了归一化等相关处理
事实上,自matlab2012b之后,matlab神经网络工具箱已经作了高度封装,因此现在使用matlab构建BP神经网络已经节省了非常多的代码,建议初学者先按本文的代码进行学习和理解
二、BP神经网络代码详细解释
以下面的简单代码为例,一步一步解释代码的意义
X = [1,2,3,5,8]; % 输入数据X
y= [4,10,20,52,130]; % 输出数据y
net = newff(X,y,3,{'tansig','purelin'},'trainlm') ; % 构建一个BP神经网络
net.trainparam.goal = 0.00001; % 训练目标:均方误差低于0.00001
[net,tr,net_y] = train(net,X,y); % 训练网络
train_err = mean(abs(net_y(tr.trainInd)-y(tr.trainInd))); % 训练数据的误差
test_err = mean(abs(net_y(tr.testInd)-y(tr.testInd))); % 测试数据的误差
sim_y = sim(net,X); % 使用训练好的网络对X进行预测
2.1.第1-2行的代码解说
第一第二行的matlab代码是训练数据的输入和输出
BP神经网络工具箱的输入和输出都是矩阵
PASS:matlab的神经网络每一列代表一个样本,每行代表一个变量, 切记
2.2.第3-5行的代码解说
代码的第3、4、5是BP神经网络的设置与训练
BP神经网络代码讲解-片段2, 各行的具体含义如下
👉 第三行用于构建一个BP神经网络
👉 第四行用于设置训练的参数(可不设置)
👉 第五行用于训练网络
newff是matlab用于初始化一个BP神经网络的函数,它的参数意义如下:
- 3代表只有一个节点数为3的隐层
如果换成[4,5]则代表有两个隐层,第一个隐层有4个节点,第二个隐层有5个节点 - {‘tansig’,‘purelin’}则代表隐层、输出层的激活函数分别为tansig和purelin,
如果有两个隐层,就需要给两个隐层设置激活函数,例如{‘tansig’,‘tansig’,‘purelin’} - trainlm则是我们的训练函数,代表用lm算法训练网络
也可设为’traingd’,代表用梯度下降算法训练网络,但强烈建议用默认的trainlm*
2.3.第6-8行的代码解说
代码的第6、7行用于查看网络的误差
第8行则是用训练好的BP神经网络进行预测
- BP神经网络的误差
第5行网络训练时获得的net_y存放了网络的预测值,只需根据tr.trainInd、tr.testInd获取训练数据、测试数据的索引,就可以计算出相应的训练误差和测试误差 - BP神经网络的预测
最后,我们只需要使用sim函数就可以用训练好的网络对新数据进行预测了 ,sim_y = sim(net,X)代表用训练好的net对X进行预测,sim_y就是预测结果
相关链接:
《老饼讲解-机器学习》:老饼讲解-机器学习教程-通俗易懂
《老饼讲解-神经网络》:老饼讲解-matlab神经网络-通俗易懂
《老饼讲解-神经网络》:老饼讲解-深度学习-通俗易懂