RBF神经网络设计.pptx

1、主主 讲：周润景讲：周润景 教授教授单单 位：电子信息工程学院位：电子信息工程学院基于基于RBF网络网络数据分类设计数据分类设计目目 录录 RBF神经网络简介神经网络简介径向基函数的网络结构径向基函数的网络结构 径向基函数网络参数径向基函数网络参数选择选择RBF网络网络应用于模式分类应用于模式分类总结总结 一一.RBF神经网络神经网络简介简介u从从对对函函数数的的逼逼近近功功能能而而言言，神神经经网网络络可可分分为为全全局局逼逼近近和和局局部部逼逼近近。局局部部逼逼近近网网络络具具有有学学习习速速度度快快的的优优点点。径径向向基基函函数数（Radial Radial Basis Basis F

2、unctionFunction，RBFRBF）就属于局部逼近神经网络）就属于局部逼近神经网络。u径径向向基基函函数数RBFRBF神神经经网网络络（简简称称径径向向基基网网络络）是是由由J.MoodyJ.Moody和和C.DarkenC.Darken于于2020世世纪纪8080年年代代末末提提出出的的一一种种神神经经网网络络结结构构，RBFRBF神神经经网网络络是是一一种种性性能能良良好好的的前前向向网网络络，具具有有最最佳佳逼逼近近及及克克服服局局部部极极小小值值问问题的性能。题的性能。二二.径向基函数的网络结构径向基函数的网络结构径向基函数的网络结构径向基函数的网络结构二二.径向基函数的网络

3、结构径向基函数的网络结构输入层到隐含层为非线性映射输入层到隐含层为非线性映射,基函数是高斯函数：基函数是高斯函数：二二.径向基函数的网络结构径向基函数的网络结构RBF神经网络的拓扑结构是一种三层前向网络神经网络的拓扑结构是一种三层前向网络：输入层输入层由信号源结点构成，仅起到数据信息的传递作用，对输入信由信号源结点构成，仅起到数据信息的传递作用，对输入信息不进行任何变换息不进行任何变换；第二第二层为隐含层，结点数视需要而定，隐含层神经元的核函数（作层为隐含层，结点数视需要而定，隐含层神经元的核函数（作用函数）为高斯函数，对输入信息进行空间映射变换用函数）为高斯函数，对输入信息进行空间映射变换；

4、第三第三层为输出层，它对输入模式做出响应，输出层神经元的作用函层为输出层，它对输入模式做出响应，输出层神经元的作用函数为线性函数，对隐含层神经元输出的信息进行线性加权后输出，数为线性函数，对隐含层神经元输出的信息进行线性加权后输出，作为整个神经网络的输出结果。作为整个神经网络的输出结果。三三.径向径向基函数网络参数选择基函数网络参数选择 四四、RBF网络网络应用应用于模式分类于模式分类以酒瓶分类三元色数据为例，希望将数据按照颜色数据所表征的特点，将数据按各自所属的类别归类。其中，前29组数据已确定类别，后30组数据待确定类别。（1）从样本数据库中获取训练数据取前29组数据作为训练样本。为了编程

5、方便，先对这29组数据按类别进行升序排序。重新排序后的数据如下表所示。序 号ABC分 类 结 果4864.451647.312665.916877.882031.663071.181161418.791775.892772.91251449.581641.583405.12182352.122557.041411.532142297.283340.14535.622152092.623177.21584.322182205.363243.741202.692192949.163244.44662.422222802.883017.111984.982242063.543199.761257.2

6、1211739.941675.152395.96331756.7716521514.98371803.581583.122163.053111571.171731.041735.333171845.591918.812226.493201692.621867.52108.973211680.671575.781725.13261651.521713.281570.3832373.33087.052429.4745222.853059.542002.3349401.33259.942150.98410363.343477.952462.86412104.83389.832421.83413499

7、.853305.752196.22423172.783084.492328.65427341.593076.622438.63428291.023095.682088.95429237.633077.782251.964 四四、RBF网络网络应用应用于模式分类于模式分类将排序后的数据及其类别绘制在三维图中直观地表示出来，作为RBF网络训练时应达到的目标。排序后的数据及其类别的三维图如下图所示。四四、RBF网络网络应用应用于模式分类于模式分类将样本数据及分类结果分别存放到“.dat”文件中。数据文件内容及格式如下图所示。rbf_train_sample_data.dat文件内容及格式rbf_si

8、mulate_data.dat文件内容及格式rbf_train_target_data.dat文件内容及格式 四四、RBF网络网络应用应用于模式分类于模式分类（2）设置径向基函数的分布密度Spread为径向基层的分布密度，又称散布常数，默认值为1。散布常数是RBF网络设计过程中一个非常重要的参数。一般情况下，散布常数应该足够大，使得神经元响应区域覆盖所有输入区间。（3）调用newrb构建并训练径向基函数神经网络；在MATLAB中，构建径向基函数网络的函数文件有两个，分别为newrbe()函数和newrb()函数。应用newrbe()函数可以快速设计一个径向基函数网络，并且使得设计误差为0，调用

9、方式如下：net=newrbe(p,t,spread);其中，p为输入向量；t为期望输出向量（目标值），spread为径向基层的散布常数，默认值为1。输出为一个径向基网络，其权值和阈值完全满足输入和期望值关系要求。由newrbe()函数构建的径向基函数网络，其径向基层（第一层）神经元数目等于输入向量的个数，那么在输入向量较多的情况下，则需要很多的神经元，这就给网络设计带来一定的难度。函数newrb()则可自动增加网络的隐含层神经元数目，直到均方差满足精度或神经元数目达到最大为止。四四、RBF网络网络应用应用于模式分类于模式分类newrb定义为net=newrb(p,t,GOAL,SPREAD,

10、MN,DF)，各个参数的定义如下：uPQ个输入向量的RQ维矩阵。这里Q=29，R=3uTQ个目标类别向量的SQ维矩阵。这里S=1uGOAL期望的均方误差值，默认时为0.0。这里选择默认值uSPREAD径向基函数的散布常数，默认时为1.0uMN神经元的最大数目，默认时等于Q。这里设置为28uDF每次显示时增加的神经元数目，默认时为25，并且返回一个新的径向基函数网络。这里设置为2。（4）调用sim，测试RBF网络的训练效果（5）再次调用sim识别样本所属类别 四四、RBF网络网络应用应用于模式分类于模式分类基于MATLAB的RBF模式分类程序如下：clear;clc;%网络训练目标pConver

11、t=importdata(C:UsersAdministratorDesktopRBFrbf_train_sample_data.dat);p=pConvert;t=importdata(C:UsersAdministratorDesktopRBFrbf_train_target_data.dat);plot3(p(1,:),p(2,:),p(3,:),o);grid;box;fori=1:29,text(p(1,i),p(2,i),p(3,i),sprintf(%g,t(i),endholdofff=t;index1=find(f=1);index2=find(f=2);index3=fin

12、d(f=3);index4=find(f=4);四四、RBF网络网络应用应用于模式分类于模式分类line(p(1,index1),p(2,index1),p(3,index1),linestyle,none,marker,*,color,g);line(p(1,index2),p(2,index2),p(3,index2),linestyle,none,marker,*,color,r);line(p(1,index3),p(2,index3),p(3,index3),linestyle,none,marker,+,color,b);line(p(1,index4),p(2,index4),p

13、(3,index4),linestyle,none,marker,+,color,y);box;gridon;holdon;axis(035000350003500);title(训练用样本及其类别);xlabel(A);ylabel(B);zlabel(C);%RBF网络的创建和训练过程net=newrb(p,t,0,410,28,2);A=sim(net,p)plot3(p(1,:),p(2,:),p(3,:),r.),grid;box;axis(035000350003500)fori=1:29,text(p(1,i),p(2,i),p(3,i),sprintf(%g,A(i),endh

14、oldofff=A;四四、RBF网络网络应用应用于模式分类于模式分类index1=find(f=1);index2=find(f=2);index3=find(f=3);index4=find(f=4);line(p(1,index1),p(2,index1),p(3,index1),linestyle,none,marker,*,color,g);line(p(1,index2),p(2,index2),p(3,index2),linestyle,none,marker,*,color,r);line(p(1,index3),p(2,index3),p(3,index3),linestyle

15、,none,marker,+,color,b);line(p(1,index4),p(2,index4),p(3,index4),linestyle,none,marker,+,color,y);box;gridon;holdon;title(网络训练结果);xlabel(A);ylabel(B);zlabel(C);%对测试样本进行分类pConvert=importdata(C:UsersAdministratorDesktopRBFrbf_simulate_data.dat);p=pConvert;a=sim(net,p)四四、RBF网络网络应用应用于模式分类于模式分类运行程序后，系统首先

16、输出训练用样本及其类别分类图，如下图a所示。接着输出RBF网络的训练结果图，如下图b所示。图a训练用样本及其类别分类图图bRBF网络的训练结果图 四四、RBF网络网络应用应用于模式分类于模式分类RBF网络结果网络结果与原始数据对比与原始数据对比序 号ABC目 标 结 果RBF网络分类结果4864.451647.312665.9116877.882031.663071.1811161418.791775.892772.911251449.581641.583405.121182352.122557.041411.5322142297.283340.14535.6222152092.623177.21584.3222182205.363243.741202.6922192949.163244.44662.4222222802.883017.111984.9822242063.543199.761257.212211739.941675.152395.963331756.7716521514.9833RBF网络结果网络结果与原始数据对比与原始数据对比71803.581583.122163.0