神经网络遗传算法函数极值寻优.docx

1、神经网络遗传算法函数极值寻优神经网络遗传算法函数极值寻优 编辑整理：尊敬的读者朋友们：这里是精品文档编辑中心，本文档内容是由我和我的同事精心编辑整理后发布的，发布之前我们对文中内容进行仔细校对，但是难免会有疏漏的地方，但是任然希望（神经网络遗传算法函数极值寻优）的内容能够给您的工作和学习带来便利。同时也真诚的希望收到您的建议和反馈，这将是我们进步的源泉，前进的动力。本文可编辑可修改，如果觉得对您有帮助请收藏以便随时查阅，最后祝您生活愉快 业绩进步，以下为神经网络遗传算法函数极值寻优的全部内容。 Beijing Jiaotong University 智能控制技术报告神经网络遗传算法函数极值寻优

2、学 院：电子信息工程学院学 号：姓 名：指导教师:时 间：2014。11。29一、课题背景在研究中经常会遇到一些非常复杂的非线性系统，这些系统方程复杂，难以用数学方法准确建模。在这种情况下，可以建立BP神经网络表达这些非线性系统。该方法把系统看成是一个黑箱,首先用系统输入输出数据训练BP神经网络，使网络能够表达该未知函数,然后就可以用训练好的BP神经网络预测系统输出.对于未知的非线性函数，仅通过函数的输入输出数据难以准确寻找函数极值.遗传算法通过模拟自然界遗传机制和生物进化论能够进行并行随机搜索最优化，所以对非线性函数极值寻优可以通过神经网络结合遗传算法求解。利用神经网络的非线性拟合能力和遗传

3、算法的非线性寻优能力寻找函数极值。本文拟合的非线性函数为:该函数的图形如图所示：图11 待拟合函数图形从函数方程和图形可以看出，该函数仅有一个全局最大值为0。9655，对应的坐标是(0。537,0.9655）.虽然从函数方程和图形中很容易找出函数及极值对应的坐标,但是在方程未知的条件下函数极值及极值对应的坐标就很难求到。二、模型建立2。1 算法流程神经网络遗传算法函数极值寻优主要分为BP神经网络训练拟合和遗传算法极值寻优两步，算法流程如图所示：图2-1 算法流程图神经网络训练拟合根据寻优函数的特点构建适合的BP神经网络，用非线性函数的输入输出数据训练BP神经网络，训练后的神经网络就可以预测函数

4、输出。遗传算法极值寻优把训练后的BP神经网络预测结果作为个体适应度值,通过选择、交叉和变异操作寻找函数的全局最优值及对应的值.2。2 BP算法实现2.2。1 数据选择和归一化 数据归一化是神经网络训练和预测前对数据常做的一种处理方法。数据归一化处理把所有的数据都归一化为0,1之间的数,其目的是取消各维数据间数量级差别，避免因为输入输出数据数量级差别较大而造成训练失败或者预测误差较大。数据归一化可以使用MATLAB自带函数mapminmax,该函数有多种形式，常用的方法如下：样本输入输出数据归一化inputn,inputps=mapminmax（input_train）;outputn，outp

5、utps=mapminmax(output_train）;input_train、output_train是训练输入、输出原始数据，inputn、outputn是归一化后的数据，inputps、outputps为数据归一化后得到的结构体，里面包含了数据的最大值、最小值和平均值等信息,可以用于测试数据归一化和反归一化。测试数据归一化和反归一化程序一般如下：数据归一化inputn_test=mapminmax(apply，input_test,inputps); %网络输出反归一化BPoutput=mapminmax（reverse,an，outputps）；input_test是预测输入数据，i

6、nput_test是归一化后的预测数据,apply表示根据inputps进行归一化；an是网络预测结果，outputs是训练输出数据归一化得到的结构体，BPoutput是反归一化后的网络预测输出，reverse表示对数据进行反归一化。2.2。2 BP神经网络训练 用训练数据训练神经网络,使网络对非线性函数具有预测能力.MATLAB神经网络工具箱中自带BP神经网络函数，使用时只需要调用相关的子程序即可.BP神经网络训练主要用到newff、sim两个函数.1.newff:BP神经网络参数设置函数函数功能：构建一个BP网络.函数形式：net=newff(P，T，S，TF，BTF，BLF,PF，IPF

7、，OPF,DDF）2.train:BP神经网络训练函数函数功能：用训练数据训练BP神经网络。函数形式:net,tr=train（NET，X，T，Pi,Ai）2。2.3 BP神经网络预测用训练好的BP神经网络预测非线性函数输出，并通过BP神经网络预测输出和期望输出分析BP网络的分析能力.MATLAB神经网络工具箱提供的BP神经网络预测函数是sim.1. sim：BP神经网络预测函数函数功能：用训练好的BP神经网络预测函数输出函数形式：y=sim(net,y） 以上三个函数的具体用法可以参考其自带的帮助，本文不作详述。根据需要拟合的函数有1个输入参数、1个输出参数，确定BP神经网络为15-1。取函

8、数的4000组输入输出数据,从中随机选取3900组训练网络，100组数据测试网络性能，网络训练好后用于非线性函数输出。2。3 遗传算法实现2.3.1 种群初始化 个体编码方法为实数编码，每个个体均为一个实数串，由输入层与隐含层连接权值、隐含层阈值、隐含层与输出层连接权值以及输出层阈值4部分组成。个体包含了神经网络全部权值和阈值，在网络结构已知的情况下，就可以构成一个结构、权值、阈值确定的神经网络。2。3。2 适应度函数 根据个体得到的BP神经网络的初始权值和阈值，用训练数据训练BP神经网络后预测系统输出，把训练好的BP神经网络预测输出作为个体适应度的值。2.3。3 选择操作遗传算法选择操作有轮

9、盘赌法、锦标赛法等多种方法，本文采用采用轮盘赌法，即基于适应度比例的选择策略,每个个体i的选择为:其中，为个体i的适应度值，N为种群的个体数目。2。3。4 交叉操作 由于个体采用实数编码，所以交叉操作方法采用实数交叉法，d第k个染色体和第l个染色体在j位的交叉操作方法如下：其中，b是0，1间的随机数。2。3.5 变异操作 选取第i个个体的第j个基因进行变异,变异操作方法如下：式中，为基因的上界；为基因的下界;；为一个随机数;g为当前迭代次数;是最大进化次数；r为0，1之间的随机数三、编程实现3.1 数据准备根据拟合函数得到4000组输入input和输出数据output,存入data中。for

10、i=1：4000 input(i,:）=3*rand; output(i）=-input（i)（input(i)2-3。2input（i)+2.89)（input（i）-3)/2；endoutput=output;save data input output3。2 BP神经网络主函数 对于4000组数据，采用其中3900组用来训练神经网络，最后100组用来测试网络拟合性能。%清空环境变量clccleardata；tic% 训练数据预测数据提取及归一化%下载输入输出数据load data output input 从1到4000间随机排序k=rand（1，4000）；m,n=sort(k); %

11、找出训练数据和预测数据input_train=input(n（1:3900),:）；output_train=output（n（1：3900），：）;input_test=input(n(3901:4000）,：)；output_test=output（n(3901：4000）,:）； %选连样本输入输出数据归一化inputn，inputps=mapminmax(input_train）；outputn,outputps=mapminmax（output_train); %BP网络训练初始化网络结构net=newff(inputn，outputn，5）; net.trainParam。epoc

12、hs=100;net。trainParam.lr=0.1；net。trainParam。goal=0.0000004; 网络训练net=train（net,inputn，outputn）; %BP网络预测预测数据归一化inputn_test=mapminmax(apply,input_test，inputps)； 网络预测输出an=sim(net，inputn_test)； %网络输出反归一化BPoutput=mapminmax(reverse，an,outputps）; %结果分析 figure（1)plot(BPoutput,:og)hold onplot（output_test，*);l

13、egend(预测输出，期望输出，fontsize,12)title（BP网络预测输出，fontsize，12)xlabel（样本，fontsize，12）ylabel(输出，fontsize,12)print dtiff -r600 43%预测误差error=BPoutputoutput_test； figure(2)plot(error，*）title(神经网络预测误差) figure（3)plot（output_testBPoutput)。/BPoutput，*)；title（神经网络预测误差百分比) errorsum=sum（abs（error) toc save data net in

14、putps outputps3。3 编码函数function ret=Code（lenchrom,bound）% lenchrom input ： 染色体长度 bound input ： 变量的取值范围% ret output: 染色体的编码值flag=0；while flag=0pick=rand(1,length（lenchrom); %线性插值，编码结果以实数向量存入ret中ret=bound(:,1)+（bound(:,2）-bound(：，1）。*pick; flag=test(lenchrom,bound,ret)； 检验染色体的可行性end3。4 适应度函数function fi

15、tness = fun(x） x input 个体% fitness output 个体适应度值load data net inputps outputps 数据归一化x=x；inputn_test=mapminmax(apply,x,inputps）； 网络预测输出an=sim（net,inputn_test); %网络输出反归一化fitness=mapminmax(reverse，an,outputps）；3。5 选择操作function ret=select（individuals，sizepop) individuals input : 种群信息% sizepop input ： 种群

16、规模% ret output : 经过选择后的种群 fitness1=individuals。fitness;sumfitness=sum(fitness1);sumf=fitness1。/sumfitness；index=; for i=1:sizepop %转sizepop次轮盘 pick=rand； while pick=0 pick=rand； end for i=1:sizepop pick=pick-sumf（i)； if pickpmutation continue; end flag=0； while flag=0 % 变异位置 pick=rand； while pick=0

17、pick=rand； end pos=ceil（picksum（lenchrom)）； v=chrom(i，pos）; v1=vbound(pos,1); v2=bound（pos,2)-v; pick=rand； 变异开始 if pick0.5 delta=v2（1-pick（(1-pop（1）/pop（2）2）； chrom(i，pos)=v+delta； else delta=v1(1-pick(1pop（1)/pop(2）)2）)； chrom（i，pos)=vdelta； end 变异结束 flag=test（lenchrom,bound,chrom（i,:）； %检验染色体的可行性

18、 endendret=chrom；3。8 遗传算法主函数清空环境变量clcclear %初始化遗传算法参数%初始化参数maxgen=50； 进化代数，即迭代次数sizepop=30； %种群规模pcross=0.4； %交叉概率选择,0和1之间pmutation=0.2; %变异概率选择,0和1之间 lenchrom=1； 每个变量的字串长度，如果是浮点变量，则长度都为1bound=0 3; 数据范围 individuals=struct(fitness，zeros(1，sizepop）, chrom,）;%将种群信息定义为一个结构体avgfitness=； %每一代种群的平均适应度bestf

19、itness=； 每一代种群的最佳适应度bestchrom=; 适应度最好的染色体 %初始化种群计算适应度值初始化种群for i=1:sizepop %随机产生一个种群 individuals。chrom(i，:)=Code（lenchrom,bound）; x=individuals.chrom（i,：）; 计算适应度 individuals.fitness（i）=fun(x)； 染色体的适应度end找最好的染色体bestfitness bestindex=max（individuals。fitness);bestchrom=individuals。chrom(bestindex,：）; %

20、最好的染色体avgfitness=sum(individuals。fitness)/sizepop; %染色体的平均适应度%记录每一代进化中最好的适应度和平均适应度trace=avgfitness bestfitness； 迭代寻优进化开始for i=1：maxgen i 选择 individuals=Select(individuals，sizepop); avgfitness=sum(individuals。fitness）/sizepop； %交叉 individuals。chrom=Cross(pcross,lenchrom,individuals。chrom，sizepop,boun

21、d）； %变异 individuals.chrom=Mutation（pmutation,lenchrom，individuals。chrom,sizepop，i maxgen,bound); 计算适应度 for j=1：sizepop x=individuals。chrom(j，:)； %解码 individuals.fitness（j）=fun（x）; end 找到最小和最大适应度的染色体及它们在种群中的位置 newbestfitness,newbestindex=max（individuals。fitness)； worestfitness，worestindex=min(individ

22、uals.fitness)； %代替上一次进化中最好的染色体 if bestfitnessnewbestfitness bestfitness=newbestfitness； bestchrom=individuals.chrom（newbestindex，:)； end individuals.chrom(worestindex,：)=bestchrom; individuals.fitness（worestindex）=bestfitness； avgfitness=sum（individuals。fitness）/sizepop; trace=trace；avgfitness bestf

23、itness;记录每一代进化中最好的适应度和平均适应度end%进化结束 %结果分析r c=size(trace);plot(1:r,trace(:，2),r-）;title（适应度曲线,fontsize,12)；xlabel（进化代数，fontsize，12)；ylabel（适应度，fontsize，12);axis（0,100，0，1)disp（Xmax Fmax)；x=bestchrom;窗口显示disp(x bestfitness）；四、结果分析4.1 BP神经网络拟合结果分析 因为个体的适应度值为神经网络的预测值，因此BP神经网络预测精度对最优位置的寻找具有非常重要的意义.由于寻优非线

24、性函数有1个输入参数和1个输出参数，所以构成BP神经网络的结构为1-5-1。共取非线性函数4000组数据，从中选择3900组数据训练BP神经网络，100组数据作为测试数据BP神经网络拟合性能,BP神经网络预测输出和期望输出对比如图所示：图41 BP网络预测输出图42 BP网络预测误差图4-3 BP网络预测误差百分比从BP神经网络预测结果可以看出，BP神经网络可以准确预测非线性函数输出，可以把网络预测输出近似看成函数实际输出。4.2遗传算法寻优结果分析 BP神经网络训练结束后，可以用遗传算法寻找该非线性函数的最小值。遗传算法的迭代次数是50次,种群规模是30，交叉概率为0。2，采用浮点数编码，个体长度为2，优化过程中最优化个体适应度值变化曲线如图所示：图4-4 遗传算法适应度曲线遗传算法得到的最优化个体适应度为0.5373,最优个体为0。9652，可以发现该结果与精确值（0.537，0.9655）坐标非常接近，说明神经网络遗传算法函数极值寻优这种方法非常有效。