进化规划粒子群及其变异算法应用.docx

1、进化规划粒子群及其变异算法应用 引 言: . 2第一章：概 述. 3第二章：算法研究. 531：遗传算法. 532：进化策略. 1233：进化规划. 1434：粒子群算法. 16第三章：编程实现. 23第四章：结论及体会. 26附录: 27附录: 31致谢 36 引 言 随着科学技术的日益发展，当前科学技术正进入多学科相互交叉、相互渗透、相互影响的时代。生命科学与计算机科学的交叉、渗透、影响就是其中最典型的例子。智能优化算法的蓬勃发展正体现了科学技术发展的这一特点和趋势。 让机器能有人类的智慧一直是人们的梦想，为此人们付出了巨大的努力。人工智能技术也得到了很大的发展。但是近年来，随着人工智能技

2、术的不断发展和应用，在处理知识表示、模式信息以及解决组合爆炸等方面遇到的问题也越来越突出。众所周知，在人工智能领域有不少庞大而复杂的搜索空间最优值问题。如果不利用问题固有的知识来搜索则会产生组合爆炸。因此，研究能在搜索过程中自动获得和积累有关搜索空间算法一直是令人瞩目的课题。优化算法正是在这种背景下产生并实践证明特别有效的算法。由于优化算法在机器学习、过程控制、经济预测、工程优化等领域取得的成功，已经引起了包括数学、生物学、物理学、化学、计算机科学、社会科学等领域科学家们的极大兴趣。第一章 概 论所谓优化算法，就是一种搜索的过程或规则，它基于某种思想和机制，通过一定的途径或规则满足需要的最优值

3、。就优化机制与行为而分，目前工程中常用的优化算法主要可分为：经典算法、构造型算法、改进型算法、基于系统动态演化的算法和混合型算法等。1算法。包括线性规划、动态规划、整数规划和分枝定界等运筹学中的传统算法。2构造型算法。用构造方法快速建立问题的解，譬如，调度问题中的经典构造方法：Johnson法、Palmer法、Gupta法等。3改进型算法。从任一解出发，对其邻域的不断搜索和当前解的替换来实现优化。根据搜索行为，它又可分为局部搜索法和指导性搜索法。(1).局部搜索法：以局部优化策略在当前的邻域中贪婪搜索，如只接受优于当前解的状态为下一当前解的爬山法；接受当前解邻域中最好解作为下一当前解的最陡下降

4、法等。(2)指导性搜索法：利用一些指导规划来指导整个空间中优良解的搜索，如SA、GA、EP等。4基于系统动态演化的方法。将优化过程转化为系统动态的简化过程，基于系统动态的演化来实现优化，如神经网络和混沌搜索等。5混合型算法。指上述各算法从结构或操作上混合而产生的各类算法。优化算法当然还可以从别的角度进行分类，如确定算法和不确定性算法，局部优化算法和全局优化算法等。由于本人水平有限本文主要介绍四种比较常用的优化算法遗传算法、进化规划、进化策略、粒子群算法，并编程实现以比较上述四中算法。第二章 算法研究31 遗传算法大自然经常为我们解决问题创造了灵感，遗传算法（genetic algorithms

5、，简称GA）就是J.Holland于1975年受生物进化论的启发而提出的。生命从地球上诞生以来，就开始了漫长的进化历程。自然选择学说认为生物要生存下去就必须经历斗争，在斗争中有利的个体容易生存下去，并且更有机会把有利的变异传给下一代，具有不利变异的个体就被淘汰。通过现代细胞学说和遗传学说我们可以知道遗传物质的主要载体的染色体，DNA又是主要的遗传物质，现代分子遗传学说又进一步证明，基因是遗传效应的片段。基因可以产生复制也可以发生变异，而控制生物体的性状。生物体通过自身的复制和交叉的操作使起性状的遗传得到选择和控制。同时通过基因重组、基因变异、染色体结构和数量上的变异产生丰富多彩的变异现象。从而

6、推动了生物体的进化。遗传算法就是基于“适着生存”的一种高度并行、随机和自适应的优化算法，它将问题的求解表示成“染色体”适者生存的过程。通过“染色体”的复制、交叉、变异等操作使种群一代代不断变化，最终收敛得到适应环境的个体。随着计算机技术的发展，遗传算法的应用也越来越广，同时也取得了巨大的成功。本节介绍遗传算法的流程、算法理论以及发展。311 遗传算法的基本流程 遗传算法是一类随机优化算法，但它不是简单的随机比较搜索，而是通过对染色体的评价和对染色体中基因的作用，有效地利用已有的信息来指导搜索有希望改善优化质量的状态。 标准遗传算法的主要步骤可描述为：1 随机产生一组初始个体结构成初始种群，并评

7、价每一个体的适配值。2 判断算法收敛准则是否满足，若满足则输出结果；否则执行下一步。3 根据适配值大小以一定的方式执行复制操作。4 按交叉概率pc执行交叉操作。5 按变异概率pm执行变异操作。6 返回步骤（2）。 标准遗传算法的流程图入下所示。 随机产生初始种群，并计算适配值算法是否满足收敛准则执行复制造作执行交叉操作Random0，1 pcRandom（0，1）pm执行变异操作输出结果 上述算法中，适配值是对染色提（个体）进行评价的一种指示，是GA进行优化的主要信息，它与个体的目标值存在一种对应关系；复制操作通常采用比例复制，即复制概率正比于个体适配值，如此意味着适配值高的个体在下一代中复制

8、自身的概率大，从而提高了种群平均适配值；交叉操作通过交换两代个体的部分信息构成后代个体，使得后代继承父代的有效模式，从而有助于增强种群的多样性，避免早熟收敛。312 遗传算法的特点 遗传算法利用生物进化和遗传思想实现优化过程，区别一传统优化算法，它具有以下特点：1 GA对问题参数编码成“染色体”后进行进化操作，而不是针对参数本身，这使得GA不受函数约束条件的限制，入连续性、可导性。2 GA的搜索过程是从问题解的一个集合开始，而不是从单个个体开始的，具有隐含并行搜索特性，从而大大减小了陷入局部极小的可能。3 GA使用遗传操作均是随机操作，同时GA根据个体识配值信息进行搜索，无需其他信息。4 GA

9、具有全局搜索能力，适合解决复杂问题和非线性问题。遗传算法的优越性主要表现在：1 算法进行空间并行搜索，并将搜索重点集中于性能高的部分，从而能够提高效率且不易陷入局部最优。2 算法具有固有的并行性，通过对种群的遗传处理可处理大量的模式，并且容易并行实现。 模式定理基于二进制编码的GA中，个体是以二进制字符串表示的，个体的每一位称为基因，令 xl为长度为l的二进制串的全体。用*表示通配符，即表示该基因可取1或0。则该空间Vl=0，1，*l表示所有模式的集合。譬如l=5时，模式H=01*1表示集合01001，01011，01101，01111。称出现模式中取确定值的位置的数目为模式的阶，记为o（H）

10、，如o（01*1）=3。称模式中第一个取确定值的位置与最后一个确定值的位置之间的距离为模式的对应长度，记为（H），如（01*1）=4。设种群数目为N，令X=为种群状态空间，H为任一模式，记算法中第t代种群为P（t）=x1（t），x2（t），xN（t）X，fR1为适配值函数，则称为模式H的平均适配值，其中表示中元素的个数。 设GA采用比例选择策略，交叉概率和变异概率分别为pc和pm，且pm取值较小，模式H的定义长度为（H），阶为o（H），第t+1代种群P（t+1）含有H中元素个数的期望为E,则以下不等式成立： 发展对于复制操作，DeJong（1975）研究了回放式随机采样复制，其缺点是选择误差较

11、大；同时，他又提出无回放式随机采样复制以降低选择误差。Brindle(1981)提出了一种选择误差小、操作简单的确定式采样以及无回放式余数随机采样方法。Back（1992）提出了与适配值大小和正负无关的均匀排序策略；同时又提出全局收敛的最优串复制策略，提高了搜索效率，但不适于非线性较强的问题，在交叉操作方面，有Goldberg（1991）提出的部分匹配交叉算子（partially mapped crossover）Starkweather等（1991）提出的增强边缘重组算子（wnhanced edge recombination）Davis(1991)提出的序号交叉算子（order cross

12、over）和军于排序交叉算子（uniform order-based crossover）Smith(1985)提出的循环交叉算子（cycle crossover）Dejong(1975)提出的单点交叉算子（one-point crossover）和多点交叉算子Syswerda(1989)提出的双点交叉算字（two-point crossover）,此外常用的交叉算子还有置换交叉，算术交叉，启发式交叉等。便宜操作方面主要发展了自适应变异，多级变异等操作。为了改进算法的性能，一些高级的基因操作也得到了发展和应用，譬如双倍体和显性遗传（diploid and dominance）用以延长曾经适配值

13、高而目前较差的基因块的寿命，并且在变异概率低的情况下也能保持一定的多样性；倒位操作（inversion）用以助长有用基因块的紧密形式；优先策略（elitism）用以把目前解群中最好的解直接放入下一代种群中，如此保证各代种群中总会有目前为止最好的解；静态繁殖（steady-staterepoduction）用以在迭代过程中用部分优质子串来更新部分父串作为下一代种群以使优质的父串在下一代中得以保；没有重串的静态繁殖（steady without duplication）用以在形成下一代种群时不含重复的串。此外，还有多倍体结构(multiple chromosome structure),分离（se

14、gregation）,异位（tranlocation）等操作。在种群宏观操作方面，主要是引入小生存环境和物种形成（niche and spectiation）的思想，这在分类问题中得到了应用。在基于知识的操作方面，主要是将问题的特殊信息与GA相结合，包括混合算法的结构以及在遗传算子中增加知识的操作等。3.2 进化策略从60年代起在德国由Rechenberg等人发展起来的进化策略（Evolution Sstrateigies)，在非线性优化、系统识别等方面显示优于经典方法的效果，已被应用于机器的学习，机器人控制等领域，以解决较困难的统计优化问题，引起了人工智能、计算科学等领域专家的重视。进化策略

15、与遗传算法相似：随机产生大量基因，给出一种进化函数，通过进化运算突变和交叉重组，将那些“最合适的”保留下来。基本流程：进化策略的具体运算步骤和流程图：生成初始解进化选择是否满足条件？结束用交换和突变产生新个体 运用进化策略处理一个具体问题，包括3个方面：1进化函数的选择2进化策略中的运算方式及效率的选择3进化策略中的参数选择1：随机产生大量基因Xi，对每个Xi，赋予其标准偏差，置初值=5.02：对每个基因，计算其进化函数值3：按进化函数值先取较为合适的基因，若满足终止条件，转第6步，若不满足终止条件，转第四步4每个基因发生突变，一部分基因进行交叉重组，产生新基因其中 为一元标准正态分布的随机变量，