智能优化理论和方法_精品文档.ppt

1、智能优化理论和方法智能优化理论和方法主讲主讲:汤可宗汤可宗信息工程学院信息工程学院计算机专业教研室计算机专业教研室20142014年年1010月月2222日日Computer Science and Technology1提要提要n什么是新技术什么是新技术n最优化问题与最优化方法概述最优化问题与最优化方法概述n传统的最优化方法传统的最优化方法n智能优化方法简介智能优化方法简介-遗传算法遗传算法n智能优化方法对社会的影响力智能优化方法对社会的影响力Computer Science and Technology一.什么是新技术?1.以以前前不不存存在在,运运用用某某种种学学科科或或多多门门学学科科

2、知知识识发发明明创创造造出出的的能能够够给给人人们们工工作作,生生活活带带来来方方便的技术便的技术.如如:电灯电灯,因特网的出现因特网的出现.2.针针对对某某个个科科学学或或生生产产问问题题，传传统统的的方方法法不不适适用用或或给给出出的的结结果果不不理理想想，迫迫切切需需要要找找到到一种新的解决方法。一种新的解决方法。如，具有如，具有 NP难度的组合问题（难度的组合问题（TSP).2Computer Science and Technologyn新技术的出现将会对事物产生新的理解，新技术的出现将会对事物产生新的理解，这种理解往往会引发出空间和时间的新的这种理解往往会引发出空间和时间的新的概念

3、。概念。n新技术的出现，往往会引发新的问题，并新技术的出现，往往会引发新的问题，并让我们看到新的危机。让我们看到新的危机。3Computer Science and Technology 最最优优化化问问题题就就是是在在给给定定条条件件下下寻寻找找最最佳佳方方案案的的问问题题。而而寻寻找找最最佳佳方方案案的的方方法法称称之之为为最最优优化化方方法法(也也称称之之为为”运运筹筹学学方方法法”)，这这种种方方法法的数学理论称之为最优化理论。的数学理论称之为最优化理论。最最优优化化问问题题在在工工业业生生产产，科科学学理理论论研研究究，以以及及人人们们的的日日常常工工作作学学习习及及生生活活中中无无

4、处处不不在在，无无处处不不有有。根根据据最最优优化化问问题题的的特特点点需需要要采采用用不同的最优化方法。不同的最优化方法。4二.最优化问题与最优化方法的概述Computer Science and Technologyl最短路径优化最短路径优化l最省时间优化最省时间优化l管理科学优化管理科学优化l工程设计优化工程设计优化l市场调度优化市场调度优化l城市建设优化城市建设优化52.1为何要研究优化问题Computer Science and Technology举例1.最短路径优化6 一个商人拟到一个商人拟到n个城市去推销商品，已知个城市去推销商品，已知每两个城市每两个城市 Ai 和和 Aj 之

5、间的距离为之间的距离为 dij ，如何选择一条道路，使得商人每个城市，如何选择一条道路，使得商人每个城市走一遍后回到起点，且所走的路径最短。走一遍后回到起点，且所走的路径最短。这个问题称为旅行商问题这个问题称为旅行商问题(Traveling Salesman Problem)，简称，简称TSPComputer Science and Technology 举例2:学习效率问题学生每天的时间是一定的，在一定的时间里学生每天的时间是一定的，在一定的时间里，我们要安排好学习，锻炼，休息等各个环，我们要安排好学习，锻炼，休息等各个环节。时间安排的是否合理，科学，直接关系节。时间安排的是否合理，科学，直

6、接关系到我们每天的学习效率，关系到我们自身的到我们每天的学习效率，关系到我们自身的全面发展。全面发展。可以围绕可以围绕”怎样合理安排时间怎样合理安排时间,才能取得好的才能取得好的学习成绩学习成绩,促进人的全面发展促进人的全面发展”,为自己设计一为自己设计一个方案个方案.7Computer Science and Technology8l1994年全国赛年全国赛A题：逢山开路题：逢山开路l1996年全国赛年全国赛A题：最优捕鱼策略题：最优捕鱼策略l2001年全国赛年全国赛B题：公交车优化调度题：公交车优化调度l2010年东三省年东三省A题：企业的营销管理问题：企业的营销管理问题题l2010年东三

7、省年东三省B题：周游全中国题：周游全中国 举例3:数学建模问题Computer Science and Technology9Computer Science and Technology10Computer Science and Technology112.2 数学意义 最优化是一门应用十分广泛的学科最优化是一门应用十分广泛的学科。从。从数学意义上说，最优化方法是一种求极值的数学意义上说，最优化方法是一种求极值的方法，即在一组约束为等式或不等式的条件方法，即在一组约束为等式或不等式的条件下，使系统的目标函数达到极值，即最大值下，使系统的目标函数达到极值，即最大值或最小值。从经济意义上说，是

8、在一定的人或最小值。从经济意义上说，是在一定的人力、物力和财力资源条件下，使经济效果达力、物力和财力资源条件下，使经济效果达到最大（如产值、利润），或者在完成规定到最大（如产值、利润），或者在完成规定的生产或经济任务下，使投入的人力、物力的生产或经济任务下，使投入的人力、物力和财力等资源为最少。和财力等资源为最少。Computer Science and Technology122.3 发展简史n公元前公元前 500年古希腊在讨论建筑美学中年古希腊在讨论建筑美学中就已发现了长方形长与宽的最佳比例为就已发现了长方形长与宽的最佳比例为1.618，称为黄金分割比。其倒数至今，称为黄金分割比。其倒数至

9、今在优选法中仍得到广泛应用。在优选法中仍得到广泛应用。n在微积分出现以前，已有许多学者开始研在微积分出现以前，已有许多学者开始研究用数学方法解决最优化问题。例如，阿究用数学方法解决最优化问题。例如，阿基米德证明：给定周长，圆所包围的面积基米德证明：给定周长，圆所包围的面积为最大。这就是欧洲古代城堡几乎都建成为最大。这就是欧洲古代城堡几乎都建成圆形的原因。圆形的原因。Computer Science and Technology13n最优化方法真正形成为科学方法则在最优化方法真正形成为科学方法则在17世纪以后。世纪以后。17世纪，牛顿和莱布尼茨在他们所创建世纪，牛顿和莱布尼茨在他们所创建的微积分

10、中，提出求解具有多个自变量的的微积分中，提出求解具有多个自变量的实值函数的最大值和最小值的方法，后来实值函数的最大值和最小值的方法，后来又出现了又出现了Lagrange乘数法。以后又进乘数法。以后又进一步讨论具有未知函数的函数极值，从而一步讨论具有未知函数的函数极值，从而形成变分法。这一时期的最优化方法可以形成变分法。这一时期的最优化方法可以称为古典最优化方法。称为古典最优化方法。Computer Science and Technology第二次世界大战时期，英国为了最有效地利用有限第二次世界大战时期，英国为了最有效地利用有限的战争资源，成立了作战研究小组，取得了了良好的战争资源，成立了作战

11、研究小组，取得了了良好的效果。战后，作战研究的思想被运用于运输管理的效果。战后，作战研究的思想被运用于运输管理，生产管理和一些经济学问题中，于是形成了以线，生产管理和一些经济学问题中，于是形成了以线性规划，博弈论等为主干的运筹学。运筹学的英文性规划，博弈论等为主干的运筹学。运筹学的英文名正是名正是“作战研究作战研究(Operation Research)”，其精髓就是要在约束条件表述的限制下，实现其精髓就是要在约束条件表述的限制下，实现用目标函数表述的某个函数的最优化。用目标函数表述的某个函数的最优化。14Computer Science and Technologyn随着工业生产和科学技术的

12、发展需要，许随着工业生产和科学技术的发展需要，许多实际的最优化问题已经无法用古典方法多实际的最优化问题已经无法用古典方法来解决，这就促进了近代最优化方法的产来解决，这就促进了近代最优化方法的产生。生。15Computer Science and Technology近代最优化方法的形成和发展n1847年法国数学家年法国数学家Cauchy研究了函数研究了函数值沿什么方向下降最快的问题，提出最速值沿什么方向下降最快的问题，提出最速下降法。下降法。n1939年苏联数学家年苏联数学家Kahtoponnh提出提出了解决下料问题和运输问题这两种线性规了解决下料问题和运输问题这两种线性规划问题的求解方法。划

13、问题的求解方法。n以苏联数学家康托罗维奇和美国丹齐克为以苏联数学家康托罗维奇和美国丹齐克为代表的线性规划代表的线性规划16Computer Science and Technologyn以美国库思和塔克为代表的非线性规划；以美国库思和塔克为代表的非线性规划；n以美国贝尔曼为代表的动态规划；以美国贝尔曼为代表的动态规划；n以苏联庞特里亚为代表的极大值原理等。以苏联庞特里亚为代表的极大值原理等。上述这些方法后来都形成体系，成为近上述这些方法后来都形成体系，成为近代很活的学科，对促进运筹学，管理科学，代很活的学科，对促进运筹学，管理科学，控制论和系统工程等学科的发展起了重要控制论和系统工程等学科的发

14、展起了重要作用。作用。17Computer Science and Technologyn20世纪世纪40年代以来，由于生产和科学研年代以来，由于生产和科学研究的飞速发展，特别是电子计算机日益广究的飞速发展，特别是电子计算机日益广泛的使用，最优化问题的研究不仅成为一泛的使用，最优化问题的研究不仅成为一种迫切需要，而且又出现了许多基于生物种迫切需要，而且又出现了许多基于生物模拟的新的最优化方法。因此最优化理论模拟的新的最优化方法。因此最优化理论和算法迅速发展起来，成为了一门新的学和算法迅速发展起来，成为了一门新的学科。科。18Computer Science and Technology192.

15、4举例,田忌赛马Computer Science and Technology20Computer Science and Technology21体会：做事情要讲究策略，学会优化设计。在解决问题的多种方案中，要寻求最优方案与原则.,还有就是，让我们在生活中要善于观察、善于思考。Computer Science and Technology22Computer Science and Technology结论:用综合的思维方式来认识事物23Computer Science and Technology掌握好系统优化方法必须做到(1)着眼于事物的整体性着眼于事物的整体性;(2)遵循系统内部结构的

16、有序性遵循系统内部结构的有序性;(3)注重系统内部结构的优化趋向注重系统内部结构的优化趋向.24Computer Science and Technology25Computer Science and Technology26三.传统的优化方法3.1 最优化问题的分类最优化问题的分类Computer Science and Technology传统的优化方法主要传统的优化方法主要指：线性规划的单纯指：线性规划的单纯形法，非线性规划的形法，非线性规划的基于梯度的各类迭达基于梯度的各类迭达算法。基本步骤如右算法。基本步骤如右图所示：图所示：271.选择一个初始解2.满足停止准则？3.向改进方向移动停止计算，输出结果。yyyn3.2 传统优化方法的基本步骤传统优化方法的基本步骤Computer Science and Technology3.3传统优化方法的局限性传统优化方法的局限性(1)单点运算方式大大限制了计算效率的提单点运算方式大大限制了计算效率的提高。高。(2)向改进方向移动限制了跳出局部最优的向改进方向移动限制了跳出局部最优的能力。能力。(3)停止条件只是局部最优性的条件。停止条