数学建模《运筹与统计组合优化》.docx

1、数学建模运筹与统计组合优化数学建模浙江大学数学系 谈之奕tanzy运筹与统计组合优化组合优化数学建模 通常把从有限个可行解中找出使 某个目标函数达到最优的解的优 化问题称为组合优化（Combinatorial Optimization） 组合优化与组合学（Combinatorics） 同为研究离散对象的数学分支，但两 者侧重不同。后者着重研究满足特定 性质对象的存在性，计数，构造等问 题，前者要求在众多可行解中按一定标准选出最优解 Journal ofCombinatorial OptimizationDiscreteOptimization2背包问题数学建模 背包问题（Knapsack Pr

2、oblem） 一背包客准备参加自助游，想要携带的物品很多，但随身背包的容量有限，因此希望通过综合考虑，使放入背包中的物品对旅行的帮助最大n 设物品数为 ，由于每个物品可以选择放入或不放入，因此可行 解数目不超过 2n 个33旅行售货商问题数学建模 旅行售货商问题（Traveling Salesman Problem，TSP） 一推销商想在若干个城市中推销自己的产品。计划从 某个城市出发，经过每个城市恰好一次，最后回到出 发的城市。假设城市之间距离已知，推销商应如何选 择环游路线，使他走的路程最短1 2 n 每一条环游路线对应于 的一个排列。不同的排(n 1) ! 列数目共有 个4环游美国的TS

3、P数学建模 美国48个 州首府的 TSP环游 （上图的 环游顺序 与1954年论文相 美国49个城市的最优TSP环游Dantzig, G., Fulkerson, R., Johnson, S.,Solution of a Large-Scale Traveling-SalesmanProblem, Journal of the Operations ResearchSociety of America, 2, 393-410同，但不再是最优的，下图为最优环游）5VLSI设计中的TSP数学建模 441个焊点的印刷电路板Applegate, D. L., Bixby, R. E., Chvtal

4、 V., Cook, W., Espinoza D. G., Goycoolea, M.,Helsgaun, K., Certification of an optimal TSP tour through 85,900 cities, Operations Research Letters, 37, 11-15, 2009.6指派问题数学建模 指派问题（Assignment Problem）n n 设有 项任务需分配给 位员工，每人完成其i j cij 中一项，员工 完成任务 所需时间为 ，如何分配可使完成所有任务所用总时间最少 不同的分配方案共有 种n!7枚举数学建模 组合优化问题通常 不

5、能通过枚举所有 可行解并加以比较 来求解，其原因是 可行解的数目可能 是一很大的数，以 致于当前或相当长 的一段时间内人力 或计算机不能承受20 1按一千克小麦含 25000粒计算，棋盘上的小麦总 计约为7400亿吨，按目前的平均产量计算，是全世界一千多年生产的全部小麦632 92233720369.22 10 18854775808舍罕王 PK 西萨班达依尔8函数量阶数学建模10 20 40 100 函数lgn1秒 1.30秒 1.60秒 2秒n4.34秒 8.69秒 17.37秒 43.4秒5n12小时 16天 514天 138年n2n!444秒18.2天5.27天151世纪世纪3 8世纪

6、 1.1 1038 .3 103 8世纪 1.1 10381 .7 1020世纪1 148 .2 101 148世纪nn138年1 1.4 10190.4 10 1 16世纪 54 世纪世纪.6 109函数量阶数学建模快100倍 快10000倍 快1000000倍 现在的计算机lgnN N 2N 4 N 6nN 100N 10000N 1000000N5nN 2.51N 6.31N 15.85Nn2NN 6.64 N 13.28 N 19.93 10Top500数学建模http:/www.top500.orggigaFLOPS=teraFLOPS=1091012时间 公司 计算机 浮点数运算次

7、数 提高倍数 1993.6(首届) TMC CM5 59.70GFlops 1998.6(11届) Intel ASCI-Red 1338.00GFlops 22.4 2003.6(21届) NEC NEC Vector 35860.00GFlops 600.7 2008.6(31届) IBM BladeCenter 1026.0TFlops 17186 2010.11(36届) 国防科大 天河一号 2566.0TFlops 429812012.12(40届) Cray Titan 17590.0TFlops 29464011匈牙利算法数学建模 1955年，Kuhn给出了指派问题时间复杂性为

8、4 的算O(n )法。该算法建立在两位匈牙利数学家Denes Knig和Jen Egervry的工作基础之上， Kuhn将其命名为匈牙利算法 匈牙利算法没有也不可能枚 举所有可行解，其时间复杂 性远小于可行解数目。但对 背包、TSP等问题，目前还 没有找到有类似性质的算法Kuhn, H. W., The Hungarian Method forthe Assignment Problem, 2, 8397, 1955 Harold W. Kuhn Award Select the bestpaper representing the journal from among all papers

9、published in the journal since its founding in 1954 and name the award after the first recipient12运筹与统计计算复杂性计算复杂性数学建模 计算复杂性（computational complexity）理论可将组合 优化问题按难度分类，从而为进一步研究指明方向 计算复杂性理论建立在名为 图灵机（ Turing machine） 的理论计算模型之上。该模 型由Turing于1936年提出， 它能模拟目前所有的合理计算模型Turing, A., On computablenumbers, with an

10、Alan Turing英国计算机学家application to theEntscheidungsproblem, (1912-1954)Proceedings of the LondonMathematical Society, S2-42,23026514图灵机数学建模B 1 1 1 B 1 1 B B 1 BB 1 1 B 1 1 1 B B B15规模数学建模 描述某问题一实例所需的计算机存储单元 数称为该实例的规模（size） 在计算机中，常用二进制表示整数，因此存储 大小为 n 的整数所需字节数（连同表示整数结尾的空格）为 log n 2 2n n 2 log c 2 2n log

11、 c 指派问题实例规模为 ， 2 ij 2 ij i, j 1 i, j 1 也可简记为 ，两者可用多项式相互n clog max2 iji, j限制16时间复杂性数学建模 用算法执行过程中所需的加法、比较、赋值等基本运算次数表示算法所用的时间 算法的时间复杂性（time complexity）是关于实n f (n)例规模 的一个函数 ，它表示用该算法求解 所有规模为 n 的实例中所需基本运算次数最多的那个实例的基本运算次数f p( )(n) O(p(n) 若一算法的时间复杂性 ，这里为一多项式，则称它为多项式时间算法。不能这 样限制时间复杂性函数的算法称为指数时间算法17有效算法数学建模 结

12、合关于函数增长速度的比较，和算法的 实际运行效果，通常将多项式时间算法称 为有效算法（efficient algorithm） Edmonds, J. Paths, trees, and flowers. Canadian Journal of Mathematics, 17, 449467, 196518P 类数学建模 若一问题已找到多项式时间算法， 该问题属于多项式时间可解问题类 （polynomial solvable problem class），记为 P。证明一问题属于 P 类只需设计出求解该问题的多项 式时间算法 指派问题即为P 类中的问题；判断 一个整数是否为素数也属于P 类Ag

13、rawal, M., Kayal, N., Saxena, N., PRIMES is in P. Annals of Mathematics, 160, 2, 781-793, 200419NP 类数学建模 所谓非确定性算法在多项式时间内求解某问题，是指它能 猜想出该实例的一个可行解，其规模不超过实例规模的多项式函数 在实例规模的多项式时间内验证猜想是否正确 非确定性算法多项式时间可解问题全体组成的集合称为非确定性算法 多项式时间可解问题类（nondeterministic polynomial solvable problem class），记为NP 。 NP 类中的问题称为NP 问题 非

14、确定性算法在现实生活中并不存在，只是为研究而定义的一种理论算法 NP 类更严格的定义需借助非确定性图灵机 NP 类的提法仅限于输出仅为“是”、“否”两种的判定问题（decision problem），但优化问题都有一个与之复杂性等价的判定问题20P=NP 猜想数学建模 P 类中的问题是多项式时间 可求解问题，而NP 类中的 问题仅是多项式时间可验证Millennium Prize ProblemsP NP问题。因此P 是否有 N P成立是数学和理论计算机科学中一个重要课题P NP 尽管 猜想是未决问P NP题，但是普遍相信 成立。在此假设下可进一步研究NP 类内部的结构http:/www.cl

15、aymath.org/21NP-完全问题数学建模 NP 类中最“难”的问题子集称为NP 完全类， 记为NP-C。NP-C 类中的问题称为NP 完全问 题（NP -complete problem） 若NP-C 类中有一个问题有多项式时间算法，则NP类中所有问题都有多项式时间算法P=NP=NP-CPNP-CNPP N P (P N P -C N P ) P N P 22P，NP，与NP完全数学建模 NP 类是没有多项式时间算法的问题组成的集合 P 问题也属于NP 类，它们都有多项式时间算法 NP 类并未包含所有问题，没有多项式时间算法的问题 并不都属于NP 类P NP 仅是猜想，若 ，NP 类中

16、所有问题均有多P N P 项式时间算法 NP 类中的问题是最难的问题 混淆NP 类和NP-C 类的概念 NP-C 类仅是NP 类中最难的问题，在NP 类之外可能 存在着更“难”的问题23可满足性问题数学建模 1971年，Cook证明了可满足性问题 （Satisfiability, SAT）是NP完全的 设 为取值 或 的Boolean变x x 0 1 量 ，1,给定, Bn oolean函数m n f (x , , x ) a x b (1 x ) , 1 n ij j ij j其中 ，是否存在变量的一种i 1 j 1 赋值 a b ，使得 , 0,1ij ij f x x x x0( , ,

17、 ) 10 0j j 1 nStephen Arthur Cook（1939 ）美国计算机学家1982年图灵奖得主24NP完全问题数学建模 1973年，Levin独立地 证明了若干搜索问题是 NP完全的 1956年Gdel致von Neumann信，信中对若干数理逻辑问题算法和复杂性的讨 论被认为是计算复杂性研究的开端Leonid Anatolievich Levin（1948 ）Kurt Friedrich Gdel （19061978 ）奥地利哲学家、数学苏联计算机学家 家25归约数学建模 运用归约（reduction）技术可以建立 起两个组合优化问题之间的某种联 系，进而由前一个问题的N

18、P完全性 证明后一个问题也是NP完全的 1972年，Karp 证明了21个重要组合 优化问题的NP 完全性。这些问题与实际优化问题的形式更为接近，因而利用它们归约证明其它优化问题的NP完全性更为便捷Richard Manning Karp（1935 ） 美国计算机学家1985年图灵奖得主26NP完全问题数学建模SAT 1978年，计算复杂性领域奠基性著作Computers and 3SATIntractability出 版，书中选定7个三维匹配 顶点覆盖组合优化问题作为基本NP 完全问题，并给出了它们 Hamiltion 圈 团划分NP 完全性的详细证明 Garey, M. R., Johns

19、on, D. S., Computers andIntractability: A Guide to the Theory of NP- Completeness, Freeman, 197827划分问题数学建模 划分问题（partition）A 给定一正整数集 a1,a , ,an，问是否存在子2A A A /1, A 1 A集 ，使得 A ， ，且满足1 A O2 2 21n a a a i i j2a A1 a A2 j 1 i i 整数规划是NP 完全问题n 1 n a x a , x 0, 1 整数规划 是否有可行解与划分问题实j j j j2j 1 j 1 例答案为“是”等价28子

20、集和问题数学建模 子集和问题（Subset Sum）a1,a , ,an BA A 给定正整数集 和数 ，问是否存在子集 ，2 1 a B 使得i a Ai 11 n 取 B ，a子集和问题与划分问题等价 子集和是NP 完全问题j2j 1 子集和问题的优化形式 求子集 ，使得 且 尽可能大 a B a A Ai i 1a A a Ai 1 i 1j aj B 若背包问题物品 的价值与 大小均为 ，容量为 ，则该背包问题实例与子集和问题的优化形式等价 背包是NP 完全问题29Compendium数学建模http:/www.nada.kth.se/viggo/problemlist/compend

21、ium.html30P，NP，与NP完全数学建模31运筹与统计组合优化问题的研究方法研究方法数学建模组合优化新问题设计多项式时间 复杂性未决问题 证明为NP 完全 算法（P 问题）进一步改进 研究特殊 在指数时间 在多项式时间算法性能 可解性 内求最优解 内求近似解33研究方法数学建模在指数时间内求最优解 在多项式时间内求近似解整数规划法分枝定界法动法 态规划贪婪思想近似算法 启发式算法线性规 划松弛索法 局部搜 Meta-heuri-stic34整数规划数学建模 组合优化问题一般可建立整数规划 整数规划求解也是NP完全的，但可借助整数规划的 算法或软件求解一些具体实例，也可利用数学规划理 论

22、研究问题性质或设计算法 分枝定界法 除运用整数规划的分枝定界法求解组合优化问题所建 立的整数规划外，也可根据问题组合结构设计相应的 分枝定界策略背包问题和TSP问题的分枝定界策略35指派问题数学建模 定义决策变量xij 1, 0,员工 i 被分配完成工作 j其他n n 该规划形式上是整数规划，但由于系数矩阵是全min c xij ij i 1 j 1 可以证明其松弛线性规划的最优解必为整数解n s.t. x 1, j 1, , n ij每项工作由一位员工完成 i 1 n x 1, i 1, , n 每位员工完成一项工作 ijj 1 x 0 或1，i, j 1, , n 0 x 1ij ij36

23、36TSP问题 数学建模 n n 指派问题？ 城市 i与城市 j 之间min c xij ij的距离为 c i 1 j 1ij n s.t. x 1, i 1, , n 决策变量ij j 1 1 推销员离开离开城市 i 后到达另一个城市 城市 i 后到nx x 1, j 1, , n 达城市 j ijij 0 其他i 1 j 从一个城市来到城市i, j 1，2， ,n x 0,1, i, j 1, , n ij37TSP问题数学建模123 54x13 x35 x52 x24 x41 1, 3n1 2 x 1, i 1, , nijj 1 n x 1, j 1, , n ij5i 1 4x x

24、x x x12 24 41 1, 35 53 1, x 0,i, j 为其它组合ijx 0, i, j 为其它组合,ij TSP环游路线不能含有子环游38TSP问题数学建模( 1 i ik )i 若含有子环游 ，则2x 1i x x k k x ki i i ii i i1 2 2 3 1 1 S | | 1 i iki , , , x S 记 ，则ij 2i S j S 若要求不含有子环游，则 ， x S n O | | 1 S 1, 2, , , S / iji S j S 2n 2 该组约束个数为 ，增加该组约束后整数规划求解十分困难39TSP问题数学建模( 1) 2, , 2, 3,

25、,n x u u n i j n 约束ij i j( )i 1 i ik 若含有子环游，则必有一子环游 不经过城市 12x 1 i 若该子环游仅含一个城市 ，则ii( 1) 1 2 矛盾n x u u n n ii i ii i x 1 若该子环游至少含有两个城市，记 ， ，k 1 1i ij j 1(n 1)x u u n 1 u u , j 1, 2, ,k i i i i i ij j 1 j j 1 j j 1k (n 1)x u u k(n 1) k(n 2) 矛盾 i i i ij j 1 j j 1j 1 40TSP问题数学建模n x u u n i j n 约束 ( 1) 2, , 2, 3, ,ij i j 对任意可行环游，选定城市 1为起点，若城市 i是环游u k 2 u n 中的第 k 个经过的城市，取 ，i ix n x u u u u n 0 ( 1) 2 若 ，则ij ij i j i j x u u 若 ，则 ， ij i j1 1( 1) 2n x u u n ij i j(n 1)2 n 1 该组约束仅有 个，需增加 个