01背包问题求解方法综述.docx

1、01背包问题求解方法综述算法分析与设计大作业实验题目：0-1背包问题求解方法综述组 员： 班级：指导老师：%0-1背包问题求解方法综述【摘要】：0-1背包问题是一个经典的NP-hard组合优化问题，现实生活中的很多问题都可以以它为模型。本文首先对背包问题做了阐述，然后用蛮力解法、动态规划算法、贪心算法和回溯解法对背包问题进行求解，分析了0-1背包问题的数学模型,刻划了最优解的结构特征,建立了求最优值的递归关系式。最后对四种算法从不同角度进行了对比和总结。【关键词】：0-1背包问题；蛮力解法；动态规划算法；贪心算法；回溯解法。0.引言0-1背包问题是指给定n个物品,每个物品均有自己的价值vi和重

2、量wi(i=1,2,n),再给定一个背包,其容量为W。要求从n个物品中选出一部分物品装入背包,这部分物品的重量之和不超过背包的容量,且价值之和最大。单个物品要么装入,要么不装入。很多问题都可以抽象成该问题模型,如配载问题、物资调运1问题等,因此研究该问题具有较高的实际应用价值。目前,解决0-1背包问题的方法有很多,主要有动态规划法、回溯法、分支限界法、遗传算法、粒子群算法、人工鱼群算法、蚁群算法、模拟退火算法、蜂群算法、禁忌搜索算法等。其中动态规划、回溯法、分支限界法时间复杂性比较高,计算智能算法可能出现局部收敛,不一定能找出问题的最优解。文中在动态规划法的基础上进行了改进,提出一种求解0-1

3、背包问题的算法,该算法每一次执行总能得到问题的最优解,是确定性算法,算法的时间复杂性最坏可能为O(2n)。背包问题描述0-1背包问题(KP01)是一个著名的组合优化问题。它应用在许多实际领域,如项目选择、资源分布、投资决策等。背包问题得名于如何选择最合适的物品放置于给定背包中。本文主要研究背包问题中最基础的0/1背包问题的一些解决方法。为解决背包问题，大量学者在过去的几十年中提出了很多解决方法。解决背包问题的算法有最优算法和启发式算法2，最优算法包括穷举法、动态规划法、分支定界法、图论法等，启发式算法包括贪心算法、遗传算法、蚁群算法、粒子算法等一些智能算法。(0-1背包问题一般描述为：给定n种

4、物品和一个背包。物品i的重量是w(i)，其价值为v(i)，背包的容量为c。问应该如何选择装入背包的物品，使得装入背包中的物品的总价值最大在选择装入背包的物品时，对每种物品i只有两种选择，即装入背包或不装入背包。不能将物品i装入背包多次，也不能只装入部分的物品i。因此，该问题称为0-1背包问题。此问题的形式化描述是，给定，要求找出一个n元0-1向量，使得，而且达到最大。数学模型：约束条件： ， 背包问题的求解算法蛮力算法（brute force method）基本思想：对于有n种可选物品的0/1背包问题，其解空间由长度为n的0-1向量组成,可用子集数表示。在搜索解空间树时，深度优先遍历，搜索每一

5、个结点，无论是否可能产生最优解，都遍历至叶子结点，记录每次得到的装入总价值，然后记录遍历过的最大价值。代码实现:。#include#includeusing namespace std;#define N 100 =C) for (int k=0;k 步骤4：确定装入背包的具体物品。从Mnc的值向前推，如果MncMn-1c，表明第n个物品被装入背包，则=1，前n-1个物品没有被装入背包，则=0，前n-1个物品被装入容量为c的背包中。以此类推，知道确定第1个物品是否被装入背包为止。由此，得到下面的关系式：如果Mij=Mi-1j,说明第i个物品没有被装入背包，则=0；如果MijMi-1j,说明第i

6、个物品被装入背包，则=1，j=j-。按照上述关系式，从Mnc的值向前倒推，即j初始为c，i初始为n,即可确定装入背包的具体物品。上述算法需要O（nc）时间计算时间。不过上述算法有2个明显的确点。一是算法要求所给物品的重量（1in）是整数；二是当背包容量c很大时，算法需要的计算时间较多。运行结果贪心算法求解0/1背包问题的时间复杂度为：O（nm） 回溯法（Backtracking）回溯法0-1背包问题的实现：回溯法是一种系统地搜索问题解答的方法。为了实现回溯，首先需要为问题定义一个解空间，这个解空间必须至少包含问题的一个解(可能是最优的)。一旦定义了解空间的组织方要选择一个对象的子集，将它们装人

7、背包，以便获得的收益最大，则解空间应组织成子集树的形状。首先形成一个递归算法，去找到可获得的最大收益。然后，对该算法加以改进，形成代码。改进后的代码可找到获得最大收益时包含在背包中的对象的集合。左子树表示一个可行的结点，无论何时都要移动到它，当右子树可能含有比当前最优解还优的解时，移动到它。一种决定是否要移动到右子树的简单方法是r为还未遍历的对象的收益之和，将r加到cp(当前节点所获收益)之上，若( r+cp) =bestp(目前最优解的收益)，则不需搜索右子树。一种更有效的方法是按收益密度vi/wi对剩余对象排序，将对象按密度递减的顺序去填充背包的剩余容量。 编程实现如下#include#i

8、nclude#include#include #includeusing namespace std;#defineN 100 =W) ; cp=cp+ai.p; cxai.sign=1; ; cp=cp-ai.p; ign=0; ign=i; sort(a,a+n,m); ; coutbi.wt; coutbi.pendl; cout放入背包的物品总重量为：totalW; coutendl; cout放入背包的物品总价值为：bestPendl; int main() =rand()%1000; ai.p=rand()%1000; bi=ai; cout物品的重量和价值分别如下：endl; f

9、or (inti=0;in;i+) ; coutt; coutai.pendl; QueryPerformanceCounter(&begin); KnapSack3(n,a,W,X); 3 运行结果回溯法法的时间复杂度为分枝-限界法（Branch - threshold method） 分枝-限界法的基本原理与分析分枝限界法是另一种系统地搜索解空间的方法，它与回溯法的主要区别在于对E-结点的扩充方式。每个活结点有且仅有一次会变成E-结点。当一个结点变为E-结点时，则生成从该结点移动一步即可到达的所有新结点。在生成的结点中，抛弃那些不可能导出最优解的结点，其余结点加人活结点表，然后从表中选择一

10、个结点作为下一个E结点。从活结点表中取出所选择的结点并进行扩充，直到找到解或活动表为空，扩充才结束。 分枝限界0-1背包问题的实现?首先，要对输入数据进行预处理，将各物品依其单位重量价值从大到小进行排列。在下面描述的优先队列分支限界法中，节点的优先级由已装袋的物品价值加上剩下的最大单位重量价值的物品装满剩余容量的价值和。算法首先检查当前扩展结点的左儿子结点的可行性。如果该左儿子结点是可行结点，则将它加入到子集树和活结点优先队列中。当前扩展结点的右儿子结点一定是可行结点，仅当右儿子结点满足上界约束时才将它加入子集树和活结点优先队列。当扩展到叶节点时为问题的最优值。 编程实现如下#include#

11、includeusing namespace std;#define N 100 Hi/2.b) swap(Hi, Hi/2); else done = true; i = i/2; Hi.b) i+; if(Hi/2.bHi.b)* swap(Hi/2, Hi); else done = true; =M)&(i b = p; ign=i; ; ; ign =1 ; else Xai.sign = 0; delete xnode; delete heap; return v; ,&ai.p); bi=ai; intsum4=KnapSack4(n,a,C,X); 4 运行结果分支限界法求解0

12、/1背包问题的时间复杂度为： 遗传算法（Genetic algorithm）遗传算法是模拟达尔文的生物自然选择学说和自然界的生物进化过程的一种自适应全局概率搜索算法2。它是由美国的教授1975年首先提出，其主要特点是直接对结构对象进行操作，不存在求导和函数连续性的限定；具有内在的隐并行性和良好的全局寻优能力；采用概率化的寻优方法，能自动获取和指导优化的搜索空间，自适应地调整搜索方向，不需要确定规则。遗传算法是从代表问题可能潜在的解集的一个种群开始的，而一个种群则由经过基因编码的一定数目的个体组成。因此，在一开始需要实现从表现型到基因型的映射即编码工作。由于仿照基因编码的工作很复杂，我们往往进行

13、简化，如二进制编码，初代种群产生之后，按照适者生存和优胜劣汰的原理，逐代演化产生出越来越好的近似解，在每一代，根据问题域中个体的适应度大小选择个体，并借助于自然遗传学的遗传算子）进行组合交叉和变异，产生出代表新的解集的种群。这个过程将导致种群像自然进化一样的后生代种群比前代更加适应于环境，末代种群中的最优个体经过解码，可以作为问题近似最优解。算法设计 遗传算法解决0-1背包问题的基本步骤如下： （1）群体的初始化：确定种群规模M,交叉概率pc、变异概率pm、染色体长度N即最大进化代数T。随机初始化染色体，给出物体体积、物品价值v和背包容量c。 （2）产生遗传编码：采用二进制n维矢量解X作为解空

14、间参数的遗传编码，串的长度等于n,=1表示该物体装入背包，=0表示该物品没有被装入背包。 （3）适应度函数的构造：适应度函数的建立是解决背包问题的关键。首先背包问题的目标函数和约束条件文章前面已提出数学模型： 约束条件： ， |现给出构造它的2种适应度函数： （4）选择操作：根据选择概率选择染色体，将上述的个体作为第一代，采用以正比于适应度的赌轮随机选择方式，每个个体适应度值为，则i被选中的概率；对于初始化后的种群，先计算出每条染色体的适应度值，再计算出其被选择的概率，将它们进行比较，把选择概率最小的一条染色体淘汰掉，并选择概率最大的一条染色体进行复制，用这条复制的染色体代替淘汰的染色体的位置

15、。 （5）交叉操作：判断染色体是否为活的染色体，若为活的染色体，则将染色体进行交叉，一般采用一点交叉方式，交叉概率为Pc，具体操作是在个体串中随机设定一个交叉点，实行交叉时，该点前后的两个个体的部分结构进行互换，并生成两个新的个体。 （6）变异操作：染色体变异采用位点变异的方式。位点变异比较简单，对于0-1背包问题来说，就是把染色体的变异位1变为0,0变为1，其他位保持不变。变异概率为Pm，变异的目的是使其变异后的适应度大于或等于其原适应度。先选择一个变异位进行变异，再计算它的适应度，看它是否大于或等于其原来的适应度，若不是的话就重新选择变异位进行变异操作。对种群依次进行选择、交叉、变异后就检

16、验得到的新个体，当某代得到的结果满足要求或当前代数等于结束代数时算法结束得到结果，否则重新选择、交叉、变异操作，直到得到满意的结果为止。使用幂函数适应度函数的遗传算法全局搜索效率比较高2。3算法分析与比较 通过上面几种算法基本原理的介绍和分析，得到了不同方法解决NP难的0-1背包问题。下面从时间、空间复杂度、准确性等方面进行进一步的分析比较。#动态规划算法的空间和时间复杂度由物品的数量和背包的承重量来决定。若物品数量为n,背包承重量为c,初始化数组需要空间为O（nc）,两重for循环时间复杂度为O(nc)。动态规划能够保证求解的正确性，但它速度慢，空间消耗大。贪心算法的时间复杂度为O(nlog

17、n)。但贪心算法属于近似算法，速度快，时间消耗少，但不能确定结果为最优解，体现了该算法的局限性。遗传算法跟贪心算法一样，也是一种近似算法。它的时间复杂度取决于采用的适应度函数。第一种适应度函数对遗传算法的参数比较敏感，幂函数的适应度函数的遗传函数能获得高质量的解。 算法的效率分析（1）蛮力法对于一个有n个元素的集合，其子集数量为2n，所以，不论生成子集的算法效率有多高，蛮力法都会导致一个2n的算法（2）贪心法贪心算法总是作出在当前看来是最好的选择，即贪心算法并不从整体最优解上加以考虑，它所作出的选择只是在某种意义上的局部最优解。贪心算法不是对所有问题都能得到整体最优解，但对范围相当广的许多问题

18、它能产生整体最优解。在一些情况下，即使贪心算法不能得到整体最优解，但其最终结果却是最优解的很好近似解。贪心算法的时间复杂度为O(nlogn）。（3）动态规划法从m(i，j)的递归式容易看出，算法Knaspack需要O(nc)计算时间; Traceback需O(n)计算时间；算法总体需要O(nc)计算时间。%（4）回溯法由于计算上界函数需要O(n)时间，在最坏情况下有个右孩子结点需要上界函数，故计算0-1背包问题的回溯算法所需的计算时间复杂度为。对回溯法的改进主要是对判断是否移动右子树上，一种更有效的方法是按效益密度vi/wi对剩余对象排序，将对象按密度递减的顺序去填充背包的剩余容量，当遇到第一

19、个不能全部放人背包的对象时，就使用它的一部分。回溯算法的运行时间取决于它在搜索过程中所生成的结点数,而限界函数可以大量减少所生成的结点个数,省去许多无谓的搜索, 使得搜索速度更快,其调用限界函数计算上界需花费O(n)时间 ,最坏情况下有个结点需调用限界函数 ,需花费O(n)时间,所以该算法的时间复杂度为。(5) 分枝-限界法分支限界法求解0/1背包问题的时间复杂度为： 为了直观表示，特将四种算法的时间复杂度总结如下：（1）为了更好地说明问题，现在对不同问题规模三种不同算法所需要的时间进行比较。随着问题规模的增大，各算法的计算时间都在增大，由于回溯法相对于其他算法所增加的时间更加显著，特此，单独

20、考虑回溯法的情况。（2）此种情况下背包的容量为100，不同问题规模回溯法所用时间所下表所示5 由以上测试时间可以很好的验证，当背包容量和问题规模达到一定程度时，用回溯法解决背包问题，因此随着物件数n的增大，其解的空间将以 级增长，当n大到一定程度上，用此算法解决背包问题将是不现实的。这正好与理论分析的情况是一致的。 6 从实验中也可以发现，当问题规模很小的时候，四种算法都有较好的稳定性，计算时间都相差不多。随着问题规模的增大，各算法的计算时间差别逐渐显现出来。7 对比以上四种算法可以看出，各种算法都有自己的特点，贪心算法速度比较快，但是所得的解有时可能只是局部最优解；分枝限界法需要的解空间。故

21、该算法不常用在背包问题求解；回溯法比分枝限界在占用内存方面具有优势。回溯法占用的内存是0(解空间的最大路径长度)，而分枝限界所占用的内存为0(解空间大小)。对于一个子集空间，回溯法需要0(n)的内存空间，而分枝限界则需要的空间。虽然最大收益或最小耗费分枝限界在直觉上要好于回溯法，并且在许多情况下可能会比回溯法检查更少的结点，但在实际应用中，它可能会在回溯法超出允许的时间限制之前就超出了内存的限制。解决背包问题算法比较结果4结论目前，0-1背包问题还没有找到完美的求解最优解的方法，现在的智能算法都只能在一定的范围求解，各种算法都有一定的局限性6。对于0-1背包问题的探索，一方面要在现有的算法如动

22、态规划算法，贪心算法等算法上改进和完善，还要在其他学科的算法中获得启示，如从生物中得到启示的遗传算法，研究出解决0-1背包的新算法。0-1背包问题是最基本的背包问题，它包含了背包问题中设计状态、方程的最基本思想，另外，别的类型的背包问题往往也可以转换成0-1背包问题求解。故一定要仔细体会上面基本思路的得出方法，状态转移方程的意义，以及最后怎样优化的空间复杂度。从计算复杂性理论看，背包问题是 NP 完全问题。半个多世纪以来，该问题一直是算法与复杂性研究的热门话题。通过对 0-1 背包问题的算法研究可以看出，回溯法和分枝限界法等可以得到问题的最优解，可是计算时间太慢；动态规划法也可以得到最优解，当

23、m2n时，算法需要 n2n 的计算时间，这与回溯法存在一样的缺点计算速度慢；采用贪心算法，虽然耗费上优于前者，但是不一定是最优解。目前，以上几种方法中回溯法、动态规划法、贪心法都广泛地应用到不同的实际问题中，并在应用中不断地改进。5参考文献：1王晓东. 计算计算法设计与分析M. 北京：电子工业出版社，20032程春英，张玉春. 利用遗传算法求解0/1背包问题A. 内蒙古民族大学学报（自然科学版）第25卷，第6期，20103吕聪颖，赵刚彬，周春光. 求解01背包问题的动态规划法分析A. 南阳理工学院学报第3卷第2期，20114曹亚非. 背包问题中贪心算法的应用探讨A. Valley Silicon5曹珊珊. 动态规划算法在0/1背包问题中的应用与分析A. 信息产业6李雯瑞. 01背包问题的求解算法设计与分析A. 软件导刊 第11卷 第6期，2012