end;
end;
end;
开始时标记所有的顶点未访问过，MinDistance（A）就是从A到E的最短距离。
这个程序的效率如何呢？
我们可以看到，每次除了已经访问过的城市外，其他城市都要访问，所以时间复杂度为O（n!
），这是一个“指数级”的算法，那么，还有没有更好的算法呢？
首先，我们来观察一下这个算法。
在求从B1到E的最短距离的时候，先求出从C2到E的最短距离；而在求从B2到E的最短距离的时候，又求了一遍从C2到E的最短距离。
也就是说，从C2到E的最短距离我们求了两遍。
同样可以发现，在求从C1、C2到E的最短距离的过程中，从D1到E的最短距离也被求了两遍。
而在整个程序中，从D1到E的最短距离被求了四遍。
如果在求解的过程中，同时将求得的最短距离"记录在案"，随时调用，就可以避免这种情况。
于是，可以改进该算法，将每次求出的从v到E的最短距离记录下来，在算法中递归地求MinDistance（v）时先检查以前是否已经求过了MinDistance（v），如果求过了则不用重新求一遍，只要查找以前的记录就可以了。
这样，由于所有的点有n个，因此不同的状态数目有n个，该算法的数量级为O（n）。
更进一步，可以将这种递归改为递推，这样可以减少递归调用的开销。
请看图1，可以发现，A只和Bi相邻，Bi只和Ci相邻,...，依此类推。
这样，我们可以将原问题的解决过程划分为4个阶段，设S1={A},S2={B1,B2},S3={C1,C2,C3,C4},S4={D1,D2,D3}，Fk（u）表示从Sk中的点u到E的最短距离，则
并且有边界条件
显然可以递推地求出F1（A），也就是从A到E的最短距离。
这种算法的复杂度为O（n），因为所有的状态总数（节点总数）为n，对每个状态都只要遍历一次，而且程序很简洁。
具体算法如下：
procedureDynamicProgramming;
begin
F5[E]:
=0;
fori:
=4downto1do
foreachu∈Skdo
begin
Fk[u]:
=无穷大;
foreachv∈Sk+1∩δ（u）do
ifFk[u]>w（u,v）+Fk+1[v]thenFk[u]:
=w（u,v）+Fk+1[v];
end;
输出F1[A];
end;
这种高效算法，就是动态规划算法。
动态规划的基本概念
动态规划的发展及研究内容
动态规划（dynamicprogramming）是运筹学的一个分支，是求解决策过程（decisionprocess）最优化的数学方法。
20世纪50年代初美国数学家R.E.Bellman等人在研究多阶段决策过程（multistepdecisionprocess）的优化问题时，提出了著名的最优化原理（principleofoptimality），把多阶段过程转化为一系列单阶段问题，逐个求解，创立了解决这类过程优化问题的新方法——动态规划。
1957年出版了他的名著DynamicProgramming，这是该领域的第一本著作。
动态规划问世以来，在经济管理、生产调度、工程技术和最优控制等方面得到了广泛的应用。
例如最短路线、库存管理、资源分配、设备更新、排序、装载等问题，用动态规划方法比用其它方法求解更为方便。
虽然动态规划主要用于求解以时间划分阶段的动态过程的优化问题，但是一些与时间无关的静态规划（如线性规划、非线性规划），只要人为地引进时间因素，把它视为多阶段决策过程，也可以用动态规划方法方便地求解。
多阶段决策问题
多阶段决策过程，是指这样的一类特殊的活动过程，问题可以按时间顺序分解成若干相互联系的阶段，在每一个阶段都要做出决策，全部过程的决策是一个决策序列。
要使整个活动的总体效果达到最优的问题，称为多阶段决策问题。
例1是一个多阶段决策问题的例子，下面是另一个多阶段决策问题的例子：
[例2]生产计划问题
工厂生产某种产品，每单位（千件）的成本为1（千元），每次开工的固定成本为3（千元），工厂每季度的最大生产能力为6（千件）。
经调查，市场对该产品的需求量第一、二、三、四季度分别为2，3，2，4（千件）。
如果工厂在第一、二季度将全年的需求都生产出来，自然可以降低成本（少付固定成本费），但是对于第三、四季度才能上市的产品需付存储费，每季每千件的存储费为0.5（千元）。
还规定年初和年末这种产品均无库存。
试制订一个生产计划，即安排每个季度的产量，使一年的总费用（生产成本和存储费）最少。
决策过程的分类
根据过程的时间变量是离散的还是连续的，分为离散时间决策过程（discrete-timedecisionprocess），即多阶段决策过程和连续时间决策过程（continuous-timedecisionprocess）；根据过程的演变是确定的还是随机的，分为确定性决策过程（deterministicdecisionprocess）和随机性决策过程（stochasticdecisionprocess），其中应用最广的是确定性多阶段决策过程。
动态规划模型的基本要素
一个多阶段决策过程最优化问题的动态规划模型通常包含以下要素：
1.阶段
阶段（step）是对整个过程的自然划分。
通常根据时间顺序或空间特征来划分阶段，以便按阶段的次序解优化问题。
阶段变量一般用k=1,2,..,n表示。
在例1中由A出发为k=1，由Bi（i=1,2）出发为k=2，依此下去从Di（i=1,2,3）出发为k=4，共n=4个阶段。
在例2中按照第一、二、三、四季度分为k=1,2,3,4，共4个阶段。
2.状态
状态（state）表示每个阶段开始时过程所处的自然状况。
它应该能够描述过程的特征并且具有无后向性，即当某阶段的状态给定时，这个阶段以后过程的演变与该阶段以前各阶段的状态无关，即每个状态都是过去历史的一个完整总结。
通常还要求状态是直接或间接可以观测的。
描述状态的变量称状态变量（statevariable）。
变量允许取值的范围称允许状态集合（setofadmissiblestates）。
用xk表示第k阶段的状态变量，它可以是一个数或一个向量。
用Xk表示第k阶段的允许状态集合。
在例1中x2可取B1，B2，X2={B1,B2}。
n个阶段的决策过程有n+1个状态变量，xn+1表示xn演变的结果，在例1中x5取E。
根据过程演变的具体情况，状态变量可以是离散的或连续的。
为了计算的方便有时将连续变量离散化；为了分析的方便有时又将离散变量视为连续的。
状态变量简称为状态。
3.决策
当一个阶段的状态确定后，可以作出各种选择从而演变到下一阶段的某个状态，这种选择手段称为决策（decision），在最优控制问题中也称为控制（control）。
描述决策的变量称决策变量（decisionvariable）。
变量允许取值的范围称允许决策集合（setofadmissibledecisions）。
用uk（xk）表示第k阶段处于状态xk时的决策变量，它是xk的函数，用Uk（xk）表示了xk的允许决策集合。
在例1中u2（B1）可取C1,C2,C3。
决策变量简称决策。
4.策略
决策组成的序列称为策略（policy）。
由初始状态x1开始的全过程的策略记作p1n（x1），即p1n（x1）={u1（x1）,u2（x2）,...，un（xn）}。
由第k阶段的状态xk开始到终止状态的后部子过程的策略记作pkn（xk），即pkn（xk）={uk（xk）,uk+1（xk+1）,...，un（xn）}。
类似地，由第k到第j阶段的子过程的策略记作pkj（xk）={uk（xk）,uk+1（xk+1）,...，uj（xj）}。
对于每一个阶段k的某一给定的状态xk，可供选择的策略pkj（xk）有一定的范围，称为允许策略集合（setofadmissiblepolicies），用P1n（x1）,Pkn（xk）,Pkj（xk）表示。
5.状态转移方程
在确定性过程中，一旦某阶段的状态和决策为已知，下阶段的状态便完全确定。
用状态转移方程（equationofstate）表示这种演变规律，写作
在例1中状态转移方程为：
xk+1=uk（xk）
6.指标函数和最优值函数
指标函数（objectivefunction）是衡量过程优劣的数量指标，它是关于策略的数量函数，从阶段k到阶段n的指标函数用Vkn（xk,pkn（xk））表示，k=1,2,...,n。
能够用动态规划解决的问题的指标函数应具有可分离性，即Vkn可表为xk,uk,Vk+1n的函数，记为：
其中函数
是一个关于变量Vk+1n单调递增的函数。
这一性质保证了最优化原理（principleofoptimality）的成立，是动态规划的适用前提。
过程在第j阶段的阶段指标取决于状态xj和决策uj，用vj（xj,uj）表示。
阶段k到阶段n的指标由vj（j=k,k+1,..n）组成，常见的形式有：
阶段指标之和，即
阶段指标之积，即
阶段指标之极大（或极小），即
这些形式下第k到第j阶段子过程的指标函数为Vkj（xk,uk,xk+1,...,xj+1）。
可以发现，上述（3）-（5）三个指标函数的形式都满足最优性原理。
在例1中指标函数为（3）的形式，其中vj（xj,uj）是边的权（边的长度）,uj（xj）表示从xj出发根据决策uj（xj）下一步所到达的节点。
根据状态转移方程，指标函数Vkn还可以表示为状态xk和策略pkn的函数，即Vkn（xk,pkn）。
在xk给定时指标函数Vkn对pkn的最优值称为最优值函数（optimalvaluefunction），记作fk（xk），即
其中opt可根据具体情况取max或min。
上式的意义是，对于某个阶段k的某个状态xk，从该阶段k到最终目标阶段n的最优指标函数值等于从xk出发取遍所有能策略pkn所得到的最优指标值中最优的一个。
7.最优策略和最优轨线
使指标函数Vkn达到最优值的策略是从k开始的后部子过程的最优策略，记作pkn*={uk*,..un*},p1n*又是全过程的最优策略，简称最优策略（optimalpolicy）。
从初始状态x1（=x1*）出发，过程按照p1n*和状态转移方程演变所经历的状态序列{x1*,x2*,..,xn+1*}称最优轨线（optimaltrajectory）。
动态规划的基本定理和基本方程
动态规划发展的早期阶段，从简单逻辑出发给出了所谓最优性原理，然后在最优策略存在的前提下导出基本方程，再由这个方程求解最优策略。
后来在动态规划的应用过程中发现，最优性原理不是对任何决策过程普遍成立，它与基本方程不是无条件等价，二者之间也不存在任何确定的蕴含关系。
基本方程在动态规划中起着更为本质的作用。
[基本定理]
对于初始状态x1∈X1，策略p1n*={u1*,..un*}是最优策略的充要条件是对于任意的k,1[推论]
若p1n*∈P1n（x1）是最优策略，则对于任意的k,1上述推论称为最优化原理，它给出了最优策略的必要条件，通常略述为：
不论过去的状态和决策如何，对于前面的决策形成的当前的状态而言，余下的各个决策必定构成最优策略。
根据基本定理的推论可以得到动态规划的基本方程：
其中
是决策过程的终端条件，
为一个已知函数。
当xn+1只取固定的状态时称固定终端；当xn+1可在终端集合Xn+1中变动时称自由终端。
最终要求的最优指标函数满足（10）式：
（9）式是一个递归公式，如果目标状态确定，当然可以直接利用该公式递归求出最优值（这种递归方法将在后文介绍，称作备忘录法），但是一般在实际应用中我们通常将该递归公式改为递推公式求解，这样一般效率会更高一些。
动态规划的适用条件
任何思想方法都有一定的局限性，超出了特定条件，它就失去了作用。
同样，动态规划也并不是万能的。
适用动态规划的问题必须满足最优化原理和无后效性。
1.最优化原理（最优子结构性质）
最优化原理可这样阐述：
一个最优化策略具有这样的性质，不论过去状态和决策如何，对前面的决策所形成的状态而言，余下的诸决策必须构成最优策略。
简而言之，一个最优化策略的子策略总是最优的。
一个问题满足最优化原理又称其具有最优子结构性质。
图2
例如图2中，若路线I和J是A到C的最优路径，则根据最优化原理，路线J必是从B到C的最优路线。
这可用反证法证明：
假设有另一路径J'是B到C的最优路径，则A到C的路线取I和J'比I和J更优，矛盾。
从而证明J'必是B到C的最优路径。
最优化原理是动态规划的基础，任何问题，如果失去了最优化原理的支持，就不可能用动态规划方法计算。
动态规划的最优化理在其指标函数的可分离性和单调性中得到体现。
根据最优化原理导出的动态规划基本方程是解决一切动态规划问题的基本方法。
可以看出，例1是满足最优化原理的。
2.无后向性
将各阶段按照一定的次序排列好之后，对于某个给定的阶段状态，它以前各阶段的状态无法直接影响它未来的决策，而只能通过当前的这个状态。
换句话说，每个状态都是过去历史的一个完整总结。
这就是无后向性，又称为无后效性。
如果用前面的记号来描述无后向性，就是：
对于确定的xk，无论p1,k-1如何，最优子策略pkn*是唯一确定的，这种性质称为无后向性。
[例3]Bitonic旅行路线问题
欧几里德货郎担问题是对平面给定的n个点确定一条连结各点的、闭合的最短游历路线问题。
图3（a）给出了七个点问题的解。
Bitonic旅行路线问题是欧几里德货郎担问题的简化，这种旅行路线先从最左边开始，严格地由左至右到最右边的点，然后再严格地由右至左到出发点，求路程最短的路径长度。
图3（b）给出了七个点问题的解。
图3
这两个问题看起来很相似。
但实质上是不同的。
为了方便讨论，我将每个顶点标记了号码。
由于必然经过最右边的顶点7，所以一条路（P1-P2）可以看成两条路（P1-7）与（P2-7）的结合。
所以，这个问题的状态可以用两条道路结合的形式表示。
我们可以把这些状态中，两条路中起始顶点相同的状态归于一个阶段，设为阶段[P1,P2]。
那么，对于Bitonic旅行路线问题来说，阶段[P1,P2]如果可以由阶段[Q1,Q2]推出，则必须满足的条件就是:
P1例如，阶段[3,4]中的道路可以由阶段[3,5]中的道路加一条边4-5得出，而阶段[3,5]的状态却无法由阶段[3,4]中的状态得出，因为Bitonic旅行路线要求必须严格地由左到右来旅行。
所以如果我们已经知道了阶段[3,4]中的状态，则阶段[3,5]中的状态必然已知。
因此我们可以说，Bitonic问题满足无后向性，可以用动态规划来解决。
有些问题乍一看好像有后向性，但如果按照某种合理的方式重新划分阶段，就可以发现其本质上是无后向性的，所以关键是阶段的合理划分，这一点将在动态规划的技巧中详细阐述。
3.子问题的重叠性
在例1中我们看到，动态规划将原来具有指数级复杂度的搜索算法改进成了具有多项式时间的算法。
其中的关键在于解决冗余，这是动态规划算法的根本目的。
动态规划实质上是一种以空间换时间的技术，它在实现的过程中，不得不存储产生过程中的各种状态，所以它的空间复杂度要大于其它的算法。
以Bitonic旅行路线问题为例，这个问题也可以用搜索算法来解决。
动态规划的时间复杂度为O（n2），搜索算法的时间复杂度为O（n!
），但从空间复杂度来看，动态规划算法为O（n2），而搜索算法为O（n），搜索算法反而优于动态规划算法。
选择动态规划算法是因为动态规划算法在空间上可以承受，而搜索算法在时间上却无法承受，所以我们舍空间而取时间。
设原问题的规模为n，容易看出，当子问题树中的子问题总数是n的超多项式函数，而不同的子问题数只是n的多项式函数时，动态规划法显得特别有意义，此时动态规划法具有线性时间复杂性。
所以，能够用动态规划解决的问题还有一个显著特征：
子问题的重叠性。
这个性质并不是动态规划适用的必要条件，但是如果该性质无法满足，动态规划算法同其他算法相比就不具备优势。
动态规划的基本思想
前文主要介绍了动态规划的一些理论依据，我们将前文所说的具有明显的阶段划分和状态转移方程的动态规划称为标准动态规划，这种标准动态规划是在研究多阶段决策问题时推导出来的，具有严格的数学形式，适合用于理论上的分析。
在实际应用中，许多问题的阶段划分并不明显，这时如果刻意地划分阶段法反而麻烦。
一般来说，只要该问题可以划分成规模更小的子问题，并且原问题的最优解中包含了子问题的最优解（即满足最优子化原理），则可以考虑用动态规划解决。
动态规划的实质是分治思想和解决冗余，因此，动态规划是一种将问题实例分解为更小的、相似的子问题，并存储子问题的解而避免计算重复的子问题，以解决最优化问题的算法策略。
由此可知，动态规划法与分治法和贪心法类似，它们都是将问题实例归纳为更小的、相似的子问题，并通过求解子问题产生一个全局最优解。
其中贪心法的当前选择可能要依赖已经作出的所有选择，但不依赖于有待于做出的选择和子问题。
因此贪心法自顶向下，一步一步地作出贪心选择；而分治法中的各个子问题是独立的（即不包含公共的子子问题），因此一旦递归地求出各子问题的解后，便可自下而上地将子问题的解合并成问题的解。
但不足的是，如果当前选择可能要依赖子问题的解时，则难以通过局部的贪心策略达到全局最优解；如果各子问题是不独立的，则分治法要做许多不必要的工作，重复地解公共的子问题。
解决上述问题的办法是利用动态规划。
该方法主要应用于最优化问题，这类问题会有多种可能的解，每个解都有一个值，而动态规划找出其中最优（最大或最小）值的解。
若存在若干个取最优值的解的话，它只取其中的一个。
在求解过程中，该方法也是通过求解局部子问题的解达到全局最优解，但与分治法和贪心法不同的是，动态规划允许这些子问题不独立，（亦即各子问题可包含公共的子问题）也允许其通过自身子问题的解作出选择，该方法对每一个子问题只解一次，并将结果保存起来，避免每次碰到时都要重复计算。
因此，动态规划法所针对的问题有一个显著的特征，即它所对应的子问题树中的子问题呈现大量的重复。
动态规划法的关键就在于，对于重复出现的子问题，只在第一次遇到时加以求解，并把答案保存起来，以后再遇到时直接引用，不必重新求解。
动态规划算法的基本步骤
设计一个标准的动态规划算法，通常可按以下几个步骤进行：
1.划分阶段：
按照问题的时间或空间特征，把问题分为若干个阶段。
注意这若干个阶段一定要是有序的或者是可排序的（即无后向性），否则问题就无法用动态规划求解。
2.选择状态：
将问题发展到各个阶段时所处于的各种客观情况用不同的状态表示出来。
当然，状态的选择要满足无后效性。
3.确定决策并写出状态转移方程：
之所以把这两步放在一起，是因为决策和状态转移有着天然的联系，状态转移就是根据上一阶段的状态和决策来导出本阶段的状态。
所以，如果我们确定了决策，状态转移方程也就写出来了。
但事实上，我们常常是反过来做，根据相邻两段的各状态之间的关系来确定决策。
4.写出规划方程（包括边界条件）：
动态规划的基本方程是规划方程的通用形式化表达式。
一般说来，只要阶段、状态、决策和状态转移确定了，这一步还是比较简单的。
动态规划的主要难点在于理论上的设计，一旦设计完成，实现部分就会非常简单。
根据动态规划的基本方程可以直接递归计算最优值，但是一般将其改为递推计算，实现的大体上的框架如下：
标准动态规划的基本框架
1.对fn+1（xn+1）初始化;{边界条件}
2.fork:
=ndownto1do
3.for每一个xk∈Xkdo
4.for每一个uk∈Uk（xk）do
begin
5.fk（xk）:
=一个极值;{∞或－∞}
6.xk+1:
=Tk（xk,uk）;{状态转移方程}
7.t:
=φ（fk+1（xk+1）,vk（xk,uk））;{基本方程（9）式}
8.ift比fk（xk）更优thenfk（xk）:
=t;{计算fk（xk）的最优值}
end;
9.t:
=一个极值;{∞或－∞}
10.for每一个x1∈X1do
11.iff1（x1）比t更优thent:
=f1（x1）;{按照10式求出最优指标}
12.输出t;
但是，实际应用当中经常不显式地按照上面步骤设计动态规划，而是按以下几个步骤进行：
1.分析最优解的性质，并刻划其结构特征。
2.递归地定义最优值。
3.以自底向上的方式或自顶向下的记忆化方法（备忘录法）计算出最优值。
4.根据计算最优值时得到的信息，构造一个最优解。
步骤
（1）--（3）是动态规划算法的基本步骤。
在只需要求出最优值的情形，步骤（4）可以省略，若需要求出问题的一个最优解，则必须执行步骤（4）。
此时，在步骤（3）中计算最优值时，通常需记录更多的信息，以便在步骤（4）中，根据所记录的信息，快速地构造出一个最优解
动态规划
动态规划的技巧——阶段的划分和状态的表示
在动态规划的设计过程中，阶段的划分和状态的表示是非常重要的两步，这两步会直接影响该问题的计算复杂性，有时候阶段划分或状态
升级会员 