现代设计方法-优化设计-约束优化.ppt

1、现代设计方法优化设计部分优化设计部分黄正东二0一三年一月本章主要内容 优化设计概述 优化设计的数学基础 一维探索优化方法 无约束优化方法 约束问题优化方法 优化设计若干问题 优化设计概述 优化设计的数学基础 一维探索优化方法 无约束优化方法 约束问题优化方法 优化设计若干问题 随机方向法 复合形法 可行方向法 惩罚函数法 约束问题优化方法约束问题优化方法 直接法 随机方向法 复合形法 可行方向法 间接法 惩罚函数法直接法：直接法：在可行域内迭代找一序列点，每步降低目标函数值，直至达到最优解。间接法：间接法：将约束问题 变换为一序列无约束问题、或简单的约束问题，这些子问题的解收敛于原问题的解。随

2、机方向法算法思想：算法思想：（1）在可行域内选一初始点x(0),以给定的步长a=a(0),沿某随机选取的方向S(1)取探索点x=x(0)+aS(1),若该点同时符合下降性（f(x)m(50-100)次随机采样，均未找到成功的探索方向S(i)，则将步长a减半。（4）若步长a f(xf(xe e),),则则x xe e -x xh h否则，否则，x xr r -x xh h1 1。如果如果f(xf(xl)f(xf(xr),),进一步扩展进一步扩展 扩展系数扩展系数y1,y1,一般一般y=2.y=2.xhx2xlxxrxef f(x xr r)比所有单纯形点比所有单纯形点上值小上值小不进一步扩展不进

3、一步扩展,避免狭窄单纯形避免狭窄单纯形无约束单纯形法分三种情况选择新点分三种情况选择新点:x xe e=x x+y(x+y(xr r-x x)若若f(xf(xr r)f(xf(xe e),),则则x xe e -x xh h否则，否则，x xr r -x xh h1 1。如果如果f(xf(xl)f(xf(xr),),进一步扩展进一步扩展 扩展系数扩展系数y1,y1,一般一般y=2.y=2.xhx2xlxxrxef f(x xr r)比所有单纯形点比所有单纯形点上值小上值小无约束单纯形法分三种情况选择新点分三种情况选择新点:2 2。如果如果maxf(xmaxf(xi i),i),i hh f(x

4、f(xr)f(xf(xl),),则则 x xr r -x xh hxhx2x1xxrxef f(x xr r)在单纯形点在单纯形点上值之间上值之间,但最少比第二最大但最少比第二最大值小值小.3 3。如果如果f(xf(xr r)maxf(xmaxf(xi i),i),i h h,则则 f(xf(xh h)=)=minf(xminf(xh h),f(x),f(xr r)压缩压缩x xc c=x x+b(x+b(xh h-x x),0b1,),0b-x xh h 否则，以否则，以x xl为中心压缩整个单纯形：为中心压缩整个单纯形：x xi i=x=xi i+0.5(x+0.5(xl-xi),i=0,

5、1,2,),i=0,1,2,n,nxhx2xlx2xhf f(x xr r)可以在单纯形点可以在单纯形点上值之上上值之上,但最少比第二最大但最少比第二最大值大值大.xhx2x1xxrxcxhx2xxrxcx1试试探探顺顺序序无约束单纯形法终止条件终止条件:初始单纯形初始单纯形:x x0 0=(a=(a1 1,a,a2 2,a,an n)x x1 1=(a=(a1 1+p+p,a,a2 2+q+q,a,an n+q+q)x x2 2=(a=(a1 1+q+q,a,a2 2+p+p,a,an n+q+q)x xn n=(a=(a1 1+q+q,a,a2 2+q+q,a,an n+p+p)p=a为单

6、纯形边长为单纯形边长无约束单纯形法(2)(2)算法（略）算法（略）(3)(3)举例举例=0.2反射系数压缩比扩展系数结束单纯形大小无约束单纯形法还需继续新的单纯形无约束单纯形法无约束单纯形法1.1.初始单纯形所选的尺度与方向对结果有大的影响。初始单纯形所选的尺度与方向对结果有大的影响。2.2.单纯形可能退化到低维空间情况。单纯形可能退化到低维空间情况。3.3.有人指出，对于变量很多的情况，如有人指出，对于变量很多的情况，如n10n10时，效率不高。时，效率不高。(4)(4)算法分析算法分析复合形法(1)(1)算法思想算法思想对于n维变量空间,单纯形是n+1个顶点.复合形法是多个单纯形合并成的超

7、多面体,顶点数n+1.复合形法与单纯形极为相似,其不同之处:1.复合形法不限制顶点个数为n+1,复合形法顶点个数是k,2nkn+1.2.复合形法需要检查顶点的可行性,即是否满足约束.初始复合形法生成初始复合形法生成1.1.随机测试找到一个可行点随机测试找到一个可行点2.2.随机生成其它点随机生成其它点3.3.计算可行点的中心点计算可行点的中心点4.4.中心点不可行时中心点不可行时,不计最远点不计最远点 重新计算中心重新计算中心5.5.将不可行点向中心拉靠将不可行点向中心拉靠6.6.初始复合形初始复合形初始复合形法生成初始复合形法生成设可行，不可行。（1）计算(2)(2)算法算法 (反射、扩张、

8、收缩、压缩）反射、扩张、收缩、压缩）XhXgXlXc（2）计算最高点次高点最低点最高点之外其它点的中心Step 1Step 1：反射反射XhXgXlXcXr（3）Xc是可行点时,在可行域内找反射点.XhXgXlXcXr减半，拉入可行域内。Xr 不可行时，（4）Xc是非可行点时,重新构造复合形,并转（1）.XhXgXlXcXlXcXcXl新的取点区域范围将不可行点拉入可行区内可行点不可行点f(Xr)f(Xh)XhXgXlXcXr（5）如果 f(Xr)f(Xh)XhXgXlXcXr此情况还需分子情况处理（6）如果 f(Xr)f(Xh),分情况处理：f(Xr)f(Xh)的子情况 Case 1:f(X

9、c)f(Xh)将将Xr向向Xc拉靠拉靠:将将 不断缩小不断缩小0.70.7倍，倍，直至直至XhXgXlXcXrf(Xr)f(Xh)的子情况 Case 2:f(Xc)f(Xh)或Case 1 中 上述Case 1-2过程中，如出现Xr变为非可行，还需将 不断减半，向Xc拉靠，直至可行。成功反射的条件是：g(Xr)f(Xh)若f(Xr)相对于f(Xh)下降较多，如f(Xr)f(Xg)，则执行扩张步骤：XhXgXlXcXrXe若f(Xe)f(Xc)，则执行收缩步骤：若f(Xk)5时,可取k2n.可行方向法可行方向法是用梯度去求解约束非线性最优化问题的一种有代表性的直接解法，是求解大型约束优化问题的主

10、要方法之一。其收敛速度快，效果好，但程序比较复杂，计算困难且工作量大。数学基础：梯度法、方向导数、K-T条件适用条件：目标函数和约束函数一阶连续可微,只有不等式约束。可行方向法 在可行域内选择一个初始点，当确定了一个可行方向S(k)和适当步长后，按公式进行迭代计算，通过调整可行方向，使其既不超出可行域，又使目标函数值有所下降，经过若干次迭代，使迭代点逐步逼近约束最优点。(1)算法思路(2)产生可行方向的条件可行条件方向S(k)可行，是指沿该方向作微小移动后，所得到的新点应是可行点。可行的含义：若点X(k)在J个约束面的交集上（即点X(k)有J个起作用约束），要满足可行条件，方向S(k)应和这J

11、个约束函数在点X(k)的梯度 的夹角均大于等于900，若用向量关系式表示为：可行条件可行条件下降条件 方向下降条件是指沿该方向作微小移动后，所得新点的目标函数值是下降的，而且下降的愈快愈好，显然，如果负梯度方向是可行方向，那么沿负梯度方向进行移动最有利。满足下降条件的方向S(k)应和目标函数在点X(k)的梯度 交成钝角。用向量关系式可表示为：下降条件下降条件 综上所述，可行方向就是既满足可行条件，又满足下降条件的方向。用向量关系式表示为：可行条件可行条件下降条件下降条件同时满足上面两个条件的方向称为可行方向，又称为下降可行方向。可行方向很多，哪一个最快最优呢？可行方向很多，哪一个最快最优呢？最

12、佳下降可行方向最佳下降可行方向 在一个点的所有下降可行方向中，使目标函数取得最大下降量的方向称为最佳下降可行方向，显然，当点X(k)处于可行域内时，目标函数的负梯度方向就是最佳下降可行方向，当点X(k)处于几个起作用约束的交点或交线上，即 式 和 只能提供下降可行方向的范围，而不能直接给出最佳下降可行方向，但是可以在满足上述可行条件的前提下，通过方向导数极小化（保证最佳）的求解得到最佳下降可行方向。目标函数在S方向的方向导数反映了目标函数值沿S方向的变化情况。方向导数越大，则目标函数值增加越快，反之，方向导数越小，目标函数值下降越快。目标函数f(X)在点 X(k)的方向导数由于梯度 是常数向量

13、，则方向导数是S的线性函数，故最佳可行方向的寻求可归结为以下线性规划问题。其它其它可行方向计算方法可行方向计算方法1.Zoutendijks Methodmin f(x)s.t.gi(x)0,i=1,2,pFeasible Domaing1(x)g2(x)dx0g gi i(x(x)为取作用的约束为取作用的约束2.2.改进改进可行方向法（可行方向法（Modified Method of Feasible Directions）min f(x)s.t.gi(x)0,i=1,2,pFeasible Domaing1(x)g2(x)dx0g gi i(x(x)为取作用的约束为取作用的约束(3)约束一

14、维搜索 所谓约束一维搜索是指求解一元函数约束极小点的算法，与前面讲的一维搜索相比，其特点在于：确定初始区间时，对产生的每一个探测点都进行可行性判断，如果违反了某个或某些约束条件，就必须减小步长因子，以使新的探测点落在最近的一个约束曲面上或约束曲面的一个允许的区间内。约束容限：约束容限：如果如果 (给定的约束容给定的约束容限限)，则认为点，则认为点X(k)落在约束边界上，亦即它是可行点。落在约束边界上，亦即它是可行点。若得到的相邻三个探测点都是可行点，而且函数值呈“大小大”变化，则与前述一维搜索相同，两端点所决定的区间就是初始区间，接着缩小区间得到一维极小点。若最后得到的探测点落在约束曲面的一个

15、容限之内，而且函数值比前一点的小，则该点就是一维极小点，不需再进行区间缩小计算。一维搜索几种情况：可行域内可行域外沿线性边界搜索沿曲边界搜索可行域外情况：可行域外改变步长a，让X(k+1)到约束面上：方法：（1）用小步长at,探测边界。at 由目标函数下降1%-5%的幅度来定。方法：（1）用小步长at,探测边界。at 由目标函数下降1%-5%的幅度来定。（2）用弦线逼近调整精化步长。沿曲边界搜索情况方法：（1）先定义取作用的容差边界g(x)；（2）沿S(k+1)方向搜索到容差边界点 ;（3）再沿 投影到实际边界：例.用可行方向法求解约束优化问题 4.可行方向法的迭代步骤1）给定初始内点X(0)

16、，收敛精度和约束允差，置k=0；2）确定点X(k)的起作用约束集合当Ik为空集（表示约束都不起作用），且点X(k)在可行域内时，如果 ，则令 ,终止计算;否则,令 ，转（5）；当为非空时（表示有起作用约束），转（3）；3）收敛判断：点X(k)是否满足K-T条件；令 ，解出 若 ，输出 ，终止迭代；若 ，转4）.4）求解线性规划问题 得到S*，令S(k)=S*（最佳下降可行方向）；5）在方向S(k)上进行约束一维搜索得点X(k+1)，令k=k+1，转（2）。惩罚函数法 内点法 外点法 混合法 惩罚函数法是求解约束优化问题的间接法的一种。它是将目标函数和约束条件构造成一个新的目标函数，将约束最优化问题转化为无约束最优化问题，然后利用各种有效的无约束最优化解法求解而得到约束最优化的近似解。这是一种使用广泛的有效的间接解法。1.惩罚函数法的基本思路 将不等式约束 、等式约束 和待定系数 （加权因子）经加权转化后，与原目标函数f(X)一起组成一个新的目标函数 （惩罚函数），然后对它求最优解。把其中不等式和等式约束函数值经加权处理后，和原目标函数结合新的目标函数:惩罚函数惩罚函数 惩罚函数中的后两