非线性规划的基本概念和基本原理_精品文档优质PPT.ppt
《非线性规划的基本概念和基本原理_精品文档优质PPT.ppt》由会员分享,可在线阅读,更多相关《非线性规划的基本概念和基本原理_精品文档优质PPT.ppt(54页珍藏版)》请在冰豆网上搜索。
长宽尺寸?
分析:
设长为分析:
设长为米,米,宽为宽为米,则有米,则有f(x)为非线性函数为非线性函数4例例设某物理过程具有如下规律设某物理过程具有如下规律用试验法用试验法。
现要确定参数现要确定参数使所得试验点构成的曲线与理论曲线误差平方使所得试验点构成的曲线与理论曲线误差平方和为最小,且满足和为最小,且满足非负。
非负。
5非线性规划:
非线性规划:
目标函数或(和)约束条件为非线性函数目标函数或(和)约束条件为非线性函数的规划。
的规划。
f(x)为非线性函为非线性函数,求最小。
数,求最小。
6一般模型一般模型一般模型一般模型Minf(X)Minf(X)s.t.hs.t.hii(X)=0(i=1,2,.m)(X)=0(i=1,2,.m)(PP)ggjj(X)(X)0(j=1,2.l)0(j=1,2.l)XXEEnnf(X)hf(X)hii(X)g(X)gjj(X)(X)为为为为EEnn上的实函数。
上的实函数。
或或或或7二、基本概念二、基本概念1、全局极值和局部极值、全局极值和局部极值为目标函数,为目标函数,为可行域。
若存在为可行域。
若存在,都有,都有,则称,则称为该问题的为该问题的全局极小点全局极小点,为为全局极小值全局极小值。
为目标函数,为目标函数,为可行域。
若有为可行域。
若有,都有都有,则称,则称为该问题的为该问题的严格全局极小点严格全局极小点,为为严格全局极小值严格全局极小值。
8若存在若存在,令,令,都有都有,则称则称为该为该问题的问题的局部极小点局部极小点,为为局部极小值局部极小值。
若存在若存在,令,令,都有都有,则称则称为为该问题的该问题的严格局部极小点严格局部极小点,为为严格局部极小值严格局部极小值。
相应不等式反号,得到相应极大点,极大值定义。
9定义定义定义定义如果如果如果如果XX满足(满足(满足(满足(PP)的约束条件)的约束条件)的约束条件)的约束条件hhii(X)=0(i=1,2,.m)(X)=0(i=1,2,.m)ggjj(X)(X)0(j=1,2.l)0(j=1,2.l)则称则称则称则称XXEEnn为(为(为(为(PP)的一个)的一个)的一个)的一个可行解。
可行解。
记(记(记(记(PP)的所有可行解的集合为)的所有可行解的集合为)的所有可行解的集合为)的所有可行解的集合为DD,DD称为(称为(称为(称为(PP)可行域可行域可行域可行域。
10定义定义定义定义XX*称为(称为(称为(称为(PP)的一个)的一个)的一个)的一个(整体)最优解(整体)最优解(整体)最优解(整体)最优解,如,如,如,如果果果果XX*DD,满足,满足,满足,满足f(X)f(X)f(Xf(X*),XXDD。
定义定义定义定义XX*称为(称为(称为(称为(PP)的一个)的一个)的一个)的一个(局部)最优解(局部)最优解(局部)最优解(局部)最优解,如,如,如,如果果果果XX*DD,且存在一个,且存在一个,且存在一个,且存在一个XX*的邻域的邻域的邻域的邻域N(XN(X*,)=)=XXEEnnX-X-XX*00满足满足满足满足f(X)f(X)f(Xf(X*),XXDDN(XN(X*,)11f(X)f(X)局部最优解局部最优解局部最优解局部最优解整体最优解整体最优解整体最优解整体最优解122.2.梯度向量梯度向量梯度向量梯度向量f(X)=gradf(X)f(X)=gradf(X)=(=(f/f/xx11,f/f/xx22,.,.,f/f/xxnn)TT区间内连续的梯度的性质:
区间内连续的梯度的性质:
在某点的在某点的在某点的在某点的f(Xf(X(00))必与函数过该点的等值面的必与函数过该点的等值面的必与函数过该点的等值面的必与函数过该点的等值面的切平面相垂直。
切平面相垂直。
梯度方向是函数值增加最快的方向(函数变化梯度方向是函数值增加最快的方向(函数变化梯度方向是函数值增加最快的方向(函数变化梯度方向是函数值增加最快的方向(函数变化率最大的方向)率最大的方向)率最大的方向)率最大的方向)负梯度方向是函数值减小最快的方向。
负梯度方向是函数值减小最快的方向。
131433、海赛、海赛、海赛、海赛(Hesse)(Hesse)矩阵矩阵矩阵矩阵22f(X)=H(X)f(X)=H(X)22f/f/xx112222f/f/xx11xx22.22f/f/xx11xxnn22f/f/xx22xx1122f/f/xx2222.22f/f/xx22xxnn.22f/f/xxnnxx1122f/f/xxnnxx22.22f/f/xxnn22=15vv22f(X)f(X)是对称矩阵。
(是对称矩阵。
(f(X)f(X)二阶偏导数连续时,混二阶偏导数连续时,混二阶偏导数连续时,混二阶偏导数连续时,混合偏导数和取导数的顺序无关)合偏导数和取导数的顺序无关)合偏导数和取导数的顺序无关)合偏导数和取导数的顺序无关)vvf(X)f(X)是二次函数,则可写成是二次函数,则可写成是二次函数,则可写成是二次函数,则可写成vvf(X)f(X)1/2X1/2XTTAX+BAX+BTTX+CX+Cvv则则则则22f(X)f(X)AA(与(与(与(与XX的位置无关)的位置无关)的位置无关)的位置无关)1644、正定矩阵、负定、半定、不定、正定矩阵、负定、半定、不定、正定矩阵、负定、半定、不定、正定矩阵、负定、半定、不定正定:
特征值正定:
特征值00;
各阶主子式;
各阶主子式0(Ai0)0(Ai0)半正定:
特征值半正定:
特征值00;
detA=0,detA=0,AiAi00负定:
特征值负定:
Ai0(iAi0(i,Ai0(i为偶)为偶)为偶)为偶)半负定:
特征值半负定:
特征值00;
detA=0detA=0,AiAi0(i0(i为奇)为奇)为奇)为奇),Ai,Ai00(i(i为偶)为偶)为偶)为偶)不定:
特征值有不定:
特征值有00及及及及0,40,=400=40044000100104020201020102222222=240=240H(X)H(X)正定,正定,正定,正定,X*=(1,1,-2)X*=(1,1,-2),f(X*)=0f(X*)=029例例利用极值条件解无约束非线性规划问题利用极值条件解无约束非线性规划问题解解因为因为,令令即即求得到求得到4个驻点:
个驻点:
,和和不是极小点;
不是极小点;
是极小点。
30凸集概念:
凸集概念:
设设设设DD是是是是nn维线性空间维线性空间维线性空间维线性空间EEnn的一个点集,若的一个点集,若的一个点集,若的一个点集,若DD中的中的中的中的任意两点任意两点任意两点任意两点xx
(1)
(1),x,x
(2)
(2)的连的连的连的连线上的一切点线上的一切点线上的一切点线上的一切点xx仍在仍在仍在仍在DD中,中,中,中,则称则称则称则称DD为为为为凸集凸集凸集凸集。
即:
若若若若DD中的任意两点中的任意两点中的任意两点中的任意两点xx
(1)
(1),x,x
(2)
(2)DD,任意,任意,任意,任意0011使得使得使得使得x=x=xx
(1)
(1)+(1-+(1-)x)x
(2)
(2)D,D,则称则称则称则称DD为为为为凸集凸集凸集凸集7.37.3凸函数与凸规划凸函数与凸规划凸函数与凸规划凸函数与凸规划31一、凸函数的定义一、凸函数的定义几何解释几何解释几何解释几何解释32f(X)f(X)XX33f(X)f(X)XXf(Xf(X11)f(Xf(X22)XX11XX2234f(X)f(X)XXf(xf(x11)+(1-+(1-)f(x)f(x22)f(Xf(X11)f(Xf(X22)XX11XX22xx11+(1-+(1-)x)x22f(f(xx11+(1-+(1-)x)x22)35f(X)f(X)XXf(xf(x11)+(1-+(1-)f(x)f(x22)f(Xf(X11)f(Xf(X22)XX11XX22xx11+(1-+(1-)x)x22f(f(xx11+(1-+(1-)x)x22)任意两点的函数值的连线上的点都在曲线的上方任意两点的函数值的连线上的点都在曲线的上方任意两点的函数值的连线上的点都在曲线的上方任意两点的函数值的连线上的点都在曲线的上方36线性函数既是凸函数线性函数既是凸函数线性函数既是凸函数线性函数既是凸函数,又是凹函数。
又是凹函数。
如果如果如果如果-ff(XX)为为为为RR上的上的上的上的(严格严格严格严格)凸函数凸函数凸函数凸函数,则则则则ff(XX)为为为为RR上上上上的的的的(严格严格严格严格)凹函数凹函数凹函数凹函数.37二凸函数的性质凸函数的性质性质性质性质性质11设设设设都是定义在凸集都是定义在凸集都是定义在凸集都是定义在凸集RR上的凸函数,上的凸函数,上的凸函数,上的凸函数,那么那么那么那么仍是在凸集仍是在凸集仍是在凸集仍是在凸集RR上的凸函数。
上的凸函数。
性性性性质质质质22设设设设是是是是定定定定义义义义在在在在凸凸凸凸集集集集SS上上上上的的的的凸凸凸凸函函函函数数数数,那那那那么么么么对对对对任任任任意意意意实数实数实数实数,集合,集合,集合,集合是是是是SS的凸子集。
的凸子集。
性质性质性质性质33ff(xx)是凸集是凸集是凸集是凸集RR上凸函数,则上凸函数,则上凸函数,则上凸函数,则ff(xx)在在在在RR上局部极小点上局部极小点上局部极小点上局部极小点就是全局极小点,且极小点的集合是凸集。
就是全局极小点,且极小点的集合是凸集。
38三、凸函数的判别三、凸函数的判别39例40v作业:
vP2004.6
(1)
(2)41v定理定理6(充要条件):
(充要条件):
若若是二阶连续可微的凸函数,是二阶连续可微的凸函数,则则是全局极小点是全局极小点。
类似地,若类似地,若二阶连续可微的严格凸函数,二阶连续可微的严格凸函数,则则是惟一全局极小点。
是惟一全局极小点。
四、凸函数极值点的充要条件四、凸函数极值