非线性规划的基本概念和基本原理_精品文档优质PPT.ppt

1、长宽尺寸？分析：设长为分析：设长为 米，米，宽为宽为 米，则有米，则有 f（x）为非线性函数为非线性函数4例例 设某物理过程具有如下规律设某物理过程具有如下规律 用试验法用试验法 。现要确定参数现要确定参数 使所得试验点构成的曲线与理论曲线误差平方使所得试验点构成的曲线与理论曲线误差平方和为最小，且满足和为最小，且满足 非负。非负。5非线性规划：非线性规划：目标函数或（和）约束条件为非线性函数目标函数或（和）约束条件为非线性函数的规划。的规划。f（x）为非线性函为非线性函数，求最小。数，求最小。6一般模型一般模型一般模型一般模型Min f（X）Min f（X）s.t.hs.t.hi i（X）=

2、0 （i=1,2,.m）（X）=0 （i=1,2,.m）（P P）g gj j（X）（X）0 （j=1,2.l）0 （j=1,2.l）X X E En n f（X）h f（X）hi i（X）g（X）gj j（X）（X）为为为为E En n上的实函数。上的实函数。或或或或7二、基本概念二、基本概念1、全局极值和局部极值、全局极值和局部极值 为目标函数，为目标函数，为可行域。若存在为可行域。若存在 ，都有，都有 ，则称，则称 为该问题的为该问题的全局极小点全局极小点，为为全局极小值全局极小值。为目标函数，为目标函数，为可行域。若有为可行域。若有 ，都有都有 ，则称，则称 为该问题的为该问题的严格全

3、局极小点严格全局极小点，为为严格全局极小值严格全局极小值。8若存在若存在 ，令，令 ，都有都有 ，则称则称 为该为该问题的问题的局部极小点局部极小点，为为局部极小值局部极小值。若存在若存在 ，令，令 ，都有都有 ，则称则称 为为该问题的该问题的严格局部极小点严格局部极小点，为为严格局部极小值严格局部极小值。相应不等式反号，得到相应极大点，极大值定义。9定义定义定义定义 如果如果如果如果X X满足（满足（满足（满足（P P）的约束条件）的约束条件）的约束条件）的约束条件 h hi i（X）=0 （i=1,2,.m）（X）=0 （i=1,2,.m）g gj j（X）（X）0 （j=1,2.l）0

4、（j=1,2.l）则称则称则称则称X X E En n 为（为（为（为（P P）的一个）的一个）的一个）的一个可行解。可行解。记（记（记（记（P P）的所有可行解的集合为）的所有可行解的集合为）的所有可行解的集合为）的所有可行解的集合为D D，D D称为（称为（称为（称为（P P）可行域可行域可行域可行域。10定义定义定义定义 X X*称为（称为（称为（称为（P P）的一个）的一个）的一个）的一个（整体）最优解（整体）最优解（整体）最优解（整体）最优解，如，如，如，如果果果果X X*D D，满足，满足，满足，满足 f（X）f（X）f（X f（X*），X X D D。定义定义定义定义 X X*称

5、为（称为（称为（称为（P P）的一个）的一个）的一个）的一个（局部）最优解（局部）最优解（局部）最优解（局部）最优解，如，如，如，如果果果果X X*D D，且存在一个，且存在一个，且存在一个，且存在一个X X*的邻域的邻域的邻域的邻域N（XN（X*,）=）=X X E En n X-X-X X*00满足满足满足满足 f（X）f（X）f（X f（X*），X X D D N（X N（X*,）11f（X）f（X）局部最优解局部最优解局部最优解局部最优解整体最优解整体最优解整体最优解整体最优解122.2.梯度向量梯度向量梯度向量梯度向量 f（X）=grad f（X）f（X）=grad f（X）=（=（

6、f/f/x x1 1,f/f/x x2 2,.,.,f/f/x xn n）T T区间内连续的梯度的性质：区间内连续的梯度的性质：在某点的在某点的在某点的在某点的 f（Xf（X（0 0）必与函数过该点的等值面的必与函数过该点的等值面的必与函数过该点的等值面的必与函数过该点的等值面的切平面相垂直。切平面相垂直。梯度方向是函数值增加最快的方向（函数变化梯度方向是函数值增加最快的方向（函数变化梯度方向是函数值增加最快的方向（函数变化梯度方向是函数值增加最快的方向（函数变化率最大的方向）率最大的方向）率最大的方向）率最大的方向）负梯度方向是函数值减小最快的方向。负梯度方向是函数值减小最快的方向。1314

7、3 3、海赛、海赛、海赛、海赛（Hesse）（Hesse）矩阵矩阵矩阵矩阵 2 2f（X）=H（X）f（X）=H（X）2 2f/f/x x1 12 2 2 2f/f/x x1 1 x x2 2 .2 2f/f/x x1 1 x xn n 2 2f/f/x x2 2 x x1 1 2 2f/f/x x2 22 2 .2 2f/f/x x2 2 x xn n.2 2f/f/x xn n x x1 1 2 2f/f/x xn n x x2 2 .2 2f/f/x xn n2 2=15vv 2 2f（X）f（X）是对称矩阵。（是对称矩阵。（f（X）f（X）二阶偏导数连续时，混二阶偏导数连续时，混二阶偏

8、导数连续时，混二阶偏导数连续时，混合偏导数和取导数的顺序无关）合偏导数和取导数的顺序无关）合偏导数和取导数的顺序无关）合偏导数和取导数的顺序无关）vvf（X）f（X）是二次函数，则可写成是二次函数，则可写成是二次函数，则可写成是二次函数，则可写成vv f（X）f（X）1/2X1/2XT TAX+BAX+BT TX+CX+Cvv则则则则 2 2f（X）f（X）A A（与（与（与（与X X的位置无关）的位置无关）的位置无关）的位置无关）164 4、正定矩阵、负定、半定、不定、正定矩阵、负定、半定、不定、正定矩阵、负定、半定、不定、正定矩阵、负定、半定、不定正定：特征值正定：特征值00；各阶主子式；

9、各阶主子式0（Ai0）0（Ai0）半正定：特征值半正定：特征值 0 0；detA=0,detA=0,Ai Ai 0 0负定：特征值负定：Ai 0（iAi 0（i,Ai 0（i为偶）为偶）为偶）为偶）半负定：特征值半负定：特征值0 0；detA=0detA=0，Ai Ai 0（i0（i为奇）为奇）为奇）为奇）,Ai,Ai 0 0（i（i为偶）为偶）为偶）为偶）不定：特征值有不定：特征值有 0 0及及及及 0,40,=400=4004 4 0 00 100 104 0 2 0 20 10 20 10 22 2 22 2 2=240=240H（X）H（X）正定，正定，正定，正定，X*=（1,1,-2

10、）X*=（1,1,-2），f（X*）=0f（X*）=029例例 利用极值条件解无约束非线性规划问题利用极值条件解无约束非线性规划问题 解解 因为因为 ，令令 即即 求得到求得到4个驻点：个驻点：，和和 不是极小点；不是极小点；是极小点。30凸集概念：凸集概念：设设设设D D是是是是n n维线性空间维线性空间维线性空间维线性空间E En n的一个点集，若的一个点集，若的一个点集，若的一个点集，若D D中的中的中的中的任意两点任意两点任意两点任意两点x x（1）（1）,x,x（2）（2）的连的连的连的连线上的一切点线上的一切点线上的一切点线上的一切点x x仍在仍在仍在仍在D D中，中，中，中，则称

11、则称则称则称D D为为为为凸集凸集凸集凸集。即：若若若若D D中的任意两点中的任意两点中的任意两点中的任意两点x x（1）（1）,x,x（2）（2）D D，任意，任意，任意，任意00 1 1 使得使得使得使得x=x=x x（1）（1）+（1-+（1-）x）x（2）（2）D,D,则称则称则称则称D D为为为为凸集凸集凸集凸集7.3 7.3 凸函数与凸规划凸函数与凸规划凸函数与凸规划凸函数与凸规划31一、凸函数的定义一、凸函数的定义几何解释几何解释几何解释几何解释32f（X）f（X）X X33f（X）f（X）X Xf（Xf（X1 1）f（Xf（X2 2）X X1 1X X2 234f（X）f（X）

12、X X f（xf（x1 1）+（1-+（1-）f（x）f（x2 2）f（Xf（X1 1）f（Xf（X2 2）X X1 1X X2 2 x x1 1+（1-+（1-）x）x2 2f（f（x x1 1+（1-+（1-）x）x2 2）35f（X）f（X）X X f（xf（x1 1）+（1-+（1-）f（x）f（x2 2）f（Xf（X1 1）f（Xf（X2 2）X X1 1X X2 2 x x1 1+（1-+（1-）x）x2 2f（f（x x1 1+（1-+（1-）x）x2 2）任意两点的函数值的连线上的点都在曲线的上方任意两点的函数值的连线上的点都在曲线的上方任意两点的函数值的连线上的点都在曲线的上

13、方任意两点的函数值的连线上的点都在曲线的上方36线性函数既是凸函数线性函数既是凸函数线性函数既是凸函数线性函数既是凸函数,又是凹函数。又是凹函数。如果如果如果如果 -f f（X X）为为为为R R上的上的上的上的（严格严格严格严格）凸函数凸函数凸函数凸函数,则则则则f f（X X）为为为为R R上上上上的的的的（严格严格严格严格）凹函数凹函数凹函数凹函数.37二 凸函数的性质凸函数的性质 性质性质性质性质1 1 设设设设 都是定义在凸集都是定义在凸集都是定义在凸集都是定义在凸集R R上的凸函数，上的凸函数，上的凸函数，上的凸函数，那么那么那么那么 仍是在凸集仍是在凸集仍是在凸集仍是在凸集R R

14、上的凸函数。上的凸函数。性性性性质质质质2 2 设设设设 是是是是定定定定义义义义在在在在凸凸凸凸集集集集S S上上上上的的的的凸凸凸凸函函函函数数数数，那那那那么么么么对对对对任任任任意意意意实数实数实数实数 ，集合，集合，集合，集合 是是是是S S的凸子集。的凸子集。性质性质性质性质3 3 f f（x x）是凸集是凸集是凸集是凸集R R上凸函数，则上凸函数，则上凸函数，则上凸函数，则f f（x x）在在在在R R上局部极小点上局部极小点上局部极小点上局部极小点就是全局极小点，且极小点的集合是凸集。就是全局极小点，且极小点的集合是凸集。38三、凸函数的判别三、凸函数的判别39例40v作业：vP200 4.6（1）（2）41v定理定理6（充要条件）：（充要条件）：若若 是二阶连续可微的凸函数，是二阶连续可微的凸函数，则则 是全局极小点是全局极小点 。类似地，若类似地，若 二阶连续可微的严格凸函数，二阶连续可微的严格凸函数，则则 是惟一全局极小点。是惟一全局极小点。四、凸函数极值点的充要条件四、凸函数极值