多目标最优化模型Word文档下载推荐.docx
《多目标最优化模型Word文档下载推荐.docx》由会员分享,可在线阅读,更多相关《多目标最优化模型Word文档下载推荐.docx(35页珍藏版)》请在冰豆网上搜索。
第六章
最优化问题数学模
(1)最优化问题在工业、农业、交通运输、商业、国防、建筑、通信、政府机关等各部门各领域的实际工作中,我们经常会遇到求函数的极值或最大值最小值问题,这一类问题我们称之为最优化问题。
而求解最优化问题的数学方法被称为最优化方法。
它主要解决最优生产计划、最优分配、最佳设计、最优决策、最优管理等求函数最大值最小值问题。
最优化问题的目的有两个:
①求出满足一定条件下,函数的极值或最大值最小值;
②求出取得极值时变量的取值。
最优化问题所涉及的内容种类繁多,有的十分复杂,但是它们都有共同的关键因素:
变量,约束条件和目标函数。
(2)变量变量是指最优化问题中所涉及的与约束条件和目标函数有关的待确定的量。
一般来说,它们都有一些限制条件(约束条件),与目标函数紧密关联。
设问题中涉及的变量为x1,x2,,xn;
我们常常也用X(x1,x2,,xn)表示。
3)约束条件
在最优化问题中,求目标函数的极值时,变量必须满足的限制称为约束条件例如,许多实际问题变量要求必须非负,这是一种限制;
在研究电路优化设
计问题时,变量必须服从电路基本定律,这也是一种限制等等。
在研究问题时,
这些限制我们必须用数学表达式准确地描述它们。
用数学语言描述约束条件一般来说有两种:
等式约束条件gi(X)0,i1,2,,m
不等式约束条件hi(X)0,i1,2,,r
或hi(X)0,i1,2,,r
注:
在最优化问题研究中,由于解的存在性十分复杂,一般来说,我们不考虑不等式约束条件h(X)0或h(X)0。
这两种约束条件最优化问题最优解的存在性较复杂。
(4)目标函数在最优化问题中,与变量有关的待求其极值(或最大值最小值)的函数称为目标函数。
目标函数常用f(X)f(x1,x2,,xn)表示。
当目标函数为某问题的效益函数时,问题即为求极大值;
当目标函数为某问题的费用函数时,问题即为求极小值等等。
求极大值和极小值问题实际上没有原则上的区别,因为求f(X)的极小值,也就是要求f(X)的极大值,两者的最优值在同一点取到
1.2最优化问题分类
最优化问题种类繁多,因而分类的方法也有许多。
可以按变量的性质分类,按有无约束条件分类,按目标函数的个数分类等等。
一般来说,变量可以分为确定性变量,随机变量和系统变量等等,相对应的最优化问题分别称为:
普通最优化问题,统计最优化问题和系统最优化问题。
按有无约束条件分类:
无约束最优化问题,有约束最优化问题。
按目标函数的个数分类:
单目标最优化问题,多目标最优化问题。
按约束条件和目标函数是否是线性函数分类:
线性最优化问题(线性规划),非线性最优化问题(非线性规划)。
按约束条件和目标函数是否是时间的函数分类:
静态最优化问题和动态最优化问题(动态规划)。
按最优化问题求解方法分类:
斐波那西法
一维搜索法黄金分割法插值法
②数值算法(直接法)
③数值算法(梯度法)
坐标轮换法
步长加速法
多维搜索法方向加速法
单纯形法
随机搜索法
最速下降法拟牛顿法
无约束梯度法
有约束梯度法
共轭梯度法变尺度法可行方向法梯度投影法
SUMT法化有约束为无约束SWIFT法复形法
单目标化方法
④多目标优化方法多重目标化方法
目标关联函数法
⑤网络优化方法
1.3最优化问题的求解步骤和数学模型
(1)最优化问题的求解步骤最优化问题的求解涉及到应用数学,计算机科学以及各专业领域等等,是一个十分复杂的问题,然而它却是需要我们重点关心的问题之一。
怎样研究分析求解这类问题呢?
其中最关键的是建立数学模型和求解数学模型。
一般来说,应用最优化方法解决实际问题可分为四个步骤进行:
步骤1:
建立模型提出最优化问题,变量是什么?
约束条件有那些?
目标函数是什么?
建立最优化问题数学模型:
确定变量,建立目标函数,列出约束条件——建立模型。
步骤2:
确定求解方法
分析模型,根据数学模型的性质,选择优化求解方法——确定求解方法。
步骤3:
计算机求解
编程序(或使用数学计算软件),应用计算机求最优解——计算机求解。
步骤4:
结果分析
对算法的可行性、收敛性、通用性、时效性、稳定性、灵敏性和误差等等作出评价——结果分析。
(2)最优化问题数学模型
最优化问题的求解与其数学模型的类型密切相关,因而我们有必要对最优化问题的数学模型有所掌握。
一般来说,最优化问题的常见数学模型有以下几种:
1无约束最优化问题数学模型由某实际问题设立变量,建立一个目标函数且无约束条件,这样的求函数极值或最大值最小值问题,我们称为无约束最优化问题。
其数学模型为:
minf(x1,x2,,xn)——目标函数
例如:
求一元函数yf(x)和二元函数zf(x,y)的极值。
又例如:
求函数f(x1,x2,x3)3x124x226x322x1x24x1x32x2x3的极值和取得极值的点。
2有约束最优化问题数学模型由某实际问题设立变量,建立一个目标函数和若干个约束条件(等式或不等式),这样的求函数极值或最大值最小值问题,我们称为有约束最优化问题。
其数学模型为:
minf(x1,x2,,xn)——目标函数
gi(x1,x2,,xn)0i1,2,,m——约束条件有约束最优化问题的例子:
求函数f(x1,x2,x3)x1x3xn在约束条件条件
x1x3xn2008,xi0,i1,2,,n下的最大值和取得最大值的点。
其标准数学模型为:
——目标函数
——约束条件
线性规划问题数学模型由某实际问题设立变量,建立一个目标函数和若干个约束条件,目标函数和约束条件都是变量的线性函数,而且变量是非负的,这样的求函数最大值最小值问题,我们称为线性最优化问题,简称为线性规划问题
minf(x1,x2,,xn)c1x1c2x2cnxn
ai1x1ai2x2aimxnbii1,2,,m
xi0
矩阵形式:
minf(X)CTX
AXBX0
其中X(x1,x2,,xn)T,C(c1,c2,,cn)T,B(b1,b2,,bm)T在线性规划问题中,关于约束条件我们必须注意以下几个问题。
注1:
非负约束条件xi0(i1,2,,n),一般来说这是实际问题要求的需要。
如果约束条件为xidi,我们作变量替换zixidi0;
如果约束条件为xidi,我们作变量替换zidixi0。
注2:
在线性规划的标准数学模型中,约束条件为等式。
如果约束条件不是等式,我们引入松驰变量,化不等式约束条件为等式约束条件。
情况1:
若约束条件为ai1x1ai2x2aimxnbi,引入松驰变量
原约束条件变为ai1x1ai2x2aimxnzibi。
情况2:
若约束条件为ai1x1ai2x2aimxnbi,引入松驰变量
原约束条件变为ai1x1ai2x2aimxnzibi
在其它最优化问题中,我们也常常采取上述方法化不等式约束条件为等式约束条件。
实际问题中,我们经常遇到两类特殊的线性规划问题。
一类是:
所求变量要求是非负整数,称为整数规划问题;
另一类是所求变量要求只取0或1,称为0-1规划问题。
整数规划问题
x23.13
s.t.22x134x2285。
x10,x20且为整数
0-1规划问题maxz3x12x25x3
x12x2x32
x14x2x34
s.t.x1,x2,x30或1。
x1x23
4x2x36
4非线性规划问题数学模型由某实际问题设立变量,建立一个目标函数和若干个约束条件,如果目标函数或约束条件表达式中有变量的非线性函数,那么,这样的求函数最大值最小值问题,我们称为非线性规划最优化问题,简称为非线性规划问题。
gi(x1,x2,,xn)0i1,2,,m——约束条件其中目标函数或约束条件中有变量的非线性函数。
非线性规划问题minf(x,y)(x1)2y
g1(x,y)xy20。
g2(x,y)y0
上述最优化问题中,目标函数是非线性函数,故称为非线性规划问题。
前面介绍的四种最优化数学模型都只有一个目标函数,称为单目标最优化问题,简称为最优化问题。
5多目标最优化问题数学模型
由某实际问题设立变量,建立两个或多个目标函数和若干个约束条件,且目标函数或约束条件是变量的函数,这样的求函数最大值最小值问题,我们称为多目标最优化问题。
minfi(x1,x2,,xn)i1,2,,s——目标函数
gi(x1,x2,,xn)0i1,2,,m——约束条件
上述模型中有s个目标函数,m个等式约束条件。
“生产商如何使得产值最大而且消耗资源最少问题”“投资商如何使得投资收益最大而且风险最小问题”等都是多目标最优化问题。
2经典最优化方法
经典最优化方法包括无约束条件极值问题和等式约束条件极值问题两种,不等式约束条件极值问题可以化为等式约束条件极值问题。
经典的极值理论:
首先,根据可微函数取极值的必要条件确定可能极值点;
其次,根据函数取极值的充分条件判断是否取极值?
是极大值?
还是极小值?
这种方法已经几百年的历史了。
2.1无约束条件极值
设n元函数f(X)f(x1,x2,,xn),求f(X)的极值和取得极值的点。
这是一个无约束条件极值问题,经典的极值理论如下。
定理1(极值必要条件):
设n元函数f(X)f(x1,x2,,xn)具有偏导数,则f(X)
在XX*处取得极值的必要条件为:
|XX*0i1,2,,n。
xi
定理在此不给出证明,读者可自己参看有关资料。
注1:
对于一元函数上述定理当然成立,只是偏导数应为导数;
定理只是在偏导数存在的前提下的必要条件。
如果函数在某一点偏导数不存在,那在这一点处仍然可能取得极值;
注3:
如果函数在某一点偏导数存在,且偏导数都等于零,那么函数在这一点处也不一定取得极值。
例如,函数f(x,y)3x2y2在点(0,0)处偏导数不存在,但在这一点处函数仍然取得极小值零。
函数f(x,y)x3y5在点(0,0)处偏导数存在,且偏导数都等于零,但在这一点处函数不取极值。
定理1的作用在于,求出函数的可能极值点,然后,我们再研究这些点是否取得极值。
对于许多实际问题来说,函数一定能够取得极大值或极小值,而函数的可能极值点(满足必要条件的点)又只有一点,则这一点当然是函数取得极大值或极小值的点。
对于一般函数而言,我们怎样判定函数在某点是否取极值?
还是极小值?
我们有下面的极值的充分条件定理。
定理2(极值充分条件):
设n元函数f(X)f(x1,x2,,xn)具有二阶偏导数,则f(X)在XX*处取得极值的充分条件为:
f
|*0XX*
2)
x12
x1x2
2f
x2x1
x22
x1xn
x2xn
2xn
在XX*处正定或负定;
黑塞矩阵
xnx1
xxx2
x1x22,
0,
x1x3
2;
x2x3
例1:
求函数f(x1,x2,x3)2x126x224x322x1x22x2x3的极值。
解:
(1)根据极值存在的必要条件,确定可能取得极值的点:
f4x12x2,f12x22x12x3,f8x32x2
x1x2x3
2)根据极值存在的充分条件,确定(x1,x2,x3)(0,0,0)是否是极值点:
420
函数的黑塞矩阵为2f(0,0,0)2122
028
所以黑塞矩阵负定,
故函数在(x1,x2,x3)(0,0,0)处取得极大值f(0,0,0)0
2.2等式约束条件极值
目标函数
约束条件
下面我们研究的是有若干个等式约束条件下,一个目标函数的极值问题,其数学模型为:
minf(x1,x2,,xn)s.t.gi(x1,x2,,xn)0i1,2,,m
拉格朗日(Lagrange)乘数法:
1)令
m
Lf(x1,x2,,xn)igi(x1,x2,,xn)
i1
称为上述问题的拉格朗日乘数函数,称i为拉格朗日乘数。
(2)设f(x1,x2,,xn)和gi(x1,x2,,xn)均可微,则得到方程组
(3)若(x1,x2,,xn,1,2,,m)是上述方程组的解,则点(x1,x2,,xn)可能为该问题的最优点。
拉格朗日(Lagrange)乘数法的本质是:
将求有约束条件极值问题转化为求无条件极值问题;
所求得的点,即是取得极值的必要条件点。
拉格朗日乘数法没有解决极值的存在性问题,但是,如果拉格朗日乘数函数具有二阶连续偏导数,我们也可以应用黑塞矩阵来判定函数是否取得极值。
在具体问题中,点(x1,x2,,xn)是否为最优点通常可由问题的实际意义决定。
例2:
求表面积为定值a2,而体积为最大的长方体的体积。
解:
设长方体的三棱长为x,y,z,体积为V;
建立数学模型如下:
maxVxyz
构造拉格朗日乘数函数L(x,y,z)xyz(2xy2yz2xza2),则有
解得xyz6a,maxV6a3为所求。
636
2.3不等式约束条件极值
对于不等式约束条件极值问题:
minf(x1,x2,,xn)——目标函数
s.t.gi(x1,x2,,xn)0i1,2,,m——约束条件
我们有与拉格朗日乘数法密切相关的方法库恩—图克定理。
定理3(库恩—图克定理):
对于上述不等式约束条件极值问题,设f(x1,x2,,xn)
和gi(x1,x2,,xn)均可微,令Lf(x1,x2,,xn)igi(x1,x2,,xn)
假设i存在,则在最优点XX*(x1,x2,,xn)处,必满足下述条件:
1)
Lfmigi0
xjxji1xj
j1,2,,n;
gi(x1,x2,,xn)0
i1,2,,m;
3)
igi(x1,x2,,xn)0
i1,2,,m;
4)
i0。
根据库恩—图克定理我们可以求解许多不等式约束条件极值问题,值得注意的是应用库恩—图克定理求解不等式约束条件极值问题,定理并没有解决最优解的存在性问题,因此,我们必须另行判断。
例3:
求解最优化问题(最优解存在)
构造函数L(x,y,z)(x1)2y1(xy2)2(y),
L
2(x1)10
x
根据库恩—图克定理则有
1120y1(xy2)02y010,20
解得:
x1,y0,10,21;
所求最优解为(x,y)(1,0),最优值为0§
3线性规划
3.1线性规划
设线性规划标准数学模型为:
s.t.
ai1x1ai2x2aimxnbi
i1,2,,m
i1,2,,n
minf(X)CTX
minf(x1,x2,,xn)c1x1c2x2cnxn——目标函数
AXB
X0
其中X(x1,x2,,xn)T,C(c1,c2,,cn)T,B(b1,b2,,bm)T
线性规划问题的求解有一整套理论体系,一般来说,应用单纯形法求解。
此方法尽管比较复杂,然而在计算机上实现并不困难。
解线性规划问题的单纯形法已在许多数学计算软件中实现,我们求解线性规划问题可根据需要,应用数学计算软件求解即可。
在此,我们不系统研究其理论,只是简单介绍线性规划的穷举法和单纯形法的基本思想。
3.2线性规划的穷举法
(1)穷举法基本原理和步骤
将线性规划问题化成矩阵的标准形式,设系数矩阵的秩R(A)m,则对应线性方程组的基础解系自由变量的个数为nm个
步骤2:
穷举法求解:
令xi1xi2xi(nm)0,解得对应线性方程组一组解为
(x1,x2,,xn);
对应目标函数值为f(x1,x2,,xn)fi。
从n个变量x中选nm个作为自由变量,令它们的值为0,可得到CnmCnnm
组解。
步骤3:
确定最优解:
如果最优解存在,则上述求解得到的对应CnmCnnm个目标
函数值中,最小者(或最大者)即为所求最小(或最大)最优值,对应的解为最优解。
步骤4:
证明解为最优解:
①将最优解对应的自由变量看成参数t1,t2,,t(nm);
解对应线性方程组得
xibi0bi1t1bi2t2bi(nm)t(nm),i1,2,,n。
②将对应线性方程组解xibi0bi1t1bi2t2bi(nm)t(nm)
代入目标函数得:
ff0d1t1d2t2d(nm)t(nm)。
如果di0,i1,2,,n,则所求为最小值最优解;
否则,线性规划问题无最小值最优解。
如果di0,i1,2,,n,则所求为最大值最优解;
否则,线性规划问题无最大值最优解。
目标函数:
maxf(X)2x13x2x3解:
约束条件的增广矩阵为:
10100
A12010,R(A)3;
01001
令x1x20,解得X(0,0,5,10,4),f(X)5;
令x1x30,无解;
令x1x40,解得X(0,5,5,0,1),不满足非负条件,舍去;
令x1x50,解得X(0,4,5,2,0),f(X)17;
令x2x30,解得X(5,0,0,5,4),f(X)10;
令x2x40,解得X(10,0,5,0,4),不满足非负条件,舍去;
令x2x50,无解;
5335
令x3x40,解得X(5,52,0,0,23),f(X)325;
令x3x50,解得X(5,4,0,3,0),不满足非负条件,舍去;
令x4x50,解得X(2,4,3,0,0),f(X)19;
所以maxf(X)19,最优解为X(2,4,3,0,0)
证明:
令x4t,x5s解得
x12t2s
目标函数f(X)19ts;
x24sx33t2sxi0,i1,,5
因为x4t,x5s非负,所以maxf(X)19,故最优解存在
2)单纯形法基本原理和步骤
①将线性规划问题化成矩阵的标准形式,设系数矩阵的秩R(A)m,则对应线
性方程组的基础解系的个数为nm个,即有nm个自由参数变量
②选取nm个非基变量(自由参数变量),不妨假设为xj,jm1,,n;
解得线性规划问题的典式
定理1:
如果线性规划问题的上述典式中所有j0,jm1,,n;
则X(1,2,,m,0,,0)为最优解。
定理2:
如果线性规划问题的上述典式中存在某个mk0,且对应
i(mk)0,i1,2,,m;
则线性规划问题无最优解。
由定理1和定理2知,如果我们选择适当的nm个非基变量,就可以根据所求得的典式判断最优解的存在与否,从而求解该线性规划问题。
单纯形法的思想是:
选择适当的基变换(进基和退基),不断地变换典式,使得典式中目标函数值不断下降,从而求得最优解。
其核心为如何选择进基和退基。
③进基规则和退基规则
进基规则——正检验数最小下标规则,即选取smin{j|j0},由此确定xs为进基。
退基规则:
选取这样的下标Jr(Ji表示第i个基变量的下标)
由此确定xJr离基。
④单纯形法的基本步骤:
化线性规划问题为标准形式。
确定基变量,求得基本可行解和典式;
是否满足最优解定理或最优解不存在定理的条件?
判断最优解的情况。
根据进基规则和退基规则,选择进基和退基,进行基变换,求得对应典式。
重复进行基变换,直到求出最优解或判断出无最优解为止。
例2:
解线性规划问题
(1)约束条件的增广矩阵为:
11100
A11010,R(A)3;
62001
所以非基变量个数为两个。
(2)选取x1,x2作为非基变量,x3,x4,x5作为基变量,解得典式为不满足最优解定理和最优解不存在定理的条件,故必须进行基变换。
(3)进行基变换
选取进基:
120,210,
若最优点(x1,x2,,xn)全为整数,则为原纯整数线性规划问题的最优解;
若最优点(x1,x2,,xn)不全为整数,则进行下一步。
(2)定界和分枝
定界:
M0minf(x1,x2,,xn)z0m0
其中M0取原纯整数线性规划问题中,满足约束条件的某一整数可行解所对应的目标函数值。
原纯整数线性规划问题的最优解必须满足定界条件。
分枝:
选取(x1,x2,,xn)中一个不为整数所对应的xk分枝,
R1和R2称为对应线性规划问题的两枝,也是两个新线性规划问题的约束条件。
显然,原纯整数线性规划问题的最优解满足R1或R2。
(3)对R