非线性最优化问题的一种混合解法.docx

非线性最优化问题的一种混合解法.docx

《非线性最优化问题的一种混合解法.docx》由会员分享，可在线阅读，更多相关《非线性最优化问题的一种混合解法.docx（8页珍藏版）》请在冰豆网上搜索。

非线性最优化问题的一种混合解法

非线性最优化问题的一种混合解法

摘要：

把BFGS方法与混沌优化方法相结合，基于混沌变量提出一种求解具有变量边界约束非线性最优化效果的混合优化方法。

混合算法统筹了混沌优化全局搜索才干强和BFGS方法收敛速度快的优点，成为一种求解非凸优化效果全局最优的有效方法。

算例说明，当混沌搜索的次数到达一定数量时，混合优化方法可以保证算法收敛到全局最优解，且计算效率比混沌优化方法有很大提高。

关键词：

混合法；BFGS方法；混沌优化方法；全局最优

1引言

在系统工程、控制工程、统计学、反效果优化求解等范围中，很多效果是具有非凸性的。

对此普通的优化技术只能求出局部最优解，由于这些确定性算法总是解得最近的一个极值点[1]，只要可以给出很好的初始点才有能够得出所需求的全局最优解。

为此，实践运用中经过在多个初始点上运用传统数值优化方法来求取全局解的方法依然被人们所采用，但是这种处置方法求得全局解的概率不高，牢靠性低，树立尽能够大约率的求解全局解算法依然是一个重要效果。

近年来基于梯度法的全局最优化方法曾经有所研讨[2]，基于随机搜索技术的遗传算法和模拟退火算法等在全局优化效果中的运用也失掉越来越大的注重[3-4]。

本文那么基于混沌优化和BFGS方法，提出一种求解具有复杂界约束最优化效果

（1）的混合算法。

min

（1）

混沌是存在于非线性系统中的一种较为普遍的现象。

混沌运动微观上无序无律，具有内随机性、非周期性和局部不动摇性，微观上有序有律，并不是完全的随机运动，具有无量嵌套的自相似几何结构、存在普适性规律，并不是杂乱无章的。

应用混沌变量的随机性、遍历性和规律性特点可以停止优化搜索[5]，且混沌优化方法容易跳出局部最优点。

但是某些形状需求很长时间才干到达，假设最优值在这些形状时，计算时间势必很长[5]。

可以说混沌优化具有全局搜索才干，其局部搜索才干稍显缺乏，文[5]采用二次载波技术，文[6]思索逐渐增加寻优变量的搜索空间都是为了补偿这一弱点。

而本文那么采用混沌搜索与BFGS方法停止优化求解，一方面采用混沌搜索协助BFGS方法跳出局部最优，另一方面应用BFGS增强解左近的超线性收敛速度和搜索才干，以提高搜索最优的效率。

2混沌－BFGS混合优化方法

2.1BFGS方法

作为求解无约束最优化效果的拟牛顿方法类最有代表性的算法之一，BFGS方法处置凸非线性规划效果，以其完善的数学实际基础、采用不准确线性搜索时的超线性收敛性和处置实践效果有效性，遭到人们的注重[7-9]。

拟牛顿方法运用了二阶导数信息，但是并不直接计算函数的Hesse矩阵，而是采用一阶梯度信息来结构一系列的正定矩阵来迫近Hesse矩阵。

BFGS方法求解无约束优化效果min（）的主要步骤如下：

2.2混沌优化方法

应用混沌搜索求解效果

（1）时，先树立待求变量与混沌变量的逐一对应关系，本文采用。

然后,由Logistic映射式（4）发生个轨迹不同的混沌变量〔〕停止优化搜索，式（4）中=4。

曾经证明，=4是〝单片〞混沌，在[0,1]之间历遍。

2.3混合优化方法

混合算法中混沌搜索的作用是大范围微观搜索，使得算法具有全局寻优功用。

而BFGS搜索的作用是局部地、细致地停止优化搜索，处置的是小范围搜索效果和搜索减速效果。

3算例

采用如下两个十分复杂的、常用于测试遗传算法功用的函数测试本文算法：

函数

称为Camel函数，该函数有6个局部极小点（1.607105,0.568651）、（-1.607105,-0.568651）、（1.703607,-0.796084）、（-1.703607,0.796084）、（-0.0898,0.7126）和（0.0898,-0.7126），其中（-0.0898,0.7126）和（0.0898,-0.7126）为两个全局最小点，最小值为-1.031628。

函数

称为Schaffer's函数，该函数有有数个极大值，其中只要〔0，0〕为全局最大点，最大值为1。

此函数的最大峰值周围有一圈脊，它们的取值均为0.990283，因此很容易停留在此局部极大点。

文献[10]采用该函数对该文提出的基于移动和人工选择的改良遗传算法〔GAMAS〕其功用停止了调查，运转50次，40％的状况下该函数的独一全局最优点可以找到。

而采用本文混合算法，由计算机外部随机函数自动随机消费100个不同的初始点，由这些初始点动身，普通混合算法迭代2－4次即可以收敛。

M取不同数值时对函数

、

的计算结果区分如表1和表2所示，表中计算时间是指在奔腾133微机上计算时间。

由表2可见，当M=1500时，本文方法搜索到

最优解的概率即到达40％，而此时计算量比文献[10]小。

异样由混合算法的100个起始点，采用文献[5]的算法对函数

优化计算100次，以

作为收敛规范，混沌搜索50000次，计算结果为67次搜索到最优解，概率为67%，平均计算时间为1.2369s。

而即使保证混合算法100次全收敛到

最优解所破费的平均计算时间也只为0.2142s〔表1〕，可见混合算法优于文献[5]的方法。

表1M取不同数值时函数

的计算结果

4计算结果剖析

由表1和表2可见，混合算法全局寻优才干随M的添加而增大，当M到达某一足够大的数值Mu后，搜索到全局最优的概率可以到达100％。

从实际上说，Mu趋向无量大时，才干使混沌变量遍历一切形状，才干真正以概率1搜索到最优点。

但是，本文混沌运动M次的作用是协助BFGS方法跳出局部最优点，到达比以后局部最优函数值更小的另一局部最优左近的某一点处，并不是要混沌变量遍历一切形状。

由混沌运动遍历特性可知，关于某一详细效果，Mu到达某一详细有限数值时，混沌变量的遍历性可以失掉较好模拟，这一点是可以满足的，实践算例也证明了这一点。

由于函数性态、复杂性不同，关于不同函数，如这里的测试函数

、

，数值Mu的大小是有差异的。

关于同一函数，搜索区间增大，在相反混沌运动次数下，即使始点相反，总体而言会降低其搜索到全局最优的概率,要保证算法依然以概率1收敛到全局最优，肯定惹起Mu增大。

跟踪计算中间结果证明，当M足够大时，混合算法确实具有跳出局部最优点，继续向全局最优停止搜索的才干；并且混合算法的计算时间主要破费在为使混合算法具有全局搜索才干而停止混沌搜索上。

5结语

应用混沌变量的运动特点停止优化，具有十分强的跳出局部最优解的才干，该方法与BFGS方法结合运用，在可以接受的计算量下可以计算失掉效果的最优解。

实践上，混沌优化可以和普通的下降类算法结合运用，并非局限于本文采用的BFGS方法。

采用的Logistic映射发生混沌变量序列，只是发生混沌变量的有效方式之一。

混沌运动与随机运动是不同的。

混沌是确定性系统中由于内禀随机性而发生的一种复杂的、貌似无规的运动。

混沌并不是无序和紊乱，更像是没有周期的次第。

与随机运动相比拟，混沌运动可以在各态历经的假定下，运用统计的数字特征来描画。

并且，混沌运动不重复地经过同一形状，采用混沌变量停止优化比采用随机变量停止优化具有优势。

混沌优化与下降类方法结合运用是有潜力的一种全局优化途径，是求解具有变量界约束优化效果的牢靠方法。

如何进一步提高搜索效率，以及如何把混沌优化有效运用于复杂约束优化效果是值得进一步研讨的课题。

本文算法全局收敛性的严厉数学证明正在停止之中。

参考文献

[1]胡山鹰，陈丙珍，何小荣，沈静珠．非线性规划效果全局优化的模拟退火法[J]．清华大学学报，37（6），1997，5-9．

[2]CAFloudas,AAggarwal,ARCiric．GlobaloptimumsearchfornonconvexNLPandMINLPproblems[J].ComputChemEngng．1989，13（10），1117~1132．

[3]康立山，谢云，尤矢勇等．非数值并行算法〔第一册〕――模拟退火算法[M]．北京：

迷信出版社，1998．

[4]刘勇，康立山，陈琉屏．非数值并行算法〔第二册〕――遗传算法[M]．北京：

迷信出版社，1998．

[5]李兵，蒋慰孙．混沌优化方法及其运用[J]．控制实际与运用，14（4），1997，613-615．

[6]张彤，王宏伟，王子才．变尺度混沌优化方法及其运用[J]．控制与决策，14（3），1999，285-287．

[7]席少霖．非线性最优化方法[M]．北京：

初等教育出版社，1992．

[8]席少霖，赵凤志．最优化计算方法[M]．上海：

上海迷信技术出版社，1983．

[9]PressWH,TenkolskySA,VetterlingWT,FlanneryBP．NumericalRecipesinC,TheArtofScientificComputing[M]．Secondedition，CambridgeUniversityPress，1992．

[10]JCPorts．Thedevelopmentandevaluationofanimprovedgeneticalgorithmbasedonmigrationandartificialselection[J]．IEEETrans.Syst.ManandCybern.．1994,24

（1），73-85．

AHybridApproachforNonlinearOptimization

Abstract：

CombinedBFGSmethodwithchaosoptimizationmethod,ahybridapproachwasproposedtosolvenonlinearoptimizationproblemswithboundaryrestraintsofvariables.Thehybridmethodisaneffectiveapproachtosolvenonconvexoptimizationproblems,asitgivenbothattentionstotheinherentvirtuetolocateglobaloptimumofchaosoptimizationmethodandtheadvantageofhighconvergencespeedofBFGSmethod.Numericalexamplesillustratethatthepresentmethodpossessesbothgoodcapabilitytosearchglobaloptimaandfarhigherconvergencespeedthanthatofchaosoptimizationmethod.

keywords：

hybridapproach；BFGSmethod；chaosoptimizationmethod；globaloptimum