坐标轮换法汇总.docx

1、坐标轮换法汇总4.7 坐标轮换法1. 基本思想：每次以一个变量坐标轴作为搜索方向，将 n维的优化问题转化为一维搜索问题。例，第 k轮迭代的第 i 次搜索，是固定除 xi外的 n-1 个变量，沿 xi 变量坐标轴作一维搜索，求得极值点 xi(k) n 次搜索后获得极值点序列 x1(k), x2(k）, xn(k)，若未收敛，则开始第 k+1 次迭代，直至收敛到最优点 x*。 2. 搜索方向与步长：3. 方法评价：方法简单，容易实现。当维数增加时，效率明显下降。收敛慢，以振荡方式逼近最优点。受目标函数的性态影响很大。 如图 a) 所示，二次就收敛到极值点； 如图 b) 所示，多次迭代后逼近极值点；

2、 如图 c) 所示，目标函数等值线出现山脊（或称陡谷），若搜索到 A 点，再沿两个坐标轴，以t0步长测试，目标函数值均上升，计算机判断 A 点为最优点。事实上发生错误。 4.8 Poweel 法1. 基本思想：若沿连接相邻两轮搜索末端的向量 S 方向搜索，收敛速度加快。其中：S=x2(2)-x2(1)因为两条平行线 S1, S2 与同心椭圆族相切，两个切点的连线 S 直指中心。称 S1, S2 与 S 为共轭方向。目的：以共轭方向打破振荡，加速收敛。2. 共轭方向：3. 共轭方向的性质：4.步骤： 5. 说明：若是正定二次函数，n 轮迭代后收敛于最优点 x* 。 若是非正定二次函数，则迭代次数

3、增加。若是 n 维问题，步骤相同。搜索方向：第一轮迭代，沿初始方向组 Si(1) (i=1,2,n) 的 n 个方向和共轭方向 S(1)，搜索 n+1 次得极值点 xn+1(1) ；第二轮迭代，沿方向组 Si(2) ( i=1,2,n；im ) 的 n-1 个方向和共轭方向 S(1)，构筑共轭方向 S(2) 搜索 n+1次得极值点 xn+1(2) 。其中，为保证搜索方向的线性无关，去除了 Sm(2) 方向 。在第 k 轮迭代中，为避免产生线性相关或近似线性相关，需要去除前一轮中的某个方向 Sm(k)。6. 方法评价：计算步骤复杂;是二次收敛方法，收敛快。对非正定函数，也很有效;是比较稳定的方法

4、。 第六章 约束优化方法第一节概述一.有约束问题解法分类：直接解法：随机方向搜索法、复合形法、可行方向法间接解法：内点惩罚函数法、外点惩罚函数法、混合惩罚函数法二. 直接解法的基本思想：合理选择初始点，确定搜索方向，以迭代公式 x(k+1)= x(k)+(k)S(k)在可行域中寻优，经过若干次迭代，收敛至最优点。收敛条件：边界点的收敛条件应该符合 K-T 条件；内点的收敛条件为：特点：在可行域内进行； 若可行域是凸集，目标函数是定义在凸集上的凸函数， 则收敛到全局最优点；否则，结果与初始点有关。有解的条件： f(x) 和 g(x) 都连续可微； 存在一个有界的可行域； 可行域为非空集； 迭代要

5、有目标函数的下降性和设计变量的可行性。1. 基本思想：每次以一个变量坐标轴作为搜索方向，将 n维的优化问题转化为一维搜索问题。例，第 k轮迭代的第 i 次搜索，是固定除 xi外的 n-1 个变量，沿 xi 变量坐标轴作一维搜索，求得极值点 xi(k) n 次搜索后获得极值点序列 x1(k), x2(k）, xn(k)，若未收敛，则开始第 k+1 次迭代，直至收敛到最优点 x*。 2. 搜索方向与步长：3. 方法评价：方法简单，容易实现。当维数增加时，效率明显下降。收敛慢，以振荡方式逼近最优点。受目标函数的性态影响很大。 如图 a) 所示，二次就收敛到极值点； 如图 b) 所示，多次迭代后逼近极

6、值点； 如图 c) 所示，目标函数等值线出现山脊（或称陡谷），若搜索到 A 点，再沿两个坐标轴，以t0步长测试，目标函数值均上升，计算机判断 A 点为最优点。事实上发生错误。 4.8 Poweel 法1. 基本思想：若沿连接相邻两轮搜索末端的向量 S 方向搜索，收敛速度加快。其中：S=x2(2)-x2(1)因为两条平行线 S1, S2 与同心椭圆族相切，两个切点的连线 S 直指中心。称 S1, S2 与 S 为共轭方向。目的：以共轭方向打破振荡，加速收敛。2. 共轭方向：3. 共轭方向的性质：4.步骤： 5. 说明：若是正定二次函数，n 轮迭代后收敛于最优点 x* 。 若是非正定二次函数，则迭

7、代次数增加。若是 n 维问题，步骤相同。搜索方向：第一轮迭代，沿初始方向组 Si(1) (i=1,2,n) 的 n 个方向和共轭方向 S(1)，搜索 n+1 次得极值点 xn+1(1) ；第二轮迭代，沿方向组 Si(2) ( i=1,2,n；im ) 的 n-1 个方向和共轭方向 S(1)，构筑共轭方向 S(2) 搜索 n+1次得极值点 xn+1(2) 。其中，为保证搜索方向的线性无关，去除了 Sm(2) 方向 。在第 k 轮迭代中，为避免产生线性相关或近似线性相关，需要去除前一轮中的某个方向 Sm(k)。6. 方法评价：计算步骤复杂;是二次收敛方法，收敛快。对非正定函数，也很有效;是比较稳定的方法。