系统辨识课件4.ppt

1、1.1.不需矩阵求逆的不需矩阵求逆的LSLS算法特点算法特点3.3 一种不需矩阵求逆的最小二乘法问题提出：问题提出：在LS估计中，需要计算矩阵(T)的逆,由于矩阵 求逆比较影响辨识速度。能否在LS中避免(T)的求逆运算？从而提高LS的辨识速度。(1)不需计算矩阵的逆；(2)辨识精度与基本LS相同；(3)辨识速度比基本LS有较大提高；(4)适合模型阶次n未知的情况下应用；(5)是一种按模型阶次n递推的算法；2.2.算法推导算法推导系统的差分方程为：上式写成矩阵形式有：式中：令k分别等于1,N,有N个方程，则有：式中：现在任务：现在任务：由u(k)及y(k)辨识ai、bi及n。采用方法：采用方法：

2、采用模型阶次n的递推方法。即从n=0开始辨识n=1n=2下面推导按模型阶次n的递推算法。由，可得其LS估计值为：(1)模型阶次n=0的辨识引入中间变量X：记n=0时的X为X0：这里，我们先求Xn。(2)求假设模型阶次为n-1时的参数辨识结果已知，也就是已知，现欲求模型阶次为n时的辨识结果。即求：式中：由可知：根据分块矩阵求逆可得：令，则：式中：同理，令，则可推得：式中：至此，。已求得。求解步骤：(3)求(4)求总结：总结：1.1.辅助变量法特点辅助变量法特点3.4 辅助变量法(IV)算法目的：克服基本最小二乘估计的有偏估计问题算法目的：克服基本最小二乘估计的有偏估计问题，得到一种，得到一种 无

3、偏参数估计算法。无偏参数估计算法。(1)计算与基本最小二乘估计同样简单；(2)辨识精度高于最小LS估计法；(3)是一种无偏估计方法；(4)参数估计时需构造辅助变量矩阵。2.2.辅助变量法原理辅助变量法原理基本基本LSLS有偏估计原因：有偏估计原因：由于(k)是相关随机序列，使得T阵 与阵相关，从而得不到的无偏估计。解决方法：解决方法：构造某矩阵ZT，该矩阵与T阵结构、形式完全一 致，且该矩阵与强相关，与阵不相关。相当于 用构造的矩阵ZT替代T阵，从而得到的无偏估计。该构造的矩阵就称为辅助变量矩阵辅助变量矩阵，它满足如下约束条件：由上式取辅助变量法估计为:辅助变量法辅助变量法(IV)(IV)估计

4、推导估计推导等式两边同乘以Z ZT T阵有：系统的输入输出方程为：(2n+1)NN(2n+1)3.3.无偏性证明无偏性证明所以辅助变量法为无偏估计所以辅助变量法为无偏估计辅助变量法估计为：则：4.4.辅助变量法的构造方法辅助变量法的构造方法IV的构造方法有很多种，我们介绍以下四种方法。(1)递推辅助变量参数估计法 (2)自适应滤波法 (3)纯滞后法 (4)塔利原理法重点掌握第一种方法：递推辅助变量参数估计法。重点掌握第一种方法：递推辅助变量参数估计法。现在任务：现在任务：如何构造辅助变量矩阵Z ZT T。构造原则：构造原则：与T T阵结构、形式完全一致，与阵强相关，与阵不相关。递推辅助变量参数

5、估计法递推辅助变量参数估计法 T T与相关，主要是由于T T中的y(k)与(k+1)相关，选取Z ZT T使其不相关即可。序列为辅助模型的输出，即矛盾：鸡和蛋谁矛盾：鸡和蛋谁先有的问题？先有的问题？解决办法：解决办法：循环迭代收敛法注：第一次计算时，使用(3)构造Z Z阵，使用IV法估计(2)计算序列具体步骤如下：(1)应用基本LS法估计(4)循环迭代计算返回第二步，重新计算进行循环迭代，直至收敛自适应滤波法自适应滤波法估计步骤估计步骤：(1)基本LS估计:辅助变量及其矩阵Z Z的构造方法与方法1完全相同。只是将辅助模型中的的取值做一定的修改(滤波)。式中，取0.01-0.1，d取0-10。(

6、2)计算序列:(首次计算用替代Z Z)(3)构造Z Z阵，估计(4)估值滤波：(5)返回第2步，进行循环迭代，直至估值收敛。纯滞后法纯滞后法式中，为多项式 的阶次，一般可取辅助变量按下式确定：塔利（塔利（TallyTally）原理）原理(k)为相关随机序列，可以表示成：其中，(k)是零均值不相关的随机噪声，并且，以保证 则辅助变量取为：无关。通常，取3.5 递推的辅助变量法辅助变量法的递推公式的推导与基本最小二乘法的递推公式推导的过程完全一样，我们直接给出其递推公式：式中：其中，新息为初始状态的选取可参照递推LS法的选取方法。(两种方法)注意事项注意事项：递推递推IVIV法对初始值法对初始值P

7、 P0 0的选取很敏感的选取很敏感，因此在使用该 方法时，最好在前50100个采样点用递推最小二乘 法，而后再转到递推辅助变量法。3.6 广义最小二乘法方法目的：方法目的：克服基本LS法中的有偏估计问题；并求解噪声模型参数。方法特点：方法特点：是一种无偏的参数估计方法；计算量较大，计算复杂；估计效果好；循环迭代算法，但收敛性没有被证明；估值并非总是收敛于最优估值；工程中的应用较多，实际效果较好。1.1.广义最小二乘法估计原理广义最小二乘法估计原理(k)是相关的随机序列，它可以认为是一个白色噪声(k)通过某个线性系统后的输出，该线性系统称为形成滤波器。则有:系统差分方程为:式中：写成向量形式为：

8、由于上式中(k)为白噪声序列，则可得参数f f的无偏一致性估计为：称为噪声模型参数称为噪声模型参数令：称为数据滤波称为数据滤波上述差分方程中的(k)为白噪声，则由基本LS法可得的无偏一致性估计值。由：2.2.广义广义最小二乘法辨识的步骤最小二乘法辨识的步骤 参数的基本LS估计 计算系统残差e(k)，估计用系统残差e(k)代替阵中的(k)，采用LS估计 输入/输出数据滤波 估计系统参数按模型用LS法估计系统参数收敛判据收敛判据：中参数 收敛。返回第步进行循环迭代，直至 收敛为止3.3.递推广义最小二乘法递推广义最小二乘法特点：特点：对于LS估计，其离线与递推的结果完全一样。而对于广义LS，其离线

9、与递推计算结果不完全一样。其离线与递推计算结果不完全一样。方法方法：递推广义LS法只需将广义LS中的LS法换成递推LS即可。递推算法中有参数的递推及噪声模型参数f f的递推。递推广义LS中的计算分为二部分：原因：原因：由于在递推广义LS中采用了递推LS，则递推广义LS中不 需要广义LS中的循环迭代，即用即用递推递推代替代替了了循环迭代循环迭代。第一部分：按递推LS法，随N增大不断计算第二部分：在递推过程中，由于是变化的，故而需要不断计算递推广义递推广义LSLS法的公式法的公式组组的递推公式形成滤波器参数 的递推公式初值的选取可完全参照递推LS法中初值的选取方法，一般取：算法特点：算法特点：3.

10、7 夏氏法 (1)无偏的估计方法；(2)计算量较广义LS的要小许多；(3)不需进行I/O数据的反复过滤，计算效率高；(4)其递推算法可推广至MIMO系统，而广义LS 法则不行；(5)是一种循环迭代方法，收敛速度较LS要慢；(6)估计结果较好，可分为夏式修正法和夏式改良法两种算法目的：算法目的：克服基本LS有偏估计问题，提高广义LS的计算效率。1.1.夏氏法原理夏氏法原理则由LS法有：由分块矩阵求逆并整理可得：式中：对上式估计结果可写成：上式表明参数的估值等于最小二乘估计减去一个偏差项。我们称这种估计方法为夏式偏差修正法夏式偏差修正法。分析：分析：式中：计算残差取,并记构造阵，计算D及D-1阵。

11、计算，对进行修正返回第二步进行循环迭代，直到收敛为止2.2.夏式偏差修正法迭代步骤夏式偏差修正法迭代步骤计算基本最小二乘估计3.3.夏氏改良法夏氏改良法算法目的：算法目的：夏氏修正法的计算量还较大，需不断计算D及D-1 阵，为减小这些计算量，提出了夏氏改良法。用代替式中的两边同乘T后整理可得：(用 代替 )算法推导：算法推导：而夏氏改良法的算法流程夏氏改良法的算法流程计算残差e e(k)，构造阵计算及改良法中减少了D及D-1的计算，计算量大为减少。计算返回第步进行循环迭代，直至收敛4.4.递推夏氏算法递推夏氏算法则递推公式为：算法特点：算法特点：递推夏氏算法是一种参数增广的递推算法。式中：3.8 增广矩阵法算法特点：算法特点：(1)无偏估计方法；(2)应用广泛，算法收敛性好；(3)系统参数与噪声参数同时辨识；(4)实际算法中常采用递推方法。方法简介：方法简介：将形成滤波器参数扩充到被辨识参数向量中(相当于辨识参数增广)，并采用递推最小二乘法进行估计，称为增广矩阵法。取：算法推导算法推导由于式中的(k)未知，可用估计的代替。即用代替：系统差分方程：为白噪声。式中，宜采用递推算法宜采用递推算法 采用递推原因：采用递推原因：相当于相当于循环迭代功能。式中：初值选为：增广矩阵法的递推算法增广矩阵法的递推算法递推公式组：