数学专业外文文献翻译.doc
《数学专业外文文献翻译.doc》由会员分享,可在线阅读,更多相关《数学专业外文文献翻译.doc(19页珍藏版)》请在冰豆网上搜索。
共19页河南理工大学数学与信息科学学院本科毕业资料翻译第19页
第3章最小均方算法
3.1引言
最小均方(,least-mean-square)算法是一种搜索算法,它通过对目标函数进行适当的调整[1]—[2],简化了对梯度向量的计算。
由于其计算简单性,算法和其他与之相关的算法已经广泛应用于白适应滤波的各种应用中[3]-[7]。
为了确定保证稳定性的收敛因子范围,本章考察了算法的收敛特征。
研究表明,算法的收敛速度依赖于输入信号相关矩阵的特征值扩展[2]—[6]。
在本章中,讨论了算法的几个特性,包括在乎稳和非平稳环境下的失调[2]—[9]和跟踪性能[10]-[12]。
本章通过大量仿真举例对分析结果进行了证实。
在附录B的B.1节中,通过对算法中的有限字长效应进行分析,对本章内容做了补充。
算法是自适应滤波理论中应用最广泛的算法,这有多方面的原因。
算法的主要特征包括低计算复杂度、在乎稳环境中的收敛性、其均值无俯地收敛到维纳解以及利用有限精度算法实现时的稳定特性等。
3.2LMS算法
在第2章中,我们利用线性组合器实现自适应滤波器,并导出了其参数的最优解,这对应于多个输入信号的情形。
该解导致在估计参考信号以时的最小均方误差。
最优(维纳)解由下式给出:
其中,且,假设和联合广义平稳过程。
如果可以得到矩阵R和向量p的较好估计,分别记为和,则可以利用如下最陡下降算法搜索式(3.1)的维纳解:
其中,k=0,1,2,…,表示目标函数相对于滤波器系数的梯度向量估计值。
一种可能的解是通过利用R和p的瞬时估计值来估计梯度向量,即
得到的梯度估计值为
注意,如果目标函数用瞬时平方误差而不是MSE代替,则上面的梯度估计值代表了真实梯度向量,因为
由于得到的梯度算法使平方误差的均值最小化.因此它被称为算法,其更新方程为
其中,收敛因子应该在一个范围内取值,以保证收敛性。
图3.1表示了对延迟线输入的LMS算法实现。
典型情况是,算法的每次迭代需要N+2次乘法(用于滤波器系数的更新),而且还需要N+1次乘法(用于产生误差信号)。
算法的详细描述见算法3.1
图3.1自适应RH滤波器
算法3.1LMS算法
Initialization
需要指出的是,初始化并不一定要像在算法3.1小那样将白适应滤波器的系数被创始化为零:
比如,如果知道最优系数的粗略值,则可以利用这些值构成w(0),这样可以减少到达的邻域所需的迭代次数。
3.3LMS算法的一些特性
在本节中,描述丁在平稳环境下与算法收敛特性相关的主要特性。
这里给出的信息对于理解收敛因子对算法的各个收敛方面的影响是很重要的。
3.3.1梯度特性
正如第2章中所指出的(见式(2.79)),在MSE曲面上完成搜索最优系数向量解的理想梯度方向为
在LMS算法中,利用R和p的瞬时估计值确定搜索方向,即
正如所期望的,由式(3.8)所确定的方向与式(3.7)所确定的方向很不同。
因此,当通过利用算法计算更加有效的梯度方向时,收敛特性与最陡下降算法的收敛特性并不相同。
从平均的意义上讲,可以说梯度方向具有接近理想梯度方向的趋势,因为对于固定购系数向量w,有
因此,向量可以解释为的无偏瞬时估计值。
在具有遍历件的环境中,如果对于一个固定的w,利用大量的输入和参考信号来计算向量,则平均方向趋近于,即
3.3.2系数向量的收敛特性
假设一个系数向量为w。
的未知FIR滤波器,被一个具备相同阶数的白适应FIR滤波器利用算法进行辨识。
在未知系统输出令附加了测量白噪声n(k),其均值为零,方差为。
在每一次迭代中,自适应滤波器系数相对于理想系数向量,的误差由N+1维向量描述:
利用这种定义,算法也可以另外描述为
其中,为最优输出误差.它由下式给出:
于是,系数向量中的期望误差为
假设的元素与和的元素统计独立,则式(314)可以简化为
如果我们假设参数的偏差只依赖于以前的输入信号向量,则第一个假设成立,而在第二个假设中,我们也考虑了最优解对应的误差信号与输入信号向量的元素正交。
由上述表达式可得
如果将式(3.15)左乘(其中Q为通过一个相似变换使R对角化的酉矩阵),则可以得到
其中,为旋转系数误差向量。
应用旋转可以得到一个产生对角矩阵的方程,从而更加易于分析方程的动态特性。
另外.上述关系可以表示为
该方程说明.为了保证系数在平均意义上收敛,LMS算法的收敛因子必须在如下范围内选取:
其中,为R的最大持征值。
在该范围内的值保证了当时,式(3.18)中对角矩阵的所有元素趋近于零.这是因为对于=0,l,…,N,有。
因此,对于较大的k值,趋近于零。
按照上述方法选取的值确保了系数向量的平均值接近于员优系数向量比该指出的是,如果矩阵R具有大的特征值扩展,则建议选择远小于上界值。
因此,系数的收敛速度将主要取决于最小特征值,它对应于式(3.18)中的最慢模式。
上述分析中的关键假设是所谓的独立件理论[4],它考虑了当0,1,…,k时,所有向量均为统计独立的情况。
这个假设允许我们考虑在式(3.14)中独立于。
尽管在由延迟线元素组成时,这个假设并不是非常有效,但是由它得到的理论结果与实验结果能够很好地吻合。
3.3.3系数误差向量协方差矩阵
在本节中,我们将推导得出自适应滤波器系数误差的二阶统计量表达式。
由于对于大的值,的平均值为零,因此系数误差向量的协方差的定义为
将式(3.12)代人式(3.20),可以得到
考虑到独立于且正交于,因此上式中右边第二项和第三项可以消除。
可以通过描述被消除的矩阵的每一个元素来说明这种简化的详细过程。
在这种情况下,
另外,假设独立于,则式(3.22)可以重新写为
计算式包括了四阶矩,对于联合高斯输人信号样值,可以采用文献[4],[13]中描述的方法。
通过将算子中的矩阵展开而得到结果。
其结果是
其中,表示的迹。
为了计算采用LMS算法时梯度燥声估计所引起的额外,式(3.23)是必要的。
由于式(3.23)中最后一项为动态矩阵方程提供了激励,因此当时,不会趋近于零。
式(3.23)的更加有用的形式可以通过对其分别左乘和右乘Q来得到,于是有
其中,利用了恒等式根据对于任意B成立的事实,有
其中。
.
正如将要在3.3.6节中证明的,在LMS算法中,只有对角元素对额外有贡献。
如果定义为其元素由的对角元素组成的向量,且为R的特征值组成的向量.则根据上述方程可以导出如下关系:
其中,B的元素为
收敛因于必须在保证收敛朗某个范围内取值。
由于矩阵B是对称的,因此它只具有非负特征值。
另外,由于B的所有元素也是非负值,因此,B的任意行元素之和的最大值代表了B的最大特征值的上界,参见文献[14]第63页。
其结果是,保证收敛的充分条件是迫使B的任意行元素和保持在范围以内。
因为
所以的关键值的选取必须使上式接近于1(因为对于任意,该表达式总是为正)。
这只有在式(3