数字信号处理知识点整理ChapterWord格式文档下载.docx
《数字信号处理知识点整理ChapterWord格式文档下载.docx》由会员分享,可在线阅读,更多相关《数字信号处理知识点整理ChapterWord格式文档下载.docx(18页珍藏版)》请在冰豆网上搜索。
工程上常采用牛顿法和最陡下降法搜索最佳值。
用最陡下降法搜索最佳权系数:
其中是调整步长。
该式表示下一个权矢量等于现在的权矢量加上一个正比于负梯度的变化量。
1.最陡下降法递推公式*
两边同时减去最佳权矢量,令为权偏移量:
令可得
2.收敛条件
要使,需满足
是对角矩阵,对角线元素为,既有
3.过渡过程
保证收敛的条件下,越大收敛越快,波动越大;
越小收敛越慢,轨迹越平滑。
在实际应用中,通常取
其中便是滤波器的长度,表示信号的平均功率,一般用所有样本的时间平均代替。
3.2.4最小均方(LMS)算法
上节提到的最陡下降法要求求出均方误差的梯度,这一点很难精确求得,因此采用一条样本曲线对均方误差梯度进行估计,这便是LMS算法。
1.LMS算法的权值计算
均方误差的梯度可用来表示;
作为对均方误差的的估计,用来表示。
,是对均方误差的无偏估计。
递推公式:
2.LMS算法加权矢量的过渡过程
是随机变化的,LMS算法加权矢量是在最陡下降法加权矢量附近随机变化的,其统计平均值等于最陡下降法加权矢量。
3.LMS算法性能函数的过渡过程
4.稳态误差和失调函数
失调系数
3.3自适应格型滤波器
自适应格型滤波器收敛速度快,滤波器节点数易改变,一个节的格型滤波器可以产生相当于从1阶到阶的个横向滤波器输出。
3.3.1前、后向线性预测误差滤波器
1.前向线性预测误差滤波器
用前p个数据预测。
前向线性预测误差滤波器可以由信号的线性一步预测直接导出:
前向预测误差滤波器的系统函数
Yule-walker方程
,式中,。
2.后向线性预测误差滤波器
用后p个数据预测。
预测值
改写上式为
后向预测误差滤波器的系统函数及与前向系统函数的关系:
,式中,。
比较前向和后向Yule-walker方程可知:
3.Levinson-Durbin算法
Levinson-Durbin算法首先由1阶AR模型的系数a1,i开始,通过递推得到p阶滤波器系数ap,i和相应的最小均方误差。
一般递推公式:
其中,称为反射系数。
3.3.2格型滤波器
1.由预测误差滤波器导出格型滤波器
前面已经推导出前、后向预测误差滤波器的形式,对于一个阶的预测误差滤波器,对应的有一组最佳权系数以及相应的最小均方误差。
这些参数可由Levinson-Durbin算法递推出。
根据前、后向误差的定义,可以得到格型滤波器前、后级预测误差之间的关系。
矩阵形式更好记(对称矩阵,前向为n,后向为n-1):
式中p表示滤波器阶数,n-1表示对n的延时,明白这两点可以根据上式画出格型滤波器。
令初始节点为
2.格型滤波器性质
(1)各阶后向预测误差相互正交
(2)平稳随机序列可由自相关函数(Yule-walker)或反射系数(Levinson-Durbin)表征
Yule-walker方程和Levinson-Durbin递推公式解之间的关系
(3)前向预测误差滤波器是最小相位滤波器,后向预测误差滤波器是最大相位滤波器
3.对于复信号的预测误差滤波器和格型滤波器
3.3.3最小均方误差自适应格型滤波器
该方法可以直接通过信号数据求反射系数。
格型滤波器前后参数隔离,后面的参数不影响前面最佳参数的选择。
已知前阶的最佳参数,只需设计第阶的参数使得第阶预测误差功率最小。
设计准则:
使前、后向预测误差功率的和最小的原则求反射系数。
可以推得
实际计算中,用时间平均代替统计平均
一种更有效的算法:
梯度算法。
带入梯度计算结果可得:
式中,,为步长因子。
结合格型滤波器前、后级预测误差之间的关系和初始条件可以逐步推出各阶的反射系数。
3.3.4小结
本节讨论自适应格型滤波器,其基础是前、后向预测误差滤波器。
前、后向预测误差滤波器类似于一步线性预测,理论上可以由Yule-walker方程求得各阶的加权系数和最小均方误差。
由于Yule-walker方程求解过程复杂,故采用Levinson-Durbin递推算法,可根据信号的自相关函数递推反射系数、各阶加权系数和最小预测误差。
预测误差滤波器实际上就是通过自适应调整使得预测误差值最小化,从而得到最佳预测值,本质是求最小预测误差使得最佳。
由前、后向预测误差滤波器引出前、后向预测误差、和反射系数。
由前、后向预测误差的定义可以推得前、后向预测误差之间的递推关系,由此关系可构建格型滤波器。
由于Levinson-Durbin递推算法需要先求出信号的自相关函数,较麻烦,可采用最小均方误差自适应算法设计最小均方误差自适应格型滤波器:
采用前、后向预测误差功率和最小的准则,可以得到直接关于前、后向预测误差的表达式,利用误差初始条件结合各阶前、后向误差之间的关系可以递推。
一种更加有效的算法:
格型滤波器也是为了获得最小预测误差使得最佳,其结构与前后向预测器无直接联系,只是利用前后向预测器的一个结论:
预测误差之间的关系。
3.4最小二乘自适应滤波器
最小二乘定义:
表示误差信号的平方和,为时刻的误差信号。
其中,是时刻的期望信号,为时刻的输入信号构成的向量,表示时刻滤波器的权系数向量。
通过选择,使取之最小的滤波称为最小二乘(LeastSquare)滤波。
3.4.1最小二乘滤波
1.最小二乘的基本问题
约定:
小写表示一个具体数值;
粗体表示一个维的列向量;
大写表示一个维的矩阵;
表示的是时刻,表示的是向量的维数,即信号的长度。
时刻最小二乘估计值
估计误差
引入一些符号:
维列向量
分别为时刻最小二乘滤波器的输入信号和权向量。
分别为个时刻最小二乘滤波器的预测误差和期望输出信号。
维矩阵
为最小二乘滤波器个时刻的输入信号数据矩阵。
令,的矩阵。
求梯度
可以得到的最小二乘估计,
最小二乘正交性原理:
误差向量与最小二乘估计向量正交,与任意输入信号正交。
直观理解:
估计信号为输入信号的线性组合,故与输入信号在同一平面,误差信号正交于输入信号所在平面。
最小均方误差准则下的正交性原理是针对集合平均而言的,最小二乘准则下的正交性原理是针对瞬时时间而言的,两种误差准则下的正交性原理不同。
将最小二乘问题用线性模型描述
其中相当于观测信号,相当于噪声或预测误差,可看作数据矩阵,表征输入与输出之间的关系,是可调整量,即需要优化的参数。
由此可得对的最小二乘估计
2.最小二乘估计的质量
(1)无偏性
(2)一致性
3.4.2递推最小二乘法(RLS)
基本思想:
新的估计值是在老的估计值的基础上修正而成的。
其中,表示第步迭代时的取值,为时刻观测信号的大小。
3.4.3线性向量空间
1.投影和投影矩阵
投影:
维空间中某一点与原点构成的向量在维子空间里面的投影,可以用该向量与一加权矩阵相乘来表示,这个加权矩阵称作投影矩阵或投影算子。
投影矩阵:
表示一个数据矩阵或数据向量,由张成的空间记为,定义
称为在上的投影矩阵或投影算子。
若是一个维矩阵,则是一个的方阵。
若已知一个向量在某子空间上的投影矩阵为,则该向量在的正交子空间的投影矩阵称为正交投影矩阵,记为。
投影矩阵和正交投影矩阵的性质:
1.幂等性,即
2.反身性也称对称性,即
3.正交性
因此任意向量的投影和正交投影都正交。
2.数据向量的扩充及投影矩阵的更新
若数据矩阵张成的空间为,其投影矩阵和正交投影矩阵分别为、。
加入一个新的数据到中之后,产生新矩阵记为,由该矩阵张成的空间为,其投影矩阵和正交投影矩阵分别为、。
显然空间相对于空间而言,维数可能增加了。
可分解为两个正交的子空间和,相应的投影矩阵做正交分解为
由于加入的数据所张成的空间与原空间不一定正交,因此需将正交分解,即分别向和投影,得到两个正交分量分别为和。
显然上的投影分量的加入对无影响,影响仅来自于的正交空间上的投影分量。
子空间上的投影矩阵为
由公式
可得
投影矩阵更新公式
投影向量更新公式
设向量不变,另一个向量由变为,
内积更新公式
3.用向量空间描述最小二乘问题
1.构建数据矩阵
已知一组数据
通过对平移,并在前面添加0,可以构成一系列的向量
由这些向量组成一个数据矩阵
是一个的矩阵,纵向可看成是的一系列平移,横向可看成是每个时刻最小二乘滤波器的个输入数据。
同理可有
其中为的矩阵,为的矩阵。
由定义可知
2.用向量空间描述最小二乘问题
将数据矩阵代入到最小二乘滤波器预测误差表达式
表示成矩阵形式
或
可得最佳权系数
最小二乘估计值
其中,为子空间上的投影矩阵。
由上式可得,最小二乘的估计即寻找期望信号在数据矩阵张成的空间上的投影。
4.抽取参量和角参量
1.抽取参量
定义为,是一个维列向量,表征的是当前数据向量的方向。
对于一个维数据向量,现时分量可以表示为
由张成空间的投影矩阵为
正交投影矩阵
要讨论格型滤波器的递推,首先讨论投影矩阵的更新问题。
设是一个的数据矩阵,取,将做为列向量加入到中,投影矩阵发生变化。
变成一个的矩阵,相应的投影矩阵为,同样是一个的矩阵。
由前面的投影矩阵更新公式得
2.角参量
定义为
3.4.4最小二乘格型算法(LSL)
3.5自适应滤波器的应用
3.5.1自适应对消器
1.对消原理
原始输入信号,参考输入端信号,其中是零均值的平稳随机过程。
其中,为对消器输出,为自适应滤波器输出。
输出信号均方值
由于与不相关,故与不相关。
信号功率一定,要使最小则要求最小。
即要求最小。
换句话说就是要求输出信号和有用信号的均方误差值最小。
结论:
自适应对消原理的必要条件是参考输入信号必须与被抵消信号(一般为噪声)相关,即原始输入信号中只有与参考信号相关的部分才能被抵消。
2.性能分析
自适应对消系统
由图可以看出
输入端信号
参考输入信号
假定与均不相关,所有信号均为实信号,自适应收敛时其稳态解为维纳解,因此自适应滤波器传输函数为
参考输入端功率谱
参考输入端与原始输入端互功率谱
由此可得最佳权系数。
3.应用
消除心电图中的电源干扰
胎儿心电监护
在他人讲话的背景中提取他人讲话
天线阵的自适应旁