第6章信号参量的估计.doc

第6章信号参量的估计.doc

《第6章信号参量的估计.doc》由会员分享，可在线阅读，更多相关《第6章信号参量的估计.doc（28页珍藏版）》请在冰豆网上搜索。

第6章　信号参量的估计

前面各章讨论了信号检测（狭义）问题。

信号检测要解决的问题，是在信号与噪声的混合中判定信号是否出现或在几种可能出现的信号中究竟出现的是哪一种信号，而未考虑对信号波形或它的某些参量的确定。

但在许多实际问题中，常常需要测定信号的参量或复现信号的波形。

例如，雷达回波信号的时延及频移等参量，代表了目标的距离和径向速度等等，需要测定；在模拟通信、跟踪运动目标轨迹和图象处理等问题中，需要尽可能无失真的恢复信号的波形。

由于噪声的干扰和信号的随机起伏，所以对信号的参量和信号波形只能做出某种最佳意义的估计，因此称之为信号参量的估计和波形的估计。

本章将讨论信号参量的估计，波形估计将在下一章讨论。

§6.1参量估计的模型

一般来说，参量的估计是在已判定有信号存在的基础上进行的，即在完成信号检测的基础上进行的。

这时，接收机输入端的回波为

（6.1-1）

式中：

表示噪声。

在以后的讨论中，若不加说明，则都假定它是相加白高斯噪声。

表示信号。

是用矢量表示的待估计的参量。

，…表示待估计的各个参量，例如是信号的振幅，初相，时延等。

被测的未知参量既可以是随机变量，也可以是未知的确定参量。

不论属于哪一种情况，我们都假定，在观测时间内，它们是不随时间改变的。

参量估计的任务是：

根据对的有限个取样或对的连续观测，对参量做出估计。

类似于信号检测，我们可以对估计问题建立起如下的模型。

图6.1-1估计模型

图中的第一部分是“源”。

我们将待估计的参量想象成是由一个叫做“源”的机构，按照一定的先验概率所产生的，或者，把待估计的参量看成参量空间的一个点。

第二部分是概率传输机构。

它按照一定的概率规则产生观测量。

实际上，它反映了噪声和（或）信号的随机起伏对被估计参量的作用过程。

第三部分是观测空间，观测量的所有可能取值构成了观测空间，是空间中的一个点。

第四部分为估计规则。

估计规则按照一定的最佳准则将空间映射到估计值。

或者说，估计规则将观测空间中的各个点按照一定的方法映射到参量空间的对应点。

不同的估计规则，表示了不同的映射方法。

从以上可见，估计模型的前三部分与检测模型的前三部分类似。

二者的差别主要在第四部分，即最佳接收机的结构。

在这一章里，我们将主要讨论估计规则及其实现。

§6.2Bayes估计

已经指出，参量估计要解决的问题就是在给定的最佳准则下，寻求相应的估计规则并对待估计的信号参量做出估计。

在第二章讨论信号检测问题时曾指出，Bayes准则是具有一般意义的判决准则，其它几种判决准则都可以统一在Bayes准则之下。

对于估计理论，Bayes准则也同样具有一般意义。

因此，在我们讨论最佳估计准则时，首先介绍Bayes估计。

在检测理论中，当考虑最佳判决准则时，首先要给定代价函数（也称损失函数）和先验概率；在估计理论中，也同样要求给定代价函数和先验概率。

我们用表示待估计的参量。

一般来说，矢量表示多个参量，为了书写简便，在以后的讨论中，将用代替，但应注意，一般来说表示矢量，即多个参量。

用表示对参量的估计量。

由于是在对观测量进行加工的基础上得到的，故它是的函数，，以后为了简便，将只写，但对它的含意应清楚。

由于干扰的存在，是对的一个估计值，二者之间必然存在差误差。

用来表示参量估计的误差。

当然，也是的函数，即。

用表示代价函数。

通常都把规定为误差的某种函数。

显然，这是符合实际情况的。

下面举出三种典型的代价函数。

（1）误差的平方 （6.2-1）

（2）误差的绝对值 （6.2-2）

（3）均匀代价 （6.2-3）

误差的平方误差的绝对值均匀代价

图6.2-1三种代价函数

以上三种代价函数如图6.2-1所示。

它们的共同特点是：

1．为非负

2．都是标量函数

在实际应用中，第一种代价函数最为通用，它产生最小均方误差的估计量。

用表示参量的先验概率密度。

给出了代价函数和的先验概率密度以后，便不难得到平均代价或平均风险的表示式

（6.2-4）

上式中，是和的联合概率密度。

是观测矢量的简化表示。

所谓Bayes估计就是以平均风险最小为“最佳”标准的估计准则。

相应的估计规便称之为Bayes估计规则。

下面我们就来求使（6.2-4）中的达到最小的Bayes估计规则。

根据概率的乘法定理，有

将上式代入式（6.2-4），平均风险可表示为

（6.2-5）

将上式中的内积分记为

（6.2-6）

称为条件代价。

寻求Bayes估计，就是求便平均代价达到最小值的估计量。

由于非负，且积分与无关；又由于也是非负的（因和皆非负），因此，使最小等效于使最小，换句话说，当条件代价达到最小值时，必然导致平均代价最小。

于是，求最佳估计也就是求使达到最小值的估计量。

下面，结合上述的三种典型代价函数，可以导出三种具体的估计。

6.2-1最小均方估计

现在，设为单个参量，取值在。

选择代价函数为

（6.2-7）

代入（6.2-6），可得

（6.2-8）

为了求得最佳估计，将上式对求导并令其等于零

或

注意到

得到

（6.2-9）

由于对的二阶导数为正，故当时，达到极小值，因此，是对参量的最小均方估计。

式（6.2-9）中的，就是给定一组观测量下，的条件均值。

因此，最小均方估计又称为条件均值估计。

6.2-2条件中值估计

若选择绝对值代价函数

代入式（6.2-6），平均代价为

（6.2-10）

条件代价是

（6.2-11）

将上式对求导并令其等于零。

得

（6.2-12）

可见，估计值是给定下，的条件中值或条件中位数，故称它为条件中值估计。

由于选择的是绝对值代价函数，故有时也用表示这个估计量

6.2-3最大后验估计

现在，选择均匀代价函数

（6.2-13）

条件风险为

注意到

将（6.2-13）代入的表示式中，可以得到

（6.2-14）

为了使最小，应当使上式等号右边的第二项（积分项）最大，当很小（）时，为了使此积分值最大，应当这样选择估计量，使得当时，最大。

换句话说，与使后验概率密度最大的一致，即

（6.2-15）

因此，也称这种估计为最大后验估计。

可以从下面的方程求解出

（6.2-16）

或 （6.2-17）

称式（6.2-17）为最大后验概率（MAP）方程。

从以上讨论可见，应用Bayes估计，需要给定代价函数和先验分布。

无论选择上述的哪一种代价函数，关键的问题都是要求出后验分布。

6.2-4举例

例一：

考虑在相加噪声中估计一个随机参量的问题。

得到的观测波形为

（6.2-18）

或写成取样形式

（6.2-19）

式中：

表示相加噪声的取样值。

我们假定是具有相同分布的独立高斯变量。

是被估计的随机参量。

假定也是高斯变量，现在，要求根据对的观测，对作出估计。

根据上面的讨论，我们首先来求后验概率密度

（6.2-20）

从给定的条件，不难得到似然函数

（6.2-21）

还可写出

（6.2-22）

从式（6.2-20）可见，只要能计算出，便可得到后验概率密度了。

的计算相当麻烦。

但是，我们注意到，对于求相应于不同值下的来说，只相当于一个常数。

也就是说，的函数形式只取决于和，而与无关。

于是，将式（6.2-21）、（6.2-22）代入式（6.2-20），得到

（6.2-23）

令，并用乘上式，使上述指数项内完全平方，则可求得如下

（6.2-24）

式中表示不包括的所有各项。

从上式看出，后验分布为高斯分布。

而我们知道，高斯分布的峰值、均值、中值都相同。

因此，对于这个例题来说，的最小均方估计，条件中值估计和最大

后验估计二者相等，即

下面，我们来求这个估计量。

最简单的方法是求最大后验估计。

为此，需要求解下面的最大后验方程

（6.2-25）

将式（6.2-24）代入上式，不难得到

（6.2-26）

上式告诉我们，对于观测数据的处理，只包含在求和项内。

估计器的方框图如图6.2-2所示。

例二：

考虑一个二元通信问题。

设相应于两种假设和下的信号分别为+1和-1，要求根据一次观测对信号值做出估计

（6.2-27）

式中：

是相加高斯噪声，设信号的先验分布为

图6.2-2高斯参量的估计器

（6.2-28）

下面，我们先求后验概率密度

（6.2-29）

根据给定的条件，不难写出

（6.2-30）

可以算出为

将，，代入式（6.2-29），可以得到后验概率密度为

（6.2-31）

（1）先求最大后验估计

从上式看出：

一方面，为了使最大，必须选取或。

因为对应于其它的值，皆为0；除此之外，为了使最大，还必须使分析指数项中的

最小，即必须选取最接近。

由此得到最大后验估计为

不难指出，这个结果与二元信号检测的结果一致。

对于二元信号，按最大后验概率准则进行检测时，其似然比与门限分别为

取对数似然比，判决规则为

（6.2-33）

可见，上式与（6.2-32）相一致。

（2）求最小均方估计

为此，求的条件均值

（6.2-34）

将式（6.2-31）给出的后验概率密度代入上式，可得

将与对的关系画成曲线如图6.2-3所示。

可见，二者不相等，且都是非线性估计。

§6.3最大似然估计

应用最大后验估计，必须解方程式（6.2-17）。

利用关系式

图6.2-3

又可将最大后验方程写成如下形式

上式告诉我们，应用最大后验估计，必须已知的先验分布。

当无法提供先验概率密度时，人们往往只用上式等号左边的第一项确定估计量，并把它称为最大似然估计，用表示。

是下列最大似然方程的解

（6.3-2）

当被估计的参量是非随机的未知参量时，我们便不可能它给定义先验概率密度，因而无法应用Bayes估计；当被估计的参量虽为随机参量，但不知道它的先验分布时，人们常常假设它具有均匀分布，即设常数，这就意味着对的分布最无知，这也是最不利的假设。

在以上两种情况下，常常应用最大似然估计。

举例：

我们考虑§6.2中例一的情况，求最大似然估计。

在上一节中，已求出似然函数为

（6.3-3）

解最大似然方程

于是得到

（6.3-4）

可见，是观测量的取样均值。

§6.4