信号与系统习题Word格式文档下载.docx

信号与系统习题Word格式文档下载.docx

《信号与系统习题Word格式文档下载.docx》由会员分享，可在线阅读，更多相关《信号与系统习题Word格式文档下载.docx（21页珍藏版）》请在冰豆网上搜索。

111

0010000

011

0100000

110

1000000

（4）.RHT=[001]接收出错

E=0000001R+E=C=1110010（发码）

2.

已知的联合概率为：

求，，，

解:

bit/symbol

=bit/symbol

3.一阶齐次马尔可夫信源消息集，

状态集，且令，条件转移概率为

，

（1）画出该马氏链的状态转移图；

（2）计算信源的极限熵。

（1）

（2）→

H（X|S1）=H（1/4,1/4,1/2）=比特/符号

H（X|S2）=H（1/3,1/3,1/3）=比特/符号

H（X|S3）=H（2/3,1/3）=比特/符号

比特/符号

4.若有一信源，每秒钟发出个信源符号。

将此信源的输出符号送入某一个二元信道中进行传输

（假设信道是无噪无损的，容量为1bit/二元符号），

而信道每秒钟只传递2个二元符号。

（1）试问信源不通过编码（即x1?

0,x2?

1在信道中传输）

（2）能否直接与信道连接？

（3）若通过适当编码能否在此信道中进行无失真传输？

（4）试构造一种哈夫曼编码（两个符号一起编码），

（5）使该信源可以在此信道中无失真传输。

（1）不能，此时信源符号通过0，1在信道中传输，二元符号/s>

2二元符号/s

（2）从信息率进行比较，*=<

1*2

可以进行无失真传输

（3）二元符号/2个信源符号

此时2*=二元符号/s<

2二元符号/s

5.

两个BSC信道的级联如右图所示：

（1）写出信道转移矩阵；

（2）求这个信道的信道容量。

（1）

6.设随机变量和的联合概率空间为

定义一个新的随机变量（普通乘积）

（1）计算熵H（X），H（Y），H（Z），H（XZ），H（YZ），以及H（XYZ）；

（2）计算条件熵H（X|Y），H（Y|X），H（X|Z），H（Z|X），H（Y|Z），H（Z|Y），H（X|YZ），H（Y|XZ）以及H（Z|XY）；

（3）计算平均互信息量I（X；

Y），I（X：

Z），I（Y：

Z），I（X；

Y|Z），I（Y；

Z|X）以及I（X：

，Z|Y）。

X\Y

1

1/8

3/8

1/2

（2）

X\Z

7/8

Y\Z

（3）

7.设二元对称信道的输入概率分布分别为，转移矩阵为，

（1）求信道的输入熵，输出熵，平均互信息量；

（2）求信道容量和最佳输入分布；

（3）求信道剩余度。

（1）信道的输入熵；

（2）最佳输入分布为，此时信道的容量为

（3）信道的剩余度：

8.，试确定最佳译码规则和极大似然译码规则，并计算出相应的平均差错率。

最佳译码规则：

，平均差错率为1-1/4-1/6-1/8=11/24；

极大似然规则：

，平均差错率为1-1/4-1/8-1/8=1/2。

9.设有一批电阻，按阻值分70%是2kΩ，30%是5kΩ；

按功耗分64%是1/8W，36%是1/4W。

现已知2kΩ电阻中80%是1/8W，假如得知5kΩ电阻的功耗为1/4W，问获得多少信息量。

根据题意有，，

由

所以

得知5kΩ电阻的功耗为1/4W，获得的自信息量为

10.已知6符号离散信源的出现概率为，试计算它的熵、Huffman编码和费诺编码的码字、平均码长及编码效率。

该离散信源的熵为

=bit/符号

11.在图片传输中，每帧约有2☞106个像素，为了能很好地重现图像，每像素能分256个亮度电平，并假设亮度电平等概分布。

试计算每分钟传送两帧图片所需信道的带宽（信噪功率比为30dB）。

每个像素点对应的熵bit/点

2帧图片的信息量

单位时间需要的信道容量

由香农信道容量公式

12.求右图所示的信道的容量及达到信道容量时的输入分布。

由右图可知，该信道的转移概率矩阵为

可以看到，当该信道的输入分布取时，

此时

而，此分布满足。

因此这个信道的容量为

C=lb2=1（bit/符号），而达到信道容量的输入分布可取。

Dmax=，由于具有对称性，每个和式结果都为1/2，因此Dmax=1/2，

13.设离散信源（其中）和接收变量V={v1，v2，v3，v4}，失真矩阵为，求Dmin，Dmax、R（Dmin）、R（Dmax）、达到Dmin和Dmax时的编码器转移概率矩阵P。

由于失真矩阵每行每列都只有一个最小值“0”，所以可以达到Dmin=0，此时对应的信道转移概率矩阵应使得信源的每个输出经过信道转移后失真为0，即选择。

R（Dmin）=R（0）=H（U）=1-p*logp–（1-p）*log（1-p）=1+H（p）。

对应的转移概率矩阵可取任意1列为全1，如，此时R（Dmax）=R（1/2）=0。

14.设有一个二进制一阶马尔可夫信源，其信源符号为X∈（0,1），条件概率为

p（0/0）=p（1/0）=p（1/1）=p（0/1）=

画出状态图并求出各符号稳态概率。

（15分）

15.设输入符号与输出符号为X＝Y∈{0,1,2,3}，且输入符号等概率分布。

设失真函数为汉明失真。

求Dmax和Dmin及R（Dmax）和R（Dmin）（20分）

失真矩阵的每一行都有0，因此Dmin=0

16.设随机变量和的联合概率空间为

计算熵H（X），H（Y），H（Z），H（XZ），H（YZ），以及H（XYZ）；

计算条件熵H（X|Y），H（Y|X），H（X|Z），H（Z|X），H（Y|Z），H（Z|Y），H（X|YZ），H（Y|XZ）以及H（Z|XY）；

计算平均互信息量I（X；

（3）

17.设二元对称信道的输入概率分布分别为，转移矩阵为，

求信道的输入熵，输出熵，平均互信息量；

求信道容量和最佳输入分布；

求信道剩余度。

2）最佳输入分布为，此时信道的容量为

设有ＤＭＣ，其转移矩阵为，若信道输入概率为，试确定最佳译码规则和极大似然译码规则，并计算出相应的平均差错率。

最佳译码规则：

一、概念简答题

1.什么是平均自信息量与平均互信息，比较一下这两个概念的异同？

2.简述最大离散熵定理。

对于一个有m个符号的离散信源，其最大熵是多少？

3.解释信息传输率、信道容量、最佳输入分布的概念，说明平均互信息与信源的概率分布、信道的传递概率间分别是什么关系？

4.对于一个一般的通信系统，试给出其系统模型框图，并结合此图，解释数据处理定理。

5.写出香农公式，并说明其物理意义。

当信道带宽为5000Hz，信噪比为30dB时求信道容量。

6.解释无失真变长信源编码定理。

7.解释有噪信道编码定理。

8.什么是保真度准则？

对二元信源，其失真矩阵，求a>

0时率失真函数的和？

9.简述离散信源和连续信源的最大熵定理。

10.解释等长信源编码定理和无失真变长信源编码定理，说明对于等长码和变长码，最佳码的每符号平均码长最小为多少？

编码效率最高可达多少？

11.解释最小错误概率译码准则，最大似然译码准则和最小距离译码准则，说明三者的关系。

12.设某二元码字C={111000，001011，010110，101110}，

①假设码字等概率分布，计算此码的编码效率？

②采用最小距离译码准则，当接收序列为110110时，应译成什么码字？

13.一平稳二元信源，它在任意时间，不论以前发出过什么符号，都按发出符号，求和平均符号熵

14.分别说明信源的概率分布和信道转移概率对平均互信息的影响，说明平均互信息与信道容量的关系。

15.二元无记忆信源，有求：

（1）某一信源序列由100个二元符号组成，其中有m个“1”，求其自信息量？

（2）求100个符号构成的信源序列的熵。

16.求以下三个信道的信道容量：

，，

17.已知一（3，1，3）卷积码编码器，输入输出关系为：

试给出其编码原理框图。

18.简述信源的符号之间的依赖与信源冗余度的关系。

19.简述香农第一编码定理的物理意义?

20.什么是最小码距,以及它和检错纠错能力之间的关系。

21.简述信息的特征

22.简单介绍哈夫曼编码的步骤

一、概念简答题（每题5分，共40分）

二、1.答：

平均自信息为

表示信源的平均不确定度，也表示平均每个信源消息所提供的信息量。

平均互信息

表示从Y获得的关于每个X的平均信息量，也表示发X前后Y的平均不确定性减少的量，还表示通信前后整个系统不确定性减少的量。

2.答：

最大离散熵定理为：

离散无记忆信源，等概率分布时熵最大。

最大熵值为。

3.答：

信息传输率R指信道中平均每个符号所能传送的信息量。

信道容量是一个信道所能达到的最大信息传输率。

信息传输率达到信道容量时所对应的输入概率分布称为最佳输入概率分布。

　　平均互信息是信源概率分布的∩型凸函数，是信道传递概率的U型凸函数。

4.答：

通信系统模型如下：

数据处理定理为：

串联信道的输入输出X、Y、Z组成一个马尔可夫链，且有，。

说明经数据处理后，一般只会增加信息的损失。

5.答：

香农公式为，它是高斯加性白噪声信道在单位时间内的信道容量，其值取决于信噪比和带宽。

由得，则

6.答：

只要，当N足够长时，一定存在一种无失真编码。

7.答：

当R＜C时，只要码长足够长，一定能找到一种编码方法和译码规则，使译码错误概率无穷小。

8.答：

1）保真度准则为：

平均失真度不大于允许的失真度。

2）因为失真矩阵中每行都有一个0，所以有，而。

9.答：

连续信源，峰值功率受限时，均匀分布的熵最大。

平均功率受限时，高斯分布的熵最大。

均值受限时，指数分布的熵最大。

10.答：

等长信源编码定理：

对于任意，只要，则当L足够长时必可使译码差错。

变长信源编码定理：

只要，一定存在一种无失真编码。

等长码和变长码的最小平均码长均为，编码效率最高可达100%。

11.答：