信息论与编码Word文件下载.docx

信息论与编码Word文件下载.docx

《信息论与编码Word文件下载.docx》由会员分享，可在线阅读，更多相关《信息论与编码Word文件下载.docx（20页珍藏版）》请在冰豆网上搜索。

[判断题]

9、可以用克劳夫特不等式作为唯一可译码存在的判据。

对

10、在已知收码R的条件下找出可能性最大的发码作为译码估计值，这种译码方法叫做最佳译码。

11什么是限失真信源编码？

有失真信源编码的中心任务：

在允许的失真范围内把编码的信息率压缩到最小。

12信源编码的主要目的是（）。

提高通信系统的有效性

13设信源X包含4个不同离散消息，当且仅当X中各个消息出现的概率为（）时，信源熵达到最大值，为（），此时各个消息的自信息量为（）。

1/4；

2；

2

14常用的检纠错方法有（）、反馈重发和混合纠错三种。

前向纠错

[单项选择题]

15、二进制通信系统使用符号0和1，由于存在失真，传输时会产生误码，用符号表示下列事件，u0：

一个0发出u1：

一个1发出v0：

一个0收到v1：

一个1收到则已知收到的符号，被告知发出的符号能得到的信息量是（）。

A.H（U/V） 

B.H（V/U） 

C.H（U，V） 

D.H（UV）

A

16、信源X的概率分布为P（X）={1/2，1/3，1/6}，信源Y的概率分布为P（Y）={1/3，1/2，1/6}，则信源X和Y的熵相等。

17、平均互信息量I（X；

Y）对于信源概率分布p（xi）和条件概率分布p（yj/xi）都具有凸函数性。

18、信道容量C是I（X；

Y）关于p（xi）的条件极大值。

19、求解率失真函数的问题，即：

在给定失真度的情况下，求信息率的极小值。

20、离散信源或数字信号的信源编码的理论基础是限失真信源编码定理。

错

21、汉明码是一种线性分组码。

更多内容请访问《睦霖题库》微信公众号

22平均错误概率不仅与信道本身的（）特性有关，还与（）规则和（）方法有关

统计；

译码；

编码

23简述香农第一编码定理的物理意义？

无失真信源编码，编码后尽可能等概率分布，使每个码元平均信息量最大。

从而使信道信息传输率R达到信道容量C，实现信源与信道理想的统计匹配。

24已知一个高斯信道，输入信噪功率比为3dB，频带为3kHz，求最大可能传送的信息率是多少？

若信噪比提高到15dB，求理论上传送同样的信息率所需的频带.

25证明H（X1X2...Xn）≤H（X1）+H（X2）+...+H（Xn）

26有一个二元对称信道，其信道矩阵为

。

设该信源以1500bit/s的速度传输输入符号。

现有一消息序列共有14000个二元符号，并设p（0）=p

（1）=1/2，问从信息传输的角度来考虑，10秒钟内能否将这消息序列无失真地传递完？

信道容量C=1+0.98log20.98+0.02log20.02=0.8586比特/信道符号，则每秒钟可传送的信息量为1500×

0.8586=1287.9比特，10秒钟最大可传送的信息量为12879比特，而待传送的信息量为14000比特，因此，10秒钟内不能无失真的传送完毕。

27计算概率分布函数为

的均匀分布随机变量X的微分熵H（X）。

画出H（X）相对于参数a（0.1〈a〈10）的平面图，并对结果进行评论。

根据得到的结果可以画出相应的平面图，由图可以看到随着a的增加，即p（x）的减小，微分熵H（X）相应的增加。

28求下列各离散信道的容量：

（1）按一般离散信道容量的计算步骤进行

（2）信道为准对称离散信道，当输入端取等概率，即p（a1）=p（a2）=1/2时，达到信道容量，此时信宿端的概率为

29采用13折线A律非均匀量化编码，设最小量化间隔为Δ，已知某采样时刻的信号值x=635Δ。

（1）试求该非均匀量化编码c，并求其量化噪声；

（2）试求对应于该非均匀量化编码的12位均匀量化编码c′。

（1）①635Δ>

0，故极性码为1。

②因为24+5Δ=512Δ≤635Δ≤1024Δ=24+6Δ，所以635Δ在第7个段落，段落码为110；

③由（1024-512）/16=32，所以该段落内每个量化间隔为32Δ，635Δ-512Δ=123Δ最接近32Δ的4倍，所以段内码为0100。

故13折线A律非均匀量化编码为c=11100100。

量化噪声

（2）12位均匀量化编码

30考虑GF

（2）上的下列生成矩阵

求奇偶校验矩阵H。

31对下列每一个集合S，列出扩张码

：

（1）0101+1010=1111，0101+1100=1001

1010+1100=0110，0101+1010+1100=0011

再补上0000及原先3个公共组成

32设多项式

为GF

（2）上分组长度为15的一个循环码的生成多项式。

试求奇偶校验矩阵H。

由于已知分组长度为15，设奇偶校验多项式为h（x），则有：

其中，上式为取模运算。

故，对应的奇偶校验矩阵为：

33设计一个（12，4）系统卷积编码器使其约束长度v=3且d*≥8。

（1）构造该编码器的网格图。

（2）该码的dfree是什么？

（1）由题意可知，n=12，k=4，且约束长度为v=mk0=3

可以得到m=3，k0=1，n0=3

通过这些参量我们可以设计出编码器，如下图所示：

这个编码器每次把1比特输入编码成3比特的输出。

信息帧的长度为k0=1，码字帧的长度为n0=3，分组长度为12，该编码器的约束长度为v=mk0=3，码率为1/3。

编码器的状态图：

（只有四种状态）

卷积编码器输入和输出的比特如下表所示

编码器的网格图为：

34我们想要测试加密技术字符+x的安全性，其中每个明文字符移动x个位置来产生密文。

（1）假设用强力攻击，需要试验多少次才能破译这个码？

（2）假设一个计算机需要1ms来测试一个移位，那么要破译这个码需要多长时间？

（1）每个字符最多需要25次就能破译，若明文有n个字符，则需要试验n25次才能破译这个码。

（2）每个字符最多需要

来破译这个码，若明文有n个字符，则需要测试

才能破译这个码。

35设信源

求此信源的熵，并解释为什么H（X）>

log6，不满足信源熵的极值性。

36设二元对称信道的传递矩阵为

（1）若P（0）=3/4，P

（1）=1/4，求H（X），H（X|Y），H（Y|X）和I（X；

Y）；

（2）求该信道的信道容量及其达到信道容量时的输入概率分布。

37试证明H（X）是输入概率分布P（x）的上凸函数。

38有一信源发出恒定宽度，但不同幅度的脉冲，幅度值处在a1和a2之间，此信源连至某信道，信道接收端接收脉冲的幅度y处在b1和b2之间。

已知随机变量X和Y的联合概率密度函数：

试计算h（X），h（Y），h（XY）和I（X；

Y）。

39在图片传输中，每帧约2.25×

106个像素，为了能很好地重现图像，需分16个亮度电平，并假设亮度电平等概率分布。

试计算每秒钟传送30帧图片所需信道的带宽（信噪功率比为30dB）。

40考虑一个码长为4的二元码，其码字为W1=0000，W2=0011，W3=1100，W4=1111。

假设码字送入一个二元对称信道（其单符号错误概率为p，且p<

0.01），而码字输入是不等概率的，其概率为

试找出一种译码规则使平均错误概率PE最小。

41有一个含有8个消息的无记忆信源，其概率各自为0.2，0.15，0.15，0.1，0.1，0.1，0.1，0.1。

试编成两种三元非延长码，使它们的平均码长相同，但具有不同的码长的方差，并计算平均码长和方差，说明哪一种码更实用些。

42信源冗余度

信源熵的相对率为信源实际的信息熵与同样符号数的最大熵的比值：

η=H无穷/H0，定义信源的冗余度为1减去信源熵的相对率η，即ξ=1-η。

43保真度准则

从平均意义上讲，信道每传送一个符号所引起的平均失真不能超过某一给定的限定值D，即要求D≤D，称这种对于失真的限制条件为保真度准则保真度准则。

44信息的重要性质有哪些？

可靠性、保密性、有效性、认证性

45简述广义的信道编码的分类及各类编码的作用。

1、按照信道特性进行划分，信道编码可以分为：

以纠独立随机差错为主的信道编码、以纠突发差错为主的信道编码、和纠混合差错的信道编码。

2、从功能上看，信道编码可以分为纠错码与检错码两类，纠错码一定能检错，检错吗不一定能纠错，平常所说的纠错码是两者的统称。

46简述二元哈夫曼编码的编码步骤。

1）将q个信源符号按概率递减的方式排列起来；

2）用“0”、“1”码符号分别表示概率最小的两个信源符号，并将这两个概率最小的信源符号合并成一个新的符号，从而得到只包含q-1个符号的新信源，称之为S信源的S1缩减信源；

3）将缩减信源中的符号仍按概率大小以递减次序排列，再将其最后两个概率最小的符号合并成一个符号，并分别用“0”、“1”码符号表示，这样又形成了由q-2个符号构成的缩减信源S2；

4）依次继续下去，直到缩减信源只剩下两个符号为止，将这最后两个符号分别用“0”、“1”码符号表示；

5）从最后一级缩减信源开始，向前返回，沿信源缩减方向的反方向取出所编的码元，得出各信源符号所对应的码符号序列，即为对应信源符号的码字。

47简述费诺编码的编码步骤。

费诺编码的步骤：

1）信源符号以概率递减的次序排列起来；

2）将排列好的信源符号按概率值划分成两大组，使每组的概率之和接近于相等，并对每组各赋予一个二元码符号“0”和“1”；

3）将每一大组的信源符号再分成两组，使划分后的两个组的概率之和接近于相等，再分别赋予一个二元码符号；

4）依次下去，直至每个小组只剩一个信源符号为止

5）信源符号所对应的码字即为费诺码。

48简述多用户信道的分类。

多址接入信道、广播信道和相关信源的多用户信道

49信道的分类方法有哪些？

根据载荷消息的媒体不同（邮递信道、电信道、光信道、声信道）。

根据信息传输的方式（输入和输出信号的形式。

信道的统计特性、信道的用户多少）。

根据信道的用户多少：

两端（单用户）信道、多端（多用户）信道。

根据信道输入端和输出端的关联（无反馈信道、反馈信道）根据信道的参数与时间的关系（固定参数信道、时变参数信道。

根据输入和输出信号的特点（离散信道、连续信道、半离散或半连续信道波形信道）

50简述自信息的性质。

概率为0时，相应的自信量无意义、非负性、可加性

51简述几种信息分类的准则和方法。

狭义信息论、一般信息论、广义信息论

52信息的主要特征有哪些？

信息具有以下特征：

（1）信息是可以识别的

（2）信息的载体是可以转换的

（3）信息是可以存贮的

（4）信息是可以传递的

（5）信息是可以加工的

（6）信息是可以共享的

53信息反馈（IRQ）方式

又称回程校验。

接收端把收到的码全部由反馈信道送到发送端，在发送端将原发送的码进行比较，发现错误后，把出错的码再次重发，直到接收端正确接受为止。

54前向纠错（FEC）

是指差错控制过程中是单向的，无须差错信息的反馈。

55完备码

如果所有禁用码字都包含在某码球内，可以按最大似然译码原则向球心单向译码，这样的码叫如果所有禁用码字都包含在某码球内，可以按最大似然译码原则向球心单向译码，这样的码叫完备码。

56最佳码

对于某一个信源和某一码符号集来说，若有唯一可译码，其平均编码长度小于所有其他唯一可译码的平均编码长度，则该码为对于某一个信源和某一码符号集来说，若有唯一可译码其平均编码长度小于所有其他唯一可译码的平均编码长度，则该码为最佳码（或紧致码）。

57编码效率

用最小平均码字长度Kmin和实际的编码平均长度和实际的编码平均长度K之比来表示

58信源编码

就是针对信源输出符号序列的统计特性，通过概率匹配的编码方法，将出现概率大的信源符号尽可能编为短码，从而使信源输出的符号序列变换为最短的码字序列针对信源输出符号序列的统计特性，通过概率匹配的编码方法，将出现概率大的信源符号尽可能编为短码，从而使信源输出的符号序列变换为最短的码字序列。

59信息率失真函数

在保真度准则下，再现信源消息所必须获得的最少平均信息量；

在保真度准则下，再现信源消息所必须获得的最少平均信息量；

满足保真度准则下，信源可压缩的最小值。

60失真函数d（xi,yj）

是人为规定的，给出规定时应该考虑解决问题的需要以及失真可能引起的损失、风险和主观上感觉的差别等因素。