信息论完整版1文档格式.docx
《信息论完整版1文档格式.docx》由会员分享，可在线阅读，更多相关《信息论完整版1文档格式.docx（15页珍藏版）》请在冰豆网上搜索。
13.在通信系统中,纠检错的工作方式有反馈重发纠错、前向纠错、混合纠错等。
14.离散对称信道输入等概率时，输出为（等概）分布。
15.根据码字所含的码元的个数，编码可分为（定长）编码和（变长）编码。
16、
线性循环码中，生成多项式
的最高项次数为n-k，校验多项式
的最高项次数为k，
和
满足h（x）=（x^n-1）/g（x）的关系，若其最小码距
，则能检错的位数为d-1，能纠错的位数为（d-1）/2。
17、若有一离散无记忆平稳信道，其容量为
，输入序列长度为L,只要待信息率
<
，总可以找到一种编码，当
足够长时，译码差错概率
，
为任意大于零的正数。
反之，当
>
时，任何编码的
必大于零，且当
时，
。
18、（7,4）线性分组码中，接受端收到分组R的位数为7，伴随式S可能的值有8_种,差错图案e的长度为7，系统生成矩阵Gs为4行的矩阵，系统校验矩阵Hs为3行的矩阵，Gs和Hs满足的关系式是Gs*Hs^T=[0]。
19、设有一个信道，其信道矩阵为
，则它是对称信道（填对称，准对称），其信道容量是0.85比特/信道符号。
20、在下面空格中选择填入数学符号“
”或“
”
=
≦
21、信源编码的主要目的是提高有效性，信道编码的主要目的是提高可靠性。
22、一个八进制信源的最大熵为3bit。
23、根据是否允许失真，信源编码可分为无失真信源编码和限失真信源编码。
24、一个事件发生概率为0.125，则自信息量为3bit。
二、选择题
1、设有一个离散无记忆信源X，其符号数为n,则有（A）成立。
A、
;
B、
C、
D、以上结论都不对。
2、通信系统的性能指标主要有（A）。
A、有效性可靠性安全性经济性B、有效性可行性安全性保密性
C、保密性可靠性安全性经济性D、高效性可行性安全性经济性
3、信源存在冗余度的主要原因是（C）。
A、信源符号间的相关性B、信源符号分布的不均匀性
C、信源符号间的相关性和分布的不均匀性D、以上都不对
4、下列关于信源编码和信道编码的说法中错误的是（B）
A、信源编码是减少冗余度，信道编码是有意的增加冗余度。
B、信源编码提高了可靠性，降低了有效性。
C、首先对信源进行编码，到信道的输入端再对其进行信道编码。
D、信道编码提高了可靠性，降低了有效性。
5、以下关于平稳离散信源的说法不正确的是（C）。
A、平稳信源发出的符号序列的概率分布与时间起点无关。
B、平均符号熵随着L的增大而减小。
C、对于平稳信源一般情况下，齐次包括平稳，平稳不包括齐次。
D、平稳信源的概率分布特性具有时间推移不变性。
6、关于线性分组码，下列说法正确的是（B）
A、卷积码是线性分组码的一种。
B、最小码距是除全零码外的码的最小重量。
C、具有封闭性，码子的组合未必是码子。
D、不具有封闭性，码子的组合未必是码子。
7、若一离散无记忆信源的符号熵为
对信源符号进行m元变长编码，
一定存在一种无失真编码方法，其码字平均长度
满足（A）。
；
D、
8、有一离散无记忆信源X，其概率空间为
，则
其无记忆二次扩展信源的熵H（X2）=（B）
A、1.75比特/符号；
B、3.5比特/符号；
C、9比特/符号；
D、18比特/符号。
9、信道转移矩阵为
其中
两两不相等，则该信道为（D）
A、一一对应的无噪信道B、具有归并性能的无噪信道
C、对称信道D、具有扩展性能的无噪信道
10、设信道容量为C，下列说法正确的是：
（A）
A、互信息量一定不大于CB、交互熵一定不小于C
C、有效信息量一定不大于CD、条件熵一定不大于C
三、计算题
1、设有离散无记忆信源，其概率分布如下：
对其进行费诺编码，写出编码过程，求出信源熵、平均码长和编码效率。
=
=1.948
2.一个离散无记忆信源
对其进行2进制费诺编码，写出编码过程，求出信源熵、平均码长和编码效率。
（保留两位小数）
3.设有离散无记忆信源，其概率分布如下：
对其进行2进制赫夫曼编码，写出编码过程，求信源熵、平均码长和编码效率。
4.信道输入符号集X={x1,x2}，输出符号集Y={y1,y2,y3,y4}，给定信道转移概率矩阵
，求该信道的信道容量C。
（保留四位小数，单位取为：
比特/符号）
方法一：
方法二：
5、设有一个离散无记忆信道，其信道矩阵
，求信道容量C。
（要求保留四位小数，单位取为：
6.设某信道的传递矩阵为
计算该信道的信道容量，并说明达到信道容量的最佳输入概率分布。
（保留四位小数，单位取为：
当输入概率为
时为最佳输入概率。
四、综合题
1设信源
通过一干扰信道，接收符号为
，信道传递矩阵为
，求
（1）信源
中事件
分别含有的自信息量。
（2）收到消息
后，获得的关于
的信息量。
（3）信源
和信宿
的信息熵。
（4）信道疑义度
和噪声熵
（5）接收到信息
后获得的平均互信息量。
1.
2.
H（xy）=1.685
3.
4.
H（Y|X）=0.715bit/sign
5.I（X;
Y）=H（X）-H（X|Y）=0.971-0.715=0.256bit/sign
2、设信源
，通过某信道，接受符号集为
，信道转移矩阵（
）为
，求：
（要求：
计算结果保留三位小数，单位是：
比特/符号。
）试求：
（1）
（2）求联合熵
、信道疑义度
（3）接收到
后所获得的平均互信息量是多少；
（4）若改变信源的概率分布，则收到
后能获得的最大信息量是多少，并且求出此时信源的概率分布。
1.
H（XY）=
=0.431+0.5+0.3+0.5=1.731bit/sign
H（X|Y）=H（XY）-H（Y）=1.731-0.98=0.751bit/sign
H（Y|X）=H（XY）-H（X）=1.731-0.811=0.92bit/sign
3.I（X;
Y）=H（X）-H（X|Y）=H（Y）-H（Y|X）=0.06bit/sign
max[H（Y）]=
=1bit/sign
3、信道编码
已知n=7的（7，k）循环码
（1）.如信息多项式
，求相应的码多项式。
（2）.求对应的系统形式的生成矩阵
，系统校验矩阵
（3）.计算该码的最小距离，此码能纠几位错？
列出可纠差错图案和对应得伴随式，填入下表中
e
s
0000000
000
0000001
001
0000010
010
0000100
100
0001000
011
0010000
110
0100000
111
1000000
101
（4）.若接收码字为
，试问接收是否有错？
用伴随式法求译码结果
及对应的发送信息M（针对系统码）。
4.设某二元码为C={110001000，100010111，000101111，001011110}
（1）求此码的最小距离dmin；
（2）将此码用于检错最多可以检出多少位错吗？
（3）若用于纠错，最多纠正几位？
（4）若同时用于检错和纠错，能检出几位，纠正几位？
2.
3.
=>
5、信道编码
现有生成矩阵
（1）.求对应的系统校验矩阵Hs。
（2）.求该码字集合的最小码字距离d、最大检错能力
、最大纠错能力tmax。
（3）.填写下面的差错图案e和伴随式s表
（4）.现有接收序列为
，求纠错译码输出
3.如图。
升级会员 