北京邮电大学信息论期末试卷.pdf
《北京邮电大学信息论期末试卷.pdf》由会员分享，可在线阅读，更多相关《北京邮电大学信息论期末试卷.pdf（6页珍藏版）》请在冰豆网上搜索。
1北京邮电大学20102011学年第一学期北京邮电大学20102011学年第一学期信息论期末考试试题（A卷）标准答案姓名班级学号分数注：
所有答案均写在答题纸上，试卷和答题纸一起上交。
注：
所有答案均写在答题纸上，试卷和答题纸一起上交。
一、判断题（正确打一、判断题（正确打，错误打，错误打）（共10分，每小题1分）（共10分，每小题1分）
（1）输出符号等概率的信源的剩余度为零。
（）
（2）总存在一种有损信源编码，使得当码率RR（D）时，平均失真小于等于D；（）（3）平均互信息I（X;Y）不大于条件平均互信息I（X;Y|Z）；（）（4）差熵为零的连续信源的平均不确定性为零；（）（5）级联信道的容量不大于构成该级联信道的任意一个信道的容量；（）（6）对于有限状态马氏链，无论初始状态概率分布如何，最终总会达到状态的平稳分布；（）（7）两独立随机变量和的熵功率不小于这两个随机变量熵功率的和；（）（8）在信息处理过程中，处理的次数越多得到的信息量也就越大；（）（9）离散信源经过一一对应的变换后熵不变；（）（10）随着信源序列长度的增加，非典型序列的出现的概率趋近于零。
（）二、二、填空题（共20分，每空2分）1.设X的概率密度函数为：
（）,0,0xpxex，则差熵（）hX=log（e/），熵功率为e/（22）；2设X概率密度函数为：
22（）21（）,2xmpxe则（23）hX=（1/2）log（8e2）；若Y为任意满足2（）,（）EYmVarY的连续随机变量，且（）qx为其概率密度函数，则（）log（）qxpxdx=（1/2）log（2e2）；23设一齐次马氏链12,.XX，各iX取值于符号集123a,a,a，状态转移概率矩阵为：
1/21/41/42/301/302/31/3，则状态平稳分布为1=2/5，2=3/10；3=3/10，该马氏链的符号熵为（2/5）H（1/2,1/4,1/4）+（3/5）H（1/3）=1.151比特/符号。
4设试验信道输入与输出符号集均为123,4,，输入概率分别为1/2，1/4，1/8，1/8，失真测度为,1,42d（i,j）=（i-j）ij；则minD0，maxD9/8=1.125。
三、简答题（10分）三、简答题（10分）某并联高斯噪声信道由4个独立子信道组成，子信道方差如右图所示，其中1、2、3、4子信道的方差分别为2、1、4、3；
（1）达到容量时，信道输入应该是何种分布？
各子信道的输入是否统计独立？
（1+1分）并联高斯噪声信道的示意图
（2）信道达到容量时，其输入总能量的分配遵循什么原理？
当这个输入总能量从0逐渐增加时，各子信道被分配到能量的先后顺序如何？
如果输入总能量为6，各子信道被分配到的能量（Ei，i=1,2,3,4）分别为多少？
（2+2+2分）（3）设输入总能量大于0，当信道达到容量时，各子信道的输入信噪比（SNRi，i=1，2，3，4）从大到小的顺序如何？
（即将各子信道的输入信噪比用或符号连接起来）（2分）答答：
（1）达到容量时，信道输入应该是高斯分布，各子信道的输入统计独立；（1+1分）
（2）信道达到容量时，其输入总能量的分配遵循注水原理；（2分）各子信道被分配到能量的先后顺序为：
信道2信道1信道4信道3；（2分）各子信道被分配到能量分别为:
E1=2,E2=3,E3=0,E4=1（2分）（3）各子信道的输入信噪比从大到小的顺序:
SNR2SNR1SNR4SNR3（2分）四、计算题四、计算题（12分）设一个离散无记忆信道的输入、输出符号集均为0,1,2,3，信道的概率转移矩阵为123422212324301230100110020013001P其中，1/31/2。
设输入符号的概率分别为（0）1/2,
（1）1/4pp,
（2）1/8p,（3）1/8p。
求：
最佳译码准则的判决函数和平均译码错误率。
（8+4分）解：
解：
信道输入符号不等概率，最佳译码准则为最大后验概率（MAP）准则，写出信道的联合概率转移矩阵为：
01230
（1）/2/2001/4
（1）/400200
（1）/8/8300/8
（1）/8P（4分）1/31/21/212/31/4
（1）/2和/8
（1）/8；在联合概率转移矩阵每列选择最大的元素，形成最佳判决函数为：
（0）0,
（1）0,
（2）2,（3）3GyGyGyGy，（4分）平均译码错误率：
1
（1）/2/2
（1）/8
（1）/8
（1）/4Ep。
（4分）五、计算题（20分）五、计算题（20分）1设信源模型为010.90.1XP，每秒发出3.5个信源符号，将此信源的输出通过某一个二元一一对应信道传输，且每秒只传送两个符号；
（1）若要求信息无失真传输，信源能否不进行编码而直接与信道相接？
（3分）
（2）能否采用适当的编码方式然后通过信道进行无失真传输？
为什么？
（2+3分）（3）确定一种编码方式并进行编码，使得传输满足不失真要求；同时请说明信源采用这种编码后，编码器输出与信道输入之间应设置何种装置？
（10+2分）解4
（1）信源符号速率3.5大于信道传输速率2，所以信源直接与信道相接，不能保证无失真传输。
（3分）
（2）采用适当的编码方式可以通过信道进行无失真传输。
（2分）（）（0.1）0.1log0.10.9log0.90.469HXH比特/符号信源熵率为（/）（）3.51.6415/HbsHXbs，二元无噪信道容量为（/）2/Cbsbs。
因为（/）（/）HbsCbs，所以根据信源信道编码定理可知，采用适当的编码方式然后通过信道可实现无失真传输。
（3分）（3）将信源的2次扩展源进行Huffman编码，结果为：
2次扩展信源符号概率编码000.810010.0910100.09110110.01111计算每信源符号平均码长为：
（10.190.10）/20.645l，编码器每秒输出符号数为：
3.50.6452.25752,所以传输不满足失真要求。
（5分）将信源的3次扩展源进行Huffman编码，结果为：
3次扩展信源符号概率编码0000.72900010.0811000100.0811011000.0811100110.009111001010.009111011100.009111101110.00111111平均码长0.5327计算每信源符号平均码长为：
0.5327l，编码器每秒输出符号数为：
3.50.53271.86442,所以传输满足不失真要求。
（5分）由于这种编码所得是变长码，因此在编码器与信道之间应设置缓冲器。
（2分）六、计算题（16分）六、计算题（16分）一黑白电视画面由5310个像素组成，其中每个像素独立等概率地选取10个不同的灰度电平。
系统对每幅画面进行独立编码，形成视频信号，再通过一个8010/NWHz的AWGN信道传送，每秒传送30幅画面，信噪比为30dB；5
（1）求每幅画面所含信息量和系统的信息传输速率；（2+1分）
（2）设信道带宽为6MHz，求AWGN信道容量；（3分）（3）求为实现电视信号可靠传输信道所需的最小带宽和对应的信号平均功率；（3+2分）（4）求信息传输速率达到容量时的频谱利用率和对应的0/（）bENdB。
（3+2分）解解信噪比换算：
/1030/1010101000SNRdBSNR
（1）每幅画面所含信息量：
30000052log109.9710Hbit（2分）信息传输速率：
30000023030log1029.90RHMbps（1分）
（2）AWGN信道容量：
622log
（1）610log（11000）59.80CWSNRMbps（3分）（3）根据高斯信道编码定理，有2log
（1）RWSNR6229.9010log（11000）W3WMHz所以，信道所需的最小带宽为3MHz，（3分）设对应的信号平均功率为P，00/（）SNRPNW860010001031030PSNRNWW（2分）（4）所求频谱利用率22/log
（1）log（11000）9.97/RWSNRbpsHz（3分）021/100.4920.02bENdB（2分）七、计算题（12分）七、计算题（12分）一个离散无记忆二元乘性信道输入为X，其中Z独立于X；X、Z取值均为0或1，且
（1）,（01）Zp，信道输出Y=XZ；求6
（1）信道的转移概率矩阵；（6分）
（2）信道容量。
（6分）解解
（1）:
（|）（|）（|）（|）（）Zzzzyxzpyxpyzxpzxpyzxpz|（0|0）（0）
（1）1YXZZppp，（2分）|（0|1）（0）1YXZpp，（2分）|（1|1）
（1）YXZpp；（2分）X-Y信道为Z信道，信道转移概率矩阵为101P，
（2）12010（）1H，（2分）解得，120（）/H（2分）信道容量：
（）/2log（12）HC比特，（2分）或
（1）/log1
（1）C其中，22（）log
（1）log
（1）H注：
如果用其它方法求容量，只要正确就得6分，否则酌情给分。
本试卷主要参考公式：
本试卷主要参考公式：
122（）1e2hXe2.（|）（;）（|）log（）ypyxIxYpyxpy3.21log2krkC
升级会员 