《信息论与编码理论》王育民李晖梁传甲课后习题答案.docx

《信息论与编码理论》王育民李晖梁传甲课后习题答案.docx

《《信息论与编码理论》王育民李晖梁传甲课后习题答案.docx》由会员分享，可在线阅读，更多相关《《信息论与编码理论》王育民李晖梁传甲课后习题答案.docx（5页珍藏版）》请在冰豆网上搜索。

《信息论与编码理论》王育民李晖梁传甲课后习题答案

信息论与编码理论习题解

第二章-信息量和熵

2.1解:

平均每个符号长为:

秒

每个符号的熵为

比特/符号

所以信息速率为

比特/秒

2.2解:

同步信号均相同不含信息,其余认为等概,

每个码字的信息量为3*2=6比特；

所以信息速率为

比特/秒

2.3解:

（a）一对骰子总点数为7的概率是

所以得到的信息量为

比特

（b）一对骰子总点数为12的概率是

所以得到的信息量为

比特

2.4解:

（a）任一特定排列的概率为

所以给出的信息量为

比特

（b）从中任取13张牌,所给出的点数都不相同的概率为

所以得到的信息量为

比特.

2.5解:

易证每次出现i点的概率为

所以

2.6解:

可能有的排列总数为

没有两棵梧桐树相邻的排列数可如下图求得，

YXYXYXYXYXYXYXY

图中X表示白杨或白桦，它有

种排法，Y表示梧桐树可以栽种的位置，它有

种排法，所以共有

*

=1960种排法保证没有两棵梧桐树相邻，因此若告诉你没有两棵梧桐树相邻时，得到关于树排列的信息为

=3.822比特

2.7解:

X=0表示未录取，X=1表示录取；

Y=0表示本市，Y=1表示外地；

Z=0表示学过英语，Z=1表示未学过英语，由此得

2.8解:

令

，则

2.9&2.12

解:

令X=X1,Y=X1+X2,Z=X1+X2+X3,

H（X1）=H（X2）=H（X3）=

比特

H（X）=H（X1）=

=2.585比特

H（Y）=H（X2+X3）

=

=3.2744比特

H（Z）=H（X1+X2+X3）

=

=3.5993比特

所以

H（Z/Y）=H（X3）=2.585比特