信息论与编码习题答案.docx

资源描述

信息论与编码习题答案.docx

《信息论与编码习题答案.docx》由会员分享，可在线阅读，更多相关《信息论与编码习题答案.docx（21页珍藏版）》请在冰豆网上搜索。

信息论与编码习题答案.docx

信息论与编码习题答案

信息论与编码-习题答案

第二章

2.1试问四进制、八进制脉冲所含信息量是二进制脉冲的多少倍？

解：

四进制脉冲可以表示4个不同的消息，例如：

{0,1,2,3}

八进制脉冲可以表示8个不同的消息，例如：

{0,1,2,3,4,5,6,7}

二进制脉冲可以表示2个不同的消息，例如：

{0,1}

假设每个消息的发出都是等概率的，则：

四进制脉冲的平均信息量

八进制脉冲的平均信息量

二进制脉冲的平均信息量

所以：

四进制、八进制脉冲所含信息量分别是二进制脉冲信息量的2倍和3倍。

2.2居住某地区的女孩子有25%是大学生，在女大学生中有75%是身高160厘米以上的，而女孩子中身高160厘米以上的占总数的一半。

假如我们得知“身高160厘米以上的某女孩是大学生”的消息，问获得多少信息量？

解：

设随机变量X代表女孩子学历

x1（是大学生）

x2（不是大学生）

P（X）

0.25

0.75

设随机变量Y代表女孩子身高

解：

（1）此消息总共有14个0、13个1、12个2、6个3，因此此消息发出的概率是：

此消息的信息量是：

（2）此消息中平均每符号携带的信息量是：

2.5从大量统计资料知道，男性中红绿色盲的发病率为7%，女性发病率为0.5%，如果你问一位男士：

“你是否是色盲？

”他的回答可能是“是”，可能是“否”，问这两个回答中各含多少信息量，平均每个回答中含有多少信息量？

如果问一位女士，则答案中含有的平均自信息量是多少？

解：

男士：

女士：

2.6设信源

，求这个信源的熵，并解释为什么H（X）>log6不满足信源熵的极值性。

解：

不满足极值性的原因是

。

2.7证明：

H（X3/X1X2）≤H（X3/X1），并说明当X1,X2,X3是马氏链时等式成立。

证明：

2.8证明：

H（X1X2。

。

Xn）≤H（X1）+H（X2）+…+H（Xn）。

证明：

2.9设有一个信源，它产生0，1序列的信息。

它在任意时间而且不论以前发生过什么符号，均按P（0）=0.4，P

（1）=0.6的概率发出符号。

（1）试问这个信源是否是平稳的？

（2）试计算H（X2）,H（X3/X1X2）及H∞；

（3）试计算H（X4）并写出X4信源中可能有的所有符号。

解：

（1）

这个信源是平稳无记忆信源。

因为有这些词语：

“它在任意时间而且不论以前发生过什么符号……”

（2）

（3）

2.10一阶马尔可夫信源的状态图如下图所示。

信源X的符号集为{0,1,2}。

（1）求平稳后信源的概率分布；

（2）求信源的熵H∞。

解：

（1）

（2）

2.11黑白气象传真图的消息只有黑色和白色两种，即信源X={黑，白}。

设黑色出现的概率为P（黑）=0.3，白色出现的概率为P（白）=0.7。

（1）假设图上黑白消息出现前后没有关联，求熵H（X）；

（2）假设消息前后有关联，其依赖关系为P（白/白）=0.9，P（黑/白）=0.1，P（白/黑）=0.2，P（黑/黑）=0.8，求此一阶马尔可夫信源的熵H2（X）;

（3）分别求上述两种信源的剩余度，比较H（X）和H2（X）的大小，并说明其物理含义。

解：

（1）

（2）

（3）

H（X）>H2（X）

表示的物理含义是：

无记忆信源的不确定度大与有记忆信源的不确定度，有记忆信源的结构化信息较多，能够进行较大程度的压缩。

2.12同时掷出两个正常的骰子，也就是各面呈现的概率都为1/6，求：

（1）“3和5同时出现”这事件的自信息；

（2）“两个1同时出现”这事件的自信息；

（3）两个点数的各种组合（无序）对的熵和平均信息量；

（4）两个点数之和（即2,3,…,12构成的子集）的熵；

（5）两个点数中至少有一个是1的自信息量。

解：

（1）

（2）

（3）

两个点数的排列如下：

共有21种组合：

其中11，22，33，44，55，66的概率是

其他15个组合的概率是

（4）

参考上面的两个点数的排列，可以得出两个点数求和的概率分布如下：

（5）

2.13某一无记忆信源的符号集为{0,1}，已知P（0）=1/4，P

（1）=3/4。

（1）求符号的平均熵；

（2）有100个符号构成的序列，求某一特定序列（例如有m个“0”和（100-m）个“1”）的自信息量的表达式；

（3）计算

（2）中序列的熵。

解：

（1）

（2）

（3）

2.14对某城市进行交通忙闲的调查，并把天气分成晴雨两种状态，气温分成冷暖两个状态，调查结果得联合出现的相对频度如下：

若把这些频度看作概率测度，求：

（1）忙闲的无条件熵；

（2）天气状态和气温状态已知时忙闲的条件熵；

（3）从天气状态和气温状态获得的关于忙闲的信息。

解：

（1）

根据忙闲的频率，得到忙闲的概率分布如下：

（2）

设忙闲为随机变量X，天气状态为随机变量Y，气温状态为随机变量Z

（3）

2.15有两个二元随机变量X和Y，它们的联合概率为

x1=0

x2=1

y1=0

1/8

3/8

y2=1

3/8

1/8

并定义另一随机变量Z=XY（一般乘积），试计算：

（1）H（X）,H（Y）,H（Z）,H（XZ）,H（YZ）和H（XYZ）；

（2）H（X/Y）,H（Y/X）,H（X/Z）,H（Z/X）,H（Y/Z）,H（Z/Y）,H（X/YZ）,H（Y/XZ）和H（Z/XY）；

（3）I（X;Y）,I（X;Z）,I（Y;Z）,I（X;Y/Z）,I（Y;Z/X）和I（X;Z/Y）。

解：

（1）

Z=XY的概率分布如下：

（2）

（3）

2.16有两个随机变量X和Y，其和为Z=X+Y（一般加法），若X和Y相互独立，求证：

H（X）≤H（Z）,H（Y）≤H（Z）。

证明：

同理可得

。

2.17给定声音样值X的概率密度为拉普拉斯分布

，求Hc（X），并证明它小于同样方差的正态变量的连续熵。

解：

2.18连续随机变量X和Y的联合概率密度为：

，求H（X）,H（Y）,H（XYZ）和I（X;Y）。

（提示：

）

解：

2.19每帧电视图像可以认为是由3×105个像素组成的，所有像素均是独立变化，且每像素又取128个不同的亮度电平，并设亮度电平是等概出现，问每帧图像含有多少信息量？

若有一个广播员，在约10000个汉字中选出1000个汉字来口述此电视图像，试问广播员描述此图像所广播的信息量是多少（假设汉字字汇是等概率分布，并彼此无依赖）？

若要恰当的描述此图像，广播员在口述中至少需要多少汉字？

解：

1）

2）

3）

2.20设

是平稳离散有记忆信源，试证明：

。

证明：

2.21设

是N维高斯分布的连续信源，且X1,X2,…,XN的方差分别是

，它们之间的相关系数

。

试证明：

N维高斯分布的连续信源熵

证明：