信息论在信息与通信工程领域的应用_精品文档.ppt

信息论在信息与通信工程领域的应用_精品文档.ppt

《信息论在信息与通信工程领域的应用_精品文档.ppt》由会员分享，可在线阅读，更多相关《信息论在信息与通信工程领域的应用_精品文档.ppt（41页珍藏版）》请在冰豆网上搜索。

东南大学移动通信国家重点实验室“信息论与编码信息论与编码”课件课件武汉大学电子信息学院信息论的广泛应用东南大学移动通信国家重点实验室“信息论与编码信息论与编码”课件课件武汉大学电子信息学院信息论在信息论在保密通信保密通信中的应用中的应用多媒体通信中的多媒体通信中的编译码编译码技术技术计算机网络通信中的计算机网络通信中的编译码编译码技术技术信息论在信息论在数字移动通信数字移动通信系统中的应用系统中的应用信息论在信息论在宽带无线接入宽带无线接入系统中的应用系统中的应用信息论在信息论在其他领域其他领域的应用的应用东南大学移动通信国家重点实验室“信息论与编码信息论与编码”课件课件图图14.1加密信道模型加密信道模型信息论在保密通信中的应用信息论在保密通信中的应用东南大学移动通信国家重点实验室“信息论与编码信息论与编码”课件课件代码的实际码率或语言的实际熵定义为长度为代码的实际码率或语言的实际熵定义为长度为N的消息中的消息中每字符包含的平均信息比特数，表示为每字符包含的平均信息比特数，表示为（14.4）其中其中H（X）是消息熵，即最佳编码消息的比特数。

当是消息熵，即最佳编码消息的比特数。

当N很大很大时，据估计，中文的时，据估计，中文的r值不大于值不大于5比特比特/汉字，英文的汉字，英文的r值约值约在在1.0到到1.5比特比特/字符之间。

字符之间。

绝对码率或语言的最大熵定义为假设所有可能字符序列等绝对码率或语言的最大熵定义为假设所有可能字符序列等概情况下，每字符包含的最大信息比特数，用概情况下，每字符包含的最大信息比特数，用r表示：

表示：

r=lbL（14.5）其中其中L是语言包含的字符数。

中文的绝对码率或最大熵约是语言包含的字符数。

中文的绝对码率或最大熵约为为13.9比特比特/汉字，对英文字母，汉字，对英文字母，r=lb26=4.7比特比特/字符。

字符。

信息保密技术的基础知识信息保密技术的基础知识基本度量基本度量东南大学移动通信国家重点实验室“信息论与编码信息论与编码”课件课件代码的冗余度用实际码率和绝对码率来定义：

D=rr（14.6）英语的r=4.7比特/字符，r=1.5比特/字符，D=3.2，比率D/r=68%就是英语冗余度的度量。

中文的冗余度的度量约为80%。

疑义度定义为在给定Y条件下X的条件熵。

条件熵定义为：

（14.7）疑义度可以认为是在收到Y后消息X的不确定度。

密码破译者希望随着截获密文Y的增加，H（X|Y）接近于零。

信息信息保密技术的基础知识保密技术的基础知识基本度量基本度量东南大学移动通信国家重点实验室“信息论与编码信息论与编码”课件课件多媒体多媒体通信中的编译码技术通信中的编译码技术从从应应用用的的角角度度来来看看，多多媒媒体体就就是是文文本本、音音频频、视视频频、图图形形、图图像像、动动画画等等多多种种不不同同形形式式的的信信息表达方式的有机综合。

息表达方式的有机综合。

随随着着应应用用的的增增长长，术术语语“多多媒媒体体”的的内内涵涵也也不不断断扩扩大大，它它不不仅仅指指信信息息本本身身，更更主主要要的的是是指指处处理理和和应应用用它它的的一一系系列列技技术术，包包括括与与多多媒媒体体计计算算机、通信和应用相关的技术。

机、通信和应用相关的技术。

多多媒媒体体应应用用的的根根本本目目的的是是以以自自然然习习惯惯的的方方式式，高高效效安安全全地地接接受受计计算算机机世世界界的的信信息息，这这些些信信息息通过计算机生成的媒体来展现。

通过计算机生成的媒体来展现。

东南大学移动通信国家重点实验室“信息论与编码信息论与编码”课件课件武汉大学电子信息学院多媒体多媒体通信中的编译码技术通信中的编译码技术多媒体多媒体通信简介通信简介数据压缩是多媒体发展的关键技术。

数据压缩是多媒体发展的关键技术。

多多媒媒体体数数据据压压缩缩技技术术的的分分类类有有多多种种方方法法，其其中中按按照照信信号号质质量有无损失可分为有损编码和无损编码。

量有无损失可分为有损编码和无损编码。

无无损损编编码码又又称称为为冗冗余余压压缩缩，主主要要用用于于文文本本数数据据压压缩缩。

算算法法的的基基本本原原理理是是去去除除或或减减小小数数据据中中的的冗冗余余，压压缩缩过过程程中中不不能能破破坏坏数数据据中中包包括括的的信信息息，解解码码后后的的数数据据必必须须与与原原来来的的一一样样。

典典型型的的无无损损压压缩缩算算法法有有Huffman编编码码、费费诺诺-香香农农编编码码、算算术术编码、流程编码、编码、流程编码、Lempel-Zev编码等。

编码等。

有有损损压压缩缩又又称称为为熵熵压压缩缩，适适用用于于图图像像和和声声音音的的压压缩缩。

在在压压缩缩过过程程中中减减小小了了数数据据中中包包含含的的数数据据量量，即即产产生生一一定定的的失失真真，由由此此获获得得较较高高的的压压缩缩比比。

典典型型的的有有损损编编码码算算法法包包括括模模型型编编码码、矢量量化、子带编码、变换编码、小波编码等。

矢量量化、子带编码、变换编码、小波编码等。

东南大学移动通信国家重点实验室“信息论与编码信息论与编码”课件课件图图15.1多媒体数据压缩技术分类多媒体数据压缩技术分类东南大学移动通信国家重点实验室“信息论与编码信息论与编码”课件课件武汉大学电子信息学院多媒体多媒体通信中的编译码技术通信中的编译码技术多媒体多媒体通信简介通信简介与与多多媒媒体体通通信信有有关关的的压压缩缩编编码码的的国国际际标标准准主主要要有有音音频频编编码码标标准准G系系列列、静静态态图图像像压压缩缩编编码码国国际际标标准准JPEG、视视频频图图像像压压缩缩编编码码的的国国际际标标准准H.261和和H.263、运动图像压缩编码的国际标准、运动图像压缩编码的国际标准MPEG系列。

系列。

当当前前多多媒媒体体编编码码技技术术发发展展的的一一个个重重要要方方向向就就是是综综合合现现有有的的编编码码技技术术，制制定定全全球球统统一一标标准准，使使信信息息管管理系统理系统具有互操作性并确保未来的兼容性具有互操作性并确保未来的兼容性。

东南大学移动通信国家重点实验室“信息论与编码信息论与编码”课件课件多多媒媒体体会会议议系系统统是是一一种种将将声声音音、图图像像、文文本本等等多多种种信信息息从从一一处处传传送送到到另另一一个个处处的的通通信信系系统统，关关键键技技术术包包括括：

多多媒媒体体数数据据处处理理技技术术；网网络络技技术术；分分布布处处理理技技术术；以以及支持更多媒体处理的终端技术。

及支持更多媒体处理的终端技术。

典典型型的的多多媒媒体体会会议议系系统统由由终终端端设设备备、通通信信链链路路、多多点点控控制制单单元元（MCU）及及相相应应的的软软件件部部分分组组成成。

终终端端设设备备完完成成数数据据处处理理、多多媒媒体体通通信信协协议议处处理理、音音视视频频信信号号的的接接收收、存存储储与与播播放放，并并记记录录和和检检索索大大量量与与会会议议相相关关的的数数据据与与文文件件；MCU通通常常设设在在网网络络节节点点处处，用用于于处处理理多多个个地地点点同同时时进进行行通通信信部部分分；软软件件包包括括协协议议、会会议议服服务务、音音频频与与视视频频信信号号处处理理等等；通通信信链链路路有有多多种种选选择择，包包括括公公共共电电话话交交换换网网（PSTN）、局局域域网网（LAN）、广广域域网网（WAN）、ISDN、异步传输模式、异步传输模式（ATM）等。

等。

多媒体多媒体通信中的编译码技术通信中的编译码技术多媒体会议系统中的信道编码技术多媒体会议系统中的信道编码技术东南大学移动通信国家重点实验室“信息论与编码信息论与编码”课件课件媒体通信技术是多媒体会议系统的关键技术之一。

图像媒体通信技术是多媒体会议系统的关键技术之一。

图像信息经压缩后，信息的相关度大大降低，因此误码对图信息经压缩后，信息的相关度大大降低，因此误码对图像质量的影响不可忽视。

在视频会议系统中采用像质量的影响不可忽视。

在视频会议系统中采用BCH（511,493）纠错编码，以保证图像信息的可靠传输。

）纠错编码，以保证图像信息的可靠传输。

多媒体会议系统的图像纠错编码原理如图多媒体会议系统的图像纠错编码原理如图15.6所示。

当所示。

当进行纠错编码时，图像数据被划分为进行纠错编码时，图像数据被划分为493比特的数据分组，比特的数据分组，然后送入然后送入BCH纠错编码单元，按照纠错编码单元，按照BCH（511,493）算法）算法算出算出18比特的校验位。

延时单元的作用是补偿比特的校验位。

延时单元的作用是补偿BCH编码编码所用的时间，使经编码输出的校验比特和相应的数据分所用的时间，使经编码输出的校验比特和相应的数据分组刚好对齐，然后两者复合起来送入多路利用单元。

组刚好对齐，然后两者复合起来送入多路利用单元。

在接收端，解码器对图像进行在接收端，解码器对图像进行BCH译码，如果出现随机译码，如果出现随机误码，利用此纠错系统的比特校验位就可以将其纠正。

误码，利用此纠错系统的比特校验位就可以将其纠正。

多媒体多媒体通信中的编译码技术通信中的编译码技术多媒体会议系统中的信道编码技术多媒体会议系统中的信道编码技术东南大学移动通信国家重点实验室“信息论与编码信息论与编码”课件课件多媒体多媒体通信中的编译码技术通信中的编译码技术多媒体会议系统中的信道编码技术多媒体会议系统中的信道编码技术图图15.6多媒体会议系统中的图像纠错编码多媒体会议系统中的图像纠错编码东南大学移动通信国家重点实验室“信息论与编码信息论与编码”课件课件计算机网络通信中的编译码技术计算机网络通信中的编译码技术计算机通信及其网络体系结构概述计算机通信及其网络体系结构概述ISO7498标准定义了网络体系结构的对象的类型、关系和约束，及7层开放系统互连参考模型，如图15.7所示。

图图15.7OSI参考模型中的体系结构参考模型中的体系结构东南大学移动通信国家重点实验室“信息论与编码信息论与编码”课件课件图图15.8TCP/IP模型原理模型原理东南大学移动通信国家重点实验室“信息论与编码信息论与编码”课件课件数数据据链链路路通通过过数数据据链链路路控控制制规规程程，在在不不太太可可靠靠且且有有外外来来干干扰的物理链路上实现可靠的、基本无差错的数据传输扰的物理链路上实现可靠的、基本无差错的数据传输数据链路层的主要功能：

数据链路层的主要功能：

（1）帧同步。

指收方能从收到的比特流中准确地判断出一）帧同步。

指收方能从收到的比特流中准确地判断出一帧的开始和结束。

帧的开始和结束。

（2）寻址。

在多点链接情况下，用于保证每一帧都能送到）寻址。

在多点链接情况下，用于保证每一帧都能送到正确的地址，收方也应当知道数据是从哪一个节点发出的。

正确的地址，收方也应当知道数据是从哪一个节点发出的。

（3）流量控制。

为了保证发方的发送数据速率不超过收方）流量控制。

为了保证发方的发送数据速率不超过收方及时接收和处理的能力，当接收方来不及接收时，就必须及时接收和处理的能力，当接收方来不及接收时，就必须采取措施来控制发方发送数据的速率。

采取措施来控制发方发送数据的速率。

计算机网络通信中的编译码技术计算机网络通信中的编译码技术数据链路控制规程中的差错控制技术数据链路控制规程中的差错控制技术东南大学移动通信国家重点实验室“信息论与编码信息论与编码”课件课件（4）差错控制。

主要有纠错编码和检错编码两种。

纠错）差错控制。

主要有纠错编码和检错编码两种。

纠错编码即前向纠错，由于开销较大，适用于卫星中继的编码即前向纠错，由于开销较大，适用于卫星中继的计算机通信。

检错编码即检错重发，这种方法在计算计算机通信。

检错编码即检错重发，这种方法在计算机通信中最为常用。

机通信中最为常用。

（5）数据和控制信息的识别。

用于区分同一帧中的数据）数据和控制信息的识别。

用于区分同一帧中的数据信息和控制信息。

信息和控制信息。

（6）透明传输。

即保证数据传输的各种比特组合都能够）透明传输。

即保证数据传输的各种比特组合都能够在物理链路上传送。

在物理链路上传送。

（7）链路管理。

即数据链路的建立、维持