基于MATLAB的信息率失真函数计算-11000字-本科毕业论文Word格式.docx

基于MATLAB的信息率失真函数计算-11000字-本科毕业论文Word格式.docx

《基于MATLAB的信息率失真函数计算-11000字-本科毕业论文Word格式.docx》由会员分享，可在线阅读，更多相关《基于MATLAB的信息率失真函数计算-11000字-本科毕业论文Word格式.docx（25页珍藏版）》请在冰豆网上搜索。

离散信源失真率迭代算法MATLAB

MATLAB-basedcalculationofrate-distortionfunction

值得下载

Abstract

Thispapermainlydiscussesandanalysisesthecalculationmethodofrate-distortionfunction,andtosimulatebyusingmathematicssoftwareMATLAB（MatrixLaboratory）.InformationTheoryisanAppliedMathematicswhichusesprobabilitytheoryandmathematicalstatisticsmethodstodostudy.Aspeoplecontinuetodeepentheunderstandinganduseofinformation,informationscienceisappliedinmanyaspects.However,inactualcommunication,distortion-freecommunicationisimpossible,andnotnecessary,therefore,thispaperproceedfromthediscretesourcetodiscusstheinformationtransferprocessandfeatureofthestationarymemorylesssource,andanalysistheMinimuminformationrateofinformationSourcewhenlimitdistortionisthemaximumallowabledistortionD.ItiscomplextocalculatetheinformationratedistortionfunctionR（D）ofgeneraldiscretesource,inthispaper,theiterativealgorithmwithparametersisusedtocalculatetheR（D）,introducesgeneralmethodstocalculatetheR（D）whichusingiterativealgorithmwithparameters.MATLABisamathematicssoftwarewhichappliedinalgorithmdevelopment,datavisualization,dataanalysisandnumericalcalculation,inthispaper,thecalculationofinformationratedistortionfunctionofdiscretesourceisrealizedbyprogramming.

Keywords：

Discretesource Rate-distortion Iterativealgorithm MATLAB

目 录

中文摘要 i

英文摘要 ii

目录 iii

第一章绪论 1

1.1简述信息论 1

1.2信息率失真函数的研究意义 2

1.3信息率失真函数的研究背景 3

第二章简述数学软件MATLAB 4

2.1MATLAB的功能 4

2.2MATLAB的应用 5

第三章离散信源的信息率失真函数 6

3.1离散信源 6

3.2信息率失真函数的定义 7

3.2.1失真度与平均失真 7

3.2.2信息率失真函数R（D）

..........................................8

3.3信息率失真函数的性质 10

3.4信息率失真函数的一般计算方法 11

第4章离散平稳无记忆信源信息率失真函数迭代法 11

4.1信息率失真函数的迭代计算 11

4.2源程序编码 12

4.3示例1 15

4.4示例2 17

第五章总结 20

致谢 21

参考文献 22

1.1简述信息论



第1章 绪论

信息就是一种消息，它与通讯问题密切相关。

1948年贝尔研究所的香农在题为《通讯的数学理论》的论文中系统地提出了关于信息的论述，创立了信息论。

维纳提出的关于度量信息量的数学公式开辟了信息论的广泛应用前景。

1951年美国无线电工程学会承认信息论这门学科，

此后得到迅速发展。

20世纪50年代是信息论向各门学科冲击的时期，60年代信息论不是重大的创新时期，而是一个消化、理解的时期，是在已有的基础上进行重大建设的时期。

研究重点是信息和信源编码问题。

到70年代，由于数字计算机的广泛应用，通讯系统的能力也有很大提高，如何更有效地利用和处理信息，成为日益迫切的问题。

人们越来越认识到信息的重要性，认识到信息可以作为与材料和能源一样的资源而加以充分利用和共享。

信息的概念和方法已广泛渗透到各个科学领域，它迫切要求突破申农信息论的狭隘范围，以便使它能成为人类各种活动中所碰到的信息问题的基础理论，从而推动其他许多新兴学科进一步发展。

目前，人们已把早先建立的有关信息的规律与理论广泛应用于物理学、化学、生物学等学科中去。

一门研究信息的产生、获取、变换、传输、存储、处理、显示、识别和利用的信息科学正在形成[3]。

信息有以下性质：

客观性、广泛性、完整性、专一性。

首先，信息是客观存在的，它不是由意志所决定的，但它与人类思想有着必然联系。

同时，信息又是广泛存在的，四维空间被大量信息子所充斥。

信息的一个重要性质是完整性，每个信息子不能决定任何事件，须有两个或两个以上的信息子规则排布为完整的信息，其释放的能量才足以使确定事件发生。

信息还有专一性，每个信息决定一个确定事件，但相似事件的信息也有相似之处，其原因的解释需要信息子种类与排布密码理论的进一步发现。

信息论是运用概率论与数理统计的方法研究信息、信息熵、通信系统、数据传输、密码学、数据压缩等问题的应用数学学科。

信息论将信息的传递作为一种统计现象来考虑，给出了估算通信信道容量的方法。

信息传输和信息压缩是信息论研究中的两大领域。

这两个方面又由信息传输定理、信源－信道隔离定理相互联系。

香农被称为是“信息论之父”。

人们通常将香农于1948年10月发表于《贝尔系统技术学报》上的论文《AMathematicalTheoryofCommunication》（通信的数学理论）作为现代信息论研究的开端。

信息论被广泛应用在：

编码学、密码学与密码分析学、数据传输、数据压缩、检测理论、估计理论。

信息论是一门用数理统计方法来研究信息的度量、传递和变换规律的科学。

它主要是研究通讯和控制系统中普遍存在着信息传递的共同规律以及研究最佳解决信息的获限、度量、变换、储存和传递等问题的基础理论。

信息论的研究范围极为广阔。

一般把信息论分成三种不同类型[4]：

（1）狭义信息论是一门应用数理统计方法来研究信息处理和信息传递的科学。

它研究存在于通讯和控制系统中普遍存在着的信息传递的共同规律，以及如何提高各信息传输系统的有效性和可靠性的一门通讯理论。

（2）一般信息论主要是研究通讯问题，但还包括噪声理论、信号滤波与预测、调制与信息处理等问题。

（3）广义信息论不仅包括狭义信息论和一般信息论的问题，而且还包括所有与信息有关的领

域，如心理学、语言学、神经心理学、语义学等。

信息科学是人们在对信息的认识与利用不断扩大的过程中，在信息论、电子学、计算机科学、人工智能、系统工程学、自动化技术等多学科基础上发展起来的一门边缘性新学科。

它的任务主要是研究信息的性质，研究机器、生物和人类关于各种信息的获取、变换、传输、处理、利用和控制的一般规律，设计和研制各种信息机器和控制设备，实现操作自动化，以便尽可能地把人脑从自然力的束缚下解放出来，提高人类认识世界和改造世界的能力。

信息科学在安全问题的研究中也有着重要应用。

1.2信息率失真函数的研究意义

在实际的通信中，信息在信道的传输过程中总会受到噪声和干扰的影响，一般是不可能完全保持发送的原样，它或多或少总会产生一些失真。

香农第二定理指出，当信息传输率R大于信道容量C时，传输总要产生失真。

而在实际通信中，信息传输率R总是大大超过信道容量C，因此也就不可能完全无失真地传输信源信息。

此外，随着科学技术的发展，数字系统的应用越来越广泛，这就需要传送、存储和处理大量数据。

为了提高传送和存储的效率，往往需要压缩数据，这样也会带来一定的信息损失。

然而在实际生活中，人们一般并不要求完全无失真恢复信息，通常要求在保证一定质量（一定保证度）的条件下再现原来的消息，也就是说允许失真的存在。

香农无失真可变长信源编码定理告诉我们：

采用无失真最佳信源编码可使得用于每个信源符号的编码位数尽可能地少，但它的极限是原始信源的熵值。

超过了这一极限就不可能实现无失真的译码。

但实际需要传输的信源，其信息传输率往往超过传输信道的信道容量。

例如模拟信号理论上具有无限宽的信号频带与无限高的取值精度，因而具有无限大的信息传输率；

即便是数字信号的传输，由于信道资源或经济因素的限制，也往往出现信道容量不能支持信息传输率的情况，因此传输过程的失真与差错是不可避免的。

另一方面，在实际生活中，人们一般并不要求完全无失真地恢复消息，而只要求在一定保真度的前提下近似地再现原来的消息，也就是允许有一定的失真存在。

例如音频信号的带宽是20～20000Hz，但只要取其中一部分即可保留主要的信息。

在公用电话网中选取音频带宽中的

300～3 400Hz即可使通话者较好地获取主要信息；

在要求有现场感的话音传输中，取50～7

000Hz的频带即可较好地满足要求。

在图像通信中情况也是如此。