《信息论与编码B》教学大纲.docx
《《信息论与编码B》教学大纲.docx》由会员分享，可在线阅读，更多相关《《信息论与编码B》教学大纲.docx（25页珍藏版）》请在冰豆网上搜索。
《信息论与编码B》教学大纲
《信息论与编码B》理论课教学大纲
一、课程基本信息
课程名称
信息论与编码B
英文名称
InformationTheoryandCodingB
课程代码
XX10047
先修课程
课程性质
专业课程
通信原理，MATLAB编程与通信系统仿真，移动通信原理与应用
修读性质
任选
学时/学分
48（32+16）/2.5（2+0.5）
考核方式
考试
开课学院
信息科学与工程学院
适应专业
通信工程
编制时间
2015.11.20
课程教材与学习资源
参考教材
《信息论与编码》，孙丽华、陈荣伶编，电子工业出版社，2012
教学参考资料
信息论基础教程（第二版），李梅、李亦农，北京邮电大学出版社，2008
信息论与编码，曹雪虹、张宗橙，北京邮电大学出版社，2006
信息理论与编码，姚善化，清华大学出版社，2011
二、课程目标与任务
本课程目的是通过课堂讲授、课外作业和实验等教学环节，使用学生掌握信息论的基本理论知识和编码技术的相关知识。
本课程采用概率论与随机过程等数学方法研究信息的测度、信道容量以及信源与信道编码等理论问题。
本课程的主要任务是，通过对信息论的基本理论和编码技术的学习，使得学生能够从概率论的角度更好地认识信息的重要性，以及信息论与编码技术的相关知识在电子信息、通信等领域中的作用，培养学生利用信息论的相关知识和编码技术思考和解决相关领域的实际问题的能力，为进一步学习通信和信息以及其他相关领域的高新技术奠定良好的理论基础。
三、课程主要内容、要求及学时分配
序号
主要内容
基本要求
学时分配
1
绪论
（1）知识点
Ø通信与信息的基本概念
Ø信息的概念
Ø信息论的创立、信息科学的发展
Ø信息论的研究范畴
（2）重点
Ø信息的概念
Ø信息论的创立、信息科学的发展
Ø信息论的研究范畴
（3）难点
Ø信息的概念
了解通信与信息的基本概念，掌握信息的概念，信息论的创立、信息科学的发展，了解信息论的研究范畴
2
2
信源描述及信息的度量
（1）知识点
Ø信源的数学模型及分类
Ø自信息量与不确定度
Ø离散信源的信息熵、条件自信息量和条件熵
Ø互信息量、条件互信息量、平均互信息量、疑义度和噪声熵
Ø数据处理中的信息变化
Ø离散平稳信源的平均符号熵、熵率、马尔可夫信源熵率
（2）重点
Ø离散信源的信息熵、条件自信息量和条件熵
Ø互信息量、条件互信息量、平均互信息量、疑义度和噪声熵
Ø离散平稳信源的平均符号熵、熵率、马尔可夫信源熵率
（3）难点
Ø互信息量、条件互信息量、平均互信息量、疑义度和噪声熵
Ø离散平稳信源的平均符号熵、熵率、马尔可夫信源熵率
了解信源的数学模型及分类；
理解度量信息的基本思路以及自信息量与不确定度的关系；
掌握离散信源的信息熵、条件自信息量和条件熵的概念，物理含义与计算；
掌握互信息量、条件互信息量、平均互信息量、疑义度和噪声熵的概念，物理含义及计算
理解数据处理中的信息变化，掌握n维随机变量的熵的计算；
掌握离散平稳信源的平均符号熵、熵率等概念，掌握马尔可夫信源熵率的计算。
6
3
离散信源的信源编码
（1）知识点
Ø信源的冗余度及信源符号序列分组定理
Ø信源编码模型及最佳编码
Ø唯一可译码与即时码
Ø等长码的信源编码定理
Ø香农第一定理
Ø香农编码、费诺编码、霍夫曼编码
Ø算术编码方法、游程编码、Lempel-Ziv编码
Ø信源编码的错误扩散
（2）重点
Ø唯一可译码与即时码
Ø等长码的信源编码定理
Ø香农第一定理
Ø香农编码、费诺编码、霍夫曼编码
Ø算术编码方法、游程编码、Lempel-Ziv编码
Ø信源编码的错误扩散
（3）难点
Ø香农第一定理
Ø香农编码、费诺编码、霍夫曼编码
Ø算术编码方法、游程编码、Lempel-Ziv编码
Ø信源编码的错误扩散
理解信源的冗余度及信源符号序列分组定理，掌握信源编码模型及最佳编码的基本概念；
掌握唯一可译码与即时码的基本概念、唯一可译码与即时码存在定理Kraft不等式，理解平均码长界定定理；
理解等长码的信源编码定理；
掌握香农第一定理的含义，理解香农编码、费诺编码，掌握霍夫曼编码，了解算术编码方法、游程编码、Lempel-Ziv编码；
理解信源编码的错误扩散。
4
4
离散信道的信道容量
（1）知识点
Ø信道的分类及数学模型
Ø单符号离散信道的数学模型
Ø单符号离散信道的信道容量
Ø信息传输速率和信道容量
Ø几种特殊离散信道的信道容量
Ø独立并联信道的信道容量
Ø串联信道的信道容量
Ø多符号离散对称信道的信道容量
Ø离散无记忆扩展信道的信道容量
（2）重点
Ø信道的分类及数学模型
Ø信息传输速率和信道容量
Ø几种特殊离散信道的信道容量
Ø独立并联信道的信道容量
Ø串联信道的信道容量
（3）难点
Ø信息传输速率和信道容量
Ø独立并联信道的信道容量
Ø串联信道的信道容量
Ø多符号离散对称信道的信道容量
Ø离散无记忆扩展信道的信道容量
了解信道的分类及数学模型；
掌握单符号离散信道的数学模型及单符号离散信道的信道容量的基本概念，掌握信息传输速率和信道容量、几种特殊离散信道的信道容量、独立并联信道的信道容量、串联信道的信道容量；
理解多符号离散对称信道的信道容量和离散无记忆扩展信道的信道容量。
3
5
有扰离散信道编码定理
（1）知识点
Ø译码准则
Ø费诺不等式
Ø汉明距离
Ø扰离散信道的信道编码定理
（2）重点
Ø汉明距离
Ø扰离散信道的信道编码定理
（3）难点
Ø译码准则
Ø费诺不等式
掌握包括译码准则、费诺不等式、汉明距离等基本理论，掌握有扰离散信道的信道编码定理的相关内容。
1
6
信息率失真理论及其应用
（1）知识点
Ø失真度和平均失真度
Ø信息率失真函数
Ø保真度准则下的信源编码定理
（2）重点
Ø信息率失真函数
（3）难点
Ø信息率失真函数
Ø保真度准则下的信源编码定理
理解失真度和平均失真度的概念；
掌握信息率失真函数的定义、性质；理解保真度准则下的信源编码定理；
2
7
差错控制基础
（1）知识点
Ø差错控制的途径和基本方式
Ø纠错编码的基本概念
Ø纠错编码的检、纠错能力
（2）重点
Ø纠错编码的基本概念
Ø纠错编码的检、纠错能力
（3）难点
Ø纠错编码的基本概念
Ø纠错编码的检、纠错能力
了解差错控制的途径和基本方式，掌握纠错编码的基本概念以及纠错编码的检、纠错能力。
2
8
线性分组码
（1）知识点
Ø线性分组码的基本概念、线性分组码的描述、生成矩阵和校验矩阵及系统码
Ø线性分组码的编译码
Ø线性分组码的纠、检错性能
Ø线性分组码的距离与重量的关系
Ø极大最小距离码（MDC）
Ø伴随式译码
Ø汉明码和格雷码
Ø循环码的定义与描述
Ø循环码的生成矩阵和校验矩阵
Ø循环码的编码、循环码的译码
Ø循环码的缩短与扩展
（2）重点
Ø线性分组码的生成矩阵和校验矩阵
Ø线性分组码的编译码
Ø循环码的生成矩阵和校验矩阵
Ø循环码的编码、循环码的译码
（3）难点
Ø线性分组码的编译码
Ø循环码的编码、循环码的译码
掌握线性分组码的基本概念、线性分组码的描述、生成矩阵和校验矩阵及系统码的概念；
掌握线性分组码的编译码；
掌握线性分组码的纠、检错性能，掌握线性分组码的距离与重量的关系、极大最小距离码（MDC、伴随式译码的性能；
了解汉明码和格雷码；
掌握循环码的定义与描述、循环码的生成矩阵和校验矩阵、循环码的编码、循环码的译码，了解循环码的缩短与扩展。
10
9
卷积码
（1）知识点
Ø卷积码的基本概念
Ø卷积码的编码
Ø卷积码的描述
Ø卷积码的维特比译码方法
（2）重点
Ø卷积码的基本概念
Ø卷积码的编码
Ø卷积码的描述
Ø卷积码的维特比译码方法
（3）难点
Ø卷积码的维特比译码方法
掌握卷积码的基本概念；
掌握卷积码的编码，了解生成矩阵描述、多项式描述、状态图描述、树图描述；
掌握卷积码的维特比译码方法，了解卷积码的特性，包括卷积码的码率、卷积码的距离特性、恶性卷积码及译码的错误扩展。
4
四、主要教学组织形式与方法手段
1．教学组织形式
（1）理论课：
主要以班级授课方式，辅之以分组讨论、课内外结合等形式组织课堂教学。
（2）实验课：
以“个人+小组+班级”方式组织教学：
单个指导、分组讨论及分析讲解，辅之以课内外（课内实验和课外实验）相结合等形式组织实验教学。
2．主要教学方法
（1）理论实践一体化教学方法：
强化课堂理论教学与实验教学的有机结合，通过理论指导实践、通过实践加深对理论的理解，从而使学生将所学知识转化为能力。
（2）“课件+板书+演示”教学方法：
课堂理论教学中，充分发挥各种教学媒介的作用，讲解、分析各种理论知识。
（3）“集体讲述+分组讨论+启发式”教学方法：
在教学过程中，以多种形式充分调动学生学习积极性及主动性，启发学生的思维，培养学生的学习能力。
五、课程考核和成绩评定
平时考核（50%）
考核方式
考勤（含课堂表现）
平时作业
上机实验
所占比例（%）
10%
10%
30%
结业考核（50%）
考核方式
卷面考试（闭卷或开卷）
所占比例（%）
50%
《信息论与编码B》课程实验教学大纲
一、课程基本信息
课程名称
信息论与编码B
英文名称
InformationTheoryandCodingB
课程代码
XX10047
课程性质
专业课程
修读性质
任选
学时学分
16/0.5
开课学院
信息科学与工程学院
开课实验室
软件与通信实验中心
适应专业
通信工程
编制时间
2015.11.20
课程教材与学习资料
参考教材
《信息论与编码》，孙丽华、陈荣伶编，电子工业出版社，2012
教学参考资料
信息论基础教程（第二版），李梅、李亦农，北京邮电大学出版社，2008
信息论与编码，曹雪虹、张宗橙，北京邮电大学出版社，2006
信息理论与编码，姚善化，清华大学出版社，2011
网络学习资源
大纲编制人及责任人信息
姓名
职称
学历学位
课程负责人
李益才
副教授
研究生、硕士
审核负责人
许登元
教授
研究生、博士
审定负责人
杨建喜
教授
研究生、博士
大纲编制人员
李益才、黄大荣、吴仕勋
二、课程目标与任务
《信息论与编码B》实验课是信息论与编码课程的重要组成部分。
学生通过做实验，用理论来解释，分析实验结果，又以实验结果来证明理论，互相印证，以达到巩固理论知识，提高计算机仿真能力之目的。
信息论与编码实验是信息论与编码用教学中的一个重要环节，对于提高学生的综合素质、培养学生的实践能力与创新精神具有极其重要的作用。
通过实验不仅丰富了学生的书本知识，而且增强了学生的实践能力；更重要的是，提高了学生应用实验的手段与方法去分析、研究和解决工程技术问题的能力；提高了学生建立或者修正完善力学模型的能力。
通过实验还可以培养学生对一些通信系统进行建模型和仿真研究能力。
三、实验教学的组织和安排（见附表）
四、教学方法和手段
1.教学方法
采用多种教学方法（如：
小组合作、问题解决、交流与分享、反思、鼓励创新思维、活跃气氛等），设计灵活多样的教学活动，提供多种学习体验，有效调动学生的学习积极性。
2.教
升级会员 