信息论与编码教案Word文件下载.docx
《信息论与编码教案Word文件下载.docx》由会员分享,可在线阅读,更多相关《信息论与编码教案Word文件下载.docx(42页珍藏版)》请在冰豆网上搜索。
2
教学章节
第一章
概述
目标要求
要求学生明确本课程的学习目的及要求,初步了解本课程的特点及学习方法,掌握信息的基本概念和特点,了解信息论研究的对象、目的和内容,了解信息论的形成和发展趋势,以及目前信息论与编码的主要研究成果,激发学习信息论与编码的兴趣与热情
重点难点
重点:
本课程的特点及学习方法、信息的基本概念与特点,信息论的主要研究对象、目的和内容
难点:
如何理解信息的概念、信息论及编码技术
教学方式
■课堂讲授 □小组活动 □实验演示 □难点答疑 ■提问
□作业讲评 □实践教学 □考试测验 □其他活动
媒体资源
■文字教材 ■电子教案 □录像材料 □录音材料 □直播课堂
□CAI课件 □IP课件 □其他资源:
课后作业
1、
信息、信号、消息的定义是什么?
三者的关系如何?
板
书
设
计
(或PPT,空白不够可添加附页)
绪论
1.1信息论的形成和发展
1948年以“通信的数学理论”(Amathematicaltheoryofcommunication)为题公开发表,标志着信息论的正式诞生。
1.2通信系统的模型
第 1 次教学活动设计
教学
环节
内容设计与手段
导
入
新
课
本课程的学习目的、课程特点、教学要求及学习方法介绍
讲
授
内
容
信息论与编码课程内容:
消息是指担负着传送信息任务的单个符号或符号序列。
包括文本、数据、语言、图形和图像等。
是具体的。
信号是消息的物理体现,为了在信道上传输消息,就必须把消息加载到具有某种物理特征的信号上去。
是物理的。
信息是消息中的未知成分(不确定性),或者说是消息中的有用成分。
是抽象的。
通信系统传输的是信号,信号是消息的载体,消息中的未知成分是信息。
广义的通信系统模型
归
纳
总
结
归纳总结信息的基本概念和特点、信息论研究的对象及目的和内容,以及信息论的形成和发展趋势
第 2 次课程教学方案
信源与信息熵
2.1基本概念:
信源的描述与分类
要求学生掌握信源的基本概念和特点及信源的描述,掌握离散无记忆信源、离散有记忆信源与马尔可夫信源的特点与描述方法。
信源的分类,离散信源与连续信源,无记忆信源与有记忆信源,马尔可夫信源
有记忆信源,马尔可夫信源
■课堂讲授 □小组活动 □实验演示 □难点答疑 □提问
1、简述有记忆信源和无记忆信源的区别?
第二章
信源与信息熵
2.1
信源的描述与分类
根据符号数量、取值范围对信源进行分类;
对信源采用概率进行描述
2.2.1
无记忆信源
符号之间没有关联。
2.2.2
有记忆信源
2.2.3
马尔可夫信源
使用条件概率描述。
第 2 次教学活动设计
复习上节课的通信系统基本物理模型进行复习,对信源作简单介绍,并提出问题:
什么是信源?
信源可以用数学模型来描述吗?
信源可以进行几种分类?
信源的类型:
信源的定义:
满足
本次课主要对无记忆信源、有记忆信源、马尔可夫信源进行详细讲解,并对其中重难点进行总结概括
第 3 次课程教学方案
3
2.2离散信源熵的基本概念和性质
要求学生掌握自信息量、离散信源熵概念及其求解方法,熟悉并掌握熵的一些基本性质。
自信息量、离散信源熵的概念及其求解方法、熵的性质。
离散信源熵概念及其求解方法、熵的性质。
1、习题2.1、2.2、2.3
2.2离散信源熵的基本概念和性质
2.2.1自信息量
采用概率的负对数来度量
2.2.2离散信源熵
自信息量的平均值
2.2.3熵的性质
最大熵、非负性等
第 3 次教学活动设计
对上次课的重点进行复习,简单介绍本次课的主要内容,并提出问题:
信息可否度量?
信息量如何来量测?
自信息量:
条件自信息量和联合自信息量:
信息熵:
信息熵与自信息量的区别与联系
本次课主要对自信息量、离散信源熵等概念进行强调,最好对其中涉及到的重难点进行总结概括。
第 4 次课程教学方案
4
2.3多符号离散平稳信源熵(序列熵)
要求学生掌握离散序列信源熵的概念与求解方法,掌握离散无记忆信源的序列熵与离散有记忆信源的序列熵的概念、特点与求解方法。
离散序列信源熵的概念与求解方法、离散无记忆信源的序列熵与离散有记忆信源的序列熵的概念、特点与求解方法
离散有记忆信源的序列熵的概念、特点与求解方法
习题2.4、2.5、2.6
2.3多符号离散平稳信源熵
2.3.1多符号离散平稳信源的数学模型
2.3.2离散平稳无记忆信源熵
2.3.3离散平稳有记忆信源
2.3.4马尔可夫信源的极限熵
第 4 次教学活动设计
对上次课的重点进行复习,简单介绍本次课的基本内容,问题的提出:
a.如何描述离散无记忆序列信源的序列熵?
b.如何描述离散有记忆序列信源(平稳序列和齐次遍历马氏信源)的序列熵?
无记忆多符号信源熵:
二维信源的信源熵:
平均符号熵和极限熵:
本次课主要对离散无记忆信源的序列熵、离散有记忆信源的序列熵进行详细讲解,并对其中涉及到的重难点进行总结概括。
第 5 次课程教学方案
5
第三章
无失真离散信源编码
3.1~3.2小节
要求学生了解信源编码的内容,掌握信源编码的定义,掌握无失真信源编码的内容:
定长编码原理、变长编码原理
信源编码的定义、无失真信源编码的内容:
定长编码原理、变长编码原理。
无失真信源编码的内容:
无
第三章无失真离散信源编码
3.1基本概念
编码实质上是对信源的原始符号按一定的数学规则进行的一种变换。
3.2
无失真离散信源编码
3.2.1定长编码原理
3.2.2变长编码原理
第 5 次教学活动设计
怎样才能做到尽可能不失真而又快速的传递信息呢?
首先需要解决一个问题:
在不失真或允许一定失真的条件下,如何用尽可能少的符号来传送信源信息,这就要引入信源编码。
定长编码定理:
变长编码定理:
本次课主要对信源编码的定义,无失真信源编码的内容进行详细介绍,总结其中的重点与难点。
第 6 次课程教学方案
6
3.3~3.5小节
要求学生了解信源编码的内容,掌握信源编码的定义,最佳变长编码以及最佳变长编码的三种编码方法:
香农(Shannon)编码;
费诺(Fano)编码;
哈夫曼(Huffman)编码
最佳变长编码以及最佳变长编码的三种编码方法:
哈夫曼(Huffman)编码。
哈夫曼(Huffman)编码,及其对相同概率的处理。
习题3.1、3.2、3.3、3.4
3.3
shannon编码
3.4fano编码
3.5huffman编码
能获得最佳码的编码方法:
哈夫曼(Huffman)编码
平均码长和编码效率的计算;
第 6 次教学活动设计
大家经常使用的winzip压缩软件的工作原理,不同频率的字符其码字长度不相同。
Shannon编码: