刘亚利开题报告.docx
《刘亚利开题报告.docx》由会员分享,可在线阅读,更多相关《刘亚利开题报告.docx(13页珍藏版)》请在冰豆网上搜索。
![刘亚利开题报告.docx](https://file1.bdocx.com/fileroot1/2023-5/23/a8f3b5e0-ef8a-4868-b162-de86d09101da/a8f3b5e0-ef8a-4868-b162-de86d09101da1.gif)
刘亚利开题报告
毕业设计(论文)开题报告
电子信息与电气工程系(院)2009届
基于BP神经网络的图像压缩技术算法的设计
TheDesigningOfImageCompressionTechnologyAlgorithm
BasedOnBack-propagationNetwork
课题类型:
理论研究课题来源:
教师指定
学生姓名:
刘亚利专业班级:
05级电子信息工程一班
指导教师:
李静职称:
讲师
填写日期:
2009年3月23日
一、本课题研究的主要内容、目的和意义
㈠.本文的主要内容包括下面两个内容:
(1)BP网络的收敛速度缓慢,不利于图像压缩的实现。
针对这一问题,采用能够提高网络收敛速度的改进的BP算法应用于图像压缩领域。
经计算机仿真证实:
该改进的算法能够有效的提高BP网络的收敛速度。
(2)三层BP网络的通用性比较差,使得非训练集的图像重建的效果很差。
针对这一问题,提出采用四层网络以提高BP网络的通用性。
经计算机仿真证实:
扩大网络的规模,能够有效的提高非训练集图像的重建质量。
本文所做的其它主要工作包括下面几个内容:
(1)探讨神经网络用于图像压缩编码的机理,对神经网络的图像压缩方法进行分类,主要阐述近年来BP网络用于图像压缩的研究成果;
(2)影响算法收敛速度的因素很多,主要分析了初始权值、学习参数的选择及局部极小问题对算法收敛速度的影响。
提出初始权值的选择方案,以及学习参数选择应注意的问题,分析如何避免算法陷人局部极小;
(3)分析影响BP网络通用性的因素,总结对神经网络通用性问题的研究状况,提出提高BP网络通用性的几个方法。
㈡.本课题所研究的目的和意义
信息化的到来使得人们所面对的各种数据量急剧增加,图像数据压缩技术的研究应用已经成为一项非常迫切和重要的任务。
图像信息数字化使电子信息技术领域面临的最大难题是海量数据的存储和传输问题,而图像数据压缩技术是解决问题的关键。
因此,为了减轻数字图像对存储中介的需求,同时提高计算机的工作效率,对数字图像海量数据的压缩处理及传输成为多媒体技术堕待解决的问题。
由于图像数据往往存在各种信息的冗余,如空间冗余、信息熵冗余、视觉冗余和结构冗余等,因此也可以说,图像压缩就是去掉图像中的各种冗余,保留有用的信息的过程。
通过图像冗余数据的减少可以达到图像压缩的目的,在保证图像质量的条件实现图像压缩。
正是由于图像压缩的必要性和可行性,所以许多致力于减少数据量和降低比特率,同时又尽量保持图像信号原有质量的压缩编码方案应运而生。
同时,人工神经网络(ArtificialNeuralNetwork,ANN)理论的研究再一次成为人工智能领域研究的热点。
人工神经网络由大量简单的神经元模型所组成,以模拟人脑的功能,即联想记忆、推理思维等功能。
它是一个非线性自适应动力系统,也是一个信号与信息处理系统,以求解传统信息处理方法难以解决或者不可能解决的问题。
研究基于人工神经网络的图像压缩理论与方法学术价值和实际应用方面都具有极其重要的意义:
图像压缩技术涉及数学、信息论、信号处理、计算机与通信、模式识别、人工智能等多个学科领域,其中在通信领域的意义尤为突出,图像的信息量大,这使得人们更愿意用接受图像传达的信息,但也使得图像信息的传输和存储更为困难,迫切需要好的图像压缩技术。
神经网络是多学科交叉的产物,其理论基础包括数学、物理学、统计力学、心理学、神经生理学等。
利用数学模型来描述神经网络,并研究优化神经网络的学习规则、算法及收敛性、稳定性等,使它能够成为一种更为广泛的智能应用技术。
研究利用神经网络技术实现图像压缩,可真正体现学科交叉优势,一是可拓宽神经网络应用领域,二是可使图像压缩技术得到更进一步的发展,对推动多媒体领域及通信领域的发展有重大的意义。
二、文献综述(国内外相关研究现况和发展趋向)
(一).BP神经网络的研究概况及发展趋势
1.BP神经网络的研究概况
人工神经网络早期的研究工作应追溯至本世纪40年代。
下面以时间顺序,以著名的人物或某一方面突出的研究成果为线索,简要介绍人工神经网络的发展历史。
1943年,心理学家W·Mcculloch和数理逻辑学家W·Pitts在分析、总结神经元基本特性的基础上首先提出神经元的数学模型。
此模型沿用至今,并且直接影响着这一领域研究的进展。
因而,他们两人可称为人工神经网络研究的先驱。
1945年冯·诺依曼领导的设计小组试制成功存储程序式电子计算机,标志着电子计算机时代的开始。
1948年,他在研究工作中比较了人脑结构与存储程序式计算机的根本区别,提出了以简单神经元构成的再生自动机网络结构。
但是,由于指令存储式计算机技术的发展非常迅速,迫使他放弃了神经网络研究的新途径,继续投身于指令存储式计算机技术的研究,并在此领域作出了巨大贡献。
虽然,冯·诺依曼的名字是与普通计算机联系在一起的,但他也是人工神经网络研究的先驱之一。
50年代末,F·Rosenblatt设计制作了“感知机”,它是一种多层的神经网络。
这项工作首次把人工神经网络的研究从理论探讨付诸工程实践。
当时,世界上许多实验室仿效制作感知机,分别应用于文字识别、声音识别、声纳信号识别以及学习记忆问题的研究。
然而,这次人工神经网络的研究高潮未能持续很久,许多人陆续放弃了这方面的研究工作,这是因为当时数字计算机的发展处于全盛时期,许多人误以为数字计算机可以解决人工智能、模式识别、专家系统等方面的一切问题,使感知机的工作得不到重视;其次,当时的电子技术工艺水平比较落后,主要的元件是电子管或晶体管,利用它们制作的神经网络体积庞大,价格昂贵,要制作在规模上与真实的神经网络相似是完全不可能的;另外,在1968年一本名为《感知机》的著作中指出线性感知机功能是有限的,它不能解决如异感这样的基本问题,而且多层网络还不能找到有效的计算方法,这些论点促使大批研究人员对于人工神经网络的前景失去信心。
60年代末期,人工神经网络的研究进入了低潮。
另外,在60年代初期,Widrow提出了自适应线性元件网络,这是一种连续取值的线性加权求和阈值网络。
后来,在此基础上发展了非线性多层自适应网络。
当时,这些工作虽未标出神经网络的名称,而实际上就是一种人工神经网络模型。
随着人们对感知机兴趣的衰退,神经网络的研究沉寂了相当长的时间。
80年代初期,模拟与数字混合的超大规模集成电路制作技术提高到新的水平,完全付诸实用化,此外,数字计算机的发展在若干应用领域遇到困难。
这一背景预示,向人工神经网络寻求出路的时机已经成熟。
美国的物理学家Hopfield于1982年和1984年在美国科学院院刊上发表了两篇关于人工神经网络研究的论文,引起了巨大的反响。
人们重新认识到神经网络的威力以及付诸应用的现实性。
随即,一大批学者和研究人员围绕着Hopfield提出的方法展开了进一步的工作,形成了80年代中期以来人工神经网络的研究热潮。
此外,M.Arozullah与A.Namphol等人提出了一种对称结构的五层神经网络模型,采用扩展的BP算法作为学习算法,压缩比可达到64:
1。
国内张秀明等人也对五层神经网络模型的图像压缩做了有意义的探讨,并就如何提高网络压缩率和通用性提出了一些新的见解。
王卫等人也提出对称塔形神经网络(SPNN),取得了更好的压缩效果,但这些BP网络和算法均未在压缩比、压缩速度和压缩质量上得到统一。
BP神经网络模型是由Rumelhart和Mcclelland提出的误差反向传(Backprapagation)BP神经网络模型与算法的简称,它采用多层感知器结构,除有输入层与输出层外,还可含一个或多个隐层。
BP学习算法是一种多层前馈网络所使用的监控或学习算法,其基本思想是采用LMS学习算法,使用梯度搜索技术,使网络的实际输出与期望输出之间的均方差最小化。
2.BP神经网络的发展趋势及应用前景
(1)神经网络的应用领域更加广泛
更多新的应用领域层出不穷,例如:
工业生产监督、分类、预报预测、分析,医疗,信息服务,军事方面的目标追踪、飞行控制,当然还包括本文的重点图像压缩,语音识别等等。
(2)神经网络与专家系统相结合已成为重要的发展趋势
两者的结合更好地发挥各自的专长,最简单的办法是神经网络作为系统的前端
即预处理器来处理不完善的数据。
已经有了不少成功应用的例子,有学者就将两者结合组建组建一个图像压缩系统给出了理论分析。
(3)理论研究的进展
理论研究方面最多的是加速训练、收敛性研究,另一个很重要的方面是新的网
络模型研究,并取得可喜人的成绩。
(4)神经网络技术与当前技术的结合
现在神经网络正日益与AI、专家系统、化学、医学相结合,以增加系统的稳定
性、实用性。
此外,新的软件包、神经芯片和新的方法的研究也在不断地深入,
使ANN应用在速度和存储能力方面有很大的改进。
(二).图像压缩研究的现状及发展趋势
1.图像压缩的研究现状
图像压缩的研究始于1948年针对电视图像传输而提出的脉冲编码调制(PCM)原理。
20世纪50和60年代进行的研究限于图像的帧内编码(如预测法)、子抽样/内插复原、图的统计特性和视觉特性等等。
从20世纪60年代末开始,正交变换方法和其它方法被陆续推出,并对图像的帧间编码(即运动图像编码)做了初步探讨。
1969年举行的首届“图像编码会议”表明图像压缩编码己作为一个相对独立的学科出现。
198年,视频压缩标准H.261和静止图像压缩标准JPEG的框架原理基本确定,分形和神经网络在图像压缩编码中取得重要进展。
因此,把1988年以前主要研究的压缩编码方法通常称为“经典方法”或“传统方法”,其后提出的具有重要发展前景的方法称为“现代方法”。
2.图像压缩的发展趋势
目前基于小波变换技术的新的静止图像压缩标准JPEOZo0己经公布,较新的运动图像压缩标准MpEG-4、MpEG一7等。
随着应用要求的提高,传统压缩方法在压缩效率和压缩效果等,面已不能满足图像处理的需要,因此高质量、高效率的智能图像压缩算法成为了国际研究的重点和目标.目前,研究的思路主要有两种:
一是用更高的精度、新的技术来实现已有的压缩算法,二是寻求全新的图像压缩理论、算法和相应的实现技术。
(三)、BP网络在图像压缩方面的研究概况
神经网络研究工作始于19世纪末20世纪初,是源于对物理学、心理学和神经生理学的研究,从20世纪40年代开始,研究人员开始用数学模型来描述神经网络。
神经网络的应用始于50年代后期,在60年代,由于缺乏新思想和用于实验的高性能计算机,研究兴趣发生过动摇;70年代的重要成果主要有Kohonen自组织映射网络;80年代以来,随着高性能计算机的发展,新的概念不断引入,多种具有影响力的模型和算法不断推出。
近年来,逐渐形成了模糊神经网络、小波神经网络、遗传算法优化的神经网络以及微粒群算法优化神经网络等。
目前,神经网络已经广泛应用到图像压缩领域中,通过对神经网络在图像压缩中的应用模型和算法进行总结,可以把应用类型归纳为以下三种:
①使用具有数据压缩特性的神经网络直接实现图像压缩,如用SOFM神经网络作为矢量量化器。
直接进行矢量量化图像压缩:
直接用BP神经网络模型对图像进行压缩等;②神经网络间接应用于压缩,即将神经网络与已有算法相结合,用在己有算法的某个局部阶段,用来实现其中的某些步骤,如用神经网络来实现正交变换编码中的正交变换操作;③用神经网络实现已有图像压缩算法,即把一些先进的算法发展成学习算法并建立神经网络模型,如小波神经网络、分形神经网络及预测神经网络等。
误差反向传播BP神经网络是目前最为常用的一种神经网络模型,它可以直接提供数据压缩能力,最典型的例子是一种三层对称的BP网络,输入层到隐含层为网络的编码器,隐含层到输出层为网络的译码器,通常称这类方法为结构压缩法,这种结构最早是由Ackley和Hinton等人在1985年提出的。
在1987年,Cotreletal.指出可基于小数据块使用三层神经网络来建立完整的压缩/解压缩循环。
N.Sonehara等人在1989年探讨了三层前馈神经网络的通用性与训练图像数目以及迭代次数的关系,还探讨了隐节点输出值的量化和初始权值的选择对重建图像质量的影响。
在1990年,Z.He与H.Li将多层前馈神经网络用于图像的非线性预测编码,随后s.A.Dianat等人进行了类似的研究。
为了进一步提高网络的通用性,改善非训练集图像的重建质量,不少学者提出了改进方案。
1991年,s.Marsi等人提出的一种改进结构的图像压缩算法,他们根据图像块的活性参数,将它们分成六类,每一类送到相应的三层BP网络进行训练,对不同的BP网络,根据图像块的活动特性取不同的隐节点数,采用这样的改进结构后,重建图像的主观质量有了较大的提高。
1993年QQin等人采用固定隐含层节点的多个多层感知器对8*8的图像进行数据压缩,输入的数据为减去块均值后的差值块,不同的多层感知器处理不同边缘模式的图像块,因此神经网络的通用性得到了很大的提高,图像边缘保持能力增强,网络的训练时间缩短。
同年,AJ.Pl提出了一种多路神经网络压缩系统,用隐节点数与输入节点数不同的一个三层神经网络对不同大小的图像块进行数据压缩,减少了网络的训练负担,提高了压缩比,而且改善了重建图像的质量。
此外,M.Aroluzlah与.ANamphol等人提出了一种对称结构的五层神经网络模型,采用扩展的BP算法作为学习算法,压缩比可达到64:
1。
国内的张秀明等人也对五层网络模型的图像压缩做了有意义的探讨,并就如何提高网络的压缩率和通用性提出了一些新的见解.王卫等人也提出一种对称塔形神经网络(SpNN),取得了更好的压缩效果,但这些BP网络和算法均未在压缩比、压缩速度和压缩质量上得到统一。
近几年来,又出现了很多的改进BP算法进行图像压缩,蒋开林、牛晓娟等也在各自的毕业论文中对BP算法的改进提出了自己的看法:
后来刘向阳[l9]的毕业论文中提出了新型的二层、三层BP网络拓扑结构,并推出了新的算法,通过仿真取得了很好的效果。
虽然神经网络在图像压缩方面具有明显的优势,有美好的前景,随着应用要求的提高,传统压缩方法在压缩效率和压缩效果等方面已不能满足图像处理的需要,因此,高质量高效率的智能图像压缩算法称为了国际研究的重点和目标。
三、拟采取的研究方法(方案、技术路线等)和实现的可行性论证
(1).拟采取的研究方法(方案、技术路线等)
1.拟采取的方案的现实背景
目前,图像数据压缩方法繁多,发展也迅速,根据应用目的而制定的图像压缩编码的国际标准相继推出,加之数学、工程技术以及计算机本身体系结构、软硬件性能的深入发展和提高,使得图像编码的理论和技术得到了前所未有的发展和应用。
神经网络的强映射能力和非线性特性,使其在实现图像压缩编码时有着强大的优势,采用BP网络直接进行图像压缩实现起来较其它方法简单易行。
此外,由于BP算法本身需调整的参数相对减少,也降低了计算的复杂度。
2.BP算法的主要思想
在1958年,Acikey和Hinton等提出了利用多层前馈神经网络的模式变换能力实现数据变换(编码)的基本思想,即把一组输入模式通过少量的隐节点映射到一组输出模式,并使输出模式尽可能的等同于输入模式。
当中间的隐含层节点数小于输入层节点数时,就意味着中间隐含层能更有效地表现输入模式,并把这种表现传送到输出层。
在这个过程中,输入层和中间层的变换可以看成是压缩编码的过程;而中间层和输出层的变换可以看成是解码的过程,下图给出了这一思想的简要说明。
用于图像数据压缩的神经网络基本模型
网络的输入层和输出层由相同的神经元数组成,中间隐含层的神经元数比输入层和输出层的神经元数少。
由于BP算法极强的映射能力,我们考虑采用BP算法来实现图像数据压缩的网络模型(简称为BP网络),最简单的BP网络就是由一个输入层、一个隐含层和一个输出层构成。
用多层前馈网络实现图像数据压缩时,网络结构如图2一9所示。
输入层和输出层均含有n*n个神经元。
设用于学习的图像是N*N个像素,训练时从中随机抽取n*n图像块作为训练样本,各个神经元对应于n*n图像分块中的每一像素。
隐含层神经元的数量由图像压缩比决定,如:
n=16时,取隐含层神经元数为脚=8,则可将256像素的图像块压缩为8像素。
通过调整网络中神经元之间的连接权值,使训练集图的重建误差的均方差值达到最小,也就是使重建图像在均方误差意义上尽可能相似于原图像。
训练后的网络就可以用来执行图像数据压缩任务了。
此时,隐含层输出向量便是数据压缩结果,而输出层的输出向量便是图像重建的结果,这时BP网络完成的是自联想学习。
用于图像压缩编码的BP网络模型
BP神经网络用于图像编码的压缩比=输入层节点数/隐含层节点数,从这个意义上说,基于BP网络的图像压缩可以以任意的压缩比进行压缩,因此,隐含层神经元数的多少是根据压缩比的不同所决定的。
隐含层的神经元数目并非越少越好,一般情况下隐含层的神经元数目
时效果较好。
BP算法有两大核心问题,第一是算法的收敛速度缓慢;第二是算法的通用性即推广能力较差。
本章我们将针对这两个固有的缺陷来论述它们的主要影响因素、改进的规则以及具体的改进方法。
针对这两个问题我们对原来的BP算法做了改进:
将三层改为四层的网络;将算法改为由误差梯度符号来判定。
下面将附上算法及其实现的流程图来做简单的说明。
四层网络的训练算法:
:
初始化权值,置所有的权值
为小的随机值或者采用第三章提到的初始权值的选择方法来选一组合适的初始权值用于训练;
:
初始化
,
,
及
、
;
:
选择一个输入模式
及其对应的输出模式
;
:
计算各层神经元的输出,
即
,
计算
,如果达到要求则停止迭代,否则继续;
:
对于所考察的模式
,通过将实际输入与期望的输出相比较,计算输出层的误差:
:
对于
,通过将误差反向传播计算前一层的误差:
直到所有的节点都求出了
;
:
由下式判断误差梯度的符号:
因此有下式:
:
判断连续两次误差是否变号:
:
利用更新规则更新所有的连接权值:
如果
则
如果
则
如果
则
:
对于另一组输入模式,返回第二步重复执行上述各步。
算法实现的流程图如下:
上面的流程图中
?
:
是指初始化
这几个参数;
?
中包含以下的具体程序:
四、预期结果(或预计成果)
1.对于BP神经网络算法、图像压缩、以及BP神经网络算法用于图像压缩的基本原理的理解和掌握;
2.掌握用MATLAB工具箱实现BP神经网络算法和图像压缩;
3.掌握据两个基于BP神经网络算法的评价函数以及BP神经网络算法用于图像压缩;
4.利用MATLAB工具箱进行仿真可以从子块大小和压缩比两方面得到如下结论:
四层前馈神经网络模型及其改进算法,并从实验角度证明该算法不但能够有效的提高学习速度,并且具备一定的推广能力;改进的BP算法能够大幅度的提高算法的敛速度。
五、研究进度安排
2008.2.25—3.10收集材料熟悉设计要求
2008.3.11---4.15初步设计和仿真
2008.4.16---5.10撰写毕业设计文稿
2008.5.11---5.20定稿、打印、装订成册
2008.5.21----5.30准备毕业答辩
六、主要参考文献
1、参考文献目录
[1]罗迅.静态图像有损压缩技术的研究.武汉理工大学硕士学位论文出版社,2003.
[2]黄伟,龚沛曾.图像压缩中的几种编码方法。
计算机应用研究,2003(8):
67-69.
[3]李波,李赣华,王友成等.BP网络局部自适应SA算法的改进实.信号处理2005,21(6):
615-620.
[4]盛立,刘希玉,高明.一种新的全局优化BP网络。
计算机应用研究。
2006:
211-255.
[5]袁曾任.人工神经元网络及其应用.北京:
清华大学出版社,1999.
[6]阎平凡,张长水.人工神经网络与模拟进化计算.北京:
清华大学出版社,2000.
[7]郑建华.图像数据压缩的神经网络方法研究.计算机仿真,2001,18(6):
33-36.
[8]刘向阳.人工神经网络算法改进及图像编码研究.河海大学硕士学位论文,2003.
[9]黄伟贤,王加俊,李家华.数字图像处理与压缩技术.成都:
电子科技大学出版社,2000.
[10]俞璐,吴乐南.分形插值图像压缩的一种快速解码算法.信号处理,2005,21(5):
465-469.
[11]戴彦群.神经网络在图像压缩中的应用研究.成都理工大学硕士学位论文出版社,2004.
[12]周开利,康耀红.神经网络模型及其MATLAB仿真程序设计.北京:
清华大学出版社,2000.
[13]彭喜元,彭宇,戴毓丰.群智能理论及应用.电子学报,2003,31(12A):
1982-1988.
七、审核意见
指导教师对开题的意见:
指导教师签字:
年月日
系(院)审核意见:
审核人签字:
年月日