33曾远电子科学与技术基于径向基神经网络的手写体数字识别.docx

1、33曾远电子科学与技术基于径向基神经网络的手写体数字识别基于径向基函数神经网络的手写体数字识别摘 要：人工神经网络作为生物控制论的一个成果，其触角几乎已经延生到各个工程领域，吸引着不同专业领域的专家从事这方面的研究和开发，并且在这些领域中形成了新的生长点。作为众多神经结构中的一种，径向基函数神经网络 neural network is a kind of three layer forward network, it is composed of input layer, hidden layer and output layer.The advantages of using RBF neu

2、ral network in some aspects such as: information processing, pattern recognition, etc., this is I the main purpose of writing this article.RBF network is to be used for handwritten Numbers of different recognition, first I want to find the right solution to determine the RBF neural network to a few

3、of the most important parameters, namely the function of the input layer, hidden layer and output layer parameter between problems, then will network to training and to find out suitable matching parameters, so that the recognition rate is higher.Keywords: radial basis function (RBF neural network d

4、igit recognition1. 绪论1.1研究背景手写体数字的识别的识别率高低是解决目前大量数据录入工作的关键点，是我们当前急需解决的难点问题。 它在经济贸易、人工智能、医学工程、数据分析、目标识别等领域发挥了重要的作用，在国家经济国防以及社会和谐发展方面发挥了很大作用 。手写数字手写数字识别 是利用计算机的智能化，基于一定的网络来实现对纸张上面数字的识别。目前经济发展迅速，经济发展迅速的同时不断要求我们对数据处理速度加快从而来适应这样的发展。因此，我们就要开发出识别率更加高效的技术来处理股票数目、票据数量。在这种发展之下，手写体数字识别应用领域更加广泛，比如支票发票进货单，入账单等等。

5、这些在平时需要花费大量人力物力的工作在高效的数字识别技术下都可以轻松的被解决。 1）原本工作量极大的工作例如：财会、税务、报表等，在应用数字识别系统之后工作效率得到很大的提高2）阿拉伯数字识别世界通用，任何国家的研究工作这都可以分享别人各自成果，并且都是可利用的。 3）由于数字只有10个，不像英文字母有26个。因而数据的特征提取工作相比较其它识别简单很多。 4）由手写体数字识别进而我们可以研究人脸、指纹、零件的识别。我们只需要转换数据库重新提取特征就能很快的应用在上面的例子。1.2国内外研究现状如何提高手写体数字的识别率是根本问题。想要解决这样的问题，就要对识别过程的每一步进行改进。目前国内外

6、学者针对此问题在数字图像处理、特征提取、训练以及创建新的网络结构上都有了一定的突破 。有以下两点问题： 1）数字的笔画很少区别不是很大，不同的人写出的相同的数字数字差别可能非常大，这就给识别出了个难题。区间内的随机值，将“A”所对应的图象模式输入给网络，网络将输入模式加权求和、与门限比较、再进行非线性运算，得到网络的输出。在此情况下，网络输出为“1”和“0”的概率各为50%，也就是说是完全随机的。这时如果输出为“1”(结果正确，则使连接权值增大，以便使网络再次遇到“A”模式输入时，仍然能作出正确的判断。普通计算机的功能取决于程序中给出的知识和能力。显然，对于智能活动要通过总结编制程序将十分困难

7、。人工神经网络也具有初步的自适应与自组织能力。在学习或训练过程中改变突触权重值，以适应周围环境的要求。同一网络因学习方式及内容不同可具有不同的功能。人工神经网络是一个具有学习能力的系统，可以发展知识，以致超过设计者原有的知识水平。通常，它的学习训练方式可分为两种，一种是有监督或称有导师的学习，这时利用给定的样本标准进行分类或模仿；另一种是无监督学习或称无为导师学习，这时，只规定学习方式或某些规则，则具体的学习内容随系统所处环境 即输入信号情况）而异，系统可以自动发现环境特征和规律性，具有更近似人脑的功能。神经网络就像是一个爱学习的孩子，您教她的知识她是不会忘记而且会学以致用的。我们把学习集Le

8、arning Set）中的每个输入加到神经网络中，并告诉神经网络输出应该是什么分类。在全部学习集都运行完成之后，神经网络就根据这些例子总结出她自己的想法，到底她是怎么归纳的就是一个黑盒了。之后我们就可以把测试集Testing Set）中的测试例子用神经网络来分别作测试，如果测试通过比如80%或90%的正确率），那么神经网络就构建成功了。我们之后就可以用这个神经网络来判断事务的分类了。神经网络是通过对人脑的基本单元神经元的建模和联接，探索模拟人脑神经系统功能的模型，并研制一种具有学习、联想、记忆和模式识别等智能信息处理功能的人工系统。神经网络的一个重要特性是它能够从环境中学习，并把学习的结果分布

9、存储于网络的突触连接中。神经网络的学习是一个过程，在其所处环境的激励下，相继给网络输入一些样本模式，并按照一定的规则学习算法）调整网络各层的权值矩阵，待网络各层权值都收敛到一定值，学习过程结束。然后我们就可以用生成的神经网络来对真实数据做分类。3.RBF神经网络模型 径向基神经网络的神经元结构如图所示。径向基神经网络的激活函数采用径向基函数，同城定义为空间任一点待某一中心之间的欧式距离的单调函数。由图中神经网络的神经元结构可以看出，径向基神经网络的激活函数是输入向量和权值相量之间的距离作为自变量的。径向基神经网络的激活函数一般表达式：随着权值和输入向量之间距离的减少，网络输出是递增的，当输入向

10、量和权值向量一致时，神经元输出1.图中b为域值，用于调整神经元的灵敏度。利用径向基神经元和线性神经元可以建立广义回归神经网络，该中神经网络适用于函数逼近方面的应用；径向基神经元和竞争神经元可以组建概率神经网络，此种神经网络适用于解决分类问题。由输入层、隐含层和输出层构成一般径向基神经网络结构如下图所示。在RBF网络中，输入层仅仅起到传输信号的作用与前面做讲诉的神经网络相比较，输入层和隐含层之间可以看做连接权值为1的连接。输出层和隐含层所完成的任务是不同的，因而它们 的学习策略也是不同的。输出层是对闲心权进行调整，采用的是线性优化策略。因而学习效率比较快。而隐含层是对激活函数的参数进行调整，采用

11、的是非线性优化策略，因而学习速度较慢。尽管RBF网络的输出是隐单元输出的线性加权和，学习速度加快，但病不等于径向基神经网络就可以取代其它前馈网络。这是应为进行基神经网络很可能需要比BP网络多的多的隐含层神经元来完成工作。BP网络使用sigmoid，输出层的传递函数为纯线性函数purelin(。设隐含层神经元数目为S1个，输出层有S2个神经元。神经网络工具箱中用于创建RBF网络的函数为newrbe(,在设计过程中，最重要的参数是径向基函数的分布常数。5.1.1 神经网络创建函数1）newrb）设计一个径向基网络。newrb该函数设计的径向基网络net可用于函数逼近。径向基函数的扩展速度SPREA

12、D越大，函数的拟合就越平滑。但是，过大的SPREAD意味着需要非常多的神经元以适应函数的快速变化。如果SPREAD设定的过小，则意味着需要许多神经元来适应函数的缓慢变化，这样一来，设计的网络性能就不会很好。因此，在网络设计过程中，需要用不同的SPREAD值进行尝试，以确定一个最优值。2）newrbe和newrb,那么扩边后的图像大小Na=1.4Ma*1.4Ma,然后把原来的图像放在这个尺寸的中间。(a处理之前(b处理之后设图像处理前后的像素灰度值分别是:f(,g(。则新图(4-4其中 ,i=0,1,2,wa。j=0,1,2,ha。2.归一化处理1. 当用RBF网络解决非线性映射问题时，可用函数

13、逼近与内插的观点来解释，对于其中存在的不适定问题，可用正则化理论来解决。2. 当用RBF网络解决复杂的模式分类任务时，用模式可分性观点来理解比较方便，其潜在性便是基于COVER关于模式可分的定理。3. 建立在密度估计概念上的核回归估计理论。用插值的方法对输入字符图像进行处理。在一个物理过程的输入与输出之间，客观上存在着一个固定但未知的映射关系，神经网络的学习过程相当于输入-输出映射重建过程，训练的目的是使其能过拟合成一个超曲面。根据该超曲面对输入模式给出相应的输出模式。插值则是对悉数数据点的超曲面重建。f(x,y表示原图点(x,y的像素值。原图的高宽分别是SH、SW目标图像的高宽分别是DH、D

14、W.原图的点慨(Sx,Sy满足(4-5 (4-6目标图的点(Dx,Dy的像素值(4-7进行尺度变换,最终大小为29*29,如图4-8所示。 处理前 处理后图示为图像尺寸变换前后5.3数字识别归一化的输入通过神经网络识别，就可得出识别结果。 将数据库中的任意一个数字输入RBF神经网络分类器中得到输出 ，对比输入数字和输出结果，我们取输出数据中最大的一个与输入进行比较不难发现，该过程是正确的。过程见下图：图4-9识别的显示结果5.4 对实验结果的分析5总结和展望5.1 总结本文主要内容是基于RBF神经网络的手写体数字识别的设计，在matlab环境下针对mnistall数据库所给的数据进行识别。本文

15、的主要过程可以分为数据的预处理、特征提取、数据库的训练与测试 。经过对实验结果的分析，表明了本实验所采用的RBF神经网络针对mnistall数据库中手写体数字的识别率在百分之九十以上，说明此次实验是成功的 。5.2 展望手写体数字识别是整个识别中最基本也是最简单的问题，但是至今识别率不高仍是一个令许多学者头疼的问题。围绕识别率不高的原因依照个人观点具体归纳一下几点：1.对所给单个数字图像的处理有明显的不足；2.无论是基于RBF还是BP又或者是模板匹配，这些网络都具有不可忽视的缺点；3.数据库的不完善，对整个数据训练所花费的时间过长；6.致谢论文的完成也标志着四年大学生涯的结束，这四年里有太多太

16、多让我回忆的东西，而这些都将是我即将进入社会宝贵的财富。在此我首先要感谢我的指导老师马勇，在论文完成的过程中马勇老师牺牲了很多自己本该休息的时间来帮助我，再一次诚心的感谢马勇老师！接着我要感谢我的父母，四年来是父母不断的在背后支持我鼓励我，没有父母的滴滴汗水何来我这四年衣食无忧的大学生活。最后我要感谢四年与我相处的同学朋友以及所有在我完成论文过程中指导我的朋友，没有你们，我不可能顺利的完成这篇论文。在致谢最后我还想感谢一下我的大学，我未来的母校，是您为我提供这么美好的大学！7.参考文献1 刘东泽，蔡建立.基于神经网络的手写体数字识别J.2009,38(11:264-2692丛爽。面向MATLA

17、B工具箱的神经网络理论与应用M.合肥：中国科学技术大学出版社，2000.244-2703 李冬梅，王正欧。基于RBF神经网络的混沌神经序列预测J.模式识别与人工智能，2001,142）：231-2344 王学雷，邵惠鹤，李亚芬。一种径向基函数神经网络在线训练算法及其在非线性控制中的应用J.信息与控制，2001,303）：249-253.5彭淑敏神经网络数字识别技术研究与应用D硕士学位论文西安电子科技大学，20056Rafael C. Gonzalez，Richard EWoods著，阮秋琦，阮字智译数字处理: 305-31610边肇祺，张学工等模式识别M清华大学出版社，198811李金宗模式识

18、别导论M高等教育出版社，19912杨治明人工神经网络及其在数字识别中的应用研究D硕士学位论文重庆大学，200313李长吾，李维，王忠雅基于神经网络的模式识别与信息处理【】大连轻工业学院学报，1999，182）：116-11914王健，靳奉祥，史玉峰模式识别中特征选择与聚类分析【】测绘工程2002，112）：21-2415王炜，吴耿锋，张博锋，王媛径向基函数RBF）神经网络及其应用J地震，2005，252）：19-2516齐峰，谭建荣，张树有基于径向基函数神经网络的特征识别技术研究J计算机辅助设计与图形学学报，2002，146）：562-56517赵清林，郭艳兵，梅强，齐占庆确定神经网络中心点的方法综述J燕山大学广东自动化与信息工程，2002，2：1327