基于径向基神经网络的手写体数字识别文档格式.docx
《基于径向基神经网络的手写体数字识别文档格式.docx》由会员分享,可在线阅读,更多相关《基于径向基神经网络的手写体数字识别文档格式.docx(11页珍藏版)》请在冰豆网上搜索。
Basedontheradialbasisfunctionneuralnetworkhandwrittendigitrecognition
Artificialneuralnetworkasaresultofbiocybernetics,itstentaclesalmosthavebirthtovariousengineeringfields,appealtodifferentexpertsinthefieldofprofessionalengagedintheresearchanddevelopment,andformedanewgrowingpointintheseareas.Asoneofthemanyneuralstructures,theradialbasisfunction(RBF)neuralnetworkisakindofthreelayerforwardnetwork,itiscomposedofinputlayer,hiddenlayerandoutputlayer.TheadvantagesofusingRBFneuralnetworkinsomeaspectssuchas:
informationprocessing,patternrecognition,etc.,thisisIthemainpurposeofwritingthisarticle.RBFnetworkistobeusedforhandwrittenNumbersofdifferentrecognition,firstIwanttofindtherightsolutiontodeterminetheRBFneuralnetworktoafewofthemostimportantparameters,namelythefunctionoftheinputlayer,hiddenlayerandoutputlayerparameterbetweenproblems,thenwillnetworktotrainingandtofindoutsuitablematchingparameters,sothattherecognitionrateishigher.
Keywords:
radialbasisfunction(RBF)neuralnetworkdigitrecognition
1.绪论
1.1研究背景
手写体数字辨认辨认率高低是解决当前大量数据录入工作核心点,是咱们当前急需解决难点问题。
它在经济贸易、人工智能、医学工程、数据分析、目的记别等领域发挥了重要作用,在国家经济国防以及社会和谐发展方面发挥了很大作用。
手写数字手写数字辨认是运用计算机智能化,基于一定网络来实现对纸张上面数字辨认。
当前经济发展迅速,经济发展迅速同步不断规定咱们对数据解决速度加快从而来适应这样发展。
因而,咱们就要开发出辨认率更加高效技术来解决股票数目、票据数量。
在这种发展之下,手写体数字辨认应用领域更加广泛,例如支票发票进货单,入账单等等。
这些在平时需要耗费大量人力物力工作在高效数字辨认技术下都可以轻松被解决。
(1)原本工作量极大工作例如:
财会、税务、报表等,在应用数字辨认系统之后工作效率得到很大提高
(2)阿拉伯数字辨认世界通用,任何国家研究工作这都可以分享别人各自成果,并且都是可运用。
(3)由于数字只有10个,不像英文字母有26个。
因而数据特性提取工作相比较其他辨认简朴诸多。
(4)由手写体数字辨认进而咱们可以研究人脸、指纹、零件辨认。
咱们只需要转换数据库重新提取特性就能不久应用在上面例子。
1.2国内外研究现状
如何提高手写体数字辨认率是主线问题。
想要解决这样问题,就要对辨认过程每一步进行改进。
当前国内外学者针对此问题在数字图像解决、特性提取、训练以及创立新网络构造上均有了一定突破。
有如下两点问题:
(1)数字笔画很少区别不是很大,不同人写出相似数字数字差别也许非常大,这就给辨认出了个难题。
(2)虽然数字全球通用但是不同国家通过历史不断发展,形成了自有数字写法,根深蒂固,这就需要强大数据库来收集整合。
1.3本文研究办法
本文采用RBF神经网络来对mnistall数据库中数据进行辨认。
辨认过程可以分为数字预解决、特性提取、建立网络分类器、训练和检测,以及对成果分析。
2.神经网络
多少年以来,人们从医学、生物学、生理学、哲学、信息学、计算机科学、认知学、组织协同窗等各个角度企图结识并解答上述问题。
在寻找上述问题答案研究过程中,逐渐形成了一种新兴多学科交叉技术领域,称之为“神经网络”。
神经网络研究涉及众多学科领域,这些领域互相结合、互相渗入并互相推动。
不同领域科学家又从各自学科兴趣与特色出发,提出不同问题,从不同角度进行研究。
人工神经网络一方面要以一定学习准则进行学习,然后才干工作。
现以人工神经网络对手写“A”、“B”两个字母辨以为例进行阐明,规定当“A”输入网络时,应当输出“1”,而当输入为“B”时,输出为“0”。
因此网络学习准则应当是:
如果网络作出错误判决,则通过网络学习,应使得网络减少下次犯同样错误也许性。
一方面,给网络各连接权值赋予(0,1)区间内随机值,将“A”所相应图象模式输入给网络,网络将输入模式加权求和、与门限比较、再进行非线性运算,得到网络输出。
在此状况下,网络输出为“1”和“0”概率各为50%,也就是说是完全随机。
这时如果输出为“1”(成果对的),则使连接权值增大,以便使网络再次遇到“A”模式输入时,依然能作出对的判断。
普通计算机功能取决于程序中给出知识和能力。
显然,对于智能活动要通过总结编制程序将十分困难。
人工神经网络也具备初步自适应与自组织能力。
在学习或训练过程中变化突触权重值,以适应周边环境规定。
同一网络因学习方式及内容不同可具备不同功能。
人工神经网络是一种具备学习能力系统,可以发展知识,以致超过设计者原有知识水平。
普通,它学习训练方式可分为两种,一种是有监督或称有导师学习,这时运用给定样本原则进行分类或模仿;
另一种是无监督学习或称无为导师学习,这时,只规定学习方式或某些规则,则详细学习内容随系统所处环境(即输入信号状况)而异,系统可以自动发现环境特性和规律性,具备更近似人脑功能。
神经网络就像是一种爱学习孩子,您教她知识她是不会忘掉并且会学以致用。
咱们把学习集(LearningSet)中每个输入加到神经网络中,并告诉神经网络输出应当是什么分类。
在所有学习集都运营完毕之后,神经网络就依照这些例子总结出她自己想法,究竟她是怎么归纳就是一种黑盒了。
之后咱们就可以把测试集(TestingSet)中测试例子用神经网络来分别作测试,如果测试通过(例如80%或90%对的率),那么神经网络就构建成功了。
咱们之后就可以用这个神经网络来判断事务分类了。
神经网络是通过对人脑基本单元——神经元建模和联接,摸索模仿人脑神经系统功能模型,并研制一种具备学习、联想、记忆和模式辨认等智能信息解决功能人工系统。
神经网络一种重要特性是它可以从环境中学习,并把学习成果分布存储于网络突触连接中。
神经网络学习是一种过程,在其所处环境勉励下,相继给网络输入某些样本模式,并按照一定规则(学习算法)调节网络各层权值矩阵,待网络各层权值都收敛到一定值,学习过程结束。
然后咱们就可以用生成神经网络来对真实数据做分类。
3.RBF神经网络模型
径向基神经网络神经元构造如图所示。
径向基神经网络激活函数采用径向基函数,同城定义为空间任一点待某一中心之间欧式距离单调函数。
由图中神经网络神经元构造可以看出,径向基神经网络激活函数是输入向量和权值相量之间距离作为自变量。
径向基神经网络激活函数普通表达式:
随着权值和输入向量之间距离减少,网络输出是递增,当输入向量和权值向量一致时,神经元输出1.图中b为域值,用于调节神经元敏捷度。
运用径向基神经元和线性神经元可以建立广义回归神经网络,该中神经网络合用于函数逼近方面应用;
径向基神经元和竞争神经元可以组建概率神经网络,此种神经网络合用于解决分类问题。
由输入层、隐含层和输出层构成普通径向基神经网络构造如下图所示。
在RBF网络中,输入层仅仅起到传播信号作用与前面做讲诉神经网络相比较,输入层和隐含层之间可以看做连接权值为1连接。
输出层和隐含层所完毕任务是不同,因而它们学习方略也是不同。
输出层是对闲心权进行调节,采用是线性优化方略。
因而学习效率比较快。
而隐含层是对激活函数参数进行调节,采用是非线性优化方略,因而学习速度较慢。
尽管RBF网络输出是隐单元输出线性加权和,学习速度加快,但病不等于径向基神经网络就可以取代其他前馈网络。
这是应为进行基神经网络很也许需要比BP网络多多隐含层神经元来完毕工作。
BP网络使用sigmoid()函数,这样神经元有很大输入课件区域,而径向基神经网络使用径向基函数,输入空间区域很小。
这就不可避免第导致了在输入空间较大时,需要更多径向基神经元。
4。
RBF神经网络思想办法
RBF神经网络学习算法需规定解参数有3个:
基函数中心、方差以及隐含层到输出层权值。
依照径向基函数中心选用办法不同,RBF网络有各种学习办法,如随机选用中心法、自组织选用中心法、有监督选用中心法和正交最小二乘法等。
径向基神经网络中惯用径向基函数是高斯函数,使用高斯函数作为隐层激活函数,具备如下长处:
1,径向对称性好
2,由于该基函数表达简朴且解析性好,因而便于进行理论分析。
3,表达形式简朴,虽然对于多变量输入也不增长太多复杂性;
4,光滑性好,任意阶倒数存在;
4.1隐含层学习
RBF神经网络中隐含层学习过程是无监督。
在数据训练过程中是针对数据库因而只有输入而没有输出。
数据训练是RBF神经网络会本能将数据库中所有数据特性提取出来并且逐个分类。
分类完毕之后该网络就能辨认不同输入数据。
但是解决这一过程并不容易,核心在于如何选好隐含层节点个数,减少网络复杂层度。
4.2输出层学习
相比于隐含层,输出层学习则是有监督。
在输出成学习过程中,等待分类样本属性是懂得,因而对于每一种输入样本均有一种输出和它相匹配,基于网络输出端监督信号与实际输出各种目的函数准则,网络据此调节权重,直至精度达到最佳规定。
径向基神经网络输出层学习,目是为了找到适当由隐含层至输出层权值。
5.针对本课题RBF神经网络设计
5.1网络设计matlab实现
设计重要包括隐含层和输出层,其中隐含层传递函数为radbas(),输出层传递函数为纯线性函数purelin()。
设隐含层神经元数目为S