基于Gabor小波和人工神经网络的人脸识别.docx

1、基于Gabor小波和人工神经网络的人脸识别基于Gabor小波和人工神经网络的人脸识别摘要人脸识别是计算机视觉领域中非常活跃的一个研究方向，在图像、生物、工业等民用领域及军事领域中有着广泛的应用，其中以目标特征的提取为难点与重点。本文研究的目的是提高Gabor目标识别算法的鲁棒性，降低负面因素对识别效果的影响。首先介绍了常用的分类规则，分析了人工神经网络以及BP算法的优缺点。给出了一种变步长学习速率的改进方法，优化了BP神经网络，为后文的识别研究提供了较好的分类器支持。关键词：神经网络， Gabor滤波器，特征提取，人脸识别AbstractThe automatic target recogni

2、tion is a pop issue in the computer vision area，that has been used abundantly in many fields such as image，biology,industry and SO on，especially in military circlesDuring ATRS taches，extracting feature of target image should be the most difficult and important oneThe aim of this paper is to enhance

3、the robustness of corresponding Gaboralgorithm andto weaken the effect of negative factorsFirstly,some main classifiers are presented，and some advantage and disadvantage of BP network which belong to the ANNare analysedAn improved method whose step extent shift is given to optimize the BP net，which

4、supplies a better classifier for the next workKeywords：Neural network，Gabor Jets，Feature extracting，Face recognition1 绪论1.1 研究背景及意义人脸识别是生物特性鉴别技术的一个主要方向，它涉及图像处理，模式识别，计算机视觉等多个研究领域，具有十分广泛的应用前景，多年来一直是一个研究热点。相对于其它人体生物特征识别技术，如指纹识别、虹膜识别、掌纹识别，人脸识别技术是最直接、最自然、最容易被人接受的。与其它技术相比，它具有侵犯性小、较少需要或不需要用户的主动配合、样本采集方便、应用

5、场合广泛、潜在的数据资源丰富、设备成本低等优点1。人脸识别系统具备操作及流程简单、适用面广、支持一对一或一对多比对、支持多点同时采集比对、带有数据库支持记录及查询功能，对采集现场环境要求较低，可在极短的时间里判断出进出者的身份是否合法，杜绝使用他人钥匙、密码、磁卡等非法进入。人脸识别技术的安全性、可靠性较高，且拥有广泛的市场需求，它可以应用于公安部门的犯人档案管理、犯人辨认查找、刑侦破案、安全验证系统、信用卡验证、医学、档案管理、视频会议、人机交互系统、证件核对、保安监视、门禁控制及至自动柜员机（ATM）等多种场合2。人脸识别对人类来说是件自然而然的事情，但对计算机而言，人脸识别却远非一个已解

6、决的课题。所有的人脸都具有相似的结构，在纹理上也十分相近。另外图像受光照、成像角度及成像距离等外界条件影响，具有“一人千面”的特点，欲建立一种具有各种不变性的描述模型还是比较困难的。此外，人脸识别技术研究与相关科学的发展及人脑的认识程度紧密相关3。诸多因素都使人脸识别研究成为一项极富挑战性的课题，一方面信息化进程的日益加快，电子商务、重要场所的安全认证、智能化环境等许多应用领域对与人脸有关的信息处理提出了迫切要求；另一方面，硬件和软件技术的发展，为满足实际应用系统对人脸检测、跟踪及识别技术的实时化要求提供了可能性2。所以，人脸识别的研究不仅涉及心理学、生理学、人工智能、模式识别、计算机视觉、图

7、像分析与处理等多个学科领域，更是模式识别、人工智能和计算机视觉的典型案例之一2。对这一问题的研究和解决，有助于对其他对象识别问题的研究分析和解决，人脸识别也因此成为这些基础研究领域的重要课题之一，具有重要的理论研究价值。1.2 国内外研究现状及发展趋势近30年来，人脸自动识别的研究取得了很大的进展，从工程索引（EI）上检索到的相关文献已达数千篇，包括IEEE PAMI在内的重要国际期刊也有专栏甚至专刊报道人脸识别的最新研究进展，同时还出现了专门的国际学术会议，如人脸手势识别国际学术会议1。目前人脸识别领域内最著名的国际研究机构包括：美国麻省理工学院媒体实验室及人工智能实验室、南加州大学、CMU

8、卡内基梅隆机器人研究及交互系统实验室、马里兰大学等。另外，一些国家或地区也有不少研究机构在人脸识别领域进行了大量的研究工作4。90年代中后期以来，国内的许多研究机构在自然科学基金、863计划、攀登计划等资助下，开始了对人脸识别的研究。其中主要包括清华大学计算机系、自动化系、电子系以及哈尔滨工业大学、南京理工大学信息学院、中科院自动化所、上海交通大学图像处理与模式识别研究所、中山大学数学系等，他们在人脸识别研究领域都进行了许多很有意义的尝试，积累了经验5。1.3 人脸识别的常用方法（1）基于几何特征的方法几何特征最早是用于人脸识别的。人脸由眼睛、鼻子、嘴巴、下巴等部件构成，正因为这些部件的形状、

9、大小和结构上的各种差异才使得世界上每个人脸千差万别，因此对这些部件的形状和结构关系的几何描述，可以作为人脸识别的重要特征。将人脸用一个几何特征矢量表示，用模式识别中层次聚类的思想设计分类器达到识别目的6。这就要求选取的几何特征矢量具有一定的独特性，能够反映不同人脸之间的差别，同时又具有一定的弹性，以消除时间跨度、光照等的影响。几何特征矢量是以人脸器官的形状和几何关系为基础的特征矢量，其分量通常包括人脸指定两点间的欧式距离、曲率、角度等6。（2）基于弹性模型匹配方法弹性模型匹配方法的思想是将人脸上的一些特征点作为基准点构成弹性图，每个基准点存储一串具有代表性的特征矢量，采用分级结构的弹性图，去除

10、一些冗余节点，形成稀疏的人脸描述结构7。通过测试样本和特征样本的弹性匹配来完成识别。弹性模型匹配方法有很多，例如：在人脸图像上放置一组矩形网格节点，每个节点的特征用该节点处的多尺度Gabor幅度特征描述，各节点之间的连接关系用几何距离表示，从而构成基于二维拓扑图的人脸描述，根据两个图像中各节点和连接之间的相似性进行人脸识别。还有将人脸图像表示为可变形的3D网格表面，将人脸匹配问题转换为曲面匹配问题，利用有限元分析的方法进行曲面变形，根据两幅图像之间变形匹配的程度识别人脸等。（3） 神经网络方法目前神经网络方法在人脸识别中的研究方兴未艾。Valentin8,9提出一种方法，首先提取人脸的50个主

11、元，然后用自相关神经网络将它映射到5维空间中，再用一个普通的多层感知器进行判别，对一些简单的测试图像效果较好；Intrator8,9等提出了一种混合型神经网络来进行人脸识别，其中非监督神经网络用于特征提取，而监督神经网络用于分类。Lee8,9等将人脸的特点用六条规则描述，然后根据这六条规则进行五官的定位，将五官之间的几何距离输入模糊神经网络进行识别，效果较一般的基于欧氏距离的方法有较大改善；Laurence8,9等采用卷积神经网络方法进行人脸识别，由于卷积神经网络中集成了相邻像素之间的相关性知识，从而在一定程度上获得了对图像平移、旋转和局部变形的不变性，因此得到非常理想的识别结果。神经网络方法

12、在人脸识别上的应用比起前述几类方法来有一定的优势，因为对人脸识别的许多规律或规则进行显性的描述是相当困难的，而神经网络方法则可以通过学习的过程获得对这些规律和规则的隐性表达，它的适应性更强，一般也比较容易实现。（4）基于线性和非线性子空间的方法基于子空间的方法是基于图像像素本身的，主要是利用计算模板和图像灰度的自相关性来实现识别功能，一般来说模板匹配法要优于基于几何特征法10。目前，在诸多子空间方法中，应用最广泛的是特征脸法（PCA），这是针对人脸整体特征的研究，利用Karhunen-Lobve变换原理，将图像表示为一些低维的正交基组成的子空间，然后采用最小距离准则进行人脸识别。线性判别分析（

13、LDA）是一种较为普遍的用于特征提取的线性分类方法。它使投影后的模式样本的类间散布矩阵最大而类内散布矩阵最小，也就是说，投影后保证模式样本在新的空间中有最大的类间距离和最小的类内距离，即模式在该空间中有最佳的可分离性。线性判别分析提取的特征向量集强调的是不同人脸的差异而不是照明条件、人脸表情和方向的变化。因而，采用此方法对光照条件、人脸姿态等的变化不太敏感，从而有助于提高识别效果。但是传统的算法常常遇到的一个问题是样本类内散度矩阵通常是奇异的，即“小样本集合问题”。针对这一问题已有了许多改进方法并取得了很好的识别效果。独立分量分析（ICA）是一种很有效的提取方法。与PCA相比，ICA有两个优势

14、：一是ICA获得的独立分量不需要满足正交关系，能够消除象素间的高阶统计相关性，而PCA只能消除象素间的二阶统计相关性；二是ICA获得的一组矢量比本征矢量更具空间局部描述性，具有更好的人脸描述能力。借鉴SVM的Kernel方法，PCA、LDA和ICA等都被扩展到了核空间。与线性子空间方法相比，基于Kernel的方法获得了更好的识别效果11,12。（5）其他方法Brunelli等对模板匹配方法作了大量实验，结果表明在尺度、光照、旋转角度等各种条件稳定的情况下，模板匹配的效果优于其他方法，但它对光照、旋转和表情变化比较敏感，影响了它的直接使用。Goudail等人采用局部自相关性作为人脸识别的判断依据

15、，它具有平移不变性，在脸部表情变化时比较稳定。在最近的一些工作中，Benarie等提出VFR的表示框架并将它用于人脸识别的工作中，Lam等人研究了不同视点下的人脸匹配和识别问题，Vetter等人讨论了由单幅人脸图像生成其他视点的人脸图像的可能性，Mirhosseini等则探讨了多种信息融合的人脸识别方法13。2 Gabor特征提取算法的实现2.1 Gabor小波简介由于Gabor特征对光照、姿态具有一定的鲁棒性7,13，因此Gabor特征在人脸识别领域的应用非常广泛，目前已经成为了最为主流的人脸特征抽取方法。Gabor特征具有良好的空间局部性和方向选择性7,13，可以很好的描述图像的纹理信息，

16、因此许多人脸识别算法都采用Gabor特征作为识别特征。EGM是最早应用Gabor特征进行人脸识别的算法之一，该算法仅对人脸图像中部分关键特征点进行Gabor变换，并将人脸描述为以这些特征点位置为顶点、以其Gabor变换系数为顶点属性、以其关键点位置关系为边属性的属性图，从而将人脸识别问题转化为图匹配问题。通过合理的选择特征点的位置，弹性图可以很好地同时对人脸的关键局部特征及其它们之间的关系进行建模，从而既利用了人脸的图像亮度分布特征，又利用了面部结构信息。GWN方法从最佳描述的角度，通过一个优化过程完全自动地确定特征位置及其相应的小波参数，并最终用这些参数作为人脸的描述来进行人脸识别。但GWN

17、是一种基于参数优化的建模方法，计算复杂度很高，其用于人脸识别的有效性还需要更多的实践检验。GFC算法的基本思想是在粗略对齐人脸图像的前提下，逐像素计算每个像素点的多方向、多尺度Gabor变换特征，形成Gabor特征的人脸表示，然后进一步用Fisher判别分析法提取特征，为了解决逐像素Gabor特征维数过高的问题，Liu采用了简单的下采样处理方法。AdaGabor算法采用AdaBoost算法对高维Gabor特征进行选择的降维，该方法采用机器学习的方法更加客观地利用Gabor特征，从而能在有效降维的同时提高识别性能。Gabor小波与人类视觉系统中简单细胞的视觉刺激响应非常相似。它在提取目标的局部空

18、间和频率域信息方面具有良好的特性。虽然Gabor小波本身并不能构成正交基，但在特定参数下可构成紧框架。Gabor小波对于图像的边缘敏感，能够提供良好的方向选择和尺度选择特性，而且对于光照变化不敏感,能够提供对光照变化良好的适应性14。上述特点使Gabor小波被广泛应用于视觉信息理解。二维Gabor小波变换15是在时频域进行信号分析处理的重要工具，其变换系数有着良好的视觉特性和生物学背景，因此被广泛应用于图像处理、模式识别等领域。与传统的傅立叶变换相比，Gabor小波变换具有良好的时频局部化特性。即非常容易地调整Gabor滤波器的方向、基频带宽及中心频率从而能够最好的兼顾信号在时空域和频域中的分

19、辨能力；Gabor小波变换具有多分辨率特性即变焦能力。即采用多通道滤波技术，将一组具有不同时频域特性的Gabor小波应用于图像变换，每个通道都能够得到输入图像的某种局部特性，这样可以根据需要在不同粗细粒度上分析图像。此外，在特征提取方面，Gabor小波变换与其它方法相比：一方面其处理的数据量较少，能满足系统的实时性要求；另一方面，小波变换对光照变化不敏感，且能容忍一定程度的图像旋转和变形，当采用基于欧氏距离进行识别时，特征模式与待测特征不需要严格的对应，故能提高系统的鲁棒性16,17。 无论从生物学的角度还是技术的角度，Gabor特征都有很大的优越性。Jones和Palmer的研究表明18，在

20、基本视觉皮层里的简单细胞的感受野局限在很小的空域范围内，并且高度结构化。Gabor变换所采用的核（Kernels）与哺乳动物视觉皮层简单细胞2D感受野剖面（Profile）非常相似，具有优良的空间局部性和方向选择性，能够抓住图像局部区域内多个方向的空间频率（尺度）和局部性结构特征。这样，Gabor分解可以看作一个对方向和尺度敏感的有方向性的显微镜。同时，二维Gabor函数也类似于增强边缘以及峰、谷、脊轮廓等底层图像特征，这相当于增强了被认为是面部关键部件的眼睛、鼻子、嘴巴等信息，同时也增强了诸于黑痣、酒窝、伤疤等局部特征，从而使得在保留总体人脸信息的同时增强局部特性成为可能18。图2.1即显示

21、了这一结论。图2.1中的每一列代表一组实验，其中第一行代表脊椎动物的视觉皮层感受野，第二行是Gabor滤波器，第三行是两者的残差。可见两者相差极小。Gabor滤波器的这一性质，使得其在视觉领域中经常被用来作图像的预处理。图2.1 Gabor滤波器和脊椎动物视觉皮层感受野响应的比较从图像处理的角度来看，Gabor特征有如下好处：（1）Gabor核函数由于去掉了直流分量，因此对局部光照的变化不敏感，常常被用在要求对光照有适应性的场合；（2）Gabor滤波结果可以反映图像不同尺度、不同方向上的灰度分布信息。一般说来，大尺度滤波可以反映全局性较强的信息，同时可以掩盖图像中噪声的影响；小尺度可以反映比较

22、精细的局部结构，但容易受到噪声影响。小波核函数在空域和频域上都有一定的局域性，这使得其对平移、拉伸、旋转和尺度变换都具有一定的鲁棒性。虽然平移变换对复向量的相位有一定影响，但在人脸识别这个问题中，平移对结果的影响是要考虑的，Gabor特征仍然具有很好的刻画特性。正是由于Gabor特征的这些特性，使得其在人脸识别中得到了非常广泛的应用。2.2 人脸图像的Gabor特征二维Gabor小波的定义为：（2.1）式中：是与小波频率带宽有关的常数；为空间位置坐标；确定了Gabor内核的方向和尺度。在采用8个方向和5个尺度的采样时，方向和尺度上的可以写为。其中为采样尺度，为尺度标号；为采样方向，为方向标号。

23、为最大频率，是频域中的内核间隔因子。令参数、，可以获得较好的小波表征和辨别效果。Gabor变换与Gabor内核的卷积为： （2.2）设的幅值和相位分别为和，则。组合不同尺度和方向的，构成图像在位置处的Gabor特征矢量。在提取人脸图像的Gabor特征时，通常采用多个在不同尺度和方向上的Gabor滤波器组成滤波器组，并根据图像的特点和神经生理学的结论来选择参数。通常研究采用共包括8个方向（；）和5个尺度（；）的Gabor滤波器组，并令，使滤波器的带宽约为1倍频程。由于Gabor特征具有良好的空间局部性和方向选择性，而且对光照、姿态具有一定的鲁棒性，因此在人脸识别中获得了成功的应用。然而，大部分基

24、于Gabor特征的人脸识别算法中，只应用了Gabor幅值信息，而没有应用相位信息，主要原因是Gabor相位信息随着空间位置呈周期性变化，而幅值的变化相对平滑而稳定。所以本论文将输入图像依次与滤波器组的各个滤波器进行卷积，并取其幅值作为输出，即 ， （2.4）设图像的大小为，通过40个滤波器得到Gabor特征的维数高达，计算量很大，且由于Gabor特征在相邻像素间是高度相关和冗余的，所以通常只需要稀疏的提取部分节点上的Gabor特征。一个人脸图像经Gabor变换后就得到幅值特征和相位特征的维数都是，计算量很大，而且Gabor特征在相邻像素间是高度相关的，所以必须对Gabor特征进行降维。本论文所

25、采用的降维方法就是对Gabor变换系数进行简单的下采样，如对Gabor特征进行固定行固定列均匀分布采样。提取单幅人脸图像的Gabor特征的基本步骤如下：（1） 划分Gabor特征的采样点本论文划分的采样点的个数为40*30 =1200个，采样点数目较多，目的是为了得到更加清晰的Gabor图像。划分采样点后的人脸图像如图2.2所示： 图2.2（a） 原人脸图像 图2.2（b） 划分采样点后的人脸图像由于得到的Gaobr特征的维数较大，下面实验将采用均匀下采样对Gaobr特征进行处理，从而达到降维的目的。（2） 提取人脸图像的Gabor特征本文采用40*30 =1200个规则分布的采样点，在采样点

26、上提取各个滤波器输出的值，联合起来组成列向量，从而得到每幅图像的Gabor特征向量，并以此作为该人脸图像的局部特征向量。得到的人脸图像的Gabor特征如下图所示： 图2.3（a） 单幅人脸图像的Gabor幅值特征 图2.3（b） 单幅人脸图像的Gabor相位特征由以上图像可见，与原图灰度值随位置的变换相比，滤波器输出的幅值随位置的变化要更小更不敏感；Gabor相位信息随着空间位置呈周期性变化，而幅值的变化相对平滑而稳定。因此，即使采样点稍有偏移也不会使提取出的特征值发生太大变化。也就是说，Gabor特征具有良好的空间局部性和方向选择性，而且对光照、姿态具有一定的鲁棒性，可以容忍更大的器官定位和

27、对齐误差。3人工神经网络技术3.1人工神经网络简介心理学家McCulloch和数学家Pitts于1943年合作提出第一个神经计算模型(MP模型)。1949年心理学家Hebb提出了可改变神经元连接强度的Hebb规则。之后，神经网络之父Rosenblatt提出感知器(Perceptron)模型，第一次将神经网络研究从理论研究付诸于工程实践中团19。近年来人工神经网络技术的发展为解决传统的图像识别技术的难题提供了新的途径，尤其是大规模的计算带来的运算量与运算精度之间的不可调和的矛盾。因为其大规模自适应并行处理和分布式信息存贮满足了对大数据量目标图像的实时处理要求，其高度容错性又容许许多目标图像出现背

28、景模糊和局部残缺。网络事先对待识别的大量样本进行学习训练，网络训练完毕，标志着它对某一类或几类模式已具有正确分类的能力，期间通过神经元间的互连权值来存贮结果。神经网络的研究内容主要涉及网络拓扑结构、节点特性、学习和训练计划。人工神经网络是由简单处理单元(神经元)互相连接而成的一种并行分布式信息处理结构，信息处理通过神经元之间的相互作用实现。图3.1所示为第i个基本神经元;其中分别代表神经元l，2，i，n与第j个神经元的连接强度(权值); 代表来自神经元1，2，i，n的输入；为传递函数；为阈值；为第j个神经元的输出。第j个神经元的输入值通过传递函数后，得到第j个神经元的输出为： 作为神经网络的基

29、本单元，一个神经元有三个基本要素：一是与其他神经元的加权连接；二是计算该神经元输入信号的加权和；三是利用传递函数求该神经元的输出信号。传递函数(激励函数)其值一般限制在(0，1)或(-1，1)之间，常用的激励函数有阶跃函数(MP模型)、分段线性函数、Sigmoid函数、高斯函数等。人工神经网络是由大量简单的基本单元相互连接而成的非线性动态系统，每个神经元的结构和功能都比较简单，但由其组成的系统却非常复杂，神经元通过权系数相连接。这种大规模并行结构具有很高的计算速度。在这种多层网络结构中，人工神经网络将信息分布储存于连接的权系数中，使网络具有很高的容错性和鲁棒性。根据权值的设置神经网络可以分为有

30、监督和无监督学习两类。有监督学习的有多层感知机和Hamming网络等；无监督的有Konhonen自组织特征映射、Carpenter及Grossberg分类器等。神经网络对参数的调整有一定的规则，即在什么情况下需要调整参数及如何调整，常用的学习规则有Delta学习规则，Hebb学习规则及Competitive学习规则。神经网络的巨大优点在于：(1)定量或定性的所有信息都等势分布存储在网络中的各神经元及其连接权值中;有很强的鲁棒性和容错性。(2)能充分逼近任意复杂的非线性关系。(3)自学习与适应严重不确定性系统的动态特性。(4)连接权值和连接的结构可以通过强大的学习功能获得。(5)采用并行分布处理

31、方法使得快速进行大量运算成为可能20。由于神经网络在解决高度非线性和不确定性系统的控制上有巨大潜力，神经网络已广泛应用在各个领域，主要集中在利用神经网络进行模式识别和预测上。3.2反向传播算法(BP)及其改进3.2.1BP算法介绍1988年Werbos提出了著名的BP理论。Rumelhart和MeClelland(1986，1988)的并行分布处理(PDP)理论中发展的多层网络误差反向传播学习算法19是迄今为止应用最普遍的神经网络学习算法。 BP网络由输入层、隐层和输出层组成。隐层为一层或多层，其特点是相邻两层神经元全互联，不相邻层无互联。基于BP算法的前馈型网络，为解决了多层网络的学习问题，

32、根据学习误差大小，把学习结果反馈到中间层次的隐单元，改变它们的权系数矩阵，从而达到预期的学习目的。到了90年代，BP神经网络在图像处理领域中已取得良好的效果，如：特征提取、目标分类与识别等21。为输入层节点i的输出；为中间层节点j的输出；为输出层节点k的输出；为输出层节点k对应的教师信号；为节点i和节点j间的连接权值；为节点J和节点k间的连接权值；为中间层节点j的阈值；为输出层节点k的阈值。神经元的转移函数选择为Sigmoid函数： 误差函数为二乘误差函数： (1)2、初始化设定学习次数t=0；对网络权值和阈值赋于小的随机数，, , 。(一)前向计算输入样本为其中N为学习样本数，P1，2，N，。计算隐层各