PCA人脸识别理论基础附源码之欧阳学创编.docx

1、PCA人脸识别理论基础附源码之欧阳学创编1 PCA 与人脸识别及其理论基础时间：2021.03.03创作：欧阳学1.1问题描述1对于一幅图像可以看作一个由像素值组成的矩阵，也可以扩展开，看成一个矢量，如一幅N*N象素的图像可以视为长度为N2 的矢量，这样就认为这幅图像是位于N2维空间中的一个点，这种图像的矢量表示就是原始的图像空间，但是这个空间仅是可以表示或者检测图像的许多个空间中的一个。不管子空间的具体形式如何，这种方法用于图像识别的基本思想都是一样的，首先选择一个合适的子空间，图像将被投影到这个子空间上，然后利用对图像的这种投影间的某种度量来确定图像间的相似度，最常见的就是各种距离度量。1

2、.1.1KL变换1PCA方法是由Turk和Pentlad提出来的，它的基础就是KarhunenLoeve变换(简称KL变换)，是一种常用的正交变换。下面我们首先对KL 变换作一个简单介绍:假设X 为n 维的随机变量，X 可以用n个基向量的加权和来表示:nX=iii=1式中:i是加权系数，i是基向量，此式还可以用矩阵的形式表示:1 2 n 1 2 nX=(,)(,)T=取基向量为正交向量，即T1i=j T则系数向量为：j = 0i j j =I=TX综上所述，KL 展开式的系数可用下列步骤求出:步骤一求随即向量X的自相关矩阵R=EXTX，由于没有类别信息的样本集的 均值向量，常常没有意义，所以也

3、可以把数据的协方差矩阵K_L 坐标系的产生矩阵，这里是总体均值向量。=E(x)(x)T作为步骤二求出自相关矩阵或协方差矩阵R 的本征值i 和本征向量i，=(1,i,n)步骤三展开式系数即为=TXK_L 变换的实质是建立了一个新的坐标系，将一个物体主轴沿特征矢量对齐的旋转变换，这个变换解除了原有数据向量的各个分量之间相关性，从而有可能去掉那些带有较少信息的坐标系以达到降低特征空间维数的目的。1.1.2利用PCA进行人脸识别完整的PCA人脸识别的应用包括几个步骤：人脸图像预处理；读入人脸库，训练形成特征子空间；把训练图像和测试图像投影到上一步骤中得到的子空间上；选择一定的距离函数进行识别。下面详细

4、描述整个过程（源码见faceRec.m）。1. 读入人脸库归一化人脸库后，将库中的每人选择一定数量的图像构成训练集，其余构成测试集。设归一化后的图像是n*m,按列相连就构成N=n*m维矢量，可视为N维空间中的一个点，可以通过KL 变换用一个低维子空间描述这个图像。2. 计算K L 变换的生成矩阵所有训练样本的协方差矩阵为（以下三个等价）：1.T TCA =(Mk=1xkixk )/Mmximx2. C=(AiAT)/M（1）M3. CA=i=1(xm)(xm)T A=1,2,.,M,i=ximx,mx是平均人脸, M 训练人脸数，协方差矩阵CA 是一个N*N的矩阵, N 是xi的维数。A为了方

5、便计算特征值和特征向量，一般选用第2个公式。根据K L变换原理，我们所求的新坐标系即由矩阵AiAT 的非零特征值所对应的特征向量组成。直接求N*N大小矩阵C 的特征值和正交归一特征向量是很困难的, 根据奇异值分解原理（见段落1.2.5和1.2.6），可以通过求解ATiA的特征值和特征向量来获得ATiA的特征值和特征向量，。N *r 在计算得到CA的所有非零特征值0,1,r1（从大到小排序，1rn）维矩阵，则存在两个正交矩阵和一个对角阵：TA=a1,a2,ar=UVT其中U=u0 ,u1,ur1，V=v0,v1,vr1，=diag(0,1,r1)，且UU=I，VVT=I，2Tm*mTn*n TT

6、i 呈降序排列。其中i为AA 和A A 的非零特征值，ui 和vi分别是AA 和A Ai对应于2的特征向量。可得一个推论：U=AV1可以计算ATA的特征值2及相应的正交归一特征向量v后，可由推论知AAT 的正交归一特ii征向量u = 1iiAvi注意，协方差矩阵CA=(AiAT)/M的特征值为：2 /M。1.2.6利用小矩阵计算大矩阵特征向量高阶矩阵的特征向量可以转化为求低阶矩阵的特征向量：设：A是秩为r 的m*n（mn）维矩阵，CX=AAT m*m，是一个矩阵，现在要求C 的X特征值及特征向量，可通过先求小矩阵ATAn*n 的特征向量v,v,v和特征值0 1r10,1,r1，两者之间有以下关

7、系：i i iATAv =vi i i左乘A AAT (Av)=(Av)显然，C=AAT 的特征向量是Av（注意没有单位化），,亦为其特征值。X i0 1r1结论：1.2.5与1.2.6的方法计算协方差矩阵的特征向量，特征值的结果是一致的，只是要注意1.2.5中的特征值要除以M，1.2.6中的特征向量要单位化。1.2.7图片归一化图片标准化通常是一个整体概念，要求把图片归一到均值为0，方差为1下情况下。这个概念类似于一般正态分布向标准正态分布的转化：命题4若XN(,2)，则Z=XN(0,1)所以要对一组图片中的一张Xi 进行归一化（标准化），只需要减去均值，除以方差就可以了。MT均值mX =X

8、iiM，方差为D=E(XmX)(XmX) 1.3参考文献1 邓楠, 基于主成份分析的人脸识别, 西北大学硕士学位论文，.062 R.O.Duda,P.E.Hart,andD.G.Stork,PatternClassification,seconded.JohnWiley&Sons,.3 SamiRomdhani.FaceImageAnalysisusingaMultipleFeatureFittingStrategy.PhDThesis, University ofBasel,Switzerland,January .4 SamiRomdhani.FACERECOGNITIONUSING PR

9、INCIPALCOMPONENTSANALYSIS.1.4附录matlab源码1.4.1人脸识别%FaceRec.m% PCA人脸识别修订版，识别率88%calc xmean,sigmaandits eigen decomposition allsamples=;%所有训练图像for i=1:40forj=1:5 a=imread(strcat(e:ORLs,num2str(i),num2str(j),.jpg);%imshow(a);b=a(1:112*92); % b是行矢量1N，其中N10304，提取顺序是先列后行，即从上到下，从左到右b=double(b);allsamples=all

10、samples;b; %allsamples 是一个M * N 矩阵，allsamples 中每一行数据代表一张图片，其中M200end endsamplemean=mean(allsamples); % 平均图片，1 Nfor i=1:200 xmean(i,:)=allsamples(i,:)samplemean; % xmean是一个M N矩阵，xmean每一行保存的数据是“每个图片数据平均图片”end;% 获取特征值及特征向量sigma=xmean*xmean; %M *M阶矩阵v d=eig(sigma);d1=diag(d);% 按特征值大小以降序排列dsort=flipud(d1

11、);vsort= fliplr(v);%以下选择90%的能量dsum=sum(dsort); dsum_extract =0; p= 0;while(dsum_extract/dsum0.9)p= p+ 1;dsum_extract =sum(dsort(1:p);i=1;end%(训练阶段)计算特征脸形成的坐标系base=xmean *vsort(:,1:p)*diag(dsort(1:p).(1/2);%base是Np阶矩阵，除以dsort(i)(1/2)是对人脸图像的标准化（使其方差为1）% 详见基于PCA 的人脸识别算法研究p31%xmean*vsort(:,i)是小矩阵的特征向量向大

12、矩阵特征向量转换的过程%while (i0)% base(:,i)=dsort(i)(1/2)*xmean*vsort(:,i); %base是Np阶矩阵，除以dsort(i)(1/2)是对人脸图像的标准化（使其方差为1）% 详见基于PCA 的人脸识别算法研究p31% i =i + 1; %xmean*vsort(:,i)是小矩阵的特征向量向大矩阵特征向量转换的过程%end% 以下两行add by gongxun 将训练样本对坐标系上进行投影,得到一个M*p 阶矩阵allcoor allcoor=allsamples*base; %allcoor里面是每张训练人脸图片在M*p子空间中的一个点，

13、即在子空间中的组合系数，accu=0; %下面的人脸识别过程中就是利用这些组合系数来进行识别% 测试过程for i=1:40forj=6:10 %读入40 x 5 副测试图像a=imread(strcat(e:ORLs,num2str(i),num2str(j),.jpg); b=a(1:10304);b=double(b);tcoor=b *base; %计算坐标，是1p阶矩阵fork=1:200mdist(k)=norm(tcoorallcoor(k,:);end;%三阶近邻dist,index2=sort(mdist);class1=floor( (index2(1)1)/5 )+1;

14、class2=floor(index2(2)1)/5)+1; class3=floor(index2(3)1)/5)+1;ifclass1=class2 & class2=class3 class=class1;elseif class1=class2 class=class1;elseif class2=class3class=class2;end;ifclass=i accu=accu+1;end;end;end;accuracy=accu/200 %输出识别率1.4.2特征人脸%eigface.mfunction = eigface()%calc xmean,sigmaandits ei

15、gen decomposition allsamples=;%所有训练图像for i=1:40forj=1:5 a=imread(strcat(e:ORLs,num2str(i),num2str(j),.jpg);%imshow(a);b=a(1:112*92); % b是行矢量1N，其中N10304，提取顺序是先列后行，即从上到下，从左到右b=double(b);allsamples=allsamples;b; %allsamples 是一个M * N 矩阵，allsamples 中每一行数据代表一张图片，其中M200end endsamplemean=mean(allsamples); %

16、 平均图片，1 Nfor i=1:200 xmean(i,:)=allsamples(i,:)samplemean; % xmean是一个M N矩阵，xmean每一行保存的数据是“每个图片数据平均图片”end;% 获取特征值及特征向量sigma=xmean*xmean; %M *M阶矩阵v d=eig(sigma);d1=diag(d);dsort=flipud(d1);vsort= fliplr(v);%以下选择90%的能量dsum=sum(dsort); dsum_extract =0; p= 0;while(dsum_extract/dsum0.9)p= p+ 1;dsum_extrac

17、t =sum(dsort(1:p);end p= 199;%(训练阶段)计算特征脸形成的坐标系%while (i0)% base(:,i) = dsort(i)(1/2) * xmean * vsort(:,i); % base 是Np 阶矩阵，除以dsort(i)(1/2)是对人脸图像的标准化，详见基于PCA 的人脸识别算法研究p31% i= i+1; %xmean*vsort(:,i)是小矩阵的特征向量向大矩阵特征向量转换的过程%endbase=xmean *vsort(:,1:p)*diag(dsort(1:p).(1/2);% 生成特征脸for (k=1:p),temp=reshape

18、(base(:,k),112,92); newpath=d:testint2str(k).jpg; imwrite(mat2gray(temp),newpath);endavg=reshape(samplemean,112,92);imwrite(mat2gray(avg),d:testaverage.jpg);% 将模型保存save(e:ORLmodel.mat,base,samplemean);1.4.3人脸重建%Reconstruct.mfunction = reconstruct()% 计算新图片在特征子空间中的系数img=D:test210.jpg a=imread(img);b=a

19、(1:112*92); %b 是行矢量1N，其中N10304，提取顺序是先列后行，即从上到下，从左到右b=double(b);b=bsamplemean;c= b* base; % c 是图片a在子空间中的系数, 是1*p行矢量% 根据特征系数及特征脸重建图% 前15个t= 15;temp=base(:,1:t)*c(1:t); temp=temp+samplemean; imwrite(mat2gray(reshape(temp,112,92),d:test2t1.jpg);% 前50个t= 50;temp=base(:,1:t)*c(1:t); temp=temp+samplemean;

20、imwrite(mat2gray(reshape(temp,112,92),d:test2t2.jpg);% 前100个t= 100;temp=base(:,1:t)*c(1:t); temp=temp+samplemean; imwrite(mat2gray(reshape(temp,112,92),d:test2t3.jpg);% 前150个t= 150;temp=base(:,1:t)*c(1:t); temp=temp+samplemean; imwrite(mat2gray(reshape(temp,112,92),d:test2t4.jpg);% 前199个t= 199;temp=base(:,1:t)*c(1:t); temp=temp+samplemean; imwrite(mat2gray(reshape(temp,112,92),d:test2t5.jpg);时间：2021.03.03创作：欧阳学