模式识别实验报告实验一 Bayes分类器设计说明.docx

1、模式识别实验报告实验一 Bayes分类器设计说明实验一 Bayes分类器设计【实验目的】对模式识别有一个初步的理解，能够根据自己的设计对贝叶斯决策理论算法有一个深刻地认识，理解二类分类器的设计原理。【实验原理】最小风险贝叶斯决策可按下列步骤进行：(1)在已知，i=1,，c及给出待识别的的情况下，根据贝叶斯公式计算出后验概率：j=1,，x (2)利用计算出的后验概率及决策表，按下面的公式计算出采取,i=1,，a的条件风险,i=1,2,a(3)对(2)中得到的a个条件风险值,i=1,，a进行比较，找出使其条件风险最小的决策，即则就是最小风险贝叶斯决策。【实验容】假定某个局部区域细胞识别中正常（）和

2、非正常（）两类先验概率分别为正常状态：P（）=0.9；异常状态：P（）=0.1。现有一系列待观察的细胞，其观察值为：-3.9847 -3.5549 -1.2401 -0.9780 -0.7932 -2.8531 -2.7605 -3.7287 -3.5414 -2.2692 -3.4549 -3.0752 -3.9934 2.8792 -0.9780 0.7932 1.1882 3.0682-1.5799 -1.4885 -0.7431 -0.4221 -1.1186 4.2532 已知类条件概率是的曲线如下图：类条件概率分布正态分布分别为N（-2，0.25）、N（2,4）试对观察的结果进行分

3、类。【实验要求】1) 用matlab完成基于最小错误率的贝叶斯分类器的设计，要求程序相应语句有说明文字，要求有子程序的调用过程。2) 根据例子画出后验概率的分布曲线以及分类的结果示意图。3) 如果是最小风险贝叶斯决策，决策表如下：最小风险贝叶斯决策表：状态决策104220请重新设计程序，完成基于最小风险的贝叶斯分类器，画出相应的条件风险的分布曲线和分类结果,并比较两个结果。【实验程序】 最小错误率贝叶斯决策 分类器设计x=-3.9847 -3.5549 -1.2401 -0.9780 -0.7932 -2.8531 -2.7605 -3.7287 -3.5414 -2.2692 -3.4549

4、 -3.0752 -3.9934 2.8792 -0.9780 0.7932 1.1882 3.0682 -1.5799 -1.4885 -0.7431 -0.4221 -1.1186 4.2532 pw1=0.9 ; pw2=0.1e1=-2; a1=0.5e2=2;a2=2m=numel(x) %得到待测细胞个数pw1_x=zeros(1,m) %存放对w1的后验概率矩阵pw2_x=zeros(1,m) %存放对w2的后验概率矩阵results=zeros(1,m) %存放比较结果矩阵for i = 1:m%计算在w1下的后验概率 pw1_x(i)=(pw1*normpdf(x(i),e1

5、,a1)/(pw1*normpdf(x(i),e1,a1)+pw2*normpdf(x(i),e2,a2)%计算在w2下的后验概率pw2_x(i)=(pw2*normpdf(x(i),e2,a2)/(pw1*normpdf(x(i),e1,a1)+pw2*normpdf(x(i),e2,a2)endfor i = 1:m if pw1_x(i)pw2_x(i) %比较两类后验概率 result(i)=0 %正常细胞 else result(i)=1 %异常细胞 endenda=-5:0.05:5 %取样本点以画图n=numel(a)pw1_plot=zeros(1,n)pw2_plot=zer

6、os(1,n)for j=1:npw1_plot(j)=(pw1*normpdf(a(j),e1,a1)/(pw1*normpdf(a(j),e1,a1)+pw2*normpdf(a(j),e2,a2)%计算每个样本点对w1的后验概率以画图pw2_plot(j)=(pw2*normpdf(a(j),e2,a2)/(pw1*normpdf(a(j),e1,a1)+pw2*normpdf(a(j),e2,a2)endfigure(1)hold onplot(a,pw1_plot,k-,a,pw2_plot,r-.)for k=1:m if result(k)=0 plot(x(k),-0.1,b*

7、) %正常细胞用*表示 else plot(x(k),-0.1,rp) %异常细胞用五角星表示 end;end;legend(正常细胞后验概率曲线,异常细胞后验概率曲线,正常细胞,异常细胞)xlabel(样本细胞的观察值)ylabel(后验概率)title(后验概率分布曲线)grid onreturn ; 实验容仿真x = -3.9847 , -3.5549 , -1.2401 , -0.9780 , -0.7932 , -2.8531 ,-2.7605 , -3.7287 , -3.5414 , -2.2692 , -3.4549 , -3.0752 , -3.9934 , 2.8792 ,

8、 -0.9780 , 0.7932 , 1.1882 , 3.0682, -1.5799 , -1.4885 , -0.7431 , -0.4221 , -1.1186 , 4.2532 disp(x)pw1=0.9pw2=0.1result=bayes(x,pw1,pw2) 最小风险贝叶斯决策 分类器设计function R1_x,R2_x,result=danger(x,pw1,pw2)m=numel(x) %得到待测细胞个数R1_x=zeros(1,m) %存放把样本X判为正常细胞所造成的整体损失R2_x=zeros(1,m) %存放把样本X判为异常细胞所造成的整体损失result=ze

9、ros(1,m) %存放比较结果e1=-2a1=0.5e2=2a2=2%类条件概率分布px_w1:（-2，0.25） px_w2（2,4）r11=0r12=2r21=4r22=0%风险决策表for i=1:m %计算两类风险值 R1_x(i)=r11*pw1*normpdf(x(i),e1,a1)/(pw1*normpdf(x(i),e1,a1)+pw2*normpdf(x(i),e2,a2)+r21*pw2*normpdf(x(i),e2,a2)/(pw1*normpdf(x(i),e1,a1)+pw2*normpdf(x(i),e2,a2) R2_x(i)=r12*pw1*normpdf(

10、x(i),e1,a1)/(pw1*normpdf(x(i),e1,a1)+pw2*normpdf(x(i),e2,a2)+r22*pw2*normpdf(x(i),e2,a2)/(pw1*normpdf(x(i),e1,a1)+pw2*normpdf(x(i),e2,a2)endfor i=1:m if R2_x(i)R1_x(i)%第二类比第一类风险大 result(i)=0 %判为正常细胞（损失较小），用0表示 else result(i)=1 %判为异常细胞，用1表示 end enda=-5:0.05:5 %取样本点以画图n=numel(a)R1_plot=zeros(1,n)R2_pl

11、ot=zeros(1,n)for j=1:n R1_plot(j)=r11*pw1*normpdf(a(j),e1,a1)/(pw1*normpdf(a(j),e1,a1)+pw2*normpdf(a(j),e2,a2)+r21*pw2*normpdf(a(j),e2,a2)/(pw1*normpdf(a(j),e1,a1)+pw2*normpdf(a(j),e2,a2) R2_plot(j)=r12*pw1*normpdf(a(j),e1,a1)/(pw1*normpdf(a(j),e1,a1)+pw2*normpdf(a(j),e2,a2)+r22*pw2*normpdf(a(j),e2,

12、a2)/(pw1*normpdf(a(j),e1,a1)+pw2*normpdf(a(j),e2,a2) %计算各样本点的风险以画图endfigure(1)hold onplot(a,R1_plot,b-,a,R2_plot,g*-)for k=1:m if result(k)=0 plot(x(k),-0.1,b)%正常细胞用上三角表示 else plot(x(k),-0.1,go)%异常细胞用圆表示 end;end;legend(正常细胞,异常细胞,Location,Best)xlabel(细胞分类结果)ylabel(条件风险)title(风险判决曲线)grid onreturn 实验容仿

13、真x = -3.9847 , -3.5549 , -1.2401 , -0.9780 , -0.7932 , -2.8531 ,-2.7605 , -3.7287 , -3.5414 , -2.2692 , -3.4549 , -3.0752 , -3.9934 , 2.8792 , -0.9780 , 0.7932 , 1.1882 , 3.0682, -1.5799 , -1.4885 , -0.7431 , -0.4221 , -1.1186 , 4.2532 disp(x)pw1=0.9pw2=0.1R1_x,R2_x,result=danger(x,pw1,pw2)【实验结果和数据】

14、 最小错误率贝叶斯决策后验概率曲线与判决结果在一图上：后验概率曲线如图所示，带*的绿色曲线为判决成异常细胞的后验概率曲线；另一条平滑的蓝色曲线为判为正常细胞的后验概率曲线。根据最小错误概率准则，判决结果见曲线下方，其中“上三角”代表判决为正常细胞，“圆圈”代表异常细胞。各细胞分类结果：0 0 0 0 0 0 0 0 0 0 0 0 0 1 0 1 1 1 0 0 0 1 0 10为判成正常细胞，1为判成异常细胞图1 基于最小错误率的贝叶斯判决 最小风险贝叶斯决策风险判决曲线如图2所示，其中带*的绿色曲线代表异常细胞的条件风险曲线；另一条光滑的蓝色曲线为判为正常细胞的条件风险曲线。根据贝叶斯最小

15、风险判决准则，判决结果见曲线下方，其中“上三角”代表判决为正常细胞，“圆圈“代表异常细胞。各细胞分类结果：1 0 0 0 0 0 0 0 0 0 0 0 1 1 0 1 1 1 0 0 0 1 0 1其中，0为判成正常细胞，1为判成异常细胞图2 基于最小风险的贝叶斯判决【实验分析】由最小错误率的贝叶斯判决和基于最小风险的贝叶斯判决得出的图形中的分类结果可以看出，样本-3.9934、-3.9847在前者中被分为“正常细胞”，在后者中被分为“异常细胞”，分类结果截然不同。因为在给予最小风险的贝叶斯判决中，影响决策结果的因素多了一个“损失”。可以看出，在图1中，这两个样本点下两类决策的后验概率相差很小，当结合最小风险贝叶斯决策表进行计算时，“