西交大模式识别实验报告.docx

1、西交大模式识别实验报告实验报告一、问题描述题目1：研究一些概率密度函数的估计的特性：（a） 编写程序，根据均匀分布产生位于单位立方体内的样本点，即-,其中i=1,2,3.共产生个点。（b） 编写程序，基于这个样本点，估计原点附近的概率密度，作为边长为h的立方体体积的函数。并且对于,画出估计的函数图像。（c） 估计原点附近的概率密度，使用n个样本点，并且选择窗使得恰好包含进n个样本点。对于，画出估计的函数图像。（d） 编写程序，产生服从球形高斯分布的概率密度（其中=I）并且以原点为中心的样本点。利用你的高斯数据重复（b）和(c)。（e） 定性的讨论在一致和高斯密度两种情况下，估计结果对函数形式的

2、依赖性的异同点。题目2：考虑对于表格中的数据进行Parzen窗估计和设计分类器。窗函数为一个球形的高斯函数，如下所示：（a） 编写程序，使用Parzen窗估计方法对一个任意的测试样本点x进行分类。对分类器的训练则使用表格中的三维数据。同时令h=1，分类样本点为, ,。（b）现在我们令h=0.1,重复（a）.二、复现代码（Matlab或Pyhton或其他）题目1：(a)x=unifrnd(-1/2,1/2,1,10000);y=unifrnd(-1/2,1/2,1,10000);z=unifrnd(-1/2,1/2,1,10000);plot3(x,y,z,r.)(b)x=unifrnd(-1/

3、2,1/2,1,10000);y=unifrnd(-1/2,1/2,1,10000);z=unifrnd(-1/2,1/2,1,10000);n=10000;p=;t=;h=0:0.001:1;for h=0:0.001:1 m=0;for i=1:10000if (abs(x(i)(1/2*h)&(abs(y(i)(1/2*h)&(abs(z(i)(1/2*h) m=m+1;endend t=t;h; k=m/(n*(h3); p=p;k;endplot(t,p)xlabel(h)ylabel(概率密度p)(c)k=1:10000;n=10000;x=;y=;for k=1:10000 x=

4、x;k; p=(1/n)/(1/sqrt(k); y=y;p;endplot(x,y)xlabel(n)ylabel(概率密度p)(d)N=10000ang1=rand(1,N)*2*pi;%随机10000个02pi高斯分布的角度1ang2=acos(rand(1,N)*2-1);%随机10000个-11高斯分布的反余弦获得角度2r=rand(1,N).(1/3);%随机10000个01高斯分布数的开立方为到原点距离x=r.*cos(ang1).*sin(ang2);%xy=r.*sin(ang1).*sin(ang2);%yz=r.*cos(ang2);%zfigure(1)plot3(x,

5、y,z,r.);grid on;axis square;n=10000;p=;t=;h=0:0.001:1;for h=0:0.001:1 m=0;for i=1:10000if (abs(x(i)(1/2*h)&(abs(y(i)(1/2*h)&(abs(z(i)(1/2*h) m=m+1;endend t=t;h; k=m/(n*(h3); p=p;k;endfigure(2)plot(t,p)xlabel(h)ylabel(概率密度p)k=1:10000;n=10000;x=;y=;for k=1:10000 x=x;k; p=1/n/(1/sqrt(k); y=y;p;endfigur

6、e(3)plot(x,y)xlabel(n)ylabel(概率密度p)题目2：% Parzen窗算法% w：c类训练样本% x：测试样本% h：参数% 输出p：测试样本x落在每个类的概率function p = Parzen(w,x,h)xt,yt,zt = size(w);p = zeros(1,zt);for i = 1:zt hn = h;for j = 1:xt hn = hn / sqrt(j); p(i) = p(i) + exp(-(x - w(j,:,i)*(x - w(j,:,i)/ (2 * power(hn,2) / (hn * sqrt(2*3.14);end p(i)

7、 = p(i) / xt;endw1(:,:,1) = 0.28 1.31 -6.2;. 0.07 0.58 -0.78;. 1.54 2.01 -1.63;. -0.44 1.18 -4.32;. -0.81 0.21 5.73;. 1.52 3.16 2.77;. 2.20 2.42 -0.19;. 0.91 1.94 6.21;. 0.65 1.93 4.38;. -0.26 0.82 -0.96;w1(:,:,2) = 0.011 1.03 -0.21;. 1.27 1.28 0.08;. 0.13 3.12 0.16;. -0.21 1.23 -0.11;. -2.18 1.39 -

8、0.19;. 0.34 1.96 -0.16;. -1.38 0.94 0.45;. -0.12 0.82 0.17;. -1.44 2.31 0.14;. 0.26 1.94 0.08;w1(:,:,3) = 1.36 2.17 0.14;. 1.41 1.45 -0.38;. 1.22 0.99 0.69;. 2.46 2.19 1.31;. 0.68 0.79 0.87;. 2.51 3.22 1.35;. 0.60 2.44 0.92;. 0.64 0.13 0.97;. 0.85 0.58 0.99;. 0.66 0.51 0.88;x=zeros(3,3);x(1,:) = 0.5

9、 1 0;x(2,:) = 0.31 1.51 -0.5;x(3,:) = -0.3 0.44 -0.1;h =0.1; %重要参数p = Parzen(w1,x(1,:),h);num = find(p = max(p);disp(点：,num2str(x(1,:),落在三个类别的概率分别为：,num2str(p);disp(点：,num2str(x(1,:),落在第,num2str(num),类);p = Parzen(w1,x(2,:),h);num = find(p = max(p);disp(点：,num2str(x(2,:),落在三个类别的概率分别为：,num2str(p);dis

10、p(点：,num2str(x(2,:),落在第,num2str(num),类);p = Parzen(w1,x(3,:),h);num = find(p = max(p);disp(点：,num2str(x(3,:),落在三个类别的概率分别为：,num2str(p);disp(点：,num2str(x(3,:),落在第,num2str(num),类);三、结果分析题目1：(b)当h很小时，概率密度函数并非为1，甚至远大于1是因为样本数目并非无穷大，只是的近似值。h越小，V越小，越大。(c)(d)(e)均匀分布的概率密度函数为一个矩形窗，高斯分布的概率密度曲线为具有一个单峰的平滑曲线。两种分布的

11、概率密度估计值都和带宽即设置的窗口大小有关，选择不同的带宽，会得到不同的概率估计值。带宽越大，概率密度估计值越大，在不同的函数形式下，选择相同的h估计结果不同，但是选择相同的n，估计结果相同。题目2：h=0.1时点：0.5 1 0落在三个类别的概率分别为：4.3451e-43 2.7003e-07 2.4543e-47点：0.5 1 0落在第2类点：0.31 1.51 -0.5落在三个类别的概率分别为：1.9187e-44 6.7674e-10 2.0289e-43点：0.31 1.51 -0.5落在第2类点：-0.3 0.44 -0.1落在三个类别的概率分别为：7.4653e-28 4.77

12、65e-11 3.3355e-127点：-0.3 0.44 -0.1落在第2类h=1时点：0.5 1 0落在三个类别的概率分别为：0.021399 0.063487 0.036143点：0.5 1 0落在第2类点：0.31 1.51 -0.5落在三个类别的概率分别为：0.020753 0.04831 0.031649点：0.31 1.51 -0.5落在第2类点：-0.3 0.44 -0.1落在三个类别的概率分别为：0.030391 0.034147 0.0032054点：-0.3 0.44 -0.1落在第2类h选择不同值时，同一点落在三个类别的概率不同，但是决策基本一致，可能是因为选取的判别点存在一定的特殊性。四、实验总结通过本次实验任务，我对于非参数估计的知识有了更深的理解。学会了产生均匀分布和球形高斯分布的样本点，并对原点附近进行概率密度的估计，学会了用Parzen窗对概率密度进行估计，并对样本点进行分类。实验中遇到了一些问题，对于V的理解，在本次实验中，我统一将他们理解为了小立方体的体积即h3,但得到的曲线并不平滑，还有些奇怪，我想我需要进一步的和同学或老师讨论学习，从而确定这种理解是否有错。