模式识别5_精品文档PPT课件下载推荐.ppt

1、q噪声影响噪声影响q问题本身问题本身n采用非线性分类器采用非线性分类器n改变特征，使线性可分改变特征，使线性可分q新特征新特征q非线性变换非线性变换5.1 5.1 引言引言由于样本在特征空间分布的由于样本在特征空间分布的复杂性，许多情况下采用线复杂性，许多情况下采用线性判别函数不能取得满意的性判别函数不能取得满意的分类效果。分类效果。非线性判别函非线性判别函非线性判别函非线性判别函数数数数例如右图所示两类物体在二例如右图所示两类物体在二维特征空间的分布，采用线维特征空间的分布，采用线性判别函数就无法取得满意性判别函数就无法取得满意的分类效果。在这种情况下，的分类效果。在这种情况下，可以采用分段

2、线性判别或二可以采用分段线性判别或二次函数判别等方法，效果就次函数判别等方法，效果就会好得多。会好得多。5.1 5.1 引言引言n一种特殊的非线性判别函数一种特殊的非线性判别函数分段线性判别函数分段线性判别函数q决策面由若干超平面段组成，计算比较简单决策面由若干超平面段组成，计算比较简单q能逼近各种形状的超曲面，适应能力强能逼近各种形状的超曲面，适应能力强 5.25.2基于距离的分段线性判别函数基于距离的分段线性判别函数n n出发点：出发点：如果两类样本可以划分为线性可分的若干子类，则可以设计多个线性分类器，实现分段线性分类器。n n基本思想：基本思想：用均值作为各类的代表点，用通过均值连线中

3、点的垂直线对样本集进行分类5.25.2基于距离的分段线性判别函数基于距离的分段线性判别函数5.25.2基于距离的分段线性判别函数基于距离的分段线性判别函数n把把i类可以分成类可以分成li个子类，或者说，把属于个子类，或者说，把属于i 类的样本区域类的样本区域Ri分为分为li个子区域。个子区域。n现在定义mil表示第i类第l个子区域中样本的均值向量，并以此作为该子区域的代表点。定义判别函数判别函数判别函数判别函数如下：（在同类的子类中找最近的均值。）（在同类的子类中找最近的均值。）判别规则：判别规则：这是在M类中找最近均值。则把x归于j类完成分类。分段线性距离分类器分段线性距离分类器5.25.2

4、基于距离的分段线性判别函数基于距离的分段线性判别函数v例：未知x,如图：v先与1类各子类的均值比较，即 ，找一个最近的 与2各子类均值比较取最近的 因g2（x）1/2，则，则zj区域为区域为1的决策域；的决策域；2、如果、如果L1/2，则，则zj区域为区域为2的决策域；3、如果、如果L1/2，且，且N1（zj（x）和和N2（zj（x）都很小，则都很小，则zj区域内区域内样本可作拒绝决策；样本可作拒绝决策；4、如果、如果L1/2，且，且N1（zj（x）和和N2（zj（x）都很大数量不可忽略，都很大数量不可忽略，则对此区域，说明还缺少超平面段，要用该子集的样本再次则对此区域，说明还缺少超平面段，要

5、用该子集的样本再次进行局部训练法训练，以获得其进一步划分。进行局部训练法训练，以获得其进一步划分。5、重复上述过程，直至对所有区域都能合理地确定为哪一类、重复上述过程，直至对所有区域都能合理地确定为哪一类的决策域，或拒识区域为止。的决策域，或拒识区域为止。分段线性分类器的检验决策规则分段线性分类器的检验决策规则（1 1）将每类分为三个聚类）将每类分为三个聚类（2 2）找出紧互对原型对集合）找出紧互对原型对集合（3 3）局部训练法得到超平面）局部训练法得到超平面H H1 1和和H H2 2-缺少超平面段？缺少超平面段？（4 4）重复以上算法，得到）重复以上算法，得到H H3 3 。分段线性分类器的检验决策规则分段线性分类器的检验决策规则图中图中Z Z向量为向量为（1（1，1 1，1）1）、（1（1，1 1，0）0）以及以及（0（0，1 1，0）0）的区域为的区域为2 2的决策域，而的决策域，而（0（0，1 1，1）（01）（0，0 0，0）0）及及（0（0，0 0，1）1）区域则为区域则为1 1的决策域。的决策域。例题：5.5 5.5 本章小结本章小结n非线性判别函数与分段线性判别函数n基于距离的分段线性判别函数n分段线性分类器的设计n用交遇区的样本设计分段线性分类器