第十章 分类分析.docx
《第十章 分类分析.docx》由会员分享,可在线阅读,更多相关《第十章 分类分析.docx(25页珍藏版)》请在冰豆网上搜索。
第十章分类分析
第十章分类分析
第一节K-MeansCluster过程
10.1.1主要功能
10.1.2实例操作
第二节HierarchicalCluster过程
10.2.1主要功能
10.2.2实例操作
第三节Discriminant过程
10.3.1主要功能
10.3.2实例操作
人们认识事物时往往先把被认识的对象进行分类,以便寻找其中同与不同的特征,因而分类学是人们认识世界的基础科学。
在医学实践中也经常需要做分类的工作,如根据病人的一系列症状、体征和生化检查的结果,判断病人所患疾病的类型;或对一系列检查方法及其结果,将之划分成某几种方法适合用于甲类病的检查,另几种方法适合用于乙类病的检查;等等。
统计学中常用的分类统计方法主要是聚类分析与判别分析。
聚类分析是直接比较各事物之间的性质,将性质相近的归为一类,将性质差别较大的归入不同的类。
判别分析则先根据已知类别的事物的性质,利用某种技术建立函数式,然后对未知类别的新事物进行判断以将之归入已知的类别中。
聚类分析与判别分析有很大的不同,聚类分析事先并不知道对象类别的面貌,甚至连共有几个类别也不确定;判别分析事先已知对象的类别和类别数,它正是从这样的情形下总结出分类方法,用于对新对象的分类。
第一节K-MeansCluster过程
10.1.1主要功能
调用此过程可完成由用户指定类别数的大样本资料的逐步聚类分析。
所谓逐步聚类分析就是先把被聚对象进行初始分类,然后逐步调整,得到最终分类。
10.1.2实例操作
[例10.1]为研究儿童生长发育的分期,调查1253名1月至7岁儿童的身高(cm)、体重(kg)、胸围(cm)和坐高(cm)资料。
资料作如下整理:
先把1月至7岁划成19个月份段,分月份算出各指标的平均值,将第1月的各指标平均值与出生时的各指标平均值比较,求出月平均增长率(%),然后第2月起的各月份指标平均值均与前一月比较,亦求出月平均增长率(%),结果见下表。
欲将儿童生长发育分为四期,故指定聚类的类别数为4,请通过聚类分析确定四个儿童生长发育期的起止区间。
月份
月平均增长率(%)
身高
体重
胸围
坐高
1
2
3
4
6
8
10
12
15
18
24
30
36
42
48
54
60
66
72
11.03
5.47
3.58
2.01
2.13
2.06
1.63
1.17
1.03
0.69
0.77
0.59
0.65
0.51
0.73
0.53
0.36
0.52
0.34
50.30
19.30
9.85
4.17
5.65
1.74
2.04
1.60
2.34
1.33
1.41
1.25
1.19
0.93
1.13
0.82
0.52
1.03
0.49
11.81
5.20
3.14
1.47
1.04
0.17
1.04
0.89
0.53
0.48
0.52
0.30
0.49
0.16
0.35
0.16
0.19
0.30
0.18
11.27
7.18
2.11
1.58
2.11
1.57
1.46
0.76
0.89
0.58
0.42
0.14
0.38
0.25
0.55
0.34
0.21
0.55
0.16
10.1.2.1数据准备
激活数据管理窗口,定义变量名:
虽然月份分组不作分析变量,但为了更直观地了解聚类结果,也将之输入数据库,其变量名为month;身高、体重、胸围和坐高的变量名分别为x1、x2、x3和x4,输入原始数额。
10.1.2.2统计分析
激活Statistics菜单选Classify中的K-MeansCluster...项,弹出K-MeansClusterAnalysis对话框(如图10.1示)。
从对话框左侧的变量列表中选x1、x2、x3、x4,点击钮使之进入Variables框;在NumberofClusters(即聚类分析的类别数)处输入需要聚合的组数,本例为4;在聚类方法上有两种:
Iterateandclassify指先定初始类别中心点,而后按K-means算法作叠代分类,Classifyonly指仅按初始类别中心点分类,本例选用前一方法。
图10.1逐步聚类分析对话框
为在原始数据库中逐一显示分类结果,点击Save...钮弹出K-MeansCluster:
SaveNewVariables对话框,选择Clustermembership项,点击Continue钮返回K-MeansClusterAnalysis对话框。
本例还要求对聚类结果进行方差分析,故点击Options...钮弹出K-MeansCluster:
来Options对话框,在Statistics栏中选择ANOVAtable项,点击Continue钮返回K-MeansClusterAnalysis对话框,再点击OK钮即完成分析。
10.1.2.3结果解释
在结果输出窗口中将看到如下统计数据:
首先系统根据用户的指定,按4类聚合确定初始聚类的各变量中心点,未经K-means算法叠代,其类别间距离并非最优;经叠代运算后类别间各变量中心值得到修正。
InitialClusterCenters.
ClusterX1X2X3X4
111.030050.300011.810011.2700
25.470019.30005.20007.1800
33.58009.85003.14002.1100
4.3400.4900.1800.1600
Convergenceachievedduetonoorsmalldistancechange.
Themaximumdistancebywhichanycenterhaschangedis.0000
Currentiterationis2
Minimumdistancebetweeninitialcentersis10.5200
IterationChangeinClusterCenters
1234
1.0000.00002.46E+001.27E+00
2.0000.0000.0000.0000
CaselistingofClustermembership.
CaseIDClusterDistance
11.000
22.000
332.457
443.219
532.457
641.530
741.346
84.515
94.915
104.266
114.281
124.668
134.467
144.844
154.415
164.873
1741.215
184.619
1941.269
FinalClusterCenters.
ClusterX1X2X3X4
111.030050.300011.810011.2700
25.470019.30005.20007.1800
32.85507.75002.09002.1100
4.90601.4660.4820.6560
之后对聚类结果的类别间距离进行方差分析,方差分析表明,类别间距离差异的概率值均<0.001,即聚类效果好。
这样,原有19类(即原有的19个月份分组)聚合成4类,第一类含原有1类,第二类含原有1类,第三类含原有2类,第四类含原有15类。
具体结果系统以变量名QCL_1存于原始数据库中。
DistancesbetweenFinalClusterCenters.
Cluster1234
1.0000
232.4397.0000
345.340013.2521.0000
452.232520.09246.9273.0000
AnalysisofVariance.
VariableClusterMSDFErrorMSDFFProb
X137.58063.36915.0101.7853.000
X2817.116431.35415.0603.2588.000
X345.40893.28115.0161.1145.000
X446.09943.23515.0195.4933.000
NumberofCasesineachCluster.
Clusterunweightedcasesweightedcases
11.01.0
21.01.0
32.02.0
415.015.0
Missing0
Validcases19.019.0
VariableSavedintoWorkingFile.
QCL_1(ClusterNumber)
在原始数据库(图10.2)中,我们可清楚地看到聚类结果;参照专业知识,将儿童生长发育分期定为:
第一期,出生后至满月,增长率最高;
第二期,第2个月起至第3个月,增长率次之;
第三期,第3个月起至第8个月,增长率减缓;
第四期,第8个月后,增长率显著减缓。
图10.2逐步聚类分析的分类结果
第二节HierarchicalCluster过程
10.2.1主要功能
调用此过程可完成系统聚类分析。
在系统聚类分析中,用户事先无法确定类别数,系统将所有例数均调入内存,且可执行不同的聚类算法。
系统聚类分析有两种形式,一是对研究对象本身进行分类,称为Q型举类;另一是对研究对象的观察指标进行分类,称为R型聚类。
10.2.2实例操作
[例10.2]29名儿童的血红蛋白(g/100ml)与微量元素(μg/100ml)测定结果如下表。
由于微量元素的测定成本高、耗时长,故希望通过聚类分析(即R型指标聚类)筛选代表性指标,以便更经济快捷地评价儿童的营养状态。
10.2.2.1数据准备
激活数据管理窗口,定义变量名:
钙、镁、铁、锰、铜和血红蛋白的变量名分别为x1、x2、x3、x4、x5、x6,之后输入原始数据。
10.2.2.2统计分析
激活Statistics菜单选Classify中的HierarchicalCluster...项,弹出HierarchicalClusterAnalysis对话框(图10.3)。
从对话框左侧的变量列表中选x1、x2、x3、x4、x5、x6,点击钮使之进入Variable(s)框;在Cluster处选择聚类类型,其中Cases表示观察对象聚类,Variables表示变量聚类,本例选择Variables。
图10.3系统聚类分析对话框
点击Statistics...钮,弹出HierarchicalClusterAnalysis:
Statistics对话框,选择Distancematrix,要求显示距离矩阵,点击Continue钮返回HierarchicalClusterAnalysis对话框(图10.4)。
图10.4系统聚类方法选择对话框
本例要求系统输出聚类结果的树状关系图,故点击Plots...钮弹出HierarchicalClusterAnalysis:
Plots对话框,选择Dendrogram项,点击Continue钮返回HierarchicalClusterAnalysis对话框。
点击Method...钮弹出HierarchicalClusterAnalysis:
Method对话框,系统提供7种聚类方法供用户选择:
Between-groupslinkage:
类间平均链锁法;
Within-groupslinkage:
类内平均链锁法;
Nearestneighbor:
最近邻居法;
Furthestneighbor:
最远邻居法;
Centroidclustering:
重心法,应与欧氏距离平方法一起使用;
Medianclustering:
中间距离法,应与欧氏距离平方法一起使用;
Ward'smethod:
离差平方和法,应与欧氏距离平方法一起使用。
本例选择类间平均链锁法(系统默认方法)。
在选择距离测量技术上,系统提供8种形式供用户选择:
Euclideandistance:
Euclidean距离,即两观察单位间的距离为其值差的平方和的平方根,该技术用于Q型聚类;
SquaredEuclideandistance:
Euclidean距离平方,即两观察单位间的距离为其值差的平方和,该技术用于Q型聚类;
Cosine:
变量矢量的余弦,这是模型相似性的度量;
Pearsoncorrelation:
相关系数距离,适用于R型聚类;
Chebychev:
Chebychev距离,即两观察单位间的距离为其任意变量的最大绝对差值,该技术用于Q型聚类;
Block:
City-Block或Manhattan距离,即两观察单位间的距离为其值差的绝对值和,适用于Q型聚类;
Minkowski:
距离是一个绝对幂的度量,即变量绝对值的第p次幂之和的平方根;p由用户指定
Customized:
距离是一个绝对幂的度量,即变量绝对值的第p次幂之和的第r次根,p与r由用户指定。
本例选用Pearsoncorrelation,点击Continue钮返回HierarchicalClusterAnalysis对话框,再点击OK钮即完成分析。
10.2.2.3结果解释
在结果输出窗口中将看到如下统计数据:
共29例样本进入聚类分析,采用相关系数测量技术。
先显示各变量间的相关系数,这对于后面选择典型变量是十分有用的。
然后显示类间平均链锁法的合并进程,即第一步,X3与X6被合并,它们之间的相关系数最大,为0.863431;第二步,X1与X5合并,其间相关系数为0.624839;第三步,X2与第一步的合并项被合并,它们之间的相关系数为0.602099;第四步,它们与第二步的合并项再合并,其间相关系数为0.338335;第五步,与最后一个变量X4合并,这个相关系数最小,为-0.054485。
DataInformation
29unweightedcasesaccepted.
0casesrejectedbecauseofmissingvalue.
Correlationmeasureused.
CorrelationSimilarityCoefficientMatrix
VariableX1X2X3X4X5
X2.5379
X3.2995.6349
X4.1480-.1212-.2706
X5.6248.5820.2653.2939
X6.0972.5693.8634-.3226.2481
AgglomerationScheduleusingAverageLinkage(BetweenGroups)
ClustersCombinedStageCluster1stAppearsNext
StageCluster1Cluster2CoefficientCluster1Cluster2Stage
136.863431003
215.624839004
323.602099014
412.338335235
514-.054485400
按类间平均链锁法,变量合并过程的冰柱图如下。
先是X3与X6合并,接着X1与X5合并,然后X3、X6与X2合并,接着再与X1、X5合并,最后加上X4,六个变量全部合并。
VerticalIciclePlotusingAverageLinkage(BetweenGroups)
(Down)NumberofClusters(Across)CaseLabelandnumber
下面用更为直观的聚类树状关系图表示,即X1、X2、X3、X5、X6先聚合后与X4再聚合。
这表明,在评价儿童营养状态时,可在微量元素钙、镁、铁、铜和血红蛋白5个指标中选择一个,再加上微量元素锰即可,其效果与六个指标都用是基本等价的,但更经济更迅速。
DendrogramusingAverageLinkage(BetweenGroups)
RescaledDistanceClusterCombine
微量元素钙、镁、铁、铜和血红蛋白聚合成一类,在这5个指标中如何选择一个典型指标呢?
先按下式计算类中每一变量与其余变量的相关指数(即相关系数的平方)的均值,而后把该值最大的变量作为典型指标。
=
(式中m为类中变量个数)
本例相关指数的均值依次为:
=
=0.1947
=
=0.3388
=
=0.3272
=
=0.2164
=
=0.2851
故选择镁(变量X2)典型指标。
第三节Discriminant过程
10.3.1主要功能
调用此过程可完成判别分析。
判别分析目前在医学中得以广泛应用,不仅在于它所建立的判别式可用于临床辅助诊断,而且判别分析可分析出各种因素对特定结果的作用力大小,故亦可用于病因学或疾病预后的推测。
10.3.2实例操作
[例10.3]为研究舒张期血压和血浆胆固醇对冠心病的作用,某医师测定了50-59岁冠心病人15例和正常人16例的舒张压和胆固醇指标,结果如下,试作判别分析,建立判别函数以便在临床中用于筛选冠心病人。
编号
冠心病人组
编号
正常人组
舒张压kPa
x1
胆固醇mmol/L
x2
舒张压kPa
x1
胆固醇mmol/L
x2
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
9.86
13.33
14.66
9.33
12.80
10.66
10.66
13.33
13.33
13.33
12.00
14.66
13.33
12.80
13.33
5.18
3.73
3.89
7.10
5.49
4.09
4.45
3.63
5.96
5.70
6.19
4.01
4.01
3.63
5.96
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
10.66
12.53
13.33
9.33
10.66
10.66
9.33
10.66
10.66
10.66
10.40
9.33
10.66
10.66
11.20
9.33
2.07
4.45
3.06
3.94
4.45
4.92
3.68
2.77
3.21
5.02
3.94
4.92
2.69
2.43
3.42
3.63
10.3.2.1数据准备
激活数据管理窗口,舒张压、胆固醇的变量名分别以x1、x2表示,将冠心病人资料和正常人资料合并,一同输入。
而后,再定义一变量名为result,用于区分冠心病人资料和正常人资料,即冠心病人资料的result值均为1,正常人资料的result值均为2。
10.3.2.2统计分析
激活Statistics菜单选Classify中的Discriminant...项,弹出DiscriminantAnalysis对话框(图10.5)。
从对话框左侧的变量列表中选result,点击钮使之进入GroupingVariable框,并点击DefineRange...钮,在弹出的DiscriminantAnalysis:
DefineRange对话框中,定义判别原始数据的类别区间,本例为两类,故在Minimum处输入1、在Maximum处输入2,点击Continue钮返回DiscriminantAnalysis对话框。
再从对话框左侧的变量列表中选x1、x2,点击钮使之进入Independents框,作为判别分析的基础数据变量。
图10.5判别分析对话框
系统提供两类判别方式供选择,一是EnterIndependenttogether,即判别的原始变量全部进入判别方程;另一是Usestepwisemethod,即采用逐步的方法选择变量进入方程。
对于后者,系统有5种逐步选择方式:
Wilks'lambda:
按统计量Wilksλ最小值选择变量;
Unexplainedvariance:
按所有组方差之和的最小值选择变量;
Mahalanobis'distance:
按相邻两组的最大Mahalanobis距离选择变量;
SmallestFratio:
按组间最小F值比的最大值选择变量;
Rao'sV:
按统计量RaoV最大值选择变量。
本例由于变量数仅为2个,倾向让两个变量均进入方程,故选用EnterIndependenttogether判别方式。
点击Statistics...钮,弹出DiscriminantAnalysis:
Statistics对话框,在Descriptive栏中选Means项,要求对各组的各变量作均数与标准差的描述;在FunctionCoefficients栏中选Unstandardized项,要求显示判别方程的非标准化系数。
之后,点击Continue钮返回DiscriminantAnalysis对话框。
点击Classify...钮,弹出DiscriminantAnalysis:
Classification对话框,在Plot栏选Combinedgroups项,要求作合并的判别结果分布图;在Display栏选Resultsforeachcase项,要求对原始资料根据建立的判别方程作逐一回代重判别,同时选Summarytable项,要求对这种回代判别结果进行总结评价。
之后,点击Continue钮返回DiscriminantAnalysis对话框。
点击Save...钮,弹出DiscriminantAnalysis:
SaveNewVariables对话框,选Predictedgroupmembership项要求将回代判别的结果存入原始数据库中。
点击Continue钮返回DiscriminantAnalysis对话框,之后再点击OK钮即完成分析