SAS期末论文聚类分析判别分析.docx
《SAS期末论文聚类分析判别分析.docx》由会员分享,可在线阅读,更多相关《SAS期末论文聚类分析判别分析.docx(25页珍藏版)》请在冰豆网上搜索。
SAS期末论文聚类分析判别分析
上海应用技术学院
《统计软件》课程
期末论文
系(院):
理学院
专业:
数学与应用数学
班级:
学生姓名:
学号:
指导教师:
耿兴波
开课时间:
2012-2013学年一学期
题目:
1.聚类分析
某网站键鼠频道为广大职业玩家及游戏爱好者策划了一次全面的游戏鼠标横向测试,通过专家和消费者打分的形式,收集到了13款游戏鼠标的重要参数,即外观及手感、芯片及微动、功能及驱动、兼容性、游戏性等数据,(数据见Mouse_Cluster.sas7bdat)。
要求以这些指标为依据对所收集的样本进行聚类分析。
2.判别分析
在上述聚类分析中,取Ward法聚类结果把13个鼠标分为3类。
假定这13个鼠标的样本来自于已有类别的总体(即已知具体鼠标类别的训练样本)。
现又有两款鼠标的测评数据(Mouce_Discrim.sas7bdat),试利用判别分析的方法把两款鼠标归入对应的类别。
要求:
1.介绍SAS软件。
2.介绍聚类分析的基本原理
3.介绍使用了哪些命令。
4.介绍题目,结果及最后的分析。
SAS软件介绍
一、概述
SAS系统全称为StatisticsAnalysisSystem,最早由北卡罗来纳大学的两位生物统计学研究生编制,并于1976年成立了SAS软件研究所,正式推出了SAS软件。
SAS是用于决策支持的大型集成信息系统,但该软件系统最早的功能限于统计分析,至今,统计分析功能也仍是它的重要组成部分和核心功能。
SAS现在的版本为9.0版,大小约为1G。
经过多年的发展,SAS已被全世界120多个国家和地区的近三万家机构所采用,直接用户则超过三百万人,遍及金融、医药卫生、生产、运输、通讯、政府和教育科研等领域。
在英美等国,能熟练使用SAS进行统计分析是许多公司和科研机构选材的条件之一。
在数据处理和统计分析领域,SAS系统被誉为国际上的标准软件系统,并在96~97年度被评选为建立数据库的首选产品。
堪称统计软件界的巨无霸。
在此仅举一例如下:
在以苛刻严格著称于世的美国FDA新药审批程序中,新药试验结果的统计分析规定只能用SAS进行,其他软件的计算结果一律无效!
哪怕只是简单的均数和标准差也不行!
由此可见SAS的权威地位。
SAS系统是一个组合软件系统,它由多个功能模块组合而成,其基本部分是BASESAS模块。
BASESAS模块是SAS系统的核心,承担着主要的数据管理任务,并管理用户使用环境,进行用户语言的处理,调用其他SAS模块和产品。
也就是说,SAS系统的运行,首先必须启动BASESAS模块,它除了本身所具有数据管理、程序设计及描述统计计算功能以外,还是SAS系统的中央调度室。
它除可单独存在外,也可与其他产品或模块共同构成一个完整的系统。
各模块的安装及更新都可通过其安装程序非常方便地进行。
SAS有一个智能型绘图系统,不仅能绘各种统计图,还能绘出地图。
SAS提供多个统计过程,每个过程均含有极丰富的任选项。
用户还可以通过对数据集的一连串加工,实现更为复杂的统计分析。
此外,SAS还提供了各类概率分析函数、分位数函数、样本统计函数和随机数生成函数,使用户能方便地实现特殊统计要求。
SAS软件的宗旨是为所有需要进行数据处理、数据分析的计算机或者非计算机工作人员提供一种易学易用、完整可靠的软件系统。
SAS语言本身是一种非过程语言(第四代语言),类似于C语言,且综合了各种高级语言的功能和灵活的格式,将数据处理和统计分析融合于一体。
SAS在统计分析领域和数据挖掘技术几乎处于垄断地位,成为国际上流行标准企业管理软件。
经过近30年的不断发展完善,SAS系统已由最初的统计分析软件发展成为大型集成应用软件系统,发展成具有完备的数据集成访问、数据仓库管理、决策业务分析,数据挖掘等功能。
SAS和SPSS、BMDP并称为国际上最富知名度的三大统计软件。
在国际学术界有条不成文的规定:
凡是用SAS和SPSS统计分析的结果,在国际学术交流中不必说明算法,由此可见其权威性和信誉度。
学习SAS软件时,需要读者有基本的统计学知识,对所选用的统计方法有较清楚的了解,没有统计学基础知识要掌握SAS软件较为困难。
SAS系统是一个由三十多个专用模块组成的大型集成式软件包。
其功能包括客户机/服务器计算、数据访问、数据存储及管理、应用开发、图形处理、数据分析、报告编制、质量控制、项目管理、运筹学方法、计量经济学与预测等。
实际使用时可以根据需要选择相应的模块。
SAS主要有如下模块:
SAS基本部分:
称为SAS/BASE。
可以完成基本的数据管理工作和数据统计工作,是SAS系统的基础,所有其它SAS模块必须与之结合使用。
SAS分析核心:
这一部分是SAS系统的灵魂。
它提供了严肃的、权威的数据分析与决策支持功能。
包括SAS/STAT(高级统计),SAS/ETS(时间序列分析),SAS/IML(交互式矩阵语言),SAS/OR(运筹学),SAS/QC(质量控制),SAS/INSIGHT,SAS/LAB。
SAS开发工具:
面向对象的开发工具,可以定制信息处理应用系统。
包括SAS/AF,SAS/EIS(经济信息系统),SAS/GRAPH(图形处理)等模块。
SAS分布式处理及数据仓库设计:
此部分为SAS的高级数据处理功能。
包括SAS/ACCESS,SAS/CONNECT,SAS/SHARE等模块。
SAS的这些模块可单独使用、也可互相配合起来使用,其中最常用的3个模块分别是SAS/BASE(基础)、SAS/STAT(统计)和SAS/GRAPH(图形),
二、SAS系统的特点
SAS系统是一个模块化的集成软件系统,便于用户根据自己的需要进行选择。
其基本部分是BaseSAS软件,此外还有用于统计分析的SAS/STAT软件;用于高级绘图的SAS/GRAPH软件;用于矩阵运算的SAS/IML软件;用于运筹学和线性规划的SAS/OR软件;用于经济预测和时间序列分析的SAS/ETS软件等。
1)操作简便
SAS的宗旨是为所有需要进行数据处理、数据分析的非计算机专业人员提供一种易学易用、完整可靠的软件系统。
用户把要解决的问题用SAS语言(近乎自然英语的非过程语言)表达出来,组成SAS程序,提交给SAS系统就可以解决所提出的问题。
执行情况和输出结果都在屏幕上显示出来。
2)SAS系统将数据管理与统计分析融为一体
SAS程序的结构由两个基本步骤任意组合而成。
DATA用于对数据的加工处理;PROC用于分析数据和编写报告。
SAS系统克服了通常软件或偏重于数据管理功能或偏重于统计分析的弊病,把数据管理与统计分析有机地结合在一起。
3)适用性强、应用面广
SAS系统适用于任何经验的人员(初学者或有经验的用户);适用于任何类型的数据;适用于几乎是任何应用的需要;适用于任何计算机环境;适用于今日与未来(扩展性能强)。
聚类分析
基本原理:
聚类分析又称群分析,是根据“物以类聚”的道理,对样品或指标进行分类的一种多元统计分析方法,它们讨论的对象是大量的样品,要求能合理地按各自的特性来进行合理的分类,没有任何模式可供参考或依循,即是在没有先验知识的情况下进行的。
其实质是寻找一些能客观反映研究对象之间亲疏关系的统计量,然后根据这种统计量把研究对象按距离相近或性质相似的原则分成若干类,以便对各组数据进行分类研究,找出组内数据的共性以及组间数据的差异。
聚类分析起源于分类学,在古老的分类学中,人们主要依靠经验和专业知识来实现分类,很少利用数学工具进行定量的分类。
随着人类科学技术的发展,对分类的要求越来越高,以致有时仅凭经验和专业知识难以确切地进行分类,于是人们逐渐地把数学工具引用到了分类学中,形成了数值分类学,之后又将多元分析的技术引入到数值分类学形成了聚类分析。
聚类分析被应用于很多方面,在商业上,聚类分析被用来发现不同的客户群,并且通过购买模式刻画不同的客户群的特征;在生物上,聚类分析被用来动植物分类和对基因进行分类,获取对种群固有结构的认识;在地理上,聚类能够帮助在地球中被观察的数据库商趋于的相似性;在保险行业上,聚类分析通过一个高的平均消费来鉴定汽车保险单持有者的分组,同时根据住宅类型,价值,地理位置来鉴定一个城市的房产分组;在因特网应用上,聚类分析被用来在网上进行文档归类来修复信息。
聚类分析的内容十分丰富,按其分类对象的不同就分为Q-型聚类分析(对样品分类),它是依据被观测的样品的各种特征,将特征相似的归为一类;R-型聚类分析(对指标或变量分类)是依据被观测的变量之间的相似性,将其特征相似的变量归并为一类。
聚类分析按其分类方法又分为系统聚类法、动态聚类法等。
系统聚类分析也称为分层聚类法HierarchicalCluster,它是聚类分析中应用最广泛的一种方法。
分层聚类的思想是:
开始将样品或指标各视为一类,根据类与类之间的距离或相似程度将最相似的类加以合并,再计算新类与其他类之间的相似程度,并选择最相似的类加以合并,这样每合并一次就减少一类,不断继续这一过程,直到所有样本或指标合并为一类为止。
动态聚类法也称为快速聚类法或K—均值聚类法,快速聚类的方法是:
首先按照一定的方法选取一批聚类中心,再将其他样本以聚类中心为标本凝聚起来,形成遵照一定原理的初始分类,然后按照最近距离原则,不断修改认为不合理分类直至合理为止。
使用的程序
/*程序文件cluster.sas*/
procclusterdata=TMP1.mouse_clusterstandardmethod=wardouttree=treepseudoccc;
/*先对数据进行标准化,采用Ward离差平方和法,并计算伪F统计量、伪t^2统计量、CCC统计量*/
/*idMOUSE_CLUSTER;*/
idBrand;
varTouchChipsDriverCompatibilityGame;
run;
用tree进行聚类分析
proctreedata=treehorizontal;/*横向画出谱系聚类图*/
idBrand;
run;
运行结果
SAS系统2012年12月20日星期四下午08时07分48秒1
TheFASTCLUSProcedure
Replace=FULLRadius=0Maxclusters=3Maxiter=1
InitialSeeds
ClusterTouchChipsDriverCompatibilityGame
--------------------------------------------------------------------------------------------------
ClusterSummary
MaximumDistance
RMSStdfromSeedRadiusNearestDistanceBetween
ClusterFrequencyDeviationtoObservationExceededClusterClusterCentroids
--------------------------------------------------------------------------------------------------
StatisticsforVariables
VariableTotalSTDWithinSTDR-SquareRSQ/(1-RSQ)
-----------------------------------------------------------------------
ApproximateExpectedOver-AllR-Squared=.
CubicClusteringCriterion=.
WARNING:
Thetwovaluesaboveareinvalidforcorrelatedvariables.
ClusterMeans
ClusterTouchChipsDriverCompatibilityGame
--------------------------------------------------------------------------------------------------
ClusterStandardDeviations
ClusterTouchChipsDriverCompatibilityGame
--------------------------------------------------------------------------------------------------
SAS系统2012年12月20日星期四下午08时07分48秒2
TheCLUSTERProcedure
Ward'sMinimumVarianceClusterAnalysis
EigenvaluesoftheCorrelationMatrix
EigenvalueDifferenceProportionCumulative
Thedatahavebeenstandardizedtomean0andvariance1
Root-Mean-SquareTotal-SampleStandardDeviation=1
ClusterHistory
NCL--------------------ClustersJoined--------------------FREQSPRSQRSQERSQCCCPSFPST2e
12明基幻影熊优派黑甲鼠20.0043.996..21.2.
11微软SideWinder罗技G920.0065.989..18.3.
10双飞燕XL-750FS微软Habu20.0113.978..14.7.
9Razer3G罗技新版MX51820.0115.966..14.4.
8苹果新概念
7多彩T2多彩DLM-615LU20.0305.909..9.9.
5美心点击王
4CL6Razer巨腹蛇
由tree图结构,在置信度为0.15时可分为三类,
A:
Razer3G罗技新版MX518双飞燕XL-750FS微软HabuRazer巨腹蛇
B:
微软SideWinder罗技G9
C:
美心点击王苹果新概念MG09V5U明基幻影熊优派黑甲鼠多彩T2多彩DLM-615LU
指令介绍
针对具有一个分类的变量和若干数值型的数据集,STEPDISC过程执行逐步判别分析的操作,从指定的指标变量中筛选出一组变量,以便于判别分析。
Procstepdisc常用的语法格式:
Procstepdisc<选项列表>;
Class<变量>;
Var<变量>;
Run;
stepdisc常用选项及说明:
Data=指定输入数据集,可为一般的类型,也可为其他特殊的类型(CORR、COVARIANCE、CSSCP、SSCP)
HETHOD=指定筛选变量的方法,也可是FORWARD、BACKWARD和STEPWISE,默认为STEPWISE
PR2ENTRY=指定变量进入模型须达到的平方偏相关系数值,此值必须小于等于1
结果分析
上述程序说明了使用系统聚类法来进行研究,并且绘制出聚类分析结果的树状图。
ccc说明需要计算半偏R2、R2和CCC统计量。
这三个统计量和下面的伪F和伪T2统计量主要用于检验聚类的效果。
当把数据从G+1类合并为G类时,半偏R2统计量说明了本次合并信息的损失程度,半偏R2统计量大说明信息的损失程度大。
R2统计量反映了类内离差平方和的大小,R2统计量大说明类内离差平方和小。
CCC统计量的值大说明聚类的效果好。
pseudo说明要计算伪F和伪T2统计量一般认为伪F统计量在出现峰值的是所对应的分类是较佳的分类选择。
当把数据从G+1类合并为G类时,如果伪T2统计量的值大,说明不应该合并这两类。
判别分析
基本原理:
判别分析产生于20世纪30年代,是利用已知类别的样本建立判别模型,为未知类别的样本判别的一种统计方法。
近年来,判别分析在自然科学、社会学及经济管理学科中都有广泛的应用。
判别分析的特点是根据已掌握的、历史上每个类别的若干样本的数据信息,总结出客观事物分类的规律性,建立判别公式和判别准则。
当遇到新的样本点时,只要根据总结出来的判别公式和判别准则,就能判别该样本点所属的类别。
判别分析其基本原理是按照一定的判别准则,建立一个或多个判别函数,用研究对象的大量资料确定判别函数中的待定系数,并计算判别指标。
据此即可确定某一样本属于何类。
当得到一个新的样品数据,要确定该样品属于已知类型中哪一类,这类问题属于判别分析问题。
使用的程序
/*STEPDISC过程*/
procstepdiscdata=TMP1.mouse_discrimmethod=stepwiseslentry=slstay=;
/*变量进入模型和模型内变量不剔除需达到的显著性水平为0.1*/
classType;/*为类别标志的变量*/
varTouchChipsDriverCompatibilityGame;/*必须为数值型变量*/
run;
/*DISCRIM过程*/
procdiscrimdata=TMP1.mouse_discrimmethod=normalpool=testcrosslisterr;
/**/
classType;/*为类别标志的变量*/
varChipsDriverGame;/*必须为数值型变量*/
run;
/*CANDISC过程*/
procdiscrimdata=TMP1.mouse_discrimout=outcandistanceanova;
/*指定一个输出数据集outcan,其中包含输入数据集的全部数据和典则变量评分*/
classType;/*为类别标志的变量*/
varChipsDriverGame;/*必须为数值型变量*/
run;
运行结果
指令介绍
STEPDISC过程命令
针对具有一个分类的变量和若干数值型的数据集,STEPDISC过程执行逐步判别分析的操作,从指定的指标变量中筛选出一组变量,以便于判别分析。
Procstepdisc常用的语法格式:
Procstepdisc<选项列表>;
Class<变量>;
Var<变量>;
Run;
stepdisc常用选项及说明:
Data=指定输入数据集,可为一般的类型,也可为其他特殊的类型(CORR、COVARIANCE、CSSCP、SSCP)
HETHOD=指定筛选变量的方法,也可是FORWARD、BACKWARD和STEPWISE,默认为STEPWISE
PR2ENTRY=指定变量进入模型须达到的平方偏相关系数值,此值必须小于等于1
DISCRIM过程命令
SAS中的procdiscrim(判别归类过程)可以实现:
距离判别法,贝叶斯(Bayes)判别法,Fisher判别法(典型判别)。
在procdiscrim中,当各总体为正态总体是,距离判别是Bayes判别的特殊形式。
procdiscrim常用语法格式:
PROCDISCRIM;
CLASSvariable;
PRIORSprobabilities;
VARvariables;
discrim常用选项及说明:
data=指定欲分析的数据集
testdata=指定待判数据集,其中必须有“var”语句指定的所有判别变量。
同时,还可使用“testout=”和“testoutd=”选项指定存储分类结果和组密度估计的数据集。
out=指定生成一个数据集,其包含来自“data=”的所有数据、每个观测来自不同组的后验概率及判别结果。
outstat=指定生成一个数据集,其包含分析过程中的各个统计量。
manova各总体均值差异的显著性检验。
对于k各已知总体,若,那么k个总体是不可区分的,判别分析就失去了意义。
所以需进行差异显著性检验。
method=normal|npar指定参数或非参数判别法。
normal参数法为缺省项。
参数方法:
假定每组都服从多元正态分布,采用广义平方距离的量度得出判别函数或分类准则,其是基于组内协差阵或合并协差阵的。
非参数方法:
不要求正态分布,其基于组概率密度,采用核方法或k最近邻方法得到非参数估计。
缺省条件下,procdiscrim认为个总体皆为正态总体,采用参数判别法。
当我们不能确定各总体为正态时,一般应该有非参数判别法。
pool=yes|no|test决定计算马氏距离时协差阵的选取。
使用马氏距离进行判别时,需要估计总体协差阵;实际判别问题中,一般只知道来自k个总体的样本总体的样本,而不知道各总体均值和协差阵。
当时用合并样本协差阵估计总体协差阵。
当不全相等时,用组内样本协差阵估计总体协差阵。
选项yes为默认,要求用合并样本协差阵PCOV(pooledcovariances);选项no要求用组内协差阵WCOV(withincovariances);选项test要求进行协差阵齐性检验:
可以通过“slpool=”选项(默认slpool==0.10)指定显著性水平,若齐性成立相当于选项“yes”,若齐性不成立相当于选项“no”。
crosslist对每个训练样本,在output中输出交叉确认判别结果。
crosslisterr仅对训练样本中交叉确认的错误观测,在output中输出其交叉确认的结果。
crossvalidata指定交叉确认判别。
交叉确认的想法是,为了判断对观测i的判别正确与否,用删除第i个观测的数据集算出判别规则,然后用次判别函数来判别第i个观测
threshold=p指定Bayes判别时可接受的最小后验概率,如果系新样本归入组别的最大后验概率小于p,则将其归入other组(不能判别),缺省为p=0。
r=指定非参数法时核估计的核半径。
kernel=uniform|normal|epanechnikov|biweight|triweight指定核函数,缺省值为uniform均匀核密度函数。
k=指定非参数法时k最近邻估计的最邻近个数。
canonical指定进行典型判别分析(即Fisher判别)。
CANDISC过程命令
CANDISC过程是专用于典则判别分析的SAS过程。
CANDISC过程语句的一般格式:
PROCCANDISC<选项列表>
CLASS<变量>;
VAR<变量>;
RUN;
CANDISC常用选项及说明:
DATA=指定由CLUSTER过程生成的OUTTREE=数据集作为输入的数据集
OUT=指定一个输出数据集,其中包含输入数据集的全部的数