主成分分析和因子分析_精品文档.ppt

主成分分析和因子分析_精品文档.ppt

《主成分分析和因子分析_精品文档.ppt》由会员分享，可在线阅读，更多相关《主成分分析和因子分析_精品文档.ppt（46页珍藏版）》请在冰豆网上搜索。

第八章主成分与因子分析,汇报什么？

假定你是一个公司的财务经理，掌握了公司的所有数据，比如固定资产、流动资金、每一笔借贷的数额和期限、各种税费、工资支出、原料消耗、产值、利润、折旧、职工人数、职工的分工和教育程度等等。

如果让你向上面介绍公司状况，你能够把这些指标和数字都原封不动地摆出去吗？

当然不能。

你必须要把各个方面作出高度概括，用一两个指标简单明了地把情况说清楚。

主成分分析,每个人都会遇到有很多变量的数据。

比如全国或各个地区的带有许多经济和社会变量的数据；各个学校的研究、教学等各种变量的数据等等。

这些数据的共同特点是变量很多，在如此多的变量之中，有很多是相关的。

人们希望能够找出它们的少数“代表”来对它们进行描述。

主成分分析和因子分析,本章就介绍两种把变量维数降低以便于描述、理解和分析的方法：

主成分分析（principalcomponentanalysis）和因子分析（factoranalysis）。

实际上主成分分析可以说是因子分析的一个特例。

在引进主成分分析之前，先看下面的例子。

成绩数据,例8.1100个学生的数学、物理、化学、语文、历史、英语的成绩如下表（部分，数据见student.sav）。

从本例可能提出的问题,目前的问题是，能不能把这个数据的6个变量用一两个综合变量来表示呢？

这一两个综合变量包含有多少原来的信息呢？

能不能利用找到的综合变量来对学生排序呢？

这一类数据所涉及的问题可以推广到对企业、对学校进行分析、排序、判别和分类等问题。

主成分分析,例中的数据点是六维的；也就是说，每个观测值是6维空间中的一个点。

我们希望把6维空间用低维空间表示。

先假定只有二维，即只有两个变量，它们由横坐标和纵坐标所代表；因此每个观测值都有相应于这两个坐标轴的两个坐标值；如果这些数据形成一个椭圆形状的点阵（这在变量的二维正态的假定下是可能的）,主成分分析,那么这个椭圆有一个长轴和一个短轴。

在短轴方向上，数据变化很少；在极端的情况，短轴如果退化成一点，那只有在长轴的方向才能够解释这些点的变化了；这样，由二维到一维的降维就自然完成了。

主成分分析,当坐标轴和椭圆的长短轴平行，那么代表长轴的变量就描述了数据的主要变化，而代表短轴的变量就描述了数据的次要变化。

但是，坐标轴通常并不和椭圆的长短轴平行。

因此，需要寻找椭圆的长短轴，并进行变换，使得新变量和椭圆的长短轴平行。

如果长轴变量代表了数据包含的大部分信息，就用该变量代替原先的两个变量（舍去次要的一维），降维就完成了。

椭圆（球）的长短轴相差得越大，降维也越有道理。

多维变量的情况和二维类似，也有高维的椭球，只不过不那么直观罢了。

首先把高维椭球的主轴找出来，再用代表大多数数据信息的最长的几个轴作为新变量；这样，主成分分析就基本完成了。

正如二维椭圆有两个主轴，三维椭球有三个主轴一样，有几个变量，就有几个主轴。

和二维情况类似，高维椭球的主轴也是互相垂直的。

这些互相正交的新变量是原先变量的线性组合，叫做主成分（principalcomponent）。

主成分分析,正如二维椭圆有两个主轴，三维椭球有三个主轴一样，有几个变量，就有几个主成分。

选择越少的主成分，降维就越好。

什么是标准呢？

那就是这些被选的主成分所代表的主轴的长度之和占了主轴长度总和的大部分。

有些文献建议，所选的主轴总长度占所有主轴长度之和的大约80-85%即可，其实，这只是一个大体的说法；具体选几个，要看实际情况而定。

对于我们的数据，SPSS输出为：

这里的InitialEigenvalues就是这里的六个主轴长度，又称特征值（数据相关阵的特征值）。

主成分分析的一般模型,这个方程且满足：

主成分的含义,由原始数据的协方差阵或相关系数据阵，可计算出矩阵的特征根：

主成分的含义,但是，spss软件中没有直接给出主成分系数，而是给出因子载荷，我们可将因子载荷系数除以相应的，即可得到主成分系数。

怎么解释这两个主成分。

主成分是原始六个变量的线性组合。

这由下表给出。

这里每一列代表一个主成分作为原来变量线性组合的系数（比例）。

比如第一主成分为数学、物理、化学、语文、历史、英语这六个变量的线性组合，系数（比例）为-0.806,-0.674,-0.675,0.893,0.825,0.836。

如用x1,x2,x3,x4,x5,x6分别表示原先的六个变量，而用y1,y2,y3,y4,y5,y6表示新的主成分，那么，第一和第二主成分为,这些系数称为因子载荷（loading）系数。

比如y1表示式中x1的系数为-0.806，这就是说第一主成分和数学变量的相关系数为-0.806。

因子载荷系数（绝对值）越大，主成分对该变量的代表性也越大。

可以看得出，第一主成分对各个变量解释得都很充分。

而最后的几个主成分和原先的变量就不那么相关了。

由Component1的系数除以，得到：

Y1=-0.417x1-0.349x2-0.349x3+0.462x4+0.427x5+0.433x6由Component2的系数除以，得到：

Y2=0.332x1+0.499x2+0.482x3+0.287x4+0.409x5+0.399x6这些系数表示主成分和相应的原先变量的相关系数，为主成分系数。

相关系数（绝对值）越大，主成分对该变量的代表性也越大。

主成分分析,为什么spss中只取了两个主成分呢？

1）贡献率：

第i个主成分的方差在全部方差中所占比重，称为贡献率，反映了原来P个指标有多大的信息，有多大的综合能力。

2）累积贡献率：

前k个主成分共有多大的综合能力，用这k个主成分的方差和在全部方差中所占比重来描述，称为累积贡献率。

头两个成分特征值对应的方差累积占了总方差的81.142%，称为累计方差贡献率为81.142%。

后面的特征值的贡献越来越少。

一般我们取累计方差贡献率达到80-85%左右的前k个主成分就可以了，因为它们已经代表了绝大部分的信息。

Spss中选取主成分的方法有两个：

一是根据特征值1来选取；另一种是根据累计方差贡献率达到80-85%左右的前k个主成分来选取。

最常见的情况是主成分为2到3个。

特征值的贡献还可以从SPSS的所谓碎石图看出,可以把第一和第二主成分的点画出一个二维图以直观地显示它们如何解释原来的变量的。

该图左面三个点是数学、物理、化学三科，右边三个点是语文、历史、外语三科。

因子分析,主成分分析从原理上是寻找椭球的所有主轴。

原先有几个变量，就有几个主成分。

而因子分析是事先确定要找几个成分，这里叫因子（factor）（比如两个），那就找两个。

这使得在数学模型上，因子分析和主成分分析有不少区别。

而且因子分析的计算也复杂得多。

根据因子分析模型的特点，它还多一道工序：

因子旋转（factorrotation），这个步骤可以使结果更好。

因子分析,因子分析是主成分分析的推广和发展。

为什么要进行因子分析？

由主成分分析的模型可知：

因子分析,我们如果想知道每个变量与公共因子的关系，则就要进行因子分析了。

因子分析模型为（mp）：

因子载荷,称为因子载荷（实际上是权数）。

因子载荷的统计意义：

就是第i个变量与第j个公共因子的相关系数，即表示变量xi依赖于Fj的份量（比重），心理学家将它称为载荷。

因子旋转,为了对公因子F能够更好的解释，可通过因子旋转的方法得到一个好解释的公因子。

所谓对公因子更好解释，就是使每个变量仅在一个公因子上有较大的载荷，而在其余的公因子上的载荷比较小。

这种变换因子载荷的方法称为因子轴的旋转。

因子旋转的方法很多，常用的为方差最大正交旋转。

这里，第一个因子主要和语文、历史、英语科有很强的正相关；而第二个因子主要和数学、物理、化学三科有很强的正相关。

因此可以给第一个因子起名为“文科因子”，而给第二个因子起名为“理科因子”。

从这个例子可以看出，因子分析的结果比主成分分析解释性更强。

这些系数所形成的散点图（在SPSS中也称载荷图），可以直观看出每个因子代表了一类学科。

因子得分,在分析中，人们往往更愿意用公共因子反映原始变量，这样更有利于描述研究对象的特征。

因而往往将公共因子表示为变量（或样品）的线性组合，即：

称上式为因子得分（factorscore）函数，用它可计算每个样品的公因子得分。

估计因子得分的方法很多。

可以根据输出，计算出每个学生的第一个因子和第二个因子的大小，即算出每个学生的因子得分f1和f2。

人们可以根据这两个函数分别计算出每个学生的两套因子得分，对学生分别按照文科和理科排序。

也可以以每个因子的方差贡献率为权数，进行加权综合，计算出每个学生的总得分，以此排队。

求出各样本的因子得分，有了因子得分值，则可以在许多分析中使用这些因子，例如以因子的得分做聚类分析的变量，做回归分析中的回归因子。

主成分和因子分析的一些注意事项,可以看出，因子分析和主成分分析都依赖于原始变量，也只能反映原始变量的信息。

所以原始变量的选择很重要。

另外，如果原始变量都本质上独立，那么降维就可能失败，这是因为很难把很多独立变量用少数综合的变量概括。

数据越相关，降维效果就越好。

主成分和因子分析的一些注意事项,在得到分析的结果时，并不一定会都得到如我们例子那样清楚的结果。

这与问题的性质，选取的原始变量以及数据的质量等都有关系。

在用因子得分进行排序时要特别小心，特别是对于敏感问题。

由于原始变量不同，因子的选取不同，排序可以很不一样。

因子分析的基本思路,1、确认待分析的原有若干变量是否适合作因子分析2、构造因子变量3、利用旋转方法使因子变量更具有可解释性4、计算因子变量得分,如果相关系数矩阵中大部分相关系数都小于0.3且未通过统计检验，那么这些变量就不适合做因子分析。

Bartletttestofsphericity,H0:

相关系数矩阵是一个单位阵如果统计量值比较大，且其相对应的相伴概率值小于用户指定的显著性水平，拒绝原假设，认为适合作因子分析。

反之，接受原假设，不适合作因子分析。

反映象相关矩阵检验（Anti-image）,由于偏相关系数是在控制了其他变量对两变量影响的条件下，计算出来的净相关系数，如果变量之间确实存在较强的相互重叠传递影响，即如果变量中确实能够提取出公共因子，那么控制了这此影响后的偏相关系数必然很小，因此，如果反映象相关矩阵中的有关元素的绝对值比较大，则说明这些变量可能不适合作因子分析,KMO检验,KMO的取值在0和1之间，KMO越接近于1，则越适合作因子分析KMO：

0.9非常适合，0.8适合，0.7一般，0.6不太适合，0.5不适合,SPSS实现（因子分析与主成分分析）,拿student.sav为例，选AnalyzeDataReductionFactor进入主对话框；把math、phys、chem、literat、history、english选入Variables，然后点击Extraction，在Method选择一个方法（如果是主成分分析，则选PrincipalComponents），下面的选项可以随意，比如要画碎石图就选Screeplot，另外在Extract选项可以按照特征值的大小选主成分（或因子），也可以选定因子的数目；之后回到主对话框（用Continue）。

然后点击Rotation，再在该对话框中的Method选择一个旋转方法（如果是主成分分析就选None），在Display选Rotatedsolution（以输出和旋转有关的结果）和Loadingplot（以输出载荷图）；之后回到主对话框（用Continue）。

如果要计算因子得分就要点击Scores，再选择Saveasvariables（因子得分就会作为变量存在数据中的附加列上）和计算因子得分的方法（比如Regression）；要想输出ComponentScoreCoefficientMatrix表，就要选择Displayfactorscorecoefficientmatrix；之后回到主对话框（用Continue）。

这时点OK即可。

Spss实现,Spss选项:

AnalyzeDataReductionFactor用Extrac