SPSS对主成分回归实验报告要点.docx

1、SPSS对主成分回归实验报告要点多元统计分析分析实验报告 2012 年 月 日学院经贸学院姓名学号实验名称 实验成绩一、实验目的（一）利用SPSS对主成分回归进行计算机实现.（二）要求熟练软件操作步骤，重点掌握对软件处理结果的解释.二、实验内容 以教材例题7.2为实验对象，应用软件对例题进行操作练习，以掌握多元统计分析方法的应用三、实验步骤（以文字列出软件操作过程并附上操作截图）1、数据文件的输入或建立：(文件名以学号或姓名命名) 将表7.2数据输入spss：点击“文件”下“新建”“数据”见图1：图1点击左下角“变量视图”首先定义变量名称及类型：见图2：图2：然后点击“数据视图”进行数据输入（

2、图3）：图3完成数据输入2、具体操作分析过程 ：（1）首先做因变量Y与自变量X1-X3的普通线性回归： 在变量视图下点击“分析”菜单，选择“回归”-“线性”（图4）： 图4将因变量Y调入“因变量”栏，将x1-x3调入“自变量”栏（图5）：然后选择相关要输出的结果：点击右上角“统计量（s）”：“回归系数”下选择“估计”；“残差”下选择“D.W”；在右上角选择输出“模型拟合度”、“部分相关和偏相关”“共线性诊断”（后两项是做多重共线性检验）。选完后点击“继续”（见图6）如果需要对因变量与残差进行图形分析则需要在“绘制”下选择相关项目（图7），一般不需要则继续如果需要将相关结果如因变量预测值、残差等

3、保存则点击“保存”（图8），选择要保存的项目如果是逐步回归法或者设置不带常数项的回归模型则点击“选项”（图9）其他选项按软件默认。最后点击“确定”，运行线性回归，输出相关结果（见表1-3）图5图6图7图8图9回归分析输出结果：表1模型汇总b模型RR 方调整 R 方标准 估计的误差Durbin-Watson1.996a.992.988.488872.740a. 预测变量: (常量), x3, x2, x1。b. 因变量: y表2Anovab模型平方和df均方FSig.1回归204.776368.259285.610.000a残差1.6737.239总计206.44910a. 预测变量: (常量)

4、, x3, x2, x1。b. 因变量: y表3系数a模型非标准化系数标准系数tSig.相关性共线性统计量B标准 误差试用版零阶偏部分容差VIF1(常量)-10.1281.212-8.355.000x1-.051.070-.339-.731.488.965-.266-.025.005185.997x2.587.095.2136.203.000.251.920.211.9811.019x3.287.1021.3032.807.026.972.728.095.005186.110a. 因变量: y由表可知，回归模型拟合优度达到99.2%，方差分析也显示线性回归方程整体显著（F=285.61，Sig

5、.=0.000）但是回归系数估计结果中，x1的系数为-0.051与一般经济理论矛盾且不显著（t检验值-0.731，检验的p值0.488），经多重共线性诊断（x1与x3的VIF值高达180以上）表明自变量存在共线性。运用主成分分析做多重共线性处理：（2）自变量x1-x3的主成分分析：由于spss没有独立的主成分分析模块，需要在因子分析里完成，因此需要特别注意：在数据窗口下选择“分析”“降维”“因子分析”（见图10）；在弹出的窗口中将x1-x3调入“变量”（见图11）；然后点击“描述”，选择要输出的统计量（见图12）：选中“统计量”下的两个项目（输出变量描述统计和初始分析结果）；在“相关矩阵”一般

6、要选择输出“系数”、“显著性水平”、“KMO”（做主成分分析和因子分析的适用性检验，也就是检验变量之间的相关系数是否足够大可以做因子分析）选完后点击“继续”进行下一步；点击“抽取”（见图13）：在“方法”下默认“主成分”；“分析”下，默认“相关性矩阵”（含义是要对变量做标准化处理，然后基于标准化后的协差阵也就是相关阵进行分解做因子分析或主成分分析），如果不需要对变量做标准化处理就选“协方差矩阵”；“输出”中的两项都选，要求输出没有旋转的因子解（主成分分析必选项）和碎石图（用图形决定提取的主成分或因子的个数）；“抽取“下，默认的是基于特征值（大于1表示提取的因子或主成分至少代表1个单位标准差的变

7、量信息，因为标准化后的变量方差为1，因子或者主成分作为提取的综合变量应该至少代表1个变量的信息），也可以自选提取的因子个数（即第二项），本例中做主成分回归，选择提取全部可能的3个主成分，所以自选个数填3。选完后点击 “继续”进行下一步；点击“旋转”（图14），按默认的“方法”下不旋转（注意，主成分分析不能旋转！）其他不用选，点击“继续”进行下一步；点击“得分”，计算不旋转的初始因子得分（图15），选中“保存为变量”，“方法”下按默认，其他不修改，点击“继续”进行下一步。“选项”下可以不选按默认（选项里主要针对缺失值和系数显示格式，不影响分析结果）最后点击“确定”，运行因子分析。图10图11图1

8、2图13图14图15由运行结果计算主成分：表4、描述统计量均值标准差分析 Nx1194.590929.9995211x23.30001.6492411x3139.736420.6344011表5、相关矩阵x1x2x3相关x11.000.026.997x2.0261.000.036x3.997.0361.000Sig.（单侧）x1.470.000x2.470.459x3.000.459表6、KMO 和 Bartlett 的检验取样足够度的 Kaiser-Meyer-Olkin 度量。.492Bartlett 的球形度检验近似卡方42.687df3Sig.000表7、解释的总方差成份初始特征值提取

9、平方和载入合计方差的 %累积 %合计方差的 %累积 %11.99966.63866.6381.99966.63866.6382.99833.27299.910.99833.27299.9103.003.090100.000.003.090100.000提取方法：主成份分析。表8、成份矩阵a成份123x1.999-.036.037x2.062.998.000x3.999-.026-.037提取方法 :主成份。a. 已提取了 3 个成份。由表5、6可知适合做主成分或因子分析（KMO检验通过），表7知前两个主成分（初始因子）贡献率已达99.91%，提取前两个主成分用于分析。由表8（初始因子载荷阵）和

10、表7可计算前两个特征向量，用表8前两列分别除以前两个特征值的平方根得前两个主成分表达式：F1=0.7066X1*+0.0439X2*+0.7066X3*（式1）F2=-0.0360X1*+0.9990X2*-0.0260X3*（式2）其中X1*-X3*表示为标准化变量（这是因为在进行主成分分析时是以标准化变量进行分析的，是从相关阵出发分析的，见图13的选项）。由于主成分互不相关，可以用提取的主成分代替自变量进行回归分析，因此需要计算主成分得分来代替自变量X1-X3。主成分的计算：依据式1和2中两个主成分的表达式，对各自变量标准化后带入就可以计算出每个样品的主成分得分。但是在spss中，由因子分

11、析提取时是用主成分法提取的，根据初始因子与主成分的关系，未旋转的初始因子等于主成分除以特征根的平方根，因此主成分得分等于因子得分乘以特征根的平方根，因此可以由因子得分计算主成分得分。前面在因子分析选项中保存了因子得分（见图15），因此计算两个主成分得分：点击“转换”“计算变量”(图16)：在弹出的窗口分别定义主成分F1=第一因子得分*第一特征根的平方根（图17）和F2=第二因子得分*第二特征根的平方根。（3）主成分回归过程：要做主成分回归，需要用标准化的因变量（因为自变量经过标准化处理做主成分分析，因变量需要对应做标准化）与主成分做回归，对因变量Y做标准化处理，点击“分析”“描述统计”“描述”

12、（见图18），在弹出窗口中将Y调入变量，并选中“将标准化得分另存为变量”（图19）后确定完成Y的标准化。点击“分析”-“回归”-“线性”（图20）在弹出窗口（图21）中将Zscore（y）调入因变量，F1和F2调入自变量，其他选项同前面图6-9，然后点击“确定”运行主成分回归，相关输出结果见表9图16图17图18图19图20图21主成分回归结果：表9、模型汇总模型RR 方调整 R 方标准 估计的误差1.994a.988.985.12104901a. 预测变量: (常量), F1, F2。表10、Anovab模型平方和df均方FSig.1回归9.88324.941337.230.000a残差.1

13、178.015总计10.00010a. 预测变量: (常量), F1, F2。b. 因变量: Zscore(y)表11、系数a模型非标准化系数标准系数tSig.共线性统计量B标准 误差试用版容差VIF1(常量)-3.043E-16.036.0001.000F2.191.038.1914.993.0011.0001.000F1.690.027.97625.486.0001.0001.000a. 因变量: Zscore(y)由表9-11可知，标准化Y对两个主成分的线性回归通过显著性检验，也没有多重共线性，回归系数合理，即Y*=0.690F1+0.191F2，将前面F1、F2的表达式（式1和二）带入可得标准化Y关于标准化自变量的回归方程：Y*=0.4806X1*+0.2211X2*+0.4826X3*,还原为原始变量：整理得最终回归结果：Y=-9.13+0.072X1+0.60X2+0.1062X3