多元线性回归实例分析报告.docx

1、多元线性回归实例分析报告SPSS-回归-多元线性回归模型案例解析！(一 多元线性回归，主要是研究一个因变量与多个自变量之间的相关关系，跟一元回归原理差不多，区别在于影响因素自变量更多些而已，例如：一元线性回归方程 为： 毫无疑问，多元线性回归方程应该为：上图中的 x1, x2, xp分别代表“自变量Xp截止，代表有P个自变量，如果有“N组样本，那么这个多元线性回归，将会组成一个矩阵，如下列图所示：那么，多元线性回归方程矩阵形式为： 其中：代表随机误差， 其中随机误差分为：可解释的误差 和 不可解释的误差，随机误差必须满足以下四个条件，多元线性方程才有意义一元线性方程也一样1：服成正太分布，即指

2、：随机误差必须是服成正太分别的随机变量。2：无偏性假设，即指：期望值为03：同共方差性假设，即指，所有的 随机误差变量方差都相等4：独立性假设，即指：所有的随机误差变量都相互独立，可以用协方差解释。 今天跟大家一起讨论一下，SPSS-多元线性回归的具体操作过程，下面以教程教程数据为例，分析汽车特征与汽车销售量之间的关系。通过分析汽车特征跟汽车销售量的关系，建立拟合多元线性回归模型。数据如下列图所示：点击“分析回归线性进入如下列图所示的界面：将“销售量作为“因变量拖入因变量框内， 将“车长，车宽，耗油率，车净重等10个自变量 拖入自变量框内，如上图所示，在“方法旁边，选择“逐步，当然，你也可以选

3、择其它的方式，如果你选择“进入默认的方式，在分析结果中，将会得到如下列图所示的结果：所有的自变量，都会强行进入如果你选择“逐步这个方法，将会得到如下列图所示的结果：将会根据预先设定的“F统计量的概率值进行筛选，最先进入回归方程的“自变量应该是跟“因变量关系最为密切，奉献最大的，如下列图可以看出，车的价格和车轴 跟因变量关系最为密切，符合判断条件的概率值必须小于0.05，当概率值大于等于0.1时将会被剔除“选择变量(E) 框内，我并没有输入数据，如果你需要对某个“自变量进行条件筛选，可以将那个自变量，移入“选择变量框内，有一个前提就是：该变量从未在另一个目标列表中出现！，再点击“规那么设定相应的

4、“筛选条件即可，如下列图所示：点击“统计量弹出如下所示的框，如下所示：在“回归系数下面勾选“估计，在右侧勾选模型拟合度“ 和共线性诊断“ 两个选项，再勾选“个案诊断再点击“离群值一般默认值为“3，设定异常值的依据，只有当残差超过3倍标准差的观测才会被当做异常值 点击继续。提示：共线性检验，如果有两个或两个以上的自变量之间存在线性相关关系，就会产生多重共线性现象。这时候，用最小二乘法估计的模型参数就会不稳定，回归系数的估计值很容易引起误导或者导致错误的结论。所以，需要勾选“共线性诊断来做判断 通过容许度可以计算共线性的存在与否？ 容许度TOL=1-RI平方 或方差膨胀因子VIF): VIF=1/

5、1-RI平方，其中RI平方是用其他自变量预测第I个变量的复相关系数，显然，VIF为TOL的倒数，TOL的值越小，VIF的值越大，自变量XI与其他自变量之间存在共线性的可能性越大。提供三种处理方法：1：从有共线性问题的变量里删除不重要的变量2：增加样本量或重新抽取样本。3：采用其他方法拟合模型，如领回归法，逐步回归法，主成分分析法。再点击“绘制选项，如下所示： 上图中：DEPENDENT( 因变量 ZPRED(标准化预测值 ZRESID(标准化残差 DRESID(剔除残差 ADJPRED(修正后预测值 SRSID(学生化残差 SDRESID(学生化剔除残差一般我们大局部以“自变量作为 X 轴，用

6、“残差作为Y轴， 但是，也不要忽略特殊情况，这里我们以“ZPRED标准化预测值作为x 轴，分别用“SDRESID血生化剔除残差和“ZRESID(标准化残差作为Y轴，分别作为两组绘图变量。再点击保存“按钮，进入如下界面：如上图所示：勾选“距离下面的“cook距离选项 cook 距离，主要是指：把一个个案从计算回归系数的样本中剔除时所引起的残差大小，cook距离越大，说明该个案对回归系数的影响也越大在“预测区间勾选“均值和“单值 点击“继续按钮，再点击“确定按钮，得到如下所示的分析结果：(此分析结果，采用的是“逐步法得到的结果SPSS回归多元线性回归结果分析二，最近一直很忙，公司的潮起潮落，就好比

7、人生的跌岩起伏，眼看着一步步走向衰弱，却无能为力，也许要学习“步步惊心里面“四阿哥的座右铭：“行到水穷处，坐看云起时“。接着上一期的“多元线性回归解析里面的内容，上一次，没有写结果分析，这次补上，结果分析如下所示：结果分析1：由于开始选择的是“逐步法，逐步法是“向前和“向后的结合体，从结果可以看出，最先进入“线性回归模型的是“price in thousands 建立了模型1，紧随其后的是“Wheelbase 建立了模型2，所以，模型中有此方法有个概率值，当小于等于0.05时，进入“线性回归模型最先进入模型的，相关性最强，关系最为密切当大于等0.1时，从“线性模型中剔除结果分析：1：从“模型汇

8、总中可以看出，有两个模型，模型1和模型2从R2 拟合优度来看，模型2的拟合优度明显比模型1要好一些0.4220.3002：从“Anova表中，可以看出“模型2中的“回归平方和为115.311，“残差平方和为153.072，由于总平方和=回归平方和+残差平方和，由于残差平方和(即指随即误差，不可解释的误差由于“回归平方和跟“残差平方和几乎接近，所有，此线性回归模型只解释了总平方和的一半，3：根据后面的“F统计量的概率值为0.00，由于0.000.1) 所以常数项不具备显著性，所以，我们再看后面的“标准系数，在标准系数一列中，可以看到“常数项没有数值，已经被剔除所以：标准化的回归方程为：销售量=-

9、0.59*价格+0.356*轴距2：再看最后一列“共线性统计量，其中“价格和“轴距两个容差和“vif都一样，而且VIF都为1.012，且都小于5，所以两个自变量之间没有出现共线性，容忍度和膨胀因子是互为倒数关系，容忍度越小，膨胀因子越大，发生共线性的可能性也越大从“共线性诊断表中可以看出：1：共线性诊断采用的是“特征值的方式，特征值主要用来刻画自变量的方差，诊断自变量间是否存在较强多重共线性的另一种方法是利用主成分分析法，根本思想是：如果自变量间确实存在较强的相关关系，那么它们之间必然存在信息重叠，于是就可以从这些自变量中提取出既能反响自变量信息方差，而且有相互独立的因素成分来，该方法主要从自

10、变量间的相关系数矩阵出发，计算相关系数矩阵的特征值，得到相应的假设干成分。条件索引=最大特征值/相对特征值 再进行开方 即特征值2的 条件索引为 2.847/0.150 再开方=4.351标准化后，方差为1，每一个特征值都能够刻画某自变量的一定比例，所有的特征值能将刻画某自变量信息的全部，于是，我们可以得到以下结论：可以看出：没有一个特征值，既能够解释“价格又能够解释“轴距所以“价格和“轴距之间存在共线性较弱。前面的结论进一步得到了论证。残差统计量的表中数值怎么来的，这个计算过程，我就不写了从上图可以得知：大局部自变量的残差都符合正太分布，只有一，两处地方稍有偏离，如图上的-5到-3区域的处理偏离状态