DMD-6-回归模型.ppt

DMD-6-回归模型.ppt

《DMD-6-回归模型.ppt》由会员分享，可在线阅读，更多相关《DMD-6-回归模型.ppt（34页珍藏版）》请在冰豆网上搜索。

第九章第九章回归模型回归模型对于一个工商管理人员来说，相当重要的管理决对于一个工商管理人员来说，相当重要的管理决策能力之一是敏锐地洞察商业或生产中数据的发展趋策能力之一是敏锐地洞察商业或生产中数据的发展趋势，并且在已认识的趋势基础上对未来做出正确的预势，并且在已认识的趋势基础上对未来做出正确的预测。

而能够做到这一点的强有力的工具之一就是所谓测。

而能够做到这一点的强有力的工具之一就是所谓的的“回归模型回归模型”。

数数据据模模型型决决策策19.1简单线性回归模型及预测简单线性回归模型及预测例例9.1广告花费与销售额的预测广告花费与销售额的预测某公司销售额数据某公司销售额数据yt（第第t月的销售额）与月的销售额）与广告花费数广告花费数据据xt（第第t月的广告花费）如表。

月的广告花费）如表。

数数据据模模型型决决策策29.1简单线性回归模型及预测简单线性回归模型及预测例例9.1广告花费与销售额的预测广告花费与销售额的预测由表中数据可以绘制一张散点图！

由表中数据可以绘制一张散点图！

数数据据模模型型决决策策39.1简单线性回归模型及预测简单线性回归模型及预测从散点图中，你有何发现？

从散点图中，你有何发现？

数数据据模模型型决决策策yt与与xt之间似乎存在不太精确的线性函数关系！

之间似乎存在不太精确的线性函数关系！

那么，我们能不能想象出（或确定出）一条直线来那么，我们能不能想象出（或确定出）一条直线来反映这一关系（或规律）呢？

反映这一关系（或规律）呢？

关键的问题是如何才能关键的问题是如何才能“最好地最好地”反映这一关系！

反映这一关系！

49.1简单线性回归模型及预测简单线性回归模型及预测简单线性回归模型（一元线性回归模型）：

简单线性回归模型（一元线性回归模型）：

数数据据模模型型决决策策yt=+xt+tt=1，2，n1，2，n，iid，N（0，）称称y=+x为为线性回归函数（或回归直线），线性回归函数（或回归直线），是两个重要的参数，是两个重要的参数，为回归系数。

为回归系数。

为了使回归直线能为了使回归直线能“最好最好”地反映数据对（地反映数据对（x1，y1），），（x2，y2），（xn，yn）所描述的所描述的y与与x之间的关系，就之间的关系，就需要确定需要确定，的的值，所采用的方法值，所采用的方法“最小二乘最小二乘”估计法。

估计法。

59.1简单线性回归模型及预测简单线性回归模型及预测最小二乘估计最小二乘估计，：

数数据据模模型型决决策策=ni=1（xix）（）（yiy）ni=1（xix）2=y-x69.1简单线性回归模型及预测简单线性回归模型及预测由上述分析可以计算得到例由上述分析可以计算得到例9.1中中数数据据模模型型决决策策=13.88=-998如果模型成立如果模型成立，即可得回归直线：

，即可得回归直线：

y=-998+13.88x79.1简单线性回归模型及预测简单线性回归模型及预测数数据据模模型型决决策策89.1简单线性回归模型及预测简单线性回归模型及预测在以上的分析中，我们始终有一个前提在以上的分析中，我们始终有一个前提“如果模型如果模型成立成立”。

那么模型究竟能否成立呢？

。

那么模型究竟能否成立呢？

从管理实际角度再对模型加以定性的思考：

从管理实际角度再对模型加以定性的思考：

广告效应的广告效应的“滞后滞后”性！

性！

我们采用另一个线性回归模型：

我们采用另一个线性回归模型：

yt=1+1xt-1（t=1，2，n）这样，可以得到另一条这样，可以得到另一条回归直线：

回归直线：

y=335.9+13.9x数数据据模模型型决决策策99.1简单线性回归模型及预测简单线性回归模型及预测至此，我们得到了两个线性回归模型：

至此，我们得到了两个线性回归模型：

1、y=-998+13.88x2、y=335.9+13.9x这两个线性回归模型都可以对未知的月销售额进行预测。

这两个线性回归模型都可以对未知的月销售额进行预测。

但是，哪一个模型更有效呢？

但是，哪一个模型更有效呢？

解决这一问题的方法是解决这一问题的方法是对预测的误差进行比较！

对预测的误差进行比较！

即采用均方残差即采用均方残差MSE进行比较。

进行比较。

数数据据模模型型决决策策MSE=1nni=1（yiyi）2109.1简单线性回归模型及预测简单线性回归模型及预测从两个模型的均方残差从两个模型的均方残差MSE来考虑，我们应该选择来考虑，我们应该选择MSE较小的模型，即选择较小的模型，即选择xt-1与与yt的模型略好些，直观的含的模型略好些，直观的含义就是广告具有义就是广告具有“滞后滞后”效应。

效应。

然而，这两个模型的预测误差都是比较大的，其原因可能然而，这两个模型的预测误差都是比较大的，其原因可能是我们仅考虑了一个因素对是我们仅考虑了一个因素对yt的影响。

而事实上，的影响。

而事实上，xt-2，xt-1，xt等等，乃至可能其他以前月份已发生的广告费支出对等等，乃至可能其他以前月份已发生的广告费支出对yt都都会产生影响。

因此，我们的线性回归模型不得不考虑有多个会产生影响。

因此，我们的线性回归模型不得不考虑有多个“自变量自变量”的情况的情况这就引出了这就引出了“多元线性回归模型多元线性回归模型”。

数数据据模模型型决决策策119.2多元线性回归多元线性回归多元线性回归模型：

多元线性回归模型：

数数据据模模型型决决策策yi=+1x1i+2x2i+kxki+ii，iid，N（0，）（t=1，2，n）例如，假定例如，假定y为当月的销售额，那么为当月的销售额，那么x1可以是上月的可以是上月的广告费，广告费，x2可以是产品的价格，可以是产品的价格，x3可以是市场景气指数，可以是市场景气指数，称称y=+1x1+2x2+kxk多元为线性回归函数多元为线性回归函数129.2多元线性回归多元线性回归和一元线性回归的分析类似，重要的是确定模型中的参和一元线性回归的分析类似，重要的是确定模型中的参数数，1，2，k的估计。

采用的方法仍然是使：

的估计。

采用的方法仍然是使：

残差平方和残差平方和SSE达到极小！

达到极小！

数数据据模模型型决决策策SSE=ni=1（yiyi）2=ni=1（yi1x1i2x2ikxki）2139.2多元线性回归多元线性回归现在分析例现在分析例9.1，我们考虑线性回归模型：

，我们考虑线性回归模型：

yt=+1xt+2xt-1+3xt-2+t（t=3，4，15）数数据据模模型型决决策策多元多元线性回归线性回归MicrosoftExcel149.2多元线性回归模型分析多元线性回归模型分析1、回归系数、回归系数数数据据模模型型决决策策=522.13066591=3.6814836412=4.9658061763=5.19950817于是有回归方程：

于是有回归方程：

yt=522.1+3.681xt+4.966xt-1+5.2xt-2159.2多元线性回归模型分析多元线性回归模型分析2、标准误差、标准误差SS是对是对t所所服从的服从的N（0，）中中的的估计：

即估计：

即=S数数据据模模型型决决策策3、自由度、自由度df=观察次数（观察次数（n）-自变量个数（自变量个数（k）-14、回归系数的置信区间和标准差回归系数的置信区间和标准差5、tStat该项的作用是检验每一个该项的作用是检验每一个xj与与y的线性关系是否显著，如的线性关系是否显著，如果检验结果认为果检验结果认为xj与与y有有显著的线性关系，则模型中保留显著的线性关系，则模型中保留xj项是合理的，否则可以将此项从模型中剔除。

项是合理的，否则可以将此项从模型中剔除。

保留或剔除保留或剔除xj项项可以根据可以根据p-Value值作简单的判断：

值作简单的判断：

p-Value值值较大较大剔除剔除xj项项p-Value值值较小较小保留保留xj项项169.2多元线性回归模型分析多元线性回归模型分析在在保留或剔除保留或剔除xj项时应该注意以下几点：

项时应该注意以下几点：

（1）应该首先注意自变量）应该首先注意自变量xj的线性项是否应含于模型中，只的线性项是否应含于模型中，只有当此项工作全部完成后，才对有当此项工作全部完成后，才对是否为是否为0进行检验。

进行检验。

（2）如果发现某）如果发现某xj相应的相应的p-Value较大，则应将较大，则应将xj项从模型项从模型中剔除，且应注意，这种剔除工作应逐次进行（即每次只剔除中剔除，且应注意，这种剔除工作应逐次进行（即每次只剔除p-Value最大的一项）直到模型中不含最大的一项）直到模型中不含p-Value较大的项。

较大的项。

对前面的回归模型中，我们剔除对前面的回归模型中，我们剔除xt项，重新建立回归模项，重新建立回归模型：

型：

yt=1161.6+5.873xt-1+7.945xt-2数数据据模模型型决决策策179.2多元线性回归模型分析多元线性回归模型分析6、判别系数、判别系数R2（R也称为相关系数或复相关系数）也称为相关系数或复相关系数）判别系数判别系数R2的作用是判别因变量的作用是判别因变量y与自变量与自变量x之间的线之间的线性关系是否合理（即线性相关性的程度），性关系是否合理（即线性相关性的程度），R2是是一个一个0到到1之间的数，当它越接近于之间的数，当它越接近于1，则表明线性模型越拟合于数据，则表明线性模型越拟合于数据，即线性回归模型越即线性回归模型越合理合理。

当它越接近于。

当它越接近于0，则表明线性回归模，则表明线性回归模型越型越不合理不合理。

另外，有一点应该注意，建立多元线性回归模型时，总是另外，有一点应该注意，建立多元线性回归模型时，总是力求建立具有较少的、合理的、有意义的个数自变量的简单模力求建立具有较少的、合理的、有意义的个数自变量的简单模型。

不要单纯地为了追求高的型。

不要单纯地为了追求高的R2值而在值而在模型中引入模型中引入“过多过多”的自变量。

的自变量。

数数据据模模型型决决策策189.2多元线性回归模型分析多元线性回归模型分析下图分别是下图分别是R2=0.995，R2=0.797时所对应的图形。

时所对应的图形。

数数据据模模型型决决策策199.2多元线性回归模型分析多元线性回归模型分析7、方差分析、方差分析方差分析表是用于检验自变量的线性组合是否对于预测因方差分析表是用于检验自变量的线性组合是否对于预测因变量有效，即检验模型是否是线性模型。

其检验方法称为：

变量有效，即检验模型是否是线性模型。

其检验方法称为：

F检验，检验模型为检验，检验模型为H0：

1=2=k=0；对对H1：

至少有一个至少有一个不为不为0方差分析表中的方差分析表中的F数值越大，我们就越应该拒绝数值越大，我们就越应该拒绝H0而接受而接受H1：

表中表中SignificanceF数值给出了数值给出了F数值数值“发生发生”的概率。

拒的概率。

拒绝绝H0的的理论就是：

理论就是：

小概率事件在一次实验中小概率事件在一次实验中“几乎几乎”不可能不可能发生的事实发生的事实。

数数据据模模型型决决策策209.2多元线性回归模型分析多元线性回归模型分析建立线性回归模型的小结：

建立线性回归模型的小结：

在建立一个线性回归模型时：

在建立一个线性回归模型时：

R2，F-检验（方差分析），检验（方差分析），t-检验（回归分析）三者都极其重要，其分析缺一不可，否则，检验（回归分析）三者都极其重要，其分析缺一不可，否则，强行建立的线性回归模型很难用于解释现象或进行预测