1、他百思不得其解,同时又发现某人种的平均身高百思不得其解,同时又发现某人种的平均身高是相当稳定的。最后得到结论:儿子们的身高是相当稳定的。儿子们的身高回复于全体男子的平均身高,即回复于全体男子的平均身高,即“回归回归”见见18891889年年F.GalltonF.Gallton的论文的论文普用回归定律普用回归定律。n n后人将此种方法普遍用于寻找变量之间的规律后人将此种方法普遍用于寻找变量之间的规律 7北京林业大学经济管理学院统计系最小二乘法的思路最小二乘法的思路n n1 1为了精确地描述为了精确地描述Y Y与与X X之间的关系,必须使用这两之间的关系,必须使用这两个变量的每一对观察值(个变量的
2、每一对观察值(n n组观察值),才不至于以点组观察值),才不至于以点概面(作到全面)。概面(作到全面)。n n2 2Y Y与与X X之间是否是直线关系(用协方差或相关系数之间是否是直线关系(用协方差或相关系数判断)?若是,可用一条直线描述它们之间的关系。判断)?n n3 3在在Y Y与与X X的散点图上画出直线的方法很多。的散点图上画出直线的方法很多。n n任务?任务?找出一条能够最好地描述找出一条能够最好地描述Y Y与与X X(代表所有代表所有点)之间的直线。点)之间的直线。n n4 4什么是最好?什么是最好?找出判断找出判断“最好最好”的原则。的原则。n n最好指的是找一条直线使得所有这些
3、点到该直线的纵最好指的是找一条直线使得所有这些点到该直线的纵向距离的和(平方和)最小向距离的和(平方和)最小实际与理论抽象最接实际与理论抽象最接近。近。8北京林业大学经济管理学院统计系三种距离三种距离yx纵向距离横向距离距离A为实际点,B为拟合直线上与之对应的点9北京林业大学经济管理学院统计系纵向距离是度量实际值与拟合值纵向距离是度量实际值与拟合值是否相符的有效手段是否相符的有效手段n n点到直线的距离点到直线的垂直线的长度。n n横向距离点沿(平行)X轴方向到直线的距离。n n纵向距离点沿(平行)Y轴方向到直线的距离。也就是实际观察点的Y坐标减去根据直线方程计算出来的Y的拟合值。n n实际值
4、-拟合值=残差(误差、剩余)。10北京林业大学经济管理学院统计系最小二乘法的数学原理最小二乘法的数学原理n n纵向距离是Y的实际值与拟合值之差,差异大拟合不好,差异小拟合好,所以又称为拟合误差或残差。n n将所有纵向距离平方后相加,即得误差平方和,“最好”直线就是使误差平方和最小的直线。n n于是可以运用求极值的原理,将求最好拟合直线问题转换为求误差平方和最小。11北京林业大学经济管理学院统计系数学推证过程数学推证过程12北京林业大学经济管理学院统计系关于所得直线方程的结论关于所得直线方程的结论n n结论之一:结论之一:n n由(由(5 5)式,得)式,得n n即拟合直线过即拟合直线过y y和
5、和x x的平均数点。的平均数点。n n结论之二:结论之二:n n由(由(2 2)式,得)式,得n n残差与自变量残差与自变量x x的乘积和等于的乘积和等于0 0,即两者不相关。,即两者不相关。13北京林业大学经济管理学院统计系拟合直线的性质拟合直线的性质n n1估计残差和为零n n2Y的真实值和拟合值有共同的均值n n3估计残差与自变量不相关n n4估计残差与拟合值不相关14北京林业大学经济管理学院统计系1估计残差和为零估计残差和为零(Residuals Sum to zero)n n由(1)式直接得此结论无须再证明。并推出残差的平均数也等于零。15北京林业大学经济管理学院统计系2Y的真实值和
6、拟合值有共同的均值的真实值和拟合值有共同的均值(The actual and fitted values of yi have the same mean)16北京林业大学经济管理学院统计系3估计残差与自变量不相关估计残差与自变量不相关(Residuals are unrelated with independent variable)17北京林业大学经济管理学院统计系4估计残差与拟合值不相关(估计残差与拟合值不相关(Residuals are unrelated with fitted value of yi)18北京林业大学经济管理学院统计系关于回归直线性质的总结 残差和=0平均数相等拟合
7、值与残差不相关自变量与残差不相关注意:这里的残差与注意:这里的残差与随机扰动项不是一个随机扰动项不是一个概念。随机扰动项是概念。随机扰动项是总体的残差。总体的残差。19北京林业大学经济管理学院统计系数学推证数学推证20北京林业大学经济管理学院统计系正规方程正规方程21北京林业大学经济管理学院统计系估计参数的公式的离均差形式估计参数的公式的离均差形式22北京林业大学经济管理学院统计系正规方程的矩阵表示正规方程的矩阵表示23北京林业大学经济管理学院统计系随机误差项方差的估计随机误差项方差的估计24北京林业大学经济管理学院统计系一元回归模型的数据结构一元回归模型的数据结构返回返回25北京林业大学经济
8、管理学院统计系三、参数估计量的性质三、参数估计量的性质n n1 1、线性、线性(Linear)(Linear)n n2 2、无偏性、无偏性(Unbiased)(Unbiased)n n3 3、有效性(最小方差)、有效性(最小方差)(Best)(Best)n n33、高斯、高斯-马尔可夫定马尔可夫定理理(Gauss_MarkovGauss_Markov)(BLUE)(BLUE)n n参数估计量的性质实参数估计量的性质实际上指的是用某种方际上指的是用某种方法(法(OLSOLS)导出的参数导出的参数估计量是否具有优良估计量是否具有优良性。性。n n衡量优良性的标准:衡量优良性的标准:n n线性、无偏
9、性、有效线性、无偏性、有效性、一致性、均方误性、一致性、均方误最小等最小等26北京林业大学经济管理学院统计系1、线性、线性n n线性指的是参数估计量是被解释变量的线性函数。n n回归系数的估计量=正规方程的解n n从解的解析式(或矩阵形式),不难看出回归系数的估计量是被解释变量的线性组合。n nB=(XX)-1XY27北京林业大学经济管理学院统计系2、无偏性、无偏性n n无偏性指的是参数估无偏性指的是参数估计量的均值(数学期计量的均值(数学期望)等于被估计的真望)等于被估计的真值(模型中的参数)值(模型中的参数)28北京林业大学经济管理学院统计系29北京林业大学经济管理学院统计系30北京林业大
10、学经济管理学院统计系3、有效性(最小方差)、有效性(最小方差)n nOLSOLS参数估计量的有效参数估计量的有效性指的是:性指的是:n n在一切线性、无偏估在一切线性、无偏估计量中,计量中,OLSOLS参数估计参数估计量的方差最小。量的方差最小。n n1 1、导出参数估计量的、导出参数估计量的方差(解析式)方差(解析式)n n2 2、导出参数估计量的、导出参数估计量的方差(矩阵表示)方差(矩阵表示)n n3 3、高斯、高斯-马尔可夫定马尔可夫定理理31北京林业大学经济管理学院统计系32北京林业大学经济管理学院统计系3、高斯、高斯-马尔可夫定理马尔可夫定理n n关于高斯关于高斯-马尔可夫定马尔可
11、夫定理的证明,参见其他理的证明,参见其他文献。文献。n n计量经济学园地计量经济学园地有正反两种证明。有正反两种证明。n n根据高斯根据高斯-马尔可夫定马尔可夫定理,形如上页公式中表理,形如上页公式中表示的参数估计量的方差,示的参数估计量的方差,在一切线性、无偏估计在一切线性、无偏估计量中方差最小,量中方差最小,n n所以所以OLSOLS估计量是有效估计量是有效估计量。估计量。n nOLSOLS估计量和是估计量和是BLUEBLUE(Best Linear Unbiased Best Linear Unbiased EstimatorEstimator)的。的。33北京林业大学经济管理学院统计系
12、4、随机误差项估计量的、随机误差项估计量的无偏性问题无偏性问题n n请同学们复习数理统计的相关内容。返回返回34北京林业大学经济管理学院统计系四、一元线性回归模型参数估计的实例四、一元线性回归模型参数估计的实例n n我国用于文教科学卫生事业费用的支出我国用于文教科学卫生事业费用的支出(EDED),),主要由财政收入(主要由财政收入(FIFI)决定,二者之决定,二者之间具有线性关系。间具有线性关系。平均百分误差在10%以内,表明是一个拟合得比较好的模型35北京林业大学经济管理学院统计系36北京林业大学经济管理学院统计系我国财政文教科学卫生事业费我国财政文教科学卫生事业费支出模型支出模型n nEs
13、timation Command:Estimation Command:n n=n nLS ED FI CLS ED FI Cn nEstimation Equation:Estimation Equation:n n=n nED=C(1)*FI+C(2)ED=C(1)*FI+C(2)n nSubstituted Coefficients:Substituted Coefficients:n n=n nED=0.22341905*FI+30.052368ED=0.22341905*FI+30.052368 返回返回37北京林业大学经济管理学院统计系一元线性回归模型的检验一元线性回归模型的检验n n假设检验n n参数的显著性检验 1.t 检验 2.置信区间的检验 3.F 检验n n拟合优度的检验38北京林业大学经济管理学院统计系假设检验假设检验39北京林业大学经济管理学院统计系假设检验的原理假设检验的原理n n1 1、提出二择一的假设、提出二择一的假设:H H0 0(往往与目的相反)与往往与目的相反)与HHA A(往往是欲得到的结论)往往是欲得到的结论)n n2 2、给定显著水平、
copyright@ 2008-2022 冰豆网网站版权所有
经营许可证编号:鄂ICP备2022015515号-1