广义矩估计.docx

1、广义矩估计第1章 广义矩估计1.1 矩估计1.1.1 总体矩与样本矩设总体X的可能分布族为，其中来自参数空间的是待估计的未知参数。假定总体分布的m阶矩存在，则总体分布的k阶原点矩和k阶中心矩为12两种常见的情况是一阶原点矩和二阶中心矩：34一阶原点矩表示变量的期望值，二阶中心矩表示变量的方差。对于样本，其k阶原点矩是：（）5当k=1时，m1表示X的样本均值。X的k阶中心矩是：（）6当k=2时，B2表示X的样本方差。1.1.2 矩估计方法矩方法（moment method）是一种古老的估计方法。其基本思想是：在随机抽样中，样本统计量将依概率收敛于某个常数。这个常数又是分布中未知参数的一个函数。总

2、体分布的k阶矩为的函数。根据大数定理，样本矩依概率收敛于总体矩。因此，可以用样本矩作为总体矩的估计，即令：即：7上式确定了包含K个未知参数的K个方程式，求解上式所构成的方程组就可以得到的一组解。因为mk是随机变量，故解得的也是随机变量。这种参数估计方法称为矩方法，即是的矩估计量。定理：X的分布函数F(X)存在2阶矩，则对样本的阶原点矩mv，则矩的期望和方差为：， 8证明：。矩方法的一般步骤：Step1：总体矩条件（population moment condition）：。一般情况下，矩条件可以写为：。给定观测样本，总体矩无法计算。但可以计算总体矩条件对应的样本矩条件。Step2：样本矩条件（

3、sample moment condition）：。一般情况下，矩条件可以写为：根据大数定理，样本矩依概率收敛于总体矩，即Step3：令样本矩=总体矩，得到矩方程，解方程（组）得到未知参数的矩估计量。在很多情况下，我们可以根据矩条件构建矩方程，然后求解未知参数。一般情况下，这些矩条件都是可以直接观察到（或假定）的。例1.1假定随机变量yt 的均值存在但未知，利用矩方法进行估计。Step1：总体矩：令，则Step2：样本矩为： 根据大数定理，样本矩依概率收敛于总体矩，即解上述方程即可得到的矩估计量1.1.3 矩方法的几个特例很多估计方法（比如OLS、TSLS等）都是矩估计的特殊形式。1 OLS估

4、计例2：在回归方程中，其中，。假定的条件均值为0，则由和迭代期望公式可以得出：其对应的样本矩条件为：解上述方程可以得到MM估计量：2 IV估计考虑如下回归模型：9其中，x1t包括K1个外生变量，但包括K2个内生变量，即1011设x2的工具变量为z2，z2包括K2个工具变量，z2满足1213（10）（13）共同构成了新的矩条件，定义z为工具变量，其中x1t仍然作为自身的工具变量，而z2t作为x2t的工具变量。K=K1+K2个总体矩条件为：14相应的样本矩为：15MM估计量为：161.2 广义矩广义矩（Generalized Moment Method）是由矩方法发展而来，其奠基之作是Hansen

5、（1982）。1.2.1 GMM方法的引入设模型设定为：其中，zt为工具变量（1 L）。令，则L个矩条件为：17即： 对应的样本矩条件为：18从上式可以看出，(1) L K，即工具变量的个数大于未知参数的个数时，采用不同的矩方程可以得到不同的解，因此，矩方程具有多个解。1.2.2 秩条件与阶条件从（17）式得到的矩条件方程为：可以看出，要使得有解，。如果，则存在唯一解；如果，则无解；，则存在多个解。要得到的唯一解，矩阵的转置必须存在。而为阶矩阵，因此，有唯一解的充分条件是，称之为工具变量的秩条件。秩条件暗含的另外一个假定是LK，即工具变量的个数大于内生解释变量的个数。称之为工具变量的阶条件。如

6、果LK，称为过度识别；如果L=K，则称为恰好识别。1.2.3 GMM估计及渐进特征当L K时，秩条件不成立，MM方法存在多个解。这时，可以采用两种方法。其一，将多个工具变量组合成为K个工具变量。这即是2SLS。在2SLS中的第一阶段，用每一个内生变量对L个工具变量回归，得到K个拟合值；然后，用这K个拟合值作为工具变量进行LS回归。第二种方法即是GMM估计。后面将会看到，TSLS方法是GMM方法在同方差假定下的特例。GMM方法即是解决L K情况下的一般方法。GMM方法完全是根据矩条件来估计参数，因此对扰动项的分布形式没有任何假定，这一点使GMM估计成为稳健性分析中的重要应用。1 GMM估计广义矩

7、方法即是处理过度识别情况的一般方法。首先来看一下如何将MM估计推广到GMM估计。设模型为y=f(x, )+ux中包含K个变量，L个工具变量表示为z。在MM估计中，利用K个工具变量估计K个未知参数，需要构建K个矩方程。每个矩条件表示为ml (l=1,2, K)。K个矩方程为等价于解方程：。 A当存在LK个工具变量时，共有L个矩方程，而只有K个未知参数。因此，根据MM方法，共有个组合，可以得到的矩估计量的个数为。这时，每个组合得到的MM估计量都不能满足A式，即A式不会恰好为0。但可以考虑将各种不同的估计结果综合起来，使A式最小化。比如，20即使得L个矩条件的平方和最小。因为不同矩的方差不同，因此更

8、科学的方法是使用加权的平方和，21Wt可以是任意的正定矩阵（可以依赖于数据，但不包含未知参数）。事实上（20）式是（21）式的一个特例，即Wt=I 。GMM估计量是求下式的最优解：22括号中的Wt表示GMM估计量取决于Wt，不同的权数矩阵会得到不同的估计量。根据一阶条件便可以得到GMM估计量。令为（LK）矩阵，第（i，j）元素表示第i个矩条件对第j个参数的导数。比如，在线性模型y= x+u中，令表示参数的GMM估计。则矩条件为目标函数为：一阶条件为：23进而可求得GMM估计量2 任意正定权数矩阵的GMM估计量的渐进特征定理：对于任意正定权数矩阵，具有一致性：24定理：对于任意正定权数矩阵，具有

9、渐进正态性：25其中， 注：对一阶条件在真实参数处进行泰勒级数展开便可得到GMM估计量的极限分布。如果权数矩阵选择为单位矩阵，那么渐进协方差为。3 任意正定权数矩阵的矩的渐进特征GMM估计中，不仅参数估计量具有渐进正态性，而且矩也具有渐进正态性。假设1：如果Wt为正定矩阵，且。假设2：。根据大数定理，样本矩收敛于总体矩，当时。26又根据中心极限定理，27其中，S表示的渐进协方差矩阵，即。任意权数矩阵下，的渐进分布为：28其中，B是对称幂等矩阵。1.2.4 最优权数矩阵的选择对于任意满足假设1的权数矩阵，都具有一致性。接下来，我们介绍如何确定最优的Wt及其渐进分布特征。1 最优权数矩阵的选择首先

10、我们回顾一下GLS估计的思想。对于方程，假设。转换矩阵M满足：转换后的新模型为：令，即。新的随机误差项的协方差矩阵为，是同方差、无序列相关的。模型的目标函数为：即，目标函数是u的加权平方和，而权数矩阵则是u的协方差矩阵的逆矩阵。根据一阶条件得到GLS估计量：与GLS相类似，GMM方法中，目标函数为各个矩的加权平方和，权数的选择则要考虑各个矩的异方差和相关性。最优权数即是各个矩的协方差矩阵的逆矩阵。， 30如果为一致估计量对应的矩，则S的一致估计量为：32因此，最优权数矩阵为：3331的GMM估计量使得下式最小化34对于线性模型，。如果误差项是同方差的，即，则其中，是的一致估计量。如果存在异方差

11、，但不存在自相关，则S的估计量为：如果存在自相关，则S的估计量为：可以利用HAC估计量。令表示滞后j阶的协方差矩阵。那么 如果当j大于某个阶数q时，我们可以使用统计量：,其中，协方差估计量为：注：EViews中，HAC异方差一致协方差矩阵为：其中， 需要选择核k和窗宽q。2 选择最优权数矩阵时GMM估计量的渐进特征当权数矩阵时，的渐进正态分布为353 选择最优权数矩阵时矩的渐进特征当权数矩阵时，将其带入上式中，并利用B的对称幂等性质，可以得到的渐进分布为：36S是矩条件的方差，S越大，V越大。G反映了矩条件对变化的敏感程度，G越大，V越小。因此，GMM估计量的方差取决于S和G，与S呈正比，与G

12、呈反比。1.2.5 GMM估计步骤要得到最优估计量，需要先得到权数矩阵；而要得到权数矩阵，需要先得到参数估计量。因此，参数估计量和权数矩阵是两个相互交错的问题。1 两步有效GMM估计因为，对于任意权数矩阵，GMM估计总是一致的，因此可以先选择一个初始矩阵，得到参数的一致估计量，并利用该估计量计算权数矩阵，再利用新计算的权数矩阵的重新估计。这即是两部GMM估计。Step1：选择初始权数矩阵，比如或，计算的一致估计量：然后估计最优权重矩阵。Step2：利用第一步中得到的最优权重矩阵进行GMM估计，得到两步有效GMM估计量.2 K-Step 迭代GMM估计Step1：选择初始权数矩阵，估计量表示为。

13、Step2：估计新的权数矩阵，重新估计得到。Step3：反复迭代，直至收敛。3 连续更新GMM估计与前两种方法不同，连续更新GMM估计不是在和W之间反复迭代，而是将W看作是的函数，求解下式的最小化：显然，上式的一阶条件与原来的一阶条件不同，但这种方法与两步估计和K步迭代估计是渐进等价的，但这种方法具有最好的小样本特征。1.3 模型设定检验1.3.1 Hansen过度识别约束检验（Sargan J 检验）当L K时，矩条件个数多于参数个数。这时，可能部分矩条件不成立。因为这时参数属于过度识别，因此，对矩条件是否成立的检验也称为过度识别约束检验。当权数矩阵选择最优矩阵时，即，那么37注意：EVie

14、ws GMM输出结果中给出的J统计量没有乘以T。1.3.2 检验正交条件的子集假设存在 LK个工具变量。L个工具变量分为两组，。包括L1个工具变量，包括L2=L-L1个工具变量。前L1个工具变量满足正交条件，但怀疑后L2个工具变量的正交条件是否得到满足。比如，模型设定为：38工具变量满足39需要检验的是：40如果可信的工具变量的个数L1=K，就可以对后L2个工具变量是否满足正交条件进行检验。其基本思想是，分别用和作为工具变量估计模型（39），并分别计算J统计量。如果增加可疑的工具变量使得J统计量明显增加，则表明不满足正交条件。根据工具变量，将拆分成，其对应的协方差矩阵分解为：其中，。根据（39）式，使用作为工具变量时，J统计量为：41使用作为工具变量时，J统计量为：42构建统计量：43在小样本情况下，C统计量可能会出现负值。我们在工具变量估计中已经知道，方程的标准差如果采用相同的估计量（或者是一致估计，或者是有效估计，大部分采用有效估计），则可以