最大似然估计.ppt

非经典计量经济学模型估计方法;计量模型估计方法说明;主要内容;一、最大似然原理;内在机理：当从模型总体随机抽取n组样本观测值后，最合理的参数估计量应该使得从模型中抽取该n组样本观测值的概率最大。该方法更本质地揭示了通过样本估计母体参数的内在机理。在微观计量模型尤其适用。

似然函数：将样本观测值联合概率函数称为样本观测值的似然函数。

极大似然法：通过似然函数极大化以求得总体参数估计量的方法被称为极大似然法。;工作原理：在已经取得样本观测值的情况下，使似然函数取最大值的总体分布参数所代表的总体具有最大的概率取得这些样本观测值，该总体参数即是所要求的参数。

最小二乘法：最合理的参数估计量是使得模型能最好的拟合样本数据；

以正态分布的总体为例，每个总体都有自己的分布参数期望和方差，如果已经得到n组样本观测值，在可供选择总体中，哪个最可能产生这组样本数据？取得n组样本观测值的联合概率，然后选择参数使其最大，和该参数匹配的即为总体。

;二、线性模型的最大似然估计;1、一元线性模型的最大似然估计;对数似然函数;分布参数的ML估计量;注意：

ML估计必须Y的分布。

只有在正态分布时，ML和OLS的结构参数估计结果相同。

如果Y不服从正态分布，不能采用OLS。例如：选择性样本模型、计数数据模型等。在微观计量领域有重要应用。;2、多元线性模型的最大似然估计;结构参数估计结果与OLS估计相同;分布参数估计结果与OLS不同;3、最大似然估计量的性质;4、信息矩阵;三、非线性模型的最大似然估计;1、简单非线性模型的最大似然估计;面临NLS〔非线性最小二乘估计〕同样的过程，得到相同的估计结果。;2.一般非线性模型的ML估计;模型参数的一种估计方法是最小二乘法，即最小化;最大似然估计;总体的对数似然函数为：;很明显假设没有雅可比行列式项，参数的非线性最小二乘估计将是最大似然估计；但是，如果雅可比行列式包括θ，最小二乘法不是最大似然法。;最大化对数似然函数的一阶条件为：;3、说明;四、异方差和序列相关的最大似然估计;1、思路;;2、异方差的最大似然估计;被解释变量样??的对数似然函数为：;对异方差的结构给出假定，可以对模型的参数β和Ω的参数α进行最大似然估计。;3、例题;OLS;;注：

线性模型，截面样本，一般存在异方差。

时间序列也有可能有异方差，常见金融时间序列。

采用非线性最大似然法估计，可以得到关于异方差结构的估计结果。

在某些情况下，得到异方差结构的估计结果比模型参数估计量更重要。这就是异方差性的非线性方法的意义所在。;4、序列相关的最大似然估计;假定模型随机误差项的序列相关结构为AR(1);按照非线性模型ML显示：;中心化对数似然函数：;5、例题;五、最大似然估计下的

Wald、LM和LR检验;1、说明;1、沃尔德检验〔WaldTest〕

通过研究的无约束估计量与有约束的距离来检验，如果原假设正确，二者差值不应该很大。

;2、似然比检验〔WLR〕

通常来说，无约束的似然函数最大值比有约束的似然函数最大值更大，如果原假设正确，差值不应该很大。

;3、拉格朗日乘子检验〔LM〕

;注：

Wald仅利用无约束估计的信息，LM检验仅利用有约束估计的信息，而LR检验同时利用有约束与无约束信息。

这三类检验在大样本情况下是等价的，小样本下性质不同。

在正态分布与线性假设的情况下，可以证明统计量WALD>LR>LM。

在不对模型的具体概率分布做出假设的情况下，LR、LM检验无法进行，但是Wald检验仍可以进行。

LR、LM检验具有不变性，但是Wald那么不具备，即如果对原假设进行参数变换可能得到不同的Wald。;六、对正态分布假设的检验;对非线性模型使用ML时，正态分布是推导的前提，所以检验扰动项是否服从状态分布就比较重要。

常用方法：

直方图

核密度估计法

QQ图

雅克—贝拉检验〔JB检验〕;