考虑以下可加非线性模型
y t = β ′ z t +G( z t ; γ )+ε t ,t=1,…,T
(5-2)
其中,
z
t
=(1, y
t-1
,…, y
t-p
, x
1t
,…, x
kt
)′是解释变量向量,
β
=(β
0
, β
1
,…, β
k+p
)′是(k+p+1)×1维参数向量,对于|z|≤1,存在
,且{ε
t
}~iidN(0,σ
2
)。此外,对所有的
z
t
∈Z,G(
z
t
;
γ
)至少两次连续可微,且n×1维参数向量γ的值处于γ=
0
的一个开区域内。例如,G(
z
t
;
γ
)=exp{
γ
′
z
t
}-1。为了简化符号,假设对于
γ
≠
0
,都有G(
z
t
;
0
)=0和G(
z
t
;
γ
)≠0。因此,线性假设为
γ
=
0
。从式(5-2)中可以看出,检验假设的最好方法就是应用拉格朗日乘数(LM)或者得分原理,这两种方法仅需要对线性模型进行估计。其他两种古典检验,Wald检验和似然比检验,则需要估计无约束模型,存在不必要的复杂性。Pagan(1978)首次对此进行强调并提出LM线性检验。
为了导出这个检验,需要式(5-2)中的对数似然函数。令 θ =( β ′, γ )′,则
在 γ = 0 的条件下,估计的平均得分等于
其中,
,
是
β
在H
0
下的最大似然估计量,
,且
。似然函数的二阶偏导数为
其中,
h
t
=∂G(z
t
;
γ
)/∂
γ
。由于
,从而建议采用如下总体信息矩阵的一致估计量
I
(
θ
):
因此,在矩阵形式中,可以把如下LM统计量
其中,
Z
=(
z
′
1
,…,
z
′
T
)′,
,
。在原假设H
0
下,式(5-3)的统计量渐近服从自由度为n的χ
2
分布。这恰好与检验以下线性模型的原假设
δ
=
0
得到的统计量相同。
y = Zβ + Hδ +ε
(5-4)
其中, y =(y 1 ,…,y T )′。另一种考察该检验的方法是,在原假设下,用一阶泰勒展开式对式(5-2)进行线性化。这表明可能存在很多有相同LM线性检验的非线性模型。这种可能性将会在下一节进行讨论。
LM检验方法不适用于 h t = z t 或 z t 子向量的情况。举例来说,考虑G(·)为指数函数的模型
y t = β ′ z t +(exp{ γ ′ z t }-1)+ε t ,t=1,…,T
(5-5)
的式(5-2)。在原假设 γ = 0 下的线性化将得到 H = Z 的式(5-4)。在这种情况下,必须估计保留的模型,并应用Wald或者似然比定理来进行检验。
众所周知,拉格朗日乘数检验也可以通过两个回归得以实现。该检验的这种形式通常被称为TR 2 形式。包含了回归的检验步骤如下:
(1)在H
0
下估计式(5-2)(估计线性模型),计算残差
,t=1,…,T,以及残差平方和,记为SSR
0
。
(2)将
(或者y
t
)对
z
t
和
回归,计算残差,并计算残差平方和,记为SSR
1
。
(3)计算渐近检验统计量
或F形式的统计量为
在原假设下,后者(F形式的统计量)近似服从自由度为n和T-(k+p+1)-n的F分布,也适用于小样本和中等样本检验。如果原假设的维度较大,那么,渐近χ
2
统计量就可能会严重过大,相反,F检验具有更好的规模性质。明显地,术语“TR
2
形式”来自式(5-6)的右侧的有关信息量,其中,这个比值是
关于
z
t
和
回归中的判定系数。
上述构建TR 2 形式过程的一个优点是,它可以进行修正,以使得对残差序列{ε t }中异方差的未规定形式进行检验时获得较为稳健的结论。这是很有用的,比如,在对条件均值建模时,即使残差不相关,但仍有理由怀疑残差存在高阶相关。根据Davidson和MacKinnon(1985)与Wooldridge(1990)的研究结论,异方差稳健的LM检验可以通过如下步骤得以实现:
(1)和前面一样。
(2)将
对
z
t
进行回归,并计算n维残差向量
r
t
,t=1,2,…,T。
(3)将1对
进行回归,计算残差及残差平方和SSR
1
。
(4)计算式(5-6)或者式(5-7)的统计量。
线性检验也可用于条件异方差的稳健检验,这将在第8章进行讨论。这可以通过由引导线性模型的残差来构造检验统计量的经验分布来实现。这里应用的引导是所谓自助法,即保留了原始误差分布的前两阶矩,参阅Mammen(1992)的研究。自助法分为两类:递归机制和固定机制。考虑如下线性自回归模型
其中,{ε
t
}是一个关于由{ε
t-1
,ε
t-2
,…}生成的σ-域的鞅差序列,且{
:t=1,…,T}是式(5-8)参数向量的最小二乘估计量的残差序列。在自助法中,一组新的T的残差表示如下:
其中,{η
t
}~iid(0,1)。针对这个目的,一个普遍的分布是Rademacher分布:η
t
=1和η
t
=-1有相同的概率,都为1/2。递归设计的自助法生成的序列
如下所示
从初始值y
0
, y
-1
,…,y
-p+1
开始。在固定设计的自助法中,
为
也就是,原始观测序列y
t
,t=1,…,T,在生成序列
时被保留。残差的条件异方差性自回归的渐近理论,可通过自助法加以推导,相关讨论请参阅Gonçalves和Kilian(2004)的研究。
在条件异方差性下,有效的线性检验可以通过如下步骤实现:
(1)计算式(5-7)的检验统计量。
(2)通过自助法,从估计的线性模型中生成长度为T的B个时间序列,并依次用每一序列来计算式(5-7)的值。
(3)根据计算出来的B个值,建立统计量的经验累积分布,并和式(5-7)的统计量的初始值进行比较。
(4)令检验的显著性水平为α。如果式(5-7)的统计量的初始值等于或者大于经验分布的第(1-α)个分位点,则拒绝原假设。
Hurn和Becker(2007)把这个过程应用于第3.6节中的神经网络检验,并且通过模拟发现,当标准检验甚至是前一节的异方差稳健检验的统计量存在严重过大时,在条件异方差性下,它的规模性质还是良好的。基于一个经验分布的线性检验的其他例子可以参阅第5.5.2节和第5.5.4节的讨论。