有限混合模型的似然推斷.pdf

1、在統(tǒng)計(jì)推斷理論和方法的研究中，建模理論和分析是最重要的分支之一。由于結(jié)合了參數(shù)和非參數(shù)模型的很多優(yōu)良的性質(zhì)，有限混合分布在統(tǒng)計(jì)建模中扮演了重要的角色。作為一種彈性的建模方法，有限混合模型已經(jīng)成為統(tǒng)計(jì)的一個(gè)熱點(diǎn)問題。在過去的幾十年里，混合模型成功地應(yīng)用于航天、生物、遺傳、醫(yī)藥、經(jīng)濟(jì)、工程和營(yíng)銷等領(lǐng)域。而作為有限正態(tài)混合模型的一種有用和自然的推廣，切換回歸模型特別在經(jīng)濟(jì)和金融方面有著重要的應(yīng)用。
　　 切換回歸模型最早由Quandt

2、(1958，1960)提出，F(xiàn)air and Jaffee(1972)在不平衡市場(chǎng)下，用它來估計(jì)供給與需求的關(guān)系問題。在過去的幾年里，切換回歸模型的參數(shù)估計(jì)逐漸引起人們的注意，并且獲得許多新的和有趣的結(jié)果。由于最大似然估計(jì)優(yōu)良的統(tǒng)計(jì)性質(zhì)，最大似然估計(jì)成為最受歡迎的方法之一。但由于在切換回歸模型下，似然函數(shù)在自然參數(shù)空間上的無界性，導(dǎo)致一般的最大似然估計(jì)不存在，因而，人們?yōu)榱藢?shí)施最大似然估計(jì)，需要加一參數(shù)空間為緊集的條件，可參考Kiefe

3、r(1978),Hartely(1977)和Desarbo(1988)等文章，都在參數(shù)空間是緊的條件下，證明了最大似然估計(jì)具有相合性，漸進(jìn)正態(tài)性和有效性。為了克服MLE無界產(chǎn)生的困難，Quandt and Ramsey(1978)提出了一種矩母函數(shù)估計(jì)(MGF)的方法，并指出MGF的方法要優(yōu)于矩方法（MM）。不好的是，正如Quandt and Ramsey(1978)所提及的是，MGF方法有數(shù)值計(jì)算上的不穩(wěn)定性，即計(jì)算上也有不收斂情況出

4、現(xiàn)。Xu(2007)提出了一種連續(xù)的經(jīng)驗(yàn)特征函數(shù)的方法(CECF)來估計(jì)切換回歸模型，CECF比MGF計(jì)算上更加方便，且在數(shù)值計(jì)算上是穩(wěn)定的，這是因?yàn)橥ㄟ^Fourier變換，特征函數(shù)相對(duì)于矩母函數(shù)總是一致有界的。
　　 最近，Chen，Tan和Zhang(2008)提出了懲罰最大似然估計(jì)(PMLE)方法來推斷有限正態(tài)混合模型的參數(shù)，受此啟發(fā)，本論文的主要貢獻(xiàn)是給出用懲罰最大似然估計(jì)(PMLE)和約束最大似然估計(jì)(CMLE)方法來

5、估計(jì)切換回歸模型的參數(shù)，研究了PMLE和CMLE的一些大樣本性質(zhì)。
　　 首先，根據(jù)VC族理論，本文建立了一濃度不等式。這個(gè)不等式給出了觀察數(shù)落在一類集合中個(gè)數(shù)階的一個(gè)一致估計(jì)。為了克服似然函數(shù)的無界性的主要障礙，我們提出用懲罰最大似然的方法來估計(jì)具有隨機(jī)協(xié)變量的切換回歸模型的參數(shù)。我們證明了懲罰最大似然估計(jì)量具有強(qiáng)相合性，漸近正態(tài)性和有效性。通過模擬研究，我們發(fā)現(xiàn)所提的PMLE在偏差，標(biāo)準(zhǔn)差和均方誤差方面表現(xiàn)比MLE要好。同時(shí)

6、，我們也給出了兩個(gè)例子進(jìn)一步闡明理論結(jié)果在實(shí)際中的應(yīng)用。
　　 第二，Phillips(1991)提出用約束最大似然方法來估計(jì)具有固定協(xié)變量的切換回歸模型，我們發(fā)現(xiàn)其證明不嚴(yán)格有疏漏問題，導(dǎo)致所得結(jié)論不正確。我們應(yīng)用Wald方法，獲得了比Phillips(1991)更一般的一個(gè)結(jié)果。具體地說，隨著樣本容量n趨向于∞，此時(shí)約束常數(shù)c以速度exp(-n2/1(logn)-α）趨向于0，我們證明了約束最大似然估計(jì)仍然是強(qiáng)相合的，這里α

7、>1?；诒疚牡哪M結(jié)果，我們建議一適當(dāng)?shù)摩?，也即cn，用在實(shí)際計(jì)算中。
　　 其次，我們考慮了多元正態(tài)混合模型的參數(shù)約束最大似然估計(jì)問題。在成分?jǐn)?shù)已知的情況下，我們證明了約束最大似然估計(jì)依然是具有強(qiáng)相合性和漸近正態(tài)性。并且，利用協(xié)方差陣的譜分解定理，我們給出了協(xié)方差陣特征根的約束參數(shù)空間。
　　 最后，我們討論了切換回歸模型幾種有用的推廣。一類是具有混合效應(yīng)的切換回歸模型，它結(jié)合了固定的回歸系數(shù)與可變的回歸系數(shù)，此類模