多元線性回歸-異方差問題

《多元線性回歸-異方差問題》由會(huì)員上傳分享，免費(fèi)在線閱讀，更多相關(guān)內(nèi)容在教育資源-天天文庫(kù)。

1、第九章多元線性回歸的異方差問題一、異方差及其影響二、異方差的發(fā)現(xiàn)和判斷三、異方差的解決方法1一、異方差及其影響1、異方差的定義：對(duì)于多元線性回歸模型，如果隨機(jī)擾動(dòng)項(xiàng)的方差并非是不變的常數(shù)，則稱為存在異方差（heteroscedasticity)。異方差可以表示為?；?兩變量線性回歸模型的異方差31、異方差的定義異方差主要出現(xiàn)在截面數(shù)據(jù)分析中，例如大公司的利潤(rùn)變化幅度要比小公司的利潤(rùn)變化幅度大，即大公司利潤(rùn)的方差比小公司利潤(rùn)的方差大。這取決于公司的規(guī)模、產(chǎn)業(yè)特點(diǎn)和研究開發(fā)支出多少等因素。又如高收入家

2、庭通常比低收入家庭對(duì)某些商品的支出有更大的方差。例6-1：人均家庭支出（cum)和可支配收入（in)的關(guān)系模型給出中國(guó)1998年各地區(qū)城鎮(zhèn)居民平均每人全年家庭交通及通訊支出（cum)和可支配收入（in)的數(shù)據(jù)，估計(jì)兩者之間的關(guān)系模型42、異方差的影響1、OLS估計(jì)量不再是BLUE，其是無偏和一致的，但并非有效的，即不再具有方差最小性。2、檢驗(yàn)假設(shè)的統(tǒng)計(jì)量不再成立，建立在t分布和F分布之上的置信區(qū)間和假設(shè)檢驗(yàn)不可靠。5二、異方差的發(fā)現(xiàn)和判斷（一）殘差的圖形檢驗(yàn)（二）帕克檢驗(yàn)（Parktest）（三）

3、戈里瑟檢驗(yàn)（Glejsertest）（四）懷特檢驗(yàn)（Whitetest）6（一）殘差的圖形檢驗(yàn)這是一種最直觀的方法，它以某一變量（通常取因變量）作為橫坐標(biāo)，以隨機(jī)項(xiàng)的估計(jì)量e或e2為縱坐標(biāo)，根據(jù)作出的散點(diǎn)圖直觀地判斷是否存在相關(guān)性。如果存在相關(guān)性，則存在異方差。通常的方法是先產(chǎn)生殘差序列，再把它和因變量一起繪制散點(diǎn)圖。例6-2：利用該方法繪制上一章關(guān)于美國(guó)機(jī)動(dòng)車消費(fèi)量的模型中QMG與殘差的散點(diǎn)圖。7（二）Breusch-Pagan檢驗(yàn)假設(shè)回歸模型如下：檢驗(yàn)假定線性函數(shù)8步驟：1、作普通最小二乘回歸

4、（1），不考慮異方差問題。2、從原始回歸方程中得殘差ui，并求其平方。3、利用原始模型中的解釋變量作形如上式(2)的回歸，記下這個(gè)回歸的R平方。4、檢驗(yàn)零假設(shè)是對(duì)方程（2）進(jìn)行F檢驗(yàn)，或計(jì)算LM統(tǒng)計(jì)量進(jìn)行檢驗(yàn)。9（三）戈里瑟檢驗(yàn)1、通常擬合和之間的回歸模型：根據(jù)圖形中的分布選擇2、再檢驗(yàn)零假設(shè)＝0（不存在異方差）。如果零假設(shè)被拒絕，則表明可能存在異方差。10（四）懷特檢驗(yàn)假設(shè)有如下模型：（3）基本步驟：1、首先用OLS方法估計(jì)回歸方程（3）式。2、然后作輔助回歸：（4）113、求輔助回歸方程的R2

5、值。在零假設(shè)：不存在異方差下，White證明了，從方程（4）中獲得R2值與樣本容量（n）的積服從卡方分布自由度等于（4）式中的解釋變量的個(gè)數(shù)。4、根據(jù)樣本計(jì)算統(tǒng)計(jì)量n*R2值，并與所選取的顯著性水平進(jìn)行比較，看是否接受零假設(shè)（零假設(shè)為殘差不存在異方差性）。5、Eviews計(jì)算：View-ResidualTests-WhiteHeteroskedasticity.應(yīng)用：對(duì)例6-1進(jìn)行White異方差檢驗(yàn)（四）懷特檢驗(yàn)12等價(jià)的White檢驗(yàn)（1）用OLS估計(jì)模型（3），得到殘差和擬合值，計(jì)算它們的平

6、方；（2）做回歸記下這個(gè)回歸的R平方（3）構(gòu)造F或LM統(tǒng)計(jì)量并計(jì)算p值（前者為F2，n－3分布，后者用分布。13（五）實(shí)例使用Wooldridge中的數(shù)據(jù)HPRICE.RAW中的數(shù)據(jù)來檢驗(yàn)一個(gè)簡(jiǎn)單的住房?jī)r(jià)格方程中的異方差性。水平變量模型為（分別采用水平變量和其對(duì)數(shù)項(xiàng)分別進(jìn)行回歸分析）發(fā)現(xiàn)：采用水平模型存在異方差性，但采用對(duì)數(shù)模型不存在異方差性。14三、異方差的解決方法加權(quán)最小二乘法模型的重新設(shè)定15（一）加權(quán)最小二乘法基本思路：賦予殘差的每個(gè)觀測(cè)值不同權(quán)數(shù)，從而使模型的隨機(jī)誤差項(xiàng)具有同方差性。16

7、（一）加權(quán)最小二乘法方差已知的情形假設(shè)已知隨機(jī)誤差項(xiàng)的方差為var(ui)=?i2,設(shè)權(quán)數(shù)wi與異方差的變異趨勢(shì)相反,wi=1/?i,,將原模型兩端同乘以wi。wi使異方差經(jīng)受了“壓縮”和“擴(kuò)張”變?yōu)橥讲睢?7（一）加權(quán)最小二乘法方差已知的情形對(duì)于一元線性回歸模型y=b0+b1x+u，加權(quán)最小化殘差平方和為獲得的估計(jì)量就是加權(quán)最小二乘估計(jì)量。對(duì)于多元線性回歸模型y=Xβ＋u，令權(quán)數(shù)序列wi=1/?i，W為N×N對(duì)角矩陣，對(duì)角線上為wi，其他元素為0。則變換后的模型為18（一）加權(quán)最小二乘法方差已

8、知的情形（1）誤差方差與xi成比例Var(ui)=σ2*xi其中σ2為常數(shù)，這時(shí)可以令權(quán)序列（2）誤差方差與xi2成比例Var(ui)=σ2*xi2其中σ2為常數(shù)，這時(shí)可以令權(quán)序列19（一）加權(quán)最小二乘法方差已知的情形實(shí)例：住房支出模型給出由四組家庭住房支出和年收入組成的截面數(shù)據(jù)，建立住房支出模型，并檢驗(yàn)和修正異方差。（3）其他的與自變量xi的加權(quán)形式f(xi)20（一）加權(quán)最小二乘法方差已知的情形21（一）加權(quán)最小二乘法（4）用隨機(jī)誤差項(xiàng)的近似估計(jì)量求權(quán)重序列首先利用OLS估計(jì)原