多元線性回歸分析ppt課件.ppt

《多元線性回歸分析ppt課件.ppt》由會(huì)員上傳分享，免費(fèi)在線閱讀，更多相關(guān)內(nèi)容在教育資源-天天文庫(kù)。

1、多元線性回歸分析多元線性回歸分析1多元線性回歸模型設(shè)定2多元線性回歸模型參數(shù)估計(jì)2.1回歸系數(shù)估計(jì)2.2誤差估計(jì)—?dú)埐?.3的分布3更多假設(shè)下OLS估計(jì)量性質(zhì)4回歸系數(shù)檢驗(yàn)（t檢驗(yàn)）5調(diào)整、信息準(zhǔn)則和變量選擇5.1調(diào)整5.2信息準(zhǔn)則多元線性回歸分析6回歸模型檢驗(yàn)（F檢驗(yàn)）7用EViews7.2進(jìn)行多元線性回歸8假設(shè)條件的放松7.1假設(shè)條件的放松（一）—非正態(tài)分布誤差項(xiàng)7.2假設(shè)條件的放松（二）—異方差7.3假設(shè)條件的放松（三）—非隨機(jī)抽樣和序列相關(guān)7.4假設(shè)條件的放松（四）—內(nèi)生性9自變量共線性重

2、要概念1多元線性回歸模型設(shè)定模型設(shè)定：假設(shè)1（零條件均值:zeroconditonalmean）給定解釋變量，誤差項(xiàng)條件數(shù)學(xué)期望為0，即1多元線性回歸模型設(shè)定假設(shè)2（無共線性:nocolinearity）解釋變量之間不存在線性關(guān)系。即不存在不全為零的一組數(shù)使得若不成立，稱自變量間存在完全共線性（perfectcolinearity），此時(shí)參數(shù)不能被唯一估計(jì)。1多元線性回歸模型設(shè)定對(duì)于樣本模型，從無共線性的假設(shè)得出解釋變量樣本值形成的向量之間線性無關(guān)?！僭O(shè)2’（樣本無共線性:nocolineari

3、ty）不存在不全為零的一組數(shù)使得2多元線性回歸模型參數(shù)估計(jì)2.1回歸系數(shù)估計(jì)2.2誤差估計(jì)—?dú)埐?.3的分布2多元線性回歸模型參數(shù)估計(jì)2.1回歸系數(shù)估計(jì)類比原則得樣本矩條件2多元線性回歸模型參數(shù)估計(jì)2.1回歸系數(shù)估計(jì)多元回歸分析參數(shù)估計(jì)一般用矩陣表示，這里僅給出二元情況下用克萊姆法則解出的解。2多元線性回歸模型參數(shù)估計(jì)2.1回歸系數(shù)估計(jì)結(jié)論結(jié)論1：OLS估計(jì)的一致性如果回歸模型誤差項(xiàng)滿足假設(shè)1和假設(shè)2，OLS估計(jì)為一致估計(jì)，即結(jié)論2：OLS估計(jì)的無偏性如果回歸模型誤差項(xiàng)滿足假設(shè)1和假設(shè)2，OLS估

4、計(jì)為無偏估計(jì)：2多元線性回歸模型參數(shù)估計(jì)2.2誤差估計(jì)—?dú)埐罱Y(jié)論結(jié)論3：如果假設(shè)1和假設(shè)2滿足，則回歸殘差是回歸誤差的一致估計(jì)：結(jié)論4：如果假設(shè)1和假設(shè)2滿足，殘差形成的向量和自變量樣本值形成的向量正交。2多元線性回歸模型參數(shù)估計(jì)2.3的分布結(jié)論5如果假設(shè)1和假設(shè)2滿足，樣本量較大時(shí)，OLS估計(jì)近似服從正態(tài)分布：其中3更多假設(shè)下OLS估計(jì)量性質(zhì)假設(shè)3（同方差：homoskedasticity）給定解釋變量，誤差項(xiàng)條件方差為常數(shù)，即假設(shè)4（隨機(jī)抽樣:randomsample）樣本是隨機(jī)抽樣產(chǎn)生的，樣

5、本之間相互獨(dú)立，模型誤差項(xiàng)之間相互獨(dú)立。3更多假設(shè)下OLS估計(jì)量性質(zhì)結(jié)論6如果假設(shè)1~假設(shè)4滿足，則當(dāng)樣本量較大時(shí)，OLS估計(jì)近似服從結(jié)論5中的正態(tài)分布，方差計(jì)算公式為其中為以為因變量對(duì)其余解釋變量進(jìn)行多元線性回歸的擬合優(yōu)度。3更多假設(shè)下OLS估計(jì)量性質(zhì)結(jié)論7如果假設(shè)1~假設(shè)4滿足，統(tǒng)計(jì)量是誤差項(xiàng)方差的無偏和一致估計(jì)，即為回歸標(biāo)準(zhǔn)誤，記為。3更多假設(shè)下OLS估計(jì)量性質(zhì)結(jié)論8如果假設(shè)1~假設(shè)4滿足，樣本量較大時(shí)，如下統(tǒng)計(jì)量近似服從正態(tài)分布結(jié)論9如果假設(shè)1~假設(shè)4滿足，OLS估計(jì)量為最有效估計(jì)：在的所

6、有線性無偏估計(jì)中，的方差最小。這稱為OLS估計(jì)的馬爾科夫性。3更多假設(shè)下OLS估計(jì)量性質(zhì)假設(shè)5（正態(tài)分布:normaldistribution）給定解釋變量，誤差項(xiàng)服從正態(tài)分布，即其中3更多假設(shè)下OLS估計(jì)量性質(zhì)結(jié)論10如果假設(shè)1~假設(shè)5滿足，（1）服從正態(tài)分布，，由上面公式給出；（2）服從自由度為的t-分布其中由上面公式給出，。4回歸系數(shù)檢驗(yàn)（檢驗(yàn)）檢驗(yàn)的原假設(shè)和備選假設(shè)為：通常取顯著水平或假設(shè)1~5都成立的情況下，統(tǒng)計(jì)量樣本量較大時(shí)（n>35），0.05顯著水平下雙邊檢驗(yàn)臨界值接近2，故常用t

7、值是否大于2判斷參數(shù)是否顯著。5調(diào)整、信息準(zhǔn)則和變量選擇5.1調(diào)整5.2信息準(zhǔn)則5調(diào)整、信息準(zhǔn)則和變量選擇5.1調(diào)整增加解釋變量只會(huì)減少RSS的值（不受限的最小化總比受限的最小化來的?。?，從而增加值。用自由度來調(diào)整的定義關(guān)系：5調(diào)整、信息準(zhǔn)則和變量選擇5.2信息準(zhǔn)則將模型自變量個(gè)數(shù)考慮在內(nèi)的變量選擇標(biāo)準(zhǔn):AIC,SC,HQ應(yīng)用原則是使信息準(zhǔn)則值最小的模型最好。（只對(duì)嵌套模型有用）常用AIC和SC準(zhǔn)則，SC準(zhǔn)則對(duì)增加解釋變量的懲罰更為嚴(yán)厲，因此得出的模型往往更簡(jiǎn)潔。6回歸模型檢驗(yàn)（F檢驗(yàn)）擬合優(yōu)度和

8、信息準(zhǔn)則均不嚴(yán)格，帶有很多主觀判斷，因此要進(jìn)行嚴(yán)格的模型檢驗(yàn)。原假設(shè)：至少一個(gè)不為0統(tǒng)計(jì)量：6回歸模型檢驗(yàn)（F檢驗(yàn)）結(jié)論11如果假設(shè)1~假設(shè)5滿足，上述統(tǒng)計(jì)量服從第一自由度為k、第二自由度為（n－2）的F分布，即：實(shí)際中，上述F檢驗(yàn)拒絕原假設(shè)并不意味一定有一個(gè)參數(shù)的t檢驗(yàn)要拒絕原假設(shè)；反之，即使全部t檢驗(yàn)都不拒絕原假設(shè)，上述F檢驗(yàn)也不一定不拒絕原假設(shè)。7用EViews7.2進(jìn)行多元線性回歸步驟：與一元線性回歸模型類似，先建立Excel數(shù)據(jù)文件，再將文件導(dǎo)入EViews用Genr按鈕