經(jīng)濟(jì)計(jì)量學(xué)講義(線性回歸的基本思想)

《經(jīng)濟(jì)計(jì)量學(xué)講義(線性回歸的基本思想)》由會(huì)員上傳分享，免費(fèi)在線閱讀，更多相關(guān)內(nèi)容在行業(yè)資料-天天文庫。

1、計(jì)量經(jīng)濟(jì)學(xué)講義線性回歸的基本思想重慶大學(xué)貿(mào)易與行政學(xué)院2003年12月本次課主要講解四部分內(nèi)容：1、回歸的含義2、總體回歸函數(shù)3、樣本回歸函數(shù)4、參數(shù)的估計(jì)引言在對經(jīng)濟(jì)現(xiàn)象(例如需求法則)建立經(jīng)濟(jì)計(jì)量模型時(shí)，經(jīng)濟(jì)計(jì)量學(xué)大量地使用了回歸分析這一統(tǒng)計(jì)技術(shù)；通過最簡單的線性模型——雙變量模型來介紹回歸分析的基本思想：參數(shù)估計(jì)和假設(shè)檢驗(yàn)；本此課講解：如何進(jìn)行參數(shù)估計(jì)。一、回歸的含義回歸分析是用來研究一個(gè)變量與另一個(gè)或多個(gè)變量之間的關(guān)系。1、舉例：需求的價(jià)格函數(shù)；2、我們用Y代表應(yīng)變量，X代表自變量或解釋

2、變量。如果有多個(gè)解釋變量，用適當(dāng)?shù)南聵?biāo)，表示各個(gè)不同的X，如X1，X2，X3等；3、回歸分析并不一定表明一個(gè)應(yīng)變量與另一或多個(gè)自變量之間存在因果關(guān)系，因果關(guān)系的判定或推斷必須依據(jù)經(jīng)過實(shí)踐檢驗(yàn)的相關(guān)理論?；貧w分析的作用：通過已知變量的值來估計(jì)應(yīng)變量的均值；對獨(dú)立性進(jìn)行假設(shè)檢驗(yàn)—根據(jù)經(jīng)濟(jì)理論建立適當(dāng)?shù)募僭O(shè)；通過自變量的值，對應(yīng)變量的均值進(jìn)行預(yù)測；上述多個(gè)目標(biāo)的綜合。二、總體回歸函數(shù)一個(gè)例子：對《計(jì)量經(jīng)濟(jì)學(xué)》教科書的需求分析概念：總體回歸直線告訴我們對應(yīng)于每一個(gè)X值(或任一個(gè)自變量)相應(yīng)的Y(或任何一

3、個(gè)應(yīng)變量)的均值。如：QD=a0-a1PD，右圖。右圖畫出的總體回歸直線是線性的，用函數(shù)的形式來表示：E(Y｜Xi)=B1+B2Xi(1)E(Y｜Xi)表示給定X值相應(yīng)的Y的均值（條件期望或條件均值）下標(biāo)i代表第i個(gè)子總體?？傮w回歸直線經(jīng)過Y的條件期望值。式(1)是總體回歸函數(shù)的數(shù)學(xué)形式。在這里，總體回歸函數(shù)是線性函數(shù)。B1，B2為參數(shù)，也稱為回歸系數(shù)。B1又稱為截距，B2又稱為斜率。斜率度量了X每變動(dòng)一單位，Y的均值的變化率?；貧w分析就是條件分析，因此式（1）表示為：E(Y)=B1+B2Xi總

4、體回歸函數(shù)誤差的設(shè)定總體回歸函數(shù)給出了對應(yīng)于每一個(gè)自變量的應(yīng)變量的平均值。由式（1）得到：Yi=E(Y)+ui=B1+B2Xi+ui(2)其中，ui表示隨機(jī)誤差項(xiàng)或簡稱為誤差項(xiàng)。在某一價(jià)格水平上，個(gè)人i的需求量是兩部分之和：(1)(B1+B2Xi)，即第i個(gè)子總體的平均需求量，稱為系統(tǒng)的或決定的部分。(2)ui，稱為非系統(tǒng)或隨機(jī)的部分(由價(jià)格以外的因素所決定)。式（2）稱為隨機(jī)總體回歸函數(shù)為什么要加上隨機(jī)誤差項(xiàng)？隨機(jī)誤差項(xiàng)的性質(zhì)隨機(jī)誤差項(xiàng)可能代表了模型中并未包括的變量的影響；ui反映了人類行為中

5、的一些內(nèi)在隨機(jī)性，即使模型中包括了所有決定需求量的有關(guān)變量；ui也可以代表測量誤差；“簡單優(yōu)于復(fù)雜”。在價(jià)格的需求函數(shù)中，可能會(huì)由于上述一個(gè)或幾個(gè)原因?qū)е聜€(gè)人需求量偏離群體均值(即系統(tǒng)部分)。在隨后的分析中，我們將會(huì)看到，隨機(jī)誤差項(xiàng)在回歸分析中有著至關(guān)重要的作用。用樣本回歸函數(shù)來表示樣本回歸線：(3)其中，表示總體條件均值E(Y)的估計(jì)量；b1表示B1的估計(jì)量；b2表示B2的估計(jì)量；^讀作“帽”。三、樣本回歸函數(shù)總體的數(shù)據(jù)很難獲得；樣本回歸的任務(wù)就是根據(jù)樣本提供的信息來估計(jì)總體回歸函數(shù)。右圖中，

6、并非所有的樣本數(shù)據(jù)都準(zhǔn)確地落在各自的樣本回歸線上。因此，與建立隨機(jī)總體回歸函數(shù)一樣，我們需要建立隨機(jī)的樣本回歸函數(shù)：Yi=b1+b2Xi+ei(4)其中，ei是ui的估計(jì)量，稱ei為殘差項(xiàng)(residualterm)，或簡稱為殘差。注意：樣本回歸函數(shù)中生成ei的原因與總體回歸函數(shù)中生成ui的原因相同?；貧w分析的主要目的是根據(jù)樣本回歸函數(shù)：Yi=b1+b2Xi+ei來估計(jì)總體回歸函數(shù)：Yi=B1+B2Xi+ui由于抽樣的不同，所以對總體回歸函數(shù)的估計(jì)僅僅是近似估計(jì)，如右圖所示?！熬€性”回歸的特殊含

7、義解釋變量線性下面的函數(shù)形式不是線性的：a)E(Y)=B1+B2X22b)參數(shù)線性下面的模型就是非線性的，因?yàn)锽2以平方的形式出現(xiàn)：E(Y)=B1+B22Xi(5)計(jì)量經(jīng)濟(jì)學(xué)主要關(guān)注參數(shù)線性的模型，因此，線性回歸是指參數(shù)線性的回歸，而解釋變量并不一定是線性的。四、參數(shù)的估計(jì)：普通最小二乘法如何進(jìn)行估計(jì)總體回歸函數(shù)？式(2)所描述的雙變量總體回歸方程：Yi=B1+B2Xi+u1用下面的樣本回歸函數(shù)來估計(jì)它：Yi=b1+b2Xi+ei估計(jì)總體回歸函數(shù)的最優(yōu)方法：選擇B1，B2的估計(jì)量b1，b2，使得

8、殘差ei盡可能的小。由式（4）得：ei=Yi－b1－b2Xi（6）=[利用式(3)]=實(shí)際的Yi－估計(jì)的Yi(7)(8)譬如：最小二乘法的原理：所有Yi的真實(shí)值與估計(jì)值之差的平方和最小普通最小二乘法(OLS)是選擇參數(shù)b1，b2，使得全部觀察值的殘差平方和最小。用數(shù)學(xué)形式表示為：普通最小二乘估計(jì)量的性質(zhì)：運(yùn)用OLS法得出的樣本回歸線經(jīng)過樣本均值點(diǎn)，因?yàn)闅埐畹木悼倿榱悖矗簩埐钆c解釋變量的積求和，其值為零，即：五、應(yīng)用舉例上表給出1967～1990年期間男女學(xué)生的詞匯及數(shù)學(xué)分?jǐn)?shù)，假設(shè)要根據(jù)男生