一元線性回歸方程建立

《一元線性回歸方程建立》由會(huì)員上傳分享，免費(fèi)在線閱讀，更多相關(guān)內(nèi)容在行業(yè)資料-天天文庫。

1、第二節(jié)一元線性回歸方程的建立?一元線性回歸分析是處理兩個(gè)變量之間關(guān)系的最簡單模型，它所研究的對(duì)象是兩個(gè)變量之間的線性相關(guān)關(guān)系。通過對(duì)這個(gè)模型的討論，我們不僅可以掌握有關(guān)一元線性回歸的知識(shí)，而且可以從中了解回歸分析方法的基本思想、方法和應(yīng)用。?一、問題的提出?例2-1-1為了研究氮含量對(duì)鐵合金溶液初生奧氏體析出溫度的影響，測定了不同氮含量時(shí)鐵合金溶液初生奧氏體析出溫度，得到表2-1-1給出的5組數(shù)據(jù)。表2-1-1氮含量與灰鑄鐵初生奧氏體析出溫度測試數(shù)據(jù)????如果把氮含量作為橫坐標(biāo)，把初生奧氏體析出溫度作為縱坐標(biāo)，將這些數(shù)據(jù)標(biāo)在平面直角坐標(biāo)上，則得圖2

2、-1-1，這個(gè)圖稱為散點(diǎn)圖。從圖2-1-1可以看出，數(shù)據(jù)點(diǎn)基本落在一條直線附近。這告訴我們，變量X與Y的關(guān)系大致可看作是線性關(guān)系，即它們之間的相互關(guān)系可以用線性關(guān)系來描述。但是由于并非所有的數(shù)據(jù)點(diǎn)完全落在一條直線上，因此X與Y的關(guān)系并沒有確切到可以唯一地由一個(gè)X值確定一個(gè)Y值的程度。其它因素，諸如其它微量元素的含量以及測試誤差等都會(huì)影響Y的測試結(jié)果。如果我們要研究X與Y的關(guān)系，可以作線性擬合?（2-1-1）?我們稱（2-1-1）式為回歸方程，a與b是待定常數(shù)，稱為回歸系數(shù)。從理論上講，（2-1-1）式有無窮多組解，回歸分析的任務(wù)是求出其最佳的線性擬合

3、。?二、最小二乘法原理?如果把用回歸方程計(jì)算得到的i值(i=1,2,…n)稱為回歸值，那么實(shí)際測量值yi與回歸值i之間存在著偏差，我們把這種偏差稱為殘差，記為ei(i=1,2,3,…,n)。這樣，我們就可以用殘差平方和來度量測量值與回歸直線的接近或偏差程度。殘差平方和定義為:(2-1-2)所謂最小二乘法，就是選擇a和b使Q(a,b)最小，即用最小二乘法得到的回歸直線是在所有直線中與測量值殘差平方和Q最小的一條。由(2-1-2)式可知Q是關(guān)于a,b的二次函數(shù)，所以它的最小值總是存在的。下面討論的a和b的求法。三、正規(guī)方程組根據(jù)微分中求極值的方法可知，Q

4、(a,b)取得最小值應(yīng)滿足(2-1-3)由(2-1-2)式，并考慮上述條件，則(2-1-4)(2-1-4)式稱為正規(guī)方程組。解這一方程組可得(2-1-5)??其中(2-1-6)?(2-1-7)???式中，Lxy稱為xy的協(xié)方差之和，Lxx稱為x的平方差之和。如果改寫(2-1-1)式，可得(2-1-8)???或?(2-1-9)?由此可見，回歸直線是通過點(diǎn)的，即通過由所有實(shí)驗(yàn)測量值的平均值組成的點(diǎn)。從力學(xué)觀點(diǎn)看，即是N個(gè)散點(diǎn)的重心位置。?現(xiàn)在我們來建立關(guān)于例1的回歸關(guān)系式。將表2-1-1的結(jié)果代入(2-1-5)式至(2-1-7)式，得出a=1231.65

5、b=-2236.63?因此，在例1中灰鑄鐵初生奧氏體析出溫度(y)與氮含量(x)的回歸關(guān)系式為y=1231.65-2236.63x??四、一元線性回歸的統(tǒng)計(jì)學(xué)原理?如果X和Y都是相關(guān)的隨機(jī)變量，在確定x的條件下，對(duì)應(yīng)的y值并不確定，而是形成一個(gè)分布。當(dāng)X取確定的值時(shí)，Y的數(shù)學(xué)期望值也就確定了，因此Y的數(shù)學(xué)期望是x的函數(shù)，即E(Y

6、X=x)=f(x)(2-1-10)?這里方程f(x)稱為Y對(duì)X的回歸方程。如果回歸方程是線性的，則E(Y

7、X=x)=α+βx(2-1-11)?或Y=α+βx+ε(2-1-12)?其中????ε―隨機(jī)誤差?從樣本中我們只能得到

8、關(guān)于特征數(shù)的估計(jì)，并不能精確地求出特征數(shù)。因此只能用f(x)的估計(jì)式來取代（2-1-11）式，用參數(shù)a和b分別作為α和β的估計(jì)量。那么，這兩個(gè)估計(jì)量是否能夠滿足要求呢？?1.無偏性?把(x,y)的n組觀測值作為一個(gè)樣本，由樣本只能得到總體參數(shù)α和β的估計(jì)值?？梢宰C明，當(dāng)滿足下列條件：?(1)(xi,yi)是n個(gè)相互獨(dú)立的觀測值?(2)εi是服從分布的隨機(jī)變量?則由最小二乘法得到的a與b分別是總體參數(shù)α和β的無偏估計(jì)，即E(a)=αE(b)=β???由此可推知E()=E(y)???即y是回歸值在某點(diǎn)的數(shù)學(xué)期望值。?2.a和b的方差?可以證明，當(dāng)n組觀測

9、值(xi,yi)相互獨(dú)立，并且D(yi)=σ2,時(shí)，a和b的方差為(2-1-13)(2-1-14)以上兩式表明，a和b的方差均與xi的變動(dòng)有關(guān)，xi分布越寬，則a和b的方差越小。另外a的方差還與觀測點(diǎn)的數(shù)量有關(guān)，數(shù)據(jù)越多，a的方差越小。因此，為提高估計(jì)量的準(zhǔn)確性，xi的分布應(yīng)盡量寬，觀測點(diǎn)數(shù)量應(yīng)盡量多。第三節(jié)回歸方程的顯著性檢驗(yàn)???一、相關(guān)系數(shù)的顯著性檢驗(yàn)?在上面的分析中，為了求得回歸方程，我們?cè)俣▁與y之間存在著線性關(guān)系。在求得回歸方程后，我們必須對(duì)這一假定進(jìn)行檢驗(yàn)，以確定x與y是否的確存在線性關(guān)系。?設(shè)(X，Y)為二維隨機(jī)變量，如果E[X-E

10、X][Y-EY]存在，則稱它為X與Y之間的協(xié)方差，記為Cov(X，Y)。即Cov(X，Y)=E[X-E(x)