資源描述:
《回歸分析多元線性回歸課件.ppt》由會員上傳分享,免費在線閱讀,更多相關(guān)內(nèi)容在教育資源-天天文庫。
1、第二章多元回歸分析方法及其程序?qū)崿F(xiàn)§2.1概述§2.1概述§2.1概述人的身高與體重的關(guān)系§2.1概述§2.1概述任務(wù)與目標(biāo):建立數(shù)學(xué)模型參數(shù)估計假設(shè)檢驗方差分析回歸分析方法就是在大量試驗觀測數(shù)據(jù)的基礎(chǔ)上,找出這些變量之間的內(nèi)部規(guī)律性,從而定量地建立一個變量或多個變量與其余變量之間的統(tǒng)計關(guān)系的數(shù)學(xué)表達式。1、多元回歸問題:考查一個變量與其余多個變量之間的關(guān)系2、多因變量的多元回歸問題:考查P個因變量與M個自變量的關(guān)系§2.2多元線性回歸數(shù)學(xué)模型建立§2.2多元線性回歸數(shù)學(xué)模型建立§2.1多元線性回歸數(shù)學(xué)模型建立模型的建立
2、設(shè)隨機變量與個自變量存在線性關(guān)系:(2.1)式(2.1)稱為回歸方程,其中稱為回歸系數(shù)。為隨機變量,稱為隨機誤差,它可理解為無法用表示的其他各種隨機因素造成的誤差。設(shè)有一組樣本觀測值數(shù)據(jù)其中,表示第次試驗或第個樣本關(guān)于變量的觀測值。§2.2多元線性回歸數(shù)學(xué)模型建立于是有……(2.2)其中,為個待定參數(shù),為個相互獨立的且服從同一正態(tài)分布的隨機變量,式(2.2)稱為多元(m元)線性回歸數(shù)學(xué)模型。超定方程組§2.2多元線性回歸數(shù)學(xué)模型建立式(2.2)亦可寫成矩陣形式,設(shè)(2.3)§2.2多元線性回歸數(shù)學(xué)模型建立因變量自變量誤差
3、未知參數(shù)(1)參數(shù)估計:(2)顯著性檢驗:(3)模型檢查:即檢查對模型所作假設(shè)是否成立;(4)預(yù)測和控制,及對實際問題的結(jié)構(gòu)分析?!?.2多元線性回歸數(shù)學(xué)模型建立§2.3回歸模型中參數(shù)的最小二乘估計在回歸模型式(2.1)中,只要確定回歸模型實際上就確定了。該如何確定呢?這里我們采用最小二乘法來對回歸模型式(2.3)中的作最小二乘估計。設(shè)分別是的最小二乘估計值,于是有(2.4)式(2.4)中:是的一個最小二乘估計。對于每一個試驗數(shù)據(jù)。由式(2.4),可得一個,即。這里稱為實際值的回歸值。§2.3回歸模型中參數(shù)的最小二乘估計
4、顯然,回歸值與實際值有誤差,即當(dāng)然我們希望與值偏離程度越小越好,這樣才能使回歸值與實際值擬合得最好。這里與偏差越小是指每一個與的距離越小?!?.3回歸模型中參數(shù)的最小二乘估計于是對全部觀察值(試驗值)有§2.3回歸模型中參數(shù)的最小二乘估計多元函數(shù)求極值問題(2.6)§2.3回歸模型中參數(shù)的最小二乘估計§2.3回歸模型中參數(shù)的最小二乘估計這里令所以式(2.5)可用矩陣形式表示為如果系數(shù)矩陣滿秩,則存在,此時有(2.7)這里式(2.7)即為多元回歸方程中參數(shù)的最小二乘估計?!?.3回歸模型中參數(shù)的最小二乘估計正規(guī)方程組式(2
5、.6)亦可表達為下述另一種形式:如果記§2.3回歸模型中參數(shù)的最小二乘估計則由式(2.6)中第一等式可解出(2.8)再將式(2.8)代入式(2.6)其他各式中,經(jīng)化簡整理可得……§2.3回歸模型中參數(shù)的最小二乘估計(2.9)§2.3回歸模型中參數(shù)的最小二乘估計又由如果記§2.3回歸模型中參數(shù)的最小二乘估計則式(2.9)可以表示為(2.10)§2.3回歸模型中參數(shù)的最小二乘估計式(2.10)稱為正規(guī)方程組,解此方程組可得,再代入式(2.8)中則得,于是得回歸方程式(2.11)稱為回歸超平面方程。(2.11)§2.3回歸模型
6、中參數(shù)的最小二乘估計如果記式(2.10)的系數(shù)矩陣為,右端常數(shù)項向量為,則記,則式(2.10)的矩陣形式為再代回到式(2.8),則得?!?.3回歸模型中參數(shù)的最小二乘估計例2.1某養(yǎng)豬場估算豬的毛重,測得14頭豬的體長,胸圍與體重的數(shù)據(jù)如表2.1所示,請建立與及的預(yù)測方程。多元線性回歸分析的應(yīng)用解由公式可計算出多元線性回歸分析的應(yīng)用于是得正規(guī)方程組為解此方程組得又由所求預(yù)測回歸方程為多元線性回歸分析的應(yīng)用