2、性質(zhì)3、4表明，用選模型去作預(yù)測(cè)，殘差的方差比用全模型去作預(yù)測(cè)的方差小。這說(shuō)明盡管全模型正確，誤用選模型是有利也有弊。性質(zhì)5表明，即使全模型正確，但如果其中有一些自變量對(duì)因變量的影響很小或回歸系數(shù)方差過(guò)大，當(dāng)我們丟掉這些變量之后，可以提高預(yù)測(cè)的精度。（二）選模型正確而誤用全模型如果選模型正確而誤用全模型，從無(wú)偏的角度看，選模型的預(yù)測(cè)值是因變量新值的無(wú)偏估計(jì)，此時(shí)全模型的預(yù)測(cè)值是y0的有偏估計(jì)。從預(yù)測(cè)方差的角度看，選模型的預(yù)測(cè)方差小于全模型的預(yù)測(cè)方差。從均方誤差的角度看，全模型的預(yù)測(cè)誤差將更大?？傊粋€(gè)好的回歸模型，并不是考慮的自變量越多越好，選擇自變量的基本指導(dǎo)思
3、想是少而精。5.2自變量選擇的準(zhǔn)則y與x1x2;y與x1x3;x2;y與x2x3的二元回歸模型（共3個(gè)）一、所有子集的回歸設(shè)因變量為y，自變量為x1,x2,x3,所有自己的回歸是指：分別建立y與{x1,x2,x3}子集為自變量的回歸模型。y與各x1,x2,x3的回歸模型（共3個(gè)）y與x1x2x3的三元回歸模型（共1個(gè)）二、關(guān)于自變量選擇的幾個(gè)準(zhǔn)則準(zhǔn)則1自由度調(diào)整復(fù)決定系數(shù)達(dá)到最大。調(diào)整的復(fù)決定系數(shù)當(dāng)模型中加入自變量后，調(diào)整的復(fù)決定系數(shù)不會(huì)變小這在進(jìn)行模型比較時(shí)，是非常不利的。到底什么是增加一個(gè)新變量的凈影響當(dāng)新的變量加到模型中，我們損失一個(gè)自由度加入新變量的解釋能力
4、是否抵消失去自由度的損失?RegressionStatisticsMultipleR0.72213RSquare0.52148AdjustedRSquare0.44172StandardError47.46341Observations15ANOVAdfSSMSFSignificanceFRegression229460.02714730.0136.538610.01201Residual1227033.3062252.776Total1456493.333CoefficientsStandardErrortStatP-valueLower95%Upper95%In
5、tercept306.52619114.253892.682850.0199357.58835555.46404Price-24.9750910.83213-2.305650.03979-48.57626-1.37392Advertising74.1309625.967322.854780.0144917.55303130.70888pie銷售量的變差中44.2%是由價(jià)格和廣告解釋的，考慮了樣本量的大小和自變量的個(gè)數(shù)(continued)調(diào)整的復(fù)決定系數(shù)準(zhǔn)則2赤池信息量AIC達(dá)到最小.x1與y的回歸模型準(zhǔn)則3Cp統(tǒng)計(jì)量達(dá)到最小全模型的方差分析表選擇最優(yōu)方程的方法En
6、ter」：強(qiáng)制選取法。設(shè)定強(qiáng)制一次進(jìn)入的回歸分析方法。簡(jiǎn)單線性回歸均選取此種方法。沒(méi)有對(duì)回歸變量進(jìn)行篩選，建立與全部自變量的全回歸模型?！綟orward】：設(shè)定正向選取式的回歸分析法，前向(向前)選取法。【Backward】：設(shè)定反向移除式的回歸分析法，后向(向后)選取法?！維tepwise】：設(shè)定逐步回歸選取法。【Remove】：設(shè)定強(qiáng)制一次移除的回歸分析法。1、前進(jìn)法【Forward】變量由少到多，一次考慮一個(gè)自變量，判斷其貢獻(xiàn)是否已達(dá)設(shè)定的標(biāo)準(zhǔn)，若是則將其「納入」多元回歸方程式中。此分析法在選取過(guò)程中并不剔除任何已在回歸方程式中的自變量。這種方法的缺點(diǎn)是某自變
7、量選入方程后,就一直留在方程中,不再剔除(因此又稱為只進(jìn)不出法).這是因?yàn)槟硞€(gè)自變量開(kāi)始可能是顯著的,當(dāng)引入其他自變量后他變得不顯著了.但沒(méi)有機(jī)會(huì)將其剔除,即一旦引入,就是終身制.利用SPSS對(duì)例5.4分別用前進(jìn)法操作建立回歸方程。2、后退法首先用全部m個(gè)變量建立一個(gè)回歸方程，然后在這m個(gè)變量中選擇一個(gè)最不重要的變量，將它從方程中剔除。前進(jìn)法和后退法的缺點(diǎn)前進(jìn)法不能反映引進(jìn)新的自變量后的變化情況。后退法的不足是一開(kāi)始把全部自變量引入回歸方程，這樣計(jì)算量很大；其次是一旦某個(gè)自變量被剔除，就再也沒(méi)有機(jī)會(huì)重新進(jìn)入回歸方程。3、逐步回歸法逐步回歸的基本思想是有進(jìn)有出。將
