資源描述：
《非參數(shù)回歸r語(yǔ)言實(shí)現(xiàn)》由會(huì)員上傳分享，免費(fèi)在線閱讀，更多相關(guān)內(nèi)容在行業(yè)資料-天天文庫(kù)。
1、非參數(shù)回歸的RR語(yǔ)言實(shí)現(xiàn)中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院陳堰平2010-6-221背景?回歸模型EY(
2、X)=f()X?回歸函數(shù)形式已知---參數(shù)回歸?回歸函數(shù)形式未知---非參數(shù)回歸2010-6-222參數(shù)回歸Example:>x=sort(runif(200))>y=2*x+1+rnorm(200,0,0.1)>fit.lin<-lm(y~x)2010-6-223>summary(fit.lin)Call:lm(formula=y~x)Residuals:Min1QMedian3QMax-0.200168-0.066969-
3、0.0034020.0704640.208087Coefficients:EstimateStd.ErrortvaluePr(>
4、t
5、)(Intercept)0.979970.0127776.75<2e-16***x2.023680.0223690.50<2e-16***---Signif.codes:0‘***’0.001‘**’0.01‘*’0.05‘.’0.1‘’1Residualstandarderror:0.09269on198degreesoffreedomMultipleR-squared:0.9764
6、,AdjustedR-squared:0.9763F-statistic:8189on1and198DF,p-value:<2.2e-162010-6-2243.02.5y2.01.51.00.00.20.40.60.81.0x2010-6-225非參數(shù)回歸?回歸函數(shù)未知，要根據(jù)觀測(cè)值估計(jì)給定點(diǎn)的估計(jì)值–假設(shè)觀測(cè)為(Yi，Xi)，i=1,…,n，假設(shè)模型為Y=fX()+ε2010-6-226核函數(shù)法2010-6-227?核函數(shù)法(Nadaraya-Watson)2010-6-228局部多項(xiàng)式估計(jì)利用局部展開的思想，在
7、待估計(jì)點(diǎn)，將函數(shù)泰勒展開fx()=fx()+fx'()(xx?)+?000距離x0較近的點(diǎn)，提供的信息多，距離遠(yuǎn)的點(diǎn)，提供的信息少n2?Xi?x0?(,)ab=argmin∑[Yi?(abX+(i?x0))]K??ab,?h?i=1fx?()=a0可以轉(zhuǎn)化為加權(quán)最小二乘的問(wèn)題2010-6-229y.est=-0.9689503,sin(10*0.5)=-0.95892432010-6-2210帶寬h的選擇?CrossValidationn1?2CV=∑[Yi?f(?i)(Xi)]ni=1選取一系列的h，計(jì)算相應(yīng)的CV
8、，使得CV最小的就是最優(yōu)帶寬2010-6-2211現(xiàn)成的包KernSmooth，locpol，…2010-6-22121.00.50.0y-0.5-1.00.00.20.40.60.81.0x2010-6-2213在分位回歸的應(yīng)用?quantreg包中有l(wèi)prq函數(shù)lprq<-function(x,y,h,tau=0.5,m=50){xx<-seq(min(x),max(x),length=m)fv<-xxdv<-xxfor(iin1:length(xx)){z<-x-xx[i]wx<-dnorm(z/h)r<-rq
9、(y~z,weights=wx,tau=tau,ci=FALSE)fv[i]<-r$coef[1]dv[i]<-r$coef[2]}list(xx=xx,fv=fv,dv=dv)}2010-6-2214?原理線性分位回歸qy()=+abxτ估計(jì)方程n(,)ab=argmin∑ρτ(Yi??abXi)(,)abi=1非參數(shù)分位回歸的估計(jì)方程n?X?x?i0(,)ab=argmin∑ρτ(Yi?(abX+(i?x0)))K??ab,?h?i=12010-6-22152010-6-2216500acceleration(i
10、ng)-50h=1h=2-100h=3h=41020304050milliseconds2010-6-2217WhyR?靈活：研究新的模型時(shí)，可以在原有代碼的基礎(chǔ)上修改變系數(shù)分位回歸模型：qy()=cuxc()+τ10n?U?u?i0argmin∑ρτ(Yi?(abU+(i?u0))Xi?cK0)??ab,?h?i=1n?U?u?i0=argmin∑ρτ(Yi?aXi?bU(i?uX0)i?cK0)??ab,?h?i=12010-6-2218lprq0<-function(x,u,y,h,tau=0.5,u0){#對(duì)
11、單點(diǎn)進(jìn)行估計(jì)require(quantreg)fv<-u0dv<-u0z<-u-u0wx<-Ker(z/h)r<-rq(y~x+I(z*x),weights=wx,method="br",tau=tau,ci=FALSE)fv<-r$coef[c(1,2)]dv<-r$coef[3]list(u0=u0,fv=fv,dv=dv)}2010-6-
