資源描述:
《徑向基函數(shù)ppt課件.ppt》由會員上傳分享,免費在線閱讀,更多相關(guān)內(nèi)容在教育資源-天天文庫。
1、第四章徑向基函數(shù)網(wǎng)絡(luò)Radial-BasisFunctionNetworks1BP多層前饋網(wǎng)絡(luò)是應(yīng)用極為廣泛的模型。但是其學(xué)習(xí)算法具有計算量大、學(xué)習(xí)速度慢等缺點。徑向基函數(shù)(RadialBasisFunction,RBF)理論為多層前饋網(wǎng)絡(luò)的學(xué)習(xí)提供了一種新穎而有效的手段。RBF網(wǎng)絡(luò)不僅具有良好的推廣能力,而且計算量小、速度快。和小波基函數(shù)神經(jīng)網(wǎng)絡(luò)、樣條函數(shù)神經(jīng)網(wǎng)絡(luò)、正交函數(shù)神經(jīng)網(wǎng)絡(luò)類似,RBF網(wǎng)絡(luò)屬于核函數(shù)模型類。一、概述2………..InputlayerNonlineartransformationlayer(generateslocalreceptivefields)Li
2、nearoutputlayer一、概述和MLP/BP網(wǎng)絡(luò)類似,RBF網(wǎng)絡(luò)是一個前饋網(wǎng)絡(luò)模型。3……....……...Wkjxdx(d-1)x2x1inputlayerhiddenlayer(receptivefields)Outputlayerzcz1..…..zknetkyj?1?H?jLinearact.function一、概述4Fromafunctionapproximationperspectivethisisequivalenttoimplementingacomplexfunction(correspondingtothenonlinearlyseparabledec
3、isionboundary)usingsimplefunctions(correspondingtothelinearlyseparabledecisionboundary)Implementingthisprocedureusinganetworkarchitecture,yieldstheRBFnetworks,ifthenonlinearmappingfunctionsareradialbasisfunctions.RBF網(wǎng)絡(luò)的功能一、概述5若已知和,通過線性內(nèi)插來逼近設(shè):分別代表與和的距離則即可表示為已知函數(shù)值的加權(quán)和(歸一化權(quán))若推廣到基于多個已知函數(shù)值的插值,則有:在
4、P0個中,只有那些與距離小的起更大的作用一、概述6比如:有8樣本(已知函數(shù)值)只要用四個樣本就可完成逼近的內(nèi)插如何選擇有效的鄰近節(jié)點(鄰近樣本)?如何決定加權(quán)系數(shù)?RBF神經(jīng)網(wǎng)絡(luò)能解決!一、概述7給定一個n維空間中點集及相應(yīng)實值,i=1,2┄n,,,設(shè)計一個函數(shù)f(x),使它滿足插值條件:RBF:用范基函數(shù)加權(quán)將插值條件代入,得到關(guān)于m個未知w的m個方程。傳統(tǒng)方法:通過學(xué)習(xí),設(shè)法得到相應(yīng)的參數(shù)RadialBasisFunctions:Radial-basisfunctionswereintroducedinthesolutionoftherealmultivariateinter
5、polationproblem.BasisFunctions:Asetoffunctionswhoselinearcombinationcangenerateanarbitraryfunctioninagivenfunctionspace.Radial:Symmetricarounditscenter8Fromaclassificationperspective:在低維空間非線性可分的問題總可以映射到一個高維空間,使其在此高維空間中為線性可分。RBF的輸出單元部分構(gòu)成一個單層感知機,只要合理選擇隱單元數(shù)(高維空間的維數(shù))和作用函數(shù),就可以把原來的問題映射為一個線性可分問題。在RB
6、F網(wǎng)絡(luò)中,輸入到隱層的映射是非線性的,而隱層到輸出的映射則是線性的。一、概述9圈1和圈2中的樣本數(shù)據(jù)分別屬于一類,圈外樣本屬于另一類。RBF如何劃分這兩類?(非線性分類)12x1x2-++------例1++++10x1x2?(c1,x)11y設(shè):c1,c2和r1,r2分別是圈1和圈2的中心和半徑,樣本x=(x1,x2)?(c2,x)?(c1,x)=1ifdistanceofxfromc1lessthanr1and0otherwise?(c2,x)=1ifdistanceofxfromc2lessthanr2and0otherwise?:Hypersphericradialbas
7、isfunction一、概述11通過隱層特征空間(?(c,x))的作用,圈2中的樣本被映射到(0,1),圈1中的樣本被映射到(1,0),圈外的樣本均被映射到(0,0).這一兩分類問題在隱層特征空間中變成線性可分!2?(c1,x)-++------101?(c2,x)1一、概述12二、RBFNetwork性能……....……...UjiWkjxdx(d-1)x2x1inputnodeshiddenlayerRBFs(receptivefields)outputnodeszcz