基于粒子群優(yōu)化算法的BP網(wǎng)絡(luò)學(xué)習(xí)研究

《基于粒子群優(yōu)化算法的BP網(wǎng)絡(luò)學(xué)習(xí)研究》由會員上傳分享，免費在線閱讀，更多相關(guān)內(nèi)容在行業(yè)資料-天天文庫。

1、基于粒子群優(yōu)化算法的BP網(wǎng)絡(luò)學(xué)習(xí)研究潘昊侯清蘭(武漢理工大學(xué)計算機科學(xué)與技術(shù)學(xué)院，武漢430070)E-mail:houglan24@126.com摘要文章提出了基于拉子群優(yōu)化的BP網(wǎng)絡(luò)學(xué)習(xí)算法。在該算法中，用粒子群優(yōu)化算法替代了傳統(tǒng)BP算法中的梯度下降法，使得改進后的算法具有不易陷入局部極小、泛化性能好等特點。并將該算法應(yīng)用在了高速公路動態(tài)稱重系統(tǒng)的設(shè)計中，實驗證明:這種算法能夠明顯減少迭代次數(shù)、提高收數(shù)精度，其泛化性能也優(yōu)于傳統(tǒng)BP算法。關(guān)鍵詞BP網(wǎng)絡(luò)杜子群優(yōu)化算法泛化文章編號1002--8

2、331-(2006)16-0041-03文獻標(biāo)識碼A中圖分類號TP131ABPNeuralNetworksLearningAlgorithmResearchBasedonParticleSwarmOptimizer_PanHaoHouQinglan(SchoolofComputerScienceandTechnology,WuhanUniversityofTechnology,Wuhan430070)Abstract:ABPneuralnetworkslearningalgorithmbased

3、onParticleSwarmOptimizer(PSO)isproposedinthispaper.Amongthisalgorithm,PSOalgorithmhassubstitutedthegradientdescentmethodintraditionalBPalgorithm,thisnewalgorithmdoesnoteasilytrappedlocalminimaandhasbettergeneralization.Thealgorithmisappliedtoneuralne

4、twork'strainingindynamicweighingsystem.T'heresultsshow:thisalgorithmcanreducenumberoftraininganderrorobviously,ithasbettergeneralizationthantraditionalBPalgorithm.Keywords:BPneuralnetworks,PSOalgorithm,generalization人工神經(jīng)網(wǎng)絡(luò)中的BP網(wǎng)絡(luò)結(jié)構(gòu)簡單，可塑性強，具有良適應(yīng)度函數(shù)一般由實

5、際問題中被優(yōu)化的函數(shù)決定;根據(jù)每一個好的自適應(yīng)、自學(xué)習(xí)、極強的非線性逼近、大規(guī)模并行處理和容粒子的適應(yīng)度，更新每個粒子的個體最優(yōu)Pb_‘二印IIP2,..,Pd)錯能力等特點。而誤差逆向傳播學(xué)習(xí)法(簡稱BP算法)，其算和全局最優(yōu)值&。:二(9l，921...,9d)I這里的是否“最優(yōu)”是由具法數(shù)學(xué)意義明確、步驟分明，是神經(jīng)網(wǎng)絡(luò)中最為常用、最有效、體的優(yōu)化問題決定:若該問題求最大值，則粒子適應(yīng)度越大為最活躍的一種方法。盡管BP神經(jīng)網(wǎng)絡(luò)具有很多顯著的特點，最優(yōu);反之，若該問題求最小值，則粒子適應(yīng)度越

6、小為最優(yōu)(假但是也存在著固有的缺陷:容易陷人局部極小、泛化能力較弱設(shè)優(yōu)化問題求最小值，Present為當(dāng)前粒子的適應(yīng)度。若Pre-或很差、網(wǎng)絡(luò)的收斂速度較慢。因此，研究BP網(wǎng)絡(luò)的改進算法sent<只。:,P,e==Present,凡:二，;否則，凡，不變;若Present

7、置。粒子根據(jù)以下公式來群體的演化算法。它的基本概念源于對人工生命和鳥群捕食行更新其速度和位置:為的研究[r3，基于種群的全局搜索策略，是一類有著潛在競爭力，、(t+i)”、(t)+2*rand)*仇(t)汽(t))+的神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法。本文提出一種基于PSO算法的BP網(wǎng)絡(luò)2*rand)*(茍(t)汽(t))(1)學(xué)習(xí)算法，在該算法中，用PSO算法替代了梯度下降法;并用實例進行算法性能分析。實驗證明，基于PSO算法的BP網(wǎng)絡(luò)xy(t+l)=x}(t)+VU(t+1)(2)學(xué)習(xí)算法的泛化性能要優(yōu)于傳

8、統(tǒng)BP算法。式中1=1,2x...，d,‘為迭代次數(shù)。在更新過程中，粒子在每一維飛行的速度不能超過算法設(shè)1基本粒子群優(yōu)化算法定的最大速度。二，即。u(t+l)>v-，則，N(t+1)二。;若。，(t+PSO算法中，每個優(yōu)化問題的潛在解都是搜索空間中的一1)<、二，則雋(t+l卜、、。設(shè)置較大的。?？梢员ＷC粒子種群只鳥，稱之為“粒子”，即每個粒子的位置就是一個潛在的解。的全局搜索能力，。二較小則種群的局部搜索能力加強。同時，PSO隨機初始化一群粒子和粒子的速度，其中粒子個數(shù)稱為種粒子每一維的坐標(biāo)也