資源描述：
《幾種遞歸神經(jīng)網(wǎng)絡(luò)及其在系統(tǒng)辨識中的應(yīng)用_叢爽》由會員上傳分享，免費在線閱讀，更多相關(guān)內(nèi)容在行業(yè)資料-天天文庫。
1、系統(tǒng)工程與電子技術(shù)第25卷第2期SystemsEngineeringandElectronicsVol.25,No.22003文章編號:1001-506X(2003)02-0194-04幾種遞歸神經(jīng)網(wǎng)絡(luò)及其在系統(tǒng)辨識中的應(yīng)用叢爽,高雪鵬(中國科學(xué)技術(shù)大學(xué)自動化系,安徽合肥230027)摘要:遞歸網(wǎng)絡(luò)中包含延時變量,用其來進(jìn)行系統(tǒng)辨識時可以得到動態(tài)網(wǎng)絡(luò)系統(tǒng)。首先介紹了Elman網(wǎng)絡(luò)和Jordan網(wǎng)絡(luò)及其改變型。根據(jù)網(wǎng)絡(luò)的輸入/輸出數(shù)據(jù),采用BP算法和數(shù)值優(yōu)化算法進(jìn)行訓(xùn)練,并利用一個具體的系統(tǒng)模型辨識的例子,通過性能對比
2、揭示了各網(wǎng)絡(luò)用于系統(tǒng)辨識時的優(yōu)缺點,為遞歸網(wǎng)絡(luò)的合理應(yīng)用提供參考。關(guān)鍵詞:Elman網(wǎng)絡(luò);Jordan網(wǎng)絡(luò);系統(tǒng)辨識;聯(lián)接層中圖分類號:TP391.41文獻(xiàn)標(biāo)識碼:ARecurrentNeuralNetworksandTheirApplicationinSystemIdentificationCONGShuang,GAOXue-peng(Dept.ofAutomation,UniversityofScience&TechnologyofChina,Hefei230027,China)Abstract:Recurren
3、tnetworkshavedelayvariables.Adynamicnetworksystemcanbeobtainedwhentheyareusedtoidentifysystems.ThispaperintroducesElmanandJordannetworksandtheirimprovedforms.BPalgorithmandnumericaloptimizationalgo-rithmareusedtotrainthenetworksaccordingtotheinput/outputdata.An
4、exampleofsystemidentificationandperformancecompari-sonillustratestheadvantagesanddisadvantagesofthenetworks,providingareferenceforrationalapplicationofrecurrentnetworks.Keywords:Elmannetworks;Jordannetworks;Systemidentification;Contextlayer詳細(xì)介紹了Elman網(wǎng)絡(luò)、Jordan網(wǎng)絡(luò)
5、以及它們的改變型。所1引言介紹的網(wǎng)絡(luò)都屬于部分遞歸網(wǎng)絡(luò)。完全遞歸網(wǎng)絡(luò)與部分遞人工神經(jīng)網(wǎng)絡(luò)己被有效地用于系統(tǒng)的辨識與建模中,其歸網(wǎng)絡(luò)的區(qū)別在于:完全遞歸網(wǎng)絡(luò)的結(jié)構(gòu)中對包含時延的連接沒有任何限制,可以有任意的前饋與反饋連接,且所有連中常常需要考慮的問題是所建模型是對動態(tài)的還是對靜態(tài)接權(quán)值都可以修正;而部分遞歸網(wǎng)絡(luò)是一個相對簡單的動態(tài)的系統(tǒng)起作用。動態(tài)系統(tǒng)與靜態(tài)系統(tǒng)的區(qū)別在于所辨識的系統(tǒng),一般是在前向網(wǎng)絡(luò)的基礎(chǔ)上,以固定的方式將某些層系統(tǒng)中是否存在時間因素,即是否包含延時因子。多層前向前一個時刻的狀態(tài)反饋到前面的層,并且反
6、饋聯(lián)接單元的權(quán)網(wǎng)絡(luò)的結(jié)構(gòu)中不包含時間因素,因而一般情況下辨識出的是值固定不變。本文將這些網(wǎng)絡(luò)應(yīng)用于非線性系統(tǒng)的辨識中,靜態(tài)網(wǎng)絡(luò)。利用多層前向網(wǎng)絡(luò)對動態(tài)系統(tǒng)進(jìn)行辨識,需要將并通過性能對比揭示出各網(wǎng)絡(luò)用于系統(tǒng)辨識時的優(yōu)缺點。一個動態(tài)時間的建模問題轉(zhuǎn)化為一個靜態(tài)空間的建模問題,這就對真實系統(tǒng)的辨識帶來諸多的不便,例如為了獲得準(zhǔn)確2Elman網(wǎng)絡(luò)及其改變型的模型結(jié)構(gòu),需要先假定系統(tǒng)的模型類,需要對模型結(jié)構(gòu)類2.1基本Elman網(wǎng)絡(luò)進(jìn)行定階,另外還存在對外部噪聲特別敏感等問題。(1)網(wǎng)絡(luò)結(jié)構(gòu)遞歸網(wǎng)絡(luò)(又稱反饋網(wǎng)絡(luò))中由于存在輸
7、出變量到輸入基本的Elman網(wǎng)絡(luò)是在BP網(wǎng)絡(luò)的基礎(chǔ)上增加了一個所端的反饋,因而其變量中包含時間延時網(wǎng)絡(luò),是真正的動態(tài)謂的“聯(lián)接層”,由此將通過聯(lián)接記憶的上一個時刻的隱層狀網(wǎng)絡(luò)系統(tǒng)。與靜態(tài)神經(jīng)網(wǎng)絡(luò)相比,遞歸網(wǎng)絡(luò)不需要預(yù)先假定態(tài)連同當(dāng)前時刻的網(wǎng)絡(luò)輸入一起作為隱層的輸入,相當(dāng)于狀系統(tǒng)的階次,為動態(tài)系統(tǒng)的辨識與控制開辟了一個極有前途態(tài)反饋。各層的輸入均為加權(quán)和;隱層的傳遞函數(shù)仍為某種的領(lǐng)域。動態(tài)遞歸神經(jīng)網(wǎng)絡(luò)由于其固有的反饋結(jié)構(gòu),往往只非線性函數(shù),一般為Sigmoid函數(shù),輸出層為線性函數(shù),聯(lián)接需單層的網(wǎng)絡(luò)就可以表達(dá)復(fù)雜的動態(tài)
8、系統(tǒng),逼近系統(tǒng)的動態(tài)層也為線性函數(shù)。其網(wǎng)絡(luò)結(jié)構(gòu)如圖1所示。過程,不過由于遞推網(wǎng)絡(luò)的訓(xùn)練復(fù)雜,收斂無法得到保證,因而被人們研究得較少。本文在參考國外有關(guān)文獻(xiàn)的基礎(chǔ)上,收稿日期:2002-04-23修訂日期:2002-08-02基金項目:安徽省自然科學(xué)基金資助課題(03042301)作者簡介:叢爽(1961-),女,教授,博士,主要研究方向為神經(jīng)網(wǎng)
