基于動(dòng)態(tài)bp神經(jīng)網(wǎng)絡(luò)的預(yù)測(cè)方法及其應(yīng)用(1)

《基于動(dòng)態(tài)bp神經(jīng)網(wǎng)絡(luò)的預(yù)測(cè)方法及其應(yīng)用(1)》由會(huì)員上傳分享，免費(fèi)在線閱讀，更多相關(guān)內(nèi)容在應(yīng)用文檔-天天文庫(kù)。

1、從本學(xué)科出發(fā)，應(yīng)著重選對(duì)國(guó)民經(jīng)濟(jì)具有一定實(shí)用價(jià)值和理論意義的課題。課題具有先進(jìn)性，便于研究生提出新見(jiàn)解，特別是博士生必須有創(chuàng)新性的成果基于動(dòng)態(tài)BP神經(jīng)網(wǎng)絡(luò)的預(yù)測(cè)方法及其應(yīng)用(1)摘要人工神經(jīng)網(wǎng)絡(luò)是一種新的數(shù)學(xué)建模方式，它具有通過(guò)學(xué)習(xí)逼近任意非線性映射的能力。本文提出了一種基于動(dòng)態(tài)BP神經(jīng)網(wǎng)絡(luò)的預(yù)測(cè)方法，闡述了其基本原理，并以典型實(shí)例驗(yàn)證。關(guān)鍵字神經(jīng)網(wǎng)絡(luò)，BP模型，預(yù)測(cè)1引言課題份量和難易程度要恰當(dāng)，博士生能在二年內(nèi)作出結(jié)果，碩士生能在一年內(nèi)作出結(jié)果，特別是對(duì)實(shí)驗(yàn)條件等要有恰當(dāng)?shù)墓烙?jì)。從本學(xué)科出發(fā)

2、，應(yīng)著重選對(duì)國(guó)民經(jīng)濟(jì)具有一定實(shí)用價(jià)值和理論意義的課題。課題具有先進(jìn)性，便于研究生提出新見(jiàn)解，特別是博士生必須有創(chuàng)新性的成果在系統(tǒng)建模、辨識(shí)和預(yù)測(cè)中，對(duì)于線性系統(tǒng)，在頻域，傳遞函數(shù)矩陣可以很好地表達(dá)系統(tǒng)的黑箱式輸入輸出模型；在時(shí)域，Box-Jenkins方法、回歸分析方法、ARMA模型等，通過(guò)各種參數(shù)估計(jì)方法也可以給出描述。對(duì)于非線性時(shí)間序列預(yù)測(cè)系統(tǒng)，雙線性模型、門限自回歸模型、ARCH模型都需要在對(duì)數(shù)據(jù)的內(nèi)在規(guī)律知道不多的情況下對(duì)序列間關(guān)系進(jìn)行假定?？梢哉f(shuō)傳統(tǒng)的非線性系統(tǒng)預(yù)測(cè)，在理論研究和實(shí)際應(yīng)

3、用方面，都存在極大的困難。相比之下，神經(jīng)網(wǎng)絡(luò)可以在不了解輸入或輸出變量間關(guān)系的前提下完成非線性建模[4，6]。神經(jīng)元、神經(jīng)網(wǎng)絡(luò)都有非線性、非局域性、非定常性、非凸性和混沌等特性，與各種預(yù)測(cè)方法有機(jī)結(jié)合具有很好的發(fā)展前景，也給預(yù)測(cè)系統(tǒng)帶來(lái)了新的方向與突破。建模算法和預(yù)測(cè)系統(tǒng)的穩(wěn)定性、動(dòng)態(tài)性等研究成為當(dāng)今熱點(diǎn)問(wèn)題。目前在系統(tǒng)建模與預(yù)測(cè)中，應(yīng)用最多的是靜態(tài)的多層前向神經(jīng)網(wǎng)絡(luò)，這主要是因?yàn)檫@種網(wǎng)絡(luò)具有通過(guò)學(xué)習(xí)逼近任意非線性映射的能力。利用靜態(tài)的多層前向神經(jīng)網(wǎng)絡(luò)建立系統(tǒng)的輸入/輸出模型，本質(zhì)上就是基于網(wǎng)絡(luò)

4、逼近能力，通過(guò)學(xué)習(xí)獲知系統(tǒng)差分方程中的非線性函數(shù)。但在實(shí)際應(yīng)用中，需要建模和預(yù)測(cè)的多為非線性動(dòng)態(tài)系統(tǒng)，利用靜態(tài)的多層前向神經(jīng)網(wǎng)絡(luò)必須事先給定模型的階次，即預(yù)先確定系統(tǒng)的模型，這一點(diǎn)非常難做到。近來(lái)，有關(guān)基于動(dòng)態(tài)網(wǎng)絡(luò)的建模和預(yù)測(cè)的研究，代表了神經(jīng)網(wǎng)絡(luò)建模和預(yù)測(cè)新的發(fā)展方向。BP神經(jīng)網(wǎng)絡(luò)模型BP網(wǎng)絡(luò)是采用Widrow-Hoff學(xué)習(xí)算法和非線性可微轉(zhuǎn)移函數(shù)的多層網(wǎng)絡(luò)。典型的BP算法采用梯度下降法，也就是Widrow-Hoff算法?，F(xiàn)在有許多基本的優(yōu)化算法，例如變尺度算法和牛頓算法。如圖1所示，BP神經(jīng)

5、網(wǎng)絡(luò)包括以下單元：①處理單元(神經(jīng)元)，即神經(jīng)網(wǎng)絡(luò)的基本組成部分。輸入層的處理單元只是將輸入值轉(zhuǎn)入相鄰的聯(lián)接權(quán)重，隱層和輸出層的處理單元將它們的輸入值求和并根據(jù)轉(zhuǎn)移函數(shù)計(jì)算輸出值。②聯(lián)接權(quán)重(圖中如V,W)。它將神經(jīng)網(wǎng)絡(luò)中的處理單元聯(lián)系起來(lái)，其值隨各處理單元的聯(lián)接程度而變化。③層。神經(jīng)網(wǎng)絡(luò)一般具有輸入層x、隱層y和輸出層o。④閾值。其值可為恒值或可變值，它可使網(wǎng)絡(luò)能更自由地獲取所要描述的函數(shù)關(guān)系。⑤轉(zhuǎn)移函數(shù)F。它是將輸入的數(shù)據(jù)轉(zhuǎn)化為輸出的處理單元，通常為非線性函數(shù)。圖1BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)基本算法B

6、P算法主要包含4步，分為向前傳播和向后傳播兩個(gè)階段：1）向前傳播階段從樣本集中取一個(gè)樣本，將Xp輸入網(wǎng)絡(luò)；課題份量和難易程度要恰當(dāng)，博士生能在二年內(nèi)作出結(jié)果，碩士生能在一年內(nèi)作出結(jié)果，特別是對(duì)實(shí)驗(yàn)條件等要有恰當(dāng)?shù)墓烙?jì)。從本學(xué)科出發(fā)，應(yīng)著重選對(duì)國(guó)民經(jīng)濟(jì)具有一定實(shí)用價(jià)值和理論意義的課題。課題具有先進(jìn)性，便于研究生提出新見(jiàn)解，特別是博士生必須有創(chuàng)新性的成果計(jì)算相應(yīng)的實(shí)際輸出Op在此階段，信息從輸入層經(jīng)過(guò)逐級(jí)的變換，傳送到輸出層。這個(gè)過(guò)程也是網(wǎng)絡(luò)在完成訓(xùn)練后正常運(yùn)行時(shí)的執(zhí)行過(guò)程。）向后傳播階段計(jì)算實(shí)際輸

7、出Op與相應(yīng)的理想輸出Yp的差；按極小化誤差的方式調(diào)整權(quán)矩陣。這兩個(gè)階段的工作受到精度要求的控制，在這里取作為網(wǎng)絡(luò)關(guān)于第p個(gè)樣本的誤差測(cè)度，而將網(wǎng)絡(luò)關(guān)于整個(gè)樣本集的誤差測(cè)度定義為。圖2是基本BP算法的流程圖。圖BP基本算法流程2.動(dòng)態(tài)BP神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)算法在經(jīng)典的BP算法以及其他的訓(xùn)練算法中都有很多變量，這些訓(xùn)練算法可以確定一個(gè)ANN結(jié)構(gòu)，它們只訓(xùn)練固定結(jié)構(gòu)的ANN權(quán)值。在自動(dòng)設(shè)計(jì)ANN結(jié)構(gòu)方面，也已有較多的嘗試，比如構(gòu)造性算法和剪枝算法。前一種是先隨機(jī)化網(wǎng)絡(luò)，然后在訓(xùn)練過(guò)程中有必要地增加新的層和

8、結(jié)點(diǎn)；而剪枝法則正好相反。文獻(xiàn)[2]中提出了演化神經(jīng)網(wǎng)絡(luò)的理念，并把EP算法與BP進(jìn)行了組合演化；也有很多學(xué)者把遺傳算法和BP進(jìn)行結(jié)合，但這些算法都以時(shí)間復(fù)雜度以及空間復(fù)雜度的增加為代價(jià)。根據(jù)Kolmogorov定理,對(duì)于任意給定的L2型連續(xù)函數(shù)f:[0,1]n→Rm,課題份量和難易程度要恰當(dāng)，博士生能在二年內(nèi)作出結(jié)果，碩士生能在一年內(nèi)作出結(jié)果，特別是對(duì)實(shí)驗(yàn)條件等要有恰當(dāng)?shù)墓烙?jì)。從本學(xué)科出發(fā)，應(yīng)著重選對(duì)國(guó)民經(jīng)濟(jì)具有一定實(shí)用價(jià)值和理論意義的課題。課題具有先進(jìn)性，便于研究生提出新見(jiàn)解，特別是博士生必