基于bp神經(jīng)網(wǎng)絡的日負荷預測new

《基于bp神經(jīng)網(wǎng)絡的日負荷預測new》由會員上傳分享，免費在線閱讀，更多相關內(nèi)容在教育資源-天天文庫。

1、基于BP神經(jīng)網(wǎng)絡的日負荷預測1BP神經(jīng)網(wǎng)絡1.1人工神經(jīng)網(wǎng)絡簡介及基本問題1.1.1人工神經(jīng)網(wǎng)絡人工神經(jīng)網(wǎng)絡（ArtificialNeuralNetworks，即ANN）是一種采用物理可實現(xiàn)的系統(tǒng)來模仿人腦神經(jīng)細胞的結(jié)構(gòu)和功能的系統(tǒng)。它是在現(xiàn)代神經(jīng)科學研究成果的基礎上提出的，試圖通過模擬大腦神經(jīng)網(wǎng)絡處理、記憶信息的方式進行信息處理。人工神經(jīng)網(wǎng)絡是近年來十分熱門的交叉學科，它涉及生物、電子、計算機、數(shù)學和物理學科，有著非常廣泛的應用前景，其應用領域包括：建模、時間序列分析、模式識別和控制等。人工神

2、經(jīng)網(wǎng)絡的模型目前已有近40種，其中有反傳網(wǎng)絡、感知器、自組織映射、Hopfield網(wǎng)絡、波耳茲曼機、適應諧振理論等。根據(jù)連接的拓撲結(jié)構(gòu)，神經(jīng)網(wǎng)絡模型可以分為兩類：前向網(wǎng)絡和反饋網(wǎng)絡。前向神經(jīng)網(wǎng)絡模型是指那些在網(wǎng)絡中各處理單元之間的連接都是單向的，而且總是指向網(wǎng)絡輸出方向的網(wǎng)絡模型。反傳網(wǎng)絡就是一種典型的前向網(wǎng)絡。反饋網(wǎng)絡模型是一種反饋動力學系統(tǒng)，它具有極復雜的動力學特性。反饋神經(jīng)網(wǎng)絡模型可以用完備的無向圖表示，代表性的模型包括：Hopfield網(wǎng)絡模型和Hamming網(wǎng)絡模型。1.1.2人工神經(jīng)

3、網(wǎng)絡的基本問題人工神經(jīng)元模型是生物神經(jīng)元的模擬與抽象。這里所說的抽象是從數(shù)學角度而言，所謂模擬是對神經(jīng)元的結(jié)構(gòu)和功能而言，相當于一個多輸入單輸出的非線性閾值器件。人工神經(jīng)網(wǎng)絡模型主要考慮的問題有：網(wǎng)絡連接的拓撲結(jié)構(gòu)、神經(jīng)元的特征、學習規(guī)則等。人工神經(jīng)元網(wǎng)絡模型是將神經(jīng)元通過一定的結(jié)構(gòu)組織起來，從而構(gòu)成人工神經(jīng)元網(wǎng)絡。按照神經(jīng)元連接的拓撲結(jié)構(gòu)不同，可分為分層網(wǎng)絡和相互連接型網(wǎng)絡。分層網(wǎng)絡是將一個神經(jīng)元網(wǎng)絡模型中的所有神經(jīng)元按功能分為若干層，一般有輸入層、中間層和輸出層。相互連接型網(wǎng)絡是指網(wǎng)絡中任意

4、兩個單元之間都可以相互連接。神經(jīng)元網(wǎng)絡的學習過程是模仿人的學習過程，其學習方式主要有三種：有導師學習、無導師學習和強化學習。學習是一個相對持久的變化過程，同時也是一個推理過程，例如通過經(jīng)驗也可以學習，學習是神經(jīng)元網(wǎng)絡最重要的能力。神經(jīng)元網(wǎng)絡的學習規(guī)則在學習過程中主要是指網(wǎng)絡的連接權的值發(fā)生了改變，學習到的內(nèi)容也是記憶在連接權之中。學習規(guī)則有：Hebb學習規(guī)則、感知機(Perception)學習規(guī)則、Delta學習規(guī)則等等。神經(jīng)元網(wǎng)絡的工作過程是重復地對網(wǎng)絡進行訓練，當網(wǎng)絡訓練好了以后，就可以正常

5、進行工作，可以用來分析數(shù)據(jù)和處理問題。1.2BP網(wǎng)絡BP網(wǎng)絡是一種多層感知器，網(wǎng)絡由若干層神經(jīng)元組成，每個神經(jīng)元都是一個感知器，每層包含多個感知器，相鄰層神經(jīng)元用權連接起來，信號從前往后順序傳播，故又稱其為前向傳播網(wǎng)絡。它是目前應用最為廣泛的一種神經(jīng)網(wǎng)絡。其拓撲結(jié)構(gòu)如圖1所示。網(wǎng)絡由輸入層、隱含層、輸出層組成。圖1BP網(wǎng)絡拓撲結(jié)構(gòu)此外，網(wǎng)絡中單個神經(jīng)元的輸入與輸出之間的函數(shù)關系叫做激活函數(shù)。激活函數(shù)有許多種類型，其中比較常用的激活函數(shù)有三種形式：閾值型，S型和線性型。在BP網(wǎng)絡中，要求激活函數(shù)必

6、須是處處可微的，所以經(jīng)常采用S型和線性函數(shù)。BP網(wǎng)絡學習規(guī)則的指導思想是：對網(wǎng)絡權值和閾值的修正要沿著誤差函數(shù)下降最快的方向（負梯度方向）進行。即：（1）其中是當前的權值和閾值矩陣，是當前誤差函數(shù)的梯度，是學習速度。下面以只含一個隱含層的三層BP網(wǎng)絡為例，介紹BP算法的推導過程。對該網(wǎng)絡中的相關記號做如下約定：1、輸入層節(jié)點數(shù)為，隱含層節(jié)點數(shù)為，輸出層節(jié)點數(shù)為。相應各層結(jié)點的編號為，，，，，；2、輸入層節(jié)點與隱含層各節(jié)點間的網(wǎng)絡權值為，隱含層各節(jié)點的閾值為；隱含層節(jié)點與輸出層各節(jié)點間的網(wǎng)絡權值為

7、，輸出層各節(jié)點的閾值為；3、表示輸入層第個輸入（或輸出），表示隱含層第個輸出，表示輸出層第個輸出；4、為輸出層對應節(jié)點的期望值。則模型的推導過程如下：隱含層節(jié)點的輸出為：（2）其中（3）輸出節(jié)點的計算輸出為：（4）其中（5）輸出節(jié)點的誤差為：（6）1）誤差函數(shù)對輸出節(jié)點求導（7）式中，E是多個的函數(shù)。但有一個與有關，各間相互獨立，其中（8）（9）則：（10）設輸入節(jié)點誤差為：（11）則：（12）2）誤差函數(shù)對隱層節(jié)點求導（13）E是多個的函數(shù)，針對某一個，對應一個，它與所有有關，其中（14）（1

8、5）（16）則：（17）設隱層節(jié)點誤差為：（18）則：（19）由于權值的修正，正比于誤差函數(shù)沿梯度下降，則有：（20）（21）（22）（23）（24）（25）其中，隱層節(jié)點誤差中的表示輸出節(jié)點的誤差通過權值向節(jié)點反向傳播成為隱層節(jié)點的誤差。3）閾值的修正閾值也是變化值，在修正權值的同時也需要修正，原理同權值修正一樣。誤差函數(shù)對輸出節(jié)點閾值求導（26）其中（27）（28）則：（29）閾值修正：（30）（31）誤差函數(shù)對隱層節(jié)點閾值求導（32）其中（33）（34）（35）則：（36）閾值修正：（37