隱含層數(shù)值的確定

《隱含層數(shù)值的確定》由會員上傳分享，免費在線閱讀，更多相關(guān)內(nèi)容在行業(yè)資料-天天文庫。

1、天津大學(xué)碩士學(xué)位論文第四章以DGA為特征量的神經(jīng)網(wǎng)絡(luò)診斷模型及方法適用，而在另外一種情況下就無能為力。③樣本應(yīng)當(dāng)具有緊湊性。學(xué)習(xí)樣本在具有上面的條件外，還應(yīng)當(dāng)具有緊湊性。含有大量冗余成分的學(xué)習(xí)樣本會產(chǎn)生以下不利情況：a．導(dǎo)致網(wǎng)絡(luò)學(xué)習(xí)過程收斂困難或不收斂：b．訓(xùn)練出來的網(wǎng)絡(luò)會產(chǎn)生錯誤映射，使網(wǎng)絡(luò)輸出過多偏向冗余學(xué)習(xí)成分所形成的輸出方向。4．3．2DGA數(shù)據(jù)的預(yù)處理為避免輸入向量過大而導(dǎo)致BP網(wǎng)絡(luò)的飽和，而采用氣體含量各自所占總含氣量的相對百分比為輸入向量。R={L，江1，2，3，4，5，6，7∑巧i=1式中：Ri為歸算后的氣體百分含量；n為歸算前的氣體含量。4．3．3BP神經(jīng)網(wǎng)絡(luò)參數(shù)

2、的確定BP神經(jīng)網(wǎng)絡(luò)是被廣泛應(yīng)用的一種網(wǎng)絡(luò)模型，設(shè)計一個BP網(wǎng)絡(luò)，一般應(yīng)從網(wǎng)絡(luò)的層數(shù)、每層中的神經(jīng)元個數(shù)和激活函數(shù)、訓(xùn)練算法等方面來考慮。在確定采用前向網(wǎng)絡(luò)后，網(wǎng)絡(luò)結(jié)構(gòu)主要是確定網(wǎng)絡(luò)的層數(shù)，亦即隱藏層的層數(shù)，以及每層的神經(jīng)元數(shù)。一般來講，隱藏層、隱藏節(jié)點越多，則精度可以達到越高，但網(wǎng)絡(luò)的泛化能力也隨之下降。神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的優(yōu)化，尚缺乏通用的理論指導(dǎo)，一般是根據(jù)應(yīng)用的不同而不同，實用中，一般采用的方法就是不斷的嘗試，即比較多種網(wǎng)絡(luò)結(jié)構(gòu)，參考一些建議性意見，最后確定一種比較好的結(jié)構(gòu)。Cybenko證明，三層網(wǎng)(一層隱藏層)如果有足夠多的隱藏節(jié)點，可以逼近任何函數(shù)。所以，較少的隱藏層是可以勝

3、任的。層數(shù)：三層(輸入層、隱藏層、輸出層)節(jié)點數(shù)：輸入層節(jié)點數(shù)7；輸出層節(jié)點數(shù)5。對于隱藏層節(jié)點數(shù)，本文采用嘗試法，在其他參數(shù)不變的情況下，固定收斂精度，比較迭代次數(shù)。(1)輸入特征向量的確定一般來說，一個好的特征向量將包括適當(dāng)?shù)男畔?，以描述給定問題的特征。通常選擇輸入特征向量時需要注意兩條基本原則：一是輸入量必須選擇那些對輸出影響大且能夠檢測或提取的變量；二是要求各輸入變量之間互不相關(guān)或相關(guān)性很小。變壓器故障時分解出的氣體主要有H2、CO、C02、CH4、C2H6、C2H4、天津大學(xué)碩士學(xué)位論文第四章以DGA為特征量的神經(jīng)網(wǎng)絡(luò)診斷模型及方法C2H2等，這些氣體的濃度均會反映變壓器

4、的故障程度。但為了避免輸入向量過大導(dǎo)致BP網(wǎng)絡(luò)飽和，而以該七種氣體的百分含量為網(wǎng)絡(luò)的輸入特征向量，因此設(shè)定該網(wǎng)絡(luò)輸入層神經(jīng)元節(jié)點數(shù)為7。(2)輸出特征向量的確定一般來講，輸出量代表系統(tǒng)要實現(xiàn)的目標(biāo)，其選擇確定相對容易一些。只要問題確定好了，一般輸出量也就確定了。在變壓器故障診斷中，輸出量為0或l的5位故障編碼，對應(yīng)于高溫過熱、中溫過熱、低溫過熱、高能量放電(aP電弧放電)、低能量放電(火花放電、局部放電)、低能放電兼過熱和高能放電兼過熱七種故障類型。故障編碼如表4．1所示?？紤]到局部放電的放電能量較低，這里把局部放電故障歸結(jié)到了低能放電故障類型中；對于放電兼過熱故障，考慮到溫度和放

5、電能量的關(guān)系，這里設(shè)定低能放電兼過熱中的過熱對應(yīng)中溫過熱，高能放電兼過熱中的過熱對應(yīng)高溫過熱。因此設(shè)定該網(wǎng)絡(luò)輸出層神經(jīng)元節(jié)點數(shù)為5。表4．1故障編碼對應(yīng)表故障類型編碼(依次為Yl，Y2，Y3，Y4，Y5)低溫過熱10O0中溫過熱01O0高溫過熱O10低能放電0O10高能放電O01低能放電兼過熱Ol010高能放電兼過熱0O1O1(3)隱含層節(jié)點數(shù)的確定隱含層節(jié)點的作用是從樣本中提取并存儲其內(nèi)在規(guī)律，每個隱節(jié)點有若干個權(quán)值，而每個權(quán)值都是增強網(wǎng)絡(luò)映射能力的一個參數(shù)。隱含層節(jié)點數(shù)太少時，網(wǎng)絡(luò)每次學(xué)習(xí)時間相對較短，網(wǎng)絡(luò)從樣本中獲取信息的能力較差，不足以概括和體現(xiàn)樣本規(guī)律，從而識別新樣本困難

6、，容錯性差；隱含層節(jié)點數(shù)太多時，網(wǎng)絡(luò)的學(xué)習(xí)時間加長，且學(xué)習(xí)過程中，有可能把樣本中非規(guī)律性的內(nèi)容如噪聲等也學(xué)會記住，從而出現(xiàn)所謂“過度吻合"問題，反而降低了泛化能力。設(shè)置多少個隱含層節(jié)點，取決于訓(xùn)練樣本數(shù)的多少以及樣本中蘊含規(guī)律的復(fù)雜程度等多種因素。目前確定隱含層節(jié)點數(shù)的常用辦法是試湊法。用同一個天津大學(xué)碩士學(xué)位論文第四章以DGA為特征量的神經(jīng)網(wǎng)絡(luò)診斷模型及方法樣本集對采用不同隱節(jié)點數(shù)的網(wǎng)絡(luò)進行訓(xùn)練，選擇網(wǎng)絡(luò)誤差最小時對應(yīng)的值。初始隱節(jié)點數(shù)的確定采用常用的經(jīng)驗公式：，=√；再i+口其中，，為隱含層節(jié)點數(shù)，m為輸入層節(jié)點數(shù)，力為輸出層節(jié)點數(shù)，口為1～10之間的常數(shù)。本例中，m=7，n=

7、5。本文選取不同隱層節(jié)點個數(shù)進行訓(xùn)練，對比其誤差和訓(xùn)練時間，通過綜合分析來得出合理的節(jié)點數(shù)。隱層為不同神經(jīng)元節(jié)點數(shù)目時的誤差如表4_2所示。表4．2不同隱層節(jié)點數(shù)時對應(yīng)的誤差和訓(xùn)練時間節(jié)點數(shù)8lO1214誤差0．032436350．014145250．009948350．00767167節(jié)點數(shù)16182022誤差0．006223490．0026558lO．001158050．00023837節(jié)點數(shù)24262830誤差0．000238160．000245450．0000