資源描述：
《人工神經(jīng)網(wǎng)絡(luò)及其應(yīng)用之自組織網(wǎng)絡(luò).ppt》由會員上傳分享，免費在線閱讀，更多相關(guān)內(nèi)容在PPT專區(qū)-天天文庫。
1、人工神經(jīng)網(wǎng)絡(luò)及其應(yīng)用第6講自組織網(wǎng)絡(luò)一、自組織神經(jīng)網(wǎng)絡(luò)二、自組織競爭網(wǎng)絡(luò)三、科荷倫網(wǎng)絡(luò)四、自適應(yīng)共振網(wǎng)絡(luò)五、內(nèi)容小結(jié)六、考試事宜內(nèi)容安排2021/8/821.1自組織網(wǎng)絡(luò)特點1.2網(wǎng)絡(luò)類型1.3網(wǎng)絡(luò)學習規(guī)則一、自組織神經(jīng)網(wǎng)絡(luò)2021/8/831.1自組織網(wǎng)絡(luò)特點特點自組織神經(jīng)網(wǎng)絡(luò)可以自動向環(huán)境學習，不需要教師指導；而前面所講到的前向網(wǎng)絡(luò)、反饋網(wǎng)絡(luò)均需要教師指導學習與BP網(wǎng)絡(luò)相比，這種自組織自適應(yīng)的學習能力進一步拓寬了人工神經(jīng)網(wǎng)絡(luò)在模式識別、分類方面的應(yīng)用思想基礎(chǔ)生物的神經(jīng)網(wǎng)絡(luò)中，如人的視網(wǎng)膜中，存在著一種
2、“側(cè)抑制”現(xiàn)象，即一個神經(jīng)細胞興奮后，通過它的分支會對周圍其他神經(jīng)細胞產(chǎn)生抑制借鑒上述思想，自組織網(wǎng)絡(luò)能夠?qū)斎肽Ｊ竭M行自組織訓練和判斷，并將輸入模式分為不同的類型2021/8/841.2網(wǎng)絡(luò)類型需要訓練自組織競爭網(wǎng)絡(luò)適用與具有典型聚類特性的大量數(shù)據(jù)的辨識Kohunen網(wǎng)絡(luò)訓練學習后使網(wǎng)絡(luò)權(quán)值分布與輸入樣本概率密度分布相似可以作為樣本特征檢測儀，在樣本排序、樣本分類及樣本檢測方面有廣泛應(yīng)用對傳網(wǎng)絡(luò)（CounterPropagationNetwork）在功能上用作統(tǒng)計最優(yōu)化和概率密度函數(shù)分析可用于圖像處理和
3、統(tǒng)計分析神經(jīng)認知機等不需要訓練自適應(yīng)共振理論（ART）分類的類型數(shù)目可自適應(yīng)增加2021/8/851.3網(wǎng)絡(luò)學習規(guī)則格勞斯貝格(S．Grossberg)提出了兩種類型的神經(jīng)元模型：內(nèi)星與外星，用以來解釋人類及動物的學習現(xiàn)象內(nèi)星可以被訓練來識別矢量外星可以被訓練來產(chǎn)生矢量基本學習規(guī)則內(nèi)星學習規(guī)則外星學習規(guī)則科荷倫學習規(guī)則2021/8/861.3.1內(nèi)星與外星外星通過聯(lián)接權(quán)矢量向外輸出一組信號A內(nèi)星通過聯(lián)接權(quán)矢量W接受一組輸入信號P2021/8/871.3.2內(nèi)星學習規(guī)則可以通過內(nèi)星及其學習規(guī)則可訓練某一神經(jīng)
4、元節(jié)點只響應(yīng)特定的輸入矢量P，它借助于調(diào)節(jié)網(wǎng)絡(luò)權(quán)矢量W近似于輸入矢量P來實現(xiàn)的單內(nèi)星中對權(quán)值修正的格勞斯貝格內(nèi)星學習規(guī)則為內(nèi)星神經(jīng)元聯(lián)接強度的變化Δw1j與輸出成正比的。如果內(nèi)星輸出a被某一外部方式而維護高值時，通過不斷反復(fù)地學習，趨使Δw1j逐漸減少，直至最終達到w1j＝pj，從而使內(nèi)星權(quán)矢量學習了輸入矢量P，達到了用內(nèi)星來識別一個矢量的目的另一方面，如果內(nèi)星輸出保持為低值時，網(wǎng)絡(luò)權(quán)矢量被學習的可能性較小，甚至不能被學習2021/8/881.3.3外星學習規(guī)則外星網(wǎng)絡(luò)的激活函數(shù)是線性函數(shù)。它被用來學習回
5、憶一個矢量，其網(wǎng)絡(luò)輸入P也可以是另一個神經(jīng)元模型的輸出外星被訓練來在一層s個線性神經(jīng)元的輸出端產(chǎn)生一個特別的矢量A對于一個外星，其學習規(guī)則為與內(nèi)星不同，外星聯(lián)接強度的變化Δw是與輸入矢量P成正比的當輸入矢量被保持高值，比如接近1時，每個權(quán)值wij將趨于輸出ai值，若pj＝1，則外星使權(quán)值產(chǎn)生輸出矢量當輸入矢量pj為0時，網(wǎng)絡(luò)權(quán)值得不到任何學習與修正2021/8/891.3.3外星學習規(guī)則當有r個外星相并聯(lián)，每個外星與s個線性神經(jīng)元相連組成一層外星時，其權(quán)值修正方式為W＝s×r權(quán)值列矢量lr＝學習速率A＝s
6、×q外星輸出P＝r×q外星輸入2021/8/8101.3.4科荷倫學習規(guī)則科荷倫學習規(guī)則是由內(nèi)星規(guī)則發(fā)展而來的科荷倫規(guī)則科荷倫學習規(guī)則實際上是內(nèi)星學習規(guī)則的一個特例，但它比采用內(nèi)星規(guī)則進行網(wǎng)絡(luò)設(shè)計要節(jié)省更多的學習，因而常常用來替代內(nèi)星學習規(guī)則2021/8/811二、自組織網(wǎng)絡(luò)2.1網(wǎng)絡(luò)模型2.2競爭網(wǎng)絡(luò)原理2.3網(wǎng)絡(luò)訓練2021/8/8122.1網(wǎng)絡(luò)模型網(wǎng)絡(luò)結(jié)構(gòu)競爭網(wǎng)絡(luò)由單層神經(jīng)元網(wǎng)絡(luò)組成，其輸入節(jié)點與輸出節(jié)點之間為全互聯(lián)結(jié)。因為網(wǎng)絡(luò)在學習中的競爭特性也表現(xiàn)在輸出層上，所以在競爭網(wǎng)絡(luò)中把輸出層又稱為競爭層
7、，而與輸入節(jié)點相連的權(quán)值及其輸入合稱為輸入層2021/8/8132.1網(wǎng)絡(luò)模型網(wǎng)絡(luò)權(quán)值的類型輸入節(jié)點j到i的權(quán)值wij(i＝1，2…、s；j＝1，2…、r)，這些權(quán)值是通過訓練可以被調(diào)整的競爭層中互相抑制的權(quán)值wik(k＝1，2…、s)。這類權(quán)值固定不變，且滿足一定的分布關(guān)系是一種對稱權(quán)值，即有wik＝wki相同神經(jīng)元之間的權(quán)值起加強的作用，即滿足w11＝w11＝…＝wkk＞0，而不同神經(jīng)元之間的權(quán)值相互抑制，對于k≠i有wij＜02021/8/8142.1網(wǎng)絡(luò)模型網(wǎng)絡(luò)工作方式輸入矢量經(jīng)過網(wǎng)絡(luò)前向傳遞網(wǎng)絡(luò)
8、競爭激活函數(shù)為硬限制二值函數(shù)競爭網(wǎng)絡(luò)的激活函數(shù)使加權(quán)輸入和為最大的節(jié)點贏得輸出為1，而其他神經(jīng)元的輸出皆為0(?)權(quán)值調(diào)整（可以處于訓練與工作期間）競爭網(wǎng)絡(luò)在經(jīng)過競爭而求得獲勝節(jié)點后，則對與獲勝節(jié)點相連的權(quán)值進行調(diào)整調(diào)整權(quán)值的目的是為了使權(quán)值與其輸入矢量之間的差別越來越小，從而使訓練后的競爭網(wǎng)絡(luò)的權(quán)值能夠代表對應(yīng)輸入矢量的特征2021/8/8152.2競爭網(wǎng)絡(luò)原理競爭網(wǎng)絡(luò)解釋設(shè)網(wǎng)絡(luò)的輸入矢量為：P＝[p1p2…pr]T對應(yīng)網(wǎng)絡(luò)
