資源描述：
《自組織神經(jīng)網(wǎng)絡方法及其應用.ppt》由會員上傳分享，免費在線閱讀，更多相關(guān)內(nèi)容在行業(yè)資料-天天文庫。
1、第四章自組織神經(jīng)網(wǎng)絡4.1競爭學習的概念與原理4.2自組織特征映射神經(jīng)網(wǎng)絡自組織神經(jīng)網(wǎng)絡的典型結(jié)構(gòu)第四章自組織神經(jīng)網(wǎng)絡競爭層輸入層第四章自組織神經(jīng)網(wǎng)絡自組織學習(self-organizedlearning)：通過自動尋找樣本中的內(nèi)在規(guī)律和本質(zhì)屬性，自組織、自適應地改變網(wǎng)絡參數(shù)與結(jié)構(gòu)。自組織網(wǎng)絡的自組織功能是通過競爭學習（competitivelearning）實現(xiàn)的。4.1競爭學習的概念與原理4.1.1基本概念分類——分類是在類別知識等導師信號的指導下，將待識別的輸入模式分配到各自的模式類中去。聚類——無導師指導的分類稱為聚
2、類，聚類的目的是將相似的模式樣本劃歸一類，而將不相似的分離開。相似性測量＿歐式距離法4.1.1基本概念相似性測量＿余弦法4.1.1基本概念4.1.2競爭學習原理競爭學習規(guī)則——Winner-Take-All網(wǎng)絡的輸出神經(jīng)元之間相互競爭以求被激活，結(jié)果在每一時刻只有一個輸出神經(jīng)元被激活。這個被激活的神經(jīng)元稱為競爭獲勝神經(jīng)元，而其它神經(jīng)元的狀態(tài)被抑制，故稱為WinnerTakeAll。競爭學習規(guī)則——Winner-Take-All1.向量歸一化首先將當前輸入模式向量X和競爭層中各神經(jīng)元對應的內(nèi)星向量Wj全部進行歸一化處理；(j=1
3、,2,…,m)向量歸一化之前向量歸一化之后競爭學習原理競爭學習規(guī)則——Winner-Take-All2.尋找獲勝神經(jīng)元當網(wǎng)絡得到一個輸入模式向量時，競爭層的所有神經(jīng)元對應的內(nèi)星權(quán)向量均與其進行相似性比較，并將最相似的內(nèi)星權(quán)向量判為競爭獲勝神經(jīng)元。欲使兩單位向量最相似，須使其點積最大。即：從上式可以看出，欲使兩單位向量的歐式距離最小，須使兩向量的點積最大。即：競爭學習規(guī)則——Winner-Take-All競爭學習規(guī)則——勝者為王(Winner-Take-All)3.網(wǎng)絡輸出與權(quán)值調(diào)整j?j*步驟3完成后回到步驟1繼續(xù)訓練，直到學
4、習率衰減到0。競爭學習的幾何意義?競爭學習的幾何意義*1W?*?jW*)](?)(?)[()(*ttttjpWXW-=hD*┆)(?*1tj+W)(?tpXjW?mW?*…***競爭學習游戲?qū)⒁痪S樣本空間的12個樣本分為3類競爭學習游戲w1w2w3x訓練樣本集o1o1o1例4.1用競爭學習算法將下列各模式分為2類：解：為作圖方便，將上述模式轉(zhuǎn)換成極坐標形式：競爭層設兩個權(quán)向量，隨機初始化為單位向量：4.2自組織特征映射神經(jīng)網(wǎng)絡 （Self-OrganizingfeatureMap）1981年芬蘭Helsink大學的T.Koho
5、nen教授提出一種自組織特征映射網(wǎng)，簡稱SOM網(wǎng)，又稱Kohonen網(wǎng)。Kohonen認為：一個神經(jīng)網(wǎng)絡接受外界輸入模式時，將會分為不同的對應區(qū)域，各區(qū)域?qū)斎肽Ｊ骄哂胁煌捻憫卣鳎疫@個過程是自動完成的。自組織特征映射正是根據(jù)這一看法提出來的，其特點與人腦的自組織特性相類似。SOM網(wǎng)的生物學基礎生物學研究的事實表明，在人腦的感覺通道上，神經(jīng)元的組織原理是有序排列。因此當人腦通過感官接受外界的特定時空信息時，大腦皮層的特定區(qū)域興奮，而且類似的外界信息在對應區(qū)域是連續(xù)映象的。對于某一圖形或某一頻率的特定興奮過程，神經(jīng)元的有序
6、排列以及對外界信息的連續(xù)映象是自組織特征映射網(wǎng)中競爭機制的生物學基礎。SOM網(wǎng)的拓撲結(jié)構(gòu)SOM網(wǎng)共有兩層，輸入層模擬感知外界輸入信息的視網(wǎng)膜，輸出層模擬做出響應的大腦皮層。SOM網(wǎng)的權(quán)值調(diào)整域SOM網(wǎng)的獲勝神經(jīng)元對其鄰近神經(jīng)元的影響是由近及遠，由興奮逐漸轉(zhuǎn)變?yōu)橐种?，因此其學習算法中不僅獲勝神經(jīng)元本身要調(diào)整權(quán)向量，它周圍的神經(jīng)元在其影響下也要程度不同地調(diào)整權(quán)向量。這種調(diào)整可用三種函數(shù)表示：SOM網(wǎng)的權(quán)值調(diào)整域以獲勝神經(jīng)元為中心設定一個鄰域半徑，該半徑圈定的范圍稱為優(yōu)勝鄰域。在SOM網(wǎng)學習算法中，優(yōu)勝鄰域內(nèi)的所有神經(jīng)元均按其離開獲
7、勝神經(jīng)元的距離遠近不同程度地調(diào)整權(quán)值。優(yōu)勝鄰域開始定得很大，但其大小隨著訓練次數(shù)的增加不斷收縮，最終收縮到半徑為零。SOM網(wǎng)的運行原理訓練階段w1w2w3w4w5SOM網(wǎng)的運行原理工作階段SOM網(wǎng)的學習算法(1)初始化對輸出層各權(quán)向量賦小隨機數(shù)并進行歸一化處理，得到，j=1,2,…m；建立初始優(yōu)勝鄰域Nj*(0)；學習率?賦初始值。(2)接受輸入從訓練集中隨機選取一個輸入模式并進行歸一化處理，得到，p?{1,2,…,P}。(3)尋找獲勝節(jié)點計算與的點積，j=1,2,…m，從中選出點積最大的獲勝節(jié)點j*。(4)定義優(yōu)勝鄰域Nj*
8、(t)以j*為中心確定t時刻的權(quán)值調(diào)整域，一般初始鄰域Nj*(0)較大，訓練過程中Nj*(t)隨訓練時間逐漸收縮。Kohonen學習算法Kohonen學習算法SOM網(wǎng)的學習算法(5)調(diào)整權(quán)值對優(yōu)勝鄰域Nj*(t)內(nèi)的所有節(jié)點調(diào)整權(quán)值：i=1,2,…nj?Nj*(t)式中，是訓
