資源描述:
《自組織神經(jīng)網(wǎng)絡(luò)ppt課件.ppt》由會(huì)員上傳分享,免費(fèi)在線閱讀,更多相關(guān)內(nèi)容在教育資源-天天文庫。
1、智能控制基礎(chǔ)ShanghaiUniversity,Shanghai,P.R.China5.人工神經(jīng)網(wǎng)絡(luò)及其在控制中的應(yīng)用5.4.自組織神經(jīng)網(wǎng)絡(luò)15.4自組織神經(jīng)網(wǎng)絡(luò)5.4.1自組織神經(jīng)網(wǎng)絡(luò)概述與競(jìng)爭(zhēng)學(xué)習(xí)5.4.3對(duì)偶傳播神經(jīng)網(wǎng)絡(luò)5.4.2自組織特征映射神經(jīng)網(wǎng)絡(luò)5.5.4自適應(yīng)共振理論網(wǎng)絡(luò)5.4自組織神經(jīng)網(wǎng)絡(luò)5.4.1自組織神經(jīng)網(wǎng)絡(luò)概述與競(jìng)爭(zhēng)學(xué)習(xí)5.4.3對(duì)偶傳播神經(jīng)網(wǎng)絡(luò)5.4.2自組織特征映射神經(jīng)網(wǎng)絡(luò)5.5.4自適應(yīng)共振理論網(wǎng)絡(luò)自組織神經(jīng)網(wǎng)絡(luò),又稱為自組織競(jìng)爭(zhēng)神經(jīng)網(wǎng)絡(luò),特別適合于解決模式分類和識(shí)別方面的應(yīng)用問題。自組織神經(jīng)網(wǎng)絡(luò)概述5.4.1自組織神經(jīng)網(wǎng)絡(luò)
2、概述與競(jìng)爭(zhēng)學(xué)習(xí)自組織神經(jīng)網(wǎng)絡(luò)屬于前向神經(jīng)網(wǎng)絡(luò)類型,采用無導(dǎo)師學(xué)習(xí)算法,自組織特征映射(self-OrganizingMap,SOM)網(wǎng)絡(luò)自適應(yīng)共振理論(AdaptiveResonanceTheory,ART)網(wǎng)絡(luò)對(duì)傳(CounterPropagation,CP)網(wǎng)絡(luò)協(xié)同神經(jīng)網(wǎng)絡(luò)(SynergeticNeuralNetwork.SNN)幾種常見的自組織神經(jīng)網(wǎng)絡(luò)5.4.1自組織神經(jīng)網(wǎng)絡(luò)概述與競(jìng)爭(zhēng)學(xué)習(xí)競(jìng)爭(zhēng)層輸入層自組織神經(jīng)網(wǎng)絡(luò)的典型結(jié)構(gòu)5.4.1自組織神經(jīng)網(wǎng)絡(luò)概述與競(jìng)爭(zhēng)學(xué)習(xí)通過自動(dòng)尋找樣本中的內(nèi)在規(guī)律和本質(zhì)屬性,自組織、自適應(yīng)地改變網(wǎng)絡(luò)參數(shù)與結(jié)構(gòu)。自組織學(xué)習(xí)(
3、self-organizedlearning)自組織網(wǎng)絡(luò)的自組織功能是通過競(jìng)爭(zhēng)學(xué)習(xí)(competitivelearning)實(shí)現(xiàn)的。5.4.1自組織神經(jīng)網(wǎng)絡(luò)概述與競(jìng)爭(zhēng)學(xué)習(xí)聚類——無導(dǎo)師指導(dǎo)的分類稱為聚類,聚類的目的是將相似的模式樣本劃歸一類,而將不相似的分離開。分類和聚類分類——分類是在類別知識(shí)等導(dǎo)師信號(hào)的指導(dǎo)下,將待識(shí)別的輸入模式分配到各自的模式類中去。5.4.1自組織神經(jīng)網(wǎng)絡(luò)概述與競(jìng)爭(zhēng)學(xué)習(xí)相似性測(cè)量——?dú)W式距離法5.4.1自組織神經(jīng)網(wǎng)絡(luò)概述與競(jìng)爭(zhēng)學(xué)習(xí)相似性測(cè)量——余弦法5.4.1自組織神經(jīng)網(wǎng)絡(luò)概述與競(jìng)爭(zhēng)學(xué)習(xí)網(wǎng)絡(luò)的輸出神經(jīng)元之間相互競(jìng)爭(zhēng)以求被激活,結(jié)果
4、在每一時(shí)刻只有一個(gè)輸出神經(jīng)元被激活。這個(gè)被激活的神經(jīng)元稱為競(jìng)爭(zhēng)獲勝神經(jīng)元,而其它神經(jīng)元的狀態(tài)被抑制,故稱為Winner-Take-All。競(jìng)爭(zhēng)學(xué)習(xí)規(guī)則——Winner-Take-All5.4.1自組織神經(jīng)網(wǎng)絡(luò)概述與競(jìng)爭(zhēng)學(xué)習(xí)1.向量歸一化首先將當(dāng)前輸入模式向量X和競(jìng)爭(zhēng)層中各神經(jīng)元對(duì)應(yīng)的內(nèi)星向量Wj全部進(jìn)行歸一化處理;(j=1,2,…,m)競(jìng)爭(zhēng)學(xué)習(xí)規(guī)則——Winner-Take-All5.4.1自組織神經(jīng)網(wǎng)絡(luò)概述與競(jìng)爭(zhēng)學(xué)習(xí)向量歸一化之前競(jìng)爭(zhēng)學(xué)習(xí)規(guī)則——Winner-Take-All5.4.1自組織神經(jīng)網(wǎng)絡(luò)概述與競(jìng)爭(zhēng)學(xué)習(xí)向量歸一化之后競(jìng)爭(zhēng)學(xué)習(xí)規(guī)則——Winne
5、r-Take-All5.4.1自組織神經(jīng)網(wǎng)絡(luò)概述與競(jìng)爭(zhēng)學(xué)習(xí)2.尋找獲勝神經(jīng)元當(dāng)網(wǎng)絡(luò)得到一個(gè)輸入模式向量時(shí),競(jìng)爭(zhēng)層的所有神經(jīng)元對(duì)應(yīng)的內(nèi)星權(quán)向量均與其進(jìn)行相似性比較,并將最相似的內(nèi)星權(quán)向量判為競(jìng)爭(zhēng)獲勝神經(jīng)元。欲使兩單位向量最相似,須使其點(diǎn)積最大。即:競(jìng)爭(zhēng)學(xué)習(xí)規(guī)則——Winner-Take-All5.4.1自組織神經(jīng)網(wǎng)絡(luò)概述與競(jìng)爭(zhēng)學(xué)習(xí)從上式可以看出,欲使兩單位向量的歐式距離最小,須使兩向量的點(diǎn)積最大。即:競(jìng)爭(zhēng)學(xué)習(xí)規(guī)則——Winner-Take-All5.4.1自組織神經(jīng)網(wǎng)絡(luò)概述與競(jìng)爭(zhēng)學(xué)習(xí)3.網(wǎng)絡(luò)輸出與權(quán)值調(diào)整j?j*步驟3完成后回到步驟1繼續(xù)訓(xùn)練,直到學(xué)習(xí)率衰
6、減到0。注意:調(diào)整后的向量需要重新歸一化!??!競(jìng)爭(zhēng)學(xué)習(xí)規(guī)則——Winner-Take-All5.4.1自組織神經(jīng)網(wǎng)絡(luò)概述與競(jìng)爭(zhēng)學(xué)習(xí)?競(jìng)爭(zhēng)學(xué)習(xí)的幾何意義5.4.1自組織神經(jīng)網(wǎng)絡(luò)概述與競(jìng)爭(zhēng)學(xué)習(xí)*1W?*?jW*)](?)(?)[()(*ttttjpWXW-=hD*┆)(?*1tj+W)(?tpXjW?mW?*…***競(jìng)爭(zhēng)學(xué)習(xí)的幾何意義5.4.1自組織神經(jīng)網(wǎng)絡(luò)概述與競(jìng)爭(zhēng)學(xué)習(xí)例用競(jìng)爭(zhēng)學(xué)習(xí)算法將下列各模式分為2類:解:為作圖方便,將上述模式轉(zhuǎn)換成極坐標(biāo)形式:競(jìng)爭(zhēng)層設(shè)兩個(gè)權(quán)向量,隨機(jī)初始化為單位向量:5.4.1自組織神經(jīng)網(wǎng)絡(luò)概述與競(jìng)爭(zhēng)學(xué)習(xí)5.4.1自組織神經(jīng)網(wǎng)絡(luò)概述
7、與競(jìng)爭(zhēng)學(xué)習(xí)5.4.1自組織神經(jīng)網(wǎng)絡(luò)概述與競(jìng)爭(zhēng)學(xué)習(xí)5.4.1自組織神經(jīng)網(wǎng)絡(luò)概述與競(jìng)爭(zhēng)學(xué)習(xí)5.4.1自組織神經(jīng)網(wǎng)絡(luò)概述與競(jìng)爭(zhēng)學(xué)習(xí)5.4.1自組織神經(jīng)網(wǎng)絡(luò)概述與競(jìng)爭(zhēng)學(xué)習(xí)5.4.1自組織神經(jīng)網(wǎng)絡(luò)概述與競(jìng)爭(zhēng)學(xué)習(xí)5.4.1自組織神經(jīng)網(wǎng)絡(luò)概述與競(jìng)爭(zhēng)學(xué)習(xí)5.4.1自組織神經(jīng)網(wǎng)絡(luò)概述與競(jìng)爭(zhēng)學(xué)習(xí)5.4.1自組織神經(jīng)網(wǎng)絡(luò)概述與競(jìng)爭(zhēng)學(xué)習(xí)5.4.1自組織神經(jīng)網(wǎng)絡(luò)概述與競(jìng)爭(zhēng)學(xué)習(xí)5.4.1自組織神經(jīng)網(wǎng)絡(luò)概述與競(jìng)爭(zhēng)學(xué)習(xí)5.4.1自組織神經(jīng)網(wǎng)絡(luò)概述與競(jìng)爭(zhēng)學(xué)習(xí)5.4自組織神經(jīng)網(wǎng)絡(luò)5.4.1自組織神經(jīng)網(wǎng)絡(luò)概述與競(jìng)爭(zhēng)學(xué)習(xí)5.4.3對(duì)偶傳播神經(jīng)網(wǎng)絡(luò)5.4.2自組織特征映射神經(jīng)網(wǎng)絡(luò)5.5.4自適應(yīng)
8、共振理論網(wǎng)絡(luò)5.4.2自組織特征映射神經(jīng)網(wǎng)絡(luò)由芬蘭學(xué)者TeuvoKohonen于