SOM自組織映射學(xué)習(xí)匯報.ppt

《SOM自組織映射學(xué)習(xí)匯報.ppt》由會員上傳分享，免費在線閱讀，更多相關(guān)內(nèi)容在行業(yè)資料-天天文庫。

1、九逸作品匯報人：我學(xué)到了什么我下一步要做什么自組織神經(jīng)網(wǎng)絡(luò)SOMAnImprovedNeuralArchitectureforGazeMovementControlinTargetSearching自組織神經(jīng)網(wǎng)絡(luò)自組織神經(jīng)網(wǎng)絡(luò)是一類無教師學(xué)習(xí)方式的神經(jīng)網(wǎng)絡(luò)模型，它無需期望輸出，知識根據(jù)數(shù)據(jù)樣本進(jìn)行學(xué)習(xí)，并調(diào)整自身權(quán)重以達(dá)到學(xué)習(xí)的目的。自組織神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)規(guī)則大都采用競爭型的學(xué)習(xí)規(guī)則。競爭型神經(jīng)網(wǎng)絡(luò)的基本思想是網(wǎng)絡(luò)競爭層的各神經(jīng)元通過競爭來獲取對輸入模式的響應(yīng)機(jī)會。競爭結(jié)果會存在獲勝神經(jīng)元，獲勝神經(jīng)元有關(guān)的

2、各連接權(quán)值向著更有利于其競爭的方向發(fā)展。競爭層輸入層Wj權(quán)值不同的輸入歸結(jié)到1個神經(jīng)元上，幾個輸入就是一類，實現(xiàn)了分類。競爭學(xué)習(xí)：網(wǎng)絡(luò)的輸出神經(jīng)元之間相互競爭以求被激活，結(jié)果在每一時刻只有一個輸出神經(jīng)元被激活。這個被激活的神經(jīng)元稱為競爭獲勝神經(jīng)元，而其它神經(jīng)元的狀態(tài)被抑制，稱為WTA（Winner-Take-All）。學(xué)習(xí)規(guī)則：1.向量歸一化。首先將當(dāng)前輸入模式向量X和競爭層中各神經(jīng)元對應(yīng)的向量Wj全部進(jìn)行歸一化處理。2.尋找獲勝神經(jīng)元。當(dāng)網(wǎng)絡(luò)得到一個輸入模式向量時，競爭層的所有神經(jīng)元對應(yīng)的權(quán)向量均與其進(jìn)

3、行相似性比較，并將最相似的內(nèi)權(quán)向量判為競爭獲勝神經(jīng)元。3.網(wǎng)絡(luò)輸出與權(quán)值調(diào)整。4.重新向量歸一化。用競爭學(xué)習(xí)算法將下列各模式分為2類：輸入向量為：學(xué)習(xí)率為a=0.5向量歸一化設(shè)置兩個權(quán)向量競爭學(xué)習(xí)X1學(xué)習(xí)d1=

4、

5、X1-W1(0)

6、

7、=1∠36.89°,d2=

8、

9、X1-W2(0)

10、

11、=1∠216.89°d1

12、

13、X2-W1(1)

14、

15、=1∠98.43°,d2=

16、

17、

18、X2-W2(1)

19、

20、=1∠100°d1

21、對于輸入向量進(jìn)行區(qū)域分類。SOM的算法思想：某個輸出節(jié)點能對某一類模式做出特別的反應(yīng)以代表該模式類。輸出層上相鄰的節(jié)點能對實際模式分布中相近的模式類做出特別的反應(yīng)。當(dāng)某類數(shù)據(jù)模式輸入時，對某以輸出節(jié)點產(chǎn)生最大刺激（獲勝神經(jīng)元），同時對獲勝神經(jīng)元節(jié)點周圍的一些節(jié)點產(chǎn)生較大的刺激。SOM網(wǎng)絡(luò)中有兩種鏈接權(quán)值，一種是神經(jīng)元對外部輸入反應(yīng)的連接權(quán)值，另外一種是神經(jīng)元之間的特征權(quán)值。它的大小控制著神經(jīng)元之間交互作用的強(qiáng)弱。SOM拓?fù)浣Y(jié)構(gòu)圖SOM算法是一種無導(dǎo)師的聚類法，他能將任意維輸入模在輸出層映射成一維或者二維離

22、散圖形，并保持其拖布結(jié)構(gòu)不變，即在無導(dǎo)師的情況下，通過對輸入模式的自組織學(xué)習(xí)，在競爭層將分類結(jié)果表示出來。此外，網(wǎng)絡(luò)通過對輸入模式的反復(fù)學(xué)習(xí)，可以使連接權(quán)值空間分布密度與輸入模式的概率分布趨于一致，即鏈接權(quán)向量空間分布能反應(yīng)輸入模式的統(tǒng)計特征。SOM算法是一個競爭-合作的過程。1.競爭。對于輸入模式，網(wǎng)絡(luò)中的神經(jīng)元計算他們各自判別函數(shù)的值。這個判別函數(shù)對神經(jīng)元之間的競爭提供基礎(chǔ)，具有判別函數(shù)最優(yōu)值（在歐式距離中是最小值）的特定神經(jīng)元成為競爭的勝利者。2.合作。獲勝神經(jīng)元的的相鄰神經(jīng)元的是合作的基礎(chǔ)。神經(jīng)元

23、決定興奮神經(jīng)元的拓?fù)溧徲虻目臻g位置，從而提供這樣的相鄰神經(jīng)元的合作的基礎(chǔ)。3.突出調(diào)節(jié)。最后的這個機(jī)制使神經(jīng)元通過對他們突觸權(quán)值的調(diào)節(jié)以增加他們的關(guān)于該輸入模式的判別的函數(shù)值。所做的調(diào)節(jié)使獲勝神經(jīng)元對以后相似輸入模式的響應(yīng)增強(qiáng)了。SOM算法步驟Step.1網(wǎng)絡(luò)初始化用隨機(jī)數(shù)設(shè)定輸入層和映射層之間權(quán)值的初始值：Wij。設(shè)定學(xué)習(xí)次數(shù)T，相關(guān)鄰域Ni(d)。WijX1X2……XijStep.2輸入向量把輸入向量輸入給輸入層：Xi。SOM算法步驟Step.3計算映射層的權(quán)值向量和輸入向量的距離。由歐式距離給出：W

24、ijX1X2……XijSOM算法步驟Step.4選擇與權(quán)值向量的距離最小的神經(jīng)元。計算并選擇使輸入向量和權(quán)值向量距離最小的神經(jīng)元，把其稱為勝出神經(jīng)元，標(biāo)記為j*，并給出鄰接神經(jīng)元集合。WijX1X2……XijSOM算法在修正神經(jīng)元的時候，同時要修正獲勝神經(jīng)元的附近區(qū)域Ni(d)內(nèi)所有的神經(jīng)元。Ni(d)={j,dij<=d}12543671098111215141316172019182122252423N13(1)={8，1