資源描述：
《人工神經(jīng)網(wǎng)絡(luò)理論、設(shè)計(jì)及應(yīng)用 第2章 神經(jīng)網(wǎng)絡(luò)基礎(chǔ)知識(shí)》由會(huì)員上傳分享，免費(fèi)在線閱讀，更多相關(guān)內(nèi)容在行業(yè)資料-天天文庫(kù)。
1、第二章神經(jīng)網(wǎng)絡(luò)基礎(chǔ)知識(shí)生物神經(jīng)元人工神經(jīng)元模型人工神經(jīng)網(wǎng)絡(luò)模型神經(jīng)生理學(xué)和神經(jīng)解剖學(xué)的研究結(jié)果表明，神經(jīng)元(Neuron)是腦組織的基本單元，是人腦信息處理系統(tǒng)的最小單元。生物神經(jīng)元生物神經(jīng)網(wǎng)絡(luò)2.1人工神經(jīng)網(wǎng)絡(luò)的生物學(xué)基礎(chǔ)2.1.1生物神經(jīng)元生物神經(jīng)元在結(jié)構(gòu)上由:細(xì)胞體(Cellbody)、樹(shù)突(Dendrite)、軸突(Axon)、突觸(Synapse)四部分組成。用來(lái)完成神經(jīng)元間信息的接收、傳遞和處理。人工神經(jīng)網(wǎng)絡(luò)的生物學(xué)基礎(chǔ)人工神經(jīng)網(wǎng)絡(luò)的生物學(xué)基礎(chǔ)2.1.2生物神經(jīng)元的信息處理機(jī)理一、信息的產(chǎn)生神經(jīng)元間信
2、息的產(chǎn)生、傳遞和處理是一種電化學(xué)活動(dòng)。神經(jīng)元狀態(tài)：靜息興奮抑制膜電位：極化去極化超極化人工神經(jīng)網(wǎng)絡(luò)的生物學(xué)基礎(chǔ)人工神經(jīng)網(wǎng)絡(luò)的生物學(xué)基礎(chǔ)2.1.2生物神經(jīng)元的信息處理機(jī)理二信息的傳遞與接收人工神經(jīng)網(wǎng)絡(luò)的生物學(xué)基礎(chǔ)2.1.2生物神經(jīng)元的信息處理機(jī)理三、信息的整合空間整合：同一時(shí)刻產(chǎn)生的刺激所引起的膜電位變化，大致等于各單獨(dú)刺激引起的膜電位變化的代數(shù)和。時(shí)間整合：各輸入脈沖抵達(dá)神經(jīng)元的時(shí)間先后不一樣?？偟耐挥|后膜電位為一段時(shí)間內(nèi)的累積。人工神經(jīng)網(wǎng)絡(luò)的生物學(xué)基礎(chǔ)2.1.3生物神經(jīng)網(wǎng)絡(luò)由多個(gè)生物神經(jīng)元以確定方式和拓?fù)浣Y(jié)構(gòu)相
3、互連接即形成生物神經(jīng)網(wǎng)絡(luò)。生物神經(jīng)網(wǎng)絡(luò)的功能不是單個(gè)神經(jīng)元信息處理功能的簡(jiǎn)單疊加。神經(jīng)元之間的突觸連接方式和連接強(qiáng)度不同并且具有可塑性，這使神經(jīng)網(wǎng)絡(luò)在宏觀呈現(xiàn)出千變?nèi)f化的復(fù)雜的信息處理能力。人工神經(jīng)網(wǎng)絡(luò)的生物學(xué)基礎(chǔ)2.2神經(jīng)元的人工模型神經(jīng)元及其突觸是神經(jīng)網(wǎng)絡(luò)的基本器件。因此，模擬生物神經(jīng)網(wǎng)絡(luò)應(yīng)首先模擬生物神經(jīng)元人工神經(jīng)元(節(jié)點(diǎn))從三個(gè)方面進(jìn)行模擬:節(jié)點(diǎn)本身的信息處理能力節(jié)點(diǎn)與節(jié)點(diǎn)之間連接(拓?fù)浣Y(jié)構(gòu))相互連接的強(qiáng)度(通過(guò)學(xué)習(xí)來(lái)調(diào)整)決定人工神經(jīng)網(wǎng)絡(luò)整體性能的三大要素節(jié)點(diǎn)本身的信息處理能力(數(shù)學(xué)模型)節(jié)點(diǎn)與節(jié)點(diǎn)之間
4、連接(拓?fù)浣Y(jié)構(gòu))相互連接的強(qiáng)度(通過(guò)學(xué)習(xí)來(lái)調(diào)整)神經(jīng)元的人工模型2.2.1神經(jīng)元的建模(1)每個(gè)神經(jīng)元都是一個(gè)多輸入單輸出的信息處理單元；(2)神經(jīng)元輸入分興奮性輸入和抑制性輸入兩種類(lèi)型；(6)神經(jīng)元本身是非時(shí)變的，即其突觸時(shí)延和突觸強(qiáng)度均為常數(shù)。(3)神經(jīng)元具有空間整合特性和閾值特性；(4)神經(jīng)元輸入與輸出間有固定的時(shí)滯,主要取決于突觸延擱；(5)忽略時(shí)間整合作用和不應(yīng)期；模型的六點(diǎn)假設(shè)：神經(jīng)元的人工模型假設(shè)1：多輸入單輸出圖(a)表明，正如生物神經(jīng)元有許多激勵(lì)輸入一祥，人工神經(jīng)元也應(yīng)該有許多的輸入信號(hào)，圖中每
5、個(gè)輸入的大小用確定數(shù)值xi表示，它們同時(shí)輸入神經(jīng)元j，神經(jīng)元的單輸出用oj表示。神經(jīng)元的人工模型假設(shè)2：輸入類(lèi)型：興奮性和抑制性生物神經(jīng)元具有不同的突觸性質(zhì)和突觸強(qiáng)度，其對(duì)輸入的影響是使有些輸入在神經(jīng)元產(chǎn)生脈沖輸出過(guò)程中所起的作用比另外一些輸入更為重要。圖(b)中對(duì)神經(jīng)元的每一個(gè)輸入都有一個(gè)加權(quán)系數(shù)wij，稱(chēng)為權(quán)重值，其正負(fù)模擬了生物神經(jīng)元中突觸的興奮和抑制，其大小則代表了突觸的不同連接強(qiáng)度。神經(jīng)元的人工模型假設(shè)3：空間整合特性和閾值特性作為ANN的基本處理單元，必須對(duì)全部輸入信號(hào)進(jìn)行整合，以確定各類(lèi)輸入的作用總
6、效果，圖(c)表示組合輸人信號(hào)的“總和值”，相應(yīng)于生物神經(jīng)元的膜電位。神經(jīng)元激活與否取決于某一閾值電平，即只有當(dāng)其輸入總和超過(guò)閾值時(shí),神經(jīng)元才被激活而發(fā)放脈沖,否則神經(jīng)元不會(huì)產(chǎn)生輸出信號(hào)。神經(jīng)元的人工模型神經(jīng)元的輸出圖(d)人工神經(jīng)元的輸出也同生物神經(jīng)元一樣僅有一個(gè)，如用oj表示神經(jīng)元輸出，則輸出與輸入之間的對(duì)應(yīng)關(guān)系可用圖(d)中的某種非線性函數(shù)來(lái)表示，這種函數(shù)一般都是非線性的。神經(jīng)元的人工模型神經(jīng)元模型示意圖神經(jīng)元的人工模型2.2.2神經(jīng)元的數(shù)學(xué)模型τij——輸入輸出間的突觸時(shí)延；Tj——神經(jīng)元j的閾值；wij
7、——神經(jīng)元i到j(luò)的突觸連接系數(shù)或稱(chēng)權(quán)重值；f()——神經(jīng)元轉(zhuǎn)移函數(shù)。(2.1)(2.2)神經(jīng)元的人工模型(2.3)net’j=WjTXWj=(w1w2…wn)TX=(x1x2…xn)T令x0=-1，w0=Tj則有-Tj=x0w0(2.4)2.2.2神經(jīng)元的數(shù)學(xué)模型神經(jīng)元的人工模型(2.5)oj=f(netj)=f(WjTX)(2.6)2.2.2神經(jīng)元的數(shù)學(xué)模型神經(jīng)元的人工模型2.2.3神經(jīng)元的轉(zhuǎn)移函數(shù)神經(jīng)元各種不同數(shù)學(xué)模型的主要區(qū)別在于采用了不同的轉(zhuǎn)移函數(shù)，從而使神經(jīng)元具有不同的信息處理特性。神經(jīng)元的信息處理特性
8、是決定人工神經(jīng)網(wǎng)絡(luò)整體性能的三大要素之一，反映了神經(jīng)元輸出與其激活狀態(tài)之間的關(guān)系，最常用的轉(zhuǎn)移函數(shù)有4種形式。神經(jīng)元的人工模型(1)閾值型轉(zhuǎn)移函數(shù)1x≥0f(x)=(2.7)0x＜02.2.3神經(jīng)元的轉(zhuǎn)移函數(shù)神經(jīng)元的人工模型(2)非線性轉(zhuǎn)移函數(shù)2.2.3神經(jīng)元的轉(zhuǎn)移函數(shù)神經(jīng)元的人工模型(3)分段線性轉(zhuǎn)移函數(shù)0x≤0f(x)=cx0＜x≤xc(2.9)1xc＜x2.2.3神
