最新誤差反傳算法.教學(xué)講義ppt.ppt

《最新誤差反傳算法.教學(xué)講義ppt.ppt》由會員上傳分享，免費在線閱讀，更多相關(guān)內(nèi)容在教育資源-天天文庫。

1、誤差反傳算法.要點BP算法的基本思想基于BP算法的多層感知器模型標(biāo)準(zhǔn)BP算法的改進(jìn)21、BP算法的基本思想學(xué)習(xí)過程由信號的正向傳播與誤差的反向傳播兩個過程組成。正向傳播時，輸入樣本從輸入層傳入，經(jīng)各隱層逐層處理后，傳向輸出層。若輸出層的實際輸出與期望的輸出不符，則轉(zhuǎn)入誤差的反向傳播階段。誤差反傳是將輸出誤差以某種形成通過隱層向輸入層逐層反傳，并將誤差攤給各層的所有單元，從而獲得各層單元的誤差信號，此誤差信號即作為修正各單元權(quán)值的依據(jù)。這種信號正向傳播與誤差反向傳播的各層權(quán)值調(diào)整過程，是周而復(fù)始地進(jìn)行的。權(quán)值不斷調(diào)整的過程，也就是網(wǎng)絡(luò)的學(xué)習(xí)訓(xùn)練過程。此過程一直進(jìn)行到網(wǎng)絡(luò)輸出的誤

2、差減少到可接受的程度，或進(jìn)行到預(yù)先設(shè)定的次數(shù)為止。3根據(jù)需要，也可以采用雙極性Sigmoid函數(shù)（或稱雙曲線正切函數(shù)）網(wǎng)絡(luò)誤差與權(quán)值調(diào)整當(dāng)網(wǎng)絡(luò)輸出與期望輸出不等時，存在輸出誤差，定義如下將以上誤差定義式展開至隱層，有進(jìn)一步展開至輸入層，有7由以上可以看出，網(wǎng)絡(luò)輸入誤差是各層權(quán)值的函數(shù)，因此調(diào)整權(quán)值可改變誤差顯然，調(diào)整權(quán)值的原則是使誤差不斷地減少，因此應(yīng)使權(quán)值的調(diào)整量與誤差的梯度下降成正比，即8標(biāo)準(zhǔn)BP算法的改進(jìn)存在的缺陷：易形成局部極小而得不到全局最優(yōu)；訓(xùn)練次數(shù)多使得學(xué)習(xí)效率低，收斂速度慢；隱節(jié)點的選取缺乏理論指導(dǎo)；訓(xùn)練時學(xué)習(xí)新樣本有遺忘舊樣本的趨勢9改進(jìn)方法：增加動量項；自

3、適應(yīng)調(diào)整學(xué)習(xí)率；引入陡度因子增加動量項：為了考慮t時刻之前的梯度方向。若用W代表某層權(quán)矩陣，X代表某層輸入向量，則含有動量項的權(quán)值調(diào)整向量表達(dá)式為自適應(yīng)調(diào)節(jié)學(xué)習(xí)率從誤差曲面可以看出，在平坦區(qū)域內(nèi)太小會使訓(xùn)練次數(shù)增加，因而希望增大值；而在誤差變化劇烈的區(qū)域，太大會因調(diào)整量過大而跨過較窄的“凹坑”處，使訓(xùn)練出現(xiàn)振蕩，反而使迭代次數(shù)增加。10設(shè)一初始學(xué)習(xí)率，若經(jīng)過一批次權(quán)值調(diào)整后使總誤差增大，則本次調(diào)整無效，且；若經(jīng)過一批次權(quán)值調(diào)整后使總誤差減少，則本次調(diào)整有效，且引入陡度因子誤差曲面上存在著平坦區(qū)域。權(quán)值調(diào)整進(jìn)入平坦區(qū)的原因是神經(jīng)元輸入了變換函數(shù)的飽和區(qū)。如果在調(diào)整進(jìn)入平坦區(qū)后，

4、設(shè)法壓縮神經(jīng)元的凈輸入，使其輸出退出變換函數(shù)的飽和區(qū)，就可以改變誤差函數(shù)的形狀，從而使調(diào)整擺脫平坦區(qū)。實現(xiàn)這一思路的做法是，在原變換函數(shù)中引入一個陡度因子11Thanksyou！12中醫(yī)內(nèi)科學(xué)第二章心系病癥第一節(jié)心悸第二節(jié)胸痹心痛第三節(jié)心衰第四節(jié)不寐學(xué)習(xí)目的掌握心系病證的發(fā)病特點，以及心悸、胸痹心痛、心衰、不寐等病的概念、病因病機、診斷及鑒別診斷、辨證論治等。學(xué)習(xí)要點心悸辨證要點，分證論治，驚悸與怔忡鑒別；胸痹心痛概念，治療原則，分證論治，預(yù)防調(diào)護(hù)；心衰概念，與哮病鑒別，辨證要點，分證論治；不寐基本病機，分證論治。心主血脈，又主神明，在體合脈，其華在面，開竅于舌，在液為汗，在

5、志為喜，其經(jīng)脈屬心絡(luò)小腸。心之本臟病多因情志所傷、稟賦不足、年老體虛、久病失養(yǎng)所致，證候特征主要表現(xiàn)為心脈血液運行障礙和情志思維活動異常。依據(jù)心的生理功能和病機變化特點，臨床上將心悸、胸痹心痛、心衰、不寐等歸屬為心系病證。由于心為“君主之官”、“五臟六腑之大主”，故心系病證?？梢鹌渌K腑功能失調(diào)；同時，其他臟腑的病變，也可影響心的功能，臨床上常相兼為病，如心脾兩虛證、心腎不交證、心腎陽虛證、心肺氣虛證、心肝血虛證等。心系疾病實證的治療，宜損其有余，兼用重鎮(zhèn)安神。心火亢盛者，宜清心安神；心脈痹阻者，宜化瘀通絡(luò)；痰蒙心神者，宜滌痰開竅；痰火擾神者，宜瀉火滌痰。虛性病證，當(dāng)補其不

6、足，兼以養(yǎng)心安神。心氣虛、心陽虛者，宜益心氣、溫心陽；心血虛、心陰虛者，宜滋心陰，養(yǎng)心血；心陽暴脫者，回陽救逆。同時注意陰中求陽，陽中求陰；攻補兼施，臟腑兼顧。第三節(jié)心衰概述【病因病機】【診斷與鑒別診斷】【辨證論治】【預(yù)防調(diào)護(hù)】【結(jié)語】【臨證要點】【名醫(yī)經(jīng)驗】概述心衰的概念：心衰是以心悸、氣喘、肢體水腫為主癥的一種病證。多繼發(fā)于胸痹心痛、心悸、心痹等疾病，是各種心臟疾病的最終轉(zhuǎn)歸，亦見于其他臟腑疾病的危重階段。早期表現(xiàn)為乏力，氣短，動則氣喘、心悸；繼而喘陲加重，喘不得臥，尿少肢腫，腹脹納呆。每因外感、勞倦和情志等因素使病情急劇加重，可發(fā)生猝死。心衰源流：《內(nèi)經(jīng)》無心衰病名，但

7、有相關(guān)癥狀和病機的論述。漢代張仲景提出了與心衰有關(guān)的“心水”、“支飲”疾病的概念，其創(chuàng)制的真武湯、葶藶大棗瀉肺湯等，至今仍是臨床比較常用的方劑。西晉王叔和在《脈經(jīng)》卷第三中首先提出“心衰”病名，并在治療上提出“固轉(zhuǎn)孔穴，利其溲便，遂通水道，甘液下流，亭其陰陽，喘息則微，汗出正流。肝著其根，心氣因起，陽行四肢，肺氣亭亭，喘息則安”。明代《景岳全書·雜證謨·怔忡驚恐》認(rèn)為“虛微者動亦微，虛甚者動亦甚”，治療上“宜養(yǎng)氣養(yǎng)精，滋培根本”，“宜節(jié)欲節(jié)勞，切戒酒色”。王清任強調(diào)用血府逐瘀湯治療，《醫(yī)林改錯·卷上》說