資源描述：
《并行學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)集成方法new》由會(huì)員上傳分享，免費(fèi)在線閱讀，更多相關(guān)內(nèi)容在教育資源-天天文庫。
1、第28卷第3期計(jì)算機(jī)學(xué)報(bào)Vol.28No.32005年3月CHINESEJOURNALOFCOMPUTERSMar.2005并行學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)集成方法1),2)1)1)王正群陳世福陳兆乾1)(南京大學(xué)計(jì)算機(jī)軟件新技術(shù)國家重點(diǎn)實(shí)驗(yàn)室南京210093)2)(揚(yáng)州大學(xué)信息工程學(xué)院揚(yáng)州225009)摘要該文分析了神經(jīng)網(wǎng)絡(luò)集成中成員神經(jīng)網(wǎng)絡(luò)的泛化誤差、成員神經(jīng)網(wǎng)絡(luò)之間的差異度對(duì)神經(jīng)網(wǎng)絡(luò)集成泛化誤差的影響,提出了一種并行學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)集成方法;對(duì)參與集成的成員神經(jīng)網(wǎng)絡(luò),給出了一種并行訓(xùn)練方法,不僅滿足了成員網(wǎng)絡(luò)本身的精度要求,還滿足了
2、它與其余成員網(wǎng)絡(luò)的差異性要求;另外,給出了一種并行確定集成成員神經(jīng)網(wǎng)絡(luò)權(quán)重方法.實(shí)驗(yàn)結(jié)果表明,使用該文的成員神經(jīng)網(wǎng)絡(luò)訓(xùn)練方法、成員神經(jīng)網(wǎng)絡(luò)集成方法能夠構(gòu)建有效的神經(jīng)網(wǎng)絡(luò)集成系統(tǒng).關(guān)鍵詞并行學(xué)習(xí);神經(jīng)網(wǎng)絡(luò);神經(jīng)網(wǎng)絡(luò)集成;機(jī)器學(xué)習(xí);泛化誤差中圖法分類號(hào)TP18AParallelLearningApproachforNeuralNetworkEnsemble1),2)1)1)WANGZheng2QunCHENShi2FuCHENZhao2Qian1(StateKeyLaboratoryforNovelSoftwareTech
3、nology,NanjingUniversity,Nanjing210093)2(SchoolofInformationEngineering,YangzhouUniversity,Yangzhou225009)AbstractAftertherelationshipamongthegeneralizationerrorsoftheneuralnetworksensem2ble,thegeneralizationerrorandthediversityofthecomponentneuralnetworkisanaly
4、zed.AcomponentneuralnetworksparalleltrainedalgorithmPLAisproposed,whichencouragescom2ponentneuralnetworktolearnfromexpectedgoalandtheothers,soallcomponentneuralnet2worksaretrainedsimultaneouslyandinteractively.Inthestageofcombiningcomponentneuralnetworks,aparall
5、elweightoptimalapproachGASEN2eisprovidedbyexpandingGASENpro2posedbyZhouetal.,whichassignsweightforeverycomponentneuralnetworkandbiasfortheirensemble.Experimentresultsshowthataneuralnetworksensemblesystemisefficientlycon2structedbyPLAandGASEN2e.Keywordsparallelle
6、arning;neuralnetworks;neuralnetworkensemble;machinelearning;generalizationerror[1]在此示例下的輸出共同決定.對(duì)神經(jīng)網(wǎng)絡(luò)集成實(shí)1引言現(xiàn)方法的研究主要集中在兩個(gè)方面,即如何生成集成中的成員網(wǎng)絡(luò)以及怎樣將多個(gè)神經(jīng)網(wǎng)絡(luò)的結(jié)論進(jìn)神經(jīng)網(wǎng)絡(luò)集成(neuralnetworkensemble)是用行結(jié)合.有限個(gè)神經(jīng)網(wǎng)絡(luò)對(duì)同一個(gè)問題進(jìn)行學(xué)習(xí),集成在輸在生成集成個(gè)體網(wǎng)絡(luò)(成員網(wǎng)絡(luò))方面,最重要[2][3]入示例下的輸出由構(gòu)成神經(jīng)網(wǎng)絡(luò)集成的各神經(jīng)網(wǎng)絡(luò)的技術(shù)是Bo
7、osting和Bagging.應(yīng)用Boosting收稿日期:2003210208;修改稿收到日期:2004212223.本課題得到國家自然科學(xué)基金(60273033)和江蘇省自然科學(xué)基金重點(diǎn)項(xiàng)目(BK2003067)資助.王正群,男,1965年生,博士后,副教授,研究方向?yàn)闄C(jī)器學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)、模式識(shí)別等.E2mail:yzwzq@yzcn.net.陳世福,男,1938年生,教授,博士生導(dǎo)師,主要研究方向?yàn)闄C(jī)器學(xué)習(xí)、知識(shí)工程、分布式人工智能以及圖像處理.陳兆乾,女,1940年生,教授,博士生導(dǎo)師,主要研究領(lǐng)域?yàn)闄C(jī)器學(xué)習(xí)、
8、知識(shí)工程、神經(jīng)網(wǎng)絡(luò).3期王正群等:并行學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)集成方法403技術(shù),可以產(chǎn)生一系列個(gè)體神經(jīng)網(wǎng)絡(luò),各網(wǎng)絡(luò)的訓(xùn)練異度越大),越有利于神經(jīng)網(wǎng)絡(luò)集成泛化誤差的集決定于在其之前產(chǎn)生的網(wǎng)絡(luò)的表現(xiàn),被已有網(wǎng)絡(luò)降低.錯(cuò)誤判定的示例以較大的概論出現(xiàn)在新網(wǎng)絡(luò)的訓(xùn)本文進(jìn)一步分析了網(wǎng)絡(luò)集成中成員網(wǎng)絡(luò)的泛化練集中.這樣,新網(wǎng)絡(luò)將能夠處理對(duì)已有網(wǎng)絡(luò)來說很誤
