資源描述：
《并行學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)集成方法.pdf》由會員上傳分享，免費(fèi)在線閱讀，更多相關(guān)內(nèi)容在行業(yè)資料-天天文庫。
1、第Z8卷第3期計(jì)算機(jī)學(xué)報(bào)Vol.Z8No.3Z005年3月C~INESEJOURNALOCOMPUTERSMar.Z005并行學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)集成方法王正群1)Z)1)1)陳世福陳兆乾1)C南京大學(xué)計(jì)算機(jī)軟件新技術(shù)國家重點(diǎn)實(shí)驗(yàn)室南京Z10093)Z)C揚(yáng)州大學(xué)信息工程學(xué)院揚(yáng)州ZZ5009)摘要該文分析了神經(jīng)網(wǎng)絡(luò)集成中成員神經(jīng)網(wǎng)絡(luò)的泛化誤差~成員神經(jīng)網(wǎng)絡(luò)之間的差異度對神經(jīng)網(wǎng)絡(luò)集成泛化誤差的影響提出了一種并行學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)集成方法;對參與集成的成員神經(jīng)網(wǎng)絡(luò)給出了一種并行訓(xùn)練方法不僅滿足了成員網(wǎng)絡(luò)本身的精度要求還滿足了它與其余成員網(wǎng)絡(luò)的差
2、異性要求;另外給出了一種并行確定集成成員神經(jīng)網(wǎng)絡(luò)權(quán)重方法.實(shí)驗(yàn)結(jié)果表明使用該文的成員神經(jīng)網(wǎng)絡(luò)訓(xùn)練方法~成員神經(jīng)網(wǎng)絡(luò)集成方法能夠構(gòu)建有效的神經(jīng)網(wǎng)絡(luò)集成系統(tǒng).關(guān)鍵詞并行學(xué)習(xí);神經(jīng)網(wǎng)絡(luò);神經(jīng)網(wǎng)絡(luò)集成;機(jī)器學(xué)習(xí);泛化誤差中圖法分類號TP18AParallellearningApproachforNeuralNetworkensemble1)Z)1)1)WANGZheng-@unC~ENShi-uC~ENZhao-@ian1CStateKe$Laborator$forNouelSoftwareTechnolog$NanjingUniue
3、rsit$NanjingZ10093)ZCSchoolofInformationEngineeringYangzhouUniuersit$YangzhouZZ5009)AbstractAftertherelationshipamongthegeneraliZationerrorsoftheneuralnetworksensem-blethegeneraliZationerrorandthediversityofthecomponentneuralnetworkisanalyZed.Acomponentneuralnetwork
4、sparalleltrainedalgorithmPLAisproposedwhichencouragescom-ponentneuralnetworktolearnfromexpectedgoalandtheotherssoallcomponentneuralnet-worksaretrainedsimultaneouslyandinteractively.InthestageofcombiningcomponentneuralnetworksaparallelweightoptimalapproachGASEN-eispr
5、ovidedbyexpandingGASENpro-posedbyZhouetal.whichassignsweightforeverycomponentneuralnetworkandbiasfortheirensemble.Experimentresultsshowthataneuralnetworksensemblesystemisefficientlycon-structedbyPLAandGASEN-e.Keywordsparallellearning;neuralnetworks;neuralnetworkense
6、mble;machinelearning;generaliZationerror[1]在此示例下的輸出共同決定.對神經(jīng)網(wǎng)絡(luò)集成實(shí)l引言現(xiàn)方法的研究主要集中在兩個(gè)方面即如何生成集成中的成員網(wǎng)絡(luò)以及怎樣將多個(gè)神經(jīng)網(wǎng)絡(luò)的結(jié)論進(jìn)神經(jīng)網(wǎng)絡(luò)集成Cneuralnetworkensemble)是用行結(jié)合.有限個(gè)神經(jīng)網(wǎng)絡(luò)對同一個(gè)問題進(jìn)行學(xué)習(xí)集成在輸在生成集成個(gè)體網(wǎng)絡(luò)C成員網(wǎng)絡(luò))方面最重要[Z][3]入示例下的輸出由構(gòu)成神經(jīng)網(wǎng)絡(luò)集成的各神經(jīng)網(wǎng)絡(luò)的技術(shù)是Boosting和Bagging.應(yīng)用Boosting收稿日期:Z003-10-08;修改稿收到
7、日期:Z004-1Z-Z3.本課題得到國家自然科學(xué)基金C60Z73033)和江蘇省自然科學(xué)基金重點(diǎn)項(xiàng)目CBKZ003067)資助.王正群男1965年生博士后副教授研究方向?yàn)闄C(jī)器學(xué)習(xí)~神經(jīng)網(wǎng)絡(luò)~模式識別等.E-mail:yZwZC＠yZcn.net.陳世福男1938年生教授博士生導(dǎo)師主要研究方向?yàn)闄C(jī)器學(xué)習(xí)~知識工程~分布式人工智能以及圖像處理.陳兆乾女1940年生教授博士生導(dǎo)師主要研究領(lǐng)域?yàn)闄C(jī)器學(xué)習(xí)~知識工程~神經(jīng)網(wǎng)絡(luò).3期王正群等:并行學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)集成方法403技術(shù)可以產(chǎn)生一系列個(gè)體神經(jīng)網(wǎng)絡(luò)各網(wǎng)絡(luò)的訓(xùn)練異度越大>越有利于神經(jīng)網(wǎng)
8、絡(luò)集成泛化誤差的集決定于在其之前產(chǎn)生的網(wǎng)絡(luò)的表現(xiàn)被已有網(wǎng)絡(luò)降低.錯(cuò)誤判定的示例以較大的概論出現(xiàn)在新網(wǎng)絡(luò)的訓(xùn)本文進(jìn)一步分析了網(wǎng)絡(luò)集成中成員網(wǎng)絡(luò)的泛化練集中.這樣新網(wǎng)絡(luò)將能夠處理對已有網(wǎng)絡(luò)來說很誤差~網(wǎng)絡(luò)的差異度對神經(jīng)網(wǎng)絡(luò)集成泛化誤差的影困難的示例.雖然應(yīng)用Boosting技術(shù)能
