資源描述:
《adaboost算法的推廣_一組集成學(xué)習(xí)算法》由會(huì)員上傳分享,免費(fèi)在線閱讀,更多相關(guān)內(nèi)容在教育資源-天天文庫。
1、第42卷第6期四川大學(xué)學(xué)報(bào)(工程科學(xué)版)Vol.42No.62010年11月JOURNALOFSICHUANUNIVERSITY(ENGINEERINGSCIENCEEDITION)Nov.2010文章編號(hào):1009-3087(2010)06-0091-08AdaBoost算法的推廣———一組集成學(xué)習(xí)算法1,21,21,21,2付忠良,趙向輝,苗青,姚宇(1.中國(guó)科學(xué)院成都計(jì)算機(jī)應(yīng)用研究所,四川成都610041;2.中國(guó)科學(xué)院研究生院,北京100049)摘要:針對(duì)AdaBoost算法只適合于不穩(wěn)
2、定學(xué)習(xí)算法這一不足,基于增加新分類器總是希望降低集成分類器訓(xùn)練錯(cuò)誤率這一思想,提出了利用樣本權(quán)值來調(diào)整樣本類中心的方法,使AdaBoost算法可以與一些穩(wěn)定的學(xué)習(xí)算法結(jié)合成新的集成學(xué)習(xí)算法,如動(dòng)態(tài)調(diào)整樣本屬性中心的集成學(xué)習(xí)算法、基于加權(quán)距離度量分類的集成學(xué)習(xí)算法和動(dòng)態(tài)組合樣本屬性的集成學(xué)習(xí)算法,大大拓展了AdaBoost算法適用范圍。針對(duì)AdaBoost算法的組合系數(shù)和樣本權(quán)值調(diào)整策略是間接實(shí)現(xiàn)降低訓(xùn)練錯(cuò)誤率目標(biāo),提出了直接面向目標(biāo)的集成學(xué)習(xí)算法。在UCI數(shù)據(jù)上的實(shí)驗(yàn)與分析表明,提出的AdaBoost推廣算法不僅有效,而且部分算法比AdaBoost算法效果更好。關(guān)鍵詞:集成學(xué)習(xí);AdaBoos
3、t;分類器組合;弱學(xué)習(xí)定理中圖分類號(hào):TP391文獻(xiàn)標(biāo)識(shí)碼:AEnsembleLearningAlgorithms:GeneralizationofAdaBoost1,21,21,21,2FUZhong-liang,ZHAOXiang-hui,MIAOQing,YAOYu(1.ChengduComputerApplicationsInst.,ChineseAcademyofSciences,Chengdu610041,China;2.GraduateUniv.ofChineseAcademyofSciences,Beijing100049,China)Abstract:Aimingatover
4、comingtheinsufficiencythatAdaBoostalgorithmisonlysuitabletotheunstablelearningalgorithm,themethodofadjustingsamplecenterwithitsweightwasgivenbasedontheideathataddingnewclassi-fiersisalwaystoreducethetrainingerroroftheensembleclassifier.Bythismethod,AdaBoostalgorithmcouldbegeneralizedtobeseveralnewen
5、semblelearningmethodsbycombiningsomestablelearningalgorithms,suchastheoneofdynamicallyadjustingthecentersofsampleattributes,theoneofclassifyingbyweighteddistancemeasure-ment,andtheoneofdynamicallycombiningsampleattributes.Therefore,theapplicationscopeofAdaBoostalgo-rithmwasgreatlyexpanded.Differentf
6、romthatthecombinationcoefficientsandtheadjustmentstrategyofsampleweightsinAdaBoostalgorithmareindirectlysettoreducethetrainingerror,thedirectgoal-orientedensemblelearningalgorithmwasgiven.TheexperimentalanalysisonUCIdatasetprovedthatthegeneralizedAdaBoostalgo-rithmsareeffectiveandsomeofthemperformbe
7、tterthantheordinaryAdaBoostalgorithm.Keywords:ensemblelearning;AdaBoost;classificationcombination;weaklearningtheoremAdaBoost(adaptiveboosting)算法是一種提高給定學(xué)習(xí)算法精度的方法,由Freund和Schapire提[1][2]出,是基于弱學(xué)習(xí)定理的一種可操