資源描述:
《基于fbt改進(jìn)svm多類分類方法的研究》由會(huì)員上傳分享,免費(fèi)在線閱讀,更多相關(guān)內(nèi)容在學(xué)術(shù)論文-天天文庫(kù)。
1、哈爾濱理工人學(xué)‘T學(xué)碩‘l:學(xué)位論文基于FBT的改進(jìn)SVM多類分類方法研究摘要支持向量機(jī)(SupportVectorMachine,SVM)作為一種基于統(tǒng)計(jì)學(xué)習(xí)理論的新的機(jī)器學(xué)習(xí)方法,克服了神經(jīng)網(wǎng)絡(luò)方法解不穩(wěn)定、推廣性差的缺點(diǎn)。目前,SVM已經(jīng)成為機(jī)器學(xué)習(xí)領(lǐng)域的研究熱點(diǎn)。傳統(tǒng)SVM是針對(duì)兩類分類問(wèn)題,而實(shí)際問(wèn)題大多是多分類的。如何有效地解決多分類問(wèn)題,是近幾年研究的重點(diǎn)之一。基于二叉樹(shù)的SVM多分類算法已被廣泛采用,但不同的二叉樹(shù)結(jié)構(gòu)對(duì)SVM分類器的性能影響很大。針對(duì)基于二叉樹(shù)的SVM多分類算法在時(shí)間復(fù)雜度和分類效果上的不足,本文提出一種完全二叉樹(shù)(FullBinaryTree,F(xiàn)BT)的改
2、進(jìn)球結(jié)構(gòu)SVM多分類算法。該算法考慮不平衡樣本的分類情況,利用改進(jìn)的球結(jié)構(gòu)SVM在提高分類精度的同時(shí),建立結(jié)構(gòu)合理的完全二叉樹(shù),將多類問(wèn)題轉(zhuǎn)化為一系列的二分類問(wèn)題,二叉樹(shù)的每個(gè)中間結(jié)點(diǎn)代表一個(gè)分類器,同一層的分類器能并行工作,從而可以提高訓(xùn)練和分類的速度。通過(guò)理論分析和實(shí)例驗(yàn)證,并且與其他多類分類算法相比較,該算法有令人滿意的分類效果。隨著樣本數(shù)量的增加,傳統(tǒng)的SVM缺乏對(duì)增量學(xué)習(xí)的支持,需要所有的訓(xùn)練樣本都參與訓(xùn)練,因此訓(xùn)練速度會(huì)明顯減慢。針對(duì)球結(jié)構(gòu)SVM增量學(xué)習(xí)算法在訓(xùn)練時(shí)間和分類精度上的不足,本文提出一種改進(jìn)的球結(jié)構(gòu)SVM多分類增量學(xué)習(xí)算法。該算法在FBT的改進(jìn)球結(jié)構(gòu)SVM多分類算法的
3、基礎(chǔ)上,分析球結(jié)構(gòu)SVM分類器的KKT條件,分析新增樣本的加入對(duì)原來(lái)支持向量集的影響,將新增樣本集中部分樣本和原始訓(xùn)練集中的支持向量以及分布在球體一定范圍內(nèi)的樣本合并做為新的訓(xùn)練集,完成分類器的重構(gòu)。在UCI標(biāo)準(zhǔn)數(shù)據(jù)集上進(jìn)行測(cè)試,與球結(jié)構(gòu)SVM增量學(xué)習(xí)算法相比,該算法具有較短的訓(xùn)練時(shí)間和較高的分類準(zhǔn)確率。關(guān)鍵詞多類分類;增量學(xué)習(xí);支持向量機(jī);完全二叉樹(shù);球結(jié)構(gòu)哈爾濱理T大學(xué)丁學(xué)碩Jj學(xué)位論文ResearchonMulti..classClassificationMethodofImprovedSVMBasedonFBTAbstractSupportVectorMachine(SVM),asa
4、newmachinelearningmethodbasedonstatisticallearningtheory,hasbecomeahotresearchissueinthefieldofmachinelearning,becauseitcanovercomethedefectofneuralnetworkmethodsuchasunstablesolutionandbadgeneralization.TraditionalSVMiSdevelopedforbinaryclassificationproblems.butmostofactualproblemsaremulti.classc
5、lassification.ItiSoneoftheimportantchallengeshowtoeffectivelysolvemulti-classclassificationprobleminrecentyear.TheSVMmulti-classclassificationalgorithmbasedonbinarytreehasbeenwidelyadopted,butthedifferentbinarytreestructurehasagreatimpactonclassifier’Sperformance.Aimingattheshortageintimecomplexity
6、andclassificationprecisionofSVMalgorithmbasedonbinarytree,anmulti—classclassificationalgorithmofimprovedsphere—structuredSVMbasedonFullBinaryTree(FBT)isputforward.Thisalgorithmcanenhancetheclassificationprecisionviausingimprovedsphere-structuredSVM,becauseitconsideredthesituationfromunbalancedsampl
7、es.a(chǎn)tthesametime,aFBTwithreasonablestructureiSestablished,themulti.classclassificationproblemCanbetransfo·rmedintoaseriesofbinaryclassificationproblems,ailinternalnoderepresentsaclassifierinbinarytree,thecl