資源描述:
《基于改進(jìn)蟻群算法的支持向量機(jī)模型選擇算法》由會(huì)員上傳分享,免費(fèi)在線閱讀,更多相關(guān)內(nèi)容在學(xué)術(shù)論文-天天文庫。
1、基于改進(jìn)蟻群算法的支持向量機(jī)模型選擇算法高雷阜王飛趙世杰(遼寧工程技術(shù)大學(xué)優(yōu)化與決策研究所,阜新123000)摘要考慮到蟻群算法存在易過早收斂、出現(xiàn)停滯現(xiàn)象、陷入局部極值等問題,提出擁有動(dòng)態(tài)自適應(yīng)信息素全局更新函數(shù),同時(shí)將Alopex算法嵌入到蟻群局部搜索中形成改進(jìn)蟻群算法算法(IACO),并將算法應(yīng)用于支持向量機(jī)模型選擇。以UCI上標(biāo)準(zhǔn)庫中的不同規(guī)模數(shù)據(jù)集進(jìn)行數(shù)值實(shí)驗(yàn),實(shí)驗(yàn)結(jié)果表明IACO算法優(yōu)化的SVM分類模型具有較強(qiáng)的平均分類準(zhǔn)確率和較好的算法穩(wěn)定性。關(guān)鍵詞蟻群算法信息素Alopex算法支持向量機(jī)模型選擇中圖法分類號(hào)TP18文獻(xiàn)標(biāo)識(shí)碼ADOI:10.39
2、69/j.issn.1000-386x.2013.01.001SUPPORTVECTORMACHINEMODELSELECTIONBASEDONIMPROVEDANTCOLONYALGORITHMGaoLeifuWangFeiZhaoShijie(Instituteofoptimizationanddecision,LiaoningTechnicalUniversity,Fuxin123000,Liaoning,China)AbstractConsideringthattheantcolonyalgorithmhastheproblemofprematurec
3、onvergence,stagnationandlocalextremum,proposetheglobalupdatefunctionofdynamicadaptivepheromone,embedtheAlopexalgorithmintothelocalsearchofantcolonyalgorithmtoformtheimprovedantcolonyalgorithm(IACO),andapplythealgorithmintoselectsupportvectormachinemodel.Usingdifferentscaledatasetsof
4、UCIstandardlibrarytoexperiment,theresultsshowthattheSVMclassificationmodelhasstrongaverageclassificationaccuracyandgoodstabilityofthealgorithm.KeywordsAntcolonyalgorithmPheromoneAlopexalgorithmSVMModelselect高雷阜:基于改進(jìn)蟻群算法的支持向量機(jī)模型選擇50引 言支持向量機(jī)[1](SupportVectorMachines,SVM)是由V.Vapnik等人在1
5、995年提出的一種機(jī)器學(xué)習(xí)方法,目前已經(jīng)被廣泛應(yīng)用到解決分類和回歸問題中[2,3]。的核參數(shù)和罰參數(shù)決定其性能的好壞但卻選擇缺乏理論指導(dǎo),許多算法被用來優(yōu)化參數(shù)如經(jīng)驗(yàn)選擇法、網(wǎng)格搜索法[4],以及近幾年成為研究熱點(diǎn)的基于仿生學(xué)智能算法如魚群算法[5]、粒子群算法[6-7]、蟻群算法[8-9]以及多種智能算法的融合算法[10]等。智能算法相比于前兩種算法省時(shí)省力,同時(shí)對(duì)初值不敏感、效率高,更適合求解參數(shù)優(yōu)化問題。蟻群優(yōu)化算法[11](AntColonyOptimization,ACO)憑借其獨(dú)特的正反饋機(jī)制、較強(qiáng)的魯棒性和并行處理能力被廣泛地應(yīng)用到支持向量機(jī)參數(shù)
6、尋優(yōu)中,但也存在易過早收斂、陷入局部最優(yōu)[14]等問題。針對(duì)ACO中存在的這些問題,將動(dòng)態(tài)自適應(yīng)信息素全局更新函數(shù)和Alopex[12](Algorithmofpatternextraction,Alopex)算法耦合形成一種改進(jìn)蟻群算法(ImprovedAntColonyOptimization,IACO)。該算法構(gòu)造了動(dòng)態(tài)自適應(yīng)信息素全局更新函數(shù),讓信息素隨迭代次數(shù)動(dòng)態(tài)變化,以平衡蟻群算法的正反饋機(jī)制,從而避免算法過早收斂或陷入局部極值。同時(shí)在尋優(yōu)過程中將改進(jìn)Alopex算法嵌入到IACO中以增強(qiáng)局部搜索性能,避免傳統(tǒng)ACO中的停滯現(xiàn)象。最后將改進(jìn)蟻群算法
7、用于支持向量機(jī)模型選擇中,并利用UCI中數(shù)據(jù)集進(jìn)行數(shù)值實(shí)驗(yàn)以驗(yàn)證算法的有效性和可行性。1支持向量機(jī)理論支持向量機(jī)[13]是通過構(gòu)造最優(yōu)分割超平面對(duì)輸入變量樣本進(jìn)行分類,當(dāng)樣本線性可分的時(shí)候,以超平面為分界線,使得超平面的一側(cè)為一類樣本,另一側(cè)為另一類樣本。而對(duì)于線性不可分的樣本,則是通過選擇適當(dāng)?shù)暮撕瘮?shù)將樣本數(shù)據(jù)映射到一個(gè)高維線性特種空間(一般為Hilbert空間)中,使其在該高維空間中線性可分,從而構(gòu)造最優(yōu)分類超平面,完成樣本分類問題。對(duì)于訓(xùn)練樣本集:,最優(yōu)分類超平面對(duì)應(yīng)二次規(guī)劃問題:(1)引入Lagrange函數(shù)為:(2)其中。問題(1)的對(duì)偶問題為:收稿
8、日期:2015-09-27。教育部高校