資源描述:
《基于改進蟻群算法的支持向量機模型選擇算法》由會員上傳分享,免費在線閱讀,更多相關內容在行業(yè)資料-天天文庫。
1、基于改進蟻群算法的支持向量機模型選擇算法高雷阜王飛趙世杰(遼寧工程技術大學優(yōu)化與決策研究所,阜新123000)摘要考慮到蟻群算法存在易過早收斂、出現停滯現象、陷入局部極值等問題,提出擁有動態(tài)自適應信息素全局更新函數,同時將Alopex算法嵌入到蟻群局部搜索中形成改進蟻群算法算法(IACO),并將算法應用于支持向量機模型選擇。以UCI上標準庫中的不同規(guī)模數據集進行數值實驗,實驗結果表明IACO算法優(yōu)化的SVM分類模型具有較強的平均分類準確率和較好的算法穩(wěn)定性。關鍵詞蟻群算法信息素Alopex算法支持向量機模
2、型選擇中圖法分類號TP18文獻標識碼ADOI:10.3969/j.issn.1000-386x.2013.01.001SUPPORTVECTORMACHINEMODELSELECTIONBASEDONIMPROVEDANTCOLONYALGORITHMGaoLeifuWangFeiZhaoShijie(Instituteofoptimizationanddecision,LiaoningTechnicalUniversity,Fuxin123000,Liaoning,China)AbstractConsi
3、deringthattheantcolonyalgorithmhastheproblemofprematureconvergence,stagnationandlocalextremum,proposetheglobalupdatefunctionofdynamicadaptivepheromone,embedtheAlopexalgorithmintothelocalsearchofantcolonyalgorithmtoformtheimprovedantcolonyalgorithm(IACO),a
4、ndapplythealgorithmintoselectsupportvectormachinemodel.UsingdifferentscaledatasetsofUCIstandardlibrarytoexperiment,theresultsshowthattheSVMclassificationmodelhasstrongaverageclassificationaccuracyandgoodstabilityofthealgorithm.KeywordsAntcolonyalgorithmPh
5、eromoneAlopexalgorithmSVMModelselect高雷阜:基于改進蟻群算法的支持向量機模型選擇50引 言支持向量機[1](SupportVectorMachines,SVM)是由V.Vapnik等人在1995年提出的一種機器學習方法,目前已經被廣泛應用到解決分類和回歸問題中[2,3]。的核參數和罰參數決定其性能的好壞但卻選擇缺乏理論指導,許多算法被用來優(yōu)化參數如經驗選擇法、網格搜索法[4],以及近幾年成為研究熱點的基于仿生學智能算法如魚群算法[5]、粒子群算法[6-7]、蟻群算法[8
6、-9]以及多種智能算法的融合算法[10]等。智能算法相比于前兩種算法省時省力,同時對初值不敏感、效率高,更適合求解參數優(yōu)化問題。蟻群優(yōu)化算法[11](AntColonyOptimization,ACO)憑借其獨特的正反饋機制、較強的魯棒性和并行處理能力被廣泛地應用到支持向量機參數尋優(yōu)中,但也存在易過早收斂、陷入局部最優(yōu)[14]等問題。針對ACO中存在的這些問題,將動態(tài)自適應信息素全局更新函數和Alopex[12](Algorithmofpatternextraction,Alopex)算法耦合形成一種改進
7、蟻群算法(ImprovedAntColonyOptimization,IACO)。該算法構造了動態(tài)自適應信息素全局更新函數,讓信息素隨迭代次數動態(tài)變化,以平衡蟻群算法的正反饋機制,從而避免算法過早收斂或陷入局部極值。同時在尋優(yōu)過程中將改進Alopex算法嵌入到IACO中以增強局部搜索性能,避免傳統(tǒng)ACO中的停滯現象。最后將改進蟻群算法用于支持向量機模型選擇中,并利用UCI中數據集進行數值實驗以驗證算法的有效性和可行性。1支持向量機理論支持向量機[13]是通過構造最優(yōu)分割超平面對輸入變量樣本進行分類,當樣本
8、線性可分的時候,以超平面為分界線,使得超平面的一側為一類樣本,另一側為另一類樣本。而對于線性不可分的樣本,則是通過選擇適當的核函數將樣本數據映射到一個高維線性特種空間(一般為Hilbert空間)中,使其在該高維空間中線性可分,從而構造最優(yōu)分類超平面,完成樣本分類問題。對于訓練樣本集:,最優(yōu)分類超平面對應二次規(guī)劃問題:(1)引入Lagrange函數為:(2)其中。問題(1)的對偶問題為:收稿日期:2015-09-27。教育部高校