資源描述：
《支持向量機(jī)的模型選擇研究》由會(huì)員上傳分享，免費(fèi)在線閱讀，更多相關(guān)內(nèi)容在學(xué)術(shù)論文-天天文庫(kù)。
1、工學(xué)碩士學(xué)位論文支持向量機(jī)的模型選擇研究碩士研究生：林沂蒙導(dǎo)申請(qǐng)師：楊蘇教授學(xué)位：工學(xué)碩士學(xué)科、專業(yè)：計(jì)算機(jī)科學(xué)與技術(shù)所在單位：深圳研究生院答辯日期：2006年6月授予學(xué)位單位：哈爾濱工業(yè)大學(xué)ClassifiedIndex:TM151.3U.D.C:621.3DissertationfortheMasterDegreeofEngineeringRESEARCHONMODELSELECTIONOFSUPPORTVECTORMACHINECandidate:Supervisor:AcademicDegreeAppliedfo
2、r:Specialty:Affiliation:DateofDefence:Degree-Conferring-Institution:LinYimengProf.DanielYeungMasterofEngineeringComputerScienceandTechnologyShenzhenGraduateSchoolJune,2006HarbinInstituteofTechnology哈爾濱工業(yè)大學(xué)工學(xué)碩士學(xué)位論文摘要支持向量分類中,高斯核不區(qū)分樣本中各個(gè)特征的重要性.顯然,各個(gè)特征對(duì)分類的貢獻(xiàn)一般是不相同的,
3、為了體現(xiàn)這種差別從而提高支持向量機(jī)的泛化能力,文中提出了多寬度高斯核的概念.多寬度高斯核增加了支持向量機(jī)的超級(jí)參數(shù),針對(duì)這一情況,文中提出了支持向量機(jī)的多參數(shù)模型選擇的算法,該算法利用半徑-間隔的泛化誤差期望界自動(dòng)實(shí)現(xiàn)模型選擇.通過實(shí)驗(yàn)驗(yàn)證了多寬度高斯核和多參數(shù)模型選擇算法在提高支持向量分類中的有效性.高斯核是支持向量機(jī)優(yōu)先選擇的核函數(shù),其寬度參數(shù)定義了核函數(shù)的泛化規(guī)模.由于樣本分布的不均勻性,單一寬度的高斯核會(huì)在樣本空間的稠密區(qū)域產(chǎn)生過學(xué)習(xí)現(xiàn)象,在稀疏區(qū)域產(chǎn)生欠學(xué)習(xí)現(xiàn)象,即存在局部泛化風(fēng)險(xiǎn).針對(duì)于此,文中構(gòu)造了一個(gè)“全局
4、性”的次核去降低高斯核產(chǎn)生的局部泛化風(fēng)險(xiǎn),次核是為了擬補(bǔ)主核的不足,這里高斯核稱為主核,構(gòu)造的新核稱為主次核.文中利用冪級(jí)數(shù)構(gòu)造性的給出并證明了次核的正定性條件.進(jìn)一步提出了基于遺傳算法的兩階段模型選擇去解決主次核的模型選擇問題,該算法通過最小化泛化誤差界,首先選擇主核的模型參數(shù),然后再選擇次核的模型參數(shù),實(shí)驗(yàn)證明,這一策略是非常有效和魯棒的.關(guān)鍵詞主次核;高斯核;泛化誤差界;支持向量分類;多寬度高斯核;多參數(shù)模型選擇;I哈爾濱工業(yè)大學(xué)工學(xué)碩士學(xué)位論文AbstractToimprovethegeneralization
5、performanceofsupportvectorclassification,theGaussiankernelwithmultiplewidthsisproposedtoemphasizethedifferentcontributionsoffeaturestoclassification.Withthiskernel,therelatedmodelselectionschemeisdesignedwhichcanautomaticallytunemultipleparametersforsupportvectorm
6、achinesbyminimizingtheradiusmarginboundonerrorexpectationofL1-SVM.Theideasarevalidatedviaexperiments.InSVMclassification,Gaussiankernelisfirstlyselectedwithhighperformanceanditswidthdefinesthegeneralizationscale.However,Gaussiankernelisnotwelladaptiveeverywhereint
7、hepatternspaceifthepatternsareunevenlydistributed.Thatis,theover-fittinglearningwillappearindenseareasandotherwiseunder-fittinglearninginsparseareas,andconsequently,bothwillcauselocalrisks.Toreducesuchlocalrisks,asecondarykernelwithglobalcharacterisintroducedwhich
8、canenhanceglobalityforGaussiankernel.Gaussiankernelwithlocalcharacterisusedasprimarykernel.Theconstructedkerneliscalledtheprimary-secondarykernel(PSK).T
