基于svm的混沌時(shí)間序列分析

《基于svm的混沌時(shí)間序列分析》由會(huì)員上傳分享，免費(fèi)在線閱讀，更多相關(guān)內(nèi)容在教育資源-天天文庫(kù)。

1、第7卷第1期2009年3月動(dòng)力學(xué)與控制學(xué)報(bào)Vol.7No.1167226553/2009/07⑴/000524JOURNALOFDYNAMICSANDCONTROLMar.20093基于SVM的混沌時(shí)間序列分析12趙志宏楊紹普(1.石家莊鐵道學(xué)院計(jì)算機(jī)與信息工程分院,石家莊050043)(2.石家莊鐵道學(xué)院院辦,石家莊050043)摘要支持向量機(jī)是一種基于統(tǒng)計(jì)學(xué)習(xí)理論的新的機(jī)器學(xué)習(xí)方法,該方法已用于解決模式分類問(wèn)題.本文將支持向量機(jī)(SVM)用于混沌時(shí)間序列分析,實(shí)驗(yàn)數(shù)據(jù)采用典型地Mackey-Glass混沌時(shí)間序列,先對(duì)混沌時(shí)間序列進(jìn)行支持

2、向量回歸實(shí)驗(yàn);然后采用局域法多步預(yù)報(bào)模型,利用支持向量機(jī)對(duì)混沌時(shí)間序列進(jìn)行預(yù)測(cè).仿真實(shí)驗(yàn)表明,利用支持向量機(jī)可以較準(zhǔn)確地預(yù)測(cè)混沌時(shí)間序列的變化趨勢(shì).關(guān)鍵詞時(shí)間序列分析,混沌,支持向量機(jī)本文將支持向量機(jī)用于混沌時(shí)間序列分析,分引言別用支持向量機(jī)進(jìn)行混沌時(shí)間序列的回歸與預(yù)測(cè),混沌時(shí)間序列(或混沌信號(hào))是指對(duì)一個(gè)混沌并分析了它們的性能.仿真結(jié)果表明,支持向量機(jī)系統(tǒng)進(jìn)行觀測(cè)采樣而得到的一個(gè)單變量時(shí)間序是一種混沌時(shí)間序列分析的工具.[1]列.混沌時(shí)間序列的預(yù)測(cè)可看作動(dòng)力學(xué)系統(tǒng)研究1支持向量機(jī)概述的“反問(wèn)題”.“正問(wèn)題”是給定非線性動(dòng)力學(xué)系統(tǒng),[5]研究

3、其相空間中軌道的各種性質(zhì).“反問(wèn)題”是給V.Vapnik提出的支持向量機(jī)理論因其堅(jiān)實(shí)定相空間中的一串迭代序列(軌道的演化過(guò)程)或的理論基礎(chǔ)和諸多良好特性在近年獲得了廣泛的一組觀測(cè)序列,要構(gòu)造一個(gè)非線性映射來(lái)表達(dá)原系關(guān)注.已經(jīng)有許多事實(shí)證明,作為支持向量機(jī)最基統(tǒng),這個(gè)映射就可作為預(yù)測(cè)模型.因此,如何構(gòu)造預(yù)本思想之一的結(jié)構(gòu)化風(fēng)險(xiǎn)最小化原則(Structural測(cè)模型是混沌時(shí)間序列預(yù)測(cè)中的一個(gè)關(guān)鍵問(wèn)題,對(duì)RiskMinimization,SRM)要優(yōu)于傳統(tǒng)的經(jīng)驗(yàn)風(fēng)險(xiǎn)最混沌時(shí)間序列進(jìn)行建模和預(yù)測(cè)已成為當(dāng)前混沌信小化原則(EmpiricalRiskMi

4、nimization,ERM).不同[2,3,4]號(hào)處理研究領(lǐng)域的研究熱點(diǎn).于ERM試圖最小化訓(xùn)練集上的誤差的做法,SRM基于結(jié)構(gòu)化風(fēng)險(xiǎn)最小化方法的統(tǒng)計(jì)學(xué)習(xí)理論試圖最小化VC維的上界,從而使其學(xué)習(xí)機(jī)獲得了是一種專門的小樣本統(tǒng)計(jì)理論,它為研究有限樣本更好的推廣性能,這恰恰是統(tǒng)計(jì)學(xué)習(xí)理論最重要的情況下的統(tǒng)計(jì)模式識(shí)別,并為更廣泛的機(jī)器學(xué)習(xí)問(wèn)目標(biāo)之一.支持向量機(jī)的主要應(yīng)用領(lǐng)域有模式識(shí)題建立了一個(gè)較好的理論框架,同時(shí)也發(fā)展了一種別、函數(shù)逼近和概率密度估計(jì)等.新的模式識(shí)別方法-支持向量機(jī)(SupportVector支持向量機(jī)首先通過(guò)用內(nèi)積函數(shù)定義的非線[

5、5]Machine,簡(jiǎn)稱SVM).統(tǒng)計(jì)學(xué)習(xí)理論和支持向量性變換將輸入空間變換到一個(gè)高維空間,在這個(gè)空機(jī)方法對(duì)有限樣本情況下模式識(shí)別中的一些根本間中求(廣義)最優(yōu)分類面.SVM分類函數(shù)形式上性問(wèn)題進(jìn)行了系統(tǒng)的理論研究,并且在此基礎(chǔ)上建類似于一個(gè)神經(jīng)網(wǎng)絡(luò),輸出是中間節(jié)點(diǎn)的線性組立了一種較好的通用算法.以往困擾很多機(jī)器學(xué)習(xí)合,每個(gè)中間節(jié)點(diǎn)對(duì)應(yīng)一個(gè)支持向量.方法的問(wèn)題,比如模型選擇與過(guò)學(xué)習(xí)問(wèn)題、非線性SVM是從線性可分情況下的最優(yōu)分類面發(fā)展和維數(shù)災(zāi)難問(wèn)題、局部極小問(wèn)題等,在這里都得到而來(lái)的,基本思想可用圖1的兩維情況說(shuō)明.了很大程度上的解決.因此,統(tǒng)

6、計(jì)學(xué)習(xí)理論和支持圖1中,實(shí)心點(diǎn)和空心點(diǎn)代表兩類樣本,H為向量機(jī)是機(jī)器學(xué)習(xí)領(lǐng)域的一個(gè)重要分支,已經(jīng)得到分類線,H1、H2分別為過(guò)各類中離分類線最近的樣[6]了日益廣泛的重視.本且平行于分類線的直線,它們之間的距離叫做分2008207228收到第1稿,2008212207收到修改稿.3國(guó)家杰出青年科學(xué)基金資助項(xiàng)目(50625518)6動(dòng)力學(xué)與控制學(xué)報(bào)2009年第7卷kk類間隔(margin).所謂最優(yōu)分類線就是要求分類線33(xj)>+∑(αi-αi)yi-∑(αj+αj)εi=1j=1不但能將兩類正確分開(kāi)(訓(xùn)練錯(cuò)誤率為0),而且使約束為:分類間

7、隔最大.分類線方程為k3∑(αi-αi)=0i=130≤αi,αi≤C,i=1,?,k解這個(gè)二次優(yōu)化,可以得到α的值,ω的表達(dá)式為:k3ω=∑(αi-αi)<<(xi),<(xj)>+bi=1于是回歸函數(shù)f(x)的表達(dá)式為:k圖1最優(yōu)分類面3f(x)=∑(αi-αi)<<(xi),<(xj)>+bFig.1optimalhyperplanei=1可以看到,在上面的優(yōu)化中需要計(jì)算高維特征(w·x)+b=0(1)空間中的內(nèi)積運(yùn)算,如果找一個(gè)核函數(shù)K(x,y)代可以對(duì)它進(jìn)行歸一化,使得對(duì)線性可分的樣本替高維空間中的內(nèi)積,就可以避免復(fù)雜的高維計(jì)算d集

8、(x1,y1),?,(xn,yn),xi∈R,yi∈{-1,+1}滿問(wèn)題.已經(jīng)證明<Φ(x),Φ(y)>,對(duì)稱函數(shù)K(x,足:y)只要滿足Mercer條件即可滿足要