資源描述:
《求解極大相關(guān)問題的對偶方法.pdf》由會員上傳分享,免費在線閱讀,更多相關(guān)內(nèi)容在行業(yè)資料-天天文庫。
1、第45卷第8期2015年8月中國海洋大學(xué)學(xué)報PERIoDICALOF0CEANUNIVERSITYOFCHINA45(8):128~132Aug.,2015求解極大相關(guān)問題的對偶方法+李美然,劉新國(中國海洋大學(xué)數(shù)學(xué)科學(xué)學(xué)院,山東青島266100)摘要:多組變量間的極大相關(guān)問題(MCP)有重要統(tǒng)計應(yīng)用。目前已有的求解MCP的算法都不能保證獲得MCP的全局解。本文通過求解MCP的對偶問題,給出了一種改進的Lagrange對偶方法。最后,數(shù)值實驗結(jié)果說明了新方法能提高收斂到全局解的可能性。關(guān)鍵詞:極大相關(guān)問題;
2、多元特征值問題;Lagrange對偶;強對偶;全局解;收斂性中圖法分類號:0212.4文獻標志碼:A文章編號:1672—5174(2015)08—128一05DOI:10.16441/j.cnki.hdxb.201303230引舌多組變量的極大相關(guān)問題(Maximalcorrelationproblem,MCP)是經(jīng)典的典型相關(guān)分析(Canonicalcor—relationanalysis,CCA)[卜2]的自然推廣,已被廣泛用于聚類分析、數(shù)據(jù)分析、模式識別、主成份分析以及動力系統(tǒng)的穩(wěn)定性分析等問題中。多
3、組變量最大相關(guān)問題表述為下述最優(yōu)化問題:給定實對稱正定矩陣A∈R.X”和正整數(shù)集P一{行。,咒。,?,,z。},并且滿足∑蘭,n。一,z,矩陣A分塊如下:A==A11A21●:A。1A12A22●:A。2A1。A2。A一這里,Ai∈彤t蜘t,求解{max!}亍,缸。㈩St【..x∈邑。?其中邑一{z一(西,?,《)T∈R:乃∈船,II乃112—1)。使用Lagrange乘子法可知,z∈己為MCP(1)的解的必要條件為:存在實數(shù)A1,.一,A。,使得:Ax—Ax:A—diag(21J。,,?,A。I‰)。(2
4、)式(2)稱為多元特征值問題(MEP)[3I。若(以,z)滿足(2),則稱(A,z)為MEP(2)的一個解。Chu和Watterson[引。證明如果A有"個不同特征值,則MEP(2)恰有I
5、‘二(2n。)個解。對于MEP(2)已有一些有效算法。Horst方法(t/z叫冪法)[4]是較早提出的一種迭代法,Hu[5]及Chu和Watterson[a]論證了Horst方法的收斂性。Sun[61把求解線性代數(shù)方程組的SOR方法的基本思想用于改進Horst方法,提出了P_SOR方法,并分析了收斂性。秦曉偉[7]對Hu
6、和Sun<5書]的結(jié)果給出了改進。由于MEP(2)僅是MCP(1)的解滿足的必要條件,因此,Horst方法和P-SOR無法保證獲得MCP(1)的全局最大點。Hanafi和TenBerge[8]證明了下述結(jié)果:設(shè)(以,z)為MEP(2)的一個解,如果A—A半正定,則z為MCP(1)的全局解。他們還證明了若m一2或者m≥3但A為正矩陣,則前述充分條件也為必要條件;對于一般的A,當優(yōu)≥3時,前述充分條件不是必要的。最近,Zhang和Liao[9]及Grze96rski[10]獨立地提出了求解MCP(1)的交替變量
7、法(AVM)(文獻[10]中稱之為交替投影法,APM),數(shù)值實驗結(jié)果表明,AVM比Horst方法及P—SOR方法更有可能獲得MCP(1)的全局解。Liu和Wang[11]進一步分析了AVM方法,結(jié)果表明:AVM有不收斂情形(盡管很少見),收斂時未必收斂于MCP(1)的全局解,與Horst方法及P-SOR方法類似之處是:收斂結(jié)果依賴于初始點的選擇。注意到(1)是一類具約束的非線性最優(yōu)化問題。AVM方法是常用的坐標下降法[12q3]的自然推廣。自然地,可以考慮應(yīng)用其它的最優(yōu)化方法求解MCP(1)。本文分析求解(
8、1)的對偶方法。本文以下內(nèi)容組織如下。在第二節(jié),給出(1)的對偶形式,并使用對偶方法求解(1)。由于m≥3時(1)與其Lagrange對偶問題之間不是強對偶的,因此,給出了一種改進的對偶方法;最后,*基金項目:國家自然科學(xué)基金項目(11371333)資助收稿日期:2013—10—12;修訂日期:2014—05—10作者簡介:李美然(1988一),女,碩士生。E-mail:limeiran5211314@126.com8期李美然,等:求解極大相關(guān)問題的對偶方法關(guān)于對偶方法做了大量的數(shù)值實驗,結(jié)果表明,對偶方法
9、能有效地獲得MCP的全局解。1對偶方法首先,將給出MCP(1)的Lagrange對偶問題。注意MCP(1)等價于下述最優(yōu)化問題(見Sun[63):』max,觸(3)【S.t.xE力。。繇一{z一(32T,?,矗)T∈R:xjER"J,
10、
11、xjll2≤1)。易知,(3)的Lagrange對偶問題為:min∑A,<’一1(4)Ls.t.A—A≥0。這里,A—diag(2lJl'.一,A。J。),若令F,一diag(0